Python関連のことを調べてみた2021年12月23日

Python関連のことを調べてみた2021年12月23日

AutoMLでサクッとお得な物件を探してみた

# はじめに

この記事は[リンクアンドモチベーション アドベントカレンダー2021](https://qiita.com/advent-calendar/2021/mcs)のカレンダー2の23日目の記事です。

# 機械学習とか詳しくないけどサクッと使ってみたい、そんなあなたに
昨今AI, 機械学習が身近になって久しいですがまだまだ実際に使ってみることに関しては敷居が高く感じている方が多いのではないでしょうか。
ただ最近ではAutoML(Automated Machine Learning)という機械学習モデルの設計や構築を自動化、勝手におすすめのモデルを作成してくれるものが徐々に増え、確実に敷居は下がりつつあります。
そこで今回はAutoMLのパッケージの中でも昨年リリースされ比較的新しいローコードのAutoML、「Pycaret」をgoogle colaboratoryで実際に使って「賃貸物件の家賃予測」を行いたいと思います。
現在絶賛引越し先を探している最中なのでお得な物件を探します。
※[こちら](https://qiita.com/pao2/items/24728936ee

元記事を表示

[py2rb] set pop

# はじめに
移植やってます。
# pop (Python)
“`python
kwa = kw_given.pop()
“`
この`kw_given`は`set`っぽいのです。

https://docs.python.org/ja/3.7/library/stdtypes.html#frozenset.pop

> s から任意の要素を取り除き、それを返します。集合が空の場合、 KeyError を送出します

# どうする? (Ruby)
“`ruby
require ‘set’

kw_given = (1..5).to_set

kwa = kw_given.first; kw_given.delete(kwa)
“`
`Set`から任意の要素を取り出すメソッドってあまり無いようです。

https://docs.ruby-lang.org/ja/latest/method/Enumerable/i/first.html

`first`はEnumerableモジュールのメソッドです。
# メモ
+ Python の pop を学習した
+ 道のりは遠そう

元記事を表示

仮想環境下でpip install mysqlclientしたらERROR: Failed building wheel for mysqlclientが出た

# 目的
djangoでアプリ作成するためのDBをsqliteではなく、人気のMySQLにしようとしてそのために必要なmysqlclientというドライバをインストールしようとしている。

# 結論

“`
conda install -c anaconda mysql-connector-python
conda install -c bioconda mysqlclient
“`
anacondaを利用しているなら、この処理が必要となるようだ
# 実施環境
### ハードウェア環境
| 項目 | 情報 |
|:-:|:-:|
| OS |macOS Catalina(10.15.7) |
|ハードウェア | MacBook Air (11-inch, Early 2015) |
|プロセッサ | 1.6 GHz デュアルコアIntel Core i5|
|メモリ | 4 GB 1600 MHz DDR3 |
|グラフィックス | intel HD Graphics 6000 1536 MB |
### ソフトウェア環境
| 項目 | 情報 |
|:-

元記事を表示

Python可視化ライブラリを利用したレシピの紹介

# はじめに

Axrossを運営している松田です。
今回は、**Pythonライブラリの中でも可視化に優れたライブラリ**について特長を解説し、それぞれのライブりを活用したアウトプット作成を通して学べるレシピをご紹介します。

# Python可視化ライブラリの紹介
![可視化ライブラリマップ.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/620853/04ee54f2-9d30-5ee2-1846-a23873a9f652.jpeg)

## データ可視化(汎用)
###[matplotlib](https://matplotlib.org/3.3.3/index.html)
Pythonでグラフを描画したり、イメージを表示させたりする際に用いられるライブラリです。
matplotlibの公式チュートリアル:https://matplotlib.org/3.3.3/tutorials/index.html
### matplotlibを用いたレシピの紹介

#### 01 .[matplotli

元記事を表示

スマホでGoogleColabが使用できる件

PCにソフト等をインストールしなくても、インターネット環境さえあれば無料でPythonや高性能GPUが使えるGoogle Colab(Colaboratory)。
**スマホからも普通に使用できる**と驚いたので、共有します。
(正確には、元々ブラウザのPC版で動作することは知っていましたが、スマホ版で動作することは知りませんでした。。)

スマホ上のCSVを読み込んでDataFrameを表示してみたり。
![02_ファイル選択_.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/642673/561c3c76-e62f-77d7-7d58-99c6431bfc75.gif)
(~~なんか卑猥だ。。。~~)

セレクトボックスで選択してみたり。
![03_select.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/642673/ec037bbe-4e75-a570-c0f1-4c06e16b7deb.gif)

グラフを表示

元記事を表示

FastAPI+MYSQLの「環境構築及びAPI機能」について

##はじめに
ジーアールソリューションズの金と申します。
本記事はグロースエクスパートナーズアドベントカレンダー 23日目の記事です。

現在、プライベートクラウドサービスでOSSを利用したIaaS/PaaSの開発を担当しています。
今年、APIサーバーを利用する案件にてFastAPIを採択して開発を行う機会がありました。
利用するに当たり調査を始めたところ、FastAPIの情報が比較的少ないことが分かりましたので調査内容をまとめておきたいとおもいます。
今回記載する内容は、FastAPIを構築し、API機能を利用してDatabase(CRUD)の制御方法について紹介したいと思います。

##FastAPIとは
Python3.6バージョンから提供されるモダンで、高速(高パフォーマンス)なAPI を構築するためのWeb フレームワークです。一般的な特徴は以下の通りです。

・高速パフォーマンス :NodeJS及びGoと同等な性能、現存している高速なPython Web フレームワークの一つです。
・高速なコーディング:開発速度向上されます。
・少ないバグ:開発者によるHuman Err

元記事を表示

基本情報技術者試験 アルゴリズム問題をPythonで実装してみた 平成25年春期

# はじめに
基本情報技術者試験にアルゴリズム問題と呼ばれるものがあります。
これは、情報処理推進機構(IPA)が定めた疑似言語でアルゴリズムのプログラムが示され、受験者はプログラムの穴埋めや変数の推移などを解答するものです。
試験中はプログラムを脳内でシミュレートして解答しなければならず、なかなかしんどいです。
ほとんどの人が、基本情報技術者試験で一番苦労するところです。

また、基本情報技術者試験は令和2年度秋期からソフトウェア開発として、新たにPythonが選択できるようになりました。
一方で令和2年度秋期からCBT試験(予約した日に試験会場に行ってモニターに示された問題に解答する)が導入され、それとともに試験問題が公開されなくなりました。
Pythonについては、[サンプル問題](https://www.fe-siken.com/kakomon/sample/python_sample.html)しか公開されておらず、過去問を用いた試験対策にはハンデがあります。
でも、試験合格後に「ソフトウェア開発で何を選択したの?」と聞かれて、「**最近はやりのPythonで合格しました**

元記事を表示

【初学者向け】プログラミング未経験の文系卒がAI開発会社に入社するまでに勉強したこと

# はじめに
こんにちは!
株式会社エイアイ・フィールドの加藤と申します。
この記事は株式会社エイアイ・フィールドアドベントカレンダー2021の23日目の記事です。

今回はこれからデータサイエンティスト・機械学習エンジニアを目指したいと考えている方向けに
文系卒・プログラミング未経験者がAI開発会社に入社するまでに勉強してきたことをお伝えしたいと思います。

# 本記事の対象
・機械学習の勉強を始めたいが何から手を付ければいいのか分からない方
・本当に自分がデータサイエティストとして働くことができるのか不安に思っている方

# 学習開始前の自分のスペック
・年齢:27歳
・大学:文系卒(国際政治学科)簡単な統計(回帰分析)の経験はあり
・プログラミング経験:皆無
・前職:ITコンサルタント、WEBマーケター

# 学習期間
2021年6月~2021年10月(5ヶ月間)
※前職を5末に退社し、別で個人事業を営みながら並行して学習
※学習時間は1日5~6時間程

# 学習内容(時系列)
## 2021年6月
### 学習トピック:Python基礎、コンピュータサイエンス
この頃はプ

元記事を表示

dbt on databricks~Databricks上でdbt Coreを実行してみた~

## 概要
dbt with databricksではなく、dbt on databricks、つまり、Databricks上でdbt Coreを実行する方法を検証しましたので内容を共有します。本手順では、Databricksからdbtを経由してsnowflakeへ接続する手順を紹介します。

Databricksは、大量データの書き込みに最適なSpark コネクターを利用できることや静的パブリックIPアドレスを付与できることから、他データストアへのデータ連携のELTにおけるEL(データ書き込み)を実施するツールとして最適です。データ連携のELTにおけるT(データストア内でのデータ変換)のツールとして最適なdbtをdatabricksで実行できれば、最強のツールになるのではないかと考えて検証しました。

https://qiita.com/manabian/items/9d4c43b312095c44e503

Databricks Repos上にdbtのコードを実行します。ただし、dbtのデバッグ時にのみ、下記仕様により、クラスターのストレージにコードをコピーしてから実行する必要があ

元記事を表示

【Rekognition, Jenkins】「この人、名前何だっけ?」に応えるAmazon Rekognition+Jenkins

#はじめに

これからのクリスマス、年末年始、大切な人と過ごす時間。
そんな雰囲気を破壊するゲリラ的思考「あれ、この人の名前が出てこない…!」
この窮地を救うサービス(ではないかもですが)Amazon Rekognitionを勉強のために使ってみました。

また、最近触れる機会のあったCICDツールであるJenkinsも絡ませました。

#Amazon Rekognitionでできること

初めに、Amazon Rekognitionとは何か、AWSのdocs(デベロッパーガイド)の内容をまとめます。

https://docs.aws.amazon.com/ja_jp/rekognition/latest/dg/what-is.html

簡単に抜粋すると、Amazon Rekognitionでは以下のことができます。
・学習済みのAIを使って画像や動画を分析できます。
・物体を認識し、ラベル付けしてくれます。
・顔を検出して表情や他の顔との類似度がわかります。
・有名人の顔を検出できるように、事前にトレーニングされた方法があります。
・不適切なコンテンツを検出できます。
・テキ

元記事を表示

位置情報 Web アプリを作成する最も簡単な方法 (2021年)

Location Tech Advent Calendar 2021 by LBMA Japan 23日目の投稿です。

皆さん、こんにちは。株式会社 unerry で位置情報データの解析やデータ基盤の整備を担当している浅井と申します。

この記事では、Python の [streamlit](https://streamlit.io/) ライブラリを利用して、とても少ないコード量で簡単に位置情報データを地図上に表示する Web アプリを作成する方法を紹介いたします。位置情報の可視化の方法には様々な手法がありますが、Python プログラマーとって、2021年末時点で最も簡単な方法ではないかと思っています。

– [完成](https://share.streamlit.io/five-dots/streamlit_qiita/demo.py)
– [Github リポジトリ](https://github.com/five-dots/streamlit_qiita)

## 位置情報の可視化と共有

データ分析のサイクルにおいて、データを何らかの手法で可視化することの重要性は言うま

元記事を表示

MAVLinkを簡単に試せるpymavlinkでHello World!

[ACCESS Advent Calendar 2021](https://qiita.com/advent-calendar/2021/access) 23日目の記事です。

# はじめに

pymavlinkを使って、QGroundControlにHello World!という文字列を簡単に表示させる記事です。
Windows10で確認しています。pymavlink自体はpythonが動く環境であれば利用できますが、動作確認に[前回の環境](https://qiita.com/Hiroshi_Tsukamoto/items/20e6925eb6fd1fc36c46)を使用していますので、動作確認をする場合は用意して下さい。お好みのドローンやGCSを使用しても問題ありません。

# pymavlink

https://github.com/ArduPilot/pymavlink
pymavlinkは、MAVLinkのPython実装です。ライブラリ群だけでなく、便利なツールも存在しています。
GCSやドローンのコンパニオンコンピュータ、その他多くのMAVLinkを使用するアプリに使

元記事を表示

“気の利いた”擬似データを生成したい

# この記事は
[NSSOL advent carendar](https://qiita.com/advent-calendar/2021/nssol) 12/23担当分です。よろしくお願いします。

昨日は[研修を運営してみて思ったこと](https://note.com/kofsd_52329/n/nd702c3a5d76b)でした。
研修対応すると、その後も割と忙しくて、振り返りの時間がちゃんと取れなかったりします。
まとまった現場知見・感想が読めるのって、ありがたいなと思いました。

さて、今回のテーマは、「疑似データ生成」です。

## 背景:実データの取得は大変 擬似データが使えるかも
データ分析やシステム開発のために、実データかそれに近いデータが欲しくなることは多々あります。
ただ、顧客情報や営業秘密といった機微な情報が含まれる場合は、データ取得までに高いハードルがあることが多いです。
結果、試してみたいアイディア/製品/分析手法などの適用ができないこともあるかと思います。

![スクリーンショット 2021-12-22 20.06.22.png](https://qi

元記事を表示

Pythonによる自然言語処理入門 -形態素解析-

こんにちは
アドベントカレンダー22日目です。
[HCB Advent Calendar 2021](https://qiita.com/advent-calendar/2021/hcb-2021)

今日はPythonによる自然言語処理について書きたいと思います。

## 初めに
今回は、Macを使用している方をメインターゲットとしてPythonによる自然言語処理の記事を書きたいと思います。

最近初めて自然言語処理をしたのですが、「Macを対象とした記事があまりないな… 特に最近出された記事がないな」と思ったので書かせていただきます。

## 想定している読者
今回本記事で想定している読者は、Macを使用している方です。
また、辞書としてMeCabを使用します。
(MeCabってなに?という方はこのまま読んでいただけるとわかると思います。)

## 目次
– 初めに
– 想定している読者
– 環境構築
– 形態素解析
– 辞書の追加
– 頻出語句の抽出
– 終わりに

## 環境構築
**注意:今回はPythonの環境構築は割愛させていただきます。**

今回は、形態素解析器と

元記事を表示

【超初心者】YOLOv5実装_備忘録① 〜アノテーションデータ作成編〜

機械学習超初心者が物体検出のとコンペに参加し、YOLOv5のモデルの実装に挑戦しました。
備忘録として、その方法を何回かに分けて記述しようと思います。

## 与えられたデータからアノテーションデータ作成
####① データの確認
 与えられたアノテーションデータは下記のようなデータだったため、
 加工してYOLOでも使える様式にする必要がありました。

image_filename: 画像ファイル名
X_min_Ymin_Xmax_Ymax: 対象物の位置を示す物体検出用アノテーションデータ
class: 対象物の名前

| image_filename | X_min_Ymin_Xmax_Ymax | class |
|:—————–|———————:|:—–:|
| 1234abc.jpg | [700,1000,2000,2500] | A |
| 2345bcd.jpg | [1500,900,2100,1500] | B |
| 3456cde.jpg | [800,

元記事を表示

Pipenvを使って、Flaskをインストールする

# Flaskをインストールする
以下のコマンドを実行します。

“`
pipenv install Flask
“`

元記事を表示

Pipenvをインストールし、仮想環境を構築する

# pythonをインストールする
pyenvを使って、pythonをインストールします。
以下のコマンドを実行します。

“`
pyenv install 3.9.7
pyenv global 3.9.7
“`

# pipをアップデートする
以下のコマンドを実行します。

“`
pip install –upgrade pip
“`

# Pipenvをインストールする
以下のコマンドを実行します。

“`
pip install pipenv
“`

# 仮想環境を作成する(コマンドライン)
「application」というフォルダを作成します。
そのあと、作成した「application」フォルダに移動し、以下のコマンドを実行します。

“`
mkdir application
cd applicaiton
pipenv –python 3.8
“`

# 仮想環境を作成する(PyCharm)
PyCharmを起動します。
「New Project」をクリックします。
![スクリーンショット 2021-12-23 6.22.29.png](https://q

元記事を表示

Taitanicやってみた

###はじめに###
こんにちは。今回はtaitanicやっていこうと思います。初心者であり文字列データの処理を飛ばしてしまいますが、ご了承ください。モデルとしてはニューラルネットワークを使用しています。工夫点は欠損値をKNNImputerで埋めてみたことくらいです。

##taitanic提出手順##
1.ライブラリ、データ読み込み
2.データの前処理
3.モデルの構築
4.予測の出力・提出

###実行環境###
google colaboratory

###1.ライブラリ、データ読み込み###
それでは早速、ライブラリとデータを読み込むところからやっていきます。

“`
# Google Colaboratoryで作業する場合はこちらも実行してください。
from google.colab import drive
drive.mount(‘/content/drive’)
“`

“`
#各種インポート
import numpy as np
import pandas as pd
import seaborn as sns
%matplotlib inline
fro

元記事を表示

ニューラルネットワークにおけるOptunaを用いたハイパーパラメータチューニング

###
Optunaを使ってハイパーパラメータチューニングを体験しよう!
============

自己紹介
————
こんにちは。豊田工業大学3年のひのです。

お恥ずかしながら、プログラミングをちゃんと勉強し始めてまだ1年ですので、学習記録として残します。今回はNNモデルのハイパーパラメータチューニングをOptunaを用いて実装します。

他にも豊田工業大学Kaggleサークルの皆さんがQiitaの記事を書いているので、是非見てくださいね!下に同大学の友人と先輩の記事貼っておきますね。

[CNNを使って0から9の数字を分類する](https://qiita.com/umeboshia_0w/items/20eea40ec0dd9faf9bd8):@umeboshia_0w
[計算力がなければPythonを使えばいいじゃない](https://qiita.com/umeboshia_0w/items/20eea40ec0dd9faf9bd8):@Kofuku

プログラムのコードに関してはこちらの方のものを参考に一部改変させていただいています。
[Optuna で

元記事を表示

VSCode用の言語サーバ拡張機能をPythonでつくってみた

# はじめに

本記事は [Visual Studio Code Advent Calendar 2021](https://qiita.com/advent-calendar/2021/vscode) 23日目の記事です。

Visual Studio Code (以下VSCode) 向けにLanguage Server Protocol (以下LSP) を利用した言語サーバ拡張機能を **Pythonで** つくってみました。

**~経緯~**
VSCodeの独自コード補完機能をつくりたい!
Pythonのライブラリをつかいたい!
言語サーバという仕組みを利用しよう!
紹介記事等をググってもJavaScriptで作っている例ばっかり!
しゃーなし、実際にPythonで実装された言語サーバのコード読むか~
あー、そーゆーことね、完全に理解した(わかってない)
後続のために解説記事として残しておこう!

という感じの経緯です。なので言語サーバをJS以外の言語(特にPython)で作ってみたい人の参考になれるように頑張って書いてみます。

あとは、普段コード補完やコードの自動修正機能を

元記事を表示

OTHERカテゴリの最新記事