2019-12-01から1ヶ月間の記事一覧

日の出入りと気象データのスクレイピング

研究で気象データと日の出入りデータを使いたかったので、スクレイピングしてみました。[ポイント] python(BeautifulSoup)を利用して、 気象庁|過去の気象データ検索と各地のこよみ (日の出入り、月の出入り、南中時、月齢) - 国立天文台暦計算室のデータを…

cakephp find でsql のcount使う方法と注意点

ひとつ前に書いたブログの内容、 sqlのcount使う方法と注意点 - My Note は、実はCakePHPのfindで実装したかったときにはまった罠でした。 今回は、cakephpのfindでsqlのcount使う方法と注意点を書いていきます。[ポイント] cakephpのfindでsqlのcount使う方…

sqlのcount使う方法と注意点

sqlでcount()を使用するときに、罠にはまってしまったので、書いておきます。[ポイント] 複数の条件でのcount()の使い方 →if文を利用する。条件に合致しなかったときはnullにする必要があるたとえば、以下のようなテーブル(tables)があるとします。 一つの要…

pythonでmySQLに接続する

備忘録です。自分のメモです。 mySQL接続 #database接続 import mysql.connector dbh = mysql.connector.connect( host='ホスト名', port='3306', db='データベース名', user='ユーザ名', password='パスワード', charset='utf8' ) cur = dbh.cursor() デー…

fastTextで文章分類(python)

文章を分類したくなったので、fastTextを用いて分類することにしました。[ポイント] ・pythonでfastTextを利用 ・テキスト分類 データ 今回は元々収集していたtweetデータを用いて分類していきます。今回私は、3つのカテゴリに分割しました。 ラベル1:人が呟…

MySQLのtextで改行をなくす

twitterデータをapiを用いてデータベースに保存してるのですが、改行が含まれているデータがあり分析するのに厄介でした。 そこで、MySQLでの改行データの改行をなくす方法を示します。[ポイント] MySQLでの改行データの改行をなくす現在のデータは以下のよ…

ちょっとだけテキストマイニング-形態素解析

例えばチャットbotを作るとき、どの単語をどの文章ラベルとして登録すればいいのか迷ったりしませんか? 最近はなんとなくで教師データを入れておけば、自動的に学習してくれますが、一度自分で分析しておくことで、なんとなく関係性を確認することができる…

プログラムでメール送信(gmail)する時に陥った罠

Pythonからgmailを送信しようとした時に陥った罠をメモしておきます[ポイント] プログラムからgmailを送信するときのGmail設定解説 (プログラムはどの言語でも可、2段階認証を行なっていないgmailアカウント対象) 今回利用するプログラム どの言語でもこの問…