★データ解析備忘録★

ゆる〜い技術メモ

RユーザのためのRStudio[実践]入門 という本が出ます。

久しぶりの更新が宣伝ですいません。 タイトルの通り、6/29に書籍が出ます。 副題も含めたちゃんとしたタイトルは RユーザのためのRStudio[実践]入門−tidyverseによるモダンな分析フローの世界− です。 RユーザのためのRStudio[実践]入門−tidyverseによるモ…

RStudio Server + tidyverse + RMeCab で日本語もOKなDockerイメージをアップデートしました

はじめに 1年ほど前に作った日本語+Mecab+tidyverseなDockerイメージですが、時代に合わせてアップデートしました。 1年前の記事: y-mattu.hatenablog.com 今回のDocker イメージ: https://hub.docker.com/r/ymattu/mecab-d/ アップデート内容は R 3.4.4 対…

2017年を雑に振り返る

年の瀬ですので、2017年を振り返りたいと思います。 研究 お仕事 勉強会 SAS ユーザー総会 Pycon Tokyo.R, Japan.R OSS 活動

私とホクソエム

はじめに これは HOXO-M Advent Calendar 2017 25 日目の記事です。 出ない順ホクソエム語彙集(その1) - Technically, technophobic. にある通り、ホクソエムにはその文脈によって3つの意味合いがあります。 匿名知的集団ホクソエム 「hoxo_m」というIDの…

Python 製のシェル xonsh を使ってみる

はじめに これは Xonsh Advent Calendar 2017 24 日目の記事です。 終盤なのに使ってみた記事でごめんなさい。

Rとtidyverseと私

はじめに 大遅刻ですが、tidyポエム Advent Calendar 2017の16日目です。 Rとtidyverseへの思いをただ綴るポエムですので、Rのコードなど1行も出てきません。

運営雑用係から見たJapan.Rの振り返り

はじめに これは R Advent Calendar 9日目の記事です。 去る12/2(土)に、年に1度のRユーザーの祭典である Japan.Rが開催され、大変に盛り上がりました。 私は今年は2度目となる運営のお手伝い(雑用)と、LTの発表で参加させていただきました。 何を手伝ったの…

EmacsでつくるオレオレRStudioから1年、自分の分析環境の変化について

はじめに 遅れてすいません。RStudio アドベントカレンダー2日目です。 一年前のアドベントカレンダーで、こんな記事を書いたら意外と反響がありました。 y-mattu.hatenablog.com これを書いたら周りから過激派だの何だの言われましたが、まあ自分の中では楽…

R Markdown で作ったスライドに R で音声を吹き込む

R

はじめに R Markdown ではスライドを作ることができます。 https://kazutan.github.io/SappoRoR6/rmd_slide.html#/ とくに、reveal.js ベースの {revealjs} パッケージや remark.js ベースの {xaringan}パッケージは簡単にRの出力を含めたシンプルなスライド…

CRANは闇なのか

はじめに こんな話があります。 闇と向き合う from Nagi Teramo www.slideshare.net RのパッケージをCRANに登録するのは闇であるという内容です。一方で、そんなに闇ではないという意見もあります。 estatapiパッケージがCRANで公開されました。 - Technical…

「機械学習のパラメータをベイズ最適化でチューニング」をRで超簡単に書けるパッケージを作った

0. 要約 機械学習のハイパーパラメータをベイズ最適化でチューニングするのは既存パッケージの組み合わせで頑張ればできたのですが、頑張らなくても簡単に書けるパッケージを作りました。 github.com これにより、例えば iris データをXGboostの3-foldクロス…

Pythonでshapefileから逆ジオコーディング

はじめに 緯度経度から住所(市区町村・番地)を求める逆ジオコーディングですが、Rを使ったバージョンは以前書きました。 y-mattu.hatenablog.com また、上記は市までわかっているバージョンだたのですが、そもそもの県や市を求めたいときは以下も参考になり…

Shiny で文字を入力してボタンでUIに反映させるにはeventReactive

最近、仕事でShinyアプリケーションを作るようになったのですが、ちょこっとはまったのでメモ。 shiny の基本のキは分かってる人向けです。 Shiny での文字入力 まず、Shiny で文字入力してボタンを押すとUIに反映されるを実現するには r - Create a data fr…

Python3でカレントディレクトリ内のzipファイルを全て、zipのファイル名でディレクトリを作って解凍する

タイトルが長くなってしまったけど、なぜかこんな単純なことが3系で書かれたものが見つからなかったので備忘録的に(あったらゴメンなさい)。 import os import zipfile import glob for i in glob.glob('*.zip'): with zipfile.ZipFile(i, 'r') as zf: dirna…

{rjumanpp} ver0.1.0 祝!マイナーリリース

はじめに これまで 形態素解析器JUMAN++をRから操作するパッケージを作り始めました - ★データ解析備忘録★ 【R】{rjumanpp}ver0.0.0.9991の変更点とパッケージの構想について - ★データ解析備忘録★ {rjumanpp} ver0.0.0.9992 表層形ではなく活用の原形を出力…

{rjumanpp} ver0.0.0.9993 サーバーモードに対応しました & vignetteを公開しました

はじめに これまで 形態素解析器JUMAN++をRから操作するパッケージを作り始めました - ★データ解析備忘録★ 【R】{rjumanpp}ver0.0.0.9991の変更点とパッケージの構想について - ★データ解析備忘録★ {rjumanpp} ver0.0.0.9992 表層形ではなく活用の原形を出力…

{rjumanpp} ver0.0.0.9992 表層形ではなく活用の原形を出力できるようになりました

rjumanpp 形態素解析器JUMAN++をRから操作するパッケージを作り始めました - ★データ解析備忘録★ 【R】{rjumanpp}ver0.0.0.9991の変更点とパッケージの構想について - ★データ解析備忘録★ github.com 絶賛開発中で、今回は出力で原形を返すオプションをつけ…

RSeleniumでChromeからファイルをダウンロードするディレクトリを指定する方法

結論 RSeleniumはだいたいわかってるから読むのが面倒くさい人へ。サーバー起動時にextraCapabilitiesオプションでダウンロードディレクトリの情報をChromeオプションとしてlist形式で渡してやれば設定できます。 # Chromeオプションを追加 eCaps <- list( c…

Rで欲しい県について国勢調査 小地域 Shapefile を全部ダウンロードする

はじめに 先日、国勢調査 小地域 Shapefileからより細かい粒度で逆ジオコーディングを行う方法を書きました。 y-mattu.hatenablog.com しかし、ここで使っていた小地域shapefileをダウンロードをする関数では県と市をこちらで指定する必要がありました。(uri…

【R】{rjumanpp}ver0.0.0.9991の変更点とパッケージの構想について

はじめに 現在開発中のJUMAN++をRから操作するパッケージ{rjumanpp}ですが、まだ完成には程遠いもののベースになる部分はほぼできており、前回からいくつか基本的な変更があります。 ver 0.0.9991 関数名について rjumanppパッケージでは、解析に関係する主…

【R】国勢調査 小地域 Shapefile を使って緯度経度から住所を求める(市までわかっているときver.)

はじめに @u_riboさんによるこんなツイートがある。 一部で話題の(?)e-Statが提供する国勢調査小地域のShapefileをRからダウンロードする関数を書きました (gifが高速過ぎる orz) コードは https://t.co/Dd2R58ov94 pic.twitter.com/SRo2H1Fk4W— Uryu Shinya…

形態素解析器JUMAN++をRから操作するパッケージを作り始めました

はじめに JUMAN++という日本語の形態素解析器が昨年登場したようです。 速度はMeCabには劣るものの、解析精度(特に表記ゆれや話し言葉)に強いようです。 JUMAN++自体のインストールや使い方は公式マニュアルや以下のリンクが参考になります。 qiita.com あと…

SASで緯度経度から地域メッシュコードを計算する

はじめに 検索してもでてこなかったので、緯度経度からその点が含まれる3次メッシュ(基準地域メッシュ)コードを算出する関数をSASで作成しました。(僕が知らないだけでもしかしたら既にあるのかもしれませんが。) 地域メッシュコードの概要については統計局…

SASによる逆ジオコーディング(緯度経度から都道府県・市を求める)

SASによるジオコーディングはアメリカやカナダのデータは標準装備されていて非常にやりやすいのですが、日本のデータでやろうとするとshapfileから用意しなければならず、非常にやりづらいです。一応、動くものが作れたので備忘録としてメモ。 shapefile シ…

【R】OSMのNominatimでAPIを使わずに緯度経度から都道府県と市を求める(スモールデータ向きお手軽版)

はじめに Rで逆ジオコーディングをやるやり方は、以下のようなやり方が提案されています。 qiita.com qiita.com ただし、いずれも速度面や正確さの面で問題があると記事内でも言及されています。

『データサイエンティストのための最新知識と実践 Rではじめよう! [モダン]なデータ分析』という本をちょっとだけ書きました。

タイトル通りです。 データサイエンティストのための最新知識と実践 Rではじめよう! [モダン]なデータ分析作者: 瓜生真也,工藤和奏,高柳慎一,牧山幸史,松村杏子,松村優哉,簑田高志,本橋智光,ホクソエム出版社/メーカー: マイナビ出版発売日: 2017/06/30メデ…

Rのdplyr::renameとSASのDATA STEP のRENAMEステートメントでは変数の書く順番が違うので注意

R SAS

タイトル通りです。 SASとRと両方使う人でないと特に意識する場面はないと思いますが、どちらも記法が酷似しているので両方使う人は気をつけてないとミスります。 Rのdplyr::rename dplyr::rename(新しい変数名=古い変数名) です。

SASで緯度経度から国名を求める

とりあえず備忘録的にコードと出力だけ。 細かいプロシージャの仕様は後ほど追記します。 コードと出力

RStudio Server + tidyverse + RMeCab で日本語もOKなDockerイメージを作りました

内容をアップデートしました y-mattu.hatenablog.com はじめに RStudio Server の Docker イメージを作りました。入っているメインコンテンツは、tidyverse なパッケージ群、MeCab および {RMeCab}パッケージ、LaTeX環境 です。また、ggplot2 などでの日本語…

tidyverseの正式登場でDockerまわり(rocker)もいろいろ変わってた

はじめに データ分析では再現性が大切です。しかし、同じコードとデータを使っていても実行環境の違い(OS, ソフトやパッケージのバージョンなど)によって結果が異なることがあります。複数の場所で同じ環境をそろえるための手段の一つとして、はオープンソー…