誰？

著書(共著)

R ユーザのための RStudio[実践]入門
− tidyverse によるモダンな分析フローの世界−

データ分析の流れ

今日のおはなし

1. tidyverse
2. tidy data
3. dplyr
4. FAQ

初心者(Rを使い始めた、ちょっと触ったことがある方)向けの内容です

R とパッケージ

ざっくり

• R はパッケージで機能を拡張することができる
• パッケージには機能特化の関数が詰まっている
• install.packages() でインストール

パッケージ内の関数の表記

readr パッケージの read_csv() 関数を使いたいとき

# 方法 1
library(readr)
dat <- read_csv("hoge.csv")
# 方法 2
dat <- readr::read_csv("hoge.csv")

tidyverse について

tidyverse(概念)

ざっくり:

• R でやるいろんな操作(データハンドリング、可視化、スクレイピング、分析、etc)を直感的で統一的なインターフェースでできるようになったら嬉しくない?

tidyverse パッケージ

• 上記の概念を実現するためのコアパッケージ群
• install.packages("tidyverse")でインストール

tidyverse を読み込み

library(tidyverse)

── Attaching packages ──────────────────── tidyverse 1.2.1 ──

✔ ggplot2 3.1.0     ✔ purrr   0.3.2
✔ tibble  2.1.3     ✔ dplyr   0.8.1
✔ tidyr   0.8.3     ✔ stringr 1.4.0
✔ readr   1.3.1     ✔ forcats 0.4.0

── Conflicts ─────────────────────── tidyverse_conflicts() ──
✖ dplyr::filter() masks stats::filter()
✖ dplyr::lag()    masks stats::lag()

本日の主役は

この発表のゴール

• tidy data についてざっくり理解する
• R の dplyr パッケージで簡単な集計ができるようになること
• dplyr や他のパッケージで何ができるのかをなんとなく把握して、「ググり力」を身につける
• パッケージ名だけでも覚えて帰ってくださいね m(__)m

データの形式

２つのデータ形式(例: カテゴリごとの購買金額(千円))

tidy data

• 2016 年に Hadley Wickham 氏が提唱
• 定義
  • 1つの列が1つの変数を表す
  • 1つの行が1つの観測を表す
  • 1つのテーブルが1つのデータセットを含む

tidyr (これまで)

これだけではなくなるよ

詳しくは Tokyo.R #79 の応用セッション を参照。

EC サイトのログデータ

• を意識して作ったダミーデータ
• https://github.com/ymattu/sampledata_small

データの読み込み方

1. RStudio のプロジェクトを作成
2. Terminal ペインで以下を実行
   git clone https://github.com/ymattu/sampledata_small
3. readr パッケージの関数で読み込み

sales <- read_csv("sampledata_small/csv/Sales.csv")
product <- read_csv("sampledata_small/csv/Products.csv")
user_master <- read_csv("sampledata_small/csv/UserMaster.csv")

データ読み込みについて詳しくはこちらも参照

列選択

sales %>%
  select(UserID) %>%
  head()

%>%

パイプ演算子

• “これまでの処理を次の関数の第 1 引数として渡す」という働き”

1:3 %>%
  sum()

[1] 6

# これと全く同じ
sum(1:3)

なんでパイプ演算子が必要なのか?

Tokyo.R#76 BeginneRSession-data pipeline

どう書くのか問題

思考の流れと書く流れ

パイプ演算子を使うときのポイント

結果 <- スタート地点 を書いて、やりたい処理をパイプでつないでいく

列選択のやりかたいろいろ

product %>%
  select(starts_with("P")) %>%
  head(4)

列選択のやりかたいろいろ 2

例

select(product, 1:3) # 列番号が連続している場合
select(product, ProductID:Price) # 列名でも連続していれば同様
select(product, -CreatedDate) # 特定の列を除く
select(product, -4) # 特定の列番号を除く
select(product, starts_with("p"), ignore.case = TRUE) # 大文字小文字を無視
select(product, matches("^(Product|Price)")) # "Product"または"Price"で始まる列を選択

列追加

• 税込み価格を計算

product %>%
  mutate(zeikomi = Price * 1.08) %>%
  head(4)

行の絞り込み

user_master %>%
  filter(Age >= 20, Sex == "F") # 年齢 20 歳以上の女性

集計

• グルーピング + 集計

sales %>%
  group_by(UserID) %>%
  summarise(buy_count = n())

パッケージを使わないでできないの？

• できるものもあります。
• select, filter あたりはできます。
• でもめんどくさい
• しかもデータが大きいと遅い
• このあたり、私の過去資料もみてね
• でも$はお手軽だしよく使います。

$で 1 列だけ取り出す

product$Category %>%
  unique()

[1] "雑貨・日用品"           "花・グリーン"          
[3] "食品"                   "衣料品"                
[5] "ヘルス＆ビューティー"   "家具・インテリア・家電"

lubridate パッケージ

library(lubridate)
ymd("20110604")

[1] "2011-06-04"

ymd(20120101) + years(1)

[1] "2013-01-01"

データハンドリングでの使い所

たくさんあるけど例えば

sales %>%
  mutate(buy_year = year(Timestamp)) %>%
  head()

ここから集計につなげる

ユーザー、年ごとに集計

sales %>%
  mutate(buy_year = year(Timestamp)) %>%
  group_by(UserID, buy_year) %>%
  summarise(buy_count = n()) %>%
  arrange(UserID) %>% 
  head()

文字列型

• stringr パッケージ
• https://kazutan.github.io/kazutanR/stringr-intro.html

因子型(factor 型)

• forcats パッケージ
• https://kazutan.github.io/kazutanR/forcats_test.html

複数のテーブルを考える

• 基本は SQL と同じ

inner_join()

inner_join(a, b, by = "x1")

left_join()

left_join(a, b, by = "x1")

full_join()

full_join(a, b, by = "x1")

anti_join()

anti_join(a, b, by = "x1")

dplyr とかだと何で
R の標準関数より速いの？

Answer : C++を使っているから

• dplyrや readrでは、メインの処理を C++でやり、結果を R で受け取る、という構造になっています。
• Rcpp パッケージが活躍!

たくさんのテーブルを join したい!

  x1 x2
1  A  1
2  B  2
3  C  3

  x1    x3
1  A  TRUE
2  B FALSE
3  D  TRUE

  x1 x4
1  B 10
2  C 11
3  D 12

a %>%
  full_join(b, by = "x1") %>%
  full_join(c, by = "x1")

たくさんのテーブルを join したい!

Answer : 初心者セッションの範囲をこえますが、
purrrパッケージを使うと簡単です。

datlist <- list(a, b, c)
datlist %>%
  purrr::reduce(~full_join(.x, .y, by = "x1"))

purrr パッケージの参考資料→そろそろ手を出す purrr

言いたいこと

• （イマドキな）R でのデータハンドリングでは tidyverse は必須
• 基礎的なことは Tokyo.R 初心者セッションや、宇宙本で!
• 応用は、まずパッケージ名を知ることから(purrr, broom, etc…)
• ぜひ使いこなせるようになりましょう。

本資料について

• revealjs パッケージで作りました。
• 以下の URL で公開しています。
  https://ymattu.github.io/TokyoR80/slide.html#/

Enjoy!