25

みんなのウェディングのデータ分析基盤の作り方。

Embed Size (px)

Citation preview

1000

• :

MySQL, Mongo, TD,

• :

cron, scp, grep, perl , sh ,

• :

MySQL, TD, Excel, Spreadsheet, ,

• Redshift

• Bricolage

• Rundeck Kuroko2

Amazon Redshift

• Redshift

Bricolage

• Redshift Bricolage

• Bricolage

- http://

blog.mwed.info/posts/wedding-dwh-status-2016-06.html

Kuroko2• Bricolage Kuroko2

• DWH

OSS Kuroko2 -

http://blog.mwed.info/posts/kuroko2-mwed-2016-10.html

• : Redshift

• :

Kuroko2, Bricolage, fluentd, embulk, Kinesis Firehose

• : Redshift

• fluentd

• Aggregator

• embulk

• Amazon Kinesis Firehose

• S3

• fluentd → Firehose

Redshift• 50 (2016/6/3) → 147 (2016/11/2

• MySQL

• or

• Kuroko2: 4

• Bricolage: 154

• embulk: 3

Embulk - http://

blog.mwed.info/posts/embulk-filter-query_string.html

Redshift

No

• re:dash

• dmemo

• Slack

re:dash

• Redshift

• URL

dmemo•

dmemo -

http://techlife.cookpad.com/entry/2016/08/08/103906

Slack•

• bot

• Redshift

re:dash

dmemo