BigData-JAWS 勉強会#12

勉強会の概要

本勉強会は、AWS上でビッグデータ処理をしている（しようとしている）人が、ノウハウ共有・情報交換できる場を目指しています。

セミナではないため、発表者からの一方向の技術紹介やユースケース紹介ではありません。参加者の相互の情報共有を前提としています。

想定する参加者は以下のとおりです

• AWSでビッグデータ処理をしている or しようとしている方
• 話を聞くだけではなく、議論に参加できる方

(前回の様子)

議論多めでやっていきたいとおもいます！

日程

2018/04/06（金)　

• 開場 18:00
• 勉強会 18:30〜20:30　
• 懇親会 20:30〜22:00

場所

アマゾン ウェブ サービス ジャパン　目黒オフィス 東京都目黒区下目黒1-8-1 アルコタワー 19F

タイムテーブル

1.オープニング・支部の説明 (10分）

株式会社リクルートテクノロジーズ 北沢 匠

2. リブセンスのデータ分析基盤を支えるRedshiftとAirflow（30分）

株式会社リブセンス 吉武 正史さん

概要： 弊社ではデータ分析基盤をAWS上に構築しており、その中心となるのがDWHとして活用しているRedshiftと、そのデータのETL/ELT処理を司るApache Airflowです。本発表では弊社のAirflowの活用事例をご紹介します。

3. あなたの知らないS3Selectの世界（20分）

株式会社リクルートライフスタイル 山田 雄さん

概要：プレビュー中のS3Select、何ができるのか、使用してみた感想を元にお話しします。

休憩(10分)

4.Strataで盛り上がっていたデータ処理系ツール（20分）

株式会社NTTドコモ 原野 将大さん

strata data conference 2018の模様と現地のセッションで盛り上がっていたOSSツールの中から、kafka(KSQL)とBigDLについてAWSサービスと比べながら簡単に紹介します。

5.ワークフローエンジンよもやま噺（20分）

株式会社リクルートテクノロジーズ 北沢 匠

概要：JP1、AirFlow、digdag、Amazon Step Functionなど数多く存在するワークフローエンジン。それぞれどんな機能を持っていて、AWS上での使い分けはどうすれば良いのか？概要をまとめてご紹介します。

6.次回発表のテーマ募集・クロージング（10分）

7.懇親会

AWSさんの会場にて懇親会を行います。会費2000円

ビッグデータについて語りましょう！

資料

資料はGithubに公開します。今までの開催分の資料もあります。

https://github.com/bdjaws/workshop

ビッグデータ支部の紹介

AWS上でビッグデータ処理を行っている(行おうとしている）ユーザを中心としたグループです。

技術やユースケースの共有や、日々の悩みを相談をすることを目的としています。

以下のテーマを想定しています。

• 分散集計(RedShift、EMR、Athena等)
• 機械学習(EMR、Amazon Michine Learning等)
• ETL(Glue等)
• 分散キュー(kinesis)＋ショートバッチ
• 分散KVS(DynamoDB)
• データフロー制御・スケジューリング(SWF,DataPipeline等)
• データマイグレーション(ネットワーク周り、スノーボール等）
• BI (QuickSight)

主催・協力

• 主催：株式会社リクルートテクノロジーズ
• 協力：株式会社NTTドコモ
• 会場提供：アマゾン ウェブ サービス ジャパン株式会社