バッチを Akka Streams で再実装したら100倍速くなった話 #ScalaMatsuri

バッチを Akka Stream で再実装したら100倍速くなった話

根来和輝 TIS 株式会社生産技術R&D室

今日話すこと Akka Streams を使ってバッチの処理速度を100倍にした事例

パフォーマンスに問題を抱えた本番運用されているバッチ処理

バッチ処理毎日夜間に、その日の取引情報をCSVファイルに書き出す

アーキテクチャ

Active Record

DBから一括で時刻順の取引情報を取得し、一行ずつ処理し、一行ずつファイルへ書き出す

問題は何か処理が終わるのが遅い。応急処置でなんとか凌いでいる。

遅い原因はなにか？

調査環境として仮想マシンを構築。本番環境と同じリソースを割り当て。

調査のシナリオでは100万件のデータを用意

結果、処理速度は毎秒4件

100万件処理するのに3日

ボトルネックはどこか？スワップ領域が大量に消費

0:00 0:20 0:40 1:00 1:20 1:40 2:00 2:20 2:40

- - Memory - - Swap

処理のボトルネック

メモリを潤沢に用意すれば問題ないのか？

調査のシナリオでは100万件のデータを処理

結果、処理速度は毎秒100件

100万件処理するのに3時間

ボトルネックは解消されたのか？メモリ不足は解消

0:00 0:05 0:10 0:15 0:20 0:25

- - Memory - - Swap

使われているCPUコアは1つのみ

第2のボトルネック

少しずつデータを取得。処理を並列で行う。ただし、取得したデータの並びは維持。

DBから時刻順のデータを少しずつ取得。並列で処理。取得した順序で書き出し。

ここに Akka Streams が使える

Akka Streams は Reactive Streams の Akka を使った実装

アーキテクチャ

Streams

Reactive Streams の Publisher を通じてデータをストリーミングするAPIを提供

Streams

同期的な入出力と並列処理

Streams

既存のバッチと同じ結果が得られるように実装。キャッシュも既存のものと同様に実装。

実装の構成要素

‣ ‣

実装※ 説明用に簡略化したコード

入力、処理、出力、実行

この部分の処理は並列に実行される

調査環境として仮想マシンを構築。本番環境と同じリソースを割り当て。

調査のシナリオでは100万件のデータを処理

結果、処理速度は毎秒1,180件

100万件処理するのに14分

ボトルネックは解消されたのか？メモリ不足は発生していない

0:00 0:00 0:01 0:02 0:03 0:04 0:05 0:05 0:06 0:07 0:08 0:09

- - Memory - - Swap

CPUの全コアが使われている

メモリがボトルネックになっていた場合と比較

CPUがボトルネックになっていた場合と比較

バッチを Akka Streams で再実装したら295倍速くなった話

ハードウェアを変更せずに大幅な性能改善できた。 experimental なので本番環境への適用は注意。

ストリームなのにメモリ不足。Slick の streaming API を使ってデータを取得しているのに一括で取得されてしまう。

MySQL固有の問題解決方法: enableStreamingResults() を設定

非同期キャッシュ - spray-caching非同期ノンブロッキングでスレッドセーフなキャッシュ

2016年2月2日 7:00PM-10:30PM、場所は西新宿

THANK YOU

バッチを Akka Streams で再実装したら100倍速くなった話 #ScalaMatsuri

Technology

Java streams

Challenge AKKA 2010

Akka Exhibitions Amsterdam

Sachi Akka

Zen of Akka

AKKA Technologies AKKA Technologies développe de multiples ...images.autodesk.com/emea_s_main/files/akka_technologies.pdf · AKKA Technologies s’est aussi servi de Showcase pour

Akka Thooka 3

Akka framework

Streams e Input/output. Scansione e Formattazione di un testo Streams Testuali e Binarie Streams di dati primitivi Streams di oggetti (serializzazione)

Akka http 2

Contributing to Scala OSS from East Asia #ScalaMatsuri

Eresha akka

Paatti Amma Akka

Susanjani akka

2016 ScalaMatsuri LT / セプテーニ・オリジナルの文化と歴史

Akka programação concorrente

Corso di Programmazione Concorrentecrescenzi.dia.uniroma3.it/didattica/aa2017-2018/PC/... · Sommario Asynchronous Boundary Motivazioni Reactive Streams Back-Pressure Akka Stream

Akka 101 - durtchrt.github.io · Akka Actor ActorRef, mailbox, actor, dispatcher 이미지 출처: akka in action. Akka Actor Path Identifies an Actor May also represent a proxy

Akka-Streams in Production

Introduction to GraphQL in Scala (ScalaMatsuri 2017)