バッチを Akka Streams で再実装したら100倍速くなった話 #ScalaMatsuri

バッチを Akka Stream で再実装したら100倍速くなった話

Copyright © 2016 TIS Inc. All rights reserved.

根来和輝 TIS 株式会社生産技術R&D室

‣

‣

‣

https://twitter.com/negokaz

https://github.com/negokaz


今日話すこと Akka Streams を使ってバッチの処理速度を100倍にした事例

http://scalamatsuri.org/


パフォーマンスに問題を抱えた本番運用されているバッチ処理

http://scalamatsuri.org/


バッチ処理毎日夜間に、その日の取引情報をCSVファイルに書き出す


アーキテクチャ

Active Record


DBから一括で時刻順の取引情報を取得し、一行ずつ処理し、一行ずつファイルへ書き出す


問題は何か処理が終わるのが遅い。応急処置でなんとか凌いでいる。


遅い原因はなにか？


調査環境として仮想マシンを構築。本番環境と同じリソースを割り当て。

‣

‣

‣

‣


調査のシナリオでは100万件のデータを用意


結果、処理速度は毎秒4件


100万件処理するのに3日


ボトルネックはどこか？スワップ領域が大量に消費

0

1000

2000

3000

4000

5000

6000

0:00 0:20 0:40 1:00 1:20 1:40 2:00 2:20 2:40

- - Memory - - Swap

‣


処理のボトルネック


メモリを潤沢に用意すれば問題ないのか？


‣

‣

‣

‣


調査のシナリオでは100万件のデータを処理


結果、処理速度は毎秒100件


100万件処理するのに3時間


ボトルネックは解消されたのか？メモリ不足は解消

0

1000

2000

3000

4000

5000

6000

7000

0:00 0:05 0:10 0:15 0:20 0:25

- - Memory - - Swap

‣


使われているCPUコアは1つのみ

‣


第2のボトルネック


少しずつデータを取得。処理を並列で行う。ただし、取得したデータの並びは維持。

‣


DBから時刻順のデータを少しずつ取得。並列で処理。取得した順序で書き出し。


ここに Akka Streams が使える


Akka Streams は Reactive Streams の Akka を使った実装

‣

‣


アーキテクチャ

Streams


Reactive Streams の Publisher を通じてデータをストリーミングするAPIを提供

Streams


同期的な入出力と並列処理

Streams


既存のバッチと同じ結果が得られるように実装。キャッシュも既存のものと同様に実装。


実装の構成要素

‣ ‣

‣


実装※ 説明用に簡略化したコード


入力、処理、出力、実行




この部分の処理は並列に実行される




調査環境として仮想マシンを構築。本番環境と同じリソースを割り当て。

‣

‣

‣

‣


調査のシナリオでは100万件のデータを処理


結果、処理速度は毎秒1,180件


100万件処理するのに14分


ボトルネックは解消されたのか？メモリ不足は発生していない

0

200

400

600

800

1000

1200

1400

1600

1800

2000

0:00 0:00 0:01 0:02 0:03 0:04 0:05 0:05 0:06 0:07 0:08 0:09

- - Memory - - Swap

‣


CPUの全コアが使われている

‣


メモリがボトルネックになっていた場合と比較


CPUがボトルネックになっていた場合と比較


バッチを Akka Streams で再実装したら295倍速くなった話


ハードウェアを変更せずに大幅な性能改善できた。 experimental なので本番環境への適用は注意。



ストリームなのにメモリ不足。Slick の streaming API を使ってデータを取得しているのに一括で取得されてしまう。


MySQL固有の問題解決方法: enableStreamingResults() を設定

https://github.com/slick/slick/issues/1218


非同期キャッシュ - spray-caching非同期ノンブロッキングでスレッドセーフなキャッシュ

http://spray.io/documentation/1.2.3/spray-caching/


http://spray.io/documentation/1.2.3/spray-caching/


http://www.tis.jp/service_solution/goreactive/

mailto:[email protected]?subject=


2016年2月2日 7:00PM-10:30PM、場所は西新宿


2016年2月2日 7:00PM-10:30PM、場所は西新宿

http://bit.ly/RSMeetup

http://reactive-shinjuku.connpass.com/event/24666/

THANK YOU

Technology

バッチを Akka Streams で再実装したら100倍速くなった話 #ScalaMatsuri