Kengo Nakajima's Homepage -...

並列前処理付き反復法

中島研吾東京大学情報基盤センター・

同大学院情報理工学系研究科数理情報学専攻

日本応用数理学会三部会連携「応用数理セミナー」

2014年12月26日

差分法，有限要素法等による科学技術計算は最終的には疎な係数行列を係数とする大規模連立一次方程式の求解に帰着される。連立一次方程式の解法としては，クリロフ部分空間型反復解法が広く使用されている。

係数行列の固有値分布を改善し，収束を加速する方法として前処理（Preconditioning）は，実アプリケーションを解く上で重要である。

本チュートリアルでは，前処理付き反復法の基礎から，最新のスーパーコンピュータによる大規模シミュレーション研究を指向した研究動向まで幅広く解説する。

http://nkl.cc.u-tokyo.ac.jp/seminars/JSIAM14w.pdf

• Sparse Matrices• Iterative Linear Solvers

− Preconditioning− Parallel Iterative Linear Solvers− Multigrid Method− Recent Technical Issues

• Example of Parallel MGCG• Ill-Conditioned Problems

• Introduction to Parallel Iterative Solvers

There are a lot of topics and issues all of which I cannot cover. I just try to talk about my experiences in the area of scientific applications and parallel numerical algorithms, with some general introductions.

Finite-Element Method (FEM)有限要素法

5 6 7 8

9 10 11 12

13 14 15 16

• 偏微分方程式の解法として広く知られている

– elements (meshes，要素) & nodes (vertices，節点)• 以下の二次元熱伝導問題を考える:

– 16節点，9要素（四角形）

– 一様な熱伝導率 (=1)– 一様な体積発熱 (Q=1)– 節点1で温度固定：T=0– 周囲断熱

Galerkin FEM procedures

5 6 7 8

9 10 11 12

13 14 15 16

• 各要素にガラーキン法を適用:

各要素で：

[N] : 形状関数（内挿関数）

• 偏微分方程式に対して，ガウス・グリーンの定理を適用し，以下の「弱形式」を導く

Element Matrix：要素マトリクス

)()()()(

)()()( }{}]{[

kkkkkkkkkkkkkkkk

• 各要素において積分を実行し，要素マトリクスを得る

Global Matrix：全体マトリクス各要素マトリクスを全体マトリクスに足しこむ

5 6 7 8

9 10 11 12

13 14 15 16

}{}]{[

FFFFFFFFFFFFFFFF

DXXXXDXXXX

XDXXXXXDXX

XXDXXXXXXXDXXXX

XXXXDXXXXXXXDXX

XXDXXXXXXXDXXXX

XXXXDXXXXXXXDXX

XXDXXXXXDX

XXXXDXXXXD

5 6 7 8

9 10 11 12

13 14 15 16

}{}]{[

FFFFFFFFFFFFFFFF

DXXXXDXXXX

XDXXXXXDXX

XXDXXXXXXXDXXXX

XXXXDXXXXXXXDXX

XXDXXXXXXXDXXXX

XXXXDXXXXXXXDXX

XXDXXXXXDX

XXXXDXXXXD

Global Matrix：全体マトリクス各要素マトリクスを全体マトリクスに足しこむ

得られた大規模連立一次方程式を解くある適切な境界条件 (ここでは=0)を適用「疎（ゼロが多い）」な行列

FFFFFFFFFFFFFFFF

DXXXXDXXXX

XDXXXXXDXX

XXDXXXXXXXDXXXX

XXXXDXXXXXXXDXX

XXDXXXXXXXDXXXX

XXXXDXXXXXXXDXX

XXDXXXXXDX

XXXXDXXXXD

計算結果

2D FDM Mesh (5-point stencil)12

有限要素法・差分法で得られるマトリクス

FFFFFFFFFFFFFFFF

DXXXXDXXXX

XDXXXXXDXX

XXDXXXXXXXDXXXX

XXXXDXXXXXXXDXX

XXDXXXXXXXDXXXX

XXXXDXXXXXXXDXX

XXDXXXXXDX

XXXXDXXXXD

• 疎行列– 0が多い

• A(i,j)のように正方行列の全

成分を記憶することは疎行列では非効率的– 「密」行列向け

• 有限要素法：非零非対角成分の数は高々「数百」規模– 例えば未知数が108個あるとすると記憶容量（ワード数）は

• 正方行列：O(1016)• 非零非対角成分数：O(1010)

• 非零成分のみ記憶するのが効率的

行列ベクトル積への適用（非零）非対角成分のみを格納，疎行列向け方法

Compressed Row Storage (CRS)

FFFFFFFFFFFFFFFF

DXXXXDXXXX

XDXXXXXDXX

XXDXXXXXXXDXXXX

XXXXDXXXXXXXDXX

XXDXXXXXXXDXXXX

XXXXDXXXXXXXDXX

XXDXXXXXDX

XXXXDXXXXD

Diag (i) 対角成分（実数，i=1,N）Index(i) 非対角成分数に関する一次元配列（通し番号）

（整数，i=0,N）Item(k) 非対角成分の要素（列）番号

（整数，k=1, index(N)）AMat(k) 非対角成分

（実数，k=1, index(N)）

{Y}= [A]{X}

do i= 1, NY(i)= Diag(i)*X(i)do k= Index(i-1)+1, Index(i)

Y(i)= Y(i) + Amat(k)*X(Item(k))enddo

行列ベクトル積：密行列⇒とても簡単

NNNNNN

aaaaaaaa

,1,2,1,

,11,12,11,1

,21,22221

,11,11211

.........

{Y}= [A]{X}

do j= 1, NY(j)= 0.d0do i= 1, N

Y(j)= Y(j) + A(i,j)*X(i)enddo

Compressed Row Storage (CRS)

3.5101.306.93.15.901.131.234.1005.24.60

05.94.12005.60003.405.1104.105.91.3007.25.28.901.4001.305.107.5001.907.305.206.33.4

0002.3004.21.11

1 2 3 4 5 6 7 8

Compressed Row Storage (CRS)：Cプログラムの中では0番から番号付け

2.4①

3.2④

4.3◎

2.5③

3.7⑤

9.1⑦

1.5④

3.1⑥

4.1①

2.5④

2.7⑤

3.1◎

9.5①

10.4②

4.3⑥

6.5②

9.5⑥

6.4①

2.5②

1.4⑤

13.1⑦

9.5①

1.3②

9.6③

3.1⑤

Diagonal ComponentsDiag[0]= 1.1 Diag[1]= 3.6Diag[2]= 5.7Diag[3]= 9.8 Diag[4]= 11.5 Diag[5]= 12.4Diag[6]= 23.1 Diag[7]= 51.3

1.1◎

3.6①

5.7②

9.8③

11.5④

12.4⑤

23.1⑥

51.3⑦

0 1 2 3 4 5 6 7

Compressed Row Storage (CRS)：C0

2.4①

3.2④

4.3◎

2.5③

3.7⑤

9.1⑦

1.5④

3.1⑥

4.1①

2.5④

2.7⑤

3.1◎

9.5①

10.4②

4.3⑥

6.5②

9.5⑥

6.4①

2.5②

1.4⑤

13.1⑦

9.5①

1.3②

9.6③

3.1⑤

1 2 3 4 5 6 71.1◎

3.6①

5.7②

9.8③

11.5④

12.4⑤

23.1⑥

51.3⑦

Compressed Row Storage (CRS)：C

2.4①,0

3.2④,1

4.3◎,2

2.5③,3

3.7⑤,4

9.1⑦,5

1.5④,6

3.1⑥,7

4.1①,8

2.5④,9

2.7⑤,10

3.1◎,11

9.5①,12

10.4②,13

4.3⑥,14

6.5②,15

9.5⑥,16

6.4①,17

2.5②,18

1.4⑤,19

13.1⑦,20

9.5①,21

1.3②,22

9.6③,23

3.1⑤,24

1.1◎

3.6①

5.7②

9.8③

11.5④

12.4⑤

23.1⑥

51.3⑦

Diag [i] 対角成分（実数，[N]）Index[i] 非対角成分数に関する一次元配列

（通し番号）（整数，[N+1]）Item[k] 非対角成分の要素（列）番号

（整数，[Index[N]]）AMat[k] 非対角成分

（実数，[Index[N]]）

{Y}=[A]{X}

for(i=0;i<N;i++){Y[i] = Diag[i] * X[i]; for(k=Index[i];k<Index[i+1];k++){

Y[i] += AMat[k]*X[Item[k]];}

• Example of Parallel MGCG

科学技術計算における大規模線形方程式の解法

• 多くの科学技術計算は，最終的に大規模線形方程式Ax=bを解くことに帰着される。

– important, expensive• アプリケーションに応じて様々な手法が提案されている

– 疎行列（sparse），密行列（dense）

– 直接法（direct），反復法（iterative）

• 密行列（dense）

– グローバルな相互作用：BEM，スペクトル法，MO，MD（気液）

• 疎行列（sparse）

– ローカルな相互作用：FEM，FDM，MD（固），高速多重極展開付BEM

直接法（Direct Method）

• Gaussの消去法，完全LU分解他– 行列の変形，逆行列に相当するものの計算

• 利点– 安定，幅広いアプリケーションに適用可能

• Pivoting– 疎行列，密行列いずれにも適用可能

• 欠点– 反復法よりもメモリ，計算時間を必要とする

• 密行列の場合，O（N3 ）の計算量

– 大規模な計算向けではない• O（N2 ）の記憶容量，O（N3 ）の計算量

反復法とは・・・

適当な初期解 x(0)から始めて，繰り返し計算によって真の解に

収束(converge)させていく

,, )2()1( xx

初期解連立一次方程式

nnnnnn

aaaaaa

反復法（Iterative Method）

• 定常（stationary）法

– 反復計算中，解ベクトル以外の変数は変化せず

– SOR，Gauss-Seidel，Jacobiなど

– 概して遅い

• 非定常（nonstationary）法

– 拘束，最適化条件が加わる

– Krylov部分空間（subspace）への写像を基底として使用するため，Krylov部分空間法とも呼ばれる

– CG（Conjugate Gradient：共役勾配法）

– BiCGSTAB（Bi-Conjugate Gradient Stabilized）

– GMRES（Generalized Minimal Residual）

NbMxxbAx

)()1( kk

反復法（Iterative Method）（続き）

• 利点– 直接法と比較して，メモリ使用量，計算量が少ない。

– 並列計算には適している。

• 欠点– 収束性が，アプリケーション，境界条件の影響を受けやすい。

• 収束しない（答えが得られない）可能性がある

– 前処理（preconditioning）が重要。

非定常反復法：クリロフ部分空間法（1/2）Krylov Subspace Method xAIbxbAx

以下の反復式を導入しx0, x1, x2, ..., xkを求める：

xrxAxb

kkwhere Axbr ：残差ベクトル（residual）

iik rxx

111111

kkkkkk

rAIrAxrArAxbxrAbAxbr

非定常反復法：クリロフ部分空間法（2/2）Krylov Subspace Method

zkはk次のクリロフ部分空間（Krylov Subspace）に属するベクトル，問題はクリロフ部分空間からどのようにして解の近似ベクトルxkを求めるかにある：

rAIIrAIrz

rAIrxrAIrxrxx

00 ,,,, rArAArr k

代表的な非定常反復法：共役勾配法

• Conjugate Gradient法，略して「CG」法– 最も代表的な「非定常」反復法

• 対称正定値行列（Symmetric Positive Definite：SPD）– 任意のベクトル{x}に対して{x}T[A]{x}>0– 全対角成分>0，全固有値>0，全部分行列式（主小行列式・首座行

列式）>0と同値

• アルゴリズム– 最急降下法（Steepest Descent Method）の変種

– x(i)= x(i-1) + ip(i)

• x(i)：反復解，p(i)：探索方向，i：定数）

– 厳密解をyとするとき {x-y}T[A]{x-y}を最小とするような{x}を求める。

– 詳細は参考文献参照

• 例えば：森正武「数値解析（第2版）」（共立出版）

nnnnnn

aaaaaaaaaaaaaaaaaaaa

444434241

334333231

224232221

114131211

nnnnnn

aaaaaaaaaaaaaaaaaaaa

444434241

334333231

224232221

114131211

共役勾配法（CG法）のアルゴリズム

Compute r(0)= b-[A]x(0)

for i= 1, 2, …i-1= r(i-1) r(i-1)if i=1p(1)= r(0)

elsei-1= i-1/i-2p(i)= r(i-1) + i-1 p(i-1)

endifq(i)= [A]p(i)

i = i-1/p(i)q(i)x(i)= x(i-1) + ip(i)r(i)= r(i-1) - iq(i)check convergence |r|

• 行列ベクトル積

• ベクトル内積

• ベクトル定数倍の加減（DAXPY）

x(i) : Vectori : Scalar

for i= 1, 2, …i-1= r(i-1) r(i-1)if i=1p(1)= r(0)

elsei-1= i-1/i-2p(i)= r(i-1) + i-1 p(i-1)

endifq(i)= [A]p(i)

for i= 1, 2, …i-1= r(i-1) r(i-1)if i=1p(1)= r(0)

elsei-1= i-1/i-2p(i)= r(i-1) + i-1 p(i-1)

endifq(i)= [A]p(i)

for i= 1, 2, …i-1= r(i-1) r(i-1)if i=1p(1)= r(0)

elsei-1= i-1/i-2p(i)= r(i-1) + i-1 p(i-1)

endifq(i)= [A]p(i)

– Double– {y}= a{x} + {y}

for i= 1, 2, …i-1= r(i-1) r(i-1)if i=1p(1)= r(0)

elsei-1= i-1/i-2p(i)= r(i-1) + i-1 p(i-1)

endifq(i)= [A]p(i)

CG法アルゴリズムの導出(1/5)

bybxAxxAyyAyxAxx

AyyAyxAxyAxxyxAyx T

,,2,,,2,,,,,

yxAyx T

定数

bxAxxxf ,,21

AhhbAxhxfhxf ,21, 任意のベクトル h

yを厳密解（ Ay=b ）とするとき，下式を最小にするxを求める：

従って，下記 f(x) を最小にするxを求めればよい：

bxAxxxf ,,21

AhhbAxhxfhxf ,21, •任意のベクトルh

AhhbAxhxf

AhhbhAxhbxAxx

bhbxAhhAhxAxhAxx

bhbxAhhxAxhx

bhxhxAhxhxf

,21,,,,

,,,21,

,)(,21

)()()1( kk

kk pxx

CG法は任意の x(0) から始めて，f(x)の最小値を逐次探索する。今，k番目の近似値 x(k)と探索方向p(k)が決まったとすると：

)()()()()(2)()( ,,21 kkk

kk xfAxbpApppxf

f(x(k+1)) を最小にするためには：

)()()()(

,,0 kk

AppAxbppxf

)()( kk Axbr は第k近似に対する残差

)()()1( kk

kk Aprr

残差 r(k)も以下の式によって計算できる：

本当のところは下記のように（k+1）回目に厳密解 y が求まれば良いのであるが，解がわかっていない場合は困難・・・

)()()1()()1(

)()()1()1( ,k

ApAxAxrrAxbrAxbr

)0()0()()1()1( , prprp kk

探索方向を以下の漸化式によって求める：

CG法アルゴリズムの導出(4/5)ところで，下式のような都合の良い直交関係がある：

従って以下が成立する：

0,0,, )()1()1(1

)()1()(

kkk ApppApxyAp

)()()()()()()(

)()()()()()(

)1()()1()()1()(

kkkkkk

ApprpAprp

ApAxbppxAbpAxbpAxAypxyAp

k Apprp

0, )1()( kk xyAp

)()()()1()()()1()()1(

AppApr

AppAprApprApp

0, )()1( kk App p(k) と p(k+1) が行列Aに関して共役（conjugate）

)1()1(

i AppApr

Compute p(0)=r(0)= b-[A]x(0)

for i= 1, 2, …calc. i-1x(i)= x(i-1) + i-1p(i-1)r(i)= r(i-1) – i-1[A]q(i-1)

check convergence |r|(if not converged)calc. i-1p(i)= r(i) + i-1 p(i-1)

)1()1(

i Apprp

CG法アルゴリズム

任意の(i,j)に対して以下の共役関係が得られる:

N次元空間で互いに直交で一次独立な残差ベクトル r(k) はN個しか存在しない，従って共役勾配法は未知数がN個のときにN回以内に収束する⇒ 実際は丸め誤差の影響がある（条件数が大きい場合）

jiApp ji 0, )()(

)()()()()()( ,,,0, kkkkji rrrpjirr

探索方向p(k) ，残差ベクトルr(k)についても以下の関係が成立する：

Top 10 Algorithms in the 20th Century (SIAM)http://www.siam.org/news/news.php?id=637モンテカルロ法，シンプレックス法，クリロフ部分空間法，行列分解法，最適化Fortranコンパイラ，QR法，クイックソート，FFT，整数関係アルゴリズム，FMM（高速多重極法）

rrrrrApr

AppApr

)1()1()1()()1()()1(

)1()1(

実際はk，kはもうちょっと簡単な形に変形できる：

)()()()(

rrrpApprr

AppAxbp

for i= 1, 2, …i-1= r(i-1) r(i-1)if i=1p(1)= r(0)

elsei-1= i-1/i-2p(i)= r(i-1) + i-1 p(i-1)

endifq(i)= [A]p(i)

)1()1(

i Apprr

)2()2(

)1()1(

i rrrr

1 i 2 i

do i= 1, NR(i)= B(i)do j= 1, NR(i)= R(i) - AMAT(i,j)*X(j)

enddoenddo

BNRM2= 0.0D0do i= 1, NBNRM2= BNRM2 + B(i) **2

プログラム例（CG法）（1/3）

AMAT(i,j): Aのaij成分B(i): bの各成分X(i): xの各成分

P(i): pの各成分Q(i): qの各成分R(i): rの各成分

for i= 1, 2, …i-1= r(i-1) r(i-1)if i=1p(1)= r(0)

elsei-1= i-1/i-2p(i)= r(i-1) + i-1 p(i-1)

endifq(i)= [A]p(i)

do iter= 1, ITERmaxRHO= 0.d0do i= 1, NRHO= RHO + R(i)*R(i)

if ( iter.eq.1 ) thendo i= 1, N

P(i)= R(i)enddoelseBETA= RHO / RHO1do i= 1, N

P(i)= R(i) + BETA*P(i)enddo

do i= 1, NQ(i)= 0.d0do j= 1, N

Q(i)= Q(i) + AMAT(i,j)*P(j)enddo

...enddo

プログラム例（CG法）（2/3）Compute r(0)= b-[A]x(0)

for i= 1, 2, …i-1= r(i-1) r(i-1)if i=1p(1)= r(0)

elsei-1= i-1/i-2p(i)= r(i-1) + i-1 p(i-1)

endifq(i)= [A]p(i)

do iter= 1, ITERmax...

C1= 0.d0do i= 1, NC1= C1 + P(i)*Q(i)

enddoALPHA= RHO / C1

do i= 1, NX(i)= X(i) + ALPHA * P(i)R(i)= R(i) - ALPHA * Q(i)

DNRM2 = 0.0do i= 1, NDNRM2= DNRM2 + R(i)**2

RESID= dsqrt(DNRM2/BNRM2)

if ( RESID.le.EPS) exit

RHO1 = RHO

プログラム例（CG法）（3/3）Compute r(0)= b-[A]x(0)

for i= 1, 2, …i-1= r(i-1) r(i-1)if i=1p(1)= r(0)

elsei-1= i-1/i-2p(i)= r(i-1) + i-1 p(i-1)

endifq(i)= [A]p(i)

i-1=i-2

一次元熱伝導方程式支配方程式：熱伝導率＝1（一様）

xxBFxBF

xxdxdxBF

@0,0@0,0

一様体積発熱 BF

=0 断熱

以下のような離散化（要素中心で従属変数を定義）をしている

一次元熱伝導方程式解析解

xxBFxBF max2

断熱となっているのはこの面，しかし温度は計算されない（X=Xmax）。

12255.98505.1200495.494921 2

x=1.d0，メッシュ数=50，とすると，Xmax=49.5，●の点のX座標は49.0となる。BF=1.0d0とすると●での温度は：

計算例（N=50）：Jacobi法1000 iters, RESID= 5.443248E-01 PHI(N)= 4.724513E+022000 iters, RESID= 3.255667E-01 PHI(N)= 7.746137E+023000 iters, RESID= 1.947372E-01 PHI(N)= 9.555996E+02...34000 iters, RESID= 2.347113E-08 PHI(N)= 1.225000E+0335000 iters, RESID= 1.403923E-08 PHI(N)= 1.225000E+0335661 iters, RESID= 9.999053E-09 PHI(N)= 1.225000E+03

1 0.000000E+00 0.000000E+002 4.899999E+01 4.900000E+013 9.699999E+01 9.700000E+014 1.440000E+02 1.440000E+025 1.900000E+02 1.900000E+02...

41 1.180000E+03 1.180000E+0342 1.189000E+03 1.189000E+0343 1.197000E+03 1.197000E+0344 1.204000E+03 1.204000E+0345 1.210000E+03 1.210000E+0346 1.215000E+03 1.215000E+0347 1.219000E+03 1.219000E+0348 1.222000E+03 1.222000E+0349 1.224000E+03 1.224000E+0350 1.225000E+03 1.225000E+03

反復回数最大残差(50)

数値解，解析解

12255.98505.1200495.494921 2

計算例（N=50）：Gauss-Seidel 法1000 iters, RESID= 3.303725E-01 PHI(N)= 7.785284E+022000 iters, RESID= 1.182010E-01 PHI(N)= 1.065259E+033000 iters, RESID= 4.229019E-02 PHI(N)= 1.167848E+03...16000 iters, RESID= 6.657001E-08 PHI(N)= 1.225000E+0317000 iters, RESID= 2.381754E-08 PHI(N)= 1.225000E+0317845 iters, RESID= 9.993196E-09 PHI(N)= 1.225000E+03

1 0.000000E+00 0.000000E+002 4.899999E+01 4.900000E+013 9.699999E+01 9.700000E+014 1.440000E+02 1.440000E+025 1.900000E+02 1.900000E+02...

反復回数最大残差(50)

数値解，解析解

計算例（N=50）：CG法49 iters, RESID= 0.000000E-00 PHI(N)= 1.225000E+03

1 0.000000E+00 0.000000E+002 4.899999E+01 4.900000E+013 9.699999E+01 9.700000E+014 1.440000E+02 1.440000E+025 1.900000E+02 1.900000E+02...

反復回数最大残差(50)数値解，解析解

12255.98505.1200495.494921 2

49回目に収束していることに注意（未知数は49個）

反復法（Iterative Method）

• 利点– 直接法と比較して，メモリ使用量，計算量が少ない。

– 並列計算には適している。

• 欠点– 収束性が，アプリケーション，境界条件の影響を受けやすい。

• 収束しない（答えが得られない）可能性がある

– 前処理（preconditioning）が重要。• 条件数（condition number）の大きい問題

共役勾配法のアルゴリズム

• 行列ベクトル積• ベクトル内積• ベクトル定数倍の加減

x(i) ：ベクトルi ：スカラー

for i= 1, 2, …z(i-1)= r(i-1)

i-1= r(i-1) z(i-1)if i=1p(1)= z(0)

elsei-1= i-1/i-2p(i)= z(i-1) + i-1 p(i-1)

endifq(i)= [A]p(i)

前処理（preconditioning）とは?• 反復法の収束は係数行列の固有値分布に依存

– 固有値分布が少なく，かつ1に近いほど収束が早い（単位行列）

– 条件数（condition number）（対称正定）＝最大最小固有値比• 条件数が1に近いほど収束しやすい

• もとの係数行列[A]に良く似た前処理行列[M]を適用すること

によって固有値分布を改善する。– 前処理行列[M]によって元の方程式[A]{x}={b}を[A’]{x’}={b’}へと変換する。ここで[A’]=[M]-1[A]，{b’}=[M]-1{b} である。

– [A’]=[M]-1[A]が単位行列に近ければ良いということになる。

– [A’]=[A][M]-1のように右からかけることもある。

• 「前処理」は密行列，疎行列ともに使用するが，普通は疎行列を対象にすることが多い。

前処理付共役勾配法Preconditioned Conjugate Gradient Method （PCG）

for i= 1, 2, …solve [M]z(i-1)= r(i-1)

i-1= r(i-1) z(i-1)if i=1p(1)= z(0)

elsei-1= i-1/i-2p(i)= z(i-1) + i-1 p(i-1)

endifq(i)= [A]p(i)

実際にやるべき計算は：

AMAM ,11

対角スケーリング：簡単＝弱い

DMDM ,11

究極の前処理：本当の逆行列

AMAM ,11

「近似逆行列」の計算が必要：

対角スケーリング，点ヤコビ前処理

• 前処理行列として，もとの行列の対角成分のみを取り出した行列を前処理行列 [M] とする。

–対角スケーリング，点ヤコビ（point-Jacobi）前処理

0...00000.........00000...0

• solve [M]z(i-1)= r(i-1)という場合に逆行列を簡単に求めることができる。

• 簡単な問題では収束する。

ILU(0), IC(0)• 最もよく使用されている前処理（疎行列用）

– 不完全LU分解• Incomplete LU Factorization

– 不完全コレスキー分解• Incomplete Cholesky Factorization（対称行列）

• 不完全な直接法– もとの行列が疎でも，逆行列は疎とは限らない。

– fill-in– もとの行列と同じ非ゼロパターン（fill-in無し）を持って

いるのがILU（0），IC（0）

LU分解法：完全LU分解法

• 直接法の一種

– 逆行列を直接求める手法

– 「逆行列」に相当するものを保存しておけるので，右辺が変わったときに計算時間を節約できる

– 逆行列を求める際にFill-in（もとの行列では０であったところに値が入る）が生じる

• LU factorization

「不」完全LU分解法

• ILU factorization– Incomplete LU factorization

• Fill-inの発生を制限して，前処理に使う手法

– 不完全な逆行列，少し弱い直接法

– Fill-inを許さないとき：ILU(0)

LU分解による連立一次方程式の解法

Ａがn×n行列のとき、Ａを次式のように表すことを（あるいは、そのようなＬとＵそのものを）ＡのLU分解という．

nnnnnnnn

uuuuuuuuu

aaaaaaaaaaaa

010010001

1131211

3333231

2232221

1131211

LUA L：Lower triangular part of matrix AU：Upper triangular part of matrix A

連立一次方程式の行列表現

n元の連立一次方程式の一般形

nnnnnn

bxaxaxa

bxaxaxabxaxaxa

22222121

11212111

行列表現

nnnnnn

aaaaaa

LU分解を用いたAx=bの解法

LUA となるAのＬＵ分解ＬとＵを求める．

bLy の解ｙを求める．(簡単！）

yUx の解xを求める．(簡単！）

このxが bAx の解となる

bLyLUxAx

Ly=bの解法：前進代入

nnnn b

nnnn byylyl

byylby

ininnnnn ylbylylby

ylbyby

芋づる式に（one after another）解が求まる．

Ux=yの解法：後退代入

11212111

1,111,1

yxuxuxu

yxuxuyxu

nnnnnnn

1,1,111

uxuyxuyx

nnnnnnn

芋づる式に（one after another）解が求まる．

LU分解の求め方

nnnnnnnn

uuuuuuuuu

aaaaaaaaaaaa

010010001

1131211

3333231

2232221

1131211

nnn uuuuauaua 112111112121111 ,,,,,,

131211111113131112121 ,,,,,, nnn lllulaulaula

nnnn uuuuulauula 223222121222122122 ,,,,,

242322232123132 ,,,, nlllulula

数値例

242322

14131211

434241

1010010001

17407822

107624321

uuuuuuuuuu

第１行 14131211 4,3,2,1 uuuu

第１列

0/002/22,2/22

11411141

1131113111211121

ulululululul

第2行

21017,26

24241421

2323132122221221

uuuluuuluuul

第2列 24,12 42224212413222321231 lulullulul

数値例(続き）

242322

14131211

434241

1010010001

17407822

107624321

uuuuuuuuuu

第３行

343424321431

333323321331

uuululuuulul

第３列 37 43334323421341 uululul

第４行(第４列） 21 4444344324421441 uuululul

１行、１列、２行、２列、・・・の順に求める式を作っていく．

数値例(続き）

結局

2000130021204321

1320011200120001

17407822

107624321

実例：5点差分

10 11 12

実例：5点差分

10 11 12

実例：係数マトリクス

10 11 1212

6.00 -1.00 0.00 -1.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00

-1.00 6.00 -1.00 0.00 -1.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00

0.00 -1.00 6.00 0.00 0.00 -1.00 0.00 0.00 0.00 0.00 0.00 0.00

-1.00 0.00 0.00 6.00 -1.00 0.00 -1.00 0.00 0.00 0.00 0.00 0.00

0.00 -1.00 0.00 -1.00 6.00 -1.00 0.00 -1.00 0.00 0.00 0.00 0.00

0.00 0.00 -1.00 0.00 -1.00 6.00 0.00 0.00 -1.00 0.00 0.00 0.00

0.00 0.00 0.00 -1.00 0.00 0.00 6.00 -1.00 0.00 -1.00 0.00 0.00

0.00 0.00 0.00 0.00 -1.00 0.00 -1.00 6.00 -1.00 0.00 -1.00 0.00

0.00 0.00 0.00 0.00 0.00 -1.00 0.00 -1.00 6.00 0.00 0.00 -1.00

0.00 0.00 0.00 0.00 0.00 0.00 -1.00 0.00 0.00 6.00 -1.00 0.00

0.00 0.00 0.00 0.00 0.00 0.00 0.00 -1.00 0.00 -1.00 6.00 -1.00

0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 -1.00 0.00 -1.00 6.00

実例：解