分散粒子群 適化DPSO を用いた劣化曲線群算定アルゴリズムの提案

Proposal of Algorithm for estimating a group of deterioration curves with Distributed Particle Swarm Optimization

吉田郁政*，澤田智貴**，小泉晶太郎**，大竹雄***，本城勇介**** Ikumasa Yoshida, Tomoki Sawada, Shoutarou Koizumi, Yu Otake and Yusuke Honjo

*博（工）, 東京都市大学教授, 工学部都市工学科（〒158-8557 東京都世田谷区玉堤1-28-1）

**学士（工）, 東京都市大学元学生, 工学部都市工学科（〒158-8557 東京都世田谷区玉堤1-28-1） ***博（工），岐阜大学特任助教 工学部社会基盤工学科（〒501-1193 岐阜県岐阜市柳戸1-1）

****博（工），岐阜大学教授 工学部社会基盤工学科（〒501-1193 岐阜県岐阜市柳戸1-1）

Estimation of deterioration curve of infrastructure is one of hot topics. It is preferable to separate the data according to detailed information before estimation of regression curves. This study proposes a method to perform clustering of data and regression analysis at the same time statistically. Ordinary EM algorithm can deal only linear model though real world problems are often nonlinear. EM algorithm is a kind of local minimization method with respect to likelihood. In order to overcome these drawbacks, a new algorithm is proposed. The proposed method is a combination of EM algorithm and Distributed Particle Swarm Optimization (DPSO). After examining the efficiency of DPSO with simple test functions, a group of deterioration curves are estimated by the proposed algorithm. Key Words: EM algorithm, inspection data, maintenance, deterioration, global optimization, Particle Swarm Optimization

1．はじめに 蓄積されたデータからなんらかの推定や予測のための

回帰モデルを作成することは様々な場面で必要とされて

いる．データに性質の異なるものが混在する場合は，いく

つかのグループに分けてからそれぞれについて回帰する

ことが好ましいが，グループ分けのための情報が不十分な

ことも多い．回帰式を求めるという立場からグループ分け

を行う方法としてEM (Expectancy Maximization) アルゴリ

ズム 1), 2)を用いることができる．EM アルゴリズムには潜

在変数と呼ばれる変数があり，グループ分けの変数を潜在

変数として扱うことでグループ分けと回帰を同時に行う

ことができる． 大竹らは岐阜県の橋梁の点検データから健全度の経年

変化に関するデータベースを作成している 3), 4)．データ中

に構造物の劣化特性が異なるデータが混在していると考

えられ，あるグループの構造物は経年劣化の進行が非常に

遅いのに対して，あるグループの構造物は急速に劣化する．

そのため，一つの劣化曲線で将来予測することは非常に大

きなばらつきを伴うことになる．そこで，大竹らは入手可

能な点検データに基づきクラスタリングなど方法を用い，

物理的な解釈も含めてグループ分けを行ってから回帰し

て劣化曲線を求めている 4)．しかし，こうしたアプローチ

は非常に手間がかかるため，吉田らは同じデータベースに

基づきEMアルゴリズムを用いて，回帰とグループ分けを

同時に行って劣化曲線群を算定する試みを行った 5)．EMアルゴリズムは線形の 小二乗法に基づいて収束計算に

より潜在変数も含めて解を求める方法であり，非常に効率

的に計算することができる．大変優れた方法であるが局所

解探索という限界ももつ．すなわち，観測方程式が線形の

問題でも複数の観測方程式を対象とする場合は局所解が

存在するため，EMアルゴリズムによる解は初期値に依存

し，尤度を 大化する大域解に収束するという保証はない．

そのため，吉田ら 5)は劣化曲線群を求める際，多くの初期

値から計算を行い，その中で 大の尤度となる解を選択す

るという方法を用いている．また，回帰線が多項式などの

線形 小二乗法の対象となる問題であれば通常の EM ア

ルゴリズムで解くことができるが，より複雑な関数を対象

とする場合は非線形 小二乗の問題となり適用すること

はできない．また，観測方程式が非線形になるとさらに多

くの局所解が存在することが予想され，DFP 法や BFGS法など 6)の非線形の局所解探索手法では不十分となる． そこで，本研究ではEMアルゴリズムに大域解探索手法

を組み込み，非線形の問題も扱うことができるように改良

したアルゴリズムの提案を行う．提案アルゴリズムでは，

観測誤差の標準偏差や潜在変数の求め方は従来の EM ア

ルゴリズムと同様であるが，非線形関数の係数の算定に対

してのみ大域解探索手法を用いている．そういった意味で

土木学会論文集 A2(応用力学), Vol. 69, No. 2 (応用力学論文集 Vol. 16), I_39-I_47, 2013.

I_39

は EM アルゴリズムの拡張あるいは変形と解釈すること

もできる．提案アルゴリズムの定式化を2章に，橋梁の劣

化特性のグループ分けと非線形劣化曲線群の回帰を同時

に行った例を4章に示す． 大域解探索手法としてはいくつかの方法が提案されて

いるが，ここでは粒子群 適化手法 PSO（Particle Swarm Optimization）を用いる．1995 年に Kennedy ら 7)によって

提案された比較的新しい方法であり，実数型の変数を対象

とした 適化に適しており，パラメタも比較的少なく扱い

やすい方法であるが，多峰性の問題（多くの局所解が存在

する問題）では局所解にとらわれやすい欠点も指摘されて

いる 8)．そこで，本研究では分散型の遺伝的アルゴリズム

の考え方 9)を取り入れた分散粒子群 適化手法 DPSO（Distributed Particle Swarm Optimization）を導入する．3章にその概要とテスト関数を用いた 適化の例を示す．

２．劣化曲線群算定アルゴリズムの提案 通常のEMアルゴリズムの一般的な定式化は文献2)に，

観測方程式（劣化曲線）が通常の多項式の場合EMアルゴ

リズムの適用例については文献5)に述べられているので

参照されたい．ここでは観測方程式が次式のように非線形

を有する場合についての解法について述べる．

( )( )∑=

+=m

iiijijj vhwz

1

x (1)

zj は j 番目の観測量であり，本研究では健全度を表す指標

となる．vが観測誤差で，xiが推定の対象なる回帰係数ベク

トルであり，それらの関数として観測量が表されるとする．

本研究ではm個の観測方程式があり，各観測情報はそのう

ちのどれかに属し，観測誤差は互いに独立な正規分布とす

る．wijはj番目のデータがどの観測方程式に従うかを示し

ており，例えば，観測方程式が3つあり（m=3），1から4番目のデータがそれぞれ観測方程式の2, 3, 2, 1番目に従う

場合は以下のようになる．

[ ]⎥⎥⎥

⎦

⎤

⎢⎢⎢

⎣

⎡=

L

L

L

001001011000

ijw (2)

それぞれの観測データがどの観測方程式に属するかがわ

かっていれば，すなわち，wijが既知であれば分類してそれ

ぞれ個別に通常の非線形の重回帰分析を行えばよい．本研

究では各観測データがどのグループ（観測方程式）に属す

るかがわからないとの問題設定のもとでxとともにwijの推

定を行うための定式化を示す．このような未知の変数を潜

在変数と呼ぶ． m個の観測方程式の混合比をd1, d2, .., dm で表すと，zj の

確率密度関数は以下の式で与えられる．

∑=

=m

iiijjij zdzp

1

),;()|( σμφθ (3)

ここで，θは推定の対象となるパラメタである．

( )mm σσσ ,,,,,, 2211 xxxθ L= (4)

ii σ,x は i 番目の観測方程式の回帰係数ベクトル，観測誤

差の標準偏差である． ( )σμφ ,;⋅ は平均μ ，標準偏差σ の

正規分布の確率密度関数を表す．j 番目の観測情報に対し

て i番目の観測方程式を用いる場合の正規分布の平均は以

下の式で算定される．

( )ijij h x=μ (5)

hjは前述のように j 番目の観測情報 zjを表す関数である．

混合比diは以下の式で求められる．

∑=

=n

jiji w

nd

1

1 (6)

ここで，nは観測データの数を表す．混合比diは次の関係

をもつ．

1,01

=> ∑=

m

iii dd (7)

EMアルゴリズムでは2種類のステップ，Eステップ（期

待値，Expectancy）とMステップ（ 大化，Maximization）の反復計算より 尤推定値を求める．第 t反復での推定値

を )(tθ とする． Eステップとして仮定した )(tθ に対する対数尤度関数の

期待値Qを以下の式で求める．

( ) ( )( )iijji

n

j

m

iij

t zdwQ σμφθθ ,;ln1 1

)( ∑∑= =

= (8)

wijはベイズの考え方に基づき次式で推定する．なお，問題

設定上wijは未知とするので，以下，記号wijは期待値を表

すとする． ( )( )∑

=

= m

kkkjjk

iijjiij

zd

zdw

1

,;

,;

σμφ

σμφ (9)

次にMステップではQ関数を各パラメタに関して 大化

する． Q関数について式(1)に示した観測方程式の観測量

誤差 v が互いに独立な同じ正規分布に従う（i.i.d.）と仮定

して具体的に書き下すと以下の式が得られる．

( ) ∑∑= =

−=n

j

m

iijij

t cwQ1 1

)(

21θθ (10)

ここで，

( ))2ln(ln2

)()ln(2 2

2

π++−

+−= ii

ijjiij σ

σhz

dcx

線形の観測方程式，誤差として正規分布を仮定している

場合は，次の条件より通常の重み付重回帰分析10)と同様の

式が誘導される．

I_40

0=∂∂

i

Qσ

(11)

0x

=∂∂

i

Q (12)

観測方程式が非線形の場合も式(11)の条件から観測誤差の

標準偏差 iσ は比較的容易に求めることができる．ここで，

式表現を簡潔にするために行列，ベクトルを用いた表記と

する．重みに関する対角行列を以下のように定義する．

⎥⎥⎥⎥

⎦

⎤

⎢⎢⎢⎢

⎣

⎡

=

in

i

i

i

w

ww

0

0

WO

2

1

(13)

観測情報に関するベクトルz, hを次のように定義する．

( )nT zzz ,,, 21 L=z (14)

( ) ( ) ( ) ( )( )iniiT

i hhh xxxxh L21= (15)

これを用いてQ関数が以下のように表現される．

( ) ( ) ( )

∑∑

∑∑∑∑

∑

= =

= == =

=

−

−+

⎟⎟⎠

⎞⎜⎜⎝

⎛−−−=

m

i

n

jij

m

i

n

jiij

m

i

n

jiij

m

iii

Ti

i

t

w

σwdw

σQ

1 1

1 11 1

12

)(

2)2ln(

)ln()ln(

)()(2

1

π

θθ xhzWxhz

(16)

標準偏差 iσ は式(11)より次のように求められる．

( ) ( ))()(1

1

2ii

Tin

jij

i

w

σ xhzWxhz −−

⎟⎟

⎠

⎞

⎜⎜

⎝

⎛=

∑=

(17)

一方，回帰係数xについては観測方程式が非線形である

ため式(12)から解くことはできず，何らかの非線形 小二

乗あるいは 適化手法が必要となる．EMアルゴリズムは

局所解を探索する手法であり，観測方程式が線形の問題で

も複数の観測方程式が存在する場合は局所解が存在する．

観測方程式が非線形になるとさらに多くの局所解が存在

することが予想される．本研究では大域解探索手法を導入

した新たなアルゴリズムを提案する．単純に式(11)(12)から解く部分を大域解探索手法に入れ替えると，EMアルゴ

リズムの繰り返し回数分だけ大域解探索を実施する必要

があり，計算時間が膨大になる．そのため，Eステップ（wij

の算定）とMステップの観測誤差の標準偏差 iσ の算定部

分だけはEMアルゴリズムの考え方を用い，回帰係数xにつ

いては大域解探索手法である DPSO (Distributed Particle

Swarm Optimization)を用いて解くこととする．DPSOの詳

細については次章で詳しく述べる．目的関数は次の負の対

数尤度関数として， 小となるxの探索を行う．

( ) ∑ ∑= =

⎟⎟⎠

⎞⎜⎜⎝

⎛−=−=

n

j

m

iiijji zdLJ

1 1

),;(ln)(ln σμφθ (18)

以上の計算手順をまとめて以下に示す． i. 回帰係数xについて粒子数（個体数）分，乱数を用いて

発生させる ii. 全ての粒子について所与の回帰係数xに対して式(17)

により観測誤差の標準偏差 iσ を算定する． iii. 全ての粒子について式(9)によりwijの期待値を，式(6)に

よりdiを算定する iv. 全ての粒子について式(18)より目的関数を算定する v. PSOあるいはDPSOのアルゴリズムに従い，次のステッ

プの粒子を発生させる（回帰係数xの更新） ステップii.からv.を収束が得られるまで繰り返す．

３．分散粒子群 適化手法の概要と 適化の効率

3.1 PSOによる大域解 適化の検証

PSO（Particle Swarm Optimization）は鳥や魚などの群の

採餌行動などに見られる群行動を探索手法に応用したも

のであり，粒子をある生物の個体として考えると，個体が

他の個体と相互に影響を及ぼし合いながら群行動をとる

ように 適解を探して移動する．PSO は連続値をとる実

数変数の探索に向いているとされている 8)．また，プログ

ラミングが極めて簡単であり， 適化のためのパラメタが

少なく使いやすいといった利点がある． 各粒子は位置ベクトルを次式に従って更新する

ことによって移動する．

)1()1()( 11 −+−= −− tvtxtx ki

ki

ki (19)

ここで，xik：位置ベクトルの成分 i，vi

k：速度ベクトルの

成分 i， k：粒子番号，t : 繰り返し回数である．速度ベ

クトルの更新式は以下の式で表される．

))1((

))1((

)1()(

2

1

1

−−+

−−+

−= −

txgcr

txpcr

twvtv

kiig

ki

kip

ki

ki

(20)

ここで， r1，r2：0 から 1 までの一様乱数，pik：粒子 k が

これまでに発見した 良解ベクトル(パーソナルベスト)，gi：全粒子が反復回数 iまでに発見した 良解ベクトル(グローバルベスト)， w：前回の速度ベクトルにかかる重み

定数，cp：パーソナルベストの項にかかる重み定数，cg：

グローバルベストの項にかかる重み定数である． まず，PSOの基本性能を確認するため多くの 適化手法

のテスト関数として使われている Rastrigin 関数 9)と

Rosenbrock 関数 8)を対象に基本検討を行う．Rastrigin 関数

I_41

は多くの局所解が存在する関数であり，Rosenbrock関数は

変数間に強い相関がある関数である．Rastrigin関数につい

ては次式で表される．図－1(1)にn=2の場合の鳥瞰図を示

す．

)5.12 5.12(

))2cos(10(10)(F1

2Rastrigin

＜≦　　　　　　　 i

n

iii

x

xxn

−

−+= ∑=

πx (21)

テスト関数の下添え字 i は式(20)とは異なりベクトル x の

成分を表していることに注意されたい．同様にして

Rosenbrock関数の式，並びに図－1(2)にその鳥瞰図を示す．

2.048)2.048(

))1()(100()(F1

1

2221Rosenbrock

＜≦　　　　　　　 i

n

iiii

x

xxx

−

−+−=∑−

=+x (22)

PSO の 適化のためのパラメタとして，w につい

ては 0.8や 0.9など 1より若干小さい値を，また cp，

cg は 1 に非常に近い値を用いることが推奨されて

いるが 8)，各パラメタの機能を確認するため表-1に示すように 0.1 あるいは 0.9 と極端な値に設定し

て計算を行った．粒子数は 100 とした．それぞれの

ケースについて乱数の種を変えた計算を 10 回実施

してその計算効率の比較を行った．式(21)(22)の nは 4 としており， 適化の対象となる変数の数は 4個である．図－2 に Rastrigin 関数と Rosenbrock 関

数について各ケース 10 回分の収束過程を示す．乱

数の種を変更してさらに 10 回の計算を追加し，計

20 回中何回真値まで至ったかを表－1 に示した． 図－2 での点線は真値（目的関数の値が 0）に至

らなかった場合を示している．両方の関数ともにケ

ース 2 は所定の反復回数(2000 回）では真値に至っ

ていない．ケース 2 はパラメタ w の値を小さくし

たケースである．w は前のステップでの速度ベクト

ルにかかる重み定数であり，慣性力の大きさのよう

にその値を大きくすると前回の移動の方向を保持

して同じ方向に動く傾向が強くなる．このパラメタ

を小さくしたケース 2 の結果は両方の関数とも

(1) Rastrigin関数

(2) Rosenbrock関数

図－1 テスト関数の鳥瞰図（2次元の場合，n=2）

(1) Rastrigin関数

1.0×101

1.0×10‐1

1.0×10‐3

1.0×10‐5

1.0×10‐7

目的

関数

1.0×101

1.0×10‐1

1.0×10‐3

1.0×10‐5

1.0×10‐7目的

関数

1.0×10‐7

1.0×10‐9

1.0×10‐11

(2) Rosenbrock関数

図－2 PSOによる収束過程，各ケース10回

表－1 PSOのパラメタと 適化の結果

ケース 番号

w cp cg 真値回数*

Rastrigin Rosenbrock1 0.9 0.9 0.9 10 13 2 0.1 0.9 0.9 0 0 3 0.9 0.1 0.9 12 7 4 0.9 0.9 0.1 11 18

注意 粒子数は100 真値回数*：20回中何回真の 適解に達した

かを表す．

I_42

適解が得られていない．Rastrigin 関数についてケー

ス 3 と 4 を比較すると，グローバルベストに関する

係数 cg が小さいケース 4 の方が全体的に速く目的

関数が小さくなる傾向があるが，設定した反復回数

内での真値に至った回数はケース 3 が 20 回中 12回，ケース 4 が 20 回中 11 回と大差はなかった．ま

た，Rosenbrock 関数の収束結果についてケース 3と 4 を比較すると係数 cgが大きいケース 3 の方が

全体的に速く目的関数が小さくなるが，真値に至っ

た回数はケース 3 の 20 回中 7 回に対して，ケース

4 では 20 回中 18 回という結果になり，設定した反

復回数内での収束回数はケース 4 の方が多かった． 図－3 に Rastrigin 関数を対象とした場合について初

期段階の粒子分布とケース1, 3, 4に対して真の 適解

が求められた段階での粒子分布の例を示す．前述の

ように式(21)において n=4 としており， 適化の対

象となる変数は 4 個である．2 次元空間に図示する

ため，一つの解を赤と黒の 2 色の○のペアで示して

いる． 適解は全ての変数が 0 の場合であり，ケー

ス1や3では全体的に 適解である中央に集まって

きている．一方，ケース 4 では局所解に集まりつつ

も 適解である中央に集まってきている様子がわ

かる．ケース4はグローバルベストの項にかかる重

み cg を小さくしたケースであり，その粒子がそれ

まで経験した 良解の周辺で移動する傾向がある．

Rastrigin 関数のように非常に多くの局所解が存在する問

題では cg を小さくして各粒子が独自に探索する傾

向が強い方が，探索効率がよいこと示唆している．

しかし，問題の特性を事前に知ることは困難であり，

一般に推奨されているケース 1 が安定した計算効

率が得られると思われる．

3.2 DPSOによる大域解 適化の検証 PSO は一度局所解にトラップされるとなかなか抜け出

せないことが指摘されている 8)．後述する4章の劣化曲線

群の算定においても通常の PSO を用いる場合は局所解に

トラップされ抜け出せない場合が多かった．そこで，分散

遺伝的アルゴリズムDGA (Distributed Genetic Algorithm)の考え方 9)を PSO に導入した DPSO(Distributed Particle Swarm Optimization)により計算効率の改良を図る．DGAで

は集団全体に対して交叉を行うのではなく，小集団に分け

その小集団の中で独立した GA の操作による 適化が一

定世代行われる．この小集団を島と呼ぶ．ある程度の 適

化が進んだ段階で島の間で情報の交換を行う．各島で独自

に発達した文化がある時期に住民が移住し，文化交流が行

われてさらに発展する様子に似ている．この考え方をPSOに適用し，DPSOと呼ぶことにする．移住，すなわち情報

交換の方法もいくつか考えられるが，本研究では全体で

も目的関数の小さな個体の情報を各小集団にコピーする

方法を採用した． 従来のPSO を島の数が 1 のDPSO と考え，さらに島の

数3，6のケースを設定した．各ケースのパラメタを表－2に示す．粒子数は各ケース200とした．PSOの 適化のた

めのパラメタ w は 0.9，cp，cgは 1 とした．表中の反復回

数は移住が行われるまでの回数であり，たとえば反復回数

50回で移住を10回行うということは総計500回の反復回

数となる．総計算数が同じになるように各ケースの反復回

数や移住回数を決めている．前述の2つのテスト関数に対

する目的関数の収束の過程を図－4に示す．横軸は計算負

荷を比較できるように計算回数とした．たとえば，島数

(1) 初期の粒子配置 (2) ケース1

(3) ケース3 (4) ケース4

図－3 初期粒子分布と 終粒子分布（Rastrigin関数）

表－2 DPSOパラメタと 適化の結果

(1) Rastrigin 関数

PSO DPSO

ケース1

ケース 2

反復回数 4800 50 50 島の数 1 3 6 移住回数 32 16 真値回数* 15 18 20

(2) Rosenbrock 関数

PSO DPSO

ケース1

ケース2

反復回数 1500 50 50 島の数 1 3 6

移住回数 10 5 真値回数* 18 20 20 注意 粒子数は200

真値回数*：20回中何回真の 適解に達し

たかを表す．

I_43

1 で粒子数 100，反復回数 50 の場合は計算回数

100×50=5000 回に，島数 5 で粒子数 20，反復回数 10，移

住が5回終了した段階では5×20×10×5=5000回となり計算

負荷は同じになる．図－4に示すように島数が少ない方が

早く目的関数が小さくなるが，場合によってはある一定の

目的関数からの低減が進まなくなり， 適解まで至らない

場合もみられる．すなわち，効率は良いが安定性が乏しく

なっている．効率と安定性はトレードオフの関係にあり，

島数を増やすことにより効率性を損なうことになるが，安

定性は増すことを示している．島数を6としたケース2では両方のテスト関数に対して20回中20回真の解に至って

いる．

４．劣化曲線群算定への適用

4.1 通常の EM アルゴリズムによる劣化曲線群算定結果

の概要 橋梁の健全度に関するデータを対象に提案するア

ルゴリズムを用いて劣化曲線群を算定する．対象と

したデータは，岐阜県が作成した橋梁点検マニュアル11)

に基づいて，2001年から2006年までに県が行った定期点検

の結果をデータベース化したものである3), 4)．対象とする

橋梁は，岐阜県が管理する鋼橋のRC床板で，橋長15m以上，

完成年度が1956年以後の全341橋である．完成年度に制限

を設けた理由は，過去の補修履歴の情報が現存していない

ためであり，この制限により，補修・補強の影響をできる

だけ除くことを意図した．1956年は，1等橋の設計荷重が

13tfから20tfへ変更された年であり，耐力が不足する1956年以前の橋梁はなんらかの補修・補強がなされた可能性が

高いと考えている．多岐の項目に渡る点検結果を整理し，

これを主成分分析やクラスター分析により統計的に縮約

し直すことを提案しており，そこで得られる総合評価点は

連続量となっている3), 4)． 健全度zは5が上限であることから建設直後は5であると

仮定して，経過年数y1に関する2次曲線に主成分分析より

求められた第2主成分も説明変数y2として加えた以下の回

帰式を考える．

vcybyayz ++++= 21215 (23)

点検の細目項目で構成される多変数データに対して主成

分分析を実施しており，第2主成分は損傷の特徴，すなわ

ち劣化機構を差別化する指標であると解釈している．本論

文の主題は曲線群算定のためのアルゴリズムの提案であ

るため，点検のデータの分析そのものについては省く．詳

細は文献4)を参照されたい． 式(23)を対象に通常のEMアルゴリズムによる劣

化曲線群算定の試みがなされており5)，その結果を図

－5に示す．縦軸が健全度を，横軸が建設後の年数を

表しており，上述の連続量で表した健全度がプロッ

トされている．全体的には経年とともに健全度が劣

化する傾向がみられるがそのばらつきは大きく，ほ

とんど劣化しない橋梁も見られる．なんらかの情報

によってグループ分けしてそれぞれのグループごと

に回帰曲線を算定することが好ましいが，グループ

分けを行うための十分な情報が得られない場合も多

い．そこで，EMアルゴリズムによってグループ分け

と回帰を同時に行うことを試みた結果が図－5であ

る．各データの色はグループ分けを表している．式

(9)で表される重みwijは各グループ（劣化曲線）への帰

1.0×101

1.0×10‐1

1.0×10‐3

1.0×10‐5

1.0×10‐7

目的

関数

0 5 10

計算回数（×105）

(1) Rastrigin関数

(2) Rosenbrock関数

1.0×101

1.0×10‐1

1.0×10‐3

1.0×10‐5

1.0×10‐7目的

関数

1.0×10‐7

1.0×10‐9

1.0×10‐11

0 10 20 30

計算回数（×104）

図－4 PSOとDPSOによる収束過程の比較 各ケース20回

図－5 岐阜県橋梁の健全度データと通常

の EM アルゴリズムにより得られた劣化

曲線群

健全度

経過年数

I_44

属の強さを表しており， 大の値（重み，帰属度が

一番高いグループ）の曲線の色と同じとした．マー

クの大きさは帰属度の大きさに関連させており，帰

属度が1.0に近いほど大きなマークとしている．既往

の検討5)により情報基準BICによる検討により劣化

曲線4本の場合が 適なモデルと判定されているた

め，ここでは曲線4本の問題を対象に検討する． 図－5に示した劣化曲線群はEMアルゴリズムを用

いた収束計算において20種類の初期値を設定して，

その中の 大の尤度関数となったものを採用してお

り，大域解探索手法の導入を今後の課題として挙げ

ている5)．また，線形問題となる2次式を劣化曲線と

して採用していることから，図－5に示すように下に

凸の場合は 小点以降，健全度が回復する曲線が求

められるという問題も生じており，劣化予測を行う

場合は， 小点以降は水平と仮定している5)．

4.2 提案アルゴリズムによる線形劣化曲線群の算定 ここでは 4.1 で述べた問題に対して，2 章および 3

章で提案した EM アルゴリズムと PSO あるいは

DPSO を組み合わせた方法で劣化曲線群が得られる

かについて検証する．PSO を用いた場合の尤度関数

の収束過程を図－6に示す．粒子数は 200，前ステッ

プの速度ベクトルにかかる重み定数 w は 0.9，パー

ソナルベスト及びグローバルベストの項にかかる重

み定数 cp，cgは共に 1.0 とした．乱数の種を変えて

10 回の計算を行った．PSO は大域解探索問題である

がそれでも乱数の種（初期値）に依存して収束結果

の目的関数（尤度）が大きく異なり局所解にトラッ

プされていることがわかる．EM アルゴリズムを用

いた検討では， 初に通常の 小二乗法を行い，求

められた回帰係数に乱数による揺らぎを与えて EMアルゴリズムによる収束計算の初期値としている．

つまり，全体に対する通常の 小二乗解から徐々に

グループ分けされた 小二乗解に変化していくよう

な計算過程となる．それに対して本計算手法では

PSO を用いて解の許容領域全体を探索することがで

きる．しかし，そのためより多くの局所解にトラッ

プされやすい難しい問題となっている．局所解に収

束した場合の目的関数が大きい場合，中程度の場合

の劣化曲線群を図－7 示す．(1)の目的関数が大きい

場合のように常識的に受け入れがたい劣化曲線群に

収束する場合もあるが，目的関数の値が大きいため

DPSO の導入など 適化手法の性能を向上させるこ

とで解決できる． 一方，EM アルゴリズムより小さな目的関数が求

められる場合も見られた．その例を図－8に示す．こ

のケースでは上から 2 番の赤で示された劣化曲線の

対象となったデータはほぼ水平に並んでおり，その

誤差の標準偏差は非常に小さい． 適化手法の立場

からは目的関数値が小さく適切な解だが，劣化曲線

としては問題がある．特定少数のデータを説明する，

誤差の標準偏差が小さな劣化曲線であり，本質的な

意味があるとは考えにくい．こうした解を排除する

ためにデータ数や標準偏差に下限値を設けた．それ

図－6 PSO を用いた場合の尤度関数の収束 過程

‐200

‐150

‐100

‐50

0

0 10 20 30

目的

関数

計算回数(×105)

目的関数 大

目的関数 中

目的関数 小

経過年数

健全度

(1) 目的関数 大 (-95.60)

経過年数

健全度

（2）目的関数 中（-168.5）

図－7 局所解の例

I_45

ぞれ，標準偏差の下限値は 0.02，データ数の下限は

データ総数の 10%とした．これらの条件を満たさな

い場合はそれぞれペナルティーを与えて排除するよ

うにした．今回のデータに対しては EM アルゴリズ

ムにより工学的に受け入れられる解が得られたが，

問題によっては受け入れがたい解が得られる場合も

予想される．また，上記のような下限を設けるなど

操作を導入することも簡単ではない． DPSO を導入し，上記の下限値を考慮して 適化

を行った結果を図－9に示す．粒子数は 200，繰り返

し回数は 400，島を 10，世代（移住）4 とし，前ス

テップの速度ベクトルにかかる重み係数 w は 0.9，パーソナルベスト及びグローバルベストの項にかか

る重み係数 cp，cgは共に 1.0 とした．それぞれ乱数

の種を変えて 20 回の計算を行った．比較のため PSOによる 20 回の計算結果も図に示した．PSO の係数や

粒子数は DPSO と同様とした．また，計算負荷を

DPSO と比較できるように繰り返し回数は大幅に増

加させた（16000）．DPSO の結果は線ではなく移住

後の 適な目的関数を赤の○で示した．移住は 4 回

行っているが，3 回目まででほぼ収束しているため 3回までの結果を示している．PSO では繰り返し回数

を増やしても局所解から抜け出せない場合が多くみ

られるが，DPSO では安定した収束性が得られてい

る．得られた劣化曲線群はほぼ図－5 と同様である

ためここでは省く．

4.3 提案アルゴリズムによる非線形劣化曲線群の算定 これまでの検討では 2 次曲線を用いて劣化曲線を

表しており，曲線によっては下に凸（2 次の項が正）

になり 小点が現れた以降は健全度が回復するモデ

ルとなる．現象として不自然であるため予測に用い

る場合は 小点以降は健全度が経年によって変化し

ないとしていたが，統計分析上もそうした 小点以

降は回復しない曲線を対象に回帰をかけることが好

ましい．そこで，下に凸となる場合は(a>0)，以下の

式によって回帰を行うこととする．

( ) 1211 5 vcyb,a,yfz +++= (24)

ここで，

⎪⎪⎩

⎪⎪⎨

⎧

−≥−

−<+=

aby

ab

abybyay

bayf

2,

4

2,

),,( 2

2

式(24)を用いる場合，非線形回帰の問題となり通常

の EM アルゴリズムでは解くことができない．提案

したアルゴリズムを用いて式(24)を対象に劣化曲線

群の算定を行った．DPSO のパラメタとして，粒子

数 200，繰り返し回数 200，島数 5，世代（移住）4とした．重み係数 w は 0.9，重み係数 cp，cg は共に

1.0 とした．式(23)を用いる場合と比べ，少ない計算

量でも比較的安定した結果が得られる印象である． 算定された劣化曲線群を図－10 に示す．当然のこ

とながら 小点以降が回復するような曲線とはなっ

ていない．図－5とほぼ同じような結果が得られてお

経過年数

健全度

図－10 非線形回帰の例 式(24)を対象とした劣化曲線群

図－9 DPSOとPSOによる劣化曲線群算定の

収束過程

‐200

‐100

0

100

200

300

0 100 200

目的

関数

計算回数(×105)

○ DPSO 収束過程

― PSO 収束過程

図－8 特定のデータを小さな標準偏

差で回帰する例（目的関数-202.5）

経過年数

健全度

I_46

り，今回のデータでは算定される曲線群に大きな差

はなかったが，データによっては 2 次曲線である式

(23)と非線形 小二乗法になる式(24)では結果が異

なる場合も考えられる． ここで示した結果は試算例であり，提案したアル

ゴリズムを用いることで，式(24)以外の式について

も関数形にとらわれることなく自由に回帰を行うこ

とができる．

５．まとめ

本研究では本研究ではEMアルゴリズムに大域解探索

手法を組み込み，非線形 小二乗の問題も扱うことのでき

るように改良したアルゴリズムの提案を行った．大域解探

索手法としてはいくつかの方法が提案されているが，本研

究では分散型の遺伝的アルゴリズムの考え方を取り入れ

た分散粒子群 適化手法DPSO（Distributed Particle Swarm Optimization）をアルゴリズムに導入した．既往の論文で示

した線形の問題5)について提案した方法で同様の解をもと

めることができることを示した．また，通常のEMアルゴ

リズムでは解くことができない非線形の式に基づく回帰

を行い，劣化曲線群の試算を行った．なお，本研究では

DPSOを用いたが，PSOとGAのアルゴリズムの融合など

効率を高めるための工夫が報告されており 12)13)，そうした

新の方法を導入することにより，さらに効率を高めるこ

とが可能であろう． 提案するアルゴリズムでは計算負荷は大きくなるもの

の回帰のための関数形や誤差の確率分布にとらわれるこ

となく自由に回帰を行うことができる．誤差については

正規分布を用いることが一般的であるがそれ以外の

確率分布の考慮や平均値に依存させた標準偏差のモ

デル化（図－5, 10 などからも明らかなように劣化が

進行するとそのばらつきも大きくなっている），な

ど統計分析の自由度が大幅に向上する．こうした，

より現実に即したモデルに基づく劣化曲線群の算定

について現在準備中であり，追って報告する．

参考文献 1) Dempster, A.P., Laird, N. M. and Rubin, D. B.:

Maximum-likelihood from incomplete data via the EM algorithm, Journal of the Royal Statistics Society, B39, pp.1-38, 1977.

2) 樺島祥介，上田修功：計算統計 I，第 III部平均場近似・

EM法・変分ベイズ法，岩波書店，2003. 3) 大竹雄，流石尭，本城勇介，村上茂之，小林孝一：統

計的手法を用いた橋梁点検データベースに基づく橋

梁健全度評価に関する基礎的研究，土木学会論文集

A2（応用力学），Vol.67，No.2（応用力学論文集 Vol. 14），pp.I_813-I_824，2011.

4) 大竹雄，流石尭，小林孝一，本城勇介：橋梁点検デー

タベースの統計解析に基づく劣化機構を考慮した鋼

橋RC床板の健全度評価，土木学会論文集A1(構造・

地震工学，Vol.68，No.3，pp.683-695，2012. 5) 吉田郁政，本城勇介，大竹雄：EMアルゴリズムを用

いた劣化曲線群の同定法EM，土木学会論文集A1（構

造・地震工学），Vol.69, No.2，174-185, 2013. 6) 嘉納秀明：システムの 適理論と 適化，コロナ社，

1987 7) J. Kennedy and R. Eberhart, Particle swarm optimization:

Proc. of IEEE Int. Conf. on Neural Networks, vol.4, pp.1942–1948, 1995.

8) 古川正志，川上敬，渡辺美智子，木下正博，山本雅人，

鈴木育男：メタヒューリスティクスとナチュラルコン

ピューティング，コロナ社，2012． 9) 相吉栄太郎，安田恵一郎：メタヒューリスティクスと

応用，電気学会，2007． 10) 中川徹，小柳義夫： 小二乗法による実験データ解

析，東京大学出版会，1982. 11) 岐阜県県土整備部道路維持課: 岐阜県橋梁点検マニュ

アル, 2010. 12) Kao, Y.T., Zahara, E.: A hybrid genetic algorithm and

particle swarm optimization for multimodal functions, Applied Soft Computing, 8, 849–857, 2008.

13) Mahmoodabadi, M.J., Safaie, A.A., Bagheri, A. and Zadeh, N.N.: A novel combination of Particle Swarm Optimization and Genetic Algorithm for Pareto optimal design of a five-degree of freedom vehicle vibration model, Applied Soft Computing, 13, 2577–2591, 2013.

（2013年3月18日 受付）

I_47