yyoshida thesis

Kyoto University, Japan

Studies on Constant-Time Algorithms for Bounded-Degree

Graphs and Constraint Satisfaction Problems

（次数を制限したグラフと制約充足問題に対する定数時間アルゴリズムの研究）

京都大学　情報学研究科通信情報システム専攻

田　悠一𠮷


研究の背景

• 巨大なデータを扱う必要性– 例 : ゲノム， Web ，ユーザログ，天文

データ ...

• 線形 / 多項式時間アルゴリズムでさえ遅すぎる計算時間が

入力長 n に依存しないアルゴリズムは作れないか？


定数時間アルゴリズムの考え方

例 : グラフの連結性の判定

• 入力長 n の ε 倍の誤差を許容する• 確率的アルゴリズム• 入力を読むオラクルを仮定• RAM モデル (log n 長の演算は定数時間で可

能 )

連結殆ど連結全然連結でない


定数時間アルゴリズムとは

先の方針に従って問題を緩和する• 判定問題 ⇒ 性質検査• 最適化問題 ⇒ (α, β) 近似

定数時間アルゴリズム : 計算時間が入力長 n に依存しないアルゴリズム

⋇ ε などのパラメータには依存してよい


性質検査[Blum, Luby Rubinfeld ’93; Rubinfeld, Sudan ’96]

• 判定問題の緩和• 入力 I が性質 P から ε-far:

– I を ε 割合書き換えないと P を満たさない．

判定問題 P に対する ε- 検査アルゴリズム= P を満たすか ε-far かを高い確率で判定

P

P でない

入力全体受理

拒否

従来 :P

ε-far

入力全体確率 2/3以上で受理

確率 2/3以上で拒否

検査 :


(α, β) 近似[Chazelle, Rubinfeld, Trevisan ’05]

• 最適化問題の緩和• 最適値 x* の (α, β) 近似 ( 最大化問題の場合 )

αx* - β ≤ x ≤ x*

本研究の対象 :

最適値が O(n) の問題に対する (α, εn) 近似

最適化問題 P に対する (α, β) 近似アルゴリズム= 最適解に対する (α, β) 近似を高い確率で出力


(α, εn) 近似

例 : 最大マッチングの (1, .01n) 近似• 最適値が Ω(n)

– (1, .01n) 近似 ≒ 1.01 近似– ほぼ最適解

• 最適値が o(n)– 値 0 は (1, 0.01n) 近似– 計算の必要なし

… …

… …


定数時間アルゴリズムの扱う対象

• 関数– 線形性 [Blum, Luby, Rubinfeld ’93]

– 低次数多項式 [Rubinfeld, Sudan ’96]

– 確率的検査可能証明 (PCP) への応用• グラフ / 制約充足問題 (CSP)

– 密モデル [Goldreich, Goldwasser, Ron ’98]

– 次数制限モデル [Goldreich, Ron ’02]

• 確率分布 , 幾何 , 形式言語


何故，次数制限モデルか

実用的興味 : 実世界の多くの問題は疎理論的興味 : • 密モデルは定数時間アルゴリズムに関して完

結– 検査可能な性質の必要十分条件 [Alon et al. ’09]

– (1, εn2) 近似可能なパラメータの必要十分条件 [Borgs et al. ’06]

• 密モデルでは εn2 の誤差を許すため，多くの問題が自明になる．– 例 : 最大マッチング


本研究の目標

対象 :次数制限モデルにおけるグラフと制約充足問題

目標 : 定数時間で検査可能 / (α, εn) 近似可能な問題の

特徴付け


グラフに対する次数制限モデル [Goldreich, Ron ’02]

• d: 次数の上限• 入力グラフ G = (V, E) はオラクル𝓞 G で表現

– 𝓞G(v, i): 頂点 v に隣接する i 番目の頂点

• G が性質 P から ε-far: P を満たすには少なくとも εdn 本の枝の追加及び削除が必要．

v1

23


既存結果 ( グラフ )

• 性質検査– 連結性 , k 枝連結性 [Goldreich, Ron ’02]

– k 点連結性 [Y., Ito ’08], 外平面性 [Y., Ito ’09]

– H- マイナーフリー [Benjamini et al. ’10]

• (α, εn) 近似– 最小全域木 [Chazelle et al. ’05]

– 頂点被覆 [Parnas, Ron ’07]

– 最大マッチング [Nguyen, Onak ’08]


既存結果 ( グラフ )

• 枝が少ないと成立しやすい性質例 : 平面グラフ，二部グラフ

• 枝が多いと成立しやすい性質例 : 完全マッチングを持つ， k 枝連結性

検査可能 ε 割合の枝を削除すると，定数サイズの連結成分に分割可能

≒

[Hassidim et al. ’09; Newman, Sohler ’11]

検査可能 ≒ ？


本研究の成果（グラフ）

完全マッチングの検査≒ 最大マッチングの (1, εn) 近似

計算量を 1/ε に関して指数的に改善

(k, l) 疎性に対する検査アルゴリズム⇒ 既存結果の統一

剛性 k 個の枝素な全域木を持つ


制約充足問題　 (CSP)

値の集合 : L入力 : I = ( 変数集合 V, 制約集合 C)目的 : 全制約を満たす変数割り当てを見つける• 制約の種類により様々な問題になる．

– 線形連立方程式， kSAT ， k彩色性• 次数制限モデル

– オラクル : 変数 v を含む i 番目の制約を返す

– ε-far: 充足可能にするには εdn 個の制約の削除が必要


既存研究 (CSP)

CSP: 制約が全て充足可能か検査• Horn SAT: O(1) [Y., Kobayashi ’11]

• 2彩色性 : Θ(√n) [Goldreich, Ron ’99]

• 3SAT, 線形連立方程式 : Ω(n) [Bogdanov et al.’02]

Max CSP: 制約を出来るだけ多く充足する• Max SAT: (2/3, εn) 近似 [Trevisan, unpublished]

~


研究の成果（ CSP ）

Horn SAT ⇒ 検査可能2SAT ，線形連立方程式， 3彩色性 ⇒ 検査不可能

例：最大カット• ∀δ>0 ， (½, δn) 近似は定数時間で可能．• ∀ε>0 δ>0∃ ， (½+ε,δn) 近似は定数時間で不可

能．

全ての CSP に対する最適な定数時間近似アルゴリズム

定数時間で検査可能な CSP の必要十分条件


最大マッチングの (1, εn) 近似の高速化


最大マッチング

• マッチング : 点素な枝の集合• 以下の貪欲法を考える．入力：グラフ G = (V, E) ，枝の順番 π　 Mπ := ∅　 for each e 　（順番が小さい順に）　　 if e が Mπ と頂点を共有しない　　　 Mπ := Mπ + e　 return Mπ

[補題 ] 任意の π に対して， |Mπ| |≧ M*|/2

M*: 最大マッチング


最大マッチングの (2, εn) 近似

• ある π に対して |Mπ| を定数時間で近似したい• 以下の様なオラクル𝓞 π が有ると仮定．𝓞π(e) = [e が Mπ に含まれる ]

　 F := O(d2/ε2) 個のランダムな枝集合　 c := F のうちMπ に含まれる枝の個数　 return cm / |F| m: 枝数

[ 定理 ] 高い確率で cm / |F| は |Mπ| の (1,εn) 近似 ⇒ M* の (2, εn) 近似


𝓞π の作成[Nguyen, Onak ’08]

⇒ 計算量 2O(d)/ε2 の (2,εn) 近似アルゴリズム

𝓞π(e):　 res := true

　 for e に隣接する枝 f　　　 if f は e より順番が前 and 𝓞π(f ) = true

　　　　 res := false　 return res

[Nguyen, Onak ’08]

任意の e に対して， Eπ[𝓞π(e) のクエリ計算量 ] = 2O(d)


𝓞π の改良　 [ 本研究 ]

⇒ 計算量 O(d4/ε2) の (2,εn) 近似アルゴリズム

𝓞π(e):　 for e に隣接する枝 f 　（小さい順に見る）　　　 if f は e より順番が前 and 𝓞π(f) = true

　　　　 return false　 return true

[ 定理 ] Ee,π[𝓞π(e) のクエリ計算量 ] = O(d)



• 増加パスを利用

• 各Mi に対するオラクルを階層的に構築

長さ 1 の増加パスを適用

長さ 3 の増加パスを適用

長さ 5 の増加パスを適用G M1 M3 ...

𝓞G 𝓞M1 =Oπ 𝓞M3...



• マッチング M1/ε の大きさを近似する

• [Nguyen, Onak ’08] から指数的に改善

• 最小頂点被覆，最小集合被覆問題でも，指数的に改善．

[ 定理 ] 最大マッチングに対する計算量の (1,εn) 近似アルゴリズムが存在

(d/ε)O(1/ε2)

dO(1/ε) 2


(k, l) 疎性に対する検査アルゴリズム


(k, l) 疎性

(1,1) 疎 = 森

(1,1) 完全 = 連結

G = (V, E) が (k, l) 疎 : 任意の空でない F⊆E に対して， |F| ≤ k|V(F)|-l

（ V(F): F に隣接する頂点集合）

G = (V, E) が (k, l) 完全 :枝数 k|V| - l の (k, l) 疎な全域部分グラフを持つ


(k, l) 完全性の検査

[ 定理 ] 以下に対する定数時間アルゴリズム• 最大 (k, l) 疎枝集合に対する (1,εn) 近似• (k, l) 完全性の検査

(1, 1) 完全 = 全域木を持つ = 連結

(2, 3) 完全 = 剛である(k, k) 完全 = k 個の枝素な全域木を持つ

(k, l) 完全 (k≥l)

= 枝素な l 個の全域木と k-l 個の全域擬似木を持つ


(k, l) 疎な枝集合はマトロイドをなす以下の多項式時間アルゴリズムを定数時間で模倣

最大 (k,l) 疎枝集合の (1, εn) の近似

マトロイドを利用した単純化

G G’G’ の最大

マッチング M|M| を出力

G’ においては| 最大 (k,l) 疎枝集合 | |≒M|

前章の結果を利用して，定数時間で計算


その他の結果

• 枝増加問題の手法により証明• 以前の二つの結果を統一

– k 個の枝素な全域木 (l = 0)– 2k 枝連結性 (k = l)

[ 定理 ] (k, l) 枝連結向き付け可能性は定数時間で検査可能


全ての CSP に対する最適な定数時間近似アルゴリズム


Max CSP

• Max CSP: 制約を出来るだけ多く充足する• MaxCSP(L, Λ): 使う値を L ，制約を Λ に限

定

例 : Max Cut

Max Cut = MaxCSP({0,1}, {R})

u

v w

(u, v), (v, w), (w, u) ∈ RR ={(0, 1), (1, 0)}⇔


最適な定数時間近似

自明(O(1) 時間 )

LP(O(1) 時間 )

W(n1/2) 時間必要

Max SAT 0.5 0.75 0.75+ε

Max Cut 0.5 0.5 0.5+ε

Max Dicut 0.25 0.5 0.5+ε

Max k-CSP 1/2k 2/2k 2/2k+ε

[ 定理 ] 任意の MaxCSP(L, Λ) に対して、• ∀δ>0, (α, δn) 近似は定数時間で可能• ∀ε>0, δ>0, (α+ε, δ∃ n) 近似は Ω(n1/2) 時間必要α = BasicLP の整数化ギャップ (∀I, opt(I) ≥ α∙lp(I))

一致

一致

一致

一致


[Raghavendra ’08] との比較本研究

（定数時間近似）[Raghavendra ’08]( 多項式時間近似 )

任意の Max CSP に対して BasicLP が最適

任意の Max CSP に対して BasicSDP が最適

仮定無しに下限は成立 Unique Games予想[Khot ’02] の下で下限は成立

充足可能な入力でも下限は成立

充足可能な入力では下限は不成立


検査可能な CSP の必要 / 十分条件

[ 定理 ]• CSP(L, Λ) が BasicLP で頑健に判定可能　　⇒ 定数時間で検査可能• 定数時間で検査可能

⇒ CSP(L, Λ) が BasicLP で判定可能

CSP(L, Λ) が BasicLP で判定可能 :　　 lp(I) = 1 opt(⇒ I) = 1.CSP(L, Λ) が BasicLP で頑健に判定可能 :　　 lp(I) = 1 – ε opt(⇒ I) ≥ 1 – r(ε).

r(0) = 0 かつ limε→0r(ε) = 0


BasicLP (Max Cut の場合 )

μe: 枝 e への割り当ての確率分布xv: 頂点 v への割り当ての確率分布μ(u,v) と xu, xv は一貫している目的関数 : Ee Eβ 〜 μe [β = (0, 1) or (1, 0)]

½⋅ + ½⋅ =vu vu

μe

vu

xu xve e


上限 : (α, δn) 近似は定数時間で可能

以下の多項式時間アルゴリズムを定数時間で模倣

BasicLP LP 解定数サイズの入力 I’

I I’

lp(I) lp(≒ I’) ⇒ opt(I’) ≥ α lp(⋅ I’)

≒ α lp(⋅ I)

I’ の最適解 β’

I の近似解 β

val(I, β) opt(≒ I’)≥ α lp(⋅ I) ≥ α opt(⋅ I)


下限 : (α+ε, δn) 近似は定数時間で不可能

• 整数化ギャップ入力 I から二つの入力分布を作成

入力分布 DY

I

lp(I) = copt(I) = αc

入力分布 DN

Yao’s Minimax Principle

定数時間では分布 DY と DN を区別できない

定数時間では (αΛc+ε, δn) 近似できない

: Pr[opt(J) ≥ c] = 1J~DY

: Pr[opt(J)≤ αc+ε] = 1 – o(1) J~DN


定数時間で検査可能な CSP に対する必要十分条件


定数時間で検査可能な CSP の特徴付け

• 検査可能性の組み合わせ的特徴付け• CSP(L, Λ) が幅 k: 一度に k 変数しか見ない”或る”伝搬アルゴリズムが充足性を正しく判定

CSP(Λ) LP で頑健に判定可能

幅

Horn SAT Yes 1

2SAT No 2

線形連立方程式 No ∞

3SAT No ∞


定数時間で検査可能な CSP の特徴付け

[ 定理 ]幅 1 ⇒ BasicLP で頑健に判定可能 [ 本研究 ]

BasicLP で判定可能 ⇒ 幅 1[Kun, O’Donnell, Tamaki, Y., Zhou ’12]

[系 ] CSP(L, Λ) が定数時間で検査可能if and only if

CSP(L, Λ) が幅 1

⊆

BasicLP で頑健に判定可能 ⇒定数時間検査可能定数時間で検査可能 ⇒ BasicLP で判定可能


今後の課題（グラフ）

• 検査可能な性質の特徴付けの完成

• 枝が多いほど成り立ちやすい性質– k 枝連結性， k 点連結性， (k, l) 疎性， (k, l)

枝連結度向き付け可能性– 枝増加問題で統一的に説明出来る？– 枝の追加と縮約に関して閉じている性質は

全て検査可能？


今後の課題（ CSP ）

• 定数時間アルゴリズムに関してはほぼ完結

• 準線形時間アルゴリズム– 二部グラフ : Õ(√n) クエリで検査可能，幅３

– 線形連立方程式 : Ω(n) クエリ必要，幅∞

–凖線形時間で検査可能 ⇔ 幅 3 ？– 2SAT の検査のクエリ計算量？

Education

yyoshida thesis