Embed Size (px)
Citation preview
最小二乗法のしくみ
１、最小二乗法とは？
• 未知量 と観測量 とが下記のように線形の関係で与えられている時、 観測 を行うことにより、未知量 を求めたい。
• 数学的には、未知数の数だけ観測があれば、
すなわち であれば式は解け、 が求まる。
LX
X
mn X
L
DAXL
2
2
1
2
1
21
22221
11211
2
1
d
d
d
x
x
x
aaa
aaa
aaa
mnmnn
m
m
n
• しかし、現実には、難しい問題がある。
• 観測量 は、数学的な量ではなく、実際の観測値には誤差が含まれているということ。
• 観測数が未知数の数を上回る、すなわち
の場合が現実には多いということである。
（余剰観測の存在）
• すると式 は、解不定という状態に陥ってしまう。
• これを解決する方法の一つとして考え出されたのが最小二乗法である。
L
mn
DAXL
誤差がない世界
2
1
n
誤差のある現実の世界
観測で距離求める簡単な問題を考えてみよう。
距離
何回測定しても観測値は同じ。
観測の度に観測値は異なる。
距離 ＝ 距離 ＝ ？、 ?、 ？ 21 n
x x
x
このように観測誤差と余剰な観測
のため解が一つに決まらない（解不定）
このような問題を解くための方法の
一つが最小二乗法である。
すべての観測値を使って未知量をただ一つ
推定するために、「最小二乗の条件」を導入
して解く方法が考え出された。
距離観測の例で
2l
1l
nl
「最小二乗の条件」の導出
もし観測値が正規分布に従うと
仮定したら①？
ここで距離の観測値が正規分布に従うとしよう。 各観測 の平均値は で、その分散は であるとすると、観測値が
と の間の値になる確率 は次のようになる。
i
i
i
i
i dll
P
2
2
2
)(exp
2
1
il
2
i
ii dll
iP
すると一連のn個の観測値 が得られる
確率 は
で表される。
ni llll ,,,, 21 P
ni PPPPP 21
il
μ は平均、σ２ は分散。
正規分布の確率密度関数
2
2
2
)(exp
2
1)(
xxf
観測値のばらつき具合を説明する確率密度関数として広く使われている。その密度関数は、次のように表わせる。
正規分布とは？
を具体的に表せば次のようになる。 P
この確率は、 の値により変化するが、この
確率を最大にする が最も可能性の高い
距離の推定値であり、求める解であると考える。
))()()(
)(2/1(
2
12
2
2
2
2
2
2
1
2
1
121 n
n
i
n
in
lll
ePPPP
を最大にするためには、その指数部が最小でなければならないから、次の条件
が得られる。
p
最小
n
i i
i
n
n llll
12
2
2
2
2
2
2
2
2
1
2
1 )()()()(
ここで観測の重み を導入し、重みと分散の関係
を考慮すると、この条件は
と書ける。 さらに残差 を導入すれば、
と書ける。
これが「最小二乗の条件」と呼ばれているものである。
ip
最小
n
i
ii lp1
2)(
2
1
p
ii
n
i
iip1
2 最小
ここでは、観測値が正規分布に従うとして、
「最小二乗の条件」を導いたが、観測値の分布に関して特別な仮定を設けない場合でも、この
「最小二乗の条件」は未知量を推定するかなり良い条件であることが分かっている。
「最小二乗の条件」を使った最小二乗法は、
①線形の推定で
②統計的に偏りのない推定であり、
③最小の分散を与える推定で
あることが分かっている。（詳細は「観測と最小二乗法」を参照）
最小二乗法は、この「最小二乗の条件」を使って、解を推定する計算手法である。
これにより、観測値はばらつき（誤差を持ち）、
たくさんの余剰な観測があるため、解がひとつに決まらないという状態（解不定）から脱することができるのである。
最小二乗法の手順
• 観測量と未知量との関係が分かっていること。
（数学モデルが明らか）
• 観測の精度がわかっていること。
（統計モデルが明らか）
観測の分散 あるいは観測の重みが既知
• 以上の前提で
• 「最小二乗の条件」を使って 最も確からしい
未知量を推定するのが、最小二乗法である。
観測量と未知量との関係式
数学モデル
観測がどの程度の精度で行われたかを示すもの。：観測の分散
統計モデル
最小二乗の条件
未知量の推定
最小二乗法
２、最小二乗法の定式化
簡単な例での定式化
距離を 回測定して を得た。
各観測は独立して行われその標準偏差がそれぞれ である時、これらの観測値から距離を推定せよ。
nl
l
l
2
1
nlll ,,, 21
n ,,, 21
簡単な最小二乗の例
n
今最小二乗法で推定する距離を としよう。
観測値には誤差がある。この誤差に相当する量を観測値に修正してやれば、正しい距離になる。 この修正量を とすれば
と書ける。 は残差で、
右の式は、観測方程式と呼ばれている。
nn lxv
lxv
lxv
22
11
nvvv ,,, 21
x
nl
l
l
2
1
xvl
xvl
xvl
nn
22
11
nvvv ,,, 21
簡単な最小二乗の例
最小二乗の条件は、
≡最小
となる。 ここで重み は、観測の
分散と次式の関係にある。
は比例定数
（基準分散）
22
22
2
11 nnvpvpvp
nppp ,,, 21
),1(/ 22
0 nip ii
nl
l
l
2
1簡単な最小二乗の例
2
0
最小二乗の条件を具体的に表せば、
≡最小
である。 この についての2次関数が最小になるのは、この微分式がゼロになる場合である（関数は放物線であり、これが最小になるのは、 が頂点にいるときであり、その時接線の傾きはゼロ）。
22
22
2
11
22
22
2
11
)()()( nn
nn
lxplxplxp
vpvpvp
0
x
x
nl
l
l
2
1簡単な最小二乗の例
x
微分式を計算すると
である。 これから、正規方程式と呼ばれる
が得られ、これを解くと未知量 は
となる。すなわちこの場合、観測値の重みつき平均値が、距離の推定値ということになる。
0)(2)(2)(2 2211
nn lxpxpxp
x
nnn lplplpxppp 221121 )(
n
nn
ppp
lplplpx
21
2211
x
nl
l
l
2
1簡単な最小二乗の例
同じことを行列式を使って計算すると？
数学モデル
距離観測の例（行列形）
nl
l
l
2
1
x
x
x
n
2
1
XL
統計モデル
2
2
2
2
1
00
0
00
00
n
22
0
2
2
2
0
2
1
2
0
2
0
2
1
/000
0
0/0
00/
1
000
0
00
00
n
np
p
p
P
距離観測の例（行列形）
nl
l
l
2
1
重み行列 分散行列
wxAv 観測方程式
nn lxv
lxv
lxv
22
11
nn l
l
l
x
v
v
v
2
1
2
1
1
1
1
距離観測の例（行列形）
nl
l
l
2
1
xvl
xvl
xvl
nn
22
11
wxAv
PvvT 最小
距離観測の例（行列形）
nl
l
l
2
1
22
22
2
11 nnvpvpvp
≡最小 PvvT
nn
n
v
v
v
p
p
p
vvv
2
1
2
1
21
000
0
00
00
最小二乗の条件を行列で表すと
となる。
最小二乗の条件
PvvT
wxAv
PwwPAxwPwAxPAxAx
w))(AxwA(x
w)P(Axw)(AxPvv
TTTTTT
TTT
T
T
の計算
距離観測の例（行列形）
nl
l
l
2
1
0x
Ax
Ax
1
1
T
T
Ax
Ax
2
2
A2xx
Axx
T
T
3
3
0PA2wPAA2x
PAwPw)(APAA2xx
TTT
TTTTT
PvvT 最小
ベクトルの
微分法則
PwwPAxwPwAxPAxAxTTTTTT
距離観測の例（行列形）
nl
l
l
2
1
nnn lplplpxppp 221121 )(
0PA2wPAA2xx
TTT
正規方程式
が得られる。 0PwAPAxA
TT
の転置行列を取れば
距離観測の例（行列形）
nl
l
l
2
1
TTTTTTTABC(ABC)AB(AB) 転置行列の法則
この式に相当
PwAPA)(AxT1T ˆ 解
正規方程式
を解くと
解は、以下
のようになる。
0PwAPAxATT
n
nn
ppp
lplplpx
21
2211
この式に相当
PwAPA)(AxT1T ˆ最小二乗解
n
i
i
n
p
p
p
p
1
2
1
1
1
1
000
0
00
00
111
PAAT
n
i
ii
n
lp
l
l
l
p
p
p
1
4
2
1
2
1
000
0
00
00
111
PwAT
n
i
i
n
i
ii
p
lp
x
1
1ˆ
距離観測の例（行列形）
nl
l
l
2
1
観測量と未知量との関係：線形の場合
最小二乗法の定式化
n
2
1
ux
x
x
2
1
x
dxAL
2
2
1
2
1
21
22221
11211
2
1
d
d
d
x
x
x
aaa
aaa
aaa
mnmnn
m
m
n
観測量 未知量
数学モデル
観測量と未知量との関係：線形の場合 ①
dxAL
n
2
1
ux
x
x
2
1
x
dxAL
2
2
1
2
1
21
22221
11211
2
1
d
d
d
x
x
x
aaa
aaa
aaa
mnmnn
m
m
n
観測量 未知量
数学モデル
観測量と未知量との関係：線形の場合 ①
dxAL
vLL ob
wxAv obLdw
観測誤差（残差）を導入して数学モデルを書き換える
dxAL
観測方程式
数学モデル
観測量と未知量との関係：線形の場合 ②
観測量＝観測値＋残差
観測値の
分散と重み
obL
obL
P1
2
0
wxAv 観測方程式
PvvT 最小
最小二乗の条件の適用
観測量と未知量との関係：線形の場合 ③
PvvT
wxAv
PwwPAxwPwAxPAxAx
w))(AxwA(x
w)P(Axw)(AxPvv
TTTTTT
TTT
T
T
の計算
観測量と未知量との関係：線形の場合 ④
0x
Ax
Ax
1
1
T
T
Ax
Ax
2
2
A2xx
Axx
T
T
3
3
0PA2wPAA2x
PAwPw)(APAA2xx
TTT
TTTTT
PvvT 最小
ベクトルの
微分法則
PwwPAxwPwAxPAxAxTTTTTT
観測量と未知量との関係：線形の場合 ⑤
0PA2wPAA2xx
TTT
正規方程式 0PwAPAxATT
PwAPA)(AxT1T ˆ
の転置行列を取れば
解
観測量と未知量との関係：線形の場合 ⑥
まとめ
PwAPA)(AxT1T ˆ
wxAv
dxA L
最小二乗解
観測方程式
数学モデル
obLdw
統計モデル obL
obL
P1
2
0
観測量と未知量との関係：線形の場合 ⑦
vLL ob
観測量と未知量との関係：非線形の場合
最小二乗法の定式化
数学モデルが のように
非線形の場合は、最小二乗法が適用できるように の形に線形化すればよい。
)(xL f
数学モデルの線形化
数学モデルが非線形の場合①
dxAL
)(xL f dxAL
dΔxAL
Δxx
f)f(x Δx)f(xL
f(x)L
0xx00
と分け、補正量が微小量である事を考慮してモデル式をテイラー展開し線形化する。
Δxxx 0
未知量＝概略値＋補正量
線形化の手順
0xxx
fA
)f(xd 0
ここで
数学モデルが非線形の場合②
Aでの接線の傾き＝
xx
fxfxxfxf
xx
0
)()()( 00
テイラー展開の意味
)(xf
xxxx 00x
x
)( 0xf
xx
f
xx
0
0xxx
f
)( 0xf
)(xf
A
B
C
)(xf
)(xf
数学モデルが非線形の場合③
vLL ob とすると
ob
ob
ob
Ldw:wΔxAv
)L(dΔxAv
dΔxAvL
wxAv Δ 観測方程式 )(
obLdw
数学モデルが非線形の場合④
まとめ
結局、観測方程式を線形の場合と同じ形
にすることができた。
wxAv
ΔxxxPwAPA)(AxΔ0T1T ,ˆ
wxAv Δ
最小二乗解
観測方程式 )(
obLdw
数学モデルが非線形の場合⑤
後は、線形の場合の式を適用すれば良い。
行列形では、最小二乗計算は公式で表せる。
まとめ
最小二乗解
観測方程式
数学モデル
obLdw
統計モデル obL
obL
P1
2
0
数学モデルが非線形の場合⑥
)(xL f
wxAv Δ
PwAPA)(AxxT1T0 ˆ
,0xx
x
fA
,Δxxx 0 vLL ob
非線形数学モデルの例
GPS観測（単独測位）
R
),,( RRR zyx
),,( S
i
S
i
S
i zyx
衛星i
受信機
コード擬似距離
GPSの単独測位観測の場合、未知量を受信機
座標 と受信機時計誤差 とすれば、数学モデルは、コード観測値 を使って
で表される。 ここで は、衛星時計誤差。
RRR zyx ,, R
)()()()(
),,,(
222 S
iRR
S
iR
S
iR
S
i
RRRRi
czzyyxx
zyxfR
i衛星
iR
S
i
未知量＝概略値＋補正量
R
R
R
R
R
R
RRRR
RRRRi
ob
ii
zx
fy
y
fx
x
fzyxf
zyxfvRR
000
000 ),,,(
),,,(
モデルを線形に近似するためテイラー展開を行う。
単独測位の観測方程式
観測量＝観測値＋残差
RRR
RRR
RRR
zzz
yyy
xxx
0
0
0
RR i
ob
ii vRR
i衛星
各微分係数を計算すると、i衛星に対する観測方程式は
iRRiRiRii lczcybxav
0
0
0
0
0
0
,,i
R
S
i
i
i
R
S
i
i
i
R
S
i
i
zzc
yyb
xxa
2020200 )()()( R
S
iR
S
iR
S
ii zzyyxx
S
i
ob
iii cRl 0
ただし
i衛星
単独測位の観測方程式
11111 lczcybxav RRRR
22222 lczcybxav RRRR
nRRnRnRnn lczcybxav
n個の衛星を観測したとするとその観測方程式は
となる。
単独測位の観測方程式
WΔxAv
nR
R
R
R
nnnn l
l
l
z
y
x
ccba
ccba
ccba
v
v
v
2
1
222
111
2
1
これを行列で表すと
となる。
単独測位の観測方程式
観測方程式の形がこのように行列の形に求まれば、
あとは最小二乗の公式から解は以下のようになる。
Δxxx
PwAPA)(AxΔ
0T
T1T
),,,(
,ˆ
RRRR zyx
wxAv Δ
最小二乗解
単独測位の最小二乗計算
３、最小二乗解の精度
n
i
i
n
i
ii
p
lp
x
1
1ˆ
nl
l
l
2
1
最小二乗計算では、解は観測値の一次式で表される。
距離観測の例
従って、観測値に誤差が含まれていれば、その誤差は
解に影響を与える。 観測値の誤差が大きければ、結果として解の精度も悪くなるであろう。 観測値の誤差（精度）は観測の分散（あるいは標準偏差）で与えられる。 解の精度は、解の分散（あるいは標準偏差）を計算すれば分かる。
観測値の精度が解の精度にどのように影響するかを計算する式は、誤差伝搬式で計算できる。
最初に誤差伝搬式の導出を見てみよう。
観測値 の分散 が分っている時、
その一次式 （ は定数）
の分散 は次のようになる。
（ただしここで は観測の共分散）
誤差の伝播
1221
2
2
2
2
2
1
2
1
2 2 aaaax
32211 alalax
21, ll
321 ,, aaa
2
2
2
1 ,
2
x
12
証明
32211 alalax 32211 aaax
1221
2
2
2
2
2
1
2
1
221121
2
22
2
2
2
11
2
1
2
222111
2
3221132211
22
2
))((2
)()(
)()(
)(
)(
aaaa
llpaa
lpalpa
lalap
aaaalalap
xp xx
行列による表現
3
2
1
21
32211
al
laa
alalax
2
1
2
212
12
2
1
21
1221
2
2
2
2
2
1
2
1
2 2
a
aaa
aaaax
誤差の伝播： このように行列で表せば、一般的な誤差伝搬式として使える。
aALx
L
TAA
2
x
最小二乗解の精度
前節で求めた誤差伝搬式を使って、
最小二乗解の精度を計算する。
ただし
最小二乗解の精度
np
p
p
000
0
00
00
2
1
P
PwAPAAxx 0
TT 1)(ˆ
ob0 L)f(xw
x
fA
第２章で見たように、数学モデルが一般的な非線形
の場合、最小二乗解は
と表せる。
)(xL f
誤差伝搬式（ の分散が の分散に与える影響）
をこの最小二乗解
に適用する。
最小二乗解の精度
L
T
xAABALx
PwAPAAxx 0
TT 1)(ˆ
xL
ob
obLd
PLPA)A(APdPA)A(Ax
PAPA)(Axx
TTTT0
T1T0
)(ˆ
TT1TT1TPAPA)(A
LPAPA)(A
x
ˆ
解を定数部分と観測値を含む部分に分けると
となるから、これに誤差伝搬式を適用すると
解の分散は次のように表せる。
最小二乗解の精度
これを整理し、
、
であることを考慮すると、結局解の精度は
と表せる。
最小二乗解の精度
L
TT1TT1T
xPAPA)(APAPA)(A
ˆ
1
LP
2
0 1TT1TPA)PA(APAPA)(A
T
1
L
1T1T
xA)(APA)(A
2
0ˆ
①各観測値の分散 （絶対精度）が分かっている場合
解の精度は
で計算できる。
最小二乗解の精度（まとめ）
L
1
L
1T
xA)(A
ˆ
②各観測値の重み （相対精度）だけが分かっている場合
解の精度は
となり、基準分散の値 が必要。 この基準分散の値は次式で計算できることが知られている。（証明は「観測と最小二乗法」に） ただし
結局解の精度（分散）は、
となる。
2
0
P
1T
xPA)(A
2
0ˆ
un
vPvT ˆˆ
ˆ 2
0 wxAv ˆˆ
1TT
xPA)(A
vPv
un
ˆˆˆ
４、最小二乗法の検定
最小二乗法の評価
最小二乗計算の過程で、観測値に通常考えられない異常値が含まれていたとか、あるいは最小二乗計算の過程で何らかの問題があった（不十分な数学モデルや計算ミス等）場合、そのチェックが必要になる。
ある特別な指標をチェックすることで、全体として最小二乗計算が適切に行われたかどうかの評価が行える方法がある。 カイ二乗検定である。
カイ二乗検定
詳しくは、「観測と最小二乗法」を参照していただくとしてここではポイントだけ説明する。
１、「残差二乗和の推定値と基準分散の比： は、自由度 のカイ二乗分布に従う」 ２、従って最小二乗計算に問題がなければ、
はカイ二乗分布の95％の信頼区間に収まり、次式が成り立つ。 2
,025.02
0
2
,975.0
ˆˆrr
vPvT
カイ二乗分布の信頼区間
α を0.05にすれば有意水準95％の信頼区間になる
カイ二乗検定
最小二乗計算が終わった後、 を計算し、
これが
が成り立つかどうかをチェックする。これがカイ二乗検定である。 これにより全体として最小二乗計算が妥当なものであったかどうかが判定できる。
2
,025.02
0
2
,975.0
ˆˆrr
vPvT
2
0
ˆˆ
vPvT
５、最小二乗計算の実際
①（ 数学モデル ） 観測量と 未知量との関係
0PwAxPA)(ATT ˆ
PwAPA)(AxT1T ˆ
wxAv
dxAL
⑤（ 最小二乗解）
④（観測方程式） )( obLdw
②（統計モデル） 観測がどの程度の精度 で行われたかを示すもの
obL
12
0P
⑤（ 正規方程式）
minPVV T③（最小二乗の原理）
最小二乗法の手順
最小二乗解は PwAPA)(AxT1T ˆ
最小二乗計算の実際
観測方程式 wxAv が与えられれば
で求まる。
すなわち最小二乗計算は、観測方程式の形が決まれば、
解は自動的に決まるといってよい。その意味で観測方程式
の構築が非常に重要。
1T
xPA)(A
2
0ˆ
観測方程式の作り方
１）観測方程式は、観測量と未知量との関係を線形化したもの
２）観測方程式は、観測の種類ごとにある程度パターン化
できる。
３）観測方程式は、観測を行うたびにひとつづつ作られる
４）個々の観測方程式をまとめて行列の形にすれば
全体の観測方程式ができる
パターン化された観測方程式
ここでは測量でよく使われる観測方程式の
例を見てみよう。
• 距離観測
• 方位角観測
• 角観測
距離観測
距離観測
x
ij
),( ii yx
y
),( jj yx
iP
jP
距離観測の観測方程式
x
ij
),( ii yx
y
),( jj yx
iP
jP
平面上の2点を結ぶ距離観測の場合、未知量を平面
座標 とすれば、数学モデルは
で表される。
22 )()(),,,( jijijjiiij yyxxyxyxf
jjii yxyx ,,,
未知量＝概略値＋補正量
iii
iii
yyy
xxx
0
0
j
j
j
j
i
i
i
i
jjii
jjiiij
ob
ijij
yy
fx
x
fy
y
fx
x
fyxyxf
yxyxfv
0000
0000 ),,,(
),,,(
jjj
jjj
yyy
xxx
0
0
モデルを線形化するためテイラー展開する。
距離観測の観測方程式
x
ij
),( ii yx
y
),( jj yx
iP
jP
観測量＝観測値＋残差
ij
ob
ijij v
ob
ijijj
ij
ji
j
ij
ji
i
ij
ji
i
ij
ji
ij yyy
xxx
yyy
xxx
v
0
0
00
0
00
0
00
0
00
2002000 )()( jjiiij yxyx
各微分係数を計算すると観測方程式は
ただし
距離観測の観測方程式
x
ij
),( ii yx
y
),( jj yx
iP
jP
方位角観測 （方位角観測とは、北の方角からの角度
を測定することである。）
方位角観測
x
),( ii yx
y
),( jj yx
iP
jP
ij
方位角観測の観測方程式
から への方位角観測の場合、未知量を平面
座標 とすれば、数学モデルは
で表される。 ij
ij
jjiiijyy
xxyxyxf
1tan),,,(
jjii yxyx ,,,
x
),( ii yx
y
),( jj yx
iP
jP
ij
iPjP
j
j
j
j
i
i
i
i
jjii
jjiiij
ob
ijij
yy
fx
x
fy
y
fx
x
fyxyxf
yxyxfv
0000
0000 ),,,(
),,,(
テイラー展開
x
),( ii yx
y
),( jj yx
iP
jP
ij方位角観測の観測方程式
未知量＝概略値＋補正量
iii
iii
yyy
xxx
0
0
jjj
jjj
yyy
xxx
0
0
観測量＝観測値＋残差
ij
ob
ijij v
22
2
1
2
1
2
1
)()(
1
)/()(1
1tan
1
1tan
1
1)(tan
ijij
ij
ijijijij
ij
i
ij
ij
yyxx
yy
yyyyxxyy
xx
x
yy
xxu
x
u
uu
x
uu
ｔan－１ の微分式
ob
ijijj
ij
ij
j
ij
ij
i
ij
ij
i
ij
ij
ij yxx
xyy
yxx
xyy
v
0
20
00
20
00
20
00
20
00
)()()()(
2002000 )()( jjiiij yxyx
各微分係数を計算すると観測方程式は
ただし
方位角観測の観測方程式
x
),( ii yx
y
),( jj yx
iP
jP
ij
00
00
10 tanij
ij
ijyy
xx
角観測
角観測は、２つの方位角観測の差と考えることができる。
x
),( ii yx
y
),( aa yx
iP
aP
aib
),( bb yxbP
角観測の観測方程式
から への角観測の場合、未知量を平面
座標 とすれば、数学モデルは
で表される。
ib
ib
ia
ia
bbaaiiaib
yy
xx
yy
xx
yxyxyxf
11 tantan
),,,,,(
bbaaii yxyxyx ,,,,,iP
aP bP
x
),( ii yx
y
),( aa yx
iP
aP
aib
),( bb yxbP
b
b
b
b
a
a
a
a
i
i
i
i
bbaaii
bbaaiiaib
ob
aibaib
yy
fx
x
fy
y
fx
x
fy
y
fx
x
f
yxyxyxf
yxyxyxf
000000
000000 ),,,,,(
),,,,,(
テイラー展開
角観測の観測方程式
未知量＝概略値＋補正量
iii
iii
yyy
xxx
0
0
aaa
aaa
yyy
xxx
0
0
観測量＝観測値＋残差
aib
ob
aibaib v
x
),( ii yx
y
),( aa yx
iP
aP
aib
),( bb yxbP
bbb
bbb
yyy
xxx
0
0
ob
aibaibb
ib
ibb
ib
iba
ia
iaa
ia
ia
i
ib
ib
ia
iai
ia
ia
ib
ibaib
yxx
xyy
yxx
xyy
yxxxx
xyyyy
v
0
20
00
20
00
20
00
20
00
20
00
20
00
20
00
20
00
)()()()(
)()()()(
2002000 )()( iaiaia yyxx
各微分係数を計算すると観測方程式は
ただし
角観測の観測方程式
00
001
00
0010 tantan
ib
ib
ia
iaaib
yy
xx
yy
xx
x
),( ii yx
y
),( aa yx
iP
aP
aib
),( bb yxbP
2002000 )()( ibibib yyxx
最小二乗法の計算例
（簡単な基準点測量）
最小二乗法の計算例 （基準点測量） 基準点A,Bと未知点Pからなる簡単な2次元の測量を考える。
今図のような距離観測と角観測、方位角観測を行った場合、
未知点Pの位置座標を最小二乗法で求めてみよう。
A
B
P
N
2
31
1
2
x
y
利用する観測方程式
距離観測
ob
ijijj
ij
ji
j
ij
ji
i
ij
ji
i
ij
ji
ij yyy
xxx
yyy
xxx
v
0
0
00
0
00
0
00
0
00
角観測
ob
aibaibb
ib
ibb
ib
iba
ia
iaa
ia
ia
i
ib
ib
ia
iai
ia
ia
ib
ibaib
yxx
xyy
yxx
xyy
yxxxx
xyyyy
v
0
20
00
20
00
20
00
20
00
20
00
20
00
20
00
20
00
)()()()(
)()()()(
x
),( ii yx
y
),( aa yx
iP
aP
aib
),( bb yxbP
x
ij
),( ii yx
y
),( jj yx
iP
jP
最小二乗法の計算例 （基準点測量）
方位角観測
ob
ijijj
ij
ij
j
ij
ij
i
ij
ij
i
ij
ij
ij yxx
xyy
yxx
xyy
v
0
20
00
20
00
20
00
20
00
)()()()( x
),( ii yx
y
),( jj yx
iP
jP
ij
観測方程式の作成
例えば、AP間の距離観測方程式は、公式
で、
と対応させれば良い。 するとこの観測方程式は
となることが分かるであろう。
ob
ijijj
ij
ji
j
ij
ji
i
ij
ji
i
ij
ji
ij yyy
xxx
yyy
xxx
v
0
0
00
0
00
0
00
0
00
最小二乗法の計算例 （基準点測量）
PPAP ji ,
),(),(
),(),(
0000
00
yxyx
yxyx
jj
AAii
),(),( yxyx jj
)0,0(),( ii yx
obAA yyy
xxx
v 1
0
10
1
0
0
1
0
1
観測方程式の作成
同様にして他の観測方程式も作ると、
最小二乗法の計算例 （基準点測量）
obAA yyy
xxx
v 1
0
10
1
0
0
1
0
1
obv 2
0
22
obBB yyy
xxx
v 3
0
30
3
0
0
3
0
3
obAA yxx
xyy
v 1
0
120
1
0
20
1
0
1)()(
obBB yxx
xyy
v 2
0
220
3
0
20
3
0
2)()(
obAA yxx
xyy
v
0
20
1
0
20
1
0
)()(
観測方程式の作成
行列の形にまとめると（角度がラジアン単位の場合はそのまま使える）
最小二乗法の計算例 （基準点測量）
ob
ob
ob
ob
ob
ob
AA
BB
AA
BB
AA
y
x
xxyy
xxyy
xxyy
yyxx
yyxx
v
v
v
v
v
v
0
2
0
2
1
0
1
3
0
3
2
0
2
1
0
1
20
1
0
20
1
0
20
3
0
20
3
0
22
1
0
20
1
0
0
3
0
0
3
0
0
1
0
0
1
0
2
1
3
2
1
)()(
)()(
)()(
00
観測方程式の作成
（角度が秒単位の場合、 を掛けて単位を変換）
最小二乗法の計算例 （基準点測量）
ob
ob
ob
ob
ob
ob
AA
BB
AA
BB
AA
y
x
xxyy
xxyy
xxyy
yyxx
yyxx
v
v
v
v
v
v
0
2
0
2
1
0
1
3
0
3
2
0
2
1
0
1
20
1
0
20
1
0
20
3
0
20
3
0
22
1
0
20
1
0
0
3
0
0
3
0
0
1
0
0
1
0
2
1
3
2
1
)()(
)()(
)()(
00
8.206264/3600180
これから、観測方程式 の係数行列は、
となるから、最小二乗解は重みPを与えれば、
、 で計算できる。
wxAv
PwAPA)(AxT1T ˆ
最小二乗法の計算例 （基準点測量）
20
1
0
20
1
0
20
3
0
20
3
0
22
1
0
20
1
0
0
3
0
0
3
0
0
1
0
0
1
0
)()(
)()(
)()(
00
AA
BB
AA
BB
AA
xxyy
xxyy
xxyy
yyxx
yyxx
A
ob
ob
ob
ob
ob
ob
0
2
0
2
1
0
1
3
0
3
2
0
2
1
0
1
w
Δxx 0ˆˆ
観測データ
最小二乗法の計算例 （基準点測量）
基準点A,Bの座標値 ),( AA yx
),( BB yx
x(m) y(m)
457.26 1,334.89
1,944.41 587.16
未知点Pの概略座標値 x(m) y(m)
),( 00 yx 1,279.00 2,754.00
距離観測値 距離(m) 標準偏差(m) ob
1ob
2ob
3
1,639.911 0.030
1,664.534 0.030
2,266.075 0.030
角観測値 角（度分秒） 標準偏差（秒） ob
1ob
2（∠PAB） 86°35'06.5" 5.0"
（∠ABP） 46°15'15.0" 5.0"
方位角観測値 角（度分秒） 標準偏差（秒） ob (AからP方向) 30°06'24.5" 1.0"
数値計算
最小二乗法の計算例 （基準点測量）
030070.63850249.108
713035.26988281.86
030070.63850249.108
955941.0293558.0
00
865387.0501105.0
A
273556.121
590113.65
974686.124
633198.0
012568.0
054354.0
w係数行列
2
2
2
2
2
2
1100000
0510000
0051000
00003.0100
000003.010
0000003.01
P重み行列
ob
12
0P
12
0
数値計算
最小二乗法の計算例 （基準点測量）
補正量
未知点座標
PwAPA)AΔT1 T(ˆ
419921.0
871094.0
y
x
58.2753
87.1279
419921.0
871094.0
00.2754
00.1279ˆˆ Δxx 0
（m）
（m）
未知点座標の精度
00042087.000022276.0
00022276.000019488.02
2
yxy
xyx
1T
PA)(Ax
2
0ˆ
)(021.0,014.0 myx
![[CB16] 難解なウェブアプリケーションの脆弱性 by Andrés Riancho](https://img.pdfslide.tips/doc/110x75/5877569d1a28ab84388b76cb/cb16-by-andres-riancho.jpg)
