Upload
others
View
0
Download
0
Embed Size (px)
Citation preview
1-text-A5-size : 2008/4/8(17:32)
第3章 多次元の確率変数
1 同時分布と周辺分布
(Ω, F , P)を確率空間とし,X, Y をこの確率空間上の確率変数とする.これらふたつの確率変数を組として考えた (X, Y ) を 2 次元確率ベクトルという.さらに,(X, Y ) の分布を同時分布とよび,任意の A, B ∈ B(R) に対して,
PX,Y (A×B) = Pω ∈ Ω : X(ω) ∈ A, Y (ω) ∈ B = P(X ∈ A, Y ∈ B)
で定める.すなわち,PX, Y は確率ベクトル (X, Y ) によって P より誘導され
た (R2, B(R2)) 上1の確率測度である.
X, Y それぞれの分布 PX , PY をそれぞれの周辺分布という.
定義 3.1 2 次元確率ベクトル (X, Y ) の同時分布関数を
FX, Y (x, y) = PX,Y ((−∞, x]× (−∞, y])= P(X ≤ x, Y ≤ y)= P(ω ∈ Ω : X(ω) ≤ x, Y (ω) ≤ y), x, y ∈ R
で定める.各成分だけに注目した分布関数
FX(x) = PX((−∞, x]) = P(X ≤ x), FY (y) = PY ((−∞, y]) = P(Y ≤ y)
をそれぞれの周辺分布関数とよぶ.
命題 3.1 (同時分布関数の性質) (i) すべての (x, y) ∈ R2 に対して,0 ≤FX,Y (x, y) ≤ 1.
(ii) x1 < x2, y1 < y2 に対して,FX, Y (x1, y1) ≤ FX, Y (x2, y2).1B(2) = σ(A× B : A ∈ B(), B ∈ B()) である.
1-text-A5-size : 2008/4/8(17:32)
50 第 3章 多次元の確率変数
(iii) limx→−∞ FX, Y (x, y) = 0, limy→−∞ FX, Y (x, y) = 0,limx→∞, y→∞ FX, Y (x, y) = 1.
証明 (i) 同時分布関数の定義と確率の定義からわかる.(ii) (X, Y ) ∈ (−∞, x1]× (−∞, y1] ⊂ (X, Y ) ∈ (−∞, x2] × (−∞, y2] に注意して,命題 1.4(vi) を用いればよい.(iii) ∩∞n=1(−∞, −n] = ∅ に注意をして,命題 1.4(i) と (ix) を用いると
limn→∞FX, Y (x, −n) = lim
n→∞ P((X, Y ) ∈ (−∞, x]× (−∞, −n])
= P((X, Y ) ∈ ∩∞n=1(−∞, x]× (−∞, −n]) = P(∅) = 0
よりわかる.のこりも同様である.
命題 3.2 (同時分布関数と周辺分布関数の関係)
FX(x) = limy→∞FX,Y (x, y), FY (y) = lim
x→∞FX, Y (x, y)
証明 命題 1.4(viii) に注意して
limn→∞FX, Y (x, n) = lim
n→∞ P((X, Y ) ∈ (−∞, x]× (−∞, n])
= P((X, Y ) ∈ ∪∞n=1(−∞, x]× (∞, n])
= P((X, Y ) ∈ ∪∞n=1(−∞, x]× R) = P(X ≤ x)
からわかる.
定義 3.2 2つの確率変数 X, Y が独立であるとは,その同時分布 PX, Y が
周辺分布 PX , PY の積で表されることである:すなわち,任意の A, B ∈ B(R)に対して
PX, Y (A×B) = PX(A)PY (B)
が成り立つこと2である.独立でないときを従属という.
2これは (X ∈ A, Y ∈ B) = (X ∈ A)(Y ∈ B) である.
1-text-A5-size : 2008/4/8(17:32)
1. 同時分布と周辺分布 51
注意 3.1 つぎは同値である.
(1) X, Y は独立である.(2) FX, Y (x, y) = FX(x)FY (y).ただし,x, y ∈ R である.
証明 (1)⇒ (2) は独立性の定義において,A = (−∞, x], B = (−∞, y] とすればわかる.逆については,略.
1.1 同時確率関数確率変数 X, Y はともに離散型であって,それぞれは高々可算個の点で値を
とるとする.
定義 3.3 離散型確率変数 (X, Y ) の同時確率関数とは,R2 上の実数値関数
fX,Y (x, y) でfX,Y (x, y) = P(X = x, Y = y)
をみたすものをいう.
S = (x, y) ∈ R2 : fX,Y (x, y) > 0 とおけば,S は可算集合となる.さらに,Sx = x ∈ R : fX,Y (x, y) > 0(ある y ∈ R と Sy = y ∈ R : fX,Y (x, y) >0(ある x ∈ R とする.このとき,同時確率関数は
(i) fX,Y (x, y) ≥ 0
(ii)∑
(x, y)∈S fX,Y (x, y) = 1
(iii) R2 の任意の部分集合3 A に対して,
P((X, Y ) ∈ A) =∑
(x, y)∈A∩SfX,Y (x, y)
定義 3.4 離散型確率変数 (X, Y ) の同時分布関数とは,R2 上の実数値関数
FX, Y (x, y) で
FX, Y (x, y) = P(X, Y ) ∈ (−∞, x]× (−∞, y]=
∑(s, t):s≤x, t≤y, (s, y)∈S
fX,Y (s, t)
3正確には,任意のボレル集合 A ∈ B(2)
1-text-A5-size : 2008/4/8(17:32)
52 第 3章 多次元の確率変数
で定義されるものをいう.
X と Y のそれぞれの確率関数を
fX(x) = P (X = x), fY (x) = P (Y = y)
で定めることにする.同時確率関数に対して,fX と fY を X と Y の周辺確
率関数ということにする.
命題 3.3 離散型確率変数 (X, Y ) は同時確率関数 fX, Y (x, y) を持つとする.このとき,
fX(x) =∑y∈Sy
fX,Y (x, y),
fY (y) =∑x∈Sx
fX,Y (x, y)
が成立する.
証明 fX について示す.Ax = (x, y) ∈ R2 : −∞ < y <∞ とおく.このとき,x ∈ Sx に対して,
fX(x) = P (X = x)
= P(X = x, −∞ < y <∞)
= P((X, Y ) ∈ Ax)=
∑(x, y)∈Ax∩S
fX,Y (x, y)
=∑y∈Sy
fX,Y (x, y)
よりわかる.fY についても同様に示される.
1.2 同時確率密度関数定義 3.5 連続型確率ベクトル (X, Y ) とし,FX, Y (x, y) をその同時分布関数とする.R2 上の実数値関数 fX,Y (x, y) ですべての A ⊂ R2 に対して,
P((X, Y ) ∈ A) =∫ ∫
A
fX, Y (x, y) dx dy
1-text-A5-size : 2008/4/8(17:32)
1. 同時分布と周辺分布 53
をみたすものが存在するとき, fX, Y (x, y) を (X, Y ) の同時確率密度関数という.
命題 3.4 (同時確率密度関数の性質) (i) すべての x ∈ R, y ∈ Rに対して,
fX,Y (x, y) ≥ 0.
(ii) すべての (x, y) ∈ R2 に対して,
FX, Y (x, y) =∫ x
−∞
∫ y
−∞fX,Y (s, t) ds dt.
(iii) FX, Y (x, y)が同時確率密度関数を持つならば,x ∈ R, y ∈ Rに対して,
fX,Y (x, y) =∂2
∂x∂yFX, Y (x, y)
となる.
証明 証明は明らか.
注意 3.2 確率ベクトル (X, Y )が同時確率密度関数 fX,Y (x, y)を持つとき,X と Y の周辺確率密度関数は
fX(x) =∫ ∞
−∞fX,Y (x, y) dy, fY (y) =
∫ ∞
−∞fX,Y (x, y) dx
と表現できること4に注意せよ.
1.3 独立性定義 3.6 確率ベクトル (X, Y )は同時確率関数または同時確率密度関数 fX,Y (x, y)をもつとする.このとき,X と Y が独立であるとは,すべての x ∈ R, y ∈ R
に対して
fX,Y (x, y) = fX(x)fY (y)
が成立することである.
4証明は定理 3.3 と同様に証明される.
1-text-A5-size : 2008/4/8(17:32)
54 第 3章 多次元の確率変数
補題 3.1 確率ベクトル (X, Y )は同時確率関数または同時確率密度関数 fX,Y (x, y)をもつとする.このとき,X と Y が独立であるとはための必要十分条件は,R
上で定義されたある関数 g(x) と h(y) が存在し,すべての x ∈ R, y ∈ R に対
して
fX,Y (x, y) = g(x)h(y)
とかけることである.
証明 ⇒ (必要条件) は g(x) = fX(x), h(y) = fY (y) とおけばよい.⇐ (十分条件) は連続型についてのみ示すことにする.同時確率密度関数がfX,Y (x, y) = g(x)h(y) と表現されたとする.さらに,∫ ∞
−∞g(x) dx = c,
∫ ∞
−∞h(y) dy = d
とおくと定数 c と d は関係式
cd =(∫ ∞
−∞g(x) dx
)(∫ ∞
−∞h(y) dy
)=
∫ ∞
−∞
∫ ∞
−∞g(x)h(y) dx dy
=∫ ∞
−∞
∫ ∞
−∞fX, Y (x, y) dx dy = 1 (3.1)
をみたす.さらに,
fX(x) =∫ ∞
−∞g(x)h(y) dy = g(x)d, fY (y) =
∫ ∞
−∞g(x)h(y) dx = h(y)c
(3.2)となる.(3.1) と (3.2) から
fX,Y (x, y) = g(x)h(y) = g(x)h(y)cd = fX(x)fY (y)
となり5,X と Y が独立であることが示せた.
例 3.1 離散型確率ベクトル (X, Y ) の同時確率関数が以下のように与えられているとする:
fX,Y (0, 10) = fX,Y (0, 20) =218, fX,Y (1, 10) = fX, Y (1, 30) =
318,
fX,Y (2, 20) =418, fX,Y (2, 30) =
418.
5二番目の等号は cd = 1,三番目の等号は (3.2) よりわかる.
1-text-A5-size : 2008/4/8(17:32)
1. 同時分布と周辺分布 55
ただし,その他の (x, y) では fX,Y (x, y) = 0 である.X の周辺確率関数は
fX(0) =418, fX(1) =
618, fX(2) =
818
となり,Y の周辺確率関数は
fY (10) =518, fY (20) =
618, fY (30) =
718
となる.よって,X と Y は独立でない.たとえば,
fX,Y (0, 10) =218= 4
18× 5
18= fX(0)fY (10)
からわかる.
1.4 同時分布に関する期待値定義 3.7 確率ベクトル (X, Y ) は同時確率関数または同時確率密度関数
fX,Y (x, y)を持つとし,g(x, y)を R2 上の実数値関数とする.このとき,g(X, Y )の期待値を
E[g(X, Y )] =
∑(x, y)∈S g(x, y)fX,Y (x, y), (離散型)∫∞
−∞∫ ∞−∞ g(x, y)fX,Y (x, y) dx dy, (連続型)
で定義する.ただし,離散型の場合は∑
(x, y)∈S |g(x, y)|fX,Y (x, y) <∞ のとき,連続型の場合は
∫ ∞−∞
∫∞−∞ |g(x, y)|fX,Y (x, y) dx dy <∞ のとき,g(X, Y )
の期待値を定義することにする.期待値が定義されるとき,g(X, Y ) の期待値が存在するという.
記法について
確率変数のベクトルや行列に対する期待値の作用を以下のように書くことにす
る.たとえば,確率ベクトル (X, Y )に対して,
E(X, Y ) = (E(X), E(Y ))
などと書き,行列の成分が確率変数である確率行列に対しては,
E
[X2 XY
XY Y 2
]=
[E[X2] E[XY ]E[XY ] E[Y 2]
]である.
1-text-A5-size : 2008/4/8(17:32)
56 第 3章 多次元の確率変数
定理 3.1 X と Y は独立な確率変数とし,実数上で定義された実数値関数
h1(x) と h2(y) は x と y にのみにそれぞれ依存するものとする.このとき,
E[h1(X)h2(Y )] = E[h1(X)]E[h2(Y )]
が成立する.ただし,それぞれの期待値は存在するものと仮定する.
証明 (X, Y )がともに連続型確率変数とし,同時確率密度関数 fX,Y (x, y)を持つ場合について証明する.独立性の定義を利用すれば,
E[h1(X)h2(Y )] =∫ ∞
−∞
∫ ∞
−∞h1(x)h2(y)fX,Y (x, y) dx dy
=∫ ∞
−∞
∫ ∞
−∞h1(x)h2(y)fX(x)fY (y) dx dy
=∫ ∞
−∞h1(x)fX(x)
(∫ ∞
−∞h2(y)fY (y) dy
)dx
=∫ ∞
−∞h1(x)fX(x) dx
∫ ∞
−∞h2(y)fY (y) dy
= E[h1(X)]E[h2(Y )]
より示せた.離散型の場合は積分記号を和の記号に直せたよい.
定理 3.2 X と Y は独立な確率変数とし,それぞれは積率母関数 MX(t) とMY (t) を持つとする.このとき,Z = X + Y の積率母関数は
MZ(t) = MX(t)MY (t)
で与えられる.
証明 定理 3.1 から
MZ(t) = E[etZ ] = E[etXetY ] = E[etX ]E[etY ] = MX(t)MY (t)
がわかる.
注意 3.3 X と Y は独立な確率変数とし,それぞれは N(µ1, σ22)と N(µ2, σ
22)
に従うとする.このとき,それぞれの積率母関数は
MX(t) = exp(µ1t+12σ2
1t), MY (t) = exp(µ2t+12σ2
2t), t ∈ R
1-text-A5-size : 2008/4/8(17:32)
2. 条件付き分布と独立性 57
となった.Z = X + Y の積率母関数は定理 3.2 から
MZ(t) = MX(t)MY (t) = exp(µ1t+12σ2
1t) exp(µ2t+12σ2
2t)
= exp(µ1 + µ2)t+12(σ2
1 + σ22)t2
となる.したがって,Z は N(µ1 + µ2, σ21 + σ2
2) に従うことがわかる.
2 条件付き分布と独立性
2.1 離散型確率変数の場合定義 3.8 (X, Y ) は離散型確率ベクトルとし,同時確率関数 fX, Y (x, y) および周辺確率関数 fX(x) と fY (y) を持つとする.(i) P(X = x) = fX(x) > 0 なる任意の x に対して,X = x が与えられたとき
の Y の 条件付確率関数を fY |X(y|x) で記し,
fY |X(y|x) = P(Y = y|X = x) =fX,Y (x, y)fX(x)
で定める.
(ii) P(Y = y) = fY (y) > 0 なる任意の y に対して,Y = y が与えられたとき
の X の 条件付確率関数を fX|Y (x| y) で記し,
fX|Y (x| y) = P(X = x|Y = y) =fX,Y (x, y)fY (y)
で定める.
注意 3.4 fY |X(y|x) は確率関数であることに注意せよ.すなわち,各 x に対
して,
• fY |X(y|x) ≥ 0, y ∈ R,
• ∑y∈SY
fY |X(y|, x) = 1
となっている.
1-text-A5-size : 2008/4/8(17:32)
58 第 3章 多次元の確率変数
例 3.2 離散型確率ベクトル (X, Y ) の同時確率関数が以下のように与えられているとする:
fX,Y (0, 10) = fX,Y (0, 20) =218, fX,Y (1, 10) = fX, Y (1, 30) =
318,
fX,Y (1, 20) =418, fX,Y (2, 30) =
418.
ただし,その他の (x, y) では fX,Y (x, y) = 0 である.X = x, x = 0, 1, 2 が与えられたときの Y の条件付確率関数を求めよう.そのために,X の周辺確
率関数を求める:
fX(0) = fX,Y (0, 10) + fX,Y (0, 29) =418,
fX(1) = fX,Y (1, 10) + fX,Y (1, 20) + fX,Y (1, 30) =1018,
fX(2) = fX,Y (2, 30) =418.
x = 0 のとき,y = 10, 20 のとき fX,Y (0, y) > 0 であるので,y = 10, 20 のとき fY |X(y| 0) > 0 となり,
fY |X(10| 0) =fX,Y (0, 10)fX(0)
=218418
=12,
fY |X(20| 0) =fX,Y (0, 20)fX(0)
=218418
=12
となる.したがって,X = 0 という情報から Y の条件付確率は y = 10, 20 にそれぞれ 1/2 の確率を与える.x = 1 のとき,y = 10, 20, 30 のとき fY |X(y| 1) > 0 となり,
fY |X(10| 1) =fX, Y (1, 10)fX(1)
=3181018
=310,
fY |X(20| 1) =fX, Y (1, 20)fX(1)
=4181018
=410,
fY |X(30| 1) =fX, Y (1, 30)fX(1)
=3181018
=310,
となる.したがって,X = 1 という情報から Y の条件付確率は y = 10, 20, 30にそれぞれ 3/10, 4/10, 3/10 の確率を与える.
1-text-A5-size : 2008/4/8(17:32)
2. 条件付き分布と独立性 59
x = 2 のとき,y = 30 のとき fY |X(y| 2) > 0 となり,
fY |X(30| 2) =fX,Y (2, 30)fX(2)
=418418
= 1
となる.したがって,X = 2 という情報から Y = 30 がわかる.たとえば,
P(Y > 10|X = 0) = fY |X(20| 0) =12,
P(Y > 10|X = 1) = fY |X(20| 1) + fY |X(30| 1) =710,
となる.
2.2 連続型確率変数の場合定義 3.9 (X, Y )は連続型確率ベクトルとし,同時確率密度関数 fX,Y (x, y) および周辺確率密度関数 fX(x) と fY (y) を持つとする.(i) fX(x) > 0 なる任意の x に対して,X = x が与えられたときの Y の 条件
付確率密度関数を fY |X(y|x) で記し,
fY |X(y|x) =fX,Y (x, y)fX(x)
で定める.
(ii) fY (y) > 0 なる任意の y に対して,Y = y が与えられたときの X の 条件
付確率密度関数を fX|Y (x| y) で記し,
fX|Y (x| y) =fX,Y (x, y)fY (y)
で定める.
例 3.3 連続型確率ベクトル (X, Y ) は同時確率密度関数
fX,Y (x, y) =
e−y, 0 < x < y <∞,0, その他
を持つとする.X = x が与えられたときの Y の条件付確率密度関数を求める
ために,X の周辺確率密度関数を求めよう.x ≤ 0 の場合,すべての y に対し
1-text-A5-size : 2008/4/8(17:32)
60 第 3章 多次元の確率変数
て fX,Y (x, y) = 0 なので,fX(x) = 0 となる.x > 0 の場合,y > x ならば,
fX,Y (x, y) > 0 なので,
fX(x) =∫ ∞
−∞fX,Y (x, y) dy =
∫ ∞
x
fX,Y (x, y) dy = e−x
となる.したがって
fX(x) =
e−x, x > 0,0, その他
となる.これより,X = x が与えられたときの Y の条件付確率密度関数は
x > 0 の場合のみに定義される.各 x > 0 に対して
fY |X(y|x) =fX,Y (x, y)fX(x)
=e−y
e−x= e−(y−x), y > x,
fY |X(y|x) =fX,Y (x, y)fX(x)
=0e−x
= 0, y ≤ x
となる.
2.3 独立性との関係注意 3.5 もし,X と Y が独立ならば,x の値に関わらず
fY |X(y|x) =fX,Y (x, y)fX(x)
=fX(x)fY (y)fX(x)
= fY (y)
となる.
3 条件付き期待値
定義 3.10 X = x が与えられたときの Y の条件付確率関数または条件付確率
密度関数を fY |X(y|, x) とする.g : R→ R としたとき,X = x が与えられた
ときの g(Y ) の条件付期待値を
E[g(Y )|x] =
∑y g(y)fY |X(y|, x), (離散型),∫∞
−∞ g(y)fY |X(y|, x) dy, (連続型)
で定める.だだし,条件付期待値は E[|g(Y )||x] <∞ のときに存在するものとする.
1-text-A5-size : 2008/4/8(17:32)
3. 条件付き期待値 61
命題 3.5 (条件付期待値の性質) a1, a2, b を定数,g1 : R → R, g2 : R → R と
する.
(1) E[a1g1(Y ) + a2g2(Y ) + b| x] = a1E[g1(Y )|x] + a2E[g2(Y )|x] + b.
(2) g1(y) ≥ 0 ならば,E[g1(Y )|x] ≥ 0.
(3) a1 ≤ g1(y) ≤ a2 ならば,a1 ≤ E[g1(Y )|x] ≤ a2.
(4) E[g1(X)g2(Y )|x] = g1(x)E[g2(Y )|x].
が成立する.ただし,上の条件付期待値はすべて存在するものとする.
証明 積分の性質からわかる.
定義 3.11 X と Y を確率変数とし,E[Y 2] < ∞ とする.X = x が与えられ
たときの Y の条件付分散を
VAR[Y |x] = E[Y 2|x]− E[Y |x]2
で定義する.v(x) := VAR[Y |x]とおいてとき,VAR[Y |X ] := v(X)で定める.以上の定義から VAR[Y |X ] = E[Y 2|X ]− E[Y |X ]2 となることに注意する.
例 3.4 連続型確率ベクトル (X, Y ) は同時確率密度関数
fX,Y (x, y) =
e−y, 0 < x < y <∞,0, その他
を持つととき,X = x が与えられたときの Y の条件付確率密度関数は x > 0の場合のみに定義され,各 x > 0 に対して
fY |X(y|x) =fX,Y (x, y)fX(x)
=e−y
e−x= e−(y−x), y > x,
fY |X(y|x) =fX,Y (x, y)fX(x)
=0e−x
= 0, y ≤ x
であった.X = x (x > 0) が与えられたときの Y の条件付期待値は
E[Y |x] =∫ ∞
−∞yfY |X(y|x) dy =
∫ ∞
x
ye−(y−x) dy = 1 + x
1-text-A5-size : 2008/4/8(17:32)
62 第 3章 多次元の確率変数
となる.同様に,X = x (x > 0) が与えられたときの Y 2 の条件付期待値は
E[Y 2|x] =∫ ∞
−∞y2fY |X(y|x) dy =
∫ ∞
x
y2e−(y−x) dy
=∫ ∞
0
(t+ x)2e−t dt = x2 + 2x+ 2
となる.したがって,X = x (x > 0) が与えられたときの Y の条件付分散は
VAR[Y |x] = E[Y 2|x]− E[Y |x]2 = 1
となる.
X = xが与えられたときの g(Y )の条件付期待値(存在するならば)E[g(Y )|x]は x の関数であるので,h(x) = E[g(Y )|x] とおくとき,確率変数 E[g(Y )|X ]を E[g(Y )|X ] = h(X) で定めることにする.すなわち,X = x のとき,確率
変数 E[g(Y )|X ]の値は E[g(Y )|x]である.記号の読み方であるが,E[g(Y )|X ]に期待値の記号 Eが使われているが,E[g(Y )|X ]は X に依存する確率変数で
ある.
定理 3.3 X と Y を確率変数とし,Y の期待値は存在するとする.このとき,
E[Y ] = E[E[Y |X ]]
が成立する.
証明 X と Y が連続型確率変数の場合の証明を与える.(X, Y ) の同時確率密度関数を fX,Y (x, y)とする.X = xが与えられたときの Y の条件付確率密
度関数 fY |X(y|x) および条件付期待値の定義から
E[Y ] =∫ ∞
−∞
∫ ∞
−∞yfX,Y (x, y) dx dy
=∫ ∞
−∞
∫ ∞
−∞yfX,Y (x, y)fX(x)
fX(x) dx dy
=∫ ∞
−∞
[∫ ∞
−∞yfY |X(y|x) dx
]fX(x) dx
=∫ ∞
−∞E[X| y]fX(x) dy dx
= E[E[Y |X ]]
1-text-A5-size : 2008/4/8(17:32)
3. 条件付き期待値 63
となる.
例 3.5 確率変数 X と Y は同時確率密度関数
fX,Y (x, y) =
2 x+ y < 1, x > 0, y > 0,0 (その他),
を持つとする.このとき,X の周辺確率密度関数は,0 < x < 1 のとき,
fX(x) =∫ ∞
−∞fX,Y (x, y) dy =
∫ −x+1
0
2 dy = 2(1− x)
となる.しがたって,X の周辺確率密度関数は
fX(x) =
2(1− x) 0 < x < 1,0 (その他),
である.また,0 < y < 1 に対して
fY (y) =∫ ∞
−∞fX,Y (x, y) dx =
∫ −y+1
0
2 dx = 2(1− y)
となることから Y の周辺確率密度関数は
fY (y) =
2(1− y) 0 < y < 1,0 (その他),
となる.これから X の二次までの積率を求めると
E[Y ] =∫ ∞
−∞yfY (y) dy =
∫ 1
0
y2(1− y) dy =13,
E[Y 2] =∫ ∞
−∞y2fY (y) dy =
∫ 1
0
y22(1− y) dy =16,
VAR[Y ] = E[Y 2]− E[Y ]2 =118
となる.0 < x < 1 としたとき,X = x が与えられたときの Y の条件付確率
密度関数は
fY |X(y|x) =
1
1−x 0 < y < 1− x,0 (その他)
1-text-A5-size : 2008/4/8(17:32)
64 第 3章 多次元の確率変数
となる.したがって,X = x (0 < x < 1) が与えられたときの Y の条件付き期
待値は
E[Y |x] =∫ ∞
−∞yfY |X(y|x) dy =
∫ 1−x
0
y1
1− x dy =1
1− x[y2
2
]1−x
0
=1− x
2
となる.さらに,
E[E[Y |X ]] =∫ ∞
−∞E[Y |x]fX(x) dx =
∫ 1
0
1− x2
2(1− x) dx =13
となる.
次に,X = x (0 < x < 1) が与えられたときの Y の条件付き分散を求める.
そのために,
E[Y 2|x] =∫ ∞
−∞y2fY |X(y|x) dy =
∫ 1−x
0
y2 11− x dy =
11− x
[y3
3
]1−x
0
=(1− x)2
3
となる.よって,X = x (0 < x < 1)が与えられたときの Y の条件付き分散は
VAR[Y |x] = E[Y 2|x]− E[X |x]2 =(1− x)2
3− (1− x)2
4=
(1− x)212
となる.
定理 3.4 X, Y を確率変数とし,E[Y 2] <∞ とする.このとき,
VAR[Y ] = E[VAR[Y |X ]] + VAR[E[Y |X ]]
である.ただし,h(x) = VAR[Y |x] とおいたとき,VAR[Y |X ] = h(X) で定めた.
証明 まず,
VAR[Y ] = E[Y − E[Y ]2] = E[Y − E[Y |X ] + E[Y |X ]− E[Y ]2]= E[Y − E[Y |X ]2] + E[E[Y |X ]− E[Y ]2]
+2E[Y − E[Y |X ]E[Y |X ]− E[Y ]]
1-text-A5-size : 2008/4/8(17:32)
3. 条件付き期待値 65
に注意する.上の式の最右辺の 3 項目は
E[Y −E[Y |X ]E[Y |X ]−E[Y ]] = E[E[Y −E[Y |X ]E[Y |X ]−E[Y ]|X ]]
となる.ここで,X が与えられたとき,E[Y |X ] と E[Y ] は定数であることに注意して,上の式の右辺の期待値の中を評価する:
E[Y − E[Y |X ]E[Y |X ]− E[Y ]|X ]
= E[Y |X ]− E[Y ]E[Y − E[Y |X ]|X ]
= E[Y |X ]− E[Y ]E[Y |X ]− E[Y |X ]= 0
となる.したがって,
E[Y − E[Y |X ]E[Y |X ]− E[Y ]] = 0
となり,定理は証明された.
例 3.6 X1, X2, . . . , Xn, . . . , は独立に同一分布に従う確率変数の列で
E[X1] = µX , VAR[X1] = σ2X <∞
とする.N は非負整数値確率変数で確率変数列 Xi∞i=1 とは独立し,
E[N ] = µN , VAR[N ] = σN <∞
とする.このとき,N 個までの確率変数列 Xi∞i=1 の部分和を
SN =N∑i=1
Xi
と定義する.ただし,S0 = 0 とする.定理 3.3 より
E[SN ] = E[E[SN |N ]]
がわかる.しかし,
E[SN |n] = E[X1 +X2 + · · ·+Xn] = nµX
1-text-A5-size : 2008/4/8(17:32)
66 第 3章 多次元の確率変数
より E[SN |N ] = NµX となる.これから
E[SN ] = E[NµX ] = E[N ]µX ] = µXµN
がわかる.同様に,
VAR[SN |n] = VAR[X1 +X2 + · · ·+Xn|n] =n∑i=1
VAR[Xi|n]
= nVAR[X1|n] = nσ2X
から VAR[SN |N ] = Nσ2X がわかる.定理 3.4 から
VAR[SN ] = E[VAR[SN |N ]] + VAR[E[SN |N ]]
= σ2XE[N ] + VAR[NµX ]
= σ2XE[N ] + µ2
XVAR[N ]
= σ2XµN + µ2
Xσ2N
となる.
N は母数 p (0 < p ≤ 1) の幾何分布に従うとする:
fN(n) =
p(1− p)n−1 n = 1, 2, . . .0 (その他)
とする.したがって
E[N ] =1p, VAR[N ] =
1− pp2
, mN (t) =pet
1− (1− p)et
となる.これは
E[etN ] =∞∑n=1
etnp(1− p)n−1 =∞∑n=0
pet(1− p)etn−1
=pet
1− (1− p)etn∑n=0
1− (1− p)et1− (1− (1− p)et)n−1
=pet
1− (1− p)et
1-text-A5-size : 2008/4/8(17:32)
3. 条件付き期待値 67
よりわかる.さらに,X1 は母数 λ (λ > 0) の指数分布に従うとする:
fX(x) =
λe−λx x > 00 (その他)
とする.したがって,
E[X] =1λ, VAR[X ] =
1λ2, mX(t) =
λ
λ− t , t < λ
である.
定理 3.3 からE[SN ] = µNµX =
1p
1λ
=1pλ
となる.定理 3.4 から
VAR[SN ] = µNσ2X + σ2
Nµ2X =
1p
1λ
+1− pp2
1λ2
=1
(pλ)2
がわかる.
Sn の分布を求めてみよう.そのために,
ISN ≤ z =
1 (SN ≤ z が起きたとき),0 (その他)
とおけば,P[SN ≤ z] = E[ISN ≤ z]と P[Sn ≤ z|N = n] = E[ISN ≤ z|n]となることと Sn は母数 n, λ のガンマ分布
fSn(x) =
λ
Γ(n) (λx)n−1λe−λx x > 0
0 (その他)
1-text-A5-size : 2008/4/8(17:32)
68 第 3章 多次元の確率変数
従うことに注意する.z > 0 に対して
P[SN ≤ z] = E[ISN ≤ z]= E[E[ISN ≤ z|N ]]
=∞∑n=0
E[ISN ≤ z|n]fN(n)
=∞∑n=1
E[ISN ≤ z|n]fN(n)
=∞∑n=1
P[SN ≤ z|N = n]fN (n)
=∞∑n=1
(∫ z
0
λ
Γ(n)(λx)n−1λe−λx dx
)p(1− p)n−1
=∞∑n=1
∫ z
0
λpe−λz[λx(1− p)]n−1
(n− 1)!dx
=∫ ∞
0
λpe−λz∞∑n=1
([λx(1− p)]n−1
(n− 1)!
)dx
=∫ ∞
0
λpe−λze(1−p)λx dx
= λp
∫ ∞
0
e−λpx dx
= 1− e−λpz
となる.最後から 4 番目の等号における和の記号と積分記号の順序交換はつぎから保障されることがわかる:∫ z
0
λ
Γ(n)(λx)n−1λe−λx dx ≤ 1
から∣∣∣∣ ∞∑n=1
(∫ z
0
λ
Γ(n)(λx)n−1λe−λx dx
)p(1− p)n−1
∣∣∣∣ ≤ ∞∑n=1
p(1− p)n−1 = 1
よりわかる.
したがって,SN は母数 pλ の指数分布に従うことがわかる.
1-text-A5-size : 2008/4/8(17:32)
4. 共分散と相関係数 69
4 共分散と相関係数
X と Y の2次までの積率としてそれぞれの平均と分散:
E[X], E[Y ], VAR[X ], VAR[Y ]
に加えて,平均まわりの相互積率を X と Y の共分散といい,
COV[X, Y ] = E[(X − E(X))(Y − E(Y ))]
と記すこと6にする.
定理 3.5 (共分散の公式)
COV[X, Y ] = E[XY ]− E[X]E[Y ]
証明
COV[X, Y ] = E[(X − E(X))(Y − E(Y ))] = E[XY −XE[Y ]− Y E[X] + E[X]E[Y ]]
= E[XY ]− E[X]E[Y ]
がわかる.
定理 3.6 X と Y が独立ならば,
COV[X, Y ] = 0
である.
証明
COV[X, Y ] = E[(X − E(X))(Y − E(Y ))] = E[XY ]− E[X]E[Y ]
= E[X]E[Y ]− E[X]E[Y ]
がわかる.
6[X2 ] と [Y 2] の期待値の存在を仮定すれば,ここで考えている期待値はすべて存在する.
1-text-A5-size : 2008/4/8(17:32)
70 第 3章 多次元の確率変数
注意 3.6 定理 3.6 の逆は必ずしも成立しないことに注意せよ.
定理 3.7 a, b を定数として,aX + bY の期待値と分散はつぎのようになる:
E[aX + bY ] = aE[X ] + bE[Y ],
VAR[aX + bY ] = a2VAR[X ] + b2VAR[Y ] + 2abCOV[X, Y ]
となる.特に,X と Y が独立ならば,
VAR[aX + bY ] = a2VAR[X ] + b2VAR[Y ]
である.
証明
例 3.7 (X, Y ) は同時確率密度関数
fX, Y =
1, 0 < x < 1, x < y < x+ 1,0, (その他),
を持つとする.このときの X と Y の共分散を求めよう.まず,X と Y の周
辺確率密度関数を求めよう.0 < x < 1 のとき,fX,Y (x, y) > 0 であることに注意すれば,0 < x < 1 のとき,
fX(x) =∫ ∞
−∞fX,Y (x, y) dy =
∫ x+1
x
dy = 1
となる.それ以外では fX,Y (x, y) = 0 なので,fX(x) = 0 となる.したがって
fX(x) =
1, 0 < x < 1,0, (その他),
となる.また,0 < y < 2 のとき,fX,Y (x, y) > 0 となることに注意すれば,
fY (y) =∫ ∞
−∞fX,Y (x, y) dx
=
∫ y0
1 dx, 0 < y < 1,∫ 1
y−1 1 dx, 1 ≤ y < 2,
=
y, 0 < y < 1,2− y 1 ≤ y < 2,
1-text-A5-size : 2008/4/8(17:32)
4. 共分散と相関係数 71
となる.したがって
fY (y) =
y, 0 < y < 1,2− y 1 ≤ y < 2,0, (その他)
となる.これらに注意すれば,
E[X] =∫ ∞
−∞xfX(x) dx
∫ 1
0
xdx =12,
E[Y ] =∫ ∞
−∞yfY (y) dy =
∫ 1
0
y2 dy +∫ 2
1
y(2− y) dy =13
+23
= 1,
E[XY ] = =∫ ∞
−∞
∫ ∞
−∞xyfX,Y (x, y) dx dy =
∫ 1
0
∫ x+1
x
xy dy dx
=∫ 1
0
x
[y2
2
]x+1
x
dx =∫ 1
0
x(2x+ 1)2
dx =[x3
3+x2
4
]1
0
=712
となる.したがって,
COV[X, Y ] = E[XY ]− E[X]E[Y ] =712− 1
2=
112
となる.
相関係数
X と Y の標準化X − E[X]√
VAR[X ],
Y − E[Y ]√VAR[Y ]
の積の平均を X と Y の相関係数といい,
ρ[X, Y ] = E
[X − E[X]√
VAR[X ]× Y − E[Y ]√
VAR[Y ]
]=
COV[X, Y ]√VAR[X ]
√VAR[Y ]
で記すことにする.
ρ[X, Y ] > 0 のときには X と Y に正の相関,ρ[X, Y ] < 0 のときには X と
Y に負の相関があるといい,ρ[X, Y ] = 0 のときには X と Y は無相関である
という.定義と定理 3.6 から,X と Y が独立ならば,X と Y は無相関であ
る.また,注意 3.6から X と Y は無相関であっても X と Y が必ずしも独立
ではない.
1-text-A5-size : 2008/4/8(17:32)
72 第 3章 多次元の確率変数
定理 3.8 X と Y は2次の積率をもつ任意の確率変数とする.このとき,
(i) −1 ≤ ρ[X, Y ] ≤ 1.(ii) |ρ[X, Y ]| = 1 となるための必要十分条件は定数 a, b (a = 0)が存在して,
P (Y = aX + b) = 1
が成立することである.特に,ρ[X, Y ] = 1ならば,a > 0となり,ρ[X, Y ] = −1ならば,a < 0 となる.
証明 (i) を示すために,
h(t) = E[(X − µX)t+ (Y − µY )2]
とする.ただし,µX = E[X], µY = E[Y ]である.期待値の中を展開すれば,
h(t) = t2 E[(X − µX)2] + 2tE[(X − µX)(Y − µY )] + E[(Y − µY )2]
= t2 VAR[X ] + 2tCOV[X, Y ] + VAR[Y ]
= VAR[X ](t+
COV[X, Y ]VAR[X ]
)2
+VAR[X ]VAR[Y ]− COV[X, Y ]2
VAR[X ]
となる.しかし,h(t) ≥ から
VAR[X ]VAR[Y ]− COV[X, Y ]2 ≥ 0
を得る.したがって,
COV[X, Y ]2VAR[X ]VAR[Y ]
≤ 1⇐⇒∣∣∣∣ COV[X, Y ]√
VAR[X ]√
VAR[Y ]
∣∣∣∣ ≤ 1
となり,(i) は示せた.(ii) 上の議論から |ρ[X, Y ]| = 1 となるための必要十分条件は
VAR[X ]VAR[Y ]−COV[X, Y ]2 = 0⇐⇒ t の二次方程式 h(t) = は単根である.
である.この解を t0 とする.しかし,E[(X − µX)t0 + (Y − µY )] = 0 に注意すれば,
0 = h(t0) = E[(X − µX)t0 + (Y − µY )2] = VAR[(X − µX)t0 + (Y − µY )]
1-text-A5-size : 2008/4/8(17:32)
5. 2 次元の確率変数の変換 73
となり,分散の性質 (iii) から
P ((X − µX)t0 + (Y − µY ) = 0) = 1
となる.したがって,a = −t0, b = µXt0 + µY とおけば,P (aX + b = Y ) = 1が成立することがわかる.また,
h(t) = VAR[X ](t− COV[X, Y ]
VAR[X ]
)2
= 0
に注意すれば,方程式
h(t) = VAR[X ](t+
COV[X, Y ]VAR[X ]
)2
= 0
の解は
t = t0 = −COV[X, Y ]VAR[X ]
なので,
a =COV[X, Y ]
VAR[X ]
となる.したがって,aの符号と ρ[X, Y ]の符号は同じになる.よって,(ii)は示された.
5 2 次元の確率変数の変換
(X, Y ) を2次元の確率ベクトルとし,実数値関数 g1(x, y), g2(x, y) によって定められる新たな確率ベクトル (U, V ) = (g1(X, Y ), g2(X, Y )) の分布を求めることを考える.R2 の任意の部分集合 B に対して,R2 の部分集合 A を
A = (x, y) ∈ R2 : (g1(x, y), g2(x, y)) ∈ B
で定めると
P((U, V ) ∈ B) = P((X, Y ) ∈ A)
となる.したがって,固定された g1, g2 に対して,(U, V ) の分布は (X, Y ) の分布のみに依存することがわかる.
1-text-A5-size : 2008/4/8(17:32)
74 第 3章 多次元の確率変数
5.1 離散型確率ベクトルの場合(X, Y )が離散型確率ベクトルの場合をまず考えよう.(X, Y ) の同時確率関
数を fX,Y (x, y)とし,(U, V ) の同時確率密度関数 fU, V (u, v)を求めよう.そのために,S = (x, y) ∈ R2 : fX, Y (x, y) > 0 とし,
T = (u, v) ∈ R2 : ある (x, y) ∈ S に対して, u = g1(x, y), v = g2(x, y)
とする.すると (u, v) ∈ T ならば,fU,, V (u, v) > 0 となり,T は可算集合となることに注意する.任意の (u, v) ∈ T に対して,
Suv = (x, y) ∈ S : g1(x, y) = u, g2(x, y) = v
とおけば,
fU, V (u, v) = P(U = u, V = v) = P((X, Y ) ∈ Suv) =∑
(x, y)∈Suv
fX, Y (x, y)
となる.
定理 3.9 X と Y は独立に平均 θ (θ > 0) と λ (λ > 0) のポアソン分布に従うとする.このとき,X + Y は平均 θ + λ のポアソン分布に従う.
証明 仮定より (X, Y ) の同時確率関数は
fX,Y (x, y) =θxe−θ
x!λye−λ
y!, x = 0, 1, 2, . . . , y = 0, 1, 2, . . .
となる.したがって,S = 0, 1, 2, . . . × 0, 1, 2, . . . である.いま,U = X +Y, V = Y とおく.すなわち,g1(x, y) = x+ y, g2(x, y) = y
である.y = v, x = u − v から v = 0, 2, . . . かつ u − v = 0, 1, . . . からu = v, v + 1, v + 2, . . . を得る.したがって,
T = v = 0, 1, 2, . . . ; u = v, v + 1, v + 2, . . .= u = 0, 1, 2, . . . ; v = 0, 1, . . . , u
となる.任意の (u, v) ∈ T に対して,Suv = (u, u− v) となるので,
fU, V (u, v) = fX,Y (u, u− v) =θu−ve−θ
(u− v)!λve−λ
v!,
1-text-A5-size : 2008/4/8(17:32)
5. 2 次元の確率変数の変換 75
をえる.U の周辺確率関数を求めるために,固定した非負整数 u を考える.
U = u = ∪v:fU, V (u, v)>0U = u, V = v
と
v : fU, V (u, v) > 0 = 0, 1, . . . , uとなる.よって,
fU (u) = P(U = u) = P(∪uv=0U = u, V = v) =n∑v=0
P(U = u, V = v)
=n∑v=0
fU, V (u, v) =n∑v=0
θu−ve−θ
(u− v)!λve−λ
v!= e−(θ+λ)
n∑v=0
θu−v
(u− v)!λv
v!
=e−(θ+λ)
u!
n∑v=0
(u
v
)θu−vλv =
e−(θ+λ)(θ + λ)u
u!
となり,定理は証明された.
5.2 連続型の場合(X, Y )を連続型確率変数とし,同時確率密度関数 fX, Y (x, y)を持つとする.
前節と同様,確率ベクトル (U, V ) は U = g1(X, Y ), V = g2(X, Y ) で定義され,
S = (x, y) ∈ R2 : fX,Y (x, y) > 0T = (u, v) ∈ R2 : ある (x, y) ∈ S に対して, u = g1(x, y), v = g2(x, y)
であったことを思い出そう.議論を簡単にするために,g1, g2 は一対一対応の
変換と仮定し,逆変換を
x = h1(u, v), y = h2(u, v)
と書くことにする.さらに,
J =∣∣∣∣ ∂x∂u
∂x∂v
∂y∂u
∂y∂v
∣∣∣∣ =∂x
∂u
∂y
∂v− ∂x
∂v
∂y
∂u
1-text-A5-size : 2008/4/8(17:32)
76 第 3章 多次元の確率変数
と7おく.ただし,
∂x
∂u=∂h1(u, v)
∂u,
∂x
∂v=∂h1(u, v)
∂v,
∂y
∂u=∂h2(u, v)
∂u,
∂x
∂v=∂h2(u, v)
∂v,
である.ヤコビアン J は恒等的にゼロではないとする.このとき,
fU, V =
fX,Y (h1(u, v), h2(u, v))|J |, (u, v) ∈ T0, (u, v) ∈ T
となる.これは,(u, v) ∈ T に対して,重積分の変数変換の公式を使えば,∂2
∂u∂vP(U ≤ u, V ≤ v) =
∂2
∂u∂v
∫ ∫g1(x, y)≤u, g2(x, v)≤v
fX,Y (x, y) dx dy
=∂2
∂u∂v
∫ u
−∞
∫ v
−∞fX,Y (h1(s, t), h2(s, t))|J | ds dt
となることからわかる.
例 3.8 X と Y は独立に標準正規分布に従っていると仮定し,変換
U = X + Y, V = X − Yを考える.したがって,g1(x, y) = x+ y, g2(x, y) = x− y である.(X, Y ) の同時確率密度関数は
fX,Y =12πe−(x2+y2)/2
であるので,S = R2 となる.また,g1, g2 は一対一対応で逆変換は
x = h1(u, v) =u+ v
2, y = h2(u, v) =
u− v2
となる.したがって,T = R2 となる.さらに,
J =∣∣∣∣ ∂x∂u
∂x∂v
∂y∂u
∂y∂v
∣∣∣∣ =∣∣∣∣ 1
212
12 − 1
2
∣∣∣∣ = −12
となるので,(U, V ) の同時確率密度関数は
fU, V (u, v) = fX, Y (h1(u, v), h2(u, v))|J |=
12π
exp(−1
2× (u+ v)2
4
)exp
(−1
2× (u− v)2
4
)12
=(
1√2π√
2e−u
2/4
)(1√
2π√
2e−v
2/4
)7これをヤコビアンという.
1-text-A5-size : 2008/4/8(17:32)
6. 多次元分布の代表的なモデル 77
となる.これと補題 3.1 から U と V は独立となる.
定理 3.10 X, Y は独立な確率変数とし,g1(x) は x のみの関数で g2(y) はy のみの関数とする.このとき,U = g1(X) と V = g2(Y ) も独立である.
証明 U, V は連続型の場合を示すことにする.任意の u ∈ R, v ∈ R に対
して,
Su = x ∈ R : g1(x) ≤ u, Sv = y ∈ R : g2(y) ≤ v,とおく.このとき,(U, V ) の同時分布関数は
FU, V (u, v) = P(U ≤ u, V ≤ v)= P(X ∈ Su, Y ∈ Sv) = P(X ∈ Su)P(Y ∈ Sv)
となる.これより (U, V ) の同時確率密度関数は
fU, V (u, v) =∂2
∂u∂vFU, V (u, v) =
(d
duP(X ∈ Su)
)(d
dvP(Y ∈ Sv)
)となる.したがって,補題 3.1 から定理は証明された.
6 多次元分布の代表的なモデル
6.1 二変量正規分布定義 3.12 確率変数 (X, Y ) がつぎの同時確率密度関数をもつとき,(X, Y )は母数 −∞ < µX < ∞, −∞ < µY < ∞, 0 < σX < ∞, 0 < σY < ∞, −1 <ρ < 1 の二変量正規分布に従うとする.
fX,Y (x, y) =1
2πσXσY√
1− ρ2exp
− 1
2(1− ρ2)Q(x, y)
ただし,−∞ < x <∞, −∞ < y <∞ で
Q(x, y) =(x− µX)2
σ2X
− 2ρ(x− µX)σX
(y − µY )σY
+(y − µY )2
σ2Y
である.
1-text-A5-size : 2008/4/8(17:32)
78 第 3章 多次元の確率変数
命題 3.6 (二変量正規分布の性質) (i)すべての x, yで fX,Y (x, y) ≥ 0である.(ii)
∫ ∫fX,Y (x, y) dx dy = 1 である.
(iii) X の周辺確率密度関数は
fX(x) =∫ ∞
−∞f(x, y) dy
である.
(iv) (X, Y ) の積率母関数は,−∞ < s, t <∞ に対して,
MX,Y (s, t) = exp[sµX + tµY +
12(s2σ2
X + 2stρσXσY + t2σ2Y )
]となる.
(v) X と Y の一次と二次の積率は以下のようになる:
E[X] = µX , E[X2] = σ2X + µ2
X , E[XY ] = ρσXσY + µXµY
となる.これらより
VAR[X ] = E[X2]− (E[X])2 = σ2X ,
COV[X, Y ] = E[XY ]− E[X]E[Y ] = ρσXσY
を得る.
証明 (i) は明らか.(ii) を示すために,
u =x− µXσX
, v =y − µYσY
とおく.すると
Q(x, y) = u2 − 2ρuv + v2 = (u− ρv)2 + (1− ρ2)v2
となる.さらに,
w =u− ρv√1− ρ2
1-text-A5-size : 2008/4/8(17:32)
6. 多次元分布の代表的なモデル 79
とおけば ∫ ∞
−∞
∫ ∞
−∞f(x, y) dx dy
=∫ ∞
−∞
∫ ∞
−∞
1
2π√
1− ρ2exp
− (u− ρv)2
2(1− ρ2)− v2
2
du dv
=∫ ∞
−∞
1√2π
exp(−w
2
2
)dw
∫ ∞
−∞
1√2π
exp(−v
2
2
)dv = 1
となる.
(iii) X の周辺確率密度関数は
fX(x) =∫ ∞
−∞f(x, y) dy
=1
2πσX√
1− ρ2
∫ ∞
−∞exp
[−1
2
(x− µXσX
)2
− 12(1− ρ2)
(v − ρx− µX
σX
)2]dv
となり,さらに
w =1√
1− ρ2
(v − ρx− µX
σX
)とおけば,
fX(x) =1
2πσXexp
[−1
2
(x− µXσX
)2] ∫ ∞
−∞e−w
2/2 dw
=1
2πσXexp
[−1
2
(x− µXσX
)2]を得る.
(iv) (X, Y ) の積率母関数は
MX,Y (s, t) = E[exp(sX + tY )] =∫ ∞
−∞
∫ ∞
−∞exp(sx+ ty)fX,Y (x, y) dx dy
= exp[sµX + tµY +
12(s2σ2
X + 2stρσXσY + t2σ2Y )
]であること示す.ただし,−∞ < s, t <∞ である.まず,
u =x− µXσX
, v =y − µYσY
1-text-A5-size : 2008/4/8(17:32)
80 第 3章 多次元の確率変数
とおく.すると
MX,Y (s, t) =∫∫
R2exp(sx+ ty)fX,Y (x, y) dx dy
= expµXs+ µY t×
∫∫R2
expsσXu+ tσY v 1
2π√
1− ρ2exp
− (u− ρv)2
2(1− ρ2)− v2
2
du dv
となる.ここで
w =u− ρv√1− ρ2
とおけば,
exp−(µXs+ µY t)MX,Y (s, t)
=∫∫
R2expsσX(
√1− ρ2w + ρv) + tσY v 1
2πexp
−w
2
2− v2
2
dw dv
=12π
∫∫R2
exp−1
2
(w − sσX
√1− ρ2
)2
− 12
(v − (sρσX + tσY ))2dw dv
× exp
12(s2σ2
X(1− ρ2) + (sρσX + tσY )2)
= exp
12(s2σ2
X + 2stρσXσY + t2σ2Y )
よりわかる.最後の等号は
12π
∫∫R2
exp−1
2
(w − sσX
√1− ρ2
)2
− 12
(v − (sρσX + tσY ))2dw dv = 1
は左辺の被積分関数は平均 N(sσX√
1− ρ2, 1)と N(sρσX + tσY , 1)に独立に従うふたつの確率変数の同時確率密度関数であることに注意すればよい.
(v) X と Y の一次と二次の積率を求める:
E[X] =∂
∂sMX,Y (s, t)
∣∣∣∣s=0
= µX ,
E[X2] =∂2
∂s2MX,Y (s, t)
∣∣∣∣s=0
= σ2X + µ2
X ,
E[XY ] =∂2
∂s∂tMX,Y (s, t)
∣∣∣∣s=0, t=0
= ρσXσY + µXµY
1-text-A5-size : 2008/4/8(17:32)
7. 演習問題 81
となる.これらより
VAR[X ] = E[X2]− (E[X])2 = σ2X ,
COV[X, Y ] = E[XY ]− E[X]E[Y ] = ρσXσY
を得る.
注意 3.7 ここで
Σ =
(σ2X ρσXσY
ρσXσY σ2Y
)とおけば,
11− ρ2
Q(x, y) = (x− µX , y − µY )Σ−1
(x− µXy − µY
),
|Σ| = σ2Xσ
2Y (1− ρ2)
となり,
fX,Y (x, y) =1
2π|Σ|1/2 exp[−1
2(x− µX , y − µY )Σ−1
(x− µXy − µY
)]
7 演習問題
問題 3.1 確率変数 X と Y の同時確率関数は下のような表で与えられるとする.
xy −1 0 1 4
1 0.12 0.1 0.1 0.082 0.1 0.1 0.05 0.043 0.08 0.1 0.1 0.03
(i) つぎの確率を求めよ.
(a)P (X > 1, Y ≤ 3), (b)P (X > Y ), (c)P (X = 1, Y < 1),
(d)P (X = 1, Y = 0), (e)P (X = 3),
(ii) X と Y の周辺確率関数 fX(x) と fY (y) を求めよ. さらにx
fX(x) = 1,
y
fY (y) = 1
を確認せよ.
1-text-A5-size : 2008/4/8(17:32)
82 第 3章 多次元の確率変数
(iii) X と Y は独立でないことを示せ.
問題 3.2 離散型確率変数 X, Y の同時確率関数 fX, Y (x, y)は下の表のように与えられているとする.
xy −1 0 1
−11
16
3
16
1
16
03
160
3
16
11
16
3
16
1
16
(i) X と Y の周辺確率関数 fX(x) と fY (y) を求めよ.
(ii) X の周辺分布関数 FX(x) = (X ≤ x)(y ∈ )を求め,FX(x) のグラフを作図せよ.
(iii) X, Y, XY の期待値 (X), (Y ), (XY ) を計算せよ.
(iv) X と Y の共分散 [X, Y ] を求めよ.
(v) X と Y は独立か従属かを調べよ.さらに,その理由を述べること.
問題 3.3 確率変数 X と Y の同時確率関数は下のような表で与えられるとする.
4 1 / 16 1 / 16 1 / 16 4 / 163 1 / 16 1 / 16 3 / 162 1 / 16 2 /161 1 / 16
y / x 1 2 3 4
(i) X と Y の周辺確率関数 fX(x) と fY (y) を求めよ. さらにx
fX(x) = 1,
y
fY (y) = 1
を確認せよ.
(ii) T := XY と S := X + Y のそれぞれの周辺確率関数 fT (t) と fS(s) を求めよ. さらにt
fT (t) = 1,
s
fS(s) = 1
を確認せよ.
(iii) [XY ]、[X + Y ] を計算せよ.
(iv) [X],[Y ] を計算せよ.
(v) X = x が与えれたときの Y の条件付き確率関数 fY | X(y| x) と求めよ. X = x が与えれたときの Y の条件付き確率関数 fY | X(y| x) が定義される各 x に対してさらに
y
fY | X(y| x) = 1
を確認せよ.
1-text-A5-size : 2008/4/8(17:32)
7. 演習問題 83
(vi) g(X) = [Y |X] を求めよ.更に,
[g(X)] = [ [Y |X]] = [Y ]
を確認せよ.
問題 3.4 つぎの関数が同時確率関数となるように定数 cを定め,P (X = 1, Y > 1), P (X = Y )
を求めよ.
(a) fX, Y (x, y) =
cx, x = 1, 2, 3; y = 1, 2,0, その他
(a) fX, Y (x, y) =
c|x+ y|, x = −1, 0, 1, 3; y = −1, 0, 2,0, その他
問題 3.5 (X, Y ) の同時確率密度関数がつぎのように与えられるとする.
fX, Y (x, y) =
4xy, 0 < x < 1, 0 < y < 1,0, その他
(i) つぎの確率を求めよ.
(a)P (0 < X ≤ 0.2, 0.5 < Y < 0.8), (b)P (X ≤ Y ), (c)P (X = Y ),
(ii) X と Y の周辺確率密度関数 fX(x) と fY (y) を求めよ.さらに ∞
−∞fX(x) = 1,
∞
−∞fY (y) = 1
を確認せよ.
問題 3.6 (X, Y ) の同時分布関数がつぎのように与えられているとする.
FX, Y (x, y) =
xy(x+ y)
6, 0 ≤ x ≤ 1, 0 ≤ y ≤ 2,
x(x+ 2)
3, 0 ≤ x ≤ 1, y > 2,
y(y + 1)
6, x > 1, 0 ≤ y ≤ 2,
1, x > 1, y > 2,0, その他
(i) X と Y の周辺分布関数 FX(x) と FY (y) を求めよ.
(ii) (X, Y ) の同時確率密度関数 fX, Y (x, y) を求めよ.さらに 2fX, Y (x, y) dx dy = 1
を確認せよ.
(iii) X と Y の周辺確率密度関数 fX(x) と fY (y) を求めよ.さらに, ∞
−∞fX(x) dx = 1,
∞
−∞fY (y) dy = 1
を確認せよ.
1-text-A5-size : 2008/4/8(17:32)
84 第 3章 多次元の確率変数
問題 3.7 (X, Y ) の同時分布関数がつぎのように与えられているとする.
FX, Y (x, y) =
cxy
(1 + x)(1 + 2y), x ≥ 0, y ≥ 0,
0, その他
ただし,c は非負の定数とする.
(i) c を求めよ.
(ii) X と Y の周辺分布関数 FX(x) と FY (y) を求めよ.
(iii) (X, Y ) の同時確率密度関数 fX, Y (x, y) を求めよ.さらに 2fX, Y (x, y) dx dy = 1
を確認せよ.
(iv) X と Y の周辺確率密度関数 fX(x) と fY (y) を求めよ.さらに, ∞
−∞fX(x) dx = 1,
∞
−∞fY (y) dy = 1
を確認せよ.
問題 3.8 連続型確率変数 X, Y は同時確率密度関数
fX, Y (x, y) =
x+ y (0 < x < 1, 0 < y < 1),
0 (その他),を持つとする.
(i) X の周辺確率密度関数 fX(x) を求めよ.なお,解答には fX(x) > 0 となる x の範囲を明示すること.
(ii) X の期待値 [X],分散 [X],XY の期待値 [XY ] および X と Y の共分散[X, Y ] を求めよ.ただし,最終的な数値を求めるために必要な分数の足し算や引き算の計算(通分)はしなくともよい.
(iii) (c) X = x が与えられたときの Y の条件付確率密度関数 fY |X(y| x) を求めよ.ただし,解答には fY | X(y| x)が定義される x の範囲と fY | X(y| x) > 0 となる y の範囲を明示すること.
(iv) X = x が与えられたときの Y の条件付期待値 (Y |x) を求めよ.(v) U = X + Y と V = X − Y とおいたとき,U と V の同時確率確率密度関数 fU, V (u, v)
を求めよ.ただし,fU, V (u, v) > 0 となる u と v の範囲を明示すること.
(vi) V の周辺確率密度関数 fV (v) を求めよ.ただし,fV (v) > 0 となる v の範囲を明示せよ.
問題 3.9 0 ≤ a ≤ 1/2 とし,確率変数 X と Y は −1 と 1 の値を取り,
P (X = −1, Y = −1) = P (X = 1, Y = 1) = a
と
P (X = −1, Y = 1) = P (X = 1, Y = −1) =1
2− a
をする.このとき,以下の問いに答えよ.
1-text-A5-size : 2008/4/8(17:32)
7. 演習問題 85
(i) [XY ] を計算せよ.
(ii) X の周辺確率、X の期待値 [X] と分散 [X] を求めよ.
(iii) X = 1 が与えられたときの Y の条件付き確率と条件付き期待値 [Y |X = 1] を求めよ.
(iv) X と Y の相関係数 ρ(X,Y ) を求め, X と Y が無相関になるよう a を定めよ.
(v) 上の問いで求めた a のとき,X と Y が独立かを調べよ.
問題 3.10 確率変数 (X, Y ) の確率密度関数
fX,Y (x, y) =
c(x+ y) (x, y) ∈ (0, 1) × (0, 1),0 (その他),
で与えられているとする.このとき,以下の問いに答えよ.
(i) 確率密度関数の性質を満たすよう c を定めよ.以下は (i) で求めた c の値を使うことにする.
(ii) X の周辺確率密度関数 fX(x) を求めよ.さらに ∞
−∞fX(x) dx = 1
を確認せよ.
(iii) [XY ],[X + Y ] を計算せよ.
(iv) [X],[Y ] を計算せよ.
(v) X = xが与えれたときの Y の条件付き確率密度関数 fY | X(y| x)と求めよ.さらに,X = xが与えれたときの Y の条件付き確率密度関数 fY | X(y| x) される各 x に対して ∞
−∞fY |X(y| x) dy = 1
を確認せよ.
(vi) g(X) = [Y |X] を求めよ.更に,求めた g(X) について等式
[g(X)] = [ [Y |X]] = [Y ]
が成立することを確認せよ.(一般に正しいことがわかるが,具体的にこの問題の同時確率密度関数について成立することを確認すること)
問題 3.11 X と Y の同時確率密度関数を
fX,Y (x, y) =
2 0 < x < y, 0 < y < 1,0 (その他),
とする.
(i) [X,Y ] を計算せよ.
(ii) X の周辺確率密度関数 fX(x) を求めよ.さらに ∞
−∞fX(x) dx = 1
を確認せよ.
1-text-A5-size : 2008/4/8(17:32)
86 第 3章 多次元の確率変数
(iii) X = xが与えれたときの Y の条件付き確率密度関数 fY | X(y| x)と求めよ.さらに,X = xが与えれたときの Y の条件付き確率密度関数 fY | X(y| x) される各 x に対して ∞
−∞fY |X(y| x) dy = 1
を確認せよ.
問題 3.12 X を離散型確率変数とし、その確率関数が
fX(x) =x
3x = 1, 2
で与えられ,X = x が与えられたときの Y の条件付き確率関数が
fY |X(y|x) = P [Y = y|X = x] =
xy
1
2
x
y = 0, . . . , x
で与えられるとする.ただし, xy
=
x!
y!(x− y)!
である.
(i) [X] と [X] を計算せよ.
(ii) [Y ] を計算せよ.
(iii) X と Y の同時確率関数 fX, Y (x, y) を求めよ.さらにx
y
fX, Y (x, y) = 1
を確認せよ.
問題 3.13 X と Y の同時確率密度関数が
fX,Y (x, y) =
4xy − 2x− 2y + 2 (0 < x, y < 1),0 その他
で与えられとする.
(i) Y の平均と分散を求めよ.
(ii) X の周辺確率密度関数 fX(x) を求めよ.さらに ∞
−∞fX(x) dx = 1
を確認せよ.
(iii) X と Y の共分散と相関係数を求めよ.
(iv) Y = [Y |X]を求めよ.(ヒント:答えは X の関数となる.また,[Y |X]は g(x) = [Y |x]としたとき,[Y |X] = g(X) で定める. )
(v) Y = a+ bX (a と b は定数)としてとき、[Y − Y 2] を最小にする a と b を [X]、[Y ]、[XY ]、および [X2 ] で表現した後、それを求めよ .
1-text-A5-size : 2008/4/8(17:32)
7. 演習問題 87
問題 3.14 X と Y は互いに独立な確率変数でそれぞれは正規分布 N(0, 1) と N(0, 4) に従うとする.
U = X + Y, V = X − Y
とおく.
(i) U と V の同時確率密度関数 fU, V (u, v) を求めよ.さらに 2fU, V (u, v) du dv = 1
を確認せよ.
(ii) U と V の分散共分散行列 [U ] [U, V ]
[U, V ] [V ]
の逆行列を求めよ.
問題 3.15 X と Y 互いに独立な確率変数でそれぞれは標準正規正規分布に従うとし,
U =1√2(X + Y ), V =
1√2(X − Y )
とおく.
(i) U と V の期待値と U と V の分散共分散行列 [U ] [U, V ]
[U, V ] [V ]
を求めよ.
(ii) U と V の同時確率密度関数 fU, V (u, v) を求めよ.さらに 2fU, V (u, v) du dv = 1
を確認せよ.
問題 3.16 確率変数 X と Y は同時確率密度関数
fX, Y (x, y) =
x+ y, 0 < x < 1, 0 < y < 1,0, その他
を持つとする.
(i) U = X + Y, V = X とおく.U と V の同時確率密度関数 fU, V (u, v) を求めよ.さらに
2fU, V (u, v) du dv = 1
を確認せよ.
(ii) U の周辺確率密度関数 fU (u) を求めよ.さらに ∞
−∞fU (u) du = 1
を確認せよ.
1-text-A5-size : 2008/4/8(17:32)
88 第 3章 多次元の確率変数
(iii) Z = XY とおく.Z と X の同時確率密度関数 fZ, X(z, x) を求めよ.さらに 2fZ, X(z, x) dz dx = 1
を確認せよ.
(iv) Z の周辺確率密度関数 fZ(z) を求めよ.さらに ∞
−∞fZ (z) dz = 1
を確認せよ.
(v) T = X/Y とおく.T と Y の同時確率密度関数 fT, Y (t, y) を求めよ.さらに 2fT, Y (t, y) dt dy = 1
を確認せよ.
(vi) T の周辺確率密度関数 fT (t) を求めよ.さらに ∞
−∞fT (t) dt = 1
を確認せよ.
問題 3.17 X と Y は独立同一の分布に従い,それぞれは確率密度関数
f(x) =
e−x, x > 0,0, x ≤ 0
を持つとする.
(i) V = X + Y, U = Y としたとき,U と V の同時確率密度関数 fU, V (u, v) を求めよ.さらに
2fU, V (u, v) du dv = 1
を確認せよ.
(ii) V の周辺確率密度関数 fV (v) を求めよ.さらに ∞
−∞fV (v) dv = 1
を確認せよ.
(iii) W = X/Y とおく.W と Y の同時確率密度関数 fW, Y (w, y) を求めよ.さらに 2fW, Y (w, y) dw dy = 1
を確認せよ.
(iv) W の周辺確率密度関数 fW (w) を求めよ.さらに ∞
−∞fW (w) dw = 1
を確認せよ.
1-text-A5-size : 2008/4/8(17:32)
7. 演習問題 89
問題 3.18 連続型確率変数 X, Y は同時確率密度関数
fX, Y (x, y) =
1
8(2 + x+ y + βxy) (−1 < x < 1, −1 < y < 1)
0 (その他)
(3.3)
をもつとする.ただし,β は 0 ≤ β ≤ 1/2 なる定数とする.また,0 ≤ β ≤ 1/2 かつ −1 < x <1, −1 < y < 1 ならば,fX, Y (x, y) ≥ 0 となっていることに注意せよ.この事実の証明は不要とする.このとき,以下の問いに答えよ.
(i) X と Y の周辺確率密度関数 fX(x) と fY (y) をそれぞれ求めよ.さらに ∞
−∞fX(x) dx = 1,
∞
−∞fY (y) dy = 1,
を確認せよ.
(ii) XY の期待値 [XY ] を求めよ.
(iii) X と Y が無相関になるときの β の値を求めよ.
(iv) X と Y が無相関になるとき(すなわち,X と Y の同時確率密度関数が問い (c) で求めたβ の値をもつ (6.6) で与えられるとき),X と Y は独立であるかどうかを調べよ.
問題 3.19 離散型確率変数 X は確率関数
fX(x) =
1
3(x = −1, 0, 1),
0 その他
を持つとする.
(i) X の分布関数 FX(x) のグラフを描け.
(ii) X の平均 [X] ,X の 2 次と 3 次の原点まわり積率 [X2 ], [X3 ] を求めよ8.
(iii) Y = X2 としたとき,X と Y の相関係数を求めよ.
問題 3.20 取りうる値の集合が 1, 2, 3 である確率変数 X と Y の同時確率分布 fX, Y (x, y)
が以下のように与えられているとする.以下の問いに答えよ.
YX 1 2 3
12
36
2
36
3
36
21
36
10
36
3
36
34
36
5
36
6
36
8X の平均 は X の期待値と同じこと.また,X の 2 次の原点まわり積率は X2 の期待値と同じこと.
1-text-A5-size : 2008/4/8(17:32)
90 第 3章 多次元の確率変数
(i) X と Y の周辺確率分布 fX(x) と fY (y) を求めよ.さらにx
fX(x) = 1,
y
fY (y) = 1
を確認せよ.
(ii) Y = y (y = 1, 2, 3) が与えれたときの X の条件付確率関数 fX|Y (x| y) を求めよ.さらに,Y = y (y = 1, 2, 3) が与えれたときの X の条件付確率関数 fX| Y (x| y) が定義される各 y に対して
x
fX|Y (x| y) = 1
を確認せよ.
(iii) Y = y (y = 1, 2, 3) が与えれたときの X の条件付期待値 [X| y] を求めよ.(iv) g(y) = [X| y] とおいたとき,g(Y ) の期待値 [g(Y )] を求めよ.
問題 3.21 連続型確率変数 X は確率密度関数
fX(x) =
c(1 − x2) (−1 < x < 1)
0 (その他)
をもつとする.ただし,c は正の定数とする.このとき,以下の問いに答えよ.
(i) fX(x) が確率密度関数になるように c を定めよ.
(ii) X の期待値と分散 (X), (X) を求めよ.
(iii) X の分布関数 FX(x) = (X ≤ x) を求めよ.ただし,−∞ < x < ∞ である.
(iv) 確率 (−0.9< X < 0.9) を求めよ.
(v) チェビシェフの不等式を用いて確率 (−0.9< X < 0.9) の下限を求めよ.
問題 3.22 連続型確率変数 X は確率密度関数
fX(x) =1√2πσ
exp
− (x− µ)2
2σ2
(−∞ < x < ∞)
を持つとする.ただし,µ, σ は定数で −∞ < µ <∞, 0 < σ < ∞ とし,exp(x) = ex である.
Z =X − µ
σ
と定義したとき,以下の問いに答えよ.
(i) Z の分布関数FZ(z) = (Z ≤ z) (−∞ < z <∞)
を求めよ.
(ii) Z の期待値と分散は[Z] = 0, [Z] = 1
1-text-A5-size : 2008/4/8(17:32)
7. 演習問題 91
で与えられることを示せ.ただし, ∞−∞ fX(x) dx = 1 および limx→±∞ x exp(−x2/2) = 0 は
証明なしで用いてよい.
(iii) X の期待値と分散 [X] と [X] を求めよ.
問題 3.23 離散型確率変数 X, Y の同時確率関数 fX, Y (x, y) は下の表のように与えられているとする.
xy −1 0 1
−1 α β α0 β 0 β1 α β α
ただし,α, β は定数で α > 0, β > 0 かつ α+ β =1
4である.
(i) X と Y の周辺確率関数 fX(x) と fY (y) を求めよ.
(ii) X の周辺分布関数 FX(x) = (X ≤ x) を求め,FX(x) のグラフを作図せよ.
(iii) X, Y, XY の期待値 (X), (Y ), (XY ) を計算せよ.
(iv) X と Y の共分散 [X, Y ] を求めよ.
(v) X と Y は独立か従属かを調べよ.さらに,その理由を述べること.
問題 3.24 連続型確率変数 X, Y は同時確率密度関数
fX, Y (x, y) =
8xy (0 < x < y < 1),
0 その他を持つとする.
(i) fX, Y (x, y)が同時確率密度関数であるためにどのようなことを満足していなければならないかを述べた上でそれらを実際にみたしているかを確認せよ.
(ii) X と Y の周辺確率密度関数 fX(x) と fY (y) を求めよ.なお,解答には fX(x) > 0 とfY (y) > 0 となる範囲を明示すること.
(iii) Y = y が与えられたときの X の条件付確率密度関数 fX|Y (x| y) を求めよ.ただし,解答には fX| Y (x| y) が定義される y の範囲を明示すること.
(iv) Y = y が与えられたときの X の条件付期待値 (X| y) を求めよ.
問題 3.25 Ω を標本空間とし,F を Ω 上の完全加法族9とする.確率 は F 上で定義された実数値関数でつぎの条件をみたすものであった.
(P1) 任意の A ∈ F に対して,(A) ≥ 0
(P2) (Ω) = 1
9Ω の部分集合のなす集まりで任意の可算回の集合演算に関して閉じている.
1-text-A5-size : 2008/4/8(17:32)
92 第 3章 多次元の確率変数
(P3) i = 1, 2, . . . に対して Ai ∈ F かつ Ai ∩ Aj = ∅ (i = j) ならば,
(∪∞i=1Ai) =
∞i=1
(Ai)
(P1)から (P3)をどこでどのように使ったかを明示(例に倣って)して以下の (i)–(iii)を証明せよ.
(i) (P1)–(P3) および (3.5) を用いてつぎのことを示せ:B1, B2 ∈ F とする.B1 ∩ B2 = ∅ ならば, (B1 ∪B2) = (B1) + (B2) (3.4)
(ii) (P1)–(P3) および (3.5) を用いてつぎのことを示せ:B3, B4 ∈ F に対して(B3 ∪ B4) ≤ (B3) + (B4)
(iii) (P1)–(P3),(3.4) および (3.5) を用いてつぎのことを示せ:C1, C2 ∈ F とする.C1 ⊂ C2 ならば, (C1) ≤ (C2)
例:たとえば,(∅) = 0 (3.5)
をを示すには,A1 = Ω, Ai = ∅ (i ≥ 2) とおくと
Ω = ∪∞i=1Ai (3.6)
とAi ∩ Aj = ∅ (i = j) (3.7)
となることに注意すれば,
(Ω) = (∪∞i=1Ai) =
∞i=1
(Ai) = (Ω)+∞
i=2
(∅)
となる.ただし,1 番目の等号は 3.6 からわかり,2 番目の等号は (3.7) と (P3) からわかる.したがって,
∞i=2
(∅) = 0 (3.8)
となる.しかし,(P1) から (∅) ≥ 0 なることと (3.8) から (∅) = 0 がわかる.