56
確率変数とは 非負整数値の確率変数 項分布、幾何分布 確率変数とは っている します。こ から して いう します。 する ある確 めるこ きます。す わち する ります。これ いう うち、 るか いう わせ 、そ れぞれが確 あるから す。ここ るこ 意しましょう。す わち、 いる かります。こ ように によって確 まる変 を確 びます。また、こ びます。 に、 します。 から るま して いう します。そして るま します。 ある て、 、確 ります。こ

章 確率変数とは - Keio Universityweb.econ.keio.ac.jp/staff/tose/cours/2009/emath/tose001chap007.pdf第 章 確率変数とは 非負整数値の確率変数 項分布、幾何分布

  • Upload
    others

  • View
    5

  • Download
    0

Embed Size (px)

Citation preview

  • ���

    第�章 確率変数とは

    ��� 非負整数値の確率変数

    ����� �項分布、幾何分布

    確率変数とは

    壺の中に赤玉が �� 個、白玉が ��個入っているとします。このとき壺から玉を取り出しては戻

    すという試行を �回繰り返します。赤玉が出る個数を� とすると、� � �である確率を求めるこ

    とができます。すなわち

    � ���

    �� � �

    ��

    とすると

    � �� � �� � ��������

    が � � � の確率となります。これは、�回取

    り出すという操作のうち、どの �回に赤玉が出

    るかという組み合わせの数が ��� で、そのそ

    れぞれが確率

    �����

    であるからです。ここで全ての確率を足すと �になることに注意しましょう。すなわち、二項定理

    を用いると��

    ���

    � �� � �� ���

    ���

    �������� � ��� �� � �

    が分かります。このように� の取る値によって確率が定まる変数を確率変数と呼びます。また、こ

    の� を �項変数と呼びます。

    次に、別の確率変数を紹介します。上の壺から赤玉が出るまで玉を取り出しては戻すという試行

    を繰り返します。そして赤の玉が出るまでに出た白玉の個数を とします。 � �であるときは、

    最初の �回白玉が出て、� � �回目の試行で赤玉がでるので、確率は

    � �� � �� � ��

    となります。この場合に全確率が �となるのは

    ������

    � �� � �� �������

    �� ��

    �� ��

    �� �

  • �� 第 章 確率変数とは

    と示すことができます。この確率変数をパラメータ �の幾何変数と呼びます。

    以下、確率変数� と を例にとって、いくつかの概念を紹介していきます。

    期待値

    次に� の期待値 ������ ������とは

    ���� ���

    ���

    � �� �� � �� ���

    ���

    ���������

    を意味します。この値を具体的に求めてみましょう。� � のときは、この最右辺の項は ですか

    ら、和は � � �から取っても同じ値になります。また � � �のとき

    � � ��� � � � ������� ��� �

    ��

    �� � ������ ���� � � �� � ���

    �� � ������� ��� �� � ���� � � � �������

    から得られる

    � � ��� � � � ������� ����

    であることに注意して

    ���� ���

    ���

    � � ��������

    ���

    ���

    � � ������������ (� � � � �と変数変換)

    ��������

    � � ����������������

    � ���������

    �������������� � ����� ���� � ��

    と計算されます。さらに、別の計算法も紹介します。二項定理の式

    ��� �� ���

    ���

    ��������

    の両辺を �で偏微分すると

    ��� � ���� ���

    ���

    �����������

    を得ます。この両辺を �倍すると

    ����� ���� ���

    ���

    ���������

    を得ます。

  • ��� 非負整数値の確率変数 ���

    次に幾何変数

    �� � �������

    �� � � �� �������

    � � �� � �������

    � � � ����

    の期待値を計算しましょう。� �������

    � � � とすると

    ��� �� � � � � � � �� � � ���� � � �

    �� � ����

    から

    � � � ���� �� �

    ����

    �� を得ます。ここで � �� ��とすれば

    ������

    � � � � ��� �� �

    ��

    を得ます。従って

    �� � � �

    ���

    と計算されます。次の演習 ��と ���� において、微分を用いた別の計算法を �通り紹介します。

    演習 ���� 条件 �� �の下で成立する

    �� � � � � � � � � �� � � �

    ���

    ��

    を微分した後に、� �� ��として������

    �� の値を求めましょう。

    上の演習 ��では有限和と微分の交換を用いました。次に、�ページの定理 ���において示した

    無限和と微分の交換を用いて(または ��ページで紹介したべき級数の項別微分可能性を用いて)、

    上の ����の幾何変数の期待値

    �� � �������

    � � �� � �������

    � � �

    を計算します。そのために

    �� � � � � � � � � �� � � � � �

    の両辺を で微分して

    ��� �� � � � � � � � �� � � � �� ���� � � � � ����

  • ��� 第 章 確率変数とは

    を得ます。さらに、この両辺を 倍して

    ��� �� �������

    ��

    が従い、確率変数 の期待値が

    �� � � � � ��� �� �

    �����

    と計算されます。

    分散・標準偏差

    再び ���ページにおいて導入した �項変数と幾何変数を題材に確率変数に関する諸概念を導入

    していきます。

    �項変数� の分散とは、その期待値 � � ���� � �� を用いて

    � ��� ���

    ���

    �� � ���� �� � ��

    で定義します。�項変数� に対して、その関数 ����の期待値を

    ������� ����

    ���

    ����� �� � ��

    と定めると

    � ��� � ���� � ����であることに注意しましょう。定数 ��� �� �と別の関数 ����に対して

    ������� � ������ � �������� � ��������

    が成立することにも注意しましょう。このことは、一般の確率変数に対しても成立する式で

    �������� � ������� ���

    ���

    ������� � �������� �� � ��

    � ��

    �����

    ����� �� � �� � ��

    �����

    ����� �� � ��

    � ��������� � ���������

    と証明されます。このことに加えて

    ���� ���

    ���

    � �� � �� � �

    が成立することに注意します。

  • ��� 非負整数値の確率変数 ���

    以上の準備の下で

    � ��� � ������ �������

    を示すことができます。実際、

    � ��� � ���� � ��� � ���� ������ �� ����� � ������� ������ � ������� � ������� � ������ �������

    と証明できます。これを用いると �����を計算すれば � の分散 � ���を求めることができます。

    そこで ����� を次のように求めます。

    ����� ���

    ���

    ����������

    ���

    ���

    ��� � ���������� ���

    ���

    ���������

    ���

    ���

    ��� � ���������� � ��

    と計算を進めます。ここで、����を用いて得られる

    ��� � ����� � ���� ���������

    を用いると

    ����� ���

    ���

    ���� �������������� � �� (� � � � �と変数変換)

    � ��� � ���������

    ���������������� � ��

    � ��� � �����������

    �������������� � ��

    � ��� � ������� ���� � ��� ��� � ���� � �� � ������ ���� ��

    が従います。これから

    � ��� � ������ ������� � ������ ���� �� � ����

    � ������ ���� �� ��� � ����� �� � ��

    と �項変数� の分散が求められます。

    次に幾何変数 の分散

    � � � � ��� � ���� �������

    �� � ���� �� � ��

  • ��� 第 章 確率変数とは

    を求めます。

    この場合も、� の場合と同様に定数 ��� �� �と の関数 �� �と �� �に対して

    ������ � � ���� �� � ������ �� � ������ ��� ���� � �

    であることを用いると

    � � � � �� � � �� � ��� � �� ��� ���� � � ������ � �� ��� ��� ���

    を得ます。そこで

    �� �� �������

    ���� � �������

    ���

    を計算します。そのために ����すなわち

    �� � �� �������

    ����

    の両辺を微分して得られる�

    ��� �� �������

    ��� � �����

    の両辺を � 倍して��

    ��� �� �������

    ��� � ���

    を導きます。これから

    �� �� � �������

    ��� � ��� � �������

    ��

    ����

    �� � �� �

    ��

    � � ��

    ��

    が従い

    � ��� � �� ��� ��� ��� � � � ����

    � �

    ���

    ��

    を得ます。

    高次のモーメント・特性関数

    さらに �項変数と幾何変数を題材としていくつかの概念を説明していきます。

    確率変数� をパラメーター �� �の �項変数とします。このとき� の特性関数とは

    ����� � ������ � �

    �����

    ������������ �

    �����

    ������������� �

    ����� �

    ��

    のことです。

  • ��� 非負整数値の確率変数 ���

    ここでこの式の各項を � について微分すると

    ������ ���

    ���

    ��������

    ��� � ���� � � ����� � ���� � ������ ����となりますが、これから � � を代入して

    ������ � ����

    すなわち

    ���� � ��

    を得ます。さらに ����をさらにもう一度微分すると

    ������� ���

    ���

    ��������

    ������ � ����� ���� �� ����� � ���� � ������� � � ����� � ���� � � ����� ���

    となります。ここで � � とすると���������� � ���� �� � ����� � � � ����から

    ����� � ���� ���� � ��を得ます。

    次にパラメータが �の確率変数 の特性関数について考えます。

    � ��� � ���� �� �

    ������

    ������ � �������

    ������

    ��

    �� ���

    となります。ここで

    �������

    ������� � �� � ��� � ����� � � �������

    �� �

    ��

    から������

    ���� ��� ��������� �

    ������

    ����� �� ����

    ���� �������

    � � � � ��

    が従うことを用いて、���� において微分と無限和が交換して

    �� ��� �������

    �� � �� � ����� �

    �������� � �����

    と計算されます。ここで � � とおくと

    ������ �

    ������ ��

    から

    ���� �

    が従います。

  • ��� 第 章 確率変数とは

    演習 ���� さらに ��� ���を計算することにより、 の �次のモーメント��

    ��と分散 � � �を計算

    してください。

    ����� 非負整数値の確率変数

    � を今まで説明してきた �項変数と幾何変数のように非負の整数に値をとる変数とします。こ

    の変数� が確率変数とは非負整数 � ��に対して� � �の値を取る確率

    �� � � �� � ��

    が与えられていて

    �� � �������

    �� � �

    が成立するときです。

    このとき� の期待値とは

    ���� �������

    ���

    で与えられます。必ずしも、この値が有限になるとは限らないことに注意しましょう� 。

    さらに � �� ����が有限であるとき、� の分散とは

    � ��� �� ���� � ����

    のことです。一般に� の関数 ���� があるとき

    ������� ��������

    ������

    によって ���� の期待値を定義します。����を別の関数とするとき

    �������� � ������� � �������� � ���������

    が成立します。これを用いると

    � ��� � ������ �������

    が成立します。�

    ������

    ���

    ��

    であることを用いて

    � �� � �� ��

    ����

    ���� � �� ���� � � � �

    とすれば

    ��� ��

    ��

    ������

    �� �

    となります。

  • ��� 非負整数値の確率変数 ��

    確率変数� の特性関数とは

    �� ��� � ������ � �

    ������

    ������

    のことです。この和が定義されるのは

    ������

    ���������� � ������

    �� � �

    から分かります。条件 ����

    � � �� � ��

    が成立するとき、� に関する微分と無限和が交換して

    ������ �������

    ��������

    から

    ����� �

    ��

    ������

    ��� �

    ������

    を得ます。さらに条件 ����

    �� � �� � ��

    が成立するとき、� に関する微分と無限和がもう一度交換して

    ������� �������

    �����������

    から

    ���� �� � �������

    ���� � ������

    を得ます。より一般には、条件 ����

    �� � �� � ��

    が成立するとき

    ����� �� � �

    �������

    ���� � �������

    が従います。

  • ��� 第 章 確率変数とは

    ����� ����分布

    確率変数� がパラメータ � � の � �!! " 分布に従うとは� が非負整数に値をとり

    � �� � �� � �� � ��

    ���� � � �� �� �� � � ��

    が成立するときです。実際������

    �� � ��

    ��� ��

    ������

    ���

    ��� �� � � � �

    から、� が確率変数であることが従います。この � �!! "変数� の期待値は

    ���� �������

    � � �� � ��

    ��� ��

    ������

    � � ��

    ��(� � � � �と変数変換)

    � ��

    ������

    �����

    ��� � � ��

    ������

    ���

    ��

    � � � �� � � � �から

    ���� � �

    を得ます。� の �次のモーメントは

    ����� �������

    �� � ����

    ��

    �������

    ��� � �� � ����

    ���

    ������

    � � ����

    ��

    �������

    ��� � �� � ����

    ������� (� � � � �と変数変換)

    �������

    ��� ����� ����

    ����

    ��� ����� ����� �

    � ����

    ������

    ��

    ��� � � �� � �

    と計算されます。これから� の分散は

    � ��� � ������ ������� � �� � �� �� � �と計算されます。

    確率変数の収束

    非負整数値の確率変数の列 ����を考えます。この列 ����が非負整数値の確率変数 � に分布収束するとは任意の自然数 � に対して

    � � � �� � � � �� � � � � � � �

  • ��� 非負整数値の確率変数 ���

    が成立することです。このとき

    � ��� � � � � � � � �� � � �� � � � �� � � � ���� � � � � � � �� � � � � � � � �� � � �� � � �

    から、任意の自然数 � に対して

    � ��� � �� �� � �� � �� �� �� ��� ����

    を得ます。逆に ����が任意の自然数 � に対して成立すると仮定すると

    � � � �� � � � ������

    � ��� � �� �������

    � �� � �� � � � � � � � �

    が成立します。条件 ����は分布収束の必要十分条件であることが示されましたが、これは非負整

    数値の確率変数の列に固有のことです。

    ������の小定理

    確率変数�� はパラメータ �と �をもつ �項変数とします。但し

    ����� � �� � �

    が一定であるとします。このときこの確率変数列�� の分布収束極限を求めます。

    � ��� � �� ���

    ��� ����� � �� ��� �����

    ���

    ��� �������

    �� ��� �

    ����

    ���

    ������ �

    ���� �

    ����� � � �

    ����� �

    ������ �

    ��

    �� ��

    ��� ��� � � �� � ��

    となります。ここで� は正数 �をパラメータとする � �!! " 変数です。

    ����� 負の二項分布

    ���ページの壷をもう一度使います。壷の中には、赤玉が �� 個、白玉が �� 個入っているとし

    ます。このとき壺から玉を取り出しては戻すという試行を �個の赤玉が出るまで繰り返します。こ

    のとき、白玉が出た個数を � として非負整数に値をとる確率変数 � を定めます。まず � � �で

    ある確率 � �� � ��を求めましょう。すなわち

    � ���

    �� � �

    ��

  • � 第 章 確率変数とは

    とすると、�回目の試行から �� �� �回目の試行において、赤玉が �� �個、白玉が �個出ていることをもとに

    � �� � �� � ������� � ���

    であることが分ります。

    まず������

    � �� � �� � �

    であることを確かめましょう。そのために ��� � �に対して

    �� � �������

    ��

    が成立することを用います。この両辺を � � �回微分すると� � � � � � �� � ��

    ��� ��� ����

    �������� � �� � � � ��� � � ���� (� � � � � � �と変数変換)

    �������

    �� � � � ���� � � � �� � � � �� � ����

    から

    ��� ��� �������

    �� � � � ���� � � � �� � � � �� � ���� � ��� �

    � �������

    ������� � �� ���

    を得ます。� � として、���を用いると

    ������

    � �� � �� �������

    ������� � ��� � ��������

    ������� � � � �� ���� �� � �

    が従います。

    次に� の期待値����と分散 � ���を求めましょう。���の両辺を微分すると

    ��� ����� �������

    � � ������� � ����

    ��� � ��

    ��� ����� �������

    ��� � �� � ������� � ����

    が従います。これを用いると期待値 ����は

    ���� �������

    � �� �� � �� �������

    � � � �� � ��

    �������

    � � ������� � ��� � ��������

    � � ������� � ���

    � �� � ��� � ���� �

  • ��� 非負整数値の確率変数 ��

    と計算されます。さらに ����� � ���は

    ����� � ��� �������

    ��� � �� �� �� � �� �������

    ��� � �� � � �� � ��

    �������

    ��� � �� � ������� � ��� � ���������

    ��� � �� � ������� � ���

    � ��� � ��� � ����� ���� �

    ��� � ���

    ��

    と計算されますから

    ����� � ����� � ��� � ���� � ��� � ���

    ���

    ��

    ���� � �� � ����

    � ��� � ������ ������� � ���

    を得ます。

    演習 ��� 公式

    � � ������� � � � �����������������と ��� � ���������に関する同様の公式を用いて����と ����� � ���を計算しましょう。

  • ��

    第�章 確率変数

    ��� 指数分布・ガンマ分布

    ����� 指数分布

    確率変数� が正数 �をパラメータとする指数分布に従うとは、確率密度関数

    ���� ��

    ����

    �� �� � � �� � �

    に従うときです。����が確率密度関数であるのは

    ���� �

    であることと ����

    ������ �

    ���

    ������ ���������

    �� � ���� � �

    から分かります。この確率変数� の期待値と分散を求めましょう。

    ���� �

    ���

    � � ������ �

    ���

    � � ������� ���

    ����������

    ���

    ����� �

    � �����

    ����

    ��

    と� の期待値は計算されます。� の分散を求めるために�� の期待値を計算すると

    ����� �

    ���

    �� � ������ �

    ���

    �� � ������� ���

    �����������

    ���

    ������� ��

    ���

    � � ������ � ������ �

    ��

    となります。このことから

    � ��� � ������ ������� � ������

    ���

    ��

    となります。� の �次のモーメント �����を計算するために次の節でガンマ関数を導入します。

  • �� 第 �章 確率変数

    ����� ガンマ関数

    正数 � に対してガンマ関数

    #� � ��

    ���

    ���������

    を定義します。この関数の意味は徐々に説明します。

    まず基本的な公式を導きます。部分積分を用いて得られる

    #� � �� �

    ���

    ������� �

    ���

    ��������� ��

    �����������

    ��

    ���

    ���������� � #� �

    によって公式

    #� � �� � #� �

    が示されます。また

    #��� �

    ���

    ����� ���������

    �� �

    にも注意します。すると非負整数 � ��に対して

    #��� �� � � � #��� � ��� � �� � #��� ��� � � � � ���� ����� �� � � �� � #��� � ��� � ����� �� � � �� � � � #��� � ��

    を得ます。

    さて、パラメータ � � の指数分布従う確率変数� を考えて、その �次のモーメントを計算し

    ます。すなわち

    ����� �

    ���

    �� � ������ �! � ��と変数変換�

    ���

    �!�

    ��� ���� �

    ��! �

    ���

    ���

    !�����! ��

    ��#�� � �� �

    ��

    ��

    を得ます。ここで、� の �次のモーメント �����を別の方法で計算するためにモーメント母関数

    という概念を導入します。

    ����� モーメント母関数

    確率密度関数 ����を持つ確率変数� が非負に値を取るとします。すなわち

    ���� �� � �

    が成立するとします。このとき

    "�#� �� ����� � �

    ���

    ��������

  • ���� 指数分布・ガンマ分布 ��

    を # の関数とみるとき、モーメント母関数と呼びます。例えば� がパラメータ � � の指数分布

    に従うとき、

    ����� � �

    ���

    �� � ���� � �

    ���

    ��������

    となりますが、積分が収束するのは # � � � すなわち

    # � �

    のときです。このとき積分は

    "�#� � ����� � �

    # � �������

    ����

    ��

    �� #

    と計算されます。

    ここで定義したモーメント母関数が有用であることを示します。

    可測空間 $が与えられている状況で考えます。��� #� $ � �$� %�上定義されて、# について微分可能な関数 & ��� #�に対して関数 '����と '����が存在して、条件

    �& ��� #�� � '��������� ((#& ��� #�

    ���� � '����

    '������ � ���

    '������ � ��

    を満たすとき

    (

    (#

    & ��� #��� �

    (

    (#& ��� #��� �����

    と積分と微分が交換します。� � ) であるときに

    & ��� )�� & ��� �� �

    (&

    (#��� #��#

    から評価

    �& ��� )�� & ��� ��� �

    ����(&(# ��� #����� �# �

    '�����# � �) � �� �'����

    が従います。この評価を用いると、�� �� のときに #� � #� のとすると����& ��� #��� & ��� #��#� � #����� � '����

    から %�&�!'�� の収束定理が適用できて

    �������

    & ��� #��� & ��� #��#� � #� �� �

    �������

    & ��� #�� � & ��� #��#� � #� �� �

    (&

    (#��

    が従います。

  • �� 第 �章 確率変数

    この事実 �����を繰り返して適用できると仮定すると

    �(

    (#

    ��"�#� �

    ���

    ����������

    が従います。例えば、上にあるようにパラメータ � � の指数分布に従う確率変数の場合は、上の

    議論が # � �において適用可能で ���

    ���������� �

    �(

    (#

    ��"�#� �

    �(

    (#

    ���

    � � # �� � ��

    �� � #����

    が # � �において成立します。ここで # � を代入すると

    ����� �

    ���

    ��������

    �� � ������

    ���

    ��

    が従います。

    ����� 独立な確率変数の和

    確率変数� と が独立で、� が確率密度関数 ����を持ち、 が確率密度関数 ��!�を持つとし

    ます。このとき �つの確率変数の和 * � � � は確率密度関数

    +�,� �

    ����

    ��, � !���!���

    を持ちます。実際、� と は独立ですから (((ページの定理

    ��� によると結合変数 ��� � の確率密度関数は ������!� とな

    ることが分ります。ここで $ � %に対して

    - �� ���� !�) $ � �� ! � %�

    とすると

    � �$ � * � %� �

    ������!����! �

    ����

    � ������

    ������!���

    ��!

    ����

    � ��

    ��, � !���!��,�

    �! �

    ��

    � ����

    ��, � !���!��!�

    �,

    から

    +�,� �

    ����

    ��, � !���!��!

    が * � � � の確率密度関数を与えることが分りました。

    いま確率変数��� � � � � �� は独立で、全てパラメータ � � の指数分布に従うとします。*� ��� � � � ����の確率密度関数 �����を求めましょう。まず � � �の場合を考えます。そのために

  • ���� 指数分布・ガンマ分布 �

    まず *����!� 関数

    ��� ��

    ��� �� � � �� � �

    を定めます。このとき�� の確率密度関数は

    ����� � ���������

    と記述されます。これを用いると

    ���,�� �

    ����

    ��,� � ��������

    ����

    �,� � ������������ � ����������

    ���

    ������� ���

    �� � �������,� �,� � � �,� � �

    と計算されます。ここで

    �,� � �� ��� ���� �� � +,- � � ,�� �それ以外�

    に注意しましょう。また ,� � のときは

    �,� � �� ���

    が常に成立することも用います。さらに *� の確率密度関数は

    ���,�� �

    ����

    ���,� � ��������

    ����

    �,� � �����,� � ����������� � ����������

    ���

    ������� ��� �,� � ���� � ������� �

    ��� �,� � �

    �,� � �

    と計算されます。これを繰り返すと *� の確率密度関数は

    ���,�� ���,������� ����

    ���� �����

    であることが示されます。このことは、��ページにおいて、特性関数を用いて別の計算法を紹介

    します。また、この確率密度関数に従う確率分布は、次の第 �����節で紹介するガンマ分布の特別

    な場合です。

  • �� 第 �章 確率変数

    ���� ガンマ分布

    正数 � � と � � を固定して関数

    ���� ���

    #���������

    ���

    を確率密度関数にもつ確率分布をガンマ分布と呼びます。この ���� が確率密度であるのは ���

    ������ ���

    #���

    ���

    ������

    �� (! � ��と変数変換)

    ���

    #���

    ���

    � !�

    �������

    ��! �

    #���

    ���

    !�������! ��

    #���� #��� � �

    から従います。次に確率変数� がこのガンマ分布に従うとして、期待値を求めます。

    ���� �

    ���

    �������

    ���

    #���

    ���

    ����

    �� (! � ��と変数変換)

    ���

    #���

    ���

    � !�

    �����

    ��! �

    � � #���

    ���

    !�����!

    ��

    � � #��� � #�� � �� ��

    � � #��� � �#��� ��

    から

    ���� ��

    を得ます。さらに� の分散を計算するために� の �次のモーメントを求めると

    ����� �

    ���

    ��������

    ���

    #���

    ���

    ������

    �� (! � ��と変数変換)

    ���

    #���

    ���

    � !�

    �������

    ��! �

    �� � #���

    ���

    !�������!

    ��

    � � #��� � #��� �� ��

    � � #��� � �� � ���#��� ���� � ��

    から

    ����� ����� ��

    となります。さらに� の分散は

    � ��� � ������ ����� � ���

    と計算されます。

    演習 ���� � の �次のモーメントを計算しましょう。

  • ���� 指数分布・ガンマ分布 ��

    ガンマ変数の和 確率変数� はパラメータ � � と � � のガンマ分布に従うとします。また、

    確率変数 はパラメータ � � と � � のガンマ分布に従うとします。以下では、� と が独立

    であると仮定して、確率変数 * � � � の確率密度関数を求めます。* の確率密度関数 +�,�は

    , � のとき� の確率密度関数

    ���� ���

    #���� ������

    ���

    と の確率密度

    ��!� ���

    #���� !������ �!�

    を用いて、

    +�,� �

    ��

    ��, � !���!��!

    ��� � ��#���#���

    ��

    �, � !����������� � !�������!

    �����

    #���#���� ���

    ��

    �, � !����!����!

    となります。さらに等式の最後に現れる定積分を ! � ,�と変数変換すると ��

    �, � !����!����! �

    ��

    �, � ,������,�����,�� � ,�����

    ��

    ��� �����������

    となり、

    . �

    ���� � �����������

    と定めると +�,�は

    +�,� �����

    #���#���� . � ,��������

    と計算されます。他方 ���

    +�,��, � �

    と ���

    ,���������� �#��� ��

    ����

    から

    . �#��� � #���#�� � ��

    �����

    を得ます。以上から

    +�,� �����

    #�� � ��,��������

    が示されました。すなわち * はパラメータ � � �と �のガンマ分布に従うことが示されました。

  • �� 第 �章 確率変数

    ベータ関数 正数 �� � � に対して、、ベータ関数を

    /��� �� ��

    ��

    �� � �����������

    と定義します。このとき、�����から

    /��� �� �#��� � #���#�� � ��

    を得ます。

    ��� 一様分布

    実数 $� % �が $ � %を満すとします。確率密度関数

    ���� �

    ��

    ���� �� �$� %�� �� � �$� %��

    により定まる確率変数 � をパラメータ $� %の一様変数と呼びます。� の期待値と分散を求めま

    しょう。

    ���� ��

    %� $

    ��

    ��� ��

    %� $

    ������

    ��

    ��%� $�

    と� の期待値が求まます。次に

    ����� ��

    % � $

    ��

    ���� ��

    %� $

    ������

    ��

    ��%� � $%� $��

    から

    � ��� � ������ ������� � ���

    �%� $��

    と計算されます。

    以下では、$ � ��、% � �の場合を考えましょう。このとき

    ���� � � � ��� ��

    となります。� の特性関数を計算すると

    �� ��� ��

    ���

    ����� ��

    ���������

    ��

    �� ���

    ���� � ����� � !�" �

    と計算されます。確率変数��� � � � � ��が独立で、パラメータ $ � ��� % � � の一様分布に従うとします。このとき確率変数

    *� � �� � � � ����

  • ���� 一様分布 ���

    の特性関数は

    ������ �

    �!�" �

    ��となります。さらに

    � ��

    �*� �

    ���� � � � �����

    の特性関数は

    ������ � �������

    �� �

    �����

    ���

    ��

    �!�"� ��

    ��

    ���

    ��

    となります。このとき � �� ��の極限が重要です。

    ���� �!�" �

    �� �� �

    ��� �

    ���� �� � � � � �� �

    ��� � �� � 0���

    を満す無限階微分可能な関数 0���が�上に存在します。このとき

    ������ � �

    ��

    ��

    �� �

    �����

    ��

    ��

    ��� 0�

    ���� �� � +��

    となるように

    +� ��

    �����

    ��

    ��

    ��� 0�

    と定めます。この +�は � �� ��のときに

    +� � � �+� ����� ��

    となります。このことを用いると

    � '�� � +�

    +� � �+� �

    であることから

    � � '�� � +�� �� '�� � +��

    +�� +� � � �� ��

    �� ��

    が従い、さらには

    ������ � �� �������� �� �� �� ���

    を得ます。これは ���ページの中心極限定理(定理 ����の特別な場合で、確率変数 �が期待値

    で分散�

    �の正規分布に弱収束することを意味します。

  • ���

    第�章 正規分布について

    ��� 正規分布

    ����� 標準正規分布

    定義

    以下では、���ページ以降に示す ����

    ����

    �� �

    �1

    を前提とします。

    � ��� ���

    �1

    ����

    を標準正規分布の密度関数と呼びます。実際 ����

    � ����� � �

    が成立します。まず確率変数 � が標準正規分布に従うとして � の期待値 ���� を求めますが、

    �����

    �が奇関数であることから

    ���� ��

    �1

    ����

    �����

    �� �

    となります。次に �次のモーメント �����を計算すると、���

    ��

    ��� ���� �

    を用いて部分積分すると

    ����� ��

    �1

    ����

    ������

    ��

    ��

    �1

    ����

    ����� ���

    ����

    ��

    �1

    ������ ���

    �����

    ��

    �1

    ����

    ����

    �� � �

    から

    ����� � �

    を得ます。

  • ��� 第 �章 正規分布について

    ガウスの積分

    . ��

    ���

    ���

    ��

    はガウスの積分と呼ばれて,確率論・統計学で重要な役割を果たします. � � に対して

    ���

    ��� �

    ���

    であることから,この広義積分が存在することが従います.実際、この極限の結果から正数2 �

    と 3� � が存在して

    ����� �2 �� � 3��

    すなわち

    ��� � 2

    ���� � 3��

    が成立します。このとき

    ����

    ���

    �� �2

    ����

    ���� �

    2

    4� �� �����

    を得ます。これは %�&�!'�� 積分の場合に、積分の存在を意味します�。

    次に,積分の値を求めましょう.そのためにワリスの積分

    �� �

    ����

    !�"� ��� �5 � � �� �� �� � � ��

    について考えます.ここで変数変換を行います.

    奇数の5のとき: 5 � ��� � のとき

    � � � !�

    とおくと

    �� � � !�"���� !�"���� � � !�"���� � !� ���

    ですから

    �� �

    ����� ������

    が成立します.

    偶数の5 のとき: 5 � ��� � のとき

    � � � �� ��

    ��"�

    とおくと

    �� � � �!�"� �

    ��

    �������積分の場合は、�����から、単調増加な関数

    � �� �

    � ��

    �����

    が上に有界であることが分り、������� � ��の存在が従います。�� ページの演習 ����を参照してください。

  • ���� 正規分布 ���

    から

    �� � � �� � � �� �

    �� � � �� � ��

    ��

    となります.そして

    !�"� � ��

    � � � �� ��

    � � ��

    であることを用いると

    �� � ����� �

    ����

    !�"���� ���

    ���

    �� � ������� �� � ��

    �� �

    ���

    �� � ������

    を得ます.

    ここで,. に関して � �

    �� と変数変換します.すると

    . �

    ���

    �����

    ��

    を得ます.さらに任意の � �に対して

    �� �� � ���� � �� � ��

    �����

    が成立しますから

    ��� ���� � ����� � ��� � ����

    得ます.そして

    ��

    ��� ������ � �

    ��

    �����

    ��

    ���

    �����

    �� �

    ���

    �� � ������

    から

    ������ � . �

    ������

    を得ます.他方

    �� �

    ����

    !�"� ��� �

    ����

    !�"��� ��� � ! �����

    ��� !�"��� � � ! �����

    ��

    ����

    �5 � �� !�"��� � � � !� � !���

    � �5 � ��� ���

    !�"��� ����

    ����

    !�"� ���

    � �5 � �� ����� � ���

    から

    �� �5 � �5

    ����

  • ��� 第 �章 正規分布について

    を得ます.これを用いると

    ��� ���� ���

    ����� ���� ���

    � ��� ���� ������

    ����� ������ �� � � �� � �

    ������ �� � � �� � � �� ����� ������ �� � � �� � �

    ������ �� � � �� � � �1

    および

    ����� ���

    ��� ������ �

    ��

    ��� �� ��� ���� ������

    ������� �� � � �� � �

    ���� ������ �� � � �� � ��� ������� �� � � �� � �

    ���� ������ �� � � �� � �が導かれます.この �式から

    �������� ��

    ��� �� 1�

    を得ます.さらに,

    �������

    ���

    ������ �

    が導かれます.実際, � � � �� であるとき � !�" � � �から

    � !�"���� � � !�"�� � � !�"���� �

    を得ますから

    � ����� � ��� � �����

    が分かります.この式を ����� � で割ると

    � ����

    ������

    ����������

    ���� �

    ��

    ですから,��� �

    ���� � �� �� ���

    を用いて,はさみうちの定理から ������� を得ます.

    さて ������� ,すなわち

    ������ � . �

    ������

    において � �� �� としましょう.

    ������ �

    ������

    ���

    ���������

    ������

    ���

    �1

    ��� �

    ��

    1

    ��� �� ���

    が分かります.さらに,この極限と ������� を用いて

    ������ ��

    1

    ��� �� ���

  • ���� 正規分布 ��

    を得ます.以上で

    . �

    1

    を示しました.

    以下では、さらにこの値を極座標変換を用いて計算します。そのために、正数 3 � に対して

    閉円盤

    -� � ���� !�) �� � !� � 3��上で定義された連続関数 ���� !�に対して

    ��

    ���� !����!

    を極座標を用いて計算します。まず半径方向の �� 3�と回転軸の �� �1�の分割

    � 6� � 6� � � � � � 6� � 3� � #� � #� � � � � � #� � �1

    を用いて

    -�� � ��6 � ! #� 6 !�" #�) # �#���� #��� 6 �6���� 6��� �� � �� � � � � �� � � �� � � � � � �

    によって -� を分割します。そして

    7� �6��� � 6�

    �� 8� �

    #��� � #��

    を用いて

    ��� � �7� � ! 8� � 7� !�" 8�� -��を取ります。底辺を-�� として、高さ ������の柱体の和で積分

    � ���

    ���� !����!を近似して行き

    ます。すると

    �.� �� ��������#� � #���������6� � 6����� �� �のとき

    .� ����

    ������ �-�� � ��

    ��

    ���� !����!

    となります。他方

    �-��� � ���6�� � 6������#� � #���� �

    ��6� � 6���� � �6� � 6�����#� � #����

    から

    .� �����

    ��7� � ! #8� � 7� !�" #8� �7� � �6� � 6�����#� � #���� ��

    ���

    � ��

    ��6 � ! #� 6 !�" #�6�6

    ��#

    を得ます。以上から

    ��

    ���� !����! �

    ���

    � ��

    ��6 � ! #� 6 !�" #�6�6

    ��#

  • ��� 第 �章 正規分布について

    が証明されました。

    ここで

    ���� !� � ������

    とします。このとき

    ���

    ��

    ������ �

    ���

    � ��

    �� �

    6�6

    ��# �

    ���

    �����

    ���

    �# � 1��� ����

    において 3 �� ��とすると

    ��

    ������ � 1

    が従います。ここで左辺に /�&�"�の定理を用いると� ����

    ���

    ��� 1

    から ����

    ���

    1

    が示されました。

    ��次のモーメント

    確率変数� が標準正規分布に従うとします。このとき ��次のモーメントを計算しましょう。

    ������ �

    ����

    ��� � �

    �1

    ����

    ��

    ��

    �1

    ���

    ��� � �� �� ��� (� � ��

    �と変数変換)

    ��

    �1

    ���

    �������� � �

    ��

    ��

    ���

    1

    ���

    ������������ �

    ��

    1#

    �� �

    ���

    1

    �� � �

    ��� � �

    �� � � �

    �� ��� #��

    �� ��� � ����� � �� � � �� � �

    から

    ������ ���

    1� #�� �

    �� ��� � ����� � �� � � �� � � �� � � �� �� � � ��

    を得ます。ここで � � ��の変数変換をするときに

    �� � ��� �

    ����

    から

    �� ��

    ��

    ��

    を得られる変換を行っていることに注意しましょう。

  • ���� 正規分布 ���

    ����� 一般の正規分布

    次に一般の正規分布を定義します。正数 9 � と5 �をパラメータとして

    ���!��� ���

    �1

    � �9��

    �� �� ���� �

    を確率密度関数としてもつ分布を正規分布と呼びます。実際に、���! が確率密度関数となるのは

    次のように示されます。 ����

    ���!����� ��

    �1

    � �9

    ����

    ���� ������ �

    ��

    (, ���5

    9と変数変換)

    ��

    �1

    � �9

    ����

    ���� ���9�,

    ��

    �1

    ����

    ���� ����, �

    �1

    �1 � �

    から ���!���は確率密度関数となります。

    以下� をこの確率密度関数に従う確率変数として、その期待値 ����を計算します。

    ���� �

    ����

    ����!����� ��

    �1

    � �9

    ����

    ����� �� ���� �

    �� (, ���5

    9と変数変換)

    ��

    �1

    � �9

    ����

    �9, � 5����� ���9�,

    ��

    �1

    � 9

    ����

    ,���� ����, �

    �1

    �5

    ����

    ���� ����, � 5

    から

    ���� � 5

    と計算されます。さらに� の分散を計算します。

    ����� �

    ����

    �����!�����

    ��

    �1

    � �9

    ����

    ������ �� ���� �

    �� (, ���5

    9と変数変換)

    ��

    �1

    � �9

    ����

    �9, �5������ ���9�,

    ��

    �1

    � 9�

    ����

    ,����� ����, �

    �1

    � 95

    ����

    ,���� ����, �

    �1

    �5�

    ����

    ���� ����,

    � 9� �5�

    と� の �次のモーメント �����が計算されますから、� の分散は

    � ��� � ������ ����� � 9� �5� �5� � 9�

  • �� 第 �章 正規分布について

    と計算されます。以上で確率変数� が ���! に従うとき、期待値が5で標準偏差が 9であること

    が分かりました。

    独立な正規変数の和 独立な確率 � と がそれぞれ ����!� と ����!� に従うとします。このと

    き確率変数 * � � � が期待値5� � 5� �5�、分散 9�� � 9�� � 9

    �� の正規分布に従うことを示

    します。確率変数 * の確率密度関数は次のように計算されます。

    +�,� �

    ����

    ����!��, � !���� �!� �!��!

    ��

    �1� �9�9�

    ����

    �� ��������

    ��

    ���� ��������

    ���!

    (: �! �5�

    9�と変数変換)

    ��

    �1� �9�9�

    ����

    �� �������������

    ��

    ����

    ��"

    9��:

    ��

    �1� �9�

    ����

    �� ����������

    ��

    ����

    ��"

    �:

    ここで被積分関数の指数関数の部分を簡略化するために

    ���

    ��, � 9�: �5���

    9��� :�

    � ���� �9

    �� � 9

    ���:

    � � �9�:�, �5�� � �, �5���9��

    � ���� �9�����9�� � 9

    ���

    �: � 9��, �5�

    9�� � 9��

    ��� �, �5��� � 9

    �� � 9

    �� � 9��

    9�� � 9��

    � ���� 9

    ��

    9��

    �: � 9��, �5�

    9�� � 9��

    ��� �

    ���, �5�

    9�

    ��

    と計算を進めると

    +�,� ��

    �1� �9�

    �� �� �

    �������

    �� ����

    �� �� �

    ������

    �"�����:

    (� �9��: � ��

    9�と変数変換)

    ��

    �1� �9�

    �� �� �

    �������

    �� ����

    ���� ��� 9�

    9���

    ��

    �1� �9�

    �� �� �

    �������

    �� ����

    ���� �����

    ��

    �1� �9�

    �� �� �

    �������

    ���

    �1

    ��

    �1

    � �9�

    �� �� �

    �������

    ��

    と確率変数 * の確率密度関数が計算されます。

  • ���� カイ �乗分布 ���

    以上で、独立な正規変数� と の和 * が再び正規変数になり、� が ����!� に、 が ����!�に従うときに、* は�

    ����� �

    !���!��に従うことを示しました。このことは、後に ���ページにお

    いて特性関数を用いても証明します。

    この事実を一般化すると次の定理となります。

    定理 ���� 独立な正規変数��� ��� � � � � ��が、それぞれ����!� に従うとします。このとき、確率変数

    * � �� ��� � � � ����も正規変数となり、���! に従います。ただし、5と 9は

    5 � 5� � � � �� 5�� 9� � 9�� � � � �� 9��

    で与えられます。

    ��� カイ�乗分布

    � が標準正規変数であるとします。このとき確率変数 * � �� の確率密度関数を求めます。*

    が非負の値を取りますから � $ � %として � �$ � * � %� の値を計算すると

    � �$ � * � %� � � ��

    % � � � �$� � � �$ � � �

    %�

    � �� �

    $ � � �

    %�

    � �

    ����

    �1

    ����

    �� (, � �� と変数変換)

    � �

    ��

    �1

    ���� �

    ,�, � �

    ��

    �1,

    ���� ��,

    から * � �� の確率密度関数は

    ��,� ��

    �1,

    ���� � �,�

    と計算されます。これは � � ��、� ��� のガンマ分布に他なりません。この分布を特に、自由度 �

    のカイ �乗分布と呼びます。

    次に � と が独立な標準正規変数とします。* � �� � � の確率密度関数を具体的に求めま

  • ��� 第 �章 正規分布について

    しょう。�� と �の確率密度関数を用いて

    ���,� �

    ���

    ��, � !���!��!

    ���

    ���1�, � !� �

    � �� ����� � �

    !��

    ����!

    ��

    �1��

    �� �

    ��

    ��!�, � !��! (� � ! �

    ,

    �と変数変換)

    ��

    �1��

    �� �

    ��

    ���

    �����

    �� � �� �� (� �,

    �� !�" #と変数変換)

    ��

    �1��

    �� �

    ��

    ���

    �� � ! #�#�� � ! #

    ��

    �1��

    �� �

    ��

    ����# �

    �1��

    �� � � 1 � �

    ���

    �� �

    から

    ���,� ��

    ���

    �� �

    と計算されます。

    さらに �� と��、�� が独立な標準正規変数とします。* � ��� ���� � �

    �� の確率密度関数を

    具体的に求めましょう。� � ��� ���� と � �

    �� の確率密度関数を用いると� と が非負の実

    数に値をとる独立な確率変数になることから、* � � � の確率密度関数は , � のとき

    ���,� �

    ���

    ���, � !���!��!

    ���

    ���

    �� ����� � �

    �1!��

    ����!

    ��

    �1

    � ����

    �� �

    ��

    !�!

    ��

    �1

    � ����

    �� �

    !

    ���

    ��

    �1

    � ���

    , � �� �� �

    と計算されます。

    より一般に�� �� � �� �� � � � � ��が独立な標準正規変数であるとします。このとき��� �� � �� �� � � ��がパラメータ � � ��、� �

    �� のガンマ変数であることから

    * � ��� � � � �� ���

    は、パラメータ � � ��、� ��� のガンマ変数であることが分かります。これから

    ���,� ��

    #���

    � � ��� � ������� �� �,�が * の確率密度関数であることが従います。

  • ���� �変数正規分布について ���

    ��� �変数正規分布について

    実数 7 が �7� � �を満たすとします。また 9�� 9� は正数とします。このとき

    ;��� !� ���

    �� 7���� � ����

    9��� �7 �� � ����! � ���

    9�9��

    �! � ����9��

    を用いて、確率密度関数を

    ���� !� ��

    �1�

    �� 7� ��

    9�9���

    ����� �����

    と定めます。この ���� !�が確率密度関数であることを示すには

    ���� !� �

    および

    ��

    ���� !����! � �

    を示す必要があります。そのために

    � ��� ��

    9�� < �

    ! � ��9�

    と定めます。このとき

    ; ��

    �� 7� ��� � �7�< �

  • ��� 第 �章 正規分布について

    となります。ここで ����

    �����

    �* �

    �1

    を用いました。さらに、�に関する積分結果を ! について積分すると

    ��

    ���� !����! �

    ����

    � ����

    ���� !���

    ��!

    ����

    �1

    � �9�

    ����

    � �! (�! � 9��

  • ���� �変数正規分布について ���

    となります。次に の分散を計算します。

    � � � �

    ��

    �! � �������� !����!

    ����

    �! � ����� ��

    ������ !���

    ��!

    ����

    �1

    � �9�

    �! � ��������

    � �!

    ����

    �1

    � �9�

    �9�

  • ��� 第 �章 正規分布について

    と計算され、さらに

    ��� � �

    ��

    �!���� !����! �

    ����

    !

    � ����

    ����� !���

    ��!

    ����

    !�

    �1

    � �9�

    ����#

    ��� � 79�

  • ���� 正定値な �次形式と多変数の正規分布 ��

    となり、確率変数 は期待値 ��、標準偏差 9�の正規分布に従うことが分かります。

    独立な正規変数 � と に対して � � が再び正規分布に従うことを ���ページの定理 ���で

    示しました。実は、�変数の正規分布に従がう ��� �に対して

    * � $� � %

    が正規変数になることが分かります。このことは、�次形式を用いた方が説明しやすいですから、

    ���ページで説明します。また、一般の �変数の正規分布に対して、特性関数を用いた説明を ���

    ページにおいて紹介します。

    最後に条件付期待値 ����を計算します。

    ����� 条件付確率密度・条件付期待値

    �次元の確率変数 ��� �の同時確率密度 ���� !�が与えられていて、常に

    ���� !� �

    が成立しているとします。このとき � !が与えられているときの� の確率密度は、 の周辺確

    率密度関数

    � �!� �

    ���� !���

    を用いて

    ��� ���!� � ���� !�� �!�

    で与えられます。

    確率変数 ��� �が �����の �変数の正規分布に従う場合は

    ��� ���!� ����� !�

    � �!��

    ���1��� 7�� � ��

    �� ��� 7!�

    ���� 7���

    で与えられます。 � ! が与えられたときの � は期待値 7!、分散 �� 7� の正規分布に従うことが分ります。このことから、条件付期待値 ���� �は

    ���� � �

    ���� ���!��� � 7!

    であることが分ります。

    ��� 正定値な�次形式と多変数の正規分布

    �次の実対称行列

    = �

    �$ >

    > %

  • ��� 第 �章 正規分布について

    が定める �次形式�=

    ��

    !

    ��

    ��

    !

    ��� $�� � �>�! � %!� �����

    について、�変数の正規分布との関連で解説します。

    まず =の固有多項式は

    0$��� �

    ����� �� $ �>�> � � %����� � �� � �$ � %�� � �$%� >��

    と計算され、その判別式 �1�!�2���"�"��は

    - � �$� %�� � ��$%� >�� � �$ � %�� �

    となります。このことから、=の固有多項式 0$���は �実根を持つことが分かります。さらに

    - � � $ � %� > �

    から、0$���が重根を持つ場合は = � $.� と単位行列の定数倍であることが分かります。この場

    合は、単純ですから、以下- � 従って 0$���が相異なる実根 �と ) を持つ場合を考えます。

    固有値 �に対する固有ベクトル ?�� と固有値 ) に対する固有ベクトル ?�� を大きさが �であるよ

    うに取ります。すなわち、ベクトル ?�� と ?��を

    =?�� � �?��� =?�� � )?��

    ��?���� � ��?���� � �が成立するように取ることができます。このとき、さらに

    �?��� ?��� �

    が従います。実際、行列の転置�を使うと

    �=?��� ?��� � �?����=?��� � �?��� =?���

    を得ます。さらに、?��が固有ベクトルであることを用いると

    �=?��� ?��� � ��?��� ?��� � ��?��� ?���

    �?��� =?��� � �?��� )?��� � )�?��� ?���

    が成立しますから

    ��?��� ?��� � )�?��� ?��� すなわち ��� )��?��� ?���� を �� � 行列とするとき、�� � �� と �� ��� に対して

    ���� ��� � ���� ����

    が成立します。

  • ���� 正定値な �次形式と多変数の正規分布 ���

    が従います。ここで � �� ) を用いると

    �?��� ?��� �

    が従います。この状況で ?�� は ?�� を �度回転

    した場合と ����度回転した �つの場合が考えられます。必要ならば ����倍して、?��は ?��を�度回転したものとします。このとき、�次正

    方行列

    � � �?�� ?���

    は回転行列となります。

    さらに

    � �

    �� ! # � !�" #!�" # � � ! #

    とすると

    ��� �

    �� ! # !�" #

    � !�" # � � ! #

    �� ��

    となります。従って、��� � � �� � .� が成立�します。さらに

    =� � =�?�� ?��� � �=?�� =?��� � ��?�� )?��� � �?�� ?���

    ��

    )

    �� �

    ��

    )

    を得ます。これから

    = � �

    ��

    )

    ���

    と =が回転行列によって対角化されることが分かります。

    さらに=が定める �次形式について考えましょう。�� も回転行列で、回転行列は内積を保ちま

    すから�=

    ��

    !

    ��

    ��

    !

    ���

    ���=� ��

    ��

    !

    �� �

    ��

    !

    ��

    ���

    )

    ���

    <

    ��

    ��

    <

    ��� ��� � )

  • �� 第 �章 正規分布について

    と回転座標変換 ��

    <

    �� ��

    ��

    !

    によって、単純な形に変換されます。

    ここで定義をします。

    定義 ���� �次の実対称行列 =に対して

    �=?@�?@�

    が全ての ?@ �� ?に対して成立するとき、�次形式 �=?@�?@�は正定値であるといいます。

    �次形式 �=?@�?@�が正定値であることと=の固有値の符号は関係します。すなわち、次の定理が

    成立します。

    定理 ���� 次の条件は全て同値です。

    ��� �次形式 �=?@�?@�は正定値です。

    ���� =の固有値は �� ) � を満たします。

    ����� =の成分が

    = �

    �$ >

    > %

    とすると

    $ � � 1���=� � $%� >� � が成立します。

    ������ ���� � ����� ��� を仮定します。もし � � であるとすると、=の固有値 �の固有ベクトル?�� で大きさが �であるものを用いると

    �=?��� ?��� � ��?��� ?��� � � �

    となり、仮定 ���に反します。従って、� � が分かります。同様に ) � も示すことができます。

    ����� � ���� ����を仮定します。回転座標変換

    ?@ � �

    ��

    <

    によって、�次形式 �=?@�?@�が

    �=?@�?@� � ��� � )

  • ���� 正定値な �次形式と多変数の正規分布 ���

    ����� � ������ ����を仮定します。まず、固有多項式に関して

    0$��� � �� � �$ � %�� � $%� >� � �� � ����� )�

    から得られる解と係数の関係から

    $� % � �� )� $%� >� � �)

    を得ます。仮定 �� ) � から、解と係数の関係を用いると

    $% � $%� >� � �) �

    を得ます。他方

    $� % � �� ) �

    も分かります。実数 $と %の両方が正である必要十分条件は

    $ � % � � $% �

    ですから、特に $ � を得ます。以上で

    $ � A $%� >� �

    が示されました。

    ������ � ����� �����を仮定します。仮定から

    �) � $%� >� �

    が成立します。また

    $% � $%� >� � から $% � も導かれます。さらに仮定 $ � を用いると % � も従います。以上で示した $� % �

    から

    �� ) � $� % �

    が得られます。以上で �� ) � と �) � が示されましたから、� � かつ ) � を得ます。

    ここで、�変数の正規分布で現れた �次形式について考えましょう。

    � � ��5�� � ! �5�

    として

    ;��� !� �

    �=

    ��

    ��

    ��

    �������

    を実 �次対称行列

    = ��

    �� 7��

    �!��

    � %!�!�

    � %!�!�

    �!��

  • ��� 第 �章 正規分布について

    を用いて定義します。このとき �7� � �から�

    �� 7� ��

    9���

    1���=� ��

    �� 7� ��

    9��9��

    が導かれますから、;��� !� � が原点を除く全ての点で成立することが分かります。

    ここで

    = �

    �$ >

    > %

    が定める �次形式 �=

    ��

    !

    ��

    ��

    !

    ��

    が正定値であるとします。このとき、回転座標変換��

    !

    �� �

    ��

    <

    によって �次形式が �=

    ��

    !

    ��

    ��

    !

    ��� ��� � )

  • ���� 正定値な �次形式と多変数の正規分布 ���

    となります。これは、���ページの �����と同一のものです。

    ここで、さらに B � �� � � が正規変数となることを示します。そのためには

    * ���

    �� � ����� � � �

    が正規変数であることを示せば十分です。そこで

    C ���

    �� � ������ � � �

    と定めると、回転行列

    � ���

    �� � ��

    �� �

    �� �

    によって �*

    C

    �� �

    ��

    と変数変換されます。このとき �次元確率変数 �*�C �は確率密度関数

    ��,� :� ��

    �1��1���=� ���

    ����

    ��=��

    ��,

    :

    �� �

    �5�

    5�

    ���

    �,

    :

    �� �

    �5�

    5�

    ���

    �����

    を持つ �変数の正規分布に従うことが分ります。特に * は正規変数であることが従います。���

    ページにおいて、� 変数の正規変数に対して同様のことが成立することを特性関数を用いて示し

    ます。

    ����� 多変数の正規分布

    この節では �変数以上の一般の多変数の正規分布を定義します。=を �次の実対称行列として、

    正定値であるとします。すなわち�= � =

    �=?@�?@� � �?@ �� ?�が成立するとします。最後の条件は =の �次の主座小行列を =� で表すと

    1���=�� � �� � �� �� � � � � ��

    が成立することと必要十分です。特に

    1���=� �

    が成立することに注意しましょう。このとき

    1���� � � �

  • ��� 第 �章 正規分布について

    を満す直交行列が存在して

    =� � �

    ������

    ��

    ��� � �

    ��

    !!!!" ����

    と対角化できます(以下では、この右辺に現れる対角行列を =� とします)。このとき =の全ての

    固有値は

    �� � �� � �� �� � � � � ��を満すことに注意しましょう。ここで、

    ���� ��

    �1

    � ��1���=� � �� �� �$��

    と定めます。���� � であるのは明かですから、��上の積分が �となることを証明しましょう。

    そのために

    ! � ���

    と座標変換を行います。このとき

    �=�� �� � ���=� � ���� ���� � �=�!� !� ���

    ���

    ��!��

    から

    ���!� ��

    �1

    � ��1���=�� � �� ��

    ���� ��

    �� �

    �#���

    �1

    � �� � �� ������

    を導きます。これを用いると

    ��

    ������ �

    ��

    ���!� 1���� ��! �

    ��

    ���!��!

    ��#

    ���

    ����

    �1

    � �� � �� ������ �!�

    ��#

    ���

    �1

    � �� �

    �1

    ��

    � �

    を得ます。以上で ����が��上の確率密度関数を定めることを証明しました。

    ここで、この確率密度関数を平行移動して、一般の正規分布を定めます。すなわち5 �に対して

    ���� ��

    �1

    � ��

    1���=� � �� �� �$����������

    が一般の多変数正規分布を定めます。

    さらに� � ���� � � � � ���がこの正規分布に従うときに�� が正規変数となることを示します。

  • ���� 正定値な �次形式と多変数の正規分布 ���

    正定値な行列 =を ���ページの �����の行列 を用いて変換します。すなわち

    = �

    �=��� ?$�?$ $��

    と表示するとき

    �.��� ?�

    � �

    を ?� � �=�����?$によって定めると

    Æ � �?�=���?�� ��?�?�� $�� � ��?$=�����?$� $��

    により

    �= �

    �=��� ?

    � Æ

    と計算されます。さらに � � :すなわち

    �� � :� � ��:�� � � � � ���� � :��� � ����:�� �� � :�

    により変数変換すると

    �=�� �� � �=:� :� � ��=:�:� � �=���!� !� � Æ:��

    となります。ここで最後に

    ! � ��:�� � � � � :����とおきました。以上の計算から

    ������

    �����=�� ��

    ���� � � ������

    � ���� Æ

    ��

    ����

    ��

    �����=���!� !�

    ��!

    � ���� Æ

    �� � ��

    1���=����� ��

    �� Æ

    �� � ��

    1���=������

    �1����

    � ���� Æ

    �� �

    Æ ��

    �1����

    と計算されます。ここで 1���=� � 1���=���� � Æ を最後に用いました。

    演習 ���� � � ���� � � � � ���を上の ����が定める多変数の正規変数とします。

    ����� �

    ��

    ��������

    を計算してください。

  • ��� 第 �章 正規分布について

    �� 特性関数とは

    すでに、二項変数と幾何変数に対してその特性関数を定義して考察しました。この節では、さら

    にいくつかの確率変数に対して特性関数を具体的に計算しながら、その性質をみてきます。特性関

    数に関するより高度な性質は ���ページの第 �章で考察します。

    確率変数� を考えます。� の特性関数とは

    ���� � ������

    のことです。確率変数� が確率密度関数 ����を持つ場合、� の特性関数は

    3� ��� �

    ���

    ���������

    によって計算されます�。ここで一般に、複素数値の関数

    ���� � ����� �

    �������

    の積分は、その実部 �����と虚部 �����を用いて ��

    ������ �

    ��

    ��������

    ��

    ��

    �������

    によって定義することに注意します。すると

    ��� � � !���� �

    �� !�"����

    が成立しますから

    3� ��� �

    ����

    � !�����������

    ��

    ����

    !�"����������

    を得ます。

    具体的な確率密度に対して特性関数を計算します。

    例 ���� パラメータが�と�の�項変数について考えます。すなわち� �� � �� � �������� �� �

    � �� �� � � � � �� を考えます( � �� �)。このとき� の特性関数は

    ���� ���

    ���

    ������������ �

    �����

    ����������

    ��� � ����� � ��

    と計算されます。�一般に、絶対値が積分可能な関数 ����すなわち

    � ����

    �������� � �

    に対して

    ����� �

    ���

    ��

    ���������

    は定義されて、関数 � の逆フーリエ変換と呼びます。

  • ���� 特性関数とは ��

    例 ���� パラメータが � � の指数分布を考えます。その確率密度関数は