методах Монте-Карло процессов и полей в …osmf.sscc.ru/~smp/Prigarin_SM_2014-s2c.pdfМодели случайных процессов и полей

Сергей Михайлович Пригарин

Модели случайныхпроцессов и полей вметодах Монте-Карло

алгоритмы и приложения

Модели случайных процессов и полей вметодах Монте-КарлоМонография посвящена численному моделированию случайныхпроцессов и полей при решении задач методом Монте-Карло. Особоевнимание уделяется спектральным моделям гауссовских однородныхфункций и их приложениям. Монография будет полезна специалистам,использующим статистическое моделирование для решения прикладныхзадач, а также студентам и аспирантам высших учебных заведений,изучающим методы Монте-Карло.

Сергей Михайлович Пригариндоктор физико-математических наук, профессор кафедрывычислительной математики Новосибирского государственногоуниверситета, ведущий научный сотрудник Института вычислительнойматематики и математической геофизики СО РАН

978-3-659-98980-3

МОДЕЛ

И СЛ

УЧАЙ

НЫХ

ПРО

ЦЕССО

ВПригарин

Оглавление

Предисловие 8

Глава 1. О методах Монте-Карло 101.1. Первые примеры и определения . . . . . . . . . . . . . . . . . . 101.2. Из истории методов Монте-Карло . . . . . . . . . . . . . . . . . 161.3. Вероятностные и статистические основы . . . . . . . . . . . . . 181.3.1. Погрешность скалярных оценок статистического модели-

рования . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191.3.2. Трудоемкость векторных оценок . . . . . . . . . . . . . . . 24

1.4. О программной реализации алгоритмов Монте-Карло . . . . . 261.5. Источники случайных чисел . . . . . . . . . . . . . . . . . . . . 291.6. Моделирование случайных величин . . . . . . . . . . . . . . . . 331.7. Методы Монте-Карло на марковских цепях . . . . . . . . . . . 36

Глава 2. Модели случайных процессов 402.1. Определение и характеристики случайных процессов . . . . . . 402.2. Первые примеры: пуассоновский и винеровский процессы . . . 452.2.1. Процесс Пуассона . . . . . . . . . . . . . . . . . . . . . . . 452.2.2. Винеровский процесс . . . . . . . . . . . . . . . . . . . . . 48

2.3. О классификации случайных процессов и методах моделиро-вания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52

2.4. Маргинальные распределения и ковариации случайных про-цессов и полей . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55

2.4.1. Условия совместимости ковариаций и маргинальных рас-пределений . . . . . . . . . . . . . . . . . . . . . . . . . . . 56

2.4.2. Одномерные распределения стационарных случайных про-цессов, которые не накладывают ограничений на возмож-ные корреляции процесса . . . . . . . . . . . . . . . . . . . 59

2.5. Метод обратной функции распределения для моделированиянегауссовских процессов . . . . . . . . . . . . . . . . . . . . . . 64

Глава 3. Спектральные модели гауссовских стационарных процессов иоднородных полей 703.1. Спектральные представления стационарных процессов . . . . . 703.2. Основные принципы построения спектральных моделей стаци-

онарных процессов . . . . . . . . . . . . . . . . . . . . . . . . . 753.3. Обобщенная схема. Оценка погрешности . . . . . . . . . . . . . 78

6 Оглавление

3.4. Примеры спектральных моделей стационарных процессов . . . 803.5. Однородные случайные поля . . . . . . . . . . . . . . . . . . . 833.6. Примеры спектральных моделей однородных и изотропных слу-

чайных полей на плоскости . . . . . . . . . . . . . . . . . . . . 883.7. Примеры спектральных моделей однородных и изотропных слу-

чайных полей в трехмерном пространстве . . . . . . . . . . . . 933.8. Уточнение спектральных моделей однородных полей на одном

вероятностном пространстве . . . . . . . . . . . . . . . . . . . . 963.9. Условные спектральные модели . . . . . . . . . . . . . . . . . . 973.9.1. Постановка задачи . . . . . . . . . . . . . . . . . . . . . . . 983.9.2. Метод решения . . . . . . . . . . . . . . . . . . . . . . . . . 993.9.3. О реализации численного алгоритма . . . . . . . . . . . . 100

3.10. Дополнительные замечания . . . . . . . . . . . . . . . . . . . . 1033.10.1. Неоднородные спектральные модели . . . . . . . . . . . . 1033.10.2. Приближенное моделирование гауссовских векторов ста-

ционарного вида с помощью дискретного преобразованияФурье . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104

Глава 4. Примеры спектральных моделей 1064.1. Стохастические модели поверхности морского волнения и ги-

гантских волн-убийц . . . . . . . . . . . . . . . . . . . . . . . . 1064.1.1. Спектральные модели поверхности морского волнения . . 1074.1.2. Условные спектральные модели и моделирование гигант-

ских волн . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1104.1.3. Вычислительные эксперименты . . . . . . . . . . . . . . . 113

4.2. Моделирование бинарных однородных полей методом обрат-ной функции распределения . . . . . . . . . . . . . . . . . . . . 116

4.3. Имитация стохастических полей разорванной облачности . . . 1244.3.1. Основные определения и постановка задачи . . . . . . . . 1254.3.2. Моделирование скалярных и векторных полубинарных слу-

чайных полей . . . . . . . . . . . . . . . . . . . . . . . . . . 1264.3.3. Совместное моделирование оптической толщины и высоты

верхней границы разорванной облачности . . . . . . . . . 130

Приложение А. Моделирование гауссовских распределений 134А.1. Гауссовские распределения . . . . . . . . . . . . . . . . . . . . . 134А.2. Условные гауссовские распределения . . . . . . . . . . . . . . . 135А.3. Обобщенный винеровский процесс . . . . . . . . . . . . . . . . 140

Оглавление 7

Приложение Б. Программирование мультипликативных генераторовпсевдослучайных чисел 143Б.1. О мультипликативных датчиках . . . . . . . . . . . . . . . . . 143Б.2. Тексты процедур на Паскале . . . . . . . . . . . . . . . . . . . 146

Литература 152

Список обозначений 158

Предметный указатель 159

Предисловие

Одним из наиболее эффективных средств изучения окружающей нас приро-ды является компьютерное моделирование. Наряду с детерминированнымимоделями все более значительный вес в научных исследованиях приобрета-ют стохастические модели, за разработку которых отвечает специальный раз-дел математики––методы Монте-Карло. В последнее время особенно активноразрабатываются общие методы численного моделирования случайных про-цессов, а также стремительно расширяется область применения стохастиче-ских моделей. По сути дела, совокупность результатов, полученных в областичисленного моделирования случайных функций, можно выделить в самосто-ятельный раздел теории методов Монте-Карло.Монография посвящена численному моделированию случайных процес-

сов и полей при решении задач методом Монте-Карло. Основное вниманиеуделяется спектральным моделям гауссовских однородных функций и ихприложениям. В первой главе даются начальные представления о методахМонте-Карло, о том, какие задачи можно решать этими методами, и о том,какое место в методах Монте-Карло занимают численные модели случай-ных процессов. Во второй главе представлены краткие сведения из теориислучайных процессов, классификация случайных функций и основные прин-ципы построения гауссовских и негауссовских стохастических моделей. Здесьже рассмотрены условия совместимости маргинальных распределений и ко-вариаций, а также один из наиболее универсальных методов моделированиянегауссовских функций. Третья глава является «центральной»: тут изуча-ются алгоритмы численного моделирования стационарных случайных про-цессов и однородных полей, построенные на основе спектрального разложе-ния, рассматриваются общие принципы построения спектральных моделей иконкретные реализации алгоритмов для различных классов случайных по-лей, приводятся алгоритмы уточнения спектральных моделей на одном веро-ятностном пространстве и условные спектральные модели. Заключительнаячетвертая глава посвящена некоторым применениям спектральных моделей.Здесь описываются алгоритмы численного моделирования поверхности мор-ского волнения и гигантских океанических волн, бинарных текстур и стоха-стической структуры разорванной облачности. Основной материал четырехглав дополнен двумя приложениями, в которых рассмотрены свойства гаус-совских распределений и мультипликативные генераторы псевдослучайныхчисел. В монографии, в частности, представлены результаты научных ис-следований, выполненных в Институте вычислительной математики и мате-

8

Предисловие 9

матической геофизики СО РАН (Новосибирск) по инициативному научномупроекту РФФИ 12-05-00169а и по президентской программе «Ведущие науч-ные школы Российской Федерации» (проект НШ-5111.2014.1).Монография будет полезна специалистам по статистическому моделиро-

ванию, а также студентам и аспирантам высших учебных заведений, изуча-ющим методы Монте-Карло. Предполагается, что читатель знаком с осно-вами линейной алгебры, теории вероятностей, теории случайных процессови функционального анализа в рамках университетских курсов. Для само-стоятельной работы предлагаются «упражнения», некоторые из которых со-держат достаточно сложные проблемы и могут служить предметом научныхисследований.Свои отзывы и критические замечания читатель может прислать по ад-

ресу:

630090, Новосибирск,пр. Академика Лаврентьева, 6,Институт вычислительной математикии математической геофизики СО РАН,Пригарину С.М. (e-mail: [email protected])

Пользуясь случаем, я с удовольствием выражаю признательность моимучителям Геннадию Алексеевичу Михайлову и Борису Александровичу Кар-гину, а также моим коллегам, аспирантам и студентам, с которыми мне дове-лось работать: Татьяне Александровне Авериной, Сергею Разыковичу Анва-рову, Киму Баиртуевичу Базарову, Сергею Михайловичу Белову, ЕкатеринеАлександровне Белоус, Анатолию Георгиевичу Боровому, Герхарду Винкле-ру, Антону Вацлавовичу Войтишеку, Игорю Анатольевичу Гришину, НатальеИгоревне Губиной, Николаю Павловичу Ельцову, Татьяне Борисовне Жу-равлевой, Рите Робертовне Кантер, Евгению Ивановичу Касьянову, АнжелеКемпе, Павлу Витальевичу Константинову, Кристине Валерьевне Литвенко,Андреасу Мартину, Александру Львовичу Маршаку, Клаусу Ноаку, Васи-лию Александровичу Огородникову, Ульриху Оппелю, Петру Ивановичу Си-дорову, Георгию Александровичу Титову, Наталье Владимировне Федченко,Клаусу Хану, Людмиле Ивановне Чайковской, Гюнтеру Червинскому. Кро-ме этого, я хочу поблагодарить Марину Васильевну Звереву за неоценимуюпомощь при подготовке этого издания.

Сергей Михайлович ПригаринАкадемгородок, Новосибирск

Глава 1

О методах Монте-Карло

Данная глава является вводной. Здесь даются начальные представления ометодах Монте-Карло, о том, какие задачи можно решать этими методами,и о том, какое место в методах Монте-Карло занимают численные моделислучайных процессов. Для более основательного изучения методов Монте-Карло можно рекомендовать, например, учебники [24,25,43,62,63].

1.1. Первые примеры и определения

Простое определение можно найти в популярной брошюре [62]: «Метод Мон-те-Карло–– это численный метод решения математических задач при помощимоделирования случайных величин».В качестве иллюстрации, как с помощью случайных величин можно ре-

шать математические задачи, приведем следующий пример.

Пример 1.1 (вероятность счастливого билета). Допустим, мы хотим выяс-нить вероятность «счастливого билета» в автобусе. «Счастьем» будем счи-тать совпадение сумм первых и последних трех цифр шестизначного номе-ра билета. В принципе на компьютере несложно перебрать миллион билетови найти все счастливые: их окажется ровно 55 252 (т. е. вероятность счаст-ливого билета примерно равна 1/18). Можно придумать алгоритм подсчетаболее хитроумный, чем простой перебор всех билетов, сэкономив немноговремя компьютеру и потратив значительно больше своего собственного вре-мени. Возможно, некоторые из читателей способны даже вывести формулу(см. [11])

C2n,m =1

π

π∫0

(sinmx

sin x

)2ndx

для числа C2n,m 2n-значных счастливых билетов в системе счисления по ос-нованию m и найти

C6,10 = 55 252.

Но что делать, если наши вычислительные и другие способности сильно огра-ничены? Вот тут на помощь и проходит метод Монте-Карло. С помощьюслучайных величин разыграем N случайных билетов (независимо друг от

10

1.1. Первые примеры и определения 11

друга) и посчитаем сколько из них счастливых. Искомая вероятность оцени-вается величиной M/N . Для моделирования случайных величин на ЭВМ вовсех языках программирования имеются специальные процедуры (так назы-ваемые генераторы случайных чисел), которыми читатель наверняка умеетпользоваться. Результаты работы такого алгоритма представлены в табл. 1.1.

Таблица 1.1. Вероятность счастливого билета(точное значение 0.055252)

N MОценка

вероятности

100 3 0.031000 54 0.05410000 558 0.0558100000 5493 0.054931000000 55371 0.05537110000000 551835 0.0551835100000000 5525085 0.05525085

Итак, какие возникают первые впечатления? Очевидно, что метод Монте-Карло позволил нам сравнительно элементарно и очень быстро оценить ве-роятность счастливого билета: моделирование всего 1000 номеров уже даетнеплохую оценку.Рассмотрим еще одну известную задачу, для численного решения которой

можно применить метод Монте-Карло.

Пример 1.2 (парадокс дней рождения). Сколько человек должно собратьсяв одной комнате, чтобы с вероятностью более 1/2 хотя бы у одного из нихбыл бы общий с вами день рождения? Ответ –– 253. А сколько людей должнособраться, чтобы с той же вероятностью хотя бы у двоих из них был общийдень рождения? Ответ –– 23 (если в комнате находятся 23 человека, ониобразуют 253 различные пары).Фактически задача здесь состоит в вычислении вероятности того, что в

группе из n человек дни рождения всех людей будут различными. Эта веро-ятность дается формулой (если никто не родился в високосный год)

P = 1 ·(1− 1

365

)(1− 2

365

). . .(1− n− 1

365

)=

365!

365n(365− n)!.

Однако и не зная этой формулы, методом Монте-Карло читатель легко смо-жет оценить вероятность того, что в группе из n человек, хотя бы у двоих сов-падут дни рождения. Для этого с помощью случайных величин на ЭВМ нуж-но моделировать n дней рождений (независимых случайных величин, равно-мерно распределенных на множестве {1, . . . 365}) и проверять, есть ли сре-ди n чисел совпадающие. Проводя множество таких случайных испытаний,

12 1. О методах Монте-Карло

можно оценить искомую вероятность. Читателю предлагается запрограмми-ровать соответствующий алгоритм и получить результаты, представленныев табл. 1.2.

Таблица 1.2. Вероятность совпадения дня рождения

Человекв группе

Вероятность совпадениядня рождения, %

366 100100 99.9999650 9730 7020 4110 12

В предыдущих примерах рассматривались задачи, имеющие очевиднуювероятностную природу. Однако метод Монте-Карло успешно применяется идля решения задач, вероятностная природа которых неочевидна. Рассмотримеще один пример, где рассматривается более актуальная научная проблема.

Пример 1.3 (вычисление альбедо). Альбедо Земли –– это отношение сол-нечной радиации, отданной земным шаром (вместе с атмосферой) обратно вкосмическое пространство, к солнечной радиации, поступившей на границуатмосферы. Альбедо –– важная характеристика, которую необходимо знать,например, для исследований климата. По различным оценкам альбедо Зем-ли составляет 30–40%. Для измерения альбедо используются разнообразныеметоды: спутниковые наблюдения, исследование свечения темной части Лу-ны и др. Метод Монте-Карло также представляется эффективным средствомдля вычисления альбедо.Для описания переноса излучения в различных оптических средах разра-

ботаны математические модели. При этом траектория фотона, попавшего вземную атмосферу, представляется в виде ломаной линии. Отрезки ломанойсоответствуют свободному пробегу фотона в среде, а точки излома–– это точ-ки, где происходит рассеяние фотона на частицах среды. Длины свободногопробега и направление движения фотона после рассеяния являются случай-ными и зависят от оптических свойств среды (подробнее о моделированиипроцессов переноса излучения см., например, [25,28,38,43,44,50,52,68]).Предположим теперь, что у нас есть детальная модель оптических свойств

поверхности Земли, ее атмосферы, облачности и водной толщи. Тогда мето-дом Монте-Карло можно моделировать траектории фотонов до их поглоще-ния или вылета в космическое пространство. Отношение числа фотонов, отра-женных в космос, к числу смоделированных фотонов и даст оценку альбедо.Оценка будет более точной для более детальной модели Земли и при боль-


шем ансамбле моделируемых траекторий фотонов. В настоящее время методМонте-Карло активно используется для решения подобных задач и позволя-ет, например, вычислить, альбедо отдельного облака. В ближайшей перспек-тиве и расчет альбедо целой планеты представляется реальной задачей. Приэтом можно надеяться, что моделирование для небольшого ансамбля фотонов(по сравнению с реальным числом фотонов, падающих на землю) позволитполучить достаточно точную оценку альбедо (см. пример 1.1 о счастливыхбилетах).

Примечание 1.1. Солнечная энергия, поступающая на Землю, оцениваетсявеличиной

1.4 кВт/м2 · π · (6 370 000 м)2 ≈ 180 000 000 000 000 кВт.

За одну секунду на Землю поступает энергия примерно 1035 фотонов, чтосоответствует энергии 3 000 атомных взрывов в Хиросиме (15 кт, 6 августа1945 г.) или одной царь-бомбы, взорванной на Новой Земле (50 Мт, 30 октября1961 г.). Утверждается, что полное количество солнечной энергии, поступа-ющей на поверхность Земли за неделю, превышает энергию всех мировыхзапасов нефти, газа, угля и урана.

Примечание 1.2. В СМИ иногда дискутируется так называемый «парадоксальбедо»: в последние годы Земля все сильнее отражает солнечные лучи об-ратно в космос, но, тем не менее, продолжает быстро разогреваться. В то жевремя, рост доли солнечной радиации, отражаемой обратно в космическоепространство, должен приводить к соответственному уменьшению той ее до-ли, которая достигает Земли и способствует разогреву планеты. Впрочем,далеко на все специалисты признают «парадокс альбедо». Нужно отметить,что существенную роль в радиационном балансе играет облачность. С однойстороны, облака отражают значительную часть солнечного излучения, а, сдругой, способствуют нагреву Земли, действуя как своеобразное «одеяло» винфракрасном диапазоне. Причем, радиационный баланс существенно зави-сит от соотношения облаков нижнего и верхнего ярусов. Считается также, чтозаметное влияние на перенос излучения в атмосфере могут оказывать кон-денсационные следы, оставляемые самолетами. Любопытно, что для борьбыс глобальным потеплением российский метеоролог Ю.А. Израэль предложилдобавлять в стратосферу аэрозоли для увеличения альбедо.

Приведем еще два классических примера применения методов Монте-Карло.


Пример 1.4 (вычисление объемов и численное интегрирование). Прибли-женное вычисление объемов тел в трехмерном пространстве, а также в про-странствах произвольной размерности можно проводить по следующему оче-видному алгоритму. Тело условно помещается в параллелепипед соответству-ющей размерности, в этот параллелепипед бросается N точек с равномернымраспределением и подсчитывается числоM точек, оказавшихся внутри тела.Очевидно, что объем тела V примерно равен M

N V0, где V0 –– объем паралле-лепипеда. Для реализации этого простого алгоритма нужно уметь моделиро-вать случайные точки равномерно в параллелепипеде и определять, лежитли точка внутри интересующего нас объема. Случайная величина

V � =M

NV0

является несмещенной оценкой объема V ,

MV � = V

с дисперсией1

N(p− p2)V0, p = V/V0.

Предположим теперь, что требуется оценить значение интеграла

I =

b∫a

f(x)dx,

и рассмотрим некоторую случайную величину ξ с плотностью распределенияg(x) > 0 на интервале (a, b),

∫ b

ag(x)dx = 1. Тогда

I =

b∫a

f(x)

g(x)g(x)dx,

и в качестве оценки интеграла можно использовать эмпирическое среднее

I� =1

N

N∑i=1

f(ξi)

g(ξi),

где ξi –– независимые реализации случайной величины ξ. Таким образом, дляреализации алгоритма требуется многократно моделировать случайные ве-личины с плотностью распределения g(x). Оценка I� является несмещеннойс дисперсией


1

N

( b∫a

f 2(x)dx− I2).

Минимум дисперсии достигается при

g(x) =|f(x)|

b∫a

|f(y)|dy

и равен

1

N

([ b∫a

|f(x)|dx]2

− I2).

Рассмотрим случай (a, b) = (0, 1) и в качестве ξ возьмем случайную вели-чину, равномерно распределенную на интервале (0, 1). Тогда

I� =1

N

N∑i=1

f(ξi).

Отметим, что данная оценка формально отличается от формулы прямоуголь-ников лишь выбором точек ξi, которые в методе Монте-Карло являются слу-чайными, а в методе прямоугольников ξi ∈ [(i− 1)/N, i/N ]. Этот пример на-глядно демонстрирует особенности методов Монте-Карло. На практике при-менение метода Монте-Карло может оказаться целесообразным для оценкиинтегралов высокой кратности от функций малой гладкости.

Пример 1.5 (решение задачи Дирихле для уравнения Лапласа). Предпо-ложим, что требуется вычислить значение u(x0), x0 ∈ D, где функция u(x)является обобщенным решением задачи Дирихле для уравнения Лапласа в(k-мерной) области D:

�u(x) = 0, x ∈ D,

u(x) = f(x), x ∈ ∂D.

Будем предполагать, что область D является открытым ограниченным связ-ным множеством, а функция f непрерывна на границе ∂D. Оказывается (см.,например, [36,63]), что

u(x0) = Mf(η),

где η––точка первого выхода на границу ∂D траектории (k-мерного) броунов-ского движения с началом в точке x0. Таким образом, алгоритм Монте-Карлодля оценки u(x0) состоит в моделировании независимых точек ηi выхода награницу и вычислении эмпирического среднего


1

N

N∑i=1

f(ηi) ≈ u(x0).

Причем алгоритм работает для произвольных размерностей. Не останавлива-ясь подробно на понятии броуновского движения (в многомерном простран-стве), опишем возможные способы моделирования точек выхода на границу.Первый способ –– это фактически приближенное моделирование траекторииброуновского движения на сетке. Рассмотрим в пространстве равномернуюсетку. Начиная траекторию из узла, соответствующего точке x0, на каждомпоследующем шаге продолжаем траекторию по сетке с равной вероятностьюв одном из возможных направлений до одного из ближайших узлов (такихнаправлений 2k, где k –– размерность пространства) независимо от поведениятраектории на предыдущих шагах. И так до выхода траектории из области.Чем меньше шаг сетки, тем «точнее» моделируется траектория броуновскогодвижения, и в то же время больше шагов требуется до выхода траекториииз области. Второй способ, называемый «блужданием по сферам», значи-тельно менее трудоемкий. Броуновское движение изотропно, т. е. не имеетвыделенных направлений. Это позволяет моделировать точку выхода из об-ласти, не моделируя подробно траекторию броуновского движения, а лишьмоделируя некоторые ее точки. На первом шаге строится сфера (в k-мерномпространстве), касающаяся границы ∂D, с центром в точке x0, и на этой сфе-ре равномерно моделируется случайная точка x1. Это точка первого выходатраектории броуновского движения из сферы. На втором шаге моделируетсяточка на сфере, касающейся ∂D, с центром в точке x1. И так далее, до техпор пока некоторая точка xm не выйдет на границу ∂D (окажется достаточноблизко к ней). Заметим, что если D –– шар , а x0 –– его центр, то блужданиепо сферам дает выход на границу за один шаг, и алгоритм сводится к вы-числению среднего значения по границе шара методом Монте-Карло. Методблуждания по сферам был описан достаточно давно в работах [85, 98]. Кнастоящему времени разработано множество алгоритмов решения разнооб-разных задач математической физики методом Монте–Карло на основе ве-роятностных представлений (см., например, [25,26,59,63]).

1.2. Из истории методов Монте-Карло

Год 1949 можно считать годом рождения методов Монте-Карло. Именно вэтом году появилась статья [97], где и было предложено название «методМонте-Карло». Отцами основателями методов Монте-Карло принято считатьНиколаса Метрополиса (Nicholas Metropolis, 1915–1999), Станислава Улама(Stanislaw Ulam, 1909–1984) и Джона фон Неймана (John von Neumann, 1903–

1.2. Из истории методов Монте-Карло 17

1957). Все они работали в Лос-Аламосе и были участниками Манхэттенскогопроекта по созданию атомной бомбы. Название метода было предложено Ни-коласом Метрополисом [96]: «a suggestion not unrelated to the fact that Stanhad an uncle who would borrow money from relatives because he “just had to goto Monte Carlo.”»Метод Монте-Карло родился при стечении следующих обстоятельств: по-

явление первых электронных вычислительных машин и создание атомнойбомбы. Именно метод Монте-Карло оказался наиболее подходящим для чис-ленного решения математических задач, связанных с созданием атомногооружия.Исторические сведения о появлении методов Монте-Карло и первых рас-

четах, проведенных этим методом на первом американском компьютереENIAC (Electronical Numerical Integrator and Computer), можно почерпнутьв [66,96]. Отметим, что вычисления на ENIAC, созданном в 1946 г., проводи-лись в десятичной системе. Первыми прообразами современных ЭВМ, рабо-тающих в двоичном коде, можно считать компьютеры Z1, Z2, Z3, созданныев 1938–1941 годах немецким инженером Конрадом Цузе (Konrad Zuse, 1910–1995). Утверждается, что им же в 1945 г. для компьютера Z4 был разработанпервый в мире высокоуровневый язык программирования «Планкалкюль».В СССР первая ЭВМ (МЭСМ, 1950) была создана под руководством ака-

демика С.А. Лебедева. Среди первых отечественных работ, посвященных ме-тоду Монте-Карло, отметим [12, 70, 71, 77]. В качестве синонимов термина«метод Монте-Карло» в отечественной литературе распространение получи-ли также термины «метод случайных испытаний», «метод статистическихиспытаний» и «статистическое моделирование».Когда говорят о методах Монте-Карло, часто упоминают об «игле Бюф-

фона» –– известной задаче геометрической вероятности. Эта задача быласформулирована в 1733 г. и опубликована вместе с решением в 1777 г. Речьидет о приближенном вычислении числа π с помощью многократного броса-ния иголки на разлинованную поверхность.Предположим, что на поверхность с параллельными прямыми, между ко-

торыми расстояние A, бросается игла длиной L < A. Тогда вероятность Pтого, что игла пересечет одну из линий, равна

P =2L

Aπ

(выведите эту формулу). Значит, число π можно оценить по формуле

π ≈ 2L

AM/N,


где M –– число бросаний с пересечением, а N –– общее число бросаний. Такимобразом, метод Монте-Карло, по сути, был уже известен столетия назад.В работах [31, 88] приведена любопытная информация (см. табл. 1.3) о

расчетах числа π, которые проводили математики в различные годы методомслучайных испытаний, т. е. бросанием иголки.

Таблица 1.3. Оценка числа π = 3.141592653 . . . с помощью иглы Бюффона

Экспериментатор L/A N Оценка

Вольф, 1850 0.8 5000 3.1596Смит, 1855 0.6 3204 3.1553Де Морган, 1860 1.0 600 3.137Лаззерини, 1901 0.83 3408 3.1415929Гриджеман, 1960 0.7857 2 3.143

1.3. Вероятностные и статистические основы

В п. 1.1 было приведено краткое определение методов Монте-Карло из [62].В качестве более развернутого определения можно сформулировать следую-щее. Метод (ы) Монте-Карло –– это группа методов вычислительной матема-тики, основанных на (1) представлении искомых величин в виде параметровнекоторых случайных процессов, (2) численном моделировании реализацийслучайных процессов и (3) оценивании параметров (т. е. искомых величин)по реализациям случайных процессов методами математической статистики.Таким образом, «три кита» в основании методов Монте-Карло–– это теориявероятностей, теория случайных процессов и математическая статистика.Предположим, что методом Монте-Карло оценивается некоторая величи-

на J (это может быть скаляр, вектор или функция). Стандартная процедурапостроения алгоритма Монте-Карло состоит из следующих трех этапов. Пер-вый этап––поиск случайного элемента (т. е. случайной величины, вектора илифункции) ξ с математическим ожиданием Mξ = J . Второй этап–– разработ-ка метода численного моделирования ξ. И третий этап–– вычисление оценки(эмпирического среднего)

Jn =1

n

n∑i=1

ξi (1.1)

с помощью многократного моделирования на ЭВМ независимых реализацийξi случайного элемента ξ.Отметим, что в терминах математической статистики выборочное сред-

нее Jn является оценкой величины J . Среди специалистов по статистическому

1.3. Вероятностные и статистические основы 19

моделированию случайный элемент ξ также часто называют оценкой величи-ны J (термины оценка метода Монте-Карло или монтекарловская оценкачасто используют именно в этом смысле).

Примечание 1.3. Данная схема построения методов Монте-Карло наиболеераспространенная, хотя и не единственно возможная. Например, для решенияразличных прикладных задач в последнее время широкое распространениеполучили методы Монте-Карло на марковских цепях (MCMC––Markov ChainMonte Carlo) [13]. Для этих методов последовательность ξi образует марков-скую цепь. Соответствующий пример мы рассмотрим в конце этой главы.

Погрешность метода Монте-Карло обусловлена, с одной стороны, погреш-ностью численной модели для ξ (эта погрешность здесь не рассматривается),а с другой–– статистической погрешностью эмпирического среднего, завися-щей от n.

1.3.1. Погрешность скалярных оценок статистическогомоделирования

Рассмотрим наиболее простой случай, когда J –– скаляр, а ξ–– случайная вели-чина (далее мы кратко рассмотрим векторные оценки, а о функциональныхоценках см. [41,43,51]).Сходимость Jn к J гарантирует закон больших чисел (ЗБЧ): если ξi явля-

ется последовательностью независимых одинаково распределенных случай-ных величин и Mξi = J , то с вероятностью единица

1

n

n∑i=1

ξi −→ J при n −→ ∞;

если же величины ξi не имеют конечного математического ожидания, то по-следовательность 1

n

∑n

i=1 ξi с вероятностью единица не ограничена [35].Итак, закон больших чисел говорит о том, что с вероятностью единица ме-

тод Монте-Карло обеспечивает сходимость оценки (1.1) к искомой величине.Что можно сказать о скорости сходимости?Приближенное значение Jn =

∑n

i=1 ξi/n ≈ J , полученное методом Монте-Карло, является случайным. В качестве погрешности естественно рассмат-ривать величины

‖Jn − J‖r =[M|Jn − J |r]1/r, r ≥ 1. (1.2)

Известно [82], что для 1 ≤ r ≤ 2 выполнено неравенство


M∣∣∣ n∑i=1

(ξi − J)∣∣∣r ≤ c(r, n)nM|ξ − J |r,

где константа c(r, n) ≤ 2. Из этого неравенства следует

‖Jn − J‖r ≤ c(r, n)1/r

n1−1/r‖ξ − J‖r.

Допуская некоторую вольность, можно сказать, что ограниченность абсолют-ного момента порядка r ∈ (1, 2] для монтекарловской оценки ξ гарантируетсходимость метода с порядком 1/(n1−1/r).В случае конечной дисперсии (Mξ2 < ∞) выполнено

‖Jn − J‖2 =√DJn =

1

n1/2

√Dξ. (1.3)

Конечность моментов более высокого порядка (M|ξ|r < ∞ при r > 2) поря-док сходимости не улучшает:

‖Jn − J‖r ≥ ‖Jn − J‖2 = 1

n1/2

√Dξ, r ≥ 2. (1.4)

Таким образом, метод Монте-Карло обладает медленной скоростью сходимо-сти с порядком не выше n−1/2. Порядок n−1/2 достигается в случае монтекар-ловской оценки с конечной дисперсией.

Примечание 1.4. Для некоторых классов задач уменьшить погрешность иулучшить порядок сходимости до lns n/n и 1/n позволяют методы квази-Монте-Карло, см., например, [24,63]. При этом используются так называемыеквазислучайные последовательности.

В случае конечной дисперсии вводят понятие трудоемкости S оценки ξ:

S = tDξ,

где t –– время моделирования одной реализации ξ. С вычислительной точкизрения важно строить оценки не с меньшей дисперсией, а именно с меньшейтрудоемкостью.

Упражнение. Покажите, что если ограничить время счета величиной T ,то дисперсия оценки Jn при n = T/t пропорциональна трудоемкости ξ.

Замечание (о понятии трудоемкости). Обозначим через T (Δ) время, необ-ходимое для того, чтобы погрешность [M|Jn−J |2]1/2 оценки Jn стала меньшеΔ. Тогда


T (Δ) = tN(Δ), N(Δ) = min{N : DJ∗(N) ≤ Δ2

},

и при малых Δ выполнено

T (Δ) ∼ tDξΔ−2.

Основные теоретические проблемы, которые приходится решать при по-строении алгоритмов Монте-Карло, связаны с доказательством несмещен-ности, ограниченностью моментов, конечностью и уменьшением дисперсии,изучением погрешности. Существенную роль в исследованиях играет аппа-рат теории вероятностей и, в частности, предельные теоремы (см., например,монографии [22,47]).Лучше всего исследован случай, когда дисперсия конечна: Dξ = σ2 < ∞,

DJn = σ2/n. При этом выполнены неравенство Чебышева

P (|Jn − J | ≥ ε) ≤ σ2

nε2

и центральная предельная теорема (ЦПТ): функция распределения Fn(x)случайной величины

1

σ√n

n∑i=1

(ξi − J) =√n

σ[Jn − J ]

при n −→ +∞ сходится к функции стандартного нормального распределе-ния

Φ(x) =1√2π

∫ x

−∞e−z2/2dz

равномерно на x ∈ (−∞,+∞). Таким образом, имеют место приближенныеравенства

P (|Jn − J | ≤ ε) ≈ erf(√

n

σε), (1.5)

P (|Jn − J | > ε) ≈ 2

(1− Φ

(√n

σε))

.

Функция

erf(x) =1√2π

∫ x

−xe−z2/2dz = 2[Φ(x)− 0.5], x ≤ 0,

носит название интеграла вероятности. Отметим, что при больших x дляфункции стандартного нормального распределения выполнено асимптотиче-ское соотношение [56]


1− Φ(x) =1

x√2πe−x2/2

(1− 1

x2+

1 · 3x4

− 1 · 3 · 5x6

+ . . .).

Приближенное равенство (1.5) позволяет строить доверительные интервалы

J ∈ [Jn − ε, Jn + ε]. (1.6)

Для этого фиксируют некоторое число a, которое называют уровнем иликоэффициентом доверия. Значение ε для доверительного интервала (1.6)определяют из уравнения

erf(√

n

σε)= a.

Часто полагают ε = kσ/√n. Уровень доверия a при этом определяется так

называемым правилом k сигм

P (|η −m| ≤ kσ) = erf(k) ≈

⎧⎪⎪⎪⎨⎪⎪⎪⎩0.683 при k = 1,

0.9545 при k = 2,

0.9973 при k = 3,

0.9999367 при k = 4.

(1.7)

Здесь η –– гауссовская случайная величина с математическим ожиданием m идисперсией σ2. Иначе говоря, правило k сигм означает, что J = Jn ± kσ/n1/2

с вероятностями (уровнями доверия) 0.683, 0.9545, 0.9973, 0.9999367 приk = 1, 2, 3, 4 соответственно.Описанная процедура построения доверительных интервалов является

приближенной, так как величины Jn лишь асимптотически гауссовские. Кро-ме того, значение дисперсии σ2 случайной величины ξ заранее неизвестно.Значение дисперсии может быть оценено в ходе статистического моделирова-ния по формуле

σ2 ≈ s2 =1

n− 1

n∑i=1

[ξi − Jn]2 =

1

n− 1

n∑i=1

ξ2i − n

n− 1[Jn]

2. (1.8)

Упражнение. Покажите, что формула (1.8) дает несмещенную оценку дис-персии σ2. Будет ли

√s2 несмещенной оценкой для среднеквадратического

отклонения σ?

Оценить точность соотношения (1.5) позволяют неравенства Эссеена иБерри–Эссеена (см. [35, с. 82], а также [27,74]). В частности,∣∣P([Jn − J ] < n−1/2σx

)− Φ(x)∣∣ ≤ A

m3

σ3n1/2(1 + |x|3) ,

где m3 = M |ξ − J |3 и A ≤ 0.7655. Отсюда вытекает, что


P (|Jn−J | < ε)∈[ erf(n1/2σ−1ε)− δn, erf(n1/2σ−1ε) + δn

],

δn = 2Am3

σ3n1/2(1 + n3/2ε3).

Однако на практике значение третьего момента, естественно, тоже неизвест-но, и его нужно оценивать по реализациям ξi.О характере сходимости последовательности Jn к J позволяет судить за-

кон повторного логарифма, который утверждает [35], что с вероятностьюединица

lim supn→+∞

√n

σ√2 ln lnn

[Jn − J ] = 1.

Это означает, что для любого ε > 0 вероятность события{|Jn − J | > (1− ε)

σ√n

√2 ln lnn для бесконечно многих n

}равна единице, а вероятность события{

|Jn − J | > (1 + ε)σ√n

√2 ln lnn для бесконечно многих n

}равна нулю.

Упражнение. Рассмотрите распределение Коши с плотностью

p(x) =s

π[(x−m)2 + s2], x ∈ (−∞,+∞),

где m, s–– параметры распределения. Покажите, что для распределения Ко-ши не существует математического ожидания, а второй момент равен беско-нечности. С помощью моделирования изучите поведение эмпирического сред-него и оценки дисперсии. Убедитесь, что по результатам численного модели-рования нельзя сделать вывод об отсутствии математического ожидания ибесконечности второго момента. Случайную величину с распределением Ко-ши можно моделировать по формуле [69]

ξ = s tg(2πα) +m,

где α –– случайная величина, равномерно распределенная на (0, 1), или поформуле

ξ = su

v+m,

где (u, v) – случайный вектор равномерно распределенный в (единичном)(полу)круге с центром в нуле.


1.3.2. Трудоемкость векторных оценок

Предположим теперь, что искомая величина J является вектором. Для за-дач, связанных с переносом поляризованного излучения, это может быть, вчастности, вектор Стокса (см., например, [38,44,52]). Случайные величины Jnи ξ в (1.1) также являются векторами той же размерности, что и вектор J . Впринципе, можно провести анализ погрешности каждой из компонент векто-ра Jn в отдельности подобно тому, как это описано в предыдущем пункте. Нотакой анализ не даст представления о совместном поведении погрешностивсех компонент. Поэтому для анализа погрешности векторных и функцио-нальных оценок был разработан подход, который кратко представлен в этомпункте (более подробное изложение см. в [51], гл. 4 и 5).Предположим, что J , Jn, ξ являются вектор-столбцами:

J = (J [1], · · · , J [K])T ,

Jn = (Jn[1], · · · , Jn[K])T ,

ξ = (ξ[1], · · · , ξ[K])T ,

и для монтекарловской оценки существует корреляционная матрица

R = M[ξ − J ][ξ − J ]T (1.9)

(T –– операция транспонирования). Условие существования корреляционнойматрицы равносильно ограниченности дисперсий всех компонент вектора ξи является обобщением на многомерный случай требования конечности дис-персии скалярной монтекарловской оценки.Существование корреляционной матрицы гарантирует конечность вторых

моментов

M‖Jn − J‖2v ≤ 1

nM‖ξ − J‖2v < ∞ (1.10)

для любой векторной нормы ‖ · ‖v (докажите это), а также справедливостьвекторного варианта ЦПТ, т. е. слабую сходимость векторов n1/2[Jn − J ] кгауссовскому случайному вектору w с корреляционной матрицей (1.9) (и,естественно, с нулевым математическим ожиданием M[Jn − J ] = 0). О век-торном варианте ЦПТ см. [35,57].Слабая сходимость n1/2(Jn−J) к гауссовскому вектору w позволяет утвер-

ждать, что векторная норма уклонения Jn от J имеет порядок n−1/2 по веро-ятности


P{‖Jn − J‖v ≤ cn−1/2

}→ P{‖w‖v ≤ c

}пpи n → ∞. (1.11)

Это соотношение дает возможность приближенно определять значение n поуровню доверия и максимально допустимому отклонению ‖Jn − J‖v или, на-оборот, оценивать уровень доверия оценки. Подробнее о слабой сходимостивероятностных распределений см. [9, 10,75].В качестве погрешности рассмотрим аналог (1.2) при r = 2

‖Jn − J‖ =[M‖Jn − J‖2v

]1/2. (1.12)

Если норма ‖ · ‖v является евклидовой, то для всех n

nM‖Jn − J‖2v = M‖w‖2v, (1.13)

и величина (1.13) равна сумме дисперсий компонент монтекарловской оцен-ки ξ. В общем случае из существования корреляционной матрицы (1.9) сле-дует сходимость

nM‖Jn − J‖2v → M‖w‖2v при n → ∞. (1.14)

Упражнение. Формально для сходимости (1.14) достаточно слабой сходи-мости n‖Jn − J‖2v к ‖w‖2v (которая следует из слабой сходимости n1/2[Jn − J ]к w) и равномерной интегрируемости случайных величин

n‖Jn − J‖2v = n−1

∥∥∥∥ n∑i=1

[ξi − J ]

∥∥∥∥2v

. (1.15)

Напомним, что равномерная интегрируемость случайных величин εi означает

supi

M|εi| < c, supi

M(|εi|; |εi| ≥ n) → 0 при n → ∞.

Докажите, что наряду с ЦПТ из существования корреляционной матрицы(1.9) следует равномерная интегрируемость случайных величин (1.15), а, зна-чит, и сходимость (1.14).

Трудоемкостью векторной оценки Jn (относительно нормы ‖.‖2v) есте-ственно называть величину

Sn = n tM‖Jn − J‖2v = tM∥∥∥ n∑

i=1

[ξi − J

]∥∥∥2v

/n, (1.16)

где t–– время моделирования одной реализации ξ. Сходимость (1.14) позволя-ет ввести понятие асимптотической трудоемкости оценок Jn (относительнонормы ‖.‖2v)


S = tM‖w‖2v = limn

Sn.

При этом, в силу (1.10), значения S и Sn не превышают tM‖ξ − J‖2v.Таким образом, при проведении расчетов целесообразно использовать

оценки с наименьшей асимптотической трудоемкостью, т. е. стремиться куменьшению времени моделирования одной реализации ξ и минимизации ве-личиныM‖w‖2v ≤ M‖ξ−J‖2v, где w–– гауссовский вектор с нулевым средними корреляционной матрицей (1.9).Чаще всего в качестве нормы ‖.‖v используется евклидова норма с весами

‖x‖v =√

c1x2[1] + · · ·+ cKx2[K], x =(x[1], · · · , x[K]

)T.

В этом случае следует минимизировать «взвешенную дисперсию»

M‖w‖2v =K∑k=1

ckDξ[k].

Если используется неевклидова норма и непосредственное вычисление вели-чиныM‖w‖2v затруднительно, то для оценки этой величины (так же как и дляоценки величины P{‖w‖v ≤ c}, фигурирующей в (1.11)) можно провести до-полнительные расчеты методом Монте-Карло с численным моделированиемреализаций гауссовского вектора w.Для оптимизации векторных оценок метода Монте-Карло Г.А.Михайло-

вым был разработан минимаксный подход [41], идея которого состоит в ми-нимизации максимума дисперсий

maxk

Dξ[k].

О связи минимаксного подхода и минимизации взвешенной дисперсии смотри[41, п.4.1].

1.4. О программной реализации алгоритмовМонте-Карло

Алгоритм вычисления математического ожидания m и дисперсии d случай-ной величины X можно записать следующим образом.

Алгоритм оценки среднего и дисперсии случайной величины

s:=0; s2:=0;for i:=1 to n do

1.4. О программной реализации алгоритмов Монте-Карло 27

beginмоделируем независимую реализациюX(i) случайной величины X;s:=s+X(i);s2:=s2+X(i)*X(i);

end;m:=s/n;d:=s2/n-m*m;

Отметим ряд моментов, на которые следует обратить внимание при про-граммировании алгоритмов статистического моделирования.1. Так как погрешность метода Монте-Карло пропорциональна 1/

√n, то

для точных расчетов значение n должно быть достаточно большим. Поэтомуследует обратить внимание на тип переменных i и n. Например, при n >32767 эти переменные нельзя описывать на Паскале как INTEGER (2 байта),а при n > 2 147 483 647 алгоритм не будет корректным и при описании этихпеременных как LONGINT (4 байта).2. Другая проблема–– возможное накопление погрешности, обусловленное

количеством верных значащих цифр. Поясним это на примере. Предполо-жим, что

s2 = 10 000 000 000, X(i) = 1,

а переменные s2 и X(i) имеют на Паскале тип SINGLE (4 байта). Тогдарезультат s2 := s2 + X(i) будет равен снова 10 000 000 000, а вовсе не10 000 000 001. Аналогично, для переменных типа DOUBLE (8 байт)

1 000 000 000 000 000 + 1 = 1 000 000 000 000 000,

а для переменных типа EXTENDED (10 байт)

100 000 000 000 000 000 + 1 = 100 000 000 000 000 000.

Отметим, что за счет накопления погрешности оценка дисперсии может полу-читься даже отрицательной. Таким образом, расчеты необходимо проводитькак минимум с двойной точностью.

Упражнение. Предложите модификацию представленного алгоритма оцен-ки математического ожидания и дисперсии, которая позволила бы умень-шить погрешность, возникающую из-за ограниченного числа верных знача-щих цифр.


3. Предположим теперь, что, избежав описанных выше проблем, намудалось с пренебрежимой погрешностью вычислить значения m и d. Стан-дартная интерпретация результатов статистического моделирования состоитв следующем: искомое среднее значение случайной величины X лежит в ин-тервале [m− k

√d/n,m+ k

√d/n] с вероятностью erf(k) согласно правилу k

сигм (1.7). Однако, строго говоря, это утверждение является верным лишь«асимптотически» при n → ∞.

Упражнение. Приведите условия, при которых только что сформулиро-ванное утверждение действительно является истинным.

Пример 1.6. В качестве случайной величины X рассмотрим X=|ξ|, где ξимеет распределение Коши с плотностью

b

π(x2 + b2), x ∈ (−∞,+∞), b = 0.001. (1.17)

В этом случае MX = +∞. Результаты расчетов представлены в табл. 1.4.Видно, что оценки математического ожидания и дисперсии «существенно за-нижены».

Таблица 1.4. Эмпирические средние m и дисперсии dслучайной величины X в зависимости от размера выборки n

n m d√

d/n

10000000 0.0119 46.7 0.0021620000000 0.0133 72.9 0.0019140000000 0.0121 42.3 0.0010380000000 0.0116 41.2 0.00072100000000 0.0120 44.1 0.00066

На первый взгляд, данный пример кажется не совсем естественным. Слу-чайная величина имеет бесконечные первый и второй моменты. В то же времялюбые числа и случайные величины на ЭВМ ограничены, и, значит, любыемоменты случайных величин, моделируемых на компьютере, всегда конечны.Однако этот пример ясно показывает, что результаты статистического моде-лирования могут значительно отличаться от искомых величин и контрольпогрешности по эмпирической дисперсии не всегда является надежным! Сле-довательно, чрезвычайно важными являются дополнительные теоретическиеисследования свойств оценок статистического моделирования, которые моглибы гарантировать необходимую точность метода Монте-Карло. Кроме того,этот пример демонстрирует влияние качества генератора случайных чисел ивыбора моделирующей формулы на результаты расчетов.

1.5. Источники случайных чисел 29

Упражнение. В табл. 1.4 приведены результаты, полученные с использо-ванием моделирующей формулы

X = tg(π

2α),

и генератора псевдослучайных чисел Rand_2 из приложения Б. Проведитеаналогичные расчеты, используя другие моделирующие формулы и генерато-ры псевдослучайных чисел. Изучите, как изменяются результаты вычисленийи как они зависят от размеров выборки.

Проблема особой важности –– это создание последовательностей, исполь-зуемых в алгоритмах статистического моделирования в качестве случайныхчисел. Основным источником таких последовательностей являются специ-альные детерминированные алгоритмы –– так называемые генераторы псев-дослучайных чисел (см. следующий пункт). Требования к генераторам псев-дослучайных чисел возрастают в связи с ростом вычислительных мощно-стей и увеличением объемов выборок (см. монографию [42], где обсуждаютсяособенности реализации мультипликативных генераторов для параллельныхвычислений). Примеры того, как выбор генератора псевдослучайных чиселможет повлиять на качество моделируемых случайных величин, приведеныв [109, п. 3.1].

1.5. Источники случайных чисел

Случайно или закономерно, но так уж исторически сложилось, что в основекомпьютерных вычислений методом Монте-Карло лежит моделирование слу-чайных величин, равномерно распределенных на интервале (0, 1). Все другиеслучайные величины и процессы, промежуточные и окончательные резуль-таты вычислений –– это, по сути, преобразования независимых равномернораспределенных случайных величин (случайных чисел). Обычно выделяюттри способа получения случайных чисел на компьютере: генераторы псевдо-случайных чисел, физические датчики (аппаратные генераторы) и таблицыслучайных чисел.

Генератор псевдослучайных чисел –– это детерминированный алгоритммоделирования последовательности чисел, свойства которых близки к свой-ствам случайных величин (равномерно распределенных на промежутке от 0до 1). Именно этот способ получения случайных чисел применяется для ста-тистического моделирования наиболее часто. Встроенные датчики случай-ных чисел, которые используются при вызове стандартных подпрограмм ти-па RANDOM или RAND на Паскале, Фортране, Си и других языках про-граммирования, –– это генераторы псевдослучайных чисел. При проведении


серьезных расчетов желательно изучить информацию о встроенном датчи-ке (которая далеко не всегда оказывается легко доступной), а еще лучшевоспользоваться каким-либо широко известным датчиком, хорошо себя заре-комендовавшим (программные реализации датчиков нетрудно найти в сетиИнтернет, в том числе и на странице автора http://osmf.sscc.ru/˜smp).Каким же образом детерминированные алгоритмы позволяют моделиро-

вать случайность? В качестве наглядного примера часто приводят алгоритмсередины квадратов, предложенный одним из основателей метода Монте-Карло Джоном фон Нейманом. Пример соответствующей последовательно-сти псевдослучайных чисел αn приведен ниже:

x21 = 97[5353]76, x2 = 5353, α2 = 0.5353,

x23 = 28[6546]09, x3 = 6546, a3 = 0.6546, . . .

Квадратные скобки здесь поясняют, что в качестве следующего числа xn+1

берутся четыре цифры из середины квадрата предыдущего числа xn. Конеч-но, для вычислений в настоящее время таким датчиком никто не пользуется(проанализируйте самостоятельно недостатки этого алгоритма), однако онслужит хорошей иллюстрацией. Отметим, что перед моделированием псев-дослучайной последовательности необходимо задать начальное состояние ге-нератора (в английском языке для этого используется специальный терминseed). В данном примере –– это число x1. Для задания начального состоя-ния генератора используется специальная процедура. На Турбо Паскале это,например, процедура RANDOMIZE, которая формирует начальное состояние,обращаясь к системному таймеру. Если процедура RANDOMIZE в программене вызывается, то встроенный датчик псевдослучайных чисел будет модели-ровать одну и ту же последовательность при каждом запуске программы. Вто же время вызывать процедуру RANDOMIZE в программе более одного разанецелесообразно, так как хорошие статистические свойства обеспечиваютсяименно последовательным моделированием псевдослучайных чисел. Предпо-ложим, что RANDOMIZE вызывается в цикле

FOR I:=1 TO N DOBEGIN

RANDOMIZE; A[I]:=RANDOM; ...END;

В этом случае хорошие статистические свойства последовательности A[I] со-вершенно не гарантированы! Правильно будет

RANDOMIZE; ...

1.5. Источники случайных чисел 31

FOR I:=1 TO N DOBEGIN

A[I]:=RANDOM; ...END;

Одним из наиболее популярных алгоритмов моделирования последова-тельностей псевдослучайных чисел αj, равномерно распределенных на от-резке (0, 1), является «мультипликативный генератор»

αj = C ∗ nj, nj+1 = (nj ∗ L)modM, C = M−1.

Здесь nj, L и M –– натуральные числа, nj ∈ {1, . . . ,M − 1}, а xmodM ––остаток от деления x на M . Другие названия этого метода: линейный кон-груэнтный генератор, метод вычетов, метод сравнений, алгоритм Лемера [93].Проблема выбора параметров генератора (модуля M и множителя L) весь-ма нетривиальна. Среди специалистов хорошо известен случай, когда муль-типликативный генератор, рекомендованный специалистами фирмы IBM ивходящий в стандартное математическое обеспечение, в последующем былзабракован (см. [51,62] и имеющиеся там ссылки).Важной характеристикой псевдослучайного генератора является его пе-

риод, после которого последовательность повторяется заново. Желательно,чтобы период на несколько порядков превышал длину псевдослучайной по-следовательности, используемой в алгоритме. Нужно иметь ввиду, что гене-раторы, которые устраивали специалистов лет десять назад, для современ-ных вычислений могут оказаться непригодными из-за недостаточной длиныпериода.Приведем рекомендацию Г.А.Михайлова по выбору параметров мульти-

пликативного генератора [41]:

M = 2m, L = 52p+1, p = max{q ∈ N : 52q+1 < M}.

Период такого датчика равен 2m−2.В последнее время широкое распространение получил генератор «вихрь

Мерсенна» (Mersenne twister), разработанный в 1997 г. японскими ученымиМакото Мацумото и Такудзи Нисимура [95]. Генератор обеспечивает равно-мерное распределение генерируемых псевдослучайных чисел в 623 измерени-ях и имеет огромный период, равный 219937 − 1. Утверждается, что «вихрьМерсенна» в два–три раза быстрее линейных конгруэнтных генераторов.Кроме методов Монте-Карло областью применения псевдослучайных чи-

сел является криптография. Простой и эффективный алгоритм шифрованияпоследовательности бит xi состоит в следующем:


yi = xi XOR bi.

Здесь XOR–– операция исключающего «или» (сложение по модулю 2), bi ––псевдослучайная последовательность бит. Декодирование происходит анало-гичным образом:

xi = yi XOR bi.

Ключом для декодирования служит начальное состояние псевдослучайнойпоследовательности, использованной при шифровании. К криптографиче-ским генераторам псевдослучайных чисел предъявляются дополнительныетребования криптостойкости, а сами алгоритмы обычно засекречены.Что касается физических датчиков, то производители соревнуются в со-

здании быстрых, компактных и статистически устойчивых аппаратных ге-нераторов. На новостной ленте февраля 2008 г. можно найти следующее со-общение: «Исследователи из японской корпорации Toshiba сконструировалисамый быстрый в мире аппаратный генератор случайных чисел. Устройство,реализованное в виде микросхемы площадью в 1200 квадратных микрон, спо-собно генерировать данные со скоростью до 2 мегабит в секунду». Более того,почти все крупные производители микрочипов поставляют аппаратные гене-раторы случайных чисел. В частности, аппаратные генераторы имеются впроцессорах VIA, чипсетах INTEL, AMD. Работа таких устройств основа-на на различных физических процессах (тепловой шум, фотоэлектрическийэффект и другие). Основная проблема, которую вынуждены решать разра-ботчики физических датчиков, это стабильность генерации случайных чиселво времени. Для повышения стабильности может использоваться дополни-тельная алгоритмическая коррекция случайных чисел.В криптографии аппаратные датчики случайных чисел используют для

формирования надежных ключей шифрования и электронной цифровой под-писи.Так или иначе, обнаружив аппаратный генератор в своем персональном

компьютере или приобретя соответствующую электронную плату, можно ор-ганизовать вычисления с использованием физического датчика. Однако фи-зический датчик, скорее всего, окажется значительно медленнее программ-ного моделирования псевдослучайных чисел. Кроме того, за «истинную слу-чайность» придется заплатить невозможностью воспроизвести вычисления инеуверенностью в качестве случайных чисел и самого результата. Конечно,можно запомнить последовательность случайных чисел, полученных физи-ческим датчиком, проконтролировать ее статистические свойства и затем ис-пользовать в алгоритмах Монте-Карло. Таким образом, мы приходим к идееиспользования таблиц случайных чисел.

1.6. Моделирование случайных величин 33

Самая большая из опубликованных таблиц случайных чисел [79] была по-лучена с помощью физического датчика, а точнее, с помощью электроннойрулетки. На практике использование таблиц случайных чисел для вычисле-ний методом Монте-Карло малоэффективно, так как требуются значитель-ный объем памяти для хранения чисел и большое время доступа, если числахранятся на внешнем носителе.Таким образом, основным способом получения случайных чисел для вы-

числений методом Монте-Карло являются генераторы псевдослучайных чи-сел, в алгоритмах которых нет ничего случайного. Часто приводят выска-зывание Роберта Кавью: «The generation of random numbers is too importantto be left to chance» («генерация случайных чисел слишком важна, чтобыоставлять ее на волю случая»). В то же время, как отмечал И.М. Соболь [63]:«общей теории псевдослучайных чисел в настоящее время нет».

1.6. Моделирование случайных величин

Моделирование случайных чисел–– это лишь начальная проблема, с которойприходится сталкиваться при решении задач методом Монте-Карло и кото-рой далеко не все уделяют достаточного внимания, ограничиваясь исполь-зованием датчиков, встроенных в компиляторы. Далее возникает проблемамоделирования случайных величин, векторов и функций. Фактически целыйраздел теории методов Монте-Карло посвящен этой проблеме. Существуюткак общие методы моделирования, так и множество специальных методовдля узких классов распределений.Рассмотрим основные методы и приведем несколько примеров, связанных

с моделированием случайных величин. Любое вероятностное распределениена вещественной оси может быть представлено как комбинация непрерывно-го, дискретного и сингулярного распределений. Для непрерывных распреде-лений известен общий метод моделирования, называемый методом обратнойфункции распределения: случайную величину ξ с функцией распределения Fможно моделировать по формуле

ξ = F−1(α),

где α–– случайная величина, равномерно распределенная на интервале (0, 1).Для моделирования случайных величин с экспоненциальным распределениемэтот метод позволяет получить простую формулу

ξ = −1

λlnα. (1.18)

Здесь λ–– параметр экспоненциальной плотности λ exp(−λt), t > 0.


Упражнение 1. Обоснуйте метод обратной функции распределения и рас-пространите его на дискретные и сингулярные случайные величины. Приве-дите соответствующие примеры.

2. Предположим, что ξ –– случайная величина с плотностью распределенияfξ, а ϕ–– строго монотонная непрерывно дифференцируемая функция. Дока-жите, что случайная величина η = ϕ(ξ) имеет плотность распределения

fη(x) = fξ

(ϕ−1(x)

)∣∣∣ ddxϕ−1(x)

∣∣∣.Для моделирования гауссовских распределений метод обратной функции

распределения применяют редко, так как простой формулы для обратнойфункции нет, а численное обращение является достаточно сложным [19].Для моделирования пары независимых гауссовских величин ξ1, ξ2 (с нуле-вым средним и единичной дисресией) используют метод Бокса–Мюллера [83]

ξ1 =√

−2 lnα1 sin 2πα2, ξ2 =√−2 lnα1 cos 2πα2, (1.19)

где α1, α2 –– независимые случайные величины с равномерным распределени-ем на интервале (0, 1).

Упражнение. Обоснуйте метод Бокса–Мюллера, используя следующее

Утверждение (о преобразовании плотности распределения). Через ξ, η обо-значим n-мерные случайные векторы. Предположим, что плотность fη слу-чайного вектора η сосредоточена на открытом множествеG′ из Rn, плотностьслучайного вектора ξ сосредоточена на открытом множестве G из Rn. Пустьϕ : G → G′ непрерывно дифференцируемая биекция с непрерывно диф-ференцируемым обратным отображением ϕ−1 : G′ = ϕ(G) → G. Тогда изусловия

η = ϕ(ξ),

вытекает, что плотность случайного вектора ξ на G имеет вид

fξ(x) = fη ◦ ϕ(x)∣∣ det Jϕ(x)∣∣. (1.20)

Здесь det Jϕ(x)–– детерминант матрицы Якоби (якобиан) Jϕ(x) отображенияϕ в точке x (напомним, что матрица Якоби –– это матрица частных произ-водных ∂ϕi/∂xj для компонент ϕ(i) векторной функции ϕ по компонентамxj вектора x).

1.6. Моделирование случайных величин 35

Формулу (1.20) можно переписать в виде

fη(y) = fξ ◦ ϕ−1(y) /∣∣ det Jϕ(y)∣∣.

В случае линейного (невырожденного) преобразования η = Aξ+c выполнено

fη(y) = fξ(A−1[y − c]

)/∣∣ detA∣∣.

Другой универсальный метод моделирования случайных величин––методисключений. Идея метода состоит в том, что, если пара (X, Y ) распределенаравномерно на множестве F = {(s, u) : u ≤ f(s)} под графиком плотностираспределения f , то X-координата имеет плотность f :

P(X ≤ t) =∫ ∫

Fdu ds =

t∫−∞

f(s)∫0

du ds =

t∫−∞

f(s) ds.

Моделирование точки, равномерно распределенной на F , можно проводить,моделируя равномерное распределение на множестве G, содержащем F : точ-ки (V,W ), равномерно распределенные на G, моделируются до первого по-падания в множество F , (V,W ) ∈ F , и тогда полагаем X = V . Чаще всегов качестве мажорирующей области G берут область под графиком функцииM · g, где g –– некоторая другая плотность, для которой моделирование слу-чайных величин не представляет трудностей. Аналогичный подход применими для многомерных X.Опишем общий метод исключения. Предположим, что f и g –– плотно-

сти вероятностей такие, что f/g ≤ M < ∞. Для моделирования случайнойвеличины X с плотностью f моделируются пары независимых случайныхвеличин: V с плотностью g и W = MU равномерно на [0,M ]. Такие парымоделируются до тех пока не выполнится неравенство W ≤ f(V )/g(V ), итогда X = V .Формальное обоснование метода не вызывает затруднений:

P(V ≤ t , V принимается, т. е.W ≤ f(V )/g(V )

)= P

(V ≤ t, U ≤ f(V )/(g(V ) ·M)

)=

t∫−∞

f(s)/(g(s)M)∫0

du g(s) ds =1

M

t∫−∞

f(s) ds.

Следовательно, значение V принимается с вероятностью M−1 и


P (V ≤ t | V принимается) =t∫

−∞f(s) ds,

что и требовалось доказать.Исследователи весьма изобретательны при разработке различных специ-

ализированных и более быстрых алгоритмов моделирования. Например, на-ряду с (1.18) существуют алгоритмы, когда для моделирования несколькихнезависимых экспоненциально распределенных случайных величин логариф-мическая функция вычисляется лишь один раз (см. [39], программную реа-лизацию можно найти в [50]). Десятилетиями ранее такие алгоритмы позво-ляли получить заметный выигрыш, так как вычисление логарифма на ЭВМбыло существенно более трудоемким по сравнению с простыми арифметиче-скими операциями. Однако рекомендации, которые давались в прошлом, мо-гут оказаться неактуальными при использовании современных компьютеров.Так, например, для моделирования случайного изотропного вектора (ξ1, ξ2)на окружности можно использовать формулы

ξ1 = cos 2πα1, ξ2 = sin 2πα1, (1.21)

или применить следующий алгоритм:

шаг 1) ξ1 := 2α1 − 1, ξ2 := 2α2 − 1, d := ξ21 + ξ22 ,

шаг 2) если d > 1, то повторяем предыдущий шаг, иначе d :=√d и

ξ1 := ξ1/d, ξ2 := ξ2/d.

Этот алгоритм на старых компьютерах работал существенно быстрее, чеммоделирование по формулам (1.21), так как сравнительно много времени за-нимало вычисление тригонометрических функций. Однако на современныхкомпьютерах выигрыш по времени несущественный.Подробнее о моделировании псевдослучайных чисел и случайных величин

см. монографии [13,24,25,39,41–43,51,63,68,109] и имеющиеся там ссылки.

1.7. Методы Монте-Карло на марковских цепях

В последние десятилетия активно развиваются так называемые «динами-ческие методы Монте-Карло», или «методы Монте–Карло на марковскихцепях» (в западной литературе часто используется аббревиатура MCMC––Markov Chain Monte Carlo). Эти методы получили широкое распространение

1.7. Методы Монте-Карло на марковских цепях 37

в связи с новыми прикладными задачами, возникающими в физике, биоло-гии, медицине, технике и экономике. В отличие от «стандартной» схемы эм-пирические средние вычисляются не по множеству реализаций независимыходинаково распределенных случайных величин, а на одной (!) реализацииоднородной или неоднородной цепи Маркова. Для обоснования таких мето-дов, естественно, требуются специальные предельные теоремы. В качествепримера ниже рассмотрен один из алгоритмов MCMC для решения задачи окоммивояжере.

Решение задачи о коммивояжере методом MCMC. Задача о коммиво-яжере–– известная задача комбинаторной оптимизации. Имеется N городов,расстояния между которыми известны. Коммивояжер отправляется в путьиз одного из них с тем, чтобы посетить каждый из оставшихся N −1 городовровно по одному разу каждый и вернуться в исходный город. При этом егопуть должен быть наикратчайшим.Списку N городов сопоставим множество С = {1, . . . , N}, а расстояние

между городами i и j будем обозначать через d(i, j) = d(j, i) ≥ 0. Марш-рут коммивояжера описывается отображением ϕ : C �→ C со свойствамиϕk(i) �= i для всех k = 1, . . . , N − 1 и ϕN(i) = i для всех i, т. е. цикличе-ской перестановкой на C. Множество X всех маршрутов состоит из (N − 1)!элементов. Длина пути ϕ определяется по формуле

H(ϕ) =∑i∈C

d(i, ϕ(i)

).

Задача о коммивояжере относится к классу так называемых NP-полных за-дач, а ее решение перебором всех вариантов становится вычислительно нере-ализуемым уже при сравнительно небольшом числе городов.Введем понятие «двойной замены». Представим ϕ в виде ориентированно-

го графа, как на рис. 1.1 слева. Убираем две связи, не являющиеся соседнимии выходящие из p и ϕ−1(q). Заменяем их на связи от p до ϕ−1(q) и от ϕ(p)до q и меняем направление связей между ϕ(p) и ϕ−1(q) на противоположное.Это порождает граф, изображенный на рис. 1.1 справа. Дадим формальноеописание этой процедуры. Предположим, что q = ϕk(p), 3 ≤ k ≤ N , и вы-полнено

ψ(p) = ϕ−1(q),

ψ(ϕ(p)

)= q,

ψ(ϕn(p)

)= ϕn−1(p) для n = 2, . . . , k − 1,

ψ(r) = ϕ(r) иначе.

В этом случае мы будем говорить, что маршрут ψ получен из ϕ двойнойзаменой, а маршруты ψ и ϕ будем называть «смежными».


Рис. 1.1. Двойная замена в маршруте коммивояжера

Можно показать, что число смежных маршрутов для заданного пути ϕравно (N − 1)(N − 2) − 1, и любой маршрут ψ можно получить из другогомаршрута ϕ с помощью последовательности N − 2 двойных замен.Алгоритм решения задачи коммивояжера состоит в следующем:

Шаг 1. Выберем некоторый маршрут ϕ в качестве первоначального, n = 1.

Шаг 2. Строим модификацию ϕ′ маршрута ϕ с помощью «двойной замены»,описанной выше.

Шаг 3. Если H(ϕ′) ≤ H(ϕ), то модификация маршрута принимается (ϕ :=ϕ′). Если H(ϕ′) > H(ϕ), то модификация ϕ′ принимается (ϕ := ϕ′) свероятностью

P = exp(b(n)

[H(ϕ)−H(ϕ′)

]),

а с вероятностью 1 − P –– отклоняется. Присваиваем n = n + 1 ипереходим на шаг 2.

В данном алгоритме присутствует последовательность b(n), возрастаю-щая до бесконечности. Согласно принятой терминологии, заимствованнойиз статистической физики, она описывает «схему охлаждения». Величинуb(n) называют «обратной температурой», функцию H(ϕ) принято называть«энергией», а сам метод называют «имитацией отжига» (simulated annealing).(Примечание. Отжиг–– вид термической обработки металлов, заключающий-ся в нагреве до определенной температуры, выдержке и последующем мед-ленном охлаждении. Цели отжига –– улучшение структуры и достижениебольшей однородности металла.)Оказывается, что если последовательность b(n) возрастает до бесконечно-

сти не быстрее, чем const lnn, то распределение на множестве всевозможныхмаршрутов сходится к равномерному распределению, сосредоточенному намаршрутах, минимизирующих расстояние H. Таким образом, решение зада-чи в данном алгоритме ищется не перебором всех возможных вариантов, а наодной случайной последовательности маршрутов, образующих неоднороднуюмарковскую цепь.

1.7. Методы Монте-Карло на марковских цепях 39

Более подробно с методами Монте-Карло на марковских цепях (включаяметоды Гиббса, Метрополиса, имитации отжига) можно познакомиться покниге [13] и представленной там литературе.

Глава 2

Модели случайных процессов

Обязательной составляющей методов Монте-Карло является численное мо-делирование случайных величин. Это может быть как моделирование после-довательности независимых одинаково распределенных случайных величин,так и моделирование семейств различных случайных величин со сложнымисовместными распределениями, т. е. моделирование случайных процессов иполей. Совокупность результатов, полученных в области численного моде-лирования случайных функций, можно выделить в самостоятельный разделтеории методов Монте-Карло.В этой главе мы представим краткие сведения из теории случайных про-

цессов, рассмотрим классификацию случайных функций и обсудим основныепринципы построения гауссовских и негауссовских стохастических моделей.

2.1. Определение и характеристики случайныхпроцессов

Случайный процесс (случайная функция) определяется как семейство слу-чайных величин x(t), t ∈ T , заданных на общем вероятностном простран-стве (Ω,U ,P) со значениями в измеримом пространстве (X,B). В конкрет-ных ситуациях множества T и X могут быть самые разнообразные. ЕслиT ⊂ {. . . − 1, 0, 1, 2, . . .}, то говорят о случайных последовательностях, ес-ли T ⊂ R

k, –– о случайных полях. Чаще всего X = R или C (Rs или Cs) с

σ-алгеброй борелевских множеств B. В этом случае процесс называют (век-торным) вещественным или, соответственно, комплекснозначным. «Линия»x(t) при фиксированном ω ∈ Ω называется реализацией или траекториейпроцесса.Напомним, что вероятностное пространство (Ω,U ,P)–– это тройка следу-

ющих объектов: (1) множество Ω, которое называют пространством элемен-тарных событий (или элементарных исходов), (2) семейство U подмножествпространства Ω, которое называется пространством событий, и (3) вероят-ность P. Вероятность P – это функция, определенная на U , со значениямив [0, 1], удовлетворяющая аксиомам

1) P(A) ∈ [0, 1] для всех A ∈ U ,2) P(Ω) = 1,

40

2.1. Определение и характеристики случайных процессов 41

3) P(⋃Ai) =

∑P(Ai), если множества Ai ∈ U не пересекаются (свойство

σ-аддитивности).

При этом пространство событий U удовлетворяет аксиомам σ-алгебры:

1) Ω ∈ U , Ø ∈ U ,2) если некоторое множество принадлежит U , то и его дополнение при-надлежит U ,

3) для последовательности событий Ai ∈ U выполнено⋃Ai ∈ U и

⋂Ai ∈

U .

Борелевской σ-алгеброй на вещественной оси называют минимальную σ-алгебру, содержащую все интервалы.

Упражнение. 1) Упростите, приведенную выше систему аксиом σ-алгебры.2) Приведите пример неборелевского множества (соответствующие примерыможно найти, например, в [15] или [65], с.119).

Говорят, что случайный процесс допускает конструктивное задание, есликонструктивным является вероятностное пространство (Ω,U ,P). Это озна-чает, что существует измеримое отображение ϕ : [0, 1] → Ω такое, что длялюбого A из U выполнено P(A)=m

(ϕ−1(A)

), где m–– мера Лебега (см. [72]).

Конечномерные распределения. Важнейшей характеристикой случай-ного процесса является семейство его конечномерных распределений

Pt1t2...tn(A1, A2, . . . , An) = P

( n⋂j=1

{x(tj) ∈ Aj}), (2.1)

где n ∈ {1, 2, . . .}, tj ∈ T , Aj ∈ B. Конечномерные распределения случайногопроцесса удовлетворяют условиям согласованности

Pt1...tn(A1, . . . , An) = Ptm1...tmn

(Am1, . . . , Amn

),

Pt1...tn+1(A1, . . . , An, X) = Pt1...tn(A1, . . . , An).

(2.2)

Здесь (m1, . . . ,mn) –– произвольная перестановка. Известная теорема Кол-могорова о согласованных распределениях [33] утверждает, что условия (2.2)являются не только необходимыми, но и достаточными для существованияпроцесса с заданным семейством распределений (2.1).

42 2. Модели случайных процессов

Пример 2.1. Случайный вектор (x1, x2, . . . xn) формально можно считатьслучайным процессом на множестве T = {t1 = 1, . . . , tn = n}. Такой слу-чайный процесс имеет Ck

n k-мерных распределений, где Ckn = n!

k!(n−k)! –– числосочетаний из n по k. Общее число конечномерных распределений в этом слу-чае равно

∑k=1,nC

kn = 2n − 1.

Пример 2.2. Случайный процесс x(t), t ∈ T , называют гауссовским, ес-ли все его конечномерные распределения гауссовские, т. е. если все векторы(xt1, . . . , xtn) являются гауссовскими (см. Приложение А).

Конечномерные распределения называют также частными или марги-нальными.Задание конечномерных распределений однозначно определяет меру в

пространствеXT всех функций на T с σ-алгеброй цилиндрических множеств.Однако этого недостаточно для однозначного определения свойств траекто-рий, зависящих от значений случайного процесса более чем в счетном числеточек (например, непрерывность). Это приводит к необходимости рассматри-вать вероятностные меры на более узких функциональных пространствах иливводить дополнительные требования сепарабельности, стохастической непре-рывности и т. п. (см., например, [17]).

Математическое ожидание и корреляционная функция. Важнымихарактеристиками случайного процесса являются его моменты.Функция m(t) = Mx(t), зависящая от t, называется математическим

ожиданием (или средним) случайного процесса x(t), а случайный процесс

x0(t) = x(t)−Mx(t)

с нулевым средним называют центрированным.Ковариационной будем называть функцию двух аргументов s, t:

B(s, t) = Mx(s)x(t), (2.3)

а корреляционной–– функцию

K(s, t) = M[x(s)−Mx(s)

][x(t)−Mx(t)

]= Mx0(s)x0(t) = B(s, t)−m(s)m(t) (2.4)

(при t = s–– это дисперсия x(t)). Функцию

2.1. Определение и характеристики случайных процессов 43

ρ(s, t) =M([x(s)−Mx(s)][x(t)−Mx(t)]

)√

Dx(s)Dx(t)= K(s, t)/

√K(s, s)K(t, t) (2.5)

будем называть нормированной корреляционной.Значение ρ(s, t) представляет собой коэффициент (линейной) корреляции

случайных величин x(s), x(t). Напомним свойства коэффициента корреля-ции:

1) |ρ(s, t)| ≤ 1;

2) если случайные величины x(s), x(t) являются независимыми,то ρ(s, t) = 0;

3) если ρ(s, t) = 1, то случайные величины линейно зависимы, x(t) =ax(s) + b, причем a > 0, а если ρ(s, t) = −1, то x(t) = ax(s) + b, гдеa < 0.

Замечание 2.1. В русскоязычной литературе встречается некоторый разно-бой в терминологии: часто функцию (2.4) называют ковариационной, а (2.5)––корреляционной, что согласуется с англоязычными терминами. Однако мыбудем придерживаться определений, данных выше.Нетрудно показать, что всякая корреляционная функцияK(s, t) является

положительно определенной, т. е. для любых натуральных n, ti (из областиопределения T ) и комплексных чисел ci, i = 1, . . . , n, выполнено

n∑i=1

n∑j=1

cicjK(ti, tj) ≥ 0. (2.6)

Это следует из того, что

n∑i=1

n∑j=1

cicjK(ti, tj) = M∣∣∣ n∑i=1

cix(ti)∣∣∣2.

Упражнение 1. Докажите, что математическое ожидание и корреляцион-ная функция однозначно определяют конечномерные распределения гауссов-ского случайного процесса.

2. Убедитесь, что положительно определенная функция может быть корре-ляционной для некоторого гауссовского процесса (отсюда следует, что класскорреляционных функций совпадает с классом положительно определенныхфункций).

Взаимные ковариационные и корреляционные функции для случайныхпроцессов x(t) и y(t) определяются следующим образом:


Bxy(s, t) = Mx(s)y(t), (2.7)

Kxy(s, t) = M[x(s)−Mx(s)

][y(t)−My(t)

]. (2.8)

Если пару случайных процессов x(t), y(t) рассмотреть как векторный случай-

ный процесс[ x(t)y(t)

], то его корреляционная функция (иногда используется

термин совместная корреляционная функция) определяется как матричнаяфункция [

Kxx(s, t) Kxy(s, t)

Kyx(s, t) Kyy(s, t)

].

Аналогичным образом определяется (матричная) корреляционная функциядля векторнозначного случайного процесса с произвольной размерностьювекторов.Отметим, что функции (2.3), (2.4) иногда называют автоковариационной

и автокорреляционной.

Комплексные случайные процессы. Часто применение комплексногоанализа оказывается весьма удобным в теории случайных процессов. Предпо-ложим, что случайный процесс x(t) = Re x(t) + i Im x(t) является комплекс-ным. Тогда его математическое ожидание также будет комплексной функци-ей. Ковариационная функция комплексного процесса определяется как

B(s, t) = Mx(s)x(t), (2.9)

и также является в общем случае комплексной. Аналогично

K(s, t) = M[x(s)−Mx(s)

][x(t)−Mx(t)

]. (2.10)

Комплексная корреляционная функция (2.10) не определяет однозначно всевзаимные корреляции между вещественной и мнимой частями комплексногослучайного процесса. Другими словами, для определения совместной корре-

ляционной функции векторного случайного процесса[ Rex(t)Im x(t)

]нужна до-

полнительная информация. Для комплексных гауссовских случайных про-цессов обычно (и часто неявно!) дополнительно подразумевается, что

M[x(s)−Mx(s)

][x(t)−Mx(t)

]= 0. (2.11)

Соотношения (2.10), (2.11) позволяют однозначно определить все взаимныекорреляции и автокорреляции (докажите это). При этом выполнено

2.2. Первые примеры: пуассоновский и винеровский процессы 45

MRe x(s) Rex(t) = M Im x(s) Im x(t) =1

2ReK(s, t),

MRe x(s) Im x(t) = −M Im x(s) Rex(t) =1

2ImK(s, t).

Из положительной определенности, которая также как и в вещественномслучае определяется согласно формуле (2.6), вытекают следующие свойствакорреляционных функций:

(1) K(s, s) ≥ 0, (2.12)

(2) K(s, t) = K(t, s), (2.13)

(3) |K(s, t)|2 ≤ K(s, s)K(t, t), (2.14)

(4) |K(t1, t3)−K(t2, t3)|2 ≤K(t3, t3)

[K(t1, t1) +K(t2, t2)− 2ReK(t1, t2)

]. (2.15)

2.2. Первые примеры: пуассоновский и винеровскийпроцессы

2.2.1. Процесс Пуассона

Пуассоновским потоком (событий) с параметром (интенсивностью) λ > 0называют случайную последовательность 0 < τ1 < τ2 < τ3 . . ., если случай-ные величины τ1, τ2 − τ1, τ3 − τ2, . . . независимы и распределены по экспо-ненциальному закону с параметром λ, т. е. имеют плотность распределенияλ exp(−λt), t > 0.

Пуассоновский поток является стационарным (вероятностные характери-стики случайной последовательности не меняются со временем), ординарным(вероятность попадания на участок двух или более точек последовательностипредставляет собой бесконечно малую высшего порядка по сравнению с ве-роятностью попадания на него ровно одной точки) и обладает свойством от-сутствия последействия (для любых неперекрывающихся интервалов числоточек случайной последовательности, попавших на один из интервалов, независит от того, сколько их попало на другие интервалы).Обозначим через η(a, b) –– число точек пуассоновского потока, попавших

в интервал (a, b). Можно доказать, что случайная величина η(a, b) распреде-лена по закону Пуассона с параметром λ(b− a):

P(η(a, b) = k) =[λ(b− a)]k

k!exp

[− λ(b− a)]

и


Mη(a, b) = Dη(a, b) = λ(b− a).

Случайный процесс

ξ(t) = max{n : τn < t} = η(0, t) (2.16)

называют процессом Пуассона (с параметром λ). Нетрудно убедиться, что

Mξ(t) = λt, (2.17)

Kξξ(s, t) = M[ξ(s)−Mξ(s)][ξ(t)−Mξ(t)] = λmin(s, t), (2.18)

ρξξ(s, t) =Kξξ(s, t)√

Kξξ(s, s)Kξξ(t, t)=

min(s, t)√st

=

√min(s, t)

max(s, t).

Математическое ожидание (2.17) числа событий (точек) потока на отрезке[0, t) в теории массового обслуживания называют ведущей функцией.Моделирование пуассоновского точечного потока на интервале [0, T ] мож-

но проводить двумя способами. Первый способ состоит в том, что моделиру-ются независимые случайные величины

δi = τi − τi−1, i > 1, δ1 = τ1

с экспоненциальным распределением по формуле (1.18), а затем собственновычисляются точки пуассоновского потока

τi =i∑

j=1

δj

до тех пока точечный поток не выйдет за интервал [0, T ). Второй способ со-стоит в том, чтобы сначала смоделировать общее число точек потока η(0, T ),которые попадут в интервал [0, T ) (это число имеет распределение Пуассонас параметром λT ), а затем сами точки потока моделируются независимо сравномерным распределением на интервале [0, T ).

Упражнение 1. Обоснуйте эквивалентность этих двух способов моделиро-вания.

2. Покажите, что следующее описание является эквивалентным для стацио-нарного пуассоновского процесса ξ(t):

(0) ξ(0) = 0;

(1) для любых 0 ≤ t0 < t1 . . . < tn случайные величины ξ(ti)− ξ(ti−1),i = 1, . . . , n, независимы;


(2) случайные величины ξ(t) − ξ(s), 0 ≤ s ≤ t, распределены по законуПуассона с параметром λ(t− s).

Наряду со стационарным пуассоновским потоком (который часто назы-вают простейшим точечным процессом) можно рассмотреть пуассоновскийпоток с переменной интенсивностью λ(t). Число точек, попавших в интервал(a, b), при этом будет описываться законом Пуассона с параметром

Λ(a, b) =

b∫a

λ(t)dt.

Для численного моделирования такого нестационарного потока можновоспользоваться тем обстоятельством, что плотность случайной величины τiпри заданном значении τi−1 имеет вид

λ(t) exp(−

t∫τi−1

λ(z)dz), t > τi−1, (2.19)

или воспользоваться методом (независимого) прореживания, который состо-ит в следующем. Предположим, что λ(t) ≤ λmax. Моделируем стационар-ный пуассоновский поток с интенсивностью λmax, а затем его прорежива-ем: точку τi оставляем в потоке с вероятностью λ(t)/λmax, а с вероятностью1 − λ(t)/λmax выкидываем из потока. Оставшиеся точки образуют пуассо-новский поток с требуемой интенсивностью λ(t) (докажите это). В стати-стическом моделировании переноса излучения такие же алгоритмы исполь-зуются для моделирования свободного пробега частиц. Метод с прорежи-ванием при этом называется методом максимального сечения (см., напри-мер, [1, 25,28,39,50]).

Упражнение. Рассмотрите обобщения пуассоновского потока точек наплоскости и в пространстве. Опишите соответствующие алгоритмы числен-ного моделирования.

Замечание 2.2. Пуассоновские потоки играют важную роль в различныхприложениях. В частности, они используются при описании процессов ра-диоактивного распада частиц, дробового шума в радиоэлектронных устрой-ствах, событий дорожного движения, трафика в компьютерных сетях, числамутаций в клетках живых организмов, для моделирования систем массовогообслуживания и т. д.


2.2.2. Винеровский процесс

Винеровским процессом (процессом броуновского движения) называется слу-чайный процесс w(t), t ≥ 0, такой, что

(0) w(0) = 0;

(1) для любых 0 ≤ t0 < t1 . . . < tn случайные величины w(ti)− w(ti−1),i = 1, . . . , n, независимы;

(2) случайные величины w(t) − w(s), 0 ≤ s ≤ t, имеют нормальное распре-деление с нулевым средним и дисперсией (t− s).

Упражнение. Докажите, что винеровский процесс является гауссовским снулевым средним и корреляционной функцией

Kww(s, t) = min(s, t). (2.20)

Так как гауссовский процесс задается своим математическим ожиданием икорреляционной функцией, то фактически мы получили другое определениевинеровского процесса. Это гауссовский процесс (на положительной полуоси)с нулевым средним и корреляционной функцией (2.20).Очевидный алгоритм численного моделирования винеровского процесса

w(t) в точках t1, t2, . . . , tn состоит в моделировании независимых нормальныхслучайных величин δ1, δ2, . . . , δn с нулевым средним и дисперсиями Dδi =ti − ti−1, (t0 = 0), (см. (1.19)) и вычислении

w(ti) =n∑

j=1

δj.

Винеровский процесс применяется при описании множества стохастиче-ских явлений (в том числе и при описании броуновского движения частицв жидкости и газе). Важная роль винеровского процесса в теории случай-ных процессов обусловлена тем, что многие классы случайных процессов до-пускают удобное представление через винеровский процесс с помощью сто-хастического интегрирования. Перечислим некоторые свойства винеровскогопроцесса.

Свойство 1. Сепарабельный винеровский процесс с вероятностью 1 непре-рывен.


Замечание 2.3. Как уже отмечалось (см. п. 2.1) конечномерные распреде-ления случайного процесса не определяют однозначно таких свойств реализа-ций, как непрерывность, непрерывная дифференцируемость и т. п. А опреде-ление винеровского процесса задает именно его конечномерные распределе-ния и ничего более. Чтобы пояснить ситуацию, рассмотрим простейший при-мер. Предположим, что у некоторого случайного процесса ξ(t) на интервале(a, b) все траектории непрерывны. Рассмотрим теперь «модифицированный»случайный процесс, значения которого совпадают со значениями ξ(t) во всехточках t ∈ (a, b), кроме, например, одной точки c. Если точка c выбираетсядля каждой реализации процесса случайным образом равномерно на (a, b) ив этой точке значение модифицированного процесса равно ξ(t) + 1, то мо-дифицированный процесс будет иметь те же конечномерные распределенияпри том, что каждая его траектория имеет разрыв. Для того, чтобы исклю-чить такие «модификации» и вводится понятие сепарабельности, которое,упрощенно говоря, означает, что случайный процесс однозначно определяет-ся своими значениями на счетном всюду плотном множестве (детали можнонайти, например, в [17]).

Свойство 2. Сепарабельный винеровский процесс с вероятностью 1 нигдене дифференцируем.

Свойство 3. Длина траектории винеровского процесса с вероятностью 1бесконечна, а ее размерность Хаусдорфа равна 1.5 (см. [80]). Таким образом,реализации винеровского процесса являются фрактальными линиями. Приэтом винеровский процесс обладает свойством самоподобия: процесс 1√

cw(ct),

c > 0, имеет те же конечномерные распределения, что и процесс w(t).Заметим, что свойства наподобие 1–3, являющиеся необычными для де-

терминированных функций, достаточно типичны для случайных процессов!

Свойство 4. Обозначим через p(s, x, t, y) –– плотность распределения w(t)при условии w(s) = x Тогда

p(s, x, t, y) =1√

2π(t− s)exp

(− (y − x)2

2(t− s)

).

Эта плотность удовлетворяет дифференциальным уравнениям

−∂p

∂s=

1

2

∂2p

∂2x,

∂p

∂t=

1

2

∂2p

∂2y,

которые называются, соответственно, прямым и обратным уравнениями Кол-могорова.


Свойство 5. Обозначим через τa––момент первого достижения винеровскимпроцессом уровня a. Тогда плотность распределения случайной величины τaимеет вид

pτa(t) =a√2πt−3/2 exp

(−a2

2t

), t > 0.

Свойство 6. Пусть τ ––точка, где винеровский процесс w(t) достигает своегомаксимального значения на отрезке t ∈ [0, T ]. Тогда плотность распределениявеличины τ имеет вид

pτ(t) =1

π√

t(T − t), t ∈ [0, T ],

а соответствующая функция распределения запишется как

Fτ(t) =2

πarcsin

√t

T.

Свойство 7. Плотность максимального значения ξ = max{w(t), t ∈ [0, T ]}винеровского процесса w(t) на интервале [0, T ] имеет вид

pξ(x) =

√2

πTexp

(− x2

2T

), x ≥ 0

и

Mξ =

√2T

π.

Для совместной плотности распределения случайных величин ξ и w(T ) вы-полнено

p(ξ,w(T ))(x, w) =2(2x− w)

T√2πT

exp(− (2x− w)2

2T

), x ≥ 0, w ≤ x.

Совместное распределение точки максимума τ и самого максимума

ξ = maxt∈[0,T ]

w(t) = w(τ)

имеет плотность

p(τ,ξ)(t, x) =1

π√

t(T − t)

x

texp

(− x2

2t

), t ∈ [0, T ], x ≥ 0.

Свойства 4–7 представлены, например, в [56].Докажите следующее утверждение (см. приложение А).


Утверждение 2.1. Условное распределение значения винеровского процес-са w(c), c ∈ (a, b), при условии w(a) = wa, w(b) = wb не зависит от значенийw(t) при t < a, и t > b и является гауссовским со средним

b− c

b− awa +

c− a

b− awb (2.21)

и дисперсией(b− c)(c− a)

b− a. (2.22)

Отметим, что дисперсия условного распределения не зависит от значенийw(a), w(b).Предположим, что построена последовательность значений винеровского

процесса w(t1), w(t2), . . . , w(tn), t1 < t2 < . . . < tn. Тогда утверждение 2.1 поз-воляет моделировать дополнительное значение винеровского процесса w(c) влюбой промежуточной точке c ∈ (t1, tn). Для этого нужно найти значенияti−1, ti такие, что c ∈ (ti−1, ti) и воспользоваться формулами (2.21), (2.22).

Упражнение. Случайный процесс w(t)−tw(1), t ∈ [0, 1], называют броунов-ским мостом. Вычислите корреляционную функцию броуновского моста ипредложите алгоритмы его численного моделирования.

Что касается других алгоритмов численного моделирования винеровскогопроцесса, то укажем еще на методы, основанные на разложении в стохасти-ческие ряды, см. п. А.1.3 в [51].Отметим также, что пуассоновский и винеровский процессы имеют одну

и ту же корреляционную функцию, но характер их реализаций совершенноразличный (см. рис. 2.1).

Рис. 2.1. Реализации винеровского (слева) и центрированного пуассоновскогопроцесса (справа) с одинаковыми корреляционными функциями


По центральной предельной теореме конечномерные распределения про-цессов

1√N

N∑n=1

ξ0n(t), (2.23)

где ξ0n(t) –– независимые реализации центрированных пуассоновских процес-сов при N → ∞ сходятся к конечномерным распределениям винеровскогопроцесса. Поэтому, в принципе, формулу (2.23) можно использовать для при-ближенного моделирование винеровского процесса.

2.3. О классификации случайных процессов и методахмоделирования

Среди случайных процессов выделяют различные классы в зависимости отхарактерных свойств, которыми эти процессы обладают.Во-первых, отметим, что случайные функции могут быть гауссовские и

негауссовские. Казалось бы, класс гауссовских функций сравнительно беденсреди необъятного многообразия случайных функций. Однако гауссовскиераспределения и процессы занимают центральное место благодаря следую-щим замечательным свойствам. Конечномерные распределения гауссовскихфункций однозначно определяются первыми двумя моментами (математи-ческим ожиданием и корреляционной функцией), что делает теорию болеепростой. Гауссовские распределения обладают максимальной энтропией (об-разно говоря, максимальной случайностью и неопределенностью) среди рас-пределений с теми же первыми двумя моментами. Линейные преобразованиясохраняют гауссовость распределений. И, наконец, гауссовские распределе-ния возникают в центральной предельной теореме.Среди методов численного моделирования гауссовских функций можно

выделить два основных семейства. Это, во-первых, методы, основанные намоделировании независимых одинаково распределенных гауссовских величини последующим их линейном преобразовании. И, во-вторых, методы на основецентральной предельной теоремы: если имеется достаточно простой алгоритммоделирования случайного процесса ξ(t) с нулевым средним и некоторой кор-реляционной функцией, то процесс 1√

N

∑N

i=1 ξi(t), где ξi(t)––независимые реа-лизации ξ(t), является асимптотически гауссовским с той же корреляционнойфункцией. Примечательно, что в спектральных моделях, представленных вследующих главах, реализованы оба вышеописанных семейства методов.Для полного описания негауссовской случайной функции знания мате-

матического ожидания и корреляционной функции недостаточно. Требуетсядополнительная информация, которая позволила бы однозначно определить

2.3. Классификация процессов и методы моделирования 53

все конечномерные распределения и которая на практике бывает недоступна.Поэтому задача численного моделирования случайной функции в такой си-туации обычно ставится следующим образом: построить численную модельслучайной функции, у которой ряд характеристик совпадает или являетсядостаточно близким к требуемым. Среди характеристик случайной функции,которые часто сравнительно легко оценить, можно выделить математическоеожидание, корреляционную функцию и одномерные (т. е. одноточечные) рас-пределения. Именно в такой постановке, весьма распространенной на прак-тике, и рассматривается в следующих пунктах задача численного моделиро-вания негауссовских случайных функций. Основным методом решения этойзадачи является метод нелинейного преобразования гауссовской функции.При этом на промежуточном этапе для моделирования гауссовской функциимогут быть использованы спектральные методы.В теории случайных процессов выделяют также множество других клас-

сов случайных функций: марковские, с независимыми и стационарными при-ращениями, стационарные, изотропные (поля), периодически коррелируе-мые, описываемые стохастическими дифференциальными уравнениями и т. д.Наряду с методом нелинейного преобразования гауссовских функций, ко-торый является достаточно универсальным, известно множество специаль-ных методов, основанных, например, на численном решении стохастических,дифференциальных уравнений, моделировании случайных геометрическихструктур и т. д. (см. соответствующие примеры и список литературы в [51]).Далее нас будут интересовать стационарные случайные функции. Приве-

дем соответствующие определения.Случайный процесс x(t), t ∈ R, называют стационарным в узком смысле

(или сильно стационарным), если его конечномерные распределения совпада-ют с конечномерными распределениями процесса x(t+s), t ∈ R, для любого s.Случайный процесс является стационарным в широком смысле (или сла-

бо стационарным), если его математическое ожидание является константой,Mx(t) = const, а корреляционная функция Kx(t1, t2) = M[x(t1) − Mx(t1)][x(t2)−Mx(t2)] зависит лишь от разницы t2− t1. Корреляционную функциюстационарного процесса мы будем обозначать той же буквой, подразумеваятеперь Kx(s) = M[x(t)−Mx(t)][x(t+ s)−Mx(t+ s)].Очевидно, что в общем случае из сильной стационарности следует слабая,

а для гауссовских процессов оба определения эквивалентны.Свойства (2.12) запишутся в виде

(1) Kx(0) ≥ 0, (2.24)

(2) Kx(s) = Kx(−s), (2.25)


(3) |Kx(s)| ≤ Kx(0), (2.26)

(4) |Kx(t3 − t1)−Kx(t3 − t2)|2 ≤2Kx(0)[Kx(0)− ReKx(t2 − t1)]. (2.27)

Приведем еще одно свойство корреляционной функции стационарногопроцесса, которое было отмечено, в частности, в работах [54,55]:

Kx(0)− ReKx(jh) ≤ j2[Kx(0)− ReKx(h)

], j = 1, 2, . . . . (2.28)

Простое доказательство (2.28) было представлено А.И. Саханенко:

2Kx(0)− 2ReKx(jh) = ‖x(jh)− x(0)‖2 ≤[ j∑

k=1

‖x(kh)− x(kh− h)‖]2

=[j‖x(h)− x(0)‖]2 = j2

(2Kx(0)− 2ReKx(h)

),

где ‖x(t)− x(0)‖2 = M|x(t)− x(0)|2 = 2Kx(0)− 2ReKx(t).Для большей наглядности неравенство (2.28) перепишем в виде

ReKx(jh) ≥ Kx(0)− j2[Kx(0)− ReKx(h)

], j = 1, 2, . . . . (2.29)

Смысл этого неравенства для вещественных корреляционных функций со-стоит в следующем. Положим h > 0. Рассмотрим график произвольной ве-щественной корреляционной функции Kx(t) и параболу, проходящую черезточки (0, Kx(0)), (h,Kx(h)), (−h,Kx(h)). Тогда точки (jh,Kx(jh)) для любо-го целого j расположены не ниже этой параболы, рис. 2.2.

Рис. 2.2. Иллюстрация свойства (2.28), (2.29) для корреляционной функцииKx(t) = cos(At), A = 2π + 0.2 и h = 1: cos(Aj) ≥ 1− j2[1− cos(A)]

2.4. Маргинальные распределения и ковариации 55

Аналогичным образом можно доказать, что для произвольной корреля-ционной функции стационарного процесса выполнено

2Kx(0)− 2ReKx(h) + ReKx

((j − 1)h

)− 2ReKx(jh) + ReKx

((j + 1)h

)≤ j2

[3Kx(0)− 4ReKx(h) + ReKx(2h)

], j = 1, 2, . . . . (2.30)

Упражнение. Докажите (2.30), пользуясь равенством

j∑k=1

[x((k + 1)h

)− 2x(kh) + x((k − 1)h

)]= x

((j + 1)h

)− x(jh)− x(h) + x(0).

Дайте свою интерпретацию свойства (2.30). Заметим, что (2.30) можнопереписать в виде

ReKx

((j − 1)h

)− 2ReKx(jh) + ReKx

((j + 1)h

)≤ 2j2

[Kx(0)− 2ReKx(h) + ReKx(2h)

]− (2.31)

2[Kx(0)− ReKx(h)

]+ j2

[Kx(0)− ReKx(2h)

], j = 1, 2, . . . .

В качестве примера стационарного негауссовского процесса приведем гра-фик солнечной активности. На рис. 2.3 представлены значения среднемесяч-ных чисел Вольфа, характеризующих солнечную активность за период с ян-варя 1749 г. по июнь 2012 г., а также оценка нормированной корреляцион-ной функции и вид гистограммы одномерного распределения рассматривае-мой случайной функции. Обратите внимание, что максимумы корреляцион-ной функции соответствуют периодам солнечной активности, приблизитель-но равным 11 и 112 лет.Свойство, аналогичное стационарности для случайных полей, называют

однородностью. В следующих главах мы перейдем к изучению численныхспектральных моделей стационарных процессов и однородных полей.

2.4. Маргинальные распределения и ковариациислучайных процессов и полей

В заключение этой главы мы кратко представим результаты, касающиесяметода нелинейных преобразований гауссовских случайных функций (он жеметод обратной функции распределения) и совместимости ковариаций и од-номерных распределений случайного процесса. Для более детального изуче-ния этого материала см. [51].


Рис. 2.3. Случайная последовательность среднемесячных чисел Вольфа (вверху), харак-теризующих солнечную активность за период с января 1749 г. по июнь 2012 г., гистограмма(внизу слева) и оценка нормированной корреляционной функции (внизу справа) случай-ной последовательности

2.4.1. Условия совместимости ковариаций и маргинальныхраспределений

При решении прикладных задач методом Монте-Карло часто возникает необ-ходимость моделировать случайные процессы с заданными функциями одно-мерных распределений Ft и ковариациями r(t, s). (Ниже одномерные рас-пределения случайного процесса мы часто будем называть маргинальными.)Для того чтобы такой процесс существовал, функции Ft и r(t, s) должныудовлетворять некоторым условиям «совместимости». Известны следующиенеобходимые условия совместимости.

Утверждение 2.2. Рассмотрим вещественный случайный процесс x(t). Ес-ли Ft(x) –– функции одномерных распределений процесса x(t), то для кова-риационной функции

r(t, s) = Mx(t)x(s)

выполненоr(t, s) ∈ [AFtFs

, BFtFs

],


где

AFG =

1∫0

F−1(α)G−1(1− α) dα, BFG =

1∫0

F−1(α)G−1(α) dα.

Под обратной функцией распределения понимается

F−1(α) = inf{x : F (x) > α

}.

Замечание 2.4. Если ковариация r(t, s) принимает максимальное значениеBFG, то двумерное распределение случайного вектора (x(t), x(s)) сосредото-чено на монотонно неубывающей кривой. Это можно доказать методом «отпротивного»: если двумерное распределение не сосредоточено на монотоннонеубывающей кривой, то легко построить преобразование двумерного рас-пределения, которое сохраняет маргинальные распределения и увеличива-ет ковариацию (постройте такое преобразование). Аналогично, минимальнаяковариация r(t, s) = AFtFs

соответствует двумерному распределению (x(t),x(s)), сосредоточенному на монотонно невозрастающей кривой.

Следствие 2.1. Для стационарного процесса x(t) с нулевым средним, еди-ничной дисперсией, функцией одномерного распределения F и корреляцион-ной функцией r(t) выполнено

r(t) ∈ [AFF , 1], (2.32)

при этом AFF = −1 только для симметричных распределений.

Упражнение. Покажите, что для нормированной корреляционной функ-ции

r(t) = Mx(t+ s)x(s)/Dx(s)

стационарного процесса x(t) с экспоненциальным одномерным распределени-ем необходимо условие r(t) ≥ 1− π2/6 ≈ −0.645.

Если для стационарной в узком смысле последовательности xm известныn-мерные распределения P(xm+1 < a1, . . . , xm+n < an), то наряду с условием(2.32) для корреляций r(k) = Mxm+kxm при k ∈ [n, 2n− 2] можно получитьболее сильные ограничения.

Утверждение 2.3. Рассмотрим случайный вектор (x, y, z), где x и y –– слу-чайные величины, а z –– случайный вектор. Допустим, заданы совместныераспределения векторов (x, z) и (z, y). Докажите, что множество всех допу-стимых ковариаций r = Mxy представляет собой отрезок r ∈ [r∗, r∗], где


r∗ =∫r∗(z)dH(z), r∗(z) =

1∫0

F−1z (α)G−1

z (1− α)dα,

r∗ =∫r∗(z)dH(z), r∗(z) =

1∫0

F−1z (α)G−1

z (α)dα,

H(z)–– функция распределения случайного вектора z, а Fz и Gz –– условныефункции распределения случайных величин x и y, соответственно, при фик-сированном z.

Упражнение 1. Пусть стационарная последовательность xn имеет двумер-ное распределение, равномерное в области{

(xn, xn+1) : xn ∈ [0, 1], xn+1 ∈ [0, (1− xn)2]}.

Покажите, что нормированная корреляционная функция r(n) случайной по-следовательности xn должна удовлетворять требованиям

r(2) ∈ [0.238, 1], r(k) ∈ [−0.472, 1], k ≥ 3.

Проверьте, что r(1) = 1/3. Убедитесь, что для гауссовской стационарнойпоследовательности с нормированной корреляционной функцией r(n) такой,что r(1) = 1/3, множество допустимых значений для r(2) значительно шире:r(2) ∈ [−0.778, 1].

2. Докажите, что необходимыми и достаточными условиями существованиятрехмерного случайного вектора (x1, x2, x3) такого, что

P(xj = a1) = p, P(xj = a2) = 1− p = q, j = 1, 2, 3,

с нормированной корреляционной матрицей⎡⎣ 1 a ba 1 cb c 1

⎤⎦ ,

являются условия

a, b ∈ [−q/p, 1],

c ∈[max

(−q

p, a+ b− 1, 3− 1

qp− (a+ b)

), 1− |a− b|

]


(здесь подразумевается, что q ≤ p). Покажите, что эти условия более силь-ные, чем просто требование положительной определенности нормированнойкорреляционной матрицы и условия существования соответствующих дву-мерных распределений. В частности, рассмотрите случай p = q = 1/2, когданеобходимые и достаточные условия существования трехмерного случайноговектора имеют вид

a, b ∈ [−1, 1], c ∈ [− 1 + |a+ b|, 1− |a− b|].Проверьте, что при a = b условия положительной определенности нормиро-ванной корреляционной матрицы имеют вид

a = b ∈ [−1, 1], c ∈ [−1 + 2a2, 1],

а необходимые и достаточные условия существования случайного вектора(x1, x2, x3) при p = q = 1/2 и a = b более жесткие:

a = b ∈ [−1, 1], c ∈ [−1 + 2|a|, 1].

2.4.2. Одномерные распределения стационарных случайныхпроцессов, которые не накладывают ограниченийна возможные корреляции процесса

Опишем класс всех одномерных распределений, которые могут быть марги-нальными распределениями непрерывных стационарных процессов с произ-вольной корреляционной функцией. В дальнейшем этот класс распределенийбудем обозначать через W , рассматривая для простоты лишь распределенияс нулевым средним и единичной дисперсией. Таким образом, распределениеF принадлежит классуW в том и только том случае, когда для произвольнойнепрерывной неотрицательно определенной функции r(t), r(0) = 1, найдетсястационарный процесс x(t) с одномерным распределением F такой, что

Mx(t) = 0, Mx(t)x(0) = r(t).

КлассW непустой, так как содержит гауссовское распределение. Из след-ствия утверждения 2.2 вытекает, что классW содержит лишь симметричныераспределения. Однако не всякое симметричное распределение принадлежитклассу W .

Примечание. Далее функции распределения будем обозначать теми жепрописными буквами, что и сами распределения, а плотности распределе-ния, если они существуют, соответствующими строчными буквами: dF (x) =F (dx) = f(x)dx.


Утверждение 2.4. Распределение F с нулевым средним и единичной дис-персией принадлежит классу W тогда и только тогда, когда выполнено одноиз следующих двух эквивалентных условий:

1) функция распределения F удовлетворяет соотношению

F (x) =1

2+ π−1

π/2∫0

G

(x

sin θ

)dθ, (2.33)

F (−x) = 1− F (x), x > 0,

где G –– функция некоторого вероятностного распределения на [0,∞); приэтом распределение F является смесью дискретного распределения, сосредо-точенного в нуле с весом G{0}, и абсолютно непрерывного распределения сплотностью

f(x) = π−1

∞∫|x|(z2 − x2)−1/2 dG(z); (2.34)

2) характеристическая функция распределения F имеет вид

ϕ(u) =

∞∫0

J0(zu) dG(z), (2.35)

где J0 –– функция Бесселя первого рода.Наряду с представлением (2.33) выполнено

F (x) = 1/2 +G(x)/2 + π−1∫

[x,+∞)

arcsin(x/z) dG(z), x > 0,

F (x) = P(ξ < x), G(z) = P(ρ < z).

Замечание 2.5. (1) Из формулы (2.34) следует, что если f(a) = 0, a ≥ 0,то f(b) = 0 для всех b > a. В частности, необходимо f(0) > 0.

(2) Класс характеристических функций (2.35) совпадает с классом всехкорреляционных функций однородных изотропных полей на плоскости.

(3) Стационарный процесс с произвольной спектральной мерой μ и мар-гинальным распределением F из класса W можно моделировать по формуле


x(t) = ρ cos(λt− ϕ), (2.36)

где ρ, λ, ϕ–– независимые случайные величины: ρ–– с распределением G; λ –с распределением μ; ϕ–– с равномерным распределением на (0, 2π).

(4) Утверждение 2.4, сформулированное для стационарных процессов, безизменения переносится на однородные случайные поля. Класс всех марги-нальных распределений, не накладывающих ограничения на корреляцион-ную функцию однородного поля, совпадает с классом W и не зависит отразмерности параметра t. Формула (2.36) для поля примет вид

x(t) = ρ cos(〈λ, t〉 − ϕ

), t, λ ∈ R

k, 〈λ, t〉 =k∑

j=1

λjtj. (2.37)

Приведем соотношения, позволяющие определять распределение G помаргинальному распределению F :

1−G(z) = 2z

π/2∫0

f(z/ sin θ) sin−2(θ) dθ,

g(z) = 2z

[(R2 − z2)−1/2f(R) +

R∫z

−f ′(x)(x2 − z2)−1/2dx

],

где f(x) > 0 при x ∈ (−R,R) и f(x) = 0 при |x| > R.На практике для определения G по F и наоборот удобно использовать

метод характеристических функций:

ϕ(u) = 2

∞∫0

f(x) cos(ux) dx =

∞∫0

J0(uz)g(z) dz,

f(x) = π−1

∞∫0

ϕ(u) cos(ux) du,

g(z) = z

∞∫0

uJ0(uz)ϕ(u) du.

В табл. 2.1 представлен ряд примеров распределений из класса W .

Упражнения. 1) Попытайтесь описать класс всех корреляционных функ-ций, для которых можно построить вещественный стационарный случайный


процесс с произвольным маргинальным (одномерным) распределением с ко-нечным вторым моментом. Нетрудно доказать, что этот класс корреляцион-ных функций содержит только неотрицательные функции, а также все функ-ции класса Пойа (четные, выпуклые на положительной полуоси функции, мо-нотонно убывающие к нулю на бесконечности). Однако может оказаться, чтоискомый класс корреляционных функций содержит и невыпуклые функции.2) Разработайте критерии, которые по заданным корреляциям и одномер-

ным распределениям позволяют говорить о возможности или невозможностипостроения случайного вектора (процесса, стационарного процесса) с этимикорреляциями и одномерными распределениями в качестве маргинальных.3) Предложите способы построения случайных векторов (процессов) по

заданным одномерным распределениям и корреляциям. Попробуйте «скон-струировать» многомерное распределение по заданным корреляциям и од-номерным маргинальным распределениям при дополнительном требованиимаксимальности энтропии многомерного распределения.4) Предположим, что функция двумерного распределения вероятностей

имеет вид

G(x, y) = G1(x)G2(y)[1 + ρ

(1−G1(x)

)(1−G2(y)

)],

где G1 и G2 –– некоторые функции распределения. Что можно сказать об од-номерных распределениях и коэффициенте корреляции в этом случае?5) Предположим, что плотность вероятностей двумерного распределения

имеет вид

g(x, y) = g1(x)g2(y)[1 + f(G1(x), G2(y))

],

где Gi –– функции распределения, соответствующие плотностям gi. Какимусловиям должна удовлетворять функция f , чтобы маргинальные распре-деления имели плотности g1 и g2?6) Покажите, что случайный вектор (x, y) с заданными функциями мар-

гинальных распределений F и G и произвольной допустимой корреляци-ей (см. утверждение 2.2) можно построить с помощью преобразования y =G−1(ϕ(F (x))), где отображение ϕ сохраняет равномерное распределение. Рас-смотрите функции ϕ вида

ϕ(α) =

{α + 1− c при α ∈ [0, c),

1− α при α ∈ [c, 1].


Таблица 2.1. Примеры распределений из класса W

f(x), x > 0 ϕ(t), t > 0 g(z), z > 0

1

π√a2 − x2

, x < a J0(at) δ(a− z)

1

2a, x < a

sin(at)

at

z

a√a2 − z2

, z < a

2

πa2

√a2 − x2, x < a 2

J1(at)

at

2

a2 z, z < a

3

4a3 (a2 − x2), x < a 3

sin(at)− at cos(at)

(at)33

a3 z√a2 − x2, z < a

C(a2 − x2)ν−1/2, x < a 2νΓ(ν + 1)Jν(at)

(at)ν2ν

a2ν z(a2 − z2)ν−1, z < a

C =Γ(ν + 1)√

πa2νΓ(ν + 1/2), ν > 0,

C(a2 + x2)−ν−1/2, ν > 02−ν+1

Γ(ν)(at)νKν(at) 2νa2νz(z2 + a2)−ν−1

C =a2νΓ(ν + 1/2)√

πΓ(ν)

a

π(a2 + x2)exp(−at) az(z2 + a2)−3/2

a

πK0(ax)

a√a2 + t2

a exp(−az)

a

2exp(−ax)

a2

a2 + t2a2zK0(az)

a

2exp(−ax)

a2

a2 + t2a2zK0(az)

a

π(ax)K1(ax)

a3

(a2 + t2)3/2a(az) exp(−az)

a

4exp(−ax)(1 + ax)

a4

(a2 + t2)2a

2(az)2K1(az)

a

3π(ax)2K2(ax)

a5

(a2 + t2)5/2a

3(az)e−az(1 + az)

C(ax)νKν(ax), ν>−1

4

a2ν+1

(a2 + t2)ν+1/2

a√2(az)ν+1/2

Γ(ν + 1/2)2νKν−1/2(az)

C =a

2ν√πΓ(ν + 1/2)

1

a2 (a− x), x < a2

a2t2(1− cos(at))

2z

a2 arch(a/z), z < a√a/π exp(−ax2) exp

(− t2

4a

)2az exp(−az2)

√a

π3/2exp

(−ax2

4

)K0

(ax2

2

)exp

(− t2

8a

)I0

(t2

8a

)2√

a/π exp(−az2)

Примечание. Функцию ϕ(t) в табл. 2.1 можно интерпретировать какнормированную корреляционную функцию однородного изотропного случай-ного поля на плоскости. В этом случае функция g(z) соответствует «ради-альной» спектральной плотности, а двумерной спектральной плотности со-ответствует функция p(x, y) = (2π)−1(x2 + y2)−1/2 × g

((x2 + y2)1/2

).


2.5. Метод обратной функции распределения длямоделирования негауссовских процессов

Метод обратной функции распределения, или метод нелинейного преобразо-вания гауссовского процесса, был предложен в работе [48]. С помощью этогометода часто удается построить модель случайного процесса с требуемымимаргинальными распределениями и ковариациями. Пусть z(t)–– стандартный(Mz(t) = 0, Dz(t) = 1) гауссовский процесс с корреляционной функциейρ(t, s). Тогда случайный процесс с маргинальными распределениями Ft мо-делируется по формуле

x(t) = F−1t

(Φ(z(t)

)), (2.38)

где Φ––функция стандартного нормального распределения. Ковариационнаяфункция r(t, s) процесса x(t) имеет вид

r(t, s) = RFtFs

(ρ(t, s)

),

RFG(ρ) =

+∞∫−∞

+∞∫−∞

F−1(Φ(ξ)

)G−1

(Φ(η)

)ϕρ(ξ, η) dξ dη, (2.39)

где

ϕρ(ξ, η) =

[2π√

1− ρ2 exp(ξ2 + η2 − 2ρξη

2(1− ρ2)

)]−1

–– плотность двумерного гауссовского вектора с нулевым математическиможиданием, единичной дисперсией компонент и коэффициентом корреляциимежду компонентами ρ. Таким образом, метод сводится к вычислению функ-ции

ρ(t, s) = R−1FtFs

(r(t, s)

), (2.40)

моделированию гауссовского процесса с этой корреляционной функцией изатем к преобразованию (2.38).При численном обращении функции RFG приходится многократно вычис-

лять интеграл (2.39). При этом полезно иметь в виду, что

RFG(ρ) = σFσGRF G(ρ) +mFmG,

где mF , mG, σ2F , σ

2G –– средние и дисперсии распределений F и G, а F , G ––

соответствующие функции распределений с нулевым средним и единичнойдисперсией:

F (x) = F (σFx+mF ), G(x) = G(σGx+mG).

Кроме того, отметим, что интеграл (2.39) с помощью замены

2.5. Метод обратной функции распределения 65

ξ =[(1 + ρ)/2

]1/2α +

[(1− ρ)/2

]1/2β,

η =[(1 + ρ)/2

]1/2α− [

(1− ρ)/2]1/2

β

приводится к виду

RFG(ρ) =1

2π

+∞∫−∞

+∞∫−∞

F−1(Φ(ξ)

)G−1

(Φ(η)

)exp

(− α2 + β2

2

)dα dβ.

Утверждение 2.5. Пусть F и G –– непрерывные функции распределенияслучайных величин с конечной дисперсией. Тогда:

1) RFG(−1) = AFG, RFG(1) = BFG, RFG(0) = 0,

AFG=

1∫0

F−1(α)G−1(1− α)dα, BFG=

1∫0

F−1(α)G−1(α)dα;

2) RFG(ρ) непрерывна на [−1, 1];

3) RFG(ρ) бесконечно дифференцируема на (−1, 1);

4) RFG(ρ) монотонно возрастает;

5) если F или G–– симметричное распределение, то

RFG(−ρ) = −RFG(ρ);

6) имеет место неравенство

|RFG(ρ)| ≤ 1

2

[RFF (|ρ|) +RGG(|ρ|)

].

Можно предположить, что лемма 2.5 остается справедливой и без требо-вания непрерывности функций распределения F и G.Метод обратной функции распределения позволяет моделировать процесс

с маргинальными распределениями Ft и ковариациями r(t, s) в том и толькотом случае, если выполнены условия:

А. r(t, s) ∈ [AFtFs

, BFtFs

](функция R−1

FtFSне определена вне этого интер-

вала).

Б. Функция ρ(t, s) из (3.11) является неотрицательно определенной.

Как следует из утверждения 2.2, ограничение А является обязательнымусловием согласованности с маргинальными распределениями (т. е. необходи-мым условием существования случайного процесса x(t)). Если же условие Б


не выполнено, то моделирование данным методом невозможно, а вопрос осуществовании других моделей остается открытым.Метод обратной функции распределения часто используется для моде-

лирования стационарных процессов и однородных полей (Ft=F , r(t, s) =r(t − s)). Предположим, что маргинальное распределение F имеет нулевоесреднее и единичную дисперсию. В этом случае полезно иметь в виду следу-ющие свойства:

а) RFF (1) = 1, RFF (−1) ≥ −1 (равенство RFF (−1) = −1 достигаетсятолько для симметричных распределений);

б) |RFF (ρ)| ≤ |ρ|;в) при ρ ≥ 0 функция RFF (ρ) выпукла вниз.

Свойства б) и в) были доказаны А.С.Марченко.Известно, что методом обратной функции распределения нельзя моде-

лировать стационарные процессы с треугольной корреляционной функциейи одномерным распределением, отличным от гауссовского. Метод обратнойфункции распределения позволяет моделировать стационарные процессы сэкспоненциальной корреляционной функцией и любым из следующих одно-мерных распределений: равномерным, логнормальным, арксинуса, распреде-лениями Джонсона.Метод нелинейного преобразования гауссовской функции может быть ис-

пользован для моделирования векторных случайных процессов и полей. Рас-смотрим стандартный стационарный гауссовский n-мерный процесс z(t) сматричной корреляционной функцией ρ(t, s):

Mz(t) = 0, Mz(t)zT (t) = I,

Mz(t)zT (s) = ρ(t, s).

Здесь I ––единичная n×n-матрица. Векторныйm-мерный (m ≤ n) случайныйпроцесс моделируется по формуле

x(t) = Vt(z(t)),

где Vt–– семейство нелинейных преобразований пространства Rn в Rm. Преоб-разования Vt и корреляционная функция ρ(t, s) подбираются таким образом,чтобы векторный процесс x(t) имел требуемые маргинальные распределенияи ковариации.Приведем несколько примеров для однородных случайных функций. Бу-

дем использовать обозначения:


z(t) – гауссовская однородная функция с нулевым средним, единичной дис-персией и корреляционной функцией ρ(t, s);

Φ – функция стандартного нормального распределения;

x(t) = V (z(t)) – моделируемый однородный процесс с ковариационной функ-цией r(t, s) и одномерным распределением F , f –– плотность распреде-ления F ;

RV (ρ) – изменение корреляций гауссовской функции при нелинейном преоб-разовании V :

r(t, s) = RV

(ρ(t, s)

),

RV (ρ) =(RV (ρ)−m2

F

)/σ2

F , RV (ρ) = σ2F RV (ρ) +m2

F .

Здесь mF –– математическое ожидание, а σ2F –– дисперсия распределе-

ния F .

Пример 2.3.

V (z) =

{a, z > 0,

b, z ≤ 0,

mF =a+ b

2, σ2

F =(a− b)2

4,

RV (ρ) =(a+ b)2

4+

(a− b)2

2πarcsin(ρ),

RV (ρ) =2

πarcsin(ρ), R−1

V (r) = sin

(π

2r

).

Пример 2.4 (равномерное распределение).

V (z) = 2a[Φ(z)− 1/2],

f(x) =

{1

2a, x ∈ (−a, a),

0, x /∈ (−a, a),σ2F =

a2

3,

RV (ρ) =2a2

πarcsin

(ρ

2

), R−1

V (r) = 2 sin

(π

2a2r

),

RV (ρ) =6

πarcsin

(ρ

2

), R−1

V (r) = 2 sin

(π

6r

).


Пример 2.5 (логнормальное распределение).

V (z) = eσz+m,

f(x) =1√2πσx

e−(ln x−m)2

2σ2 , x > 0,

mF = exp(σ2/2 +m),

σ2F = exp(σ2 + 2m)(exp(σ2)− 1),

RV (ρ) =exp(σ2ρ)− 1

exp(σ2)− 1,

R−1V (r) = σ−2 ln

[1 +

(exp(σ2)− 1

)r].

Пример 2.6.

V (z) = ln |z|, RV (ρ) = m2F +

1

2arcsin2(ρ).

Пример 2.7.

V (z) = c|z|, RV (ρ) =2c2

π

[ρ arcsin ρ+

√1− ρ2

].

Пример 2.8.

V (z) = cz2, RV (ρ) = c2[1 + 2ρ2].

Пример 2.9.

V (z) = cz4, RV (ρ) = 72c2(ρ2 +

ρ4

3

).

Пример 2.10.

V (z) =1

a√2πγ

z∫0

e− x2

2γ2 dx,

RV (ρ) =1

2πa2arcsin

(ρ

1 + γ2

).


Пример 2.11 (распределение арксинуса).

V (z) = sin(σz), RV (ρ) = e−σ2

sh(σ2ρ),

RV (ρ) =sh σ2ρ

sh σ2, R−1

V (r) = σ−2 arcsh[(sh σ2)r

].

При σ → ∞ распределение F стремится к распределению арксинуса.

В следующих двух примерах z1(t) и z2(t)–– независимые однородные гаус-совские функции с нулевым средним, единичной дисперсией и корреляцион-ной функцией ρ(t, s). Процесс x(t) моделируется по формуле

x(t) = V(z1(t), z2(t)

).

Пример 2.12 (распределение Рэлея).

V (z1, z2) = δ√z21 + z22, f(x) =

x

δ2exp

(− x2

2δ2

),

mF =√

π

2δ, σ2

F =

(2− π

2

)δ2,

RV (ρ) =π

2δ2(1 +

4− π

πRV (ρ)

)=

π

2δ2(1 +

(1

2

)2

ρ2 +

(1

2 ∗ 4

)2

ρ4 +

(1 ∗ 3

2 ∗ 4 ∗ 6

)2

ρ6 + . . .

)= δ2

[2E(ρ)− (1− ρ2)K(ρ)

],

где E и K –– полные эллиптические интегралы первого и второго рода.

Пример 2.13 (экспоненциальное распределение).

V (z1, z2) = δ2(z21 + z22), f(x) =1

2δexp

(− x

2δ2

),

mF = 2δ2, σ2F = 4δ4,

RV (ρ) = 4δ4(1 + RV (ρ)

)= 4δ4(1 + ρ2),

RV (ρ) = ρ2, R−1V (r) =

√r.

Глава 3

Спектральные модели гауссовскихстационарных процессов и однородных полей

В этой главе изучаются алгоритмы численного моделирования стационар-ных случайных процессов и однородных полей, построенные на основе спек-трального разложения. Здесь рассматриваются общие принципы построенияспектральных моделей и конкретные реализации алгоритмов для различныхклассов случайных полей, приводятся алгоритмы уточнения спектральныхмоделей на одном вероятностном пространстве и условные спектральные мо-дели.

3.1. Спектральные представления стационарныхпроцессов

Рассмотрим случайный стационарный в широком смысле комплекснознач-ный процесс x(t) с нулевым средним и непрерывной корреляционной функ-цией

R(s) = Mx(t+ s)x(t).

Непрерывность стационарного процесса в среднем квадратичном (т. е. понорме ‖x‖2 = Mxx) равносильна непрерывности R(s) в нуле, при этом R(s)является непрерывной на всей вещественной оси.Для дифференцируемости процесса в среднеквадратическом необходимо

и достаточно существование второй производной его корреляционной функ-ции. В частности, для вещественного процесса имеем

Rx′(s) = Mx′(t)x′(t+ s) = −R′′(s).

Отметим, что значение производной стационарного вещественного процессане коррелирует со значением процесса, если значения процесса и его произ-водной берутся в одной и той же точке:

Mx′(t+ s)x(t)∣∣∣s=0

=∂R(s)

∂s

∣∣∣s=0

= 0.

Более того,

70

3.1. Спектральные представления стационарных процессов 71

Mx(m)(s)x(n)(t) = (−1)m∂m+nR(τ)

∂τm+n

∣∣∣τ=(t−s)

и значения производных порядка m и n, взятые в одной и той же точке, некоррелируют,

Mx(m)(s)x(n)(s) = 0,

если (m+n) нечетно и функция R(m+n+1) непрерывна (достаточно непрерыв-ности в нуле).

Теорема Бохнера–Хинчина утверждает, что для всякой непрерывной кор-реляционной функции R(s) найдется единственная мера μ(dλ) = dF (λ) навещественной оси такая, что

R(t) =

+∞∫−∞

exp(itλ) dF (λ). (3.1)

Меру μ и функцию F называют спектральными. Обратное соотношение име-ет вид (см., например, [56,58])

μ(Δ) = limT→∞

1

2π

T∫−T

e−ibt − e−iat

−itR(t) dt.

Если мера μ абсолютно непрерывна (относительно меры Лебега), то

F (λ) =

λ∫−∞

f(ω) dω

и f называется спектральной плотностью процесса. В частности, спек-тральная плотность существует, если

+∞∫−∞

∣∣R(t)∣∣ dt < ∞,

при этом

f(λ) = (2π)−1

+∞∫−∞

exp(−itλ)R(t) dt (3.2)

и спектральная плотность f(λ) является непрерывной и ограниченной.Для неотрицательной корреляционной функции R(t) ≥ 0 существование

ограниченной спектральной плотности влечет интегрируемость корреляци-онной функции (а значит, и непрерывность спектральной плотности).В общем случае, если спектральная плотность существует, то она опреде-

ляется как предел функций

72 3. Спектральные модели

fε(λ) =1

2π

+∞∫−∞

exp(−iλt)R(t)e−ε|t|dt

при ε → 0 или через интеграл (3.2), который понимается в смысле главногозначения. При этом для существования спектральной плотности необходимо|R(t)| → 0 при |t| → ∞.Критерий дифференцируемости стационарного процесса в среднеквадра-

тическом можно сформулировать в терминах спектральных моментов, таккак спектральная мера производной y(t) = x(m)(t) определяется соотношени-ем

dFy(λ) = λ2mdF (λ)

и

Dy(t) = (−1)mR(2m)(0) =

+∞∫−∞

λ2mdF (λ).

Таким образом, дифференцируемость порядка m в среднеквадратическомстационарного процесса x(t) равносильна существованию производной по-рядка 2m его корреляционной функции, что, в свою очередь, эквивалентноограниченности спектрального момента

∫ +∞−∞ λ2mdF (λ) < +∞.

Если спектральная мера процесса сосредоточена на ограниченном интер-вале [−A,A], то стационарный процесс однозначно определяется своими зна-чениями в точках nπ/A, n = 0, 1, 2, . . ., по формуле Котельникова–Шеннона(см., например, [16], гл. 4, § 5):

x(t) =+∞∑

n=−∞

sin(At− πn)

At− πnx(πn/A).

Стационарный процесс x(t) (с нулевым средним) называют эргодичным,если существует среднеквадратический предел

limT→∞

T−1

T∫0

x(t) dt = 0. (3.3)

Критерием эргодичности является равенство

limT→∞

T−1

T∫0

R(s) ds = μ({0}) = 0,

которое означает непрерывность спектральной функции в нуле. УсловиеR(s) → 0 при s → ∞ является достаточным для эргодичности.

3.1. Спектральные представления стационарных процессов 73

Если

T−2

T∫0

T∫0

R(s− u) du ds = T−1

T∫−T

R(s)(1− |s|/T ) ds ≤ KT−α

при некоторых K > 0, α > 0, то в (3.3) имеет место сходимость с вероятно-стью единица (см. [35], п. 11.5).Спектральному представлению корреляционной функции (3.1) соответ-

ствует спектральное представление самого (комплекснозначого) случайногопроцесса

x(t) =

+∞∫−∞

exp(itλ)dz(λ), (3.4)

где z(λ) –– комплексный случайный процесс с ортогональными приращения-ми,Mz(λ) = 0,M|dz(λ)|2 = dF (λ) = μ(dλ). Обратное соотношение запишет-ся в виде

z(b)− z(a) = limT→∞

1

2π

T∫−T

e−ibt − eiat

−itx(t) dt,

если−∞ ≤ a < b ≤ +∞, μ

({a}) = μ({b}) = 0.

Комплексную случайную функцию ζ([a, b)) = z(b) − z(a) называют сто-хастической спектральной мерой процесса x(t). Она обладает свойствами:

1) Mζ(A) = 0;2) если A ∩B = ∅, то ζ(A+B) = ζ(A) + ζ(B);3) Mζ(A)ζ(B) = μ(A ∩B), где A, B – измеримые подмножества Rk.

Из свойства 3 следует, что если A ∩B = ∅, тоMζ(A)ζ(B) = 0. (3.5)

Для того чтобы процесс x(t) был вещественным, необходимо и достаточноζ(A) = ζ(−A) для всех измеримых A, при этом μ(A) = μ(−A). Спектраль-ные представления вещественного случайного процесса и его корреляционнойфункции имеют вид

x(t) =∫ +∞

0cos(tλ)ξ(dλ) +

∫ +∞

0sin(tλ)η(dλ), (3.6)


R(x) =∫ +∞

0cos(tλ)ν(dλ). (3.7)

Здесь ξ(dλ), η(dλ) –– вещественные ортогональные стохастические меры наполуоси [0,+∞), ν(dλ) = 2μ(dλ), ξ(dλ) = 2Re ζ(dλ), η(dλ) = −2 Im ζ(dλ).При этом выполнено:

1) Mξ(A) = Mη(A) = 0;

2) Mξ(A)η(B) = 0;

3) Mξ2(A) = Mη2(A) = μ(A);

4) если A ∩B = ∅, тоMξ(A)ξ(B) = Mη(A)η(B) = 0,

ξ(A+B) = ξ(A) + ξ(B),

η(A+B) = η(A) + η(B),

где через A, B обозначены измеримые подмножества на полуоси [0,+∞).Стохастические меры ξ, η и меру ν также будем называть спектральными.

Замечание 3.1. Предположим, что x(t)–– комплексный стационарный слу-чайный процесс с нулевым средним, корреляционной функцией R(t) =Mx(s+t)x(s), спектральной плотностью f(λ) и стохастической спектральноймерой dw(λ):

x(t) =

+∞∫−∞

exp(itλ)dw(λ), R(t) =

+∞∫−∞

exp(itλ)f(λ)dλ,

M|dw(λ)|2 = f(λ) dλ, f(λ) = (2π)−1

+∞∫−∞

exp(−itλ)R(t) dt.

Рассмотрим случайную последовательность

xn = x(n).

Последовательность xn будет стационарной с корреляционной функцией

Rn = Mxm+nxm = R(n), n = 0,±1,±2, . . . ,

и спектральной плотностью

f1(λ) = (2π)−1+∞∑

n=−∞exp(−iλn)Rn, λ ∈ [−π, π).

Спектральные разложения для стационарной последовательности и ее кор-реляционной функции имеют вид

3.2. Основные принципы построения спектральных моделей 75

xn =

+π∫−π

exp(iλn) dw1(λ), M|dw1(λ)|2 = f1(λ)dλ,

Rn =

+π∫−π

exp(iλn)f1(λ) dλ, n = 0,±1,±2, . . . .

Спектральные плотности и стохастические спектральные меры стационарно-го процесса x(t) и последовательности xn = x(n) связаны соотношениями

f1(λ) =+∞∑

k=−∞f(λ+ 2kπ), λ ∈ [−π, π), (3.8)

dw1(λ) =+∞∑

k=−∞dw(λ+ 2kπ), λ ∈ [−π, π).

Формула (3.8) является двойственной для формулы суммирования Пуассона

+∞∑k=−∞

R(t+ 2kπ) =+∞∑

n=−∞exp(itn)f(n).

Более подробно о соответствии стационарных случайных функций дис-кретного и непрерывного аргумента см., например, [51].

3.2. Основные принципы построения спектральныхмоделей стационарных процессов

Основная идея, лежащая в основе методов построения спектральных моде-лей, состоит в том, чтобы в качестве численной модели случайного процессаx(t) взять некоторую аппроксимацию стохастического интеграла (3.6). Далеемы будем предполагать, что стационарный процесс x(t) является гауссов-ским.Простейшую спектральную модель можно построить следующим обра-

зом. Зафиксируем некоторое разбиение «спектрального пространства» P =[0,+∞):

P =n∑

j=1

Qj, Qj ∩Qi = ∅ при i �= j.

В качестве аппроксимации для (3.6) рассмотрим


xn(t) =n∑

j=1

μ1/2(Qj)[ξj cos(λjt) + ηj sin(λjt)

]. (3.9)

Здесь ξj, ηj –– независимые гауссовские величины,

Mξj = Mηj = Mξjηk = 0, Mξ2j = Mη2j = 1,

а векторы λj ∈ P принадлежат соответствующим множествам разбиения Qj.Случайные процессы xn(t) в (3.9) являются стационарными гауссовскими скорреляционной функцией

Rn(t) =n∑

j=1

μ(Qj) cos(λjt).

Замечание 3.2. Формула (3.9) приводится к эквивалентному виду, болеепредпочтительному для моделирования:

xn(t) =n∑

j=1

μ1/2(Qj) rj cos(λjx+ ϕj

), (3.10)

rj =(ξ2j + η2j

)1/2= (−2 lnαj)

1/2,

ϕj = arg(ξj + iηj) = 2πα′j,

где rj, ϕj –– независимые случайные величины (ϕj равномерно распределе-ны на (0, 2π)), rj –– случайные величины с распределением Релея, αj, α′

j ––независимые случайные величины, равномерно распределенные на (0,1).Другой важный принцип, используемый при построении спектральных

моделей,––принцип рандомизации спектра––проиллюстрируем на следующемпримере. Рассмотрим гармонику

r cos(λx+ ϕ

)(3.11)

со случайными и не зависимыми между собой амплитудой r, частотой λ ифазой ϕ. Если Mr2 = 1, значение ϕ равномерно распределено на интервале(0, 2π), а частота λ распределена по мере ν, то, как легко показать, процесс(3.11) будет стационарным со спектральной мерой ν. Суммируя независимыереализации случайных гармоник (3.11) и нормируя сумму, получим асимпто-тически гауссовскую последовательность однородных случайных процессовсо спектральной мерой ν:

3.2. Основные принципы построения спектральных моделей 77

xn(t) = (1/n)1/2n∑

j=1

rj cos(λjx+ ϕj

). (3.12)

Такие модели рассматривались в монографии [73].Таким образом, принцип рандомизации спектра (частоты выбираются

случайным образом в соответствии со спектральной мерой ν) позволяет вточности воспроизвести корреляционную функцию моделируемого процесса(3.6), что является особенно важным при решении задач методом Монте-Карло, когда для вычисления функционалов независимые реализации слу-чайного поля моделируются многократно.

Замечание 3.3. Заметим, что модели (3.9) и (3.12), по сути, реализуютдва подхода, используемые для моделирования гауссовских распределений,которые мы упоминали в предыдущей главе. Эти подходы основаны на ли-нейном преобразовании гауссовских независимых одинаково распределенныхслучайных величин и на центральной предельной теореме.

В работе [40] была предложена перспективная для статистического мо-делирования спектральная модель, которая объединяет два только что рас-смотренных принципа: разбиение спектрального пространства и рандомиза-цию спектра. Моделирующая формула в этом случае совпадает с формулой(3.9) с тем существенным отличием, что векторы λj выбираются в соответ-ствующих областях Qj случайным образом по распределениям, порожден-ным спектральной мерой ν. Принцип рандомизации спектра позволяет, каки для модели (3.12), точно передать корреляционную функцию предельногопроцесса (3.6), а возможность варьировать способ разбиения спектрально-го пространства делает модель более гибкой, чем модель (3.12), и позволяетдобиться большей адекватности при меньшем числе гармоник.Модели (3.9) и (3.12), построенные с использованием рандомизации спек-

тра, будем называть рандомизированными спектральными моделями.

Замечание 3.4. (1) Случайные величины ξj, ηj в формуле (3.9) могут бытьи негауссовскими. Это нарушает гауссовость нерандомизированной моделии гауссовость одномерного распределения рандомизированной спектральноймодели, однако сохраняет свойство асимптотической гауссовости. В частно-сти, можно использовать модели, для которых случайные величины ξj, ηjв формуле (3.9) принимают значения +1, –1 с вероятностью 0.5 и, соответ-ственно, rj = 21/2 в формулах (3.10), (3.12). Однако в дальнейшем, если неоговорено противное, будем считать, что случайные величины ξj, ηj –– гаус-совские.


(2) Спектральные представления справедливы как для гауссовских, так идля негауссовских стационарных процессов. Однако численные спектральныемодели разработаны лишь для гауссовских процессов.(3) Среди наиболее ранних работ, посвященных спектральным моделям,

наряду с работой [40] следует также упомянуть статьи [46,91,94,100,111].

3.3. Обобщенная схема. Оценка погрешности

Обобщенная схема. Рассмотрим более общую рандомизированную схемуприближенного моделирования однородного гауссовского случайного процес-са x(t) с нулевым средним, единичной дисперсией и спектральной мерой ν:

xn(t) =n∑

j=1

aj[ξj cos(λjx) + ηj sin(λj, x)

], (3.13)

где ξj, ηj –– независимые случайные величины,

Mξj = Mηj = Mξjηk = 0, Mξ2j = Mη2j = 1,

а λj –– случайные величины, не зависимые от (ξj, ηj)j=1...n и распределенныепо вероятностным мерам νj таким, что

ν(dλ) =n∑

j=1

a2jνj(dλ),n∑

j=1

a2j = 1. (3.14)

Условие (3.14) обеспечивает совпадение спектров процесса x(t) и прибли-женной модели (3.13), а из условия

maxj≤n

aj −→n→∞ 0

следует асимптотическая гауссовость приближенной модели (см., например,[17], § 1.2, теорема 5). Отметим, что случайные величины λj, распределен-ные по мерам νj, могут быть зависимы (!) между собой. Далее мы увидим,что подобная обобщенная спектральная модель эффективна, например, длямоделирования изотропных случайных полей.

Оценка погрешности. Эффективность вычислительных алгоритмов, ис-пользующих моделирование случайных полей, может сильно зависеть от то-го, насколько удачно выбрана приближенная модель случайного поля. Об-щим вопросам сходимости численных моделей случайных полей посвящена

3.3. Обобщенная схема. Оценка погрешности 79

гл. 4 в монографии [51]. Ниже мы кратко обсудим вопрос об измерении по-грешности спектральных моделей.Начнем с нерандомизированной модели (3.9). В качестве погрешности

Δ(xn, x) можно рассмотреть какое-либо «расстояние» между спектральны-ми мерами случайного процесса x и приближенной модели xn или расстоя-ние между соответствующими корреляционными функциями. При этом необ-ходимо иметь в виду, что спектральная мера нерандомизированной моделиявляется дискретной, а ее корреляционная функция почти периодическая.В следующем пункте рассматриваются конкретные примеры спектраль-

ных моделей гауссовских стационарных процессов и в качестве погрешностидля нерандомизированных моделей используется величина

Δ(xn, x) =∥∥q(t)[R(t)−Rn(t)

]∥∥ ,где

q(t) =

{1− |t|/T, |t| < T,0, |t| ≥ T,

и норма берется в пространстве C или Lp. Для L2, в частности, имеем:

Δ(xn, x) =

+∞∫−∞

q2(t)|R(t)−Rn(t)|2dt = 2π

+∞∫−∞

|f(λ)− fn(λ)|2dλ,

q(t)R(n)(t) =

+∞∫−∞

exp(iλt)f(n)(λ)dλ,

f(n)(λ) = (2π)−1

+∞∫−∞

exp(−iλt)qt)R(n)(t)dt,

где f(n)(λ) –– плотность распределения, являющегося сверткой спектральноймеры ν(n) и распределения с плотностью

T

2π

[sin(Tλ/2)

Tλ/2

]2=

1

π

1− cosTλ

Tλ2, λ ∈ (−∞,+∞).

Реализации рандомизированных спектральных моделей представляют со-бой стационарные случайные процессы с дискретным спектром, сосредото-ченным в точках λj, выбранных случайным образом. В этом случае в качествепогрешности обобщенной спектральной модели (3.13) будем рассматриватьвеличины


[MΔr(xn, x)

]1/r,

где Δ(xn, x)=∥∥q(t)[R(t)−Rn(t)]

∥∥–– случайная величина, Rn(t)=∑

a2j cos(λjt)и математическое ожидание берется по совместному распределению векто-ров λj.

Замечание 3.5. В качестве другой приближенной меры погрешности мож-но рассмотреть величину вида

Mρ(xn∞, xn),

где xn –– последовательность спектральных моделей, построенная на одномвероятностном пространстве (см. далее п. 3.8), ρ––некоторая метрика в функ-циональном пространстве, которому принадлежат последовательность xn ипредельное поле x. При этом подразумевается, что ρ(x, xn) → 0 при n → ∞и n∞ достаточно велико, так что

ρ(x, xn) ≈ ρ(xn∞, xn).

Однако такой подход весьма трудоемкий и пригоден не для всех типов спек-тральных моделей.

3.4. Примеры спектральных моделей стационарныхпроцессов

Предположим, что требуется построить численную спектральную модель ве-щественного гауссовского стационарного процесса x(t) с нулевым средним,единичной дисперсией, корреляционной функцией R(x) и спектральной ме-рой ν(dλ), сосредоточенной на [0,+∞). Будем предполагать, что спектраль-ная мера ν имеет плотность f ,

R(t) =

+∞∫0

cos(λt)f(λ)dλ, f(λ) =2

π

+∞∫0

cos(λt)R(t)dt,

dF (λ) = ν(dλ) = f(λ)dλ.

Приближенную спектральную модель процесса x(t) запишем в виде

xn(t) =n∑

j=1

aj[ξj cos(λjt) + ηj sin(λjt)

],

где n –– число гармоник, ξj, ηj –– независимые стандартные нормальныеслучайные величины; Rn(t) и νn(dλ) –– корреляционная функция и спек-тральная мера процесса xn(t). Для нерандомизированной модели Rn(t) =∑n

j=1 a2j cos(λjt), а для рандомизированной Rn(t) = R(t).

3.4. Примеры спектральных моделей стационарных процессов 81

Пример 3.1.

f(λ) =

{1/A, λ ∈ [0, A],

0 иначе,R(x) =

sin(At)

At.

Рассмотрим следующие спектральные модели. Положим a2j = 1/n.

Модель D (нерандомизированная): λj = (j − 0.5)A/n.

Модель R1 (рандомизированная): λj –– независимы и равномерно распреде-лены в интервалах [(j − 1)A/n, jA/n] соответственно.

Модель R2 (рандомизированная): λj –– независимы и равномерно распреде-лены в интервале [0,A].

В качестве погрешности спектральных моделей рассмотрим

δ = M

∥∥∥∥q(t)[R(t)−n∑

j=1

a2j cos(λjt)]∥∥∥∥,

где

q(t) =

{1− |t|/T, |t| < T,

0, |t| ≥ T,

и математическое ожидание берется по совместному распределению величинλj, j = 1, . . . , n. Через δ1, δ2, δc обозначим величины погрешностей для нормв пространствах L1[0, T ], L2[0, T ] и С[0, T ] соответственно.В табл. 3.1 представлены значения погрешностей спектральных моделей

для T=1, A=10, n=10. Из рандомизированных моделей наименьшую погреш-ность имеет модель R1.

Таблица 3.1. Погрешности спектральных моделейстационарного процесса с равномерным спектром

Модель δ1 δ2 δc

D 0.0005 0.0006 0.0010R1 0.0085 0.0108 0.0202R2 0.0618 0.0800 0.1495

Упражнение. Вычислите погрешности для спектральной модели, когда λj

распределены равномерно в интервалах [(j − 1)A/n, jA/n] и являются зави-симыми:

λj = (j − α)A/n,

α–– случайная величина, равномерно распределенная на интервале (0, 1).


Замечание 3.6. Погрешность рандомизированной модели может быть зна-чительно больше погрешности нерандомизированной модели. Это можно счи-тать платой за то полезное свойство рандомизированных моделей –– точноевоспроизведение спектра и корреляционной функции моделируемого процес-са «по ансамблю реализаций», которое зачастую необходимо при решении за-дач методом Монте-Карло. Таким образом, рассматриваемые величины сле-дует использовать в качестве погрешности в классе либо рандомизированных,либо нерандомизированных моделей, но не для сравнения моделей из двухразных классов.

Пример 3.2.

f(λ) =

{2(1− λ/A)/A, λ ∈ [0, A],

0 иначе,

R(t) = 21− cosAt

(At)2=

[sin(At/2)

At/2

]2,

F (λ) = −λ2/A2 + 2λ/A, λ ∈ [0, A],

F−1(c) = A(1−√

1− c), c ∈ (0, 1).

Рассмотрим следующие спектральные модели.

Модель D1 (нерандомизированная):

a2j = F (jA/n)− F((j − 1)A/n

), λj = (j − 0.5)A/n.

Модель D2 (нерандомизированная):

a2j = 1/n, λj =1

2

[F−1

((j − 1)/n

)+ F−1(j/n)

].

Модель R1 (рандомизированная):

a2j = F (jA/n)− F((j − 1)A/n

),

λj –– независимы и распределены в интервалах [(j−1)A/n, jA/n]с плотностью f(λ).

Модель R2 (рандомизированная): a2j = 1/n, λj ––независимы и распределеныв интервалах (F−1((j − 1)/n), F−1(j/n)) с плотностью, пропор-циональной f(λ).

Модель R3 (рандомизированная): a2j = 1/n, λj ––независимы и распределеныс плотностью f(λ) на интервале (0, A).

3.5. Однородные случайные поля 83

Отметим, что случайную величину λ с функцией распределения F придополнительном условии λ ∈ [c, d] можно моделировать по формуле

λ = F−1(F (c) + α

(F (d)− F (c)

)),

где α–– случайная величина, равномерно распределенная на отрезке [0, 1].Значения погрешностей различных спектральных моделей даны в

табл. 3.2 для T = 1, A = 60, n = 10. В данном случае наиболее предпочти-тельными из рандомизированных моделей оказались модели без разбиенияспектра и с разбиением спектра на интервалы с равным весом.

Таблица 3.2. Погрешности спектральных моделейстационарного процесса с треугольным спектром


D1 0.001 0.002 0.005D2 0.028 0.037 0.086R1 0.052 0.071 0.176R2 0.040 0.055 0.149R3 0.041 0.055 0.149

3.5. Однородные случайные поля

В предыдущих пунктах мы рассматривали спектральные модели случайныхстационарных процессов. Однако наиболее эффективны спектральные моде-ли для приближенного моделирования однородных случайных полей. Делов том, что реализации спектральных моделей, представляющие собой сум-мы конечного числа случайных гармоник, являются почти периодическимифункциями. Это, в частности, означает, что, чем больше интервал, на ко-тором мы хотим добиться хорошего приближения спектральной модели кпроцессу с непрерывным спектром, тем больше гармоник должна содержатьспектральная модель. Для численной аппроксимации стационарных процес-сов с непрерывным спектром можно использовать хорошо известные схемыавторегрессии и скользящего суммирования. Эти схемы в некотором смыслеболее эффективные, чем спектральные модели, но они плохо обобщаются наслучайные поля.Приведем краткие сведения о случайных полях. Случайное поле w(x), x ∈

Rk, называют однородным, если его математическое ожидание постоянно (вдальнейшем будем считать его нулевым), а ковариационная функция зависитлишь от разности x− y ∈ R

k,


Mw(x)w(y) = R(y − x).

Так же как и для стационарного процесса, для однородного поля можновыписать спектральные представления

R(x) =∫Rk

exp(i〈x, λ〉)μ(dλ), (3.15)

w(x) =∫Rk

exp(i〈x, λ〉)z(dλ). (3.16)

Здесь 〈., .〉 означает скалярное произведение в Rk.Меру μ(dλ) называют спектральной мерой однородного случайного поля

w(x), а z(dλ) –– стохастической спектральной мерой. Для любых измери-мых множеств A,B ⊂ R

k комплексные случайные величины z(A) и z(B)удовлетворяют условиям:

1) Mz(A) = 0;

2) если A ∩ B = Ø, то z(A+B) = z(A) + z(B) и Mz(A)z(B) = 0;

3) M|z(A)|2 = μ(A).

Аналог формулы (3.2) для спектральной плотности имеет вид

f(λ) = (2π)−k∫Rk

exp(− i〈x, λ〉)R(x)dx. (3.17)

Упражнение. Докажите, что если случайное поле w(x), x ∈ Rk, является

однородным с корреляционной функцией R(x) и спектральной плотностьюf(λ), то случайное поле w(cx), c > 0, будет однородным с корреляционнойфункцией R(cx) и спектральной плотностью c−kf(λ/c).В случае ограниченного спектра

μ([−B1, B1]× . . .× [−Bk, Bk]

)= μ(Rk),

выполнен аналог теоремы Котельникова (см. [16]):

w(x) =∑

(n1...nk)

k∏j=1

sin(Bjxj − πnj)

Bjxj − πnjw(n1π/B1, . . . , nkπ/Bk),

где x = (x1, . . . , xk), и ряд сходится в среднем квадратичном.


Для того чтобы поле было вещественным, необходимо и достаточно

z(A) = z(−A), при этом μ(A) = μ(−A),

так как μ(A) = M|z(A)|2. Формулы (3.15), (3.16), (3.17) для вещественногополя примут вид

R(x) = 2∫P

cos〈x, λ〉μ(dλ),

f(λ) = 2(2π)−k∫P

cos〈x, λ〉R(x)dx,

w(x) = 2∫P

cos〈x, λ〉Re z(dλ)− 2∫P

sin〈x, λ〉 Im z(dλ). (3.18)

Здесь P обозначает полупространство, т. е. измеримое множество такое, чтоP ∩ (−P)={0} и P ∪ (−P) = R

k.Для существования непрерывной производной

∂m1+...+mk

∂xm11 . . . ∂xmk

k

w(x) (3.19)

в среднем квадратичном необходимо и достаточно выполнения одного из сле-дующих условий:

1) существует и непрерывна производная

(−1)m1+...+mk∂2m1+...+2mk

∂x2m11 . . . ∂x2mk

k

R(x); (3.20)

2) спектральный момент ∫Rk

|λ1|2m1 . . . |λk|2mkμ(dλ)

ограничен. При этом (3.20) является корреляционной функцией поля (3.19).В частности, из ограниченности интеграла∫

Rk

‖λ‖2mμ(dλ)

следуют существование и непрерывность всех смешанных частных производ-ных однородного поля до порядка m включительно.Как и для случайных процессов, значения вещественного поля и его про-

изводных (при одинаковом значении аргумента) не коррелируют:


Mw(x)∂

∂yjw(y)

∣∣∣y=x

=∂

∂yjR(x− y)

∣∣∣y=x

= − ∂

∂zjR(z)

∣∣∣z=0

= 0.

В случае вещественного однородного и изотропного поля (см. далее) можнопоказать, что все компоненты вектора(

w(x),∂

∂x1w(x), . . . ,

∂

∂xkw(x)

)ортогональны между собой:

M∂

∂xiw(x)

∂

∂yjw(y)

∣∣∣y=x

=∂

∂xi

∂

∂yjR(x− y)

∣∣∣y=x

= − ∂

∂zi

∂

∂zjR(z)

∣∣∣z=0

= 0

при i �= j.Однородное поле с корреляционной функцией R(x) называют изотроп-

ным, еслиR(y − x) = B

(‖y − x‖),т. е. корреляционная функция зависит лишь от длины вектора y − x и не за-висит от его направления. Спектральная мера изотропного поля сферическисимметричная. С учетом того, что

S−1k (γ)

∫‖λ‖=γ

exp(i〈x, λ〉)σ(dλ)= 2(k−2)/2Γ(k/2)

(γ‖x‖)−(k−2)/2

J(k−2)/2

(γ‖x‖) = Yk

(γ‖x‖),

где Sk(γ) = (2πk/2/Γ(k/2))γk−1 –– площадь сферы радиуса γ в Rk, σ(dλ)–– по-верхностная мера, Jk ––функция Бесселя первого рода, формулу (3.15) можнопереписать в виде

B(ρ) =

∞∫0

Yk(γρ)ν(dγ). (3.21)

Здесь ν(dγ) = μ(λ : ‖λ‖ ∈ dγ) –– «радиальная» спектральная мера изотроп-ного поля. Если f(λ) и g(γ)–– плотности мер μ и ν соответственно, то

g(γ) = Sk(γ)f(γe),

где e–– вектор единичной длины в Rk.


Отметим, что

Y1(x) = cos(x), Y2(x) = J0(x),

Y3(x) = sin(x)/x, Y4(x) = 2x−1J1(x).

Обратные преобразования к (3.21) имеют вид

ν[0, γ) = 2−(k−2)/2Γ−1(k/2)

∞∫0

(γρ)k/2Jk/2(γρ)ρ−1B(ρ) dρ,

g(γ) = 2−(k−2)/2Γ−1(k/2)

∞∫0

(γρ)k/2J(k−2)/2(γρ)B(ρ) dρ.

Спектральное представление поля (3.16) для изотропного случая такжеможет быть преобразовано в специальный вид (см. [35,78]). В частности, приk = 2

w(r, ϕ) =+∞∑

j=−∞exp(ijϕ)

∞∫0

Jj(γr)zj(dγ),

где (r, ϕ) –– полярные координаты точки в R2, а zj –– ортогональная после-

довательность стохастических мер. Такие представления также могут бытьиспользованы для численного моделирования, но мы ограничимся рассмотре-нием моделей на основе спектрального представления (3.16), (3.18), которыеможно представить в виде аналогичном (3.9), (3.13):

wn(x) =n∑

j=1

aj [ξj cos〈λj, x〉+ ηj sin〈λj, x〉] . (3.22)

Упражнение 1. Предположим, что вещественное однородное случайное по-ле w(x1, x2) на плоскости имеет спектральную плотность f(λ1, λ2). Тогда длякорреляционной функции R(x1, x2) = Mw(x1, x2)w(0, 0) выполнено

R(x1, x2) =∫ ∫

cos(λ1x1 + λ2x2)f(λ1, λ2)dλ1dλ2.

Докажите, что при условии f(λ1,−λ2) = f(λ1, λ2) верно равенство

R(x1, x2) =∫ ∫

cos(λ1x1) cos(λ2x2)f(λ1, λ2)dλ1dλ2.

2. При каких условиях для корреляционной функции вещественного одно-родного поля w(x), x ∈ R

k, со спектральной плотностью f(λ), λ ∈ Rk, вы-

полнено


R(x) =∫· · ·

∫cos(λ1x1) · · · cos(λkxk)f(λ)dλ ?

Что можно сказать в случае изотропного однородного случайного поля?

3.6. Примеры спектральных моделей однородныхи изотропных случайных полей на плоскости

Корреляционная функция всякого однородного изотропного поля w(x, y) наплоскости представима в виде

B(r) = M[w(0, 0)w(x, y)

]−Mw(0, 0)Mw(x, y) = σ2

+∞∫0

J0(ρr)ν(dρ), (3.23)

где r2 = x2 + y2, σ2 –– дисперсия поля, J0 –– функция Бесселя первого рода,ν(dρ)–– «радиальная» спектральная мера на [0,∞). В дальнейшем предпола-гаем, что мера ν имеет плотность

ν(dρ) = g(ρ) dρ, g(ρ) = ρ

+∞∫0

xJ0(ρx)B(x) dx.

Через G будем обозначать функцию распределения меры ν:

dG(ρ) = ν(dρ) = g(ρ) dρ, G(ρ) = ρ

+∞∫0

J1(ρx)B(x) dx.

Таблица спектральных плотностей и соответствующих им корреляцион-ных функций изотропных полей представлена в гл. 2 (см. табл. 2.1).Пусть 0 = R0 < R1 < . . . < RN−1 < RN = ∞. Рассмотрим следую-

щий вариант спектральной модели для изотропного поля w(x, y) с нулевымсредним:

w∗(x, y) = σN∑n=1

cnM−1/2n

Mn∑m=1

(−2 lnαnm)1/2 ×

cos[(xρnm cosωnm + yρnm sinωnm) + 2πβnm

], (3.24)

где

c2n =

Rn∫Rn−1

g(ρ) dρ; ωnm = π(m− γnm)/Mn;

ρnm –– случайные величины, распределенные на [Rn−1, Rn) с плотностьюg(ρ)/c2n; αnm, βnm, γnm –– независимые, равномерно распределенные на [0, 1]случайные величины.

3.6. Примеры спектральных моделей на плоскости 89

Моделирующий алгоритм состоит в создании массивов

A(n,m) = σcn(−2 lnαnm/Mn)1/2, D(n,m) = 2πβnm,

B(n,m) = ρnm cosωnm, C(n,m) = ρnm sinωnm,

а значение поля в требуемой точке (x, y) вычисляется по формуле

w∗(x, y) =N∑n=1

Mn∑m=1

A(n,m) cos[B(n,m)x+ C(n,m)y +D(n,m)

].

Модель (3.24) соответствует разбиению спектрального пространства накольца и каждого кольца на равновеликие сегменты. Корреляционная функ-ция модели (3.24) имеет вид (3.23), а если

∑N

n=1Mn → ∞ и при этомmaxn≤N(c

2n/Mn) → 0, то поле w∗(x, y) является асимптотически гауссовским.

Возможны другие варианты спектральных моделей. В частности, допу-стимы следующие замены в (3.24) (как по отдельности, так и одновременно):

1) ρn1 = ρn2 = . . . = ρnMn= ρn,

2) γnm = γn, 3) γnm = γ,(3.25)

где ρn, γn, γ ––независимые случайные величины с соответствующими распре-делениями. Эти замены означают зависимость двумерных случайных векто-ров λj = (ρnm cosωnm, ρnm sinωnm) в представлении (3.15).Алгоритмически более простой, но менее гибкой является модель (3.24),

где cn = N−1/2, а ρnm = ρn независимы и распределены на всей полуоси [0,∞)с плотностью g(ρ). В этом случае разбиение спектрального пространства про-изводится как бы частично, только по направлениям векторов λj.Выбор варианта моделирующего алгоритма и значений его параметров

определяется стремлением более или менее подробно передать соответствую-щие участки спектра и влияет на характер реализаций w∗(x, y).

Пример 3.3 (рис. 3.1). Для приближенного моделирования гауссовскогооднородного изотропного поля w(x, y) с нулевым средним, единичной дис-персией и корреляционной функцией B(r) = J0(ρr) рассмотрим следующуюспектральную модель:

w(ρ)M (x, y) = M−1/2

M∑m=1

[ξm cos(xρ cosωm + yρ sinωm) +

ηm sin(xρ cosωm + yρ sinωm)], (3.26)


где ξm, ηm –– независимые стандартные нормальные величины, ωm = π(m −α′)/M , α′ –– случайная величина, равномерно распределенная на отрезке(0, 1). Модель (3.26) может быть записана в эквивалентной форме, более эко-номичной для вычислений:

w(ρ)M (x, y) = M−1/2

M∑m=1

(−2 lnαm)1/2 cos(xρ cosωm + yρ sinωm + 2πβm),

где αm, βm независимы и равномерно распределены на [0, 1].

Рис. 3.1. Реализация спектральной модели однородного изотропногослучайного поля с корреляционной функцией J0(cr)

Кроме этой модели, которую мы назовем модель R1, рассмотрим еще дверандомизированных модели, отличающиеся только способом моделированияωm.Модель R2:

ωm = π(m− α′m)/M.

Модель R3 (без разбиения спектра):

ωm = πα′m.

Случайные величины α′m в моделях R2 и R3 являются независимыми и

равномерно распределенными на отрезке (0, 1).Значения погрешностей

M∥∥∥R(x, y)−M−1/2

M∑m=1

cos(xρ cosωm + yρ sinωm)∥∥∥

обозначим через δ1, δ2, δc для норм в пространствах L1([0, T ]2), L2([0, T ]

2)и C([0, T ]2) соответственно. Здесь R(x, y)=J0(ρ

√x2+y2), а математическое

ожидание берется по совместному распределению величин ωm, m=1, . . . ,M .

3.6. Примеры спектральных моделей на плоскости 91

В табл. 3.3 представлены значения погрешностей трех спектральных мо-делей для T = 1, ρ = 10, M = 10. Значительно меньшая погрешность урандомизированной модели R1 с разбиением спектра и зависимым модели-рованием векторов λm = (ρ cosωm, ρ sinωm) в областях разбиения.

Таблица 3.3. Погрешности спектральных моделей на плоскости


R1 0.00006 0.00028 0.0031

R2 0.081 0.104 0.285

R3 0.169 0.207 0.520

Произвольное изотропное поле на плоскости можно представитькак суперпозицию изотропных полей с корреляционными функциямиJ0(ρ

√x2 + y2). Следовательно, приближенная модель произвольного изо-

тропного поля на плоскости может быть построена как взвешенная сумма∑ρ aρw

(ρ)M (x, y) спектральных моделей вида (3.26) (см. (3.24), (3.25)).

Пример 3.4 (рис. 3.2).

B(r) = exp(−ar), g(ρ) = aρ(ρ2 + a2)−3/2, ρ > 0,

G(ρ) = 1− a(a2 + ρ2)−1/2, ρ ≥ 0,

G−1(c) = a(

1

(1− c)2− 1

)1/2, c ∈ [0, 1).

Рис. 3.2. Реализация спектральной модели однородного изотропногослучайного поля с экспоненциальной корреляционной функцией


Пример 3.5 (рис. 3.3).

B(r) =sin(ar)

ar, g(ρ) =

⎧⎨⎩ρ

a(a2 − ρ2)1/2, ρ ∈ [0, a],

0 иначе,

G(ρ) = 1− (a2 − ρ2)1/2/a, ρ ∈ [0, a],

G−1(c) = a(1− (1− c)2

)1/2, c ∈ [0, 1).

Рис. 3.3. Реализация спектральной модели однородного изотропногослучайного поля с корреляционной функцией sin(cr)/(cr)

Приведем соотношения между спектральной мерой

F (dλ) = f(λ)dλ, f(λ) =2

π

∞∫0

B(r) cos(λr) dr, λ ≥ 0,

стационарного случайного процесса, полученного как след однородного изо-тропного поля в R2 на некоторой прямой, и радиальной спектральной меройG(dρ) = g(ρ)dρ изотропного случайного поля (см. также п. 2.4):

f(λ)=2

π

∞∫λ

(ρ2−λ2)−1/2dG(ρ), λ ≥ 0,

F (λ)=2

π

π/2∫0

G(λ/ sin θ) dθ = G(λ) +2

π

∞∫λ

arcsin(λ/ρ)dG(ρ), λ ≥ 0,

1−G(ρ) = ρ

π/2∫0

f(ρ/ sin θ) sin−2(θ) dθ,

g(ρ)=ρ

[(R2 − ρ2)−1/2f(R)−

R∫ρ

f ′(λ)(λ2 − z2)−1/2dλ

], ρ > 0.

3.7. Примеры спектральных моделей в пространстве 93

В последнем равенстве предполагается, что f(λ) > 0 при λ ∈ [0, R) иf(λ) = 0 при λ ∈ (R,+∞). Из этих формул, в частности, следует, что еслирадиальный спектр является степенным, т. е. выполнено

g(ρ) =

{const ρ−r, ρ > ρ∗,0 ρ ∈ [0, ρ∗),

ρ∗ > 0, r > 1,

то спектральная плотность f(λ) также является степенной функцией с темже показателем при λ ≥ ρ∗:

G(ρ) = c1[1− (ρ/ρ∗)−r+1

], ρ > ρ∗,

F (λ) =2

π

π/2∫0

c1

[1−(

λ

ρ∗ sin θ

)−r+1]dθ = c2+c3λ

−r+1, λ > ρ∗,

где c1, c2, c3 –– константы.

3.7. Примеры спектральных моделей однородныхи изотропных случайных полей в трехмерномпространстве

Пусть w(x), x ∈ R3, –– однородное изотропное поле с нулевым средним и еди-

ничной дисперсией. Корреляционная функция поля w(x) может быть пред-ставлена в виде

Mw(x)w(0) = B(r) =

∞∫0

sin(γr)

γrdH(γ), (3.27)

где r = ‖x‖–– евклидова норма в R3, H(γ)––функция вероятностного распре-деления на [0,+∞),

H(γ) =2

π

∞∫0

[sin(γr)− (γr) cos(γr)

]B(r)

rdr.

Корреляционная функция B(r) однородного изотропного поля в R3 обладаетследующими свойствами (см., например, [37,78]):

1) B(r) ≥ −1/3;

2) функция B(r) дифференцируема на (−∞, +∞).Предположим, что распределение dH(γ) имеет плотность h(γ), h(γ)dγ =dH(γ). Преобразование, обратное к (3.27), для плотности имеет вид


h(γ) =2

π

∞∫0

(γr) sin(γr)B(r) dr.

Функции h(γ) и H(γ) будем называть радиальной спектральной плотно-стью и радиальной спектральной функцией однородного изотропного слу-чайного поля в трехмерном пространстве, а соответствующую меру –– ради-альной спектральной мерой.

Пример 3.6. Пусть w(x) –– однородное изотропное поле на R3 с нулевым

средним, единичной дисперсией и радиальной спектральной мерой, сосредо-точенной в точке γ,

B(r) =sin(γr)

γr.

В качестве численной аппроксимации поля w(x) рассмотрим спектральнуюмодель

w(γ)M (x) = M−1/2

M∑m=1

[ξm cos〈λm, x〉+ ηm sin〈λm, x〉

],

где ξm, ηm –– независимые стандартные нормальные величины, а 〈., .〉 обозна-чает скалярное произведение в R3. Для нерандомизированной модели векто-ры λm должны быть «равномерно» расположены на полусфере S радиуса γв R

3 (т. е. S ∩ (−S) = ∅, S ∪ (−S) = {‖λ‖ = γ}), для рандомизированноймодели λm –– случайные векторы, распределенные по мерам μm(dλ), таким,что мера 1

M

∑M

m=1 μm(dλ) представляет собой равномерное распределение наполусфере S. Вариант рандомизированной модели приведен ниже:

w(γ)I×J(x)=(IJ)−1/2

I∑i=1

J∑j=1

[ξij cos < λij, x > +ηij sin < λij, x >] ,

λij = (λ1ij, λ

2ij, λ

3ij), tij = 1− 2

I(i− αij),

λ1ij = γtij,

λ2ij = γ

√1− t2ij cos

[(j − βij)

π

J

],

λ3ij = γ

√1− t2ij sin

[(j − βij)

π

J

],

где αij, βij (i ∈ {1, . . . , I}, j ∈ {1, . . . , J}) –– независимые случайные величи-ны, равномерно распределенные на (0, 1).Один из возможных подходов к построению приближенных моделей од-

нородных изотропных полей в R3 с произвольной спектральной плотностью

h(γ) состоит в использовании спектральных моделей вида

3.7. Примеры спектральных моделей в пространстве 95

wNM(x) =N∑n=1

anw(γn)Mn

(x, y),

где:

а) a2n = 1/N , γn –– независимые одинаково распределенные на [0,+∞) слу-чайные величины с плотностью h(γ), или

б) 0 = b0 < b1 < . . . < bn = +∞, a2n =∫ bn

bn−1

h(γ)dγ, γn –– случайныевеличины, распределенные в соответствующих интервалах [bn−1, bn) сплотностью h(γ)/a2n.

Рассмотрим несколько примеров корреляционных функций однородныхизотропных случайных полей в трехмерном пространстве и соответствующихим радиальных спектров:

1) h(γ) =

{1

a, γ ∈ (0, a),

0 иначе,B(r) =

Si(ar)

ar, Si(z) =

z∫0

sin t

tdt;

2) h(γ) =2a

π(a2 + γ2), γ > 0, B(r) =

1− e−ar

ar;

3) h(γ) = ae−aγ, γ > 0, B(r) =arctg(r/a)

r/a;

4) B(r)=e−ar2, h(γ)=2−1π−1/2a−3/2γ2 exp(−γ2/(4a)), γ > 0.

Замечание 3.7. С ростом размерности параметра случайного поля возрас-тает трудоемкость моделирующих алгоритмов. Если значения спектральноймодели вычисляются в узлах регулярной решетки, то необходимо вычислятьмассивы значений cos(kδ + ϕ) для многих k ∈ {0, 1, 2, . . .}. При этом можновоспользоваться известным рекуррентным соотношением

cos((k + 1)δ + ϕ

)= 2 cos(δ) cos(kδ + ϕ)− cos

((k − 1)δ + ϕ

),

что позволяет сократить время вычислений в несколько раз.Приведем соотношения между спектральной мерой

F (dλ) = f(λ)dλ, f(λ) =2

π

∞∫0

B(r) cos(λr) dr, λ ≥ 0,

стационарного процесса, полученного как след однородного изотропного поляв R

3 на некоторую прямую, и радиальной спектральной мерой изотропногополя [67]:


F (λ) =

1∫0

H(λ/x)dx, λ > 0,

f(λ) =

1∫0

h(λ/x)x−1dx =

∞∫λ

h(t)t−1dt, λ > 0,

h(γ) = −γf ′(γ), γ > 0.

Из последнего равенства следует, что f ′(γ) ≤ 0.Нетрудно заметить, что (так же как и для изотропных полей на плос-

кости) если радиальная спектральная плотность h является степенной, то иплотность f имеет степенной вид с тем же показателем.

Упражнение 1. Проверьте следующее утверждение: если через g(ρ) обозна-чить радиальную спектральную плотность изотропного поля в R2, получен-ного как след изотропного поля в R3 с радиальной спектральной плотностьюh(γ), то

g(ρ) = ρ

+∞∫ρ

h(γ)

γ(γ2 − ρ2)1/2dγ, ρ > 0.

Сформулируйте и докажите соответствующие утверждения для изотропныхполей и их следов в пространствах произвольной размерности.

2. Разработайте методы поиска спектральных моделей гауссовских однород-ных полей, имеющих минимальную погрешность при заданном числе гармо-ник. Рассмотрите различные способы определения погрешности спектраль-ных моделей.

3.8. Уточнение спектральных моделей однородныхполей на одном вероятностном пространстве

Аппарат условных гауссовских распределений позволяет разрабатывать ал-горитмы последовательного уточнения спектральных моделей случайныхпроцессов и полей. Продемонстрируем один из таких алгоритмов на следую-щем примере.Предположим, что в качестве приближенной численной модели стацио-

нарного гауссовского процесса w(t) с нулевым средним и спектральной плот-ностью f(λ), λ ∈ [0,+∞), рассматривается спектральная модель

3.9. Условные спектральные модели 97

w∗(x) =n∑

j=1

[ξj cos(λjx) + ηj sin(λjx)

], (3.28)

где λj ∈ Λj, ∪nj=1Λj = [0,+∞), Λj ∩ Λk = ∅ при j �= k; ξj, ηj –– независимые

гауссовские случайные величины с нулевым математическим ожиданием идисперсией

Dξj = Dηj =∫Λj

f(λ) dλ.

Для большей точности приближенной модели необходимо увеличивать ко-личество гармоник в представлении (3.28). В качестве уточненной спектраль-ной модели w(t) рассмотрим

w∗∗(x) =n∑

j=1

[ξ(1)j cos(λ

(1)j x) + ξ

(2)j cos(λ

(2)j x) + η

(1)j sin(λ

(1)j x) + η

(2)j sin(λ

(2)j x)

],

где λ(1)j ∈ Λ

(1)j , λ

(2)j ∈ Λ

(2)j , Λ

(1)j ∪ Λ

(2)j = Λj, Λ

(1)j ∩Λ(2)

j = ∅; ξ(1)j , η(1)j , ξ

(2)j , η

(2)j ––

независимые гауссовские величины с нулевым средним и дисперсией

Dξ(m)j = Dη

(m)j =

∫Λ(m)j

f(λ) dλ, m = 1, 2,

которые моделируются при условии

ξ(1)j + ξ

(2)j = ξj, η

(1)j + η

(2)j = ηj (3.29)

(см. приложение А.2). Таким образом, уточненная спектральная модельw∗∗(t) содержит в два раза больше гармоник, чем модель w∗(t). Такая жепроцедура уточнения может быть использована для моделиw∗∗(t) и т. д. Усло-вие (3.29) позволяет строить реализации на одном вероятностном простран-стве и добиваться потраекторной сходимости к предельному процессу w(t)(рис. 3.4).

3.9. Условные спектральные модели

В данном пункте на основе спектрального разложения разработан численныйалгоритм, позволяющий моделировать гауссовские однородные случайныеполя с учетом известных значений поля в фиксированных точках (рис. 3.5).Этот алгоритм может быть использован для экстраполяции и интерполяциислучайных функций.


Рис. 3.4. Уточнение спектральной модели стационарного гауссовскогопроцесса (число гармоник: 4, 8, 16, 32, 64, 128, 256)

Рис. 3.5. Примеры реализаций условной спектральной моделистационарного процесса

3.9.1. Постановка задачи

Пусть w(x), x ∈ Rk, –– однородное вещественное гауссовское случайное поле

с известным математическим ожиданием и заданной спектральной мерой.Предположим, что в точках

xj ∈ Rk, j = 1, . . . , J,

известны значения случайного поля

w(xj) = bj, j ∈ {1, 2, . . . , J}. (3.30)

Требуется построить численную модель случайного поля w(x), удовлетворя-ющую условию (3.30), т. е. для некоторого множестваX ⊂ R

k необходимо ука-зать алгоритм моделирования значений w(x), x ∈ X . Такие задачи возника-ют, например, при построении стохастических моделей природных объектов


с учетом имеющихся экспериментальных данных. В частности, эта проблемапредставляет интерес для динамико-вероятностного прогноза метеорологи-ческих процессов (см. [14,45]).Метод, предлагаемый ниже, является приближенным и основан на спек-

тральном разложении однородных случайных полей. Особенность данногометода заключается в том, что число необходимых арифметических опера-ций линейно зависит от числа элементов множества X , причем погрешностьспектрального метода в значительной степени определяется не количествомэлементов этого множества, а его пространственными размерами.

3.9.2. Метод решения

Для простоты изложения будем считать, что среднее значение однородногослучайного поля w(x) равно нулю. В качестве численной аппроксимации полявозьмем некоторую спектральную модель:

wN(x) =N∑n=1

cn[ξn cos < λn, x > +ξ′n sin < λn, x >

], (3.31)

где cn > 0,∑N

n=1 c2n < ∞; ξn, ξ′n –– независимые стандартные нормальные

случайные величины; λn–– векторы в Rk, не зависимые от случайных величинξn, ξ′n; < ., . > обозначает скалярное произведение в Rk.Таким образом, для моделирования случайного поля w(x) мы будем ис-

пользовать спектральную модель (3.31). На первом этапе определяются зна-чения cn и моделируются векторы λn согласно выбранной спектральной мо-дели. На втором этапе моделируются независимые стандартные нормальныеслучайные величины ξn, ξ′n при линейном условии

N∑n=1

djnξn + d′jnξ′n = bj, j = 1, . . . , J, (3.32)

где djn = cn cos〈λn, xj〉, d′jn = cn sin〈λn, xj〉.Для моделирования условных гауссовских распределений воспользуемся

леммами А.2, А.3 из Приложения А.Обозначим через ζ вектор (ξT , (ξ′)T )T , где

ξ =

⎡⎢⎣ ξ1...ξN

⎤⎥⎦ , ξ′ =

⎡⎢⎣ ξ′1...ξ′N

⎤⎥⎦ .

В качестве матрицы A возьмем (см. (3.32))


A =

⎡⎣ d11, . . . , d1N , d′11, . . . , d′1N...

dJ1, . . . , dJN , d′J1, . . . , d′JN

⎤⎦ .

ТогдаMζ = 0, MζζT = I,

а условие (3.32) запишется в виде

Aζ = b, b =

⎡⎢⎣ b1...bJ

⎤⎥⎦ .

Согласно лемме А.3 моделирование случайных величин ξn, ξ′n, n = 1, . . . , N ,в спектральной модели (3.31) при условии минимума

‖Aζ − b‖2 =J∑

j=1

[w(xj)− bj

]2сводится к моделированию гауссовского случайного вектора ζ с математиче-ским ожиданием

μ = A+b

и корреляционной матрицей

B = I − A+A.

При этом можно использовать моделирующую формулу

ζ = μ+Gε,

где ε–– вектор из независимых стандартных нормальных случайных величини GGT = B. Так как B –– проектор (BT = B, B2 = B) на подпространстворазмерности 2N − rang(A) = dim(ker(A)), то можно брать G = B.

3.9.3. О реализации численного алгоритма

Для вычисления A+, A+A и I − A+A могут быть использованы различныеметоды, в том числе и рекуррентные (см., например, [2]).В качестве примера рассмотрим алгоритм «поэтапного» моделирования

элементов вектора ζ. Представим вектор ζ в виде


ζ =

[ζ1ζ2

],

где ζ1, ζ2–– стандартные нормальные векторы меньшей размерности. Сначаламоделируем вектор ζ1 при условии

Aζ = A1ζ1 + A2ζ2 = b, A = [A1|A2].

Условное распределение вектора ζ1 будет гауссовским с математическим ожи-данием

μ = AT1 (AA

T )+b (3.33)


B = I − AT1 (AA

T )+A1. (3.34)

Это следует из п. (2) леммы А.2.Итак, на первом шаге моделируется гауссовский вектор ζ1 со средним

(3.33) и корреляционной матрицей (3.34):

ζ1 = μ+Qε, где QQT = B,

ε–– вектор из независимых стандартных нормальных случайных величин. Те-перь остается построить вектор ζ2 при условии

A2ζ2 = b− A1ζ1.

Если размерность вектора ζ2 все еще велика, то он вновь разбивается на двекомпоненты меньшей размерности и т. д.Для того чтобы избежать на каждом шаге трудоемкой процедуры фак-

торизации B = QQT , размерность вектора ζ1 целесообразно брать равнойединице. В этом случае алгоритм моделирования вектора

ζ =

⎡⎢⎣ ζ1

...ζ2N

⎤⎥⎦при условии Aζ = b можно представить следующим образом:


ζ i = μi +B1/2i εi,

μ1 = aT1 (AAT )+b,

μi = aTi (AiATi )

+[b− a1ζ

1 − a2ζ2 − . . .− ai−1ζ

i−1], i > 1,

Bi = 1− aTi (AiATi )

+ai.

Здесь ai –– i-й столбец матрицы A; Ai –– матрица, полученная из матрицы Aудалением первых i− 1 столбцов; εi –– независимые стандартные нормальныеслучайные величины.Матрицы Si = (AiA

Ti )

+, i = 2N, 2N − 1, . . . , 1, могут быть вычислены порекуррентным формулам (см. [2], с. 62):

Si = Si+1 +

[1 + aTi Si+1ai(aTi Ciai)2

](Ciai)(Ciai)

T − (Si+1ai)(Ciai)T + (Ciai)(Si+1ai)

T

aTi Ciai,

Ci = I − S+i+1Si+1 (C2N = I, S2N+1 = 0),

если ai не является линейной комбинацией столбцов из Ai+1 (т. е. Ciai �= 0), и

Si = Si+1 − (Si+1ai)(Si+1ai)T

1 + aTi Si+1ai

в противном случае.Матрица Ci является матрицей проектирования на ортогональное допол-

нение к линейной оболочке (которую будем обозначать символами Lo) век-торов ai+1, . . . , a2N :

Ci = I − S+i+1Si+1 = I − (Ai+1A

Ti+1)(Ai+1A

Ti+1)

+ = I − Ai+1A+i+1.

Это означает, что ai ∈ Lo(ai+1, . . . , a2N), если и только Ciai = 0. Вслучае ai /∈ Lo(ai+1, . . . , a2N) вектор Ciai является (ненормализованным)вектором в методе ортогонализации Грамма–Шмидта системы векторов(a2N , a2N−1, . . . , ai).Матрицы Ci могут быть вычислены рекуррентным образом:

C2N = I,

Ci−1 = Ci,

если i �= 2N и ai ∈ Lo(ai+1, . . . , a2N), в противном случае

Ci−1 = Ci − (Ciai)(Ciai)T

1 + aTi Ciai.

Таким образом, вычислительная схема состоит из двух этапов. На первомпо рекуррентным формулам вычисляются матрицы Si и запоминаются числа

3.10. Дополнительные замечания 103

Kij = aTi Siaj, i = 2N, . . . , 1, j ≤ i,

Ki0 = aTi Sib.

На втором этапе моделируются случайные величины ζ i:

μ1 = K10,

ζ1 = μ1 + (1−K11)1/2ε1,

μ2 = K20 −K21ζ1,

ζ2 = μ2 + (1−K22)1/2ε2,

μ3 = K30 −K31ζ1 −K32ζ

2,

ζ3 = μ3 + (1−K33)1/2ε3,

. . .

Упражнение. На основе спектральных моделей разработайте методы сов-местного моделирования гауссовских стационарных случайных процессов иих производных (гауссовских однородных полей и их частных производных).Обратите внимание на то, что для процесса и его производных целесообразнобрать разные разбиения спектрального пространства и разное число гармо-ник. Для построения спектральных моделей производных нецелого порядкаr > 0 воспользуйтесь следующими правилами дифференцирования:

cos(r)(λx) = λr cos(λx+ rπ/2),

sin(r)(λx) = λr sin(λx+ rπ/2).

Постройте условные совместные спектральные модели для численного мо-делирования гауссовского стационарного процесса и его производных, когдаодновременно известны значения процесса и его производных в некоторыхточках, а также реализуйте в этом случае метод последовательного уточне-ния на одном вероятностном пространстве.

3.10. Дополнительные замечания

3.10.1. Неоднородные спектральные модели

Спектральные модели могут использоваться для моделирования неоднород-ных полей, если, например, в формуле (1.3) положить aj = aj(x), λj = λj(x).Примеры реализаций таких моделей приведены на рис. 3.6.В общем случае известно (см., например, [17]), что, если корреляционная

функция B(x, y) неоднородного случайного поля w(x) имеет вид


Рис. 3.6. Реализации спектральных моделей неоднородных случайных полей

B(t, s) =∫Λ

g(t, λ)g(s, λ)m(dλ),

то для поля w(x) существует представление

w(t) =∫Λ

g(t, λ)z(dλ), (3.35)

где z(dλ) –– ортогональная стохастическая мера такая, что m(dλ) =M|z(dλ)|2. Принципы, которые использовались для построения спектраль-ных моделей, могут быть применены для приближенного моделированиянеоднородных гауссовских случайных полей вида (3.35).

3.10.2. Приближенное моделирование гауссовских векторовстационарного вида с помощью дискретногопреобразования Фурье

Спектральный метод может быть адаптирован для моделирования гауссов-ских векторов стационарного вида. Особенностью этого подхода является то,что все N компонентов гауссовского вектора (x1, . . . , xN) могут быть получе-ны одновременно с помощью алгоритма быстрого преобразования Фурье.Ниже представлен любопытный алгоритм моделирования гауссовских

векторов стационарного вида, предложенный в [8]. В этой работе предла-гается вычислять значения гауссовского вектора (x1, . . . , xN) для четного Nпо формуле

xm =N−1∑k=0

ck exp

(i2π

Nkm

)=

a0 sign(β0 − 0.5) + (−1)N/2aN/2 sign(βN/2 − 0.5) +

3.10. Дополнительные замечания 105

2N/2−1∑k=1

ak cos 2π(bk +mk/N).

Здесь β1, . . . , βN/2 –– независимые случайные числа, равномерно распределен-ные на (0, 1),

ck =

⎧⎪⎪⎪⎨⎪⎪⎪⎩a0 sign(β0 − 0.5), k = 0,

ak exp(i2πβk), k = 1, 2, . . . , n− 1,

aN/2 sign(βN/2 − 0.5), k = N/2,

cN−k, k = N/2 + 1, . . . , N − 1.

Коэффициенты a1, . . . , aN/2 выбираются из условия

ak =[2πN−1f(2πk/N)

]1/2, k = 0, . . . , N/2.

В работе [8] доказано, что для случайного вектора (x1, . . . , xN) выполненыравенства

(2πN)−1

∣∣∣∣ N∑m=1

xm exp(i2π

Nkm

) ∣∣∣∣2 = f(2πk/N), (3.36)

k = 0, . . . , N/2.

Кроме того, при моделировании «белого шума», т. е. если

f(2πk/N) = (2π)−1, k = 0, . . . , N/2,

выполнено

N−1N∑

m=1

x2m = 1. (3.37)

В работе [8] утверждается: «если функция f(λ), 0 ≤ λ ≤ π, непрерывна,то можно показать, что конечномерные распределения последовательностиx1, . . . , xN при N → ∞ сходятся по распределению к конечномерным распре-делениям стационарной гауссовской последовательности со средним нуль испектральной плотностью f(λ), 0 ≤ λ ≤ π». Несмотря на это утверждение,вряд ли стоит рекомендовать предложенный метод для широкого примене-ния, так как слишком уж неестественными для гауссовских стационарныхпоследовательностей являются свойства (3.36) и (3.37). Целесообразно ис-пользовать более общие дискретные спектральные модели вида

xm =N−1∑k=0

ck exp

(i2π

Nkm

), m = 1, . . . , N.

Глава 4

Примеры спектральных моделей

Спектральные модели обладают рядом преимуществ по сравнению с другимиметодами моделирования случайных функций. Этим обусловлено все болееширокое применение спектральных моделей при решении различных при-кладных задач. Особенно интенсивно спектральные модели используются вгеофизике и астрофизике. В этой главе описываются алгоритмы численногомоделирования поверхности морского волнения и гигантских океаническихволн, бинарных текстур и стохастической структуры разорванной облачно-сти. Алгоритмы основаны на спектральных методах, рассмотренных в преды-дущей главе. Для моделирования гигантских океанических волн используют-ся условные спектральные модели, а для моделирования бинарных текстур иполей облачности спектральные методы комбинируются с методом обратнойфункции распределения. В данной главе использован материал, изложенныйв работах [53,106–108].

4.1. Стохастические модели поверхности морскоговолнения и гигантских волн-убийц

Гигантские волны, известные как «блуждающие волны» или «волны-убий-цы» (rogue waves, freak-waves), представляют собой малоизученное природ-ное явление, существование которого долгое время ставилось под сомнениеиз-за отсутствия достоверных свидетельств. В отличие от цунами, одиноч-ные гигантские волны высотой 20, 30 и более метров, значительно превы-шающие высоту окружающих волн, внезапно появляются и исчезают вда-ли от берега без видимых причин, иногда при относительно слабом ветре иволнении. Впервые гигантская волна была зафиксирована измерительнымиприборами 1 января 1995 г. у побережья Норвегии на нефтяной платформе«Draupner». Высота гигантской волны составила 25.6 м при средней высотеволн около 12 м. В настоящее время ведутся интенсивные экспериментальныеи теоретические исследования гигантских волн, представляющих серьезнуюугрозу морским судам и сооружениям (см., например, сайт научного проектаMaxWave, монографию [101] и множество других работ).Для численного моделирования гигантских волн воспользуемся условны-

ми спектральными моделями случайных полей из п. 3.9. Известно, что приопределенных условиях поверхность морского волнения достаточно хорошо

106

4.1. Стохастические модели поверхности морского волнения 107

описывается пространственно-временным гауссовским случайным полем ста-ционарным по времени и однородным в пространстве. Численные моделиморской поверхности, основанные на этом предположении, использовались,в частности, для решения ряда прикладных задач методом Монте-Карло,связанных с оптикой океана, см. [3, 29, 89]. Кроме спектра случайного поля,для моделирования гигантской волны необходима дополнительная информа-ция о профиле волны, т. е. должны быть заданы значения поля возвыше-ний морской поверхности в некоторых точках в заданные моменты времени.В численных экспериментах, результаты которых представлены ниже, фик-сировался экстремально высокий уровень поверхности в точках на гребневолны. Условные спектральные модели позволяют численно моделироватьмножество независимых пространственно-временных реализаций морской по-верхности, проходящих через заданные точки и, таким образом, исследоватьхарактерные особенности развития и распространения гигантских волн. Вчастности, несколько неожиданным результатом проведенных вычислитель-ных экспериментов оказалось появление групп из трех гигантских волн вто время как экстремальный уровень волнения фиксировался лишь в однойточке. Такой тип гигантских волн хорошо известен по наблюдениям и носитназвание «три сестры».В следующих пунктах представлены стохастические алгоритмы, исполь-

зованные для имитации морского волнения, дано описание условных спек-тральных моделей гигантских волн, приведены результаты моделирования иоценки частоты возникновения гигантских волн на основе теории выбросовслучайных полей.

4.1.1. Спектральные модели поверхности морского волнения

Экспериментальные данные о статистических свойствах ветрового волненияводной поверхности свидетельствуют о том, что оно с высокой точностьюможет быть описано однородным гауссовским случайным полем возвыше-ний относительно среднего уровня [21]. В связи с этим численные моделиоднородных гауссовских полей представляются эффективным средством длякомпьютерной имитации морского волнения.Рассмотрим спектральную модель морской поверхности w(x1, x2) на ос-

нове следующего представления спектра:

ν(dλ1dλ2) = f(λ1, λ2)dλ1dλ2, λ1 > 0, λ2 ∈ R, (4.1)

f(λ1, λ2) = Sρθ(ρ, θ)ρ−1, (4.2)

ρ = (λ21 + λ2

2)1/2, θ = arg(λ1 + iλ2) ∈ [−π/2, π/2],

108 4. Примеры спектральных моделей

Sρθ(ρ, θ) = Q(ρ, θ)Sρ(ρ), Sρ(ρ) = 0.5(g/ρ)1/2S((gρ)1/2), (4.3)

S(μ)=

⎧⎪⎪⎪⎪⎪⎪⎨⎪⎪⎪⎪⎪⎪⎩

6m0 (μmax/μ)5 μ−1×

exp{−1.2

[(μmax/μ)

5 − (μmax/μ1)5]}

, μ ∈ [0, μ1],

S(μ1)+

(S(μ2)− S(μ1)) (μ− μ1)/(μ2 − μ1), μ ∈ (μ1, μ2),0.0078g2μ−5, μ ∈ [μ2, μ3);

(4.4)

Q(ρ, θ) = 2π−1 cos2 θ. (4.5)

«Частотный» спектр S и «угловой» спектр Q заимствованы из [21]. При этомμ3 ≈ 30 c−1 –– верхняя граница частотного спектра гравитационных волн,μmax––частота спектрального максимума частотного спектра S, g––ускорениесвободного падения,

μ1 = 1.8μmaxμ(−0.7), μ2 = 2.0μmaxμ

(−0.7),

μ = vμmax/g, m0 = 0.00127g−2v4μ(−3.19),

v––скорость ветра (м/с) на высоте 10м над уровнем моря (в формулах, приве-денных выше, предполагается, что направление ветра совпадает с осью OX).Статистические свойства морского волнения в рамках этой модели определя-ются двумя параметрами: скоростью ветра v и частотой спектрального макси-мума μmax. Пример численной реализации спектральной модели поверхностиморского ветрового волнения представлен на рис. 4.1.

Рис. 4.1. Пример реализации рельефа морской поверхности (спектральнаямодель). Направление ветра совпадает с горизонтальной осью

Существенным преимуществом, которое выделяет спектральные моделисреди множества других методов численного моделирования морского волне-ния, является сравнительно простой переход от пространственных моделей


к пространственно-временным. Если пространственная спектральная модельполя возвышений морской поверхности относительно среднего уровня запи-сывается в виде

wn(x1, x2) =n∑

j=1

aj[ξj cos

(λ1(j)x1+λ2(j)x2

)+ηj sin

(λ1(j)x1+λ2(j)x2

)], (4.6)

то соответствующая пространственно-временная модель имеет вид

wn(x1, x2, t) =n∑

j=1

aj[ξj cos

(ϕj(x1, x2, t)

)+ ηj sin

(ϕj(x1, x2, t)

)], (4.7)

ϕj(x1, x2, t) = λ1(j)x1 + λ2(j)x2 + μ(j)t,

где μ(j) связаны с λ1(j), λ2(j) дисперсионным соотношением

μ(j)2 = gρj tanh(ρjH), ρj =[λ21(j) + λ2

2(j)]1/2

.

В случае глубокой воды (при больших глубинах H), который рассматрива-ется в дальнейшем, дисперсионное соотношение принимает вид

μ(j) =√gρj.

Физически это означает, что волна длиной L = 2π/ρ на водной поверхностибежит с фиксированной скоростью

√gL/(2π) = μ/ρ, где μ =

√gρ.

Отметим, что в рамках рассматриваемой модели, случайное поле возвы-шений морской поверхности относительного среднего уровня в фиксирован-ный момент времени является однородным гауссовским с нулевым матема-тическим ожиданием и корреляционной функцией

Kxy(x, y) =

∞∫−∞

∞∫0

cos(λ1x+ λ2y)f(λ1, λ2)dλ1dλ2.

Если же зафиксировать точку на плоскости и рассматривать уровень воднойповерхности в этой точке как случайный процесс, зависящий от времени, тотакой процесс будет стационарным гауссовским с нулевым средним и корре-ляционной функцией

Kt(t) =

∞∫0

cos(μt)S(μ)dμ.

Соответствующие спектральные плотности f(λ1, λ2) и S(μ) связаны соотно-шениями (4.2), (4.3), где


Sρ(ρ) =∫ π/2

−π/2Sρθ(ρ, θ)dθ.

4.1.2. Условные спектральные модели и моделированиегигантских волн

Здесь мы рассмотрим метод построения случайных пространственно-вре-менных реализаций морской поверхности с аномально высокими волнами(рис. 4.2, 4.3). Данный метод основан на условных спектральных моделях,разработанных в [49,102] и описанных в п. 3.9. Представим, что для некоторо-го множества точек (xm1 , xm2 ) на поверхности и моментов времени tm известнызначения bm уровня морской поверхности,

w(xm1 , xm2 , t

m) = bm, m ∈ {1, 2, . . . ,M}. (4.8)

Условная спектральная модель морской поверхности–– это численная аппрок-симация (4.6), (4.7), которая строится следующим образом. На первом эта-пе вычисляются значения aj, λ1(j), λ2(j) согласно выбранной (безусловной)спектральной модели. На втором этапе моделируется гауссовский случайныйвектор с компонентами ξj, ηj, j = 1, · · · , n, и условным распределением, по-рождаемым равенствами

wn(xm1 , x

m2 , t

m) = bm, m ∈ {1, 2, . . . ,M}. (4.9)

Условное распределение также является гауссовским (его среднее и корре-ляции находятся из соотношений, представленных в п. 3.9) и обеспечиваетравенства (4.9) или минимум величины

M∑m=1

[wn(x

m1 , x

m2 , t

m)− bm]2,

если система (4.9) оказывается несовместной.

Замечание 4.1. Оценка погрешности спектральных и условных спектраль-ных моделей является сложной проблемой, см. главу 3, а также моногра-фии [51, 103]). Напомним, что реализации спектральных моделей случайныхполей представляют собой почти периодические функции, и чем обширнее об-ласть, в которой спектральная модель рассматривается, тем большее числогармоник требуется моделировать. В частности, нерандомизированные спек-тральные модели (4.7) представляют собой гауссовские случайные поля с кор-реляционными функциями


Рис. 4.2. Профили морской поверхности длиной 2000 м с интервалом 5 с. Пять реализа-ций спектральной модели (слева) и условной спектральной модели (справа) представленыпоследовательно сверху вниз (параметры моделей см. в тексте). Направление движенияволн–– справа налево. Условная спектральная модель использовалась для моделированияэкстремально высокой волны с возвышением 10 м над средним уровнем (см. третью строкусправа). По оси ординат отложена амплитуда волн в метрах


Рис. 4.3. Гигантская волна «три сестры». Пространственно-временная условная спек-тральная модель использовалась для моделирования экстремально высокой волны с воз-вышением 10 м над средним уровнем (см. центральный рисунок в третьей строке). Кромеосновной гигантской волны, представленной в центральной части, наблюдаются две дру-гие, до и после основной (их профили представлены слева и справа). В правом верхнемуглу для каждого профиля морской поверхности дано его смещение по времени


Rn(x1, x2, t) =n∑

j=1

a2j cos[λ1(j)x1 + λ2(j)x2 + μ(j)t

], (4.10)

и погрешность существенно зависит от числа гармоник и размеров простран-ственно-временной области, где моделируется поле.

4.1.3. Вычислительные эксперименты

Вычислительные эксперименты проводились для модели морской поверхно-сти со спектром (4.1)–(4.5) и параметрами

μmax = 0.4 с−1, v = 7 м/с. (4.11)

Соответствующее однородное гауссовское случайное поле имеет дисперсию1.74м2. Пять последовательных профилей морской поверхности (построеннойс помощью спектральной модели) на участке длиной 2 000м с интервалом 5спредставлены на рис. 4.2. Слева изображены реализации спектральной моде-ли из 10 000 случайных гармоник, а справа––реализации условной спектраль-ной модели. Условная спектральная модель строилась при дополнительномтребовании, состоящем в том, что в одной (центральной) точке (x0, y0) рас-сматриваемого участка возвышение поверхности над средним уровнем дости-гает 10м в момент времени t0:

w(x0, y0, t0) = 10 м. (4.12)

Профиль поля возвышений морской поверхности w(·, y0, t0) представлен втретьей строке справа. На рис. 4.2 видно, что перед экстремально высокойволной и за ней появляются глубокие впадины. Как показало моделирование,несмотря на то, что условная спектральная модель учитывает только равен-ство (4.12), кроме основной гигантской волны возникают еще две экстремаль-но высокие волны чуть меньшего размера до и после основной с промежуткомпримерно 20 с, см. рис. 4.3. Это соответствует волне-убийце, известной подназванием «три сестры». Реализация условной спектральной модели уровняморского волнения в точке (x0, y0) в зависимости от времени представленана рис. 4.4. Наиболее высокая точка графика соответствует прохождениюгигантской волны в момент времени t0.Результаты теории выбросов случайных процессов и полей позволяют вы-

числить среднее число экстремально высоких волн для рассматриваемой мо-дели морского волнения на определенном участке или за известный проме-жуток времени выше заданного уровня. Соответствующие формулы имеютвид (см., например, [60,64])


Рис. 4.4. Возвышение морской поверхности относительно среднего уровня в зависимостиот времени (в фиксированной точке на плоскости). Максимальное значение соответствуетпрохождению экстремально высокой волны. Параметры условной спектральной моделипредставлены в тексте

Nxy(C) =C

2π√2πK11

√K22K33 −K2

23

K11exp

(− C2

2K11

)ΔS,

Nt(C) = (2π)−1(σ1/σ0) exp(− C2/(2σ2

0))ΔT, C > 0.

Здесь Nt(C)–– среднее число волн выше уровня C за интервал времени ΔT ,Nxy(C)–– среднее число волн выше уровня C на участке волнения площадьюΔS (в фиксированный момент времени), σ2

0 = K11 = Kxy(0, 0) = Kt(0) ––дисперсия случайного поля,

K22 = −∂2Kxy(x, 0)

∂x2

∣∣∣∣x=0

=

∞∫0

∞∫−∞

λ21f(λ1, λ2)dλ1dλ2,

K33 = −∂2Kxy(0, y)

∂y2

∣∣∣∣y=0

=

∞∫0

∞∫−∞

λ22f(λ1, λ2)dλ1dλ2,

K23 = −∂2Kxy(x, y)

∂x∂y

∣∣∣∣x=y=0

=

∞∫0

∞∫−∞

λ1λ2f(λ1, λ2)dλ1dλ2,

σ21 = −K ′′

t (0) =

∞∫0

μ2S(μ)dμ.

Под уровнем C понимается высота над средним уровнем взволнованной по-верхности. Ряд значений Nt(C) и Nxy(C) для модели морского волнения(4.1)–(4.5) с параметрами (4.11) представлены в табл. 4.1. В табл. 4.2 при-водятся значения для более сильного волнения с параметрами


μmax = 0.3 с−1, v = 10 м/с (4.13)

и дисперсией 5.84м2. Можно дать следующую интерпретацию значенийNt(C)для C = 13, 14 и 15 м из табл. 4.2. Предположим, что 100 морских судовнаходятся в плавании на достаточно большом расстоянии друг от друга вусловиях морского волнения со спектром (4.1)–(4.5), (4.13). Тогда в среднемза год произойдет примерно 1 встреча с гигантской волной выше 30м (высотаволны h соответствует уровню C = h/2), 11 встреч с волнами высотой выше28 м и 109 встреч с волнами выше 26м.

Таблица 4.1. Среднее число волн Nt(C) выше уровня C за год и среднее числоволн Nxy(C) выше уровня C на площади 100 кв.км (в фиксированный моментвремени) для модели морской поверхности (4.1)–(4.5), (4.11)

C,м Nt(C) Nxy(C)

5.0 2.162× 103 1.306× 101

5.5 4.799× 102 3.162× 100

6.0 9.230× 101 6.571× 10−1

6.5 1.538× 101 1.174× 10−1

7.0 2.221× 100 1.805× 10−2

7.5 2.778× 10−1 2.391× 10−3

8.0 3.011× 10−2 2.730× 10−4

8.5 2.828× 10−3 2.687× 10−5

9.0 2.301× 10−4 2.282× 10−6

9.5 1.622× 10−5 1.673× 10−7

10.0 9.911× 10−7 1.058× 10−8

Таблица 4.2. Среднее число волн Nt(C) выше уровня C за год и среднее числоволн Nxy(C) выше уровня C на площади 100 кв.км (в фиксированный моментвремени) для модели морской поверхности (4.1)–(4.5), (4.13)

C,м Nt(C) Nxy(C)

5 2.484× 105 7.439× 102

6 9.681× 104 3.475× 102

7 3.179× 104 1.330× 102

8 8.795× 103 4.200× 101

9 2.050× 103 1.099× 101

10 4.027× 102 2.395× 100

11 6.663× 101 4.351× 10−1

12 9.291× 100 6.604× 10−2

13 1.091× 100 8.385× 10−3

14 1.081× 10−1 8.915× 10−4

15 9.009× 10−3 7.944× 10−5

16 6.329× 10−4 5.936× 10−6

Предварительные результаты численного моделирования морской поверх-ности с аномально высокими волнами с помощью условных спектральных мо-


делей случайных полей позволяют предположить, что данный подход можетоказаться перспективным средством для анализа формирования и динамикигигантских волн в океане, а также для исследования воздействия экстре-мально высоких волн на морские суда и сооружения. Следует отметить, чтоспектральные модели могут быть построены для различных типов морско-го ветрового волнения и зыби. Важно лишь, чтобы информация о спектреволнения была как можно более полной. Кроме того, условные спектральныемодели позволяют учитывать дополнительную информацию о форме гигант-ской волны, если таковая имеется. Выше были приведены результаты вычис-лительных экспериментов, в которых аномально высокое значение водной по-верхности задавалось в одной точке. В общем случае условная спектральнаямодель позволяет «фиксировать» множество точек морской поверхности.Особый интерес представляет вопрос об адекватности оценок среднего

числа и вероятности возникновения аномально высоких волн на основе тео-рии выбросов случайных полей. Однако здесь требуется обширная статисти-ка появления гигантских волн в океане и информация о спектре морскоговолнения, при котором эти волны наблюдались.В заключение укажем также на проблему выбора параметров спектраль-

ной модели, которая требует дополнительных теоретических и эксперимен-тальных исследований. Известно, что число гармоник спектральной моделии само разбиение спектрального пространства могут существенно влиять нахарактер реализаций. Чем больше участок, на котором моделируется мор-ская поверхность, и чем больше временной интервал, тем больше гармоникнеобходимо моделировать. Теоретическое исследование погрешности услов-ных спектральных моделей весьма затруднительно. Один из приемов, кото-рый здесь может оказаться полезным, это последовательное уточнение спек-тральных моделей «на одном вероятностном пространстве», см. п. 3.8.

4.2. Моделирование бинарных однородных полейметодом обратной функции распределения

Ниже мы рассмотрим метод численного моделирования бинарных однород-ных случайных полей на основе пороговых преобразований гауссовских функ-ций, представляющий собой вариант метода обратной функции распределе-ния (см. п. 2.5). На рис. 4.5–4.12 представлены результаты вычислительныхэкспериментов, демонстрирующих возможности этого метода. На рисункахслева расположено входное наблюдаемое бинарное поле. Входное бинарноеполе анализируется и с помощью метода, описанного ниже, строится имита-ционная модель наблюдаемого поля. Две независимых реализации имитаци-онного поля расположены на рисунках справа.

4.2. Моделирование бинарных однородных полей 117

Рис. 4.5. Наблюдаемое бинарное поле (изображение слева) и его имитация (два изобра-жения справа)

Рис. 4.6. Наблюдамые бинарные поля расположены слева (эти изображения были предо-ставлены К. Роденакером), и реализации пороговых моделей (два изображения справа)

Рис. 4.7. Наблюдаемое бинарное поле слева–– это черно-белый вариант текстуры D75 из[84]. Реализации пороговых моделей представлены в центре (модельА) и справа (модельБ)


Рис. 4.8. Наблюдаемое бинарное поле слева –– это черно-белый вариант текстуры D101из [84]. Реализации пороговой модели представлены в центре и справа


Рис. 4.10. Наблюдаемое бинарное поле слева–– это черно-белый вариант текстуры D100из [84]. Реализации пороговой модели представлены в центре и справа



Рис. 4.12. Спутниковое изображение облачного поля (160× 160 км) расположено слева,а результаты моделирования с помощью пороговой модели–– в центре и справа

Перед тем как перейти к описанию моделей дадим пару пояснений.1. Алгоритм моделирования был реализован для статистически однород-

ных и изотропных полей. Поэтому имитация наблюдаемых полей на рис. 4.6,4.9, где входные реализации имеют заметную анизотропию, и на рис. 4.6, 4.12,где входные поля неоднородны, не совсем идеальная.2. Рассматриваемые пороговые модели строятся как преобразования гаус-

совских случайных полей. Гауссовские случайные поля обладают свойствоммаксимальной энтропии, т. е. наибольшей хаотичности, среди полей с задан-ными первыми и вторыми моментами. Это свойство в некоторой мере насле-дуется и пороговыми моделями. Поэтому пороговые модели мало пригодныдля имитации регулярных бинарных структур, см. рис. 4.7, 4.8, где модели-рование не удалось.Перейдем к описанию моделей. Обозначение ε(x), x ∈ R

2, будем исполь-зовать для случайного поля, которое может принимать лишь два значения:ε(x) ∈ {0, 1}. Гауссовская пороговая модель бинарного случайного поля мо-жет быть описана следующим образом. Предположим, что u(x)–– веществен-ное гауссовское поле на плоскости, и рассмотрим разбиение вещественной осина два непересекающихся множества

A0 ∪ A1 = (−∞,∞), A0 ∩ A1 = ∅.Положим

ε(x) =

{0, если u(x) ∈ A0,

1, если u(x) ∈ A1.(4.14)

Сделаем еще два предположения, которые упрощают ситуацию. Во-пер-вых, будем считать, что гауссовское поле u является однородным с нулевымсредним и корреляционной функцией Ku(y) = Mu(x+ y)u(x). А, во-вторых,будем рассматривать две модели с множествами A0, A1 вида

A0 = (−∞, d), A1 = [d,+∞), d ∈ (−∞,+∞)

для модели А и


A0 = (−d, d), A1 = (−∞, d] ∪ [d,+∞), d ∈ (0,+∞)

для модели Б. Параметр d будем называть уровнем или порогом, а самобинарное поле ε(x)–– пороговой моделью.

Замечание 4.2. Такие пороговые модели случайных полей находят до-статочно широкое применение при решении различных прикладных задач.В частности, они используются для моделирования стохастической структу-ры разорванной облачности [104, 107], полей атмосферных осадков [99], слу-чайных двухфазных сред [90,114] и т. д.

При сделанных предположениях бинарное поле ε (как и гауссовское по-ле u) является однородным. Пусть Φ обозначает функцию стандартного нор-мального распределения, а erf(·)–– функцию ошибок:

erf(a) = 2(Φ(a)− 0.5

), a ≥ 0.

Для математического ожидания бинарного поля ε выполненоmε=P (ε=1) =P (u ∈ A1) и

mε = 1− Φ(d) (4.15)

для модели А,

mε = 1− erf(d) = 2(1− Φ(d)

)= 2Φ(−d) (4.16)

для модели Б. Нетрудно убедиться, что ковариационная функция Kε(x) =Mε(x + y)ε(y) бинарного поля ε(x) и корреляционная функция Ku(x) гаус-совского поля связаны соотношением

Kε(x) = R(Ku(x)), (4.17)

гдеR(ρ) =

∫{(ξ,η): ε(ξ)ε(η)=1}

ϕρ(ξ, η) dξ dη, (4.18)

и

ϕρ(ξ, η) =

[2π√

1− ρ2 exp(ξ2 + η2 − 2ρξη

2(1− ρ2)

)]−1

–– плотность двумерного гауссовского вектора с нулевым средним, единич-ными дисперсиями компонент и коэффициентом корреляции ρ между ком-понентами.Таким образом, пороговая модель бинарного поля ε(x) определяется уров-

нем d и корреляционной функциейKu(x) однородного гауссовского поля u(x).


Если доступны реализации бинарного поля ε и выбран тип пороговой модели,то параметры модели можно оценить следующим образом. Сперва вычисля-ется оценка m∗

ε среднего значения mε поля ε. Затем приближенное значениеуровня d∗ находится из уравнения m∗

ε = 1 − Φ(d∗) для модели А и из урав-нения m∗

ε = 2Φ(−d∗) для модели Б. Далее вычисляется оценка K∗ε (x) кова-

риационной функции Kε(x), а оценка K∗u(x) корреляционной функции Ku(x)

гауссовского поля u(x) находится из равенства

K∗ε (x) = R(K∗

u(x)), (4.19)

где зависимость R определена в (4.18) (см. далее формулы (4.20) и (4.22)).Если определены параметры пороговой модели (уровень и корреляцион-

ная функция гауссовского поля), то численный алгоритм сводится к модели-рованию гауссовского поля u(x) и преобразованию (4.14).Искажение ковариаций при поточечном преобразовании гауссовских

функций мы рассматривали в п. 2.5. Исследуем более подробно зависимость(4.17) для пороговых моделей А и Б.Рассмотрим сначала модель А. В этом случае формулу (4.18) можно за-

писать в виде

R(ρ) =

+∞∫d

+∞∫d

ϕρ(ξ, η) dξ dη.

Для численных расчетов целесообразно воспользоваться представлением че-рез функцию Оуэна (см., например, [61] и имеющиеся там ссылки)

R(ρ) = Φ(−d)− 2T (d, a). (4.20)

Здесь

a =

√1− ρ

1 + ρ, (4.21)

а

T (d, a) =1

2π

a∫0

e−d2(1+u2)/2 du

1 + u2

обозначает функцию Оуэна. При этом выполнено [61]

h∫−∞

k∫−∞

ϕρ(ξ, η) dξ dη =1

2Φ(h) +

1

2Φ(k)− T (h, a1)− T (k, a2)

при hk > 0 и


h∫−∞

k∫−∞

ϕρ(ξ, η) dξ dη =1

2Φ(h) +

1

2Φ(k)− T (h, a1)− T (k, a2)− 1

2

при hk ≤ 0, гдеa1 =

k − ρh

h√

1− ρ2, a2 =

h− ρk

k√1− ρ2

.

Функция Оуэна обладает свойствами:

T (h, a) = −T (h,−a), T (h, a) = T (−h, a),

T (h, a) + T (ah, 1/a) =1

4− erf(h) erf(ah) (a ≥ 0, h ≥ 0),

T (h, 0) = 0, T (0, a) =arctg(a)

2π,

T (h,∞) =1− 2 erf(h)

4, T (h, 1) =

1− 4 erf2(h)

8(h ≥ 0).

Так как среднее значение mε бинрного поля ε равно p1 = P (ε = 1) =1 − Φ(d) = Φ(−d), а дисперсия равна p1p0, где p0 = P (ε = 0) = Φ(d), токорреляционную и нормированную корреляционную функции можно пред-ставить в виде

M(ε(x+ y)−mε)(ε(y)−mε) = Φ(d)Φ(−d)− 2T (d, a),

M(ε(x+ y)−mε)(ε(y)−mε)

Dε= 1− 2T (d, a)

p0p1∈[−min{p0, p1}

max{p0, p1} , 1],

где a определена (4.21) и ρ = Ku(x). Отметим, что эти функции нечетныеотносительно ρ.Для модели Б выполнено

R(ρ) = 2

+∞∫d

+∞∫d

ϕρ(ξ, η) dξ dη + 2

+∞∫d

−d∫−∞

ϕρ(ξ, η) dξ dη,

и можно получить

R(ρ) = 4Φ(−d)− 4{T (d, a) + T (d, 1/a)}, (4.22)

Dε = 2Φ(−d)(1− 2Φ(−d)), d > 0,

M(ε(x+ y)−mε)(ε(y)−mε) = 4Φ(d)Φ(−d)− 4{T (d, a) + T (d, 1/a)}.

Здесь a =√(1− ρ)/(1 + ρ) и ρ = Ku(x). Для модели Б функция R четная,

R(−ρ) = R(ρ).


Замечание 4.3. Прямое обращение (4.19) может оказаться неприемлемымдля вычисления K∗

u, так как необходимо учитывать дополнительные требо-вания: положительную определенность K∗

u, предположение о гладкости, ха-рактере сходимости к нулю и т. д. Кроме того, операция обращения можетбыть неоднозначной для модели Б. Отметим, что модель Б настраиваетсяболее сложно по сравнению с моделью А. На всех рисунках кроме рис. 4.7представлены реализации модели А.Важным этапом построения пороговой модели является численное моде-

лирование гауссовского поля u(x). Для этого можно воспользоваться различ-ными методами, в том числе спектральными. В вычислительных эксперимен-тах, результаты которых представлены на рис. 4.6–4.12, использовались спек-тральные модели однородных изотропных гауссовских полей на плоскости,описанные в п. 3.6. На рис. 4.5 представлены реализации, полученные поро-говым преобразованием схем скользящего суммирования (детали см. в [108]).В заключение этого пункта представим еще несколько примеров имитации

природных объектов с помощью гауссовских пороговых моделей. На рис. 4.13,4.14 приведены результаты имитации стохастических полей облачности, а нарис. 4.15––результаты имитации поля конвективных ячеек в фотосфере Солн-ца. Здесь также использовалась пороговая модель А со спектральными изо-тропными моделями гауссовских полей на плоскости, содержащими несколь-ко тысяч гармоник. Исходные изображения заимствованы с сайтов NASA.

Рис. 4.13. Спутниковый снимок участка 540×400 км циклонической облачности над юж-ной частью Атлантического океана–– слева, и результаты имитации–– справа (балл облач-ности 6.2)

Рис. 4.14. Спутниковый снимок участка облачности 480×215 км с ячейками открытоговида около западного побережья Южной Америки (вверху) и результат моделирования(внизу). Балл облачности–– 1.5


Рис. 4.15. Гранулы фотосферы Солнца: наблюдаемое изображение площадью40000×40000 км (вверху), соответствующее черно-белое изображение (слева во второйстроке), результат его моделирования (справа во второй строке), увеличенный участокв левом нижнем углу (слева в третьей строке) и его модель (справа в третьей строке)

4.3. Имитация стохастических полей разорваннойоблачности

Для изучения особенностей радиационного баланса и переноса излученияв атмосфере методами численного моделирования необходима разработкамоделей стохастической структуры облачных полей, которые позволяли быучитывать статистическую зависимость различных компонент, описывающихгеометрические и оптические характеристики облачности. Таким образом,возникает необходимость создания численных моделей векторных случайныхполей специального вида. Ниже описывается соответствующий класс случай-ных полей и рассматриваются методы моделирования, позволяющие воспро-изводить корреляционные свойства и маргинальные распределения. В каче-стве примера представлены численная модель комплекса «оптическая тол-щина–– высота верхней границы» поля разорванной облачности, построеннаяпо результатам спутниковых измерений.

4.3. Имитация разорванной облачности 125

4.3.1. Основные определения и постановка задачи

Определение. Однородное (векторное) случайное поле ξ(x), x ∈ Rd, бу-дем называть полубинарным, если его одноточечное маргинальное распреде-ление Fξ (т. е. распределение случайных величин ξ(x)) представляет собойсмесь непрерывного распределения F1 в Rk и вырожденного распределенияF0, сосредоточенного на некотором элементе ξ0 (который для простоты мыбудем считать числовым, хотя, в принципе, он может быть совершенно про-извольной природы): Fξ = F1 + F0. Элемент ξ0 будем называть вырожден-ным значением полубинарного поля ξ. Индикаторным полем (или, просто,индикатором) полубинарного поля ξ с вырожденным элементом ξ0 будемназывать случайное поле

1ξ(x) =

{0, если ξ(x) = ξ0,

1, иначе.(4.23)

Далее под маргинальным распределением мы будем всегда понимать од-ноточечное маргинальное распределение. Маргинальное распределение од-нородного бинарного случайного процесса или поля можно представить каксмесь двух вырожденных распределений (сосредоточенных, например, в точ-ках 0 и 1). Переходя к полубинарным случайным функциям, одно из вырож-денных распределений мы «заменяем» на непрерывное, описывающее, напри-мер, некоторый сигнал, в то время как оставшееся вырожденное распределе-ние соответствует отсутствию сигнала. Подобные случайные функции частовстречаются в различных приложениях (временные ряды и поля осадков, по-ля разорванной облачности и т. п.). Для векторного полубинарного поля либо«сигнал отсутствует» для всех компонент, что соответствует вырожденномузначению, либо его значение распределено по некоторому непрерывному рас-пределению в Rk. Так, например, если над поверхностью в точке x ∈ R2 име-ется облако, то его характеристики можно задать некоторым вектором ξ(x)(описывающем, к примеру, оптическую плотность, высоту нижней и верхнейграницы облака), а если облако отсутствует, то ξ(x) = ξ0.Данный пункт посвящен разработке методов численного моделирования

полубинарных векторных однородных случайных полей и построению имита-ционных моделей разорванной облачности на основе этих методов. Сначаламы представим численную модель скалярного полубинарного поля и затемопишем простое обобщение на векторный случай. Для того чтобы проблемаприобрела более строгий математический смысл, необходимо сформулиро-вать свойства, которым должна удовлетворять конструируемая численнаямодель случайного поля. Мы будем требовать, чтобы численная модель вос-производила маргинальные распределения полубинарного поля и простран-


ственную корреляционную функцию либо самого поля, либо его индикато-ра. Наиболее подходящим для решения поставленной задачи представляетсяметод обратной функции распределения и его модификации. При этом чис-ленная модель полубинарного поля строится как нелинейное преобразованиеподобранной специальным образом гауссовской случайной функций.

4.3.2. Моделирование скалярных и векторных полубинарныхслучайных полей

1. Напомним, что основная идея метода обратной функции распределения иего модификаций для моделирования негауссовских однородных полей состо-ит в следующем (см. п. 2.5). Сперва моделируется гауссовское случайное полеu(x) c нулевым средним, единичной дисперсией и некоторой корреляционнойфункцией ρ(y) = Mu(x+ y)u(x), и затем случайный процесс ξ моделируетсяпо формуле

ξ(x) = f(u(x)

). (4.24)

Этот метод называют еще методом (безинерционных) нелинейных преоб-разований гауссовских функций. Он позволяет моделировать негауссовскиеоднородные случайные поля с любым маргинальным распределением и при-ближенно воспроизводить требуемую корреляционную функцию. Случайныеполя ξ, удовлетворяющие соотношению (4.24), иногда называют квазигаус-совскими.Маргинальное распределение обеспечивается выбором подходящего нели-

нейного преобразования f . Для «классического» метода обратной функциираспределения преобразование f является монотонно неубывающим:

f(u) = F−1Φ(u), (4.25)

где Φ–– функция стандартного нормального распределения, а

F−1(α) = inf{z : F (z) > α

},

что совпадает с обратной функцией в случае непрерывного распределения.Одна из возникающих здесь проблем состоит в том, что преобразованийf , обеспечивающих требуемое маргинальное рспределение, можно построитьбесчисленное множество, например,

f(u) = F−1(g(Φ(u))

),

где g –– произвольное отображение отрезка [0, 1] в себя, сохраняющее меруЛебега. В частности, монотонно невозрастающее преобразование имеет вид


f(u) = F−1(1− Φ(u)

).

Ковариационная функция случайного поля (4.24) имеет вид

Mξ(x)ξ(y) = r(x, y) = Rf

(ρ(x, y)

), (4.26)

Rf(ρ) =

+∞∫−∞

+∞∫−∞

f(u)f(v)ϕρ(u, v) du dv,

где

ϕρ(u, v) =

[2π√

1− ρ2 exp(u2 + v2 − 2ρuv

2(1− ρ2)

)]−1

является плотностью двумерного гауссовского вектора с нулевым математи-ческим ожиданием, единичной дисперсией компонент и коэффициентом кор-реляции между компонентами ρ. Таким образом, для того чтобы случайноеполе (4.24) имело заданную ковариационную функцию

Mξ(x)ξ(y) = r(x, y),

гауссовское поле u(x) должно иметь корреляционную функцию

ρ(x, y) = R−1f

(r(x, y)

). (4.27)

Здесь мы также сталкиваемся с серьезными проблемами, связанными с чис-ленным обращением (4.27) и возможным отсутствием свойства положитель-ной определенности вычисленной функции ρ (мы уже обсуждали эти пробле-мы в п. 2.5). Поэтому при решении многих прикладных задач воспроизвестиковариационную структуру моделируемого негауссовского поля удается лишьприближенно.Таким образом, непосредственное применение метода нелинейных преоб-

разований гауссовских функций для моделирования однородных полубинар-ных случайных полей связано с существенной неопределенностью при выборенелинейного преобразования (4.24) и трудностями вычисления корреляций(4.27). Чтобы упростить ситуацию, предлагается вместо предыдущей задачимоделирования однородного полубинарного поля с заданными одномернымраспределением и корреляционной функцией решать задачу моделированияоднородного полубинарного поля с заданным одномерным распределением изаданной корреляционной функцией индикаторного поля (4.23). Такой под-ход представляется целесообразным при решении различных прикладных за-дач, так как он упрощает вычислительный алгоритм, требует меньше пред-варительной информации о моделируемом объекте и облегчает настройкумодели.


В качестве моделирующего алгоритма рассмотрим следующую процедуру.На первом этапе по гауссовской функции u(x) моделируется индикаторное(бинарное) поле 1ξ(x) следующим образом:

1ξ(x) =

{0, если u(x) ∈ A0,

1, если u(x) ∈ A1,(4.28)

гдеA0 ∪ A1 = (−∞,∞), A0 ∩ A1 = ∅.

По сути, это тот же самый метод нелинейных преобразований. Предваритель-ное моделирование индикаторного поля позволяет более эффективно контро-лировать «качество» имитации структуры множества, на котором поле при-нимает значения из непрерывного распределения F1.Для индикаторных полей облачности в работе [30] было предложено ис-

пользовать две модели:

A0 = (−∞, d), A1 = [d,+∞), d ∈ (−∞,+∞) (4.29)

иA0 = (−d, d), A1 = (−∞, d] ∪ [d,+∞), d ∈ (0,+∞). (4.30)

Эти модели применялись в п. 2.39 для моделирования случайных бинарныхтекстур. В работе [53] было показано, что модели стохастической структурыразорванной облачности на основе (4.28)–(4.30) могут быть хорошо согласо-ваны с результатами наземных и спутниковых наблюдений.Выбрав подходящую модель (4.28) индикаторного поля, на втором этапе

моделируется реализация полубинарного поля по формуле

ξ(x) =

{ξ0 при 1ξ(x) = 0,

F−11 Φ1

(u(x)

)при 1ξ(x) = 1,

(4.31)

где u(x)–– численная реализация гауссовской функции, по которой было по-строено индикаторное поле 1ξ(x), а Φ1––функция распределения стандартнойнормальной случайной величины при условии, что ее значение принадлежитмножеству A1. Выражение (4.31) соответствует методу обратной функциираспределения и обеспечивает требуемое одномерное распределение полуби-нарного поля ξ(x). Для моделей (4.29) и (4.30) выполнено

Φ1(z) =∫ z

dφ(z)dz/C, C =

∫ ∞

dφ(z)dz,

где φ–– плотность стандартного нормального распределения.


2. Предположим теперь, что однородное полубинарное случайное поле ξ(x)является векторным

ξ(x) =[ξ1(x), . . . , ξn(x)

],

и известно маргинальное распределение Fξ = F0 + F1 поля ξ, т. е. известноn-мерное распределение вектора ξ(x). В этом случае рассмотренный выше ал-горитм численного моделирования может быть модифицирован следующимобразом. На первом этапе также с помощью гауссовской функции u(x) мо-делируется индикаторное поле 1ξ(x), а на втором этапе строится реализациявекторного полубинарного поля по следующей формуле:

ξ(x) =

{ξ0 при 1ξ(x) = 0,

η(u(x), x) при 1ξ(x) = 1,(4.32)

Здесь η(u(x), x) –– n-мерные случайные векторы, моделируемые независимодля различных значений второго аргумента, распределения Fη(z1, . . . , zn|u)которых определяются значением u. Распределения Fη(z1, . . . , zn|u) выбира-ются таким образом, чтобы выполнялось∫

Fη(z1, . . . , zn|u)φ(u)du = F1(z1, . . . , zn). (4.33)

Формулы (4.32), (4.33) обеспечивают требуемое маргинальное распределениемоделируемого поля, а пространственная структура поля определяется кор-реляционной структурой гауссовской функции u. Для комплексных моделейразорванной облачности, рассмотренных далее, при построении случайныхвекторов η использовался следующий метод. Сначала одна из компонент век-тора моделировалась методом обратной функции распределения

ηk(u(x), x

)= [F

(k)1 ]−1Φ

(u(x)

), (4.34)

а затем остальные компоненты вектора η(u(x), х) моделировались по услов-ному распределению Fη(ηm,m �= k|ηk) для известного значения ηk. Через F (k)

1

здесь обозначена непрерывная составляющая распределения k-й компонентыξk векторного полубинарного поля ξ.

Замечание 4.4. Характерной особенностью только что описанного алго-ритма моделирования является то, что для компонент полубинарного по-ля, отличных от компоненты с номером k, реализации получаются более«зашумленными» по сравнению с реальными полями, по которым строитсячисленная модель (см. далее пункт, посвященный моделированию разорван-ной облачности). Фактически это обусловлено формулой (4.32) и тем, что


случайные векторы η(u(x), x) являются независимыми для разных x (прификсированных значениях u(x)). Рандомизация по индексу k, для которогоприменяется (4.34), не позволяет улучшить реализации. Одно из возможныхрешений этой проблемы–– введение дополнительной пространственной зави-симости между векторами η, что, судя по всему, сделает построение моделизначительно более сложным. Можно, наоборот, воспользоваться упрощеннымподходом, когда формула (4.34) используется для всех компонент вектора η.При этом, гладкость реализаций компонент векторного полубинарного по-ля определяется гладкостью реализации гауссовской функции, но правильнобудут воспроизводиться лишь распределения для самих компонент поля, ане их совместное распределение. Для такой упрощенной модели, когда всекомпоненты векторного поля моделируются с помощью монотонных преоб-разований (4.34) одной и той же гауссовской функции, взаимные корреляциимежду компонентами принимают наибольшие возможные значения.

4.3.3. Совместное моделирование оптической толщины и высотыверхней границы разорванной облачности

Описанная выше методика была использована для разработки совместноймодели оптической толщины и высоты верхней границы пространственныхполей разорванной облачности. Подобные модели представляют значитель-ный интерес для исследования процессов переноса излучения и радиацион-ного баланса в облачной атмосфере (см, например, [53] и имеющиеся тамссылки). Исходные реализации случайных полей, по которым строилась ими-тационная стохастическая модель и настраивались ее параметры, приведенана рис. 4.16. Реализация имитационной модели приведена на рис. 4.17. Припостроении имитационной модели использовалось предположение об одно-родности и изотропности наблюдаемого поля.

Рис. 4.16. Поле оптической толщины (слева) и высоты верхней границы (справа) дляоблачности на площади 160×160 км с разрешением 1 км. Изображения построены по спут-никовым данным, полученным спектрорадиометром MODIS


Рис. 4.17. Реализация стохастической имитационной модели: поле оптической толщины(слева) и высоты верхней границы (справа) для облачности на площади 160×160 км сразрешением 1 км

Формально задача состоит в следующем. Наблюдаемое поле можно пред-ставить как реализацию двумерного векторного полубинарного случайногополя ζ(x) = [ζ1(x), ζ2(x)] с компонентами ζ1 и ζ2, описывающими, соответ-ственно, оптическую толщину и высоту верхней границы облачности, и дву-мерным параметром x, задающим координаты на плоскости. Требуется по-строить имитационную модель, т. е. модель двумерного векторного полуби-нарного случайного поля ξ(x) = [ξ1(x), ξ2(x)], характеристики и реализациикоторого были бы подобны наблюдаемому полю ζ(x).Опишем более подробно процедуру построения имитационной модели об-

лачности согласно общей методике, представленной в предыдущем пункте.На первом этапе строится численная модель гауссовского однородного изо-тропного случайного поля u(x) с нулевым средним, единичной дисперсией икорреляционной функцией ρ(x). Корреляционная функция вычисляется поформуле

ρ(x) = R−1(r(x)

),

где r(x) –– ковариационная функция индикаторного поля 1ζ(x), r(x) =M1ζ(0)1ζ(x) (она оценивается по индикатору реализации поля ζ(x)), а функ-ция R определена выражением (4.29), что объясняется выбором модели(4.28), (4.29). Параметр d при этом вычисляется из равенстваM1ζ = 1−Φ(d),а среднее значение M1ζ , которое имеет в данном случае смысл балла облач-ности, также оценивается по имеющейся реализации 1ζ . В качестве численноймодели однородного гауссовского поля u(x) использовалась рандомизирован-ная спектральная модель для изотропных полей, представленная в п. 3.6.Построенная таким образом по индикатору 1ζ численная модель гауссовскогополя u(x) лежит в основе имитационной модели ξ(x) = [ξ1(x), ξ2(x)] комплек-са «оптическая толщина–высота верхней границы» облачности. Сперва по ре-ализации u(x) строится индикаторное поле 1ξ(x) согласно формулам (4.28),


(4.29), которое служит имитацией реального индикаторного поля 1ζ(x). За-тем моделируются компоненты двумерного полубинарного поля, описываю-щего структуру облачности. В качестве первой компоненты ξ1(x) мы взялиполе оптической толщины. Она моделируется нелинейным преобразованиемгауссовского поля (см. (4.31)):

ξ1(x) =

⎧⎨⎩0 при 1ξ(x) = 0,

F−1ξ1

Φ1

(u(x)

)при 1ξ(x) = 1ю

Здесь u(x)––численная реализация гауссовской функции, по которой было по-строено индикаторное поле 1ξ(x), Φ1 –– функция распределения стандартнойнормальной случайной величины при условии, что ее значение принадлежитмножеству A1 = [d,+∞), а Fξ1 –– непрерывная компонента распределенияξ1(x), которая оценивается по реализации ζ1(x). Далее, по имеющейся реа-лизации ζ(x) = [ζ1(x), ζ2(x)] оценивается условное распределение ζ2(x) прификсированных значениях ζ1(x). Именно это условное распределение исполь-зуется для моделирования второй компоненты ξ2(x) при известной первойкомпоненте ξ1(x). Построенная таким образом имитационная модель доста-точно хорошо воспроизводит совместное эмпирическое распределение компо-нент [ζ1(x), ζ2(x)] наблюдаемого поля и пространственную корреляционнуюструктуру индикаторного поля, рис. 4.18, 4.19.

Рис. 4.18. Нормированная корреляционная функция индикаторного поля облачно-сти, построенная по спутниковым наблюдениям (сплошная линия), представленным нарис. 4.16, и по результатам имитационного моделирования (штрихпунктирная линия),представленным на рис. 4.17


Рис. 4.19. Эмпирические плотности совместного распределения оптической толщины ивысоты верхней границы облачности полученные по спутниковым наблюдениям (слева),см. рис. 4.16, и по результатам имитационного моделирования (справа), см. рис. 4.17

Отметим, что в принципе можно отказаться от предположения изотропно-сти моделируемого случайного поля, которое для рассмотренных облачныхполей выполнено с определенной натяжкой. В данном случае это предпо-ложение использовалось для «более точного» оценивания распределений иковариаций, так как в нашем примере моделирующий алгоритм строился поединственной реализации случайного поля.

Приложение А

Моделирование гауссовских распределений

А.1. Гауссовские распределения

Случайный вектор ξ = (ξ1, . . . , ξn)T называется гауссовским, если его харак-

теристическая функция имеет вид

Mei〈λ,ξ〉 = exp(i〈λ,m〉 − 〈λ,Rλ〉/2), λ ∈ R

n,

где m = Mξ = (Mξ1, . . . ,Mξn)T –– вектор средних значений,

R = M(ξ −m)(ξ −m)T =[M(ξi −mi)(ξj −mj)

]–– матрица корреляций, 〈. , .〉 –– скалярное произведение в R

n. Если матрицаR невырождена, то гауссовское распределение имеет плотность в Rn:

f(x) =[det(2πR)

]−1/2exp

[− 〈(x−m), R−1(x−m)〉/2], x ∈ Rn.

Гауссовские распределения обладают рядом замечательных свойств: изнекоррелируемости гауссовских величин следует их независимость; линей-ное преобразование гауссовского вектора также имеет гауссовское распреде-ление; наилучшее среднеквадратическое приближение гауссовской величиныгауссовским семейством оказывается линейным.Если ξ = Aε –– линейное преобразование гауссовского вектора ε с нуле-

вым средним и корреляционной матрицей Rε, то вектор ξ будет гауссовскимс нулевым средним и корреляционной матрицей R = ARεA

T . Этот фактиспользуется для моделирования гауссовских векторов: пусть ε –– вектор изнезависимых стандартных нормальных величин (Rε = I –– единичная матри-ца) и известно представление R = AAT , тогда гауссовский вектор ξ с матема-тическим ожиданием m и корреляционной матрицей R можно моделироватьпо формуле ξ = Aε+m.Если A –– симметричная матрица, A = AT , то A = R1/2 и матрицу A

можно приближенно вычислять с помощью рекуррентной процедуры

A0 = 0, An+1 = An +(2‖R‖1/2)−1

(R− A2n)

(см., например, задачу 567 в [32]), либо матрица A может быть найдена поформуле A = W (D)1/2W T , где D –– диагональная матрица с собственными

134

А.2. Условные гауссовские распределения 135

числами матрицы R по диагонали, а W –– матрица, столбцы которой состоятиз собственных векторов матрицы R, R = WDW T .Если потребовать, чтобы A была нижней треугольной матрицей, то это

приведет к известным рекуррентным формулам на элементы матрицы Art

(представление R = AAT в этом случае называют разложением Холецкого):

A11 = (R11)1/2,

Art =

(Rrt −

t−1∑k=1

ArkAtk

)/Att, t = 1, . . . , r − 1,

Arr =

(Rrr −

r−1∑t=1

A2rt

)1/2

, r = 2, . . . , s.

Упражнение 1. Проверьте следующее утверждение: разложение веще-ственной симметричной положительно определенной матрицы R = AAT

определяется однозначно с точностью до ортогонального оператора: R =AAT = AU(AU)T , UUT = I . Используйте полярное разложение матриц.

2. Предложите свой метод разложения R = AAT , отличный от рассмотрен-ных выше.

3. Запрограммируйте алгоритмы моделирования гауссовского вектора с за-данными вектором средних значений и корреляционной матрицей, используяразличные способы разложения корреляционной матрицы; сравните быстро-действие алгоритмов.

А.2. Условные гауссовские распределения

Представим, что гауссовский вектор ξ ∈ Rn с математическим ожиданием m

и корреляционной матрицей R состоит из двух компонент размерности j и k:

ξ = (ξ1, ξ2)T , ξ1 ∈ R

j, ξ2 ∈ Rk, j + k = n.

Тогда вектор средних и корреляционную матрицу можно представить в виде

m = (m1,m2)T , m1 ∈ R

j, m2 ∈ Rk,

R =

[R11 R12

R21 R22

],

где mi –– математические ожидания, а Rii –– корреляционные матрицы векто-ров ξi, i = 1, 2.Распределение вектора ξ1 при условии ξ2 = x является гауссовским с

математическим ожиданием

136 А. Моделирование гауссовских распределений

m(x) = m1 +R12R−122 (x−m2)


R1|2 = R11 −R12R−122 R21

(см., например, § 6 гл. 6 в учебнике [18]).Если матрица R22 вырождена и

ξ2 = x ∈ m2 +R22(Rk),

то формулы для условного среднего и корреляционной матрицы примут вид[2]

m(x) = m1 +R12R+22(x−m2),

R1|2 = R11 −R12R+22R21,

где R+22 –– псевдообратная к матрице R22. Если же x не принадлежит носите-

лю распределения ξ2, т. е. x /∈ m2 + R22(Rk), то эти формулы дают значения

математического ожидания и корреляционной матрицы гауссовского распре-деления ξ1 при условии, что ‖ξ2 − x‖ принимает минимальное значение.

Упражнение 1. Запрограммируйте алгоритм численного моделированиягауссовского вектора ξ1 при условии минимума ‖ξ2−x‖. Для псевдообращениякорреляционной матрицы воспользуйтесь рекуррентными формулами из [2],с. 193.

2. Выпишите формулы для моделирования трехмерного гауссовского век-тора (ξ1, ξ2, ξ3) с заданными средними значениями и корреляционной матри-цей с использованием условного распределения ξ2 при фиксированном ξ1 иусловного распределения ξ3 при фиксированных значениях ξ1, ξ2. Используй-те формулу для обратной матрицы[

a b

c d

]−1

=1

ad− cb

[d −b

−c a

].

3. Выпишите формулу для моделирования значения винеровского процессаw(x) в точке c ∈ (a, b) при фиксированных значениях винеровского процессав точках a и b. При c = (a+ b)/2 сравните полученные выражения с алгорит-мом из [25], c. 93. Указание: покажите, что условное распределение w(c) приусловии w(a)=wa, w(b) = wb является гауссовским со средним


b− c

b− awa +

c− a

b− awb

и дисперсией(b− c)(c− a)

b− a.

Приведем несколько утверждений, касающихся условных гауссовских рас-пределений, соответствующие доказательства можно найти, например, в [51].

Лемма А.1. Пусть ξ –– гауссовский случайный вектор размерности k сматематическим ожиданием m и невырожденной корреляционной матри-цей R; A–– прямоугольная l×k-матрица, 0 < l ≤ k, rang(A) = l; b–– векторразмерности l. Тогда условное распределение вектора ξ при условии Aξ = bбудет гауссовским с математическим ожиданием

m+RAT (ARAT )−1(b− Am) (А.1)


R−RAT (ARAT )−1AR. (А.2)

Более общая формулировка содержится в первой части следующей лем-мы.

Лемма А.2. Предположим, что система линейных алгебраических урав-нений Aξ = b совместна.(1) Пусть ξ –– гауссовский случайный вектор с математическим ожида-

нием m и корреляционной матрицей R такой, что b−Am ∈ AR(Rk). Тогдаусловное распределение вектора ξ при условии Aξ = b будет гауссовским сматематическим ожиданием

μ = m+R1/2(AR1/2)+(b− Am) = m+RAT (ARAT )+(b− Am) (А.3)


B = R−R1/2(AR1/2)+AR = R−RAT (ARAT )+AR. (А.4)

(2) Если ξ –– вектор из независимых стандартных нормальных случай-ных величин, то формулы (А.3), (А.4) примут вид

μ = A+b, (А.5)

B = I − A+A. (А.6)

Через A+ здесь и далее обозначается псевдообратная матрица к матри-це A.


Лемма А.3. Пусть ξ –– вектор из независимых стандартных нормальныхслучайных величин. Тогда условное распределение вектора ξ при условии,что ξ является псевдорешением системы линейных алгебраических урав-нений Aξ = b, будет гауссовским с математическим ожиданием (А.5) икорреляционной матрицей (А.6).

Напомним, что псевдорешениями линейной системы Ax = b называютрешения (нормальной) системы ATAx = AT b, которая всегда является сов-местной. Решения нормальной системы (и только они) обеспечивают мини-мум нормы невязки исходной системы: |Ax−b| → min. Среди псевдорешенийсуществует единственное с минимальной нормой, которое определяется с по-мощью псевдообратной матрицы: x = A+b. Такое псевдорешение называетсянормальным.

Пример А.1. Рассмотрим гауссовский двумерный случайный вектор(ξ1, ξ2)

T с нулевым математическим ожиданием и корреляционной матрицей[r1 rr r2

].

Условное распределение вектора (ξ1, ξ2)T при ξ1+ξ2 = b является гауссовскимс математическим ожиданием

c b

[r1 + rr + r2

]и корреляционной матрицей

c

[d −d

−d d,

],

где c = 1/(r1+2r+ r2), d = r1r2− r2. Отсюда получаем следующие формулыдля численного моделирования:

ξ1 =

(r1r2 − r2

r1 + 2r + r2

)1/2

ε+r1 + r

r1 + 2r + r2b,

ξ2 = b− ξ1.

(А.7)

Здесь ε–– стандартная нормальная случайная величина.

Пример А.2. Воспользовавшись выражениями (А.7), легко получитьформулы моделирования n независимых гауссовских случайных величинξ1, . . . , ξn с нулевым средним и дисперсиями σ2

1, . . . , σ2n при условии ξ1+ . . .+

ξn = b:


ξ1 =

(σ22 + . . .+ σ2

n

σ21 + . . .+ σ2

n

)1/2

σ1ε1 +σ21

σ21 + . . .+ σ2

n

b,

ξ2 =

(σ23 + . . .+ σ2

n

σ22 + . . .+ σ2

n

)1/2

σ2ε2 +σ22

σ22 + . . .+ σ2

n

(b− ξ1),

ξ3 =

(σ24 + . . .+ σ2

n

σ23 + . . .+ σ2

n

)1/2

σ3ε3 +σ23

σ23 + . . .+ σ2

n

(b− ξ1 − ξ2),

. . .

ξn−1 =

(σ2n

σ2n−1 + σ2

n

)1/2

σn−1εn−1 +σ2n−1

σ2n−1 + σ2

n

(b− ξ1 − . . .− ξn−2),

ξn = b− ξ1 − ξ2 − . . .− ξn−1.

Здесь ε1, ε2, . . . , εn−1 –– независимые стандартные нормальные случайные ве-личины.

Лемма А.4. Пусть x ∈ Rk, A –– n × k-матрица, ξ –– n-мерный гауссов-

ский случайный вектор с математическим ожиданиемm и корреляционнойматрицей R.(1) При условии, что существует решение системы Ax = ξ, распреде-

ление вектора ξ будет гауссовским с математическим ожиданием Qm икорреляционной матрицей QR, где

Q = I −RP (PRP )+P = I −R1/2(PR1/2)+P,

P = I − AA+ = Pr(Ker(AT )) –– проектор на ядро матрицы AT . При этомнеобходимое и достаточное условие существования векторов y ∈ R(Rn),принадлежащих носителю распределения вектора ξ, для которых системасовместна, можно представить в виде

Pm ∈ PR(Rn). (А.8)

(2) Уравнение Ax = ξ однозначно определяет распределение вектора xтогда и только тогда, когда выполнено условие (А.8) и условие

rang(A) = k (и, значит, n ≥ k). (А.9)

При этом вектор x=A+ξ будет распределен по гауссовскому закону со сред-ним A+Qm и корреляционной матрицей A+QR(A+)T.


Условие (А.9) гарантирует единственность решения уравнения Ax = ξ,если решение существует, а условие (А.8) обеспечивает непустое пересечениеIm(A) и носителя распределения ξ, т. е. существование реализаций случайно-го вектора ξ, при которых решение существует.Для доказательства леммы А.4 можно воспользоваться леммой А.2 и тем,

что условие ξ ∈ Im(A) означает (I − AA+)ξ = 0.

А.3. Обобщенный винеровский процесс

Обобщенный винеровский процесс (процесс дробного броуновского движения)с параметром α, α ∈ (0, 2], определяется как гауссовский процесс wα(t) снулевым средним и корреляционной функцией

Kα(t, s) = Mwα(t)wα(s) =(|t|α + |s|α − |t− s|α)/2.

Очевидно, что для обобщенного винеровского процесса выполненоwα(0) = 0 и Dwα(t) = |t|α. При α = 1 получается «обыкновенный» вине-ровский процесс:

K1(t, s) = Mw1(t)w1(s) =(t+ s− |t− s|)/2 = min(t, s), t, s ≥ 0.

При α = 2 выполнено K2(t, s) = ts и реализации процесса являютсяпрямыми линиями.Имеют место следующие представления:

Kα(t, s) =(|t|α + |s|α − |t− s|α)/2 =

A2

2π

+∞∫−∞

1

|λ|α+1(eiλt − 1) (e−iλs − 1) dλ

=A2

π

+∞∫0

1

λα+1

[cos

(λ(t− s)

)− cos(λt)− cos(λs) + 1]dλ,

wα(t) =A√2π

+∞∫−∞

1

|λ|α+12

(eiλt − 1) dz(λ)

=A√π

{ +∞∫0

1

λα+12

(cosλt− 1) dξ(λ)−+∞∫0

1

λα+12

sinλt dη(λ)

}.

Здесь z(λ) –– комплексный стандартный винеровский процесс, а ξ(λ), η(λ) ––независимые вещественные стандартные винеровские процессы:

А.3. Обобщенный винеровский процесс 141

Mz(λ) = Mξ(λ) = Mη(λ) = 0,

M|dz(λ)|2 = M[dξ(λ)]2 = M[dη(λ)]2 = dλ, z(−λ) = z(λ),

z(λ) =1√2ξ(λ) + i

1√2η(λ).

Для α = 1 константа A равна единице, а в общем случае она определяетсяиз равенств

A2 =

{2

π

∞∫0

1

λα+1(1− cosλ)dλ

}−1

=

{− 2

πΓ(−α) cos

απ

2

}−1

.

Упражнения. 1) Выведите вышеупомянутые представления для обобщен-ного винеровского процесса и его корреляционной функции, используя тож-дества (см., например, [20])

1

2

∞∫0

xμ−1(1− cos 2bx) dx =

∞∫0

xμ−1 sin2 bx dx = −Γ(μ)

2μ+1|b|−μ cos

μπ

2,

−2 < Reμ < 0.

2) Постройте «спектральные» численные модели обобщенного винеров-ского процесса и сравните их с моделями из работы [105].3) Какие другие численные методы вы можете предложить для модели-

рования процесса дробного броуновского движения?4) Докажите, что случайные процессы wα(Ct) и Cα/2wα(t), C > 0, имеют

одни и те же конечномерные распределения (это свойство называют автомо-дельностью, или самоподобием с параметром α/2).5) Докажите, что случайный процесс δ(t) = wα(t + h) − wα(t) является

стационарным с нулевым средним, корреляционной функцией

R(τ) = Mδ(t+ τ)δ(t) =|τ + h|α + |τ − h|α

2− |τ |α

и спектральной плотностью

A2

π

1

|λ|α+1(1− cosλh), λ ∈ (−∞,+∞).

6) Покажите, что, если τ > h > 0, то:–– для α = 1 выполнено R(τ) = 0 (это просто означает независимость

приращений для “обыкновенного” винеровского процесса),


–– если α > 1, то R(τ) > 0 (обобщенный винеровский процесс при этомназывают персистентным: приращения в прошлом положительно коррели-рованы с приращениями в будущем),–– R(τ) < 0, если α < 1 (обобщенный винеровский процесс при этом на-

зывают антиперсистентным).7) Докажите, что случайная последовательность δ(n) имеет спектральную

плотностьA2

π(1− cosλh)

+∞∑k=−∞

1

|λ+ 2kπ|α+1, λ ∈ (−π, π).

Используя этот факт, покажите, что выражение

2(1− cosλ)+∞∑

k=−∞

1

|λ+ 2kπ|2

равно единице для всех λ.8) Постройте и проанализируйте методы численного моделирования слу-

чайной последовательности δ(n) на основе схем авторегрессии и скользящегосреднего.

Замечание. 1. Известно, что фрактальная размерность реализаций обоб-щенного винеровского процесса равна 2− α/2.2. Формально можно считать, что обобщенный винеровский процесс–– это

производная дробного порядка (1 − α)/2 от обычного винеровского процес-са или интеграл порядка (1 + α)/2 от белого шума (при α → −1 процесс«стремится» к белому шуму).

Приложение Б

Программирование мультипликативныхгенераторов псевдослучайных чисел

Б.1. О мультипликативных датчиках

В данном приложении рассматриваются особенности реализации мультипли-кативных датчиков псевдослучайных чисел αj,

αj = C ∗ nj, nj+1 = nj ∗ L (modM), C = M−1 (Б.1)

на языках программирования высокого уровня.Ниже представлены следующие процедуры, написанные на Турбо-Паска-

ле для IBM PC и реализующие мультипликативный метод:RAND_1: M = 231, L = 331 804 469 [25].RAND_2: M = 240, L = 517 [4, 25].RAND_3: M = 255, L = 48 044 648 058 128 333 [4].RAND_4: M = 270, L = 529.Процедура RAND_5 реализует суммирование по модулю 1 трех мультипли-

кативных генераторов [6]:

αj = C1 ∗ n1j + C2 ∗ n2

j + C3 ∗ n3j (mod 1),

nkj+1 = nk

j ∗ L1(modMk), Ck = M−1k ,

L1 = 1528, M1 = 1400 159, L2 = 1356, M2 = 1500 419,

L3 = 1856, M3 = 1001 003.

Процедура RAND_6 реализуют суммирование по модулю 1 пяти мультиплика-тивных генераторов.Результаты тестирования некоторых мультипликативных и смешанных

конгруэнтных генераторов приведены в [4]. Там же найден ряд множите-лей, оптимальных с точки зрения функционально-корреляционных характе-ристик. В монографии [41] рекомендуется использовать метод вычетов (Б.1)с коэффициентами

M = 2m, L = 52p+1, p = max{q : 52q+1 < M}. (Б.2)

Это соображение было использовано при выборе множителя в процедуреRAND_4.

143 144 Б. Программирование мультипликативных генераторов

Более подробные сведения о датчиках псевдослучайных чисел можно най-ти в обширной литературе (см., например, [19,23,25,62,63,86]).Для того, чтобы мультипликативная псевдослучайная последователь-

ность обладала наибольшим возможным периодом, множитель должен вы-бираться специальным образом.

Теорема Б.1 (см., например, [23]). Максимальная длина периода последо-вательности (Б.1) при M = 2m, m ≥ 3, равна 2m−2 и достигается для всехнечетных n0, если остаток от деления L на 8 равен 3 или 5.

Согласно работе [5], в вычислительном алгоритме не рекомендуется ис-пользовать более чем P 2/3 чисел псевдослучайной последовательности, гдеP –– период последовательности.Кратко остановимся на особенностях программной реализации процедур

RAND_1-RAND_6.Процедура RAND_1 использует специфику обработки переполнения целых

чисел на Турбо-Паскале (диапазон целых чисел типа LONGINT:−231 . . . 231−1). В процедурах RAND_2–RAND_6 переполнения не происходят.В процедурах RAND_2-RAND_4 фактически реализовано умножение целых

чисел в системе счисления по основанию 214:

∗ an . . . a3 a2 a1bn . . . b3 b2 b1

+ c1,n+1 c1,n . . . c1,3 c1,2 c1,1+ c2,n+1 c2,n c2,n−1 . . . c2,2 c2,1

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .+ cn,n+1 . . . . . . . . . . . . cn,1

a′2n . . . . . . . . . . . . a′n . . . a′3 a′2 a′1,

где ai, bi, cij –– «цифры» соответствующей системы счисления.Для увеличения быстродействия в процедурах RAND_2-RAND_4 использу-

ются специальные операции Турбо-Паскаля с целыми числами

Cmod 2k = C and(2k − 1), C div 2k = C shr k.

Здесь and –– операция побитового умножения, а shr – операция побитовогосдвига вправо. Создавать более быстродействующие реализации алгоритмовпозволяет программирование на низком уровне (ассемблер, машинные коды).Отметим, что алгоритм, реализованный в процедурах RAND_2–RAND_4, лег-

ко настраивается для любого модуля вида M=2m и произвольного множи-теля L. Константы b1, . . . , bn в этих процедурах представляют разложениемножителя L в системе счисления по основанию 2k, k ≤ 14,

Б.1. Мультипликативные датчики 145

L = b1 + b22k + b32

2k + . . .+ bn2(n−1)k,

n–– число цифр в разложении. Система счисления по основанию 2k, k = 14,может быть использована в данном алгоритме при m ≤ 98, n ≤ 7 (приn > 7 возникнут переполнения за диапазон LONGINT; для k = 13 допустимызначения n ≤ 31).В процедурах RAND_5, RAND_6 используется суммирование по модулю 1

псевдослучайных чисел, полученных несколькими мультипликативными ге-нераторами (см. [6]). В качестве модулей этих мультипликативных генера-торов используются числа Смита (различные для разных генераторов), а вкачестве множителей первообразные корни чисел Смита. (Число Смита–– этопростое число, представимое в виде 2P+1, где P также простое. Целое числоL называют первообразным корнем простого числа M , если 1 < L < M инаименьшая степень k, для которой выполнено Lk modM = 1, равна M − 1.)В этом случае период мультипликативной последовательности равен соот-ветствующему числу Смита, уменьшенному на единицу, а период датчика, вкотором числа, полученные несколькими различными мультипликативнымигенераторами, суммируются по модулю 1, равен произведению периодов сум-мируемых генераторов. Использование такой методики позволяет констру-ировать генераторы с практически неограниченным периодом. Кроме того,суммирование по модулю 1 дает псевдослучайную последовательность с улуч-шенными статистическими свойствами (см. [7, 81]).Замечание. Датчики псевдослучайных чисел, реализованные на языкахпрограммирования высокого уровня, естественно, значительно уступают побыстродействию датчикам, реализованным на машинно-ориентированных язы-ках. Однако во многих случаях генерация случайных чисел не является кри-тическим моментом в вычислительных алгоритмах и составляет лишь неболь-шую долю в общем объеме вычислений. В этой ситуации использование дат-чиков, написанных на языках высокого уровня, может оказаться более пред-почтительным из соображений универсальности и переносимости программ.

Упражнение 1. Найдите остаток от деления 5p на 8 для различных значе-ний p.

2. Запрограммируйте алгоритмы моделирования псевдослучайных чисел помультипликативному алгоритму (Б.1) со следующими параметрами:

а) M = 1400423, L = 1499 [6] (покажите, что в данном случае M явля-ется числом Смита, а L – его первообразный корень);

б) M = 231, L = 513 [62];

146 Б. Программирование мультипликативных генераторов

в) M = 242, L = 517 [19, 63];

г) M = 247, L = 515, n0 = 2001 (P = 245 ≈ 3.52·1013, P 2/3 ≈ 1.07·109)[68];

д) M = 248, L = 519 (этот датчик используется в пакете MCNP––«A General Monte Carlo N-Particle transport code»);

е) M = 255, L = 14 312 160 467 264 461 [4];

ж) M = 254, 255, 256, L = 523;

з) M = 298, множитель L выберите по правилу (Б.2);

и) M = 2128, множитель L выберите по правилу (Б.2);

к) M = 2128, L = 5K mod 2128, K = 100109 [86].

Определите периоды этих датчиков.

3. Изучите принцип, заложенный в «вещественной» реализации мультипли-кативного генератора в процедуре RAND_2r. Какие условия должны выпол-няться для корректной работы алгоритма, использованного в этой процеду-ре? Сравните быстродействие «вещественной» реализации алгоритма с быст-родействием «целочисленной» процедуры RAND_2.

Приведенные в следующем пункте тексты программ, а также другие ге-нераторы на Паскале, Фортране и Си можно найти в Интернете по адресуhttp://osmf.sscc.ru/˜smp.

Б.2. Тексты процедур на Паскале{Subject: Demo program for different

generators of pseudo-random numbersAuthor: Sergei Mikhailovich Prigarin

e-mail: [email protected] http://osmf.sscc.ru/~smpInstitution: Institute of Computational Mathematics

and Mathematical Geophysics (Novosibirsk),Siberian Branch of Russian Academy of Sciences

Language: Turbo Pascal for IBM PC}

{$A+,B-,D-,E+,F-,G+,I+,L-,N+,O-,P-,Q-,R+,S+,T-,V-,X+}{$M 16384,0,655360}PROGRAM RND_TEST;

{--------------------------------------------------

Б.2. Тексты процедур на Паскале 147

Мультипликативный датчик псевдослучайных чиселM = 2**31, L = 331 804 469

(период 2**29 = 536 870 912)--------------------------------------------------

Начальное значение 1 <= N <= 2 147 483 647}function RAND_1:real;const N:longint=1;

L=331804469;C=1.0/MaxLongInt; {MAXLONGINT = 2 147 483 647}

beginN := N * L;if N <= 0 then N := N + MaxLongInt + 1;RAND_1 := N * C;

end;

{--------------------------------------------------Мультипликативный датчик псевдослучайных чисел

M = 2**40, L = 5**17 = 762 939 453 125(период 2**38 = 274 877 906 944)

--------------------------------------------------Начальные значения: 1<=a1<=16383, 0<=a2<=16383,

0<=a3<=4095, a1 - нечетное !}function RAND_2: real;const {40=14+14+12}

a1:longint=1; a2:longint=0; a3:longint=0;b1:longint=11973; b2:longint=2800; b3:longint=2842;x1=1.0/4096.0; x2=x1/16384.0; x3=x2/16384.0;

var c11, c12, c13, c21, c22, c31: longint;d1, d2, d3: longint;

beginc11 := b1*a1; c12 := b1*a2; c13 := b1*a3;c21 := b2*a1; c22 := b2*a2;c31 := b3*a1;d1 := c11;d2 := c21 + c12 + (d1 shr 14);d3 := c31 + c22 + c13 + (d2 shr 14);a1:=d1 and 16383; a2:=d2 and 16383; a3:=d3 and 4095;

{ для стандартного паскаля:d2 := c21 + c12 + (d1 div 16384);d3 := c31 + c22 + c13 + (d2 div 16384);a1:=d1 mod 16384; a2:=d2 mod 16384; a3:=d3 mod 4096;

}RAND_2 := a3*x1 + a2*x2 + a1*x3;

END;

{--------------------------------------------------


Мультипликативный датчик псевдослучайных чиселM = 2**55, L = 48 044 648 058 128 333(период 2**53 = 9 007 199 254 740 992)

--------------------------------------------------Начальные значения: 1<=a1<=16383, 0<=a2<=16383,

0<=a3<=16383, 0<=a4<=8191, a1 - нечетное !}function RAND_3: real;const {55=14+14+14+13}

a1:longint=1; a2:longint=0; a3:longint=0;a4:longint=0;

b1: longint=1997; b2: longint=4980;b3: longint=1445; b4: longint=10924;x1 = 1.0/8192.0; x2 = x1/16384.0;x3 = x2/16384.0; x4 = x3/16384.0;

var c11,c12,c13,c14,c21,c22,c23,c31,c32,c41: longint;d1,d2,d3,d4: longint;

beginc11:=b1*a1; c12:=b1*a2; c13:=b1*a3; c14:=b1*a4;c21:=b2*a1; c22:=b2*a2; c23:=b2*a3;c31:=b3*a1; c32:=b3*a2;c41:=b4*a1;d1 := c11;d2 := c21 + c12 + (d1 shr 14);d3 := c31 + c22 + c13 + (d2 shr 14);d4 := c41 + c32 + c23 + c14 + (d3 shr 14);a1:=d1 and 16383; a2:=d2 and 16383;a3:=d3 and 16383; a4:=d4 and 8191;RAND_3 := a4*x1 + a3*x2 + a2*x3 + a1*x4;

end;

{--------------------------------------------------Мультипликативный датчик псевдослучайных чиселM = 2**70, L = 5**29 = 186 264 514 923 095 703 125

(период 2 68 = 295 147 905 179 352 825 856)--------------------------------------------------Начальные значения: 0 <= a1,a2,a3,a4,a5 <= 16383,

a1 - нечетное !}function RAND_4: real;const {70=14*5}

a1:longint=1; a2:longint=0; a3:longint=0;a4:longint=0; a5:longint=0;

b1:longint=15957; b2:longint=11842; b3:longint=5942;b4:longint=15391; b5:longint=2584;

x1=1.0/16384.0; x2=x1/16384.0; x3=x2/16384.0;x4=x3/16384.0; x5=x4/16384.0;

var c11,c12,c13,c14,c15,c21,c22,c23,c24,


c31,c32,c33,c41,c42,c51: longint;d1,d2,d3,d4,d5: longint;

beginc11:=b1*a1; c12:=b1*a2; c13:=b1*a3; c14:=b1*a4;c15:=b1*a5;c21:=b2*a1; c22:=b2*a2; c23:=b2*a3; c24:=b2*a4;c31:=b3*a1; c32:=b3*a2; c33:=b3*a3;c41:=b4*a1; c42:=b4*a2;c51:=b5*a1;d1 := c11;d2 := c21 + c12 + (d1 shr 14);d3 := c31 + c22 + c13 + (d2 shr 14);d4 := c41 + c32 + c23 + c14 + (d3 shr 14);d5 := c51 + c42 + c33 + c24 + c15 + (d4 shr 14);a1:=d1 and 16383; a2:=d2 and 16383;a3:=d3 and 16383; a4:=d4 and 16383;a5:=d5 and 16383;RAND_4 := a5*x1 + a4*x2 + a3*x3 + a2*x4 + a1*x5;

end;

{-----------------------------------------------Датчик М.В. Антипова

(период 1400158*1500418*1001002=2.10292729e+18)-----------------------------------------------

Начальные значения: 1 <= n1 <= 1400158,1 <= n2 <= 1500418,1 <= n3 <= 1001002

}function RAND_5: real;const n1:longint=1; n2:longint=1; n3:longint=1;const c1=1.0/1400159; c2=1.0/1500419; c3=1.0/1001003;var R: real;begin

n1 := (n1*1528) mod 1400159;n2 := (n2*1356) mod 1500419;n3 := (n3*1856) mod 1001003;R := n1 * c1 + n2 * c2 + n3 * c3;RAND_5 := frac(R);

end;

{---------------------------------------------Датчик М.В. Антипова

(период 27000706*24001798*21000982**15001606*10000222=2.0417656605e+36)

---------------------------------------------Начальные значения: 1 <= n1 <= 27000706,

1 <= n2 <= 24001798,1 <= n3 <= 21000982,


1 <= n4 <= 15001606,1 <= n5 <= 10000222

}FUNCTION Rand_6: double;Function DMOD(x,y:double):double;Begin

DMOD:=x-y*int(x/y);End;const n1:double=1; n2:double=1; n3:double=1;

n4:double=1; n5:double=1;const c1:double=1.0/27000707;

c2:double=1.0/24001799;c3:double=1.0/21000983;c4:double=1.0/15001607;c5:double=1.0/10000223;

var R: double;begin

n1 := DMOD(n1*6173, 27000707);n2 := DMOD(n2*7853, 24001799);n3 := DMOD(n3*10330, 21000983);n4 := DMOD(n4*20203, 15001607);n5 := DMOD(n5*45773, 10000223);R := n1*c1 + n2*c2 + n3*c3 + n4*c4 + n5*c5;RAND_6 := frac(R);

end;

{------------------------------------------------------Multiplicative generator with module 2**40and multiplier 5**17 = 762 939 453 125(cycle length 2**38 = 274 877 906 944)

Pascal "real-valued" realization, by S.M.Prigarin------------------------------------------------------Initial values: 0 <= A1,A2 <= 1048575, A1 must be odd !Here we set: A1=1, A2=0

}function Rand_2r: double;const {40=20+20}

a1:double=1; a2:double=0;b1: double=798405; b2: double=727595;x1=1.0/1048576; x2=x1/1048576;

var c11, c12, c21, d1, d2: double;

Function DMOD(x,y:double):double;Begin DMOD:=x-y*int(x/y); End;

begin


c11 := b1*a1; c12 := b1*a2; c21 := b2*a1;d1 := c11; d2 := c21 + c12 + int(d1*x1);a1:= DMOD(d1,1048576); a2:=DMOD(d2,1048576);Rand_2r := a2*x1 + a1*x2;

END;

{}var test, code: integer; i,k: longint; x: double;BEGIN {PROGRAM}

k:=0;

val(paramstr(1), test, code);case test of

1: for i:=1 to 1000000 do x := Rand_1;2: for i:=1 to 1000000 do x := Rand_2;3: for i:=1 to 1000000 do x := Rand_3;4: for i:=1 to 1000000 do x := Rand_4;5: for i:=1 to 1000000 do x := Rand_5;6: for i:=1 to 1000000 do x := Rand_6;7: for i:=1 to 1000000 do x := Rand_2r;else for i:=1 to 1000000 do x := Random;

{ Встроенный датчик Турбо-Паскаля версии 6.0:Random = abs(n(j) / 2^31),

n(j) = [134775813*n(j-1)+1+2^31] mod 2^32 - 2^31}

end;writeln(x);

END.

Литература

[1] Аверина Т.А., Михайлов Г.А. Алгоритмы точного и приближенного статистическо-го моделирования пуассоновских ансамблей // Журн. вычисл. математики и мат.физики.–– 2010. –– Т. 50, № 6.–– С. 1005–1016.

[2] Алберт А. Регрессия, псевдоинверсия и рекуррентное оценивание.––М.: Наука, 1977.[3] Анваров С.Р., Пригарин С.М. Численное моделирование пространственно-временной

структуры поверхности морского волнения для решения оптических задач // Опти-ка атмосферы и океана.–– 1994.–– Т. 7, № 5.–– С. 685–693.

[4] Антипов М.В. Оценка и выбор генератора псевдослучайных чисел для заданногокласса задач. –– Новосибирск, 1985. –– 18 с. –– (Препринт / АН СССР. Сиб. отд-ние.ВЦ; 554).

[5] Антипов М.В. Ограничения в вычислительных методах Монте–Карло при исполь-зовании псевдослучайных чисел // Теория и приложения статистического модели-рования.–– Новосибирск, 1989. –– С. 3–9.

[6] Антипов М.В. Системы генераторов псевдослучайных чисел для персональных ком-пьютеров. –– Новосибирск, 1990. –– 27 с. –– (Препринт / АН СССР. Сиб. отд-ние. ВЦ;910).

[7] Антипов М.В., Михайлов Г.А. Оценки неравномерности распределений конгруэнт-ных сумм случайных величин // Докл. РАН.–– 1996.–– Т. 347, № 1.–– С. 23–26.

[8] Бенктус Р. и др. Тестовые примеры временных рядов // Применение теории веро-ятностей и математической статистики.–– Вильнюс, 1985. –– Вып. 6. – С. 31–46.

[9] Боровков А.А. Теория вероятностей.––М.: Наука, 1986.[10] Биллингсли П. Сходимость вероятностных мер.––М.: Наука, 1977.[11] Виленкин Н.Я. Снова о счастливых билетах // Квант.–– 1989. ––№ 8.–– C. 42.[12] Владимиров В.С. О применении метода Монте-Карло для отыскания наименьшего

характеристического числа и соответствующей собственной функции линейного ин-тегрального уравнения // Теория вероятностей и ее применения. –– 1956. –– Т. 1. ––С. 113–130.

[13] Винклер Г. Анализ изображений, случайные поля и методы Монте-Карло на цепяхМаркова.–– Новосибирск: Изд-во ГЕО, 2008.

[14] Гандин Л.С., Каган Р.Л. Статистические методы интерпретации метеорологическихданных.–– Л.: Гидрометеоиздат, 1976.

[15] Гелбаум Б., Олмстед Дж. Контрпримеры в анализе. ––М.: Мир, 1967.[16] Гихман И.И., Скороход А.В. Теория случайных процессов.––М.: Наука, 1971.–– Т. 1.[17] Гихман И.И., Скороход А.В. Введение в теорию случайных процессов.––М.: Наука,

1977.[18] Гихман И.И., Скороход А.В., Ядренко М.И. Теория вероятностей и математическая

статистика.–– Киев: Вища школа, 1979.[19] Голенко Д.И. Моделирование и статистический анализ псевдослучайных чисел на

электронных вычислительных машинах.––М.: Наука, 1965.

152


[20] Градштейн И.С., Рыжик И.М. Таблицы интегралов, сумм, рядов и произведений.––М.: Физматгиз, 1963.

[21] Давидан И.М., Лопатухин Л.И., Рожков В.А. Ветровое волнение в Мировом оке-ане. –– Л.: Гидрометеоиздат, 1985.

[22] Золотарев В.М. Современная теория суммирования независимых случайных вели-чин.––М.: Наука, 1986.

[23] Ермаков С.М. Метод Монте–Карло и смежные вопросы.––М.: Наука, 1971.[24] Ермаков С.М. Метод Монте-Карло в вычислительной математике: вводный курс.––

СПб.: Невский диалект, 2009.[25] Ермаков С.М., Михайлов Г.А. Статистическое моделирование. ––М.: Наука, 1982.[26] Ермаков С.М., Некруткин В.В., Сипин А.С. Случайные процессы для решения клас-

сических уравнений математической физики.––М.: Наука, 1984.[27] Кан А.В., Кан Ю.С. О гарантирующем объеме выборки в задаче оценивания неиз-

вестной вероятности // Автоматика и телемеханика.–– 2010.––№ 3.–– С. 46–53.[28] Каргин Б.А. Статистическое моделирование поля солнечной радиации в атмосфе-

ре. –– Новосибирск: Изд. ВЦ СО АН СССР, 1984.[29] Каргин Б.А., Пригарин С.М. Имитация поверхности морского волнения и исследова-

ние ее оптических свойств методом Монте–Карло // Оптика атмосферы и океана.––1992.–– Т. 5, № 3.–– С. 285–291.

[30] Каргин Б.А., Пригарин С.М. Имитационное моделирование кучевой облачности дляисследования процессов переноса солнечной радиации в атмосфере методом Монте-Карло // Оптика атмосферы и океана.–– 1994. –– Т.7, № 9.–– С. 1275-1287.

[31] Кендал М., Моран П. Геометрические вероятности.––М.: Наука, 1972.[32] Кириллов А.А., Гвишиани А.Д. Теоремы и задачи функционального анализа.––М.:

Наука, 1979.[33] Колмогоров А.Н. Основные понятия теории вероятностей.––М.-Л.: ГОНТИ, 1936.[34] Корн Г., Корн Т. Справочник по математике для научных работников и инжене-

ров. ––М.: Наука, 1970.[35] Королюк В.С., Портенко Н.И., Скороход А.В., Турбин А.Ф. Справочник по теории

вероятностей и математической статистике. ––М.: Наука, 1985.[36] Ламперти Дж. Вероятность. ––М.: Наука, 1973.[37] Леоненко Н.Н., Иванов А.В. Статистический анализ случайных полей.––Киев: Вища

школа, 1986.[38] Марчук Г.И., Михайлов Г.А., Назаралиев М.А., Дарбинян Р.А., Каргин Б.А., Еле-

пов Б.С. Метод Монте-Карло в атмосферной оптике.–– Новосибирск: Наука, 1976.[39] Михайлов Г.А. Некоторые вопросы теории методов Монте-Карло. –– Новосибирск:

Наука, 1974.[40] Михайлов Г.А. Численное построение случайного поля с заданной спектральной

плотностью // Докл. АН СССР.–– 1978. –– Т. 238, № 4. – С. 793–795.[41] Михайлов Г.А. Оптимизация весовых методов Монте-Карло.––М.: Наука, 1987.[42] Михайлов Г.А. Весовые алгоритмы статистического моделирования.––Новосибирск:

Изд-во ИВМиМГ СО РАН, 2003.

154 Литература

[43] Михайлов Г.А., Войтишек А.В. Численное статистическое моделирование. МетодыМонте-Карло.––М.: Изд. центр «Академия», 2006.

[44] Назаралиев М.А. Статистическое моделирование радиационных процессов в атмо-сфере. –– Новосибирск: Наука, 1990.

[45] Огородников В.А. О динамико-вероятностном прогнозе // Изв. АН СССР. Сер.ФАО.–– 1975.–– Т. 11, № 8.–– С. 851–853.

[46] Палагин Ю.И. Математическое моделирование векторных случайных полей // Ав-томатика и телемеханика.–– 1981. ––№ 2.–– С. 35–42.

[47] Петров В.В. Предельные теоремы для сумм независимых случайных величин.––М.:Наука, 1987.

[48] Пиранашвили З.А. Некоторые вопросы статистико-вероятностного моделированияслучайных процессов // Вопросы исследования операций. –– Тбилиси: Мецниереба,1966. –– С. 53–91.

[49] Пригарин С.М. Условные спектральные модели гауссовских однородных полей. ––Новосибирск, 1997. –– 19с. –– (Препринт/РАН. Сибирское отделение, ВЦ; N 1098).

[50] Пригарин С.М. Основы статистического моделирования переноса оптического излу-чения.–– Новосибирск: Изд-во Новос. гос. ун-та, 2001.

[51] Пригарин С.М. Методы численного моделирования случайных процессов и полей.––Новосибирск: Изд. ИВМиМГ СО РАН, 2005.

[52] Пригарин С.М. Основы статистического моделирования переноса поляризованногооптического излучения.–– Новосибирск: Изд-во Новос. гос. ун-та, 2010.

[53] Пригарин С.М., Маршак А.Л. Численная имитационная модель разорванной облач-ности адаптированная к результатам наблюдений // Оптика атмосферы и океана.––2005.–– Т. 18, № 3.–– С. 256-263

[54] Пригарин С.М., Хан К., Винклер Г., Дисперсионная размерность случайных после-довательностей и ее применение, Сибирский журнал вычислительной математики.––2009.–– Т. 12, № 4.–– С. 435–448

[55] Пригарин С.М., Хан К., Винклер Г., Оценка фрактальной размерности случайныхполей на основе анализа дисперсии приращений // Сибирский журн. вычисл. мат.––2011.–– Т. 14, № 1.–– С. 91–102.

[56] ПрохоровЮ.В., РозановЮ.А. Теория вероятностей. Основные понятия. Предельныетеоремы. Случайные процессы.––М.: Наука, 1987.

[57] Рао С.Р. Линейные статистические методы и их применение. ––М.: Наука, 1968.[58] Розанов Ю.А. Стационарные случайные процессы.––М.: Наука, 1990.[59] Сабельфельд К.К. Методы Монте-Карло в краевых задачах.––М: Наука, 1989.[60] Свешников А.А. Прикладные методы теории случайных функций.––М.: Наука, 1968.[61] Смирнов Н.В., Большев Л.Н. Таблицы для вычисления функций нормального рас-

пределения.––М.: Изд-во Изв. АН СССР, 1962.[62] Соболь И.М. Метод Монте-Карло.––М.: Наука, 1985.[63] Соболь И.М. Численные методы Монте-Карло.––М.: Наука, 1973.[64] Тихонов В.И., Хименко В.И. Выбросы траекторий случайных процессов.––М.: Нау-

ка, 1987.


[65] Толстов Г.П. Мера и интреграл.––М.: Наука, 1976.

[66] Улам С.М. Приключения математики. –– Ижевск: НИЦ «Регулярная и хаотическаядинамика», 2001.

[67] Феллер В. Введение в теорию вероятностей и ее приложения.––М.: Мир, 1984.––Т. 2.

[68] Франк-Каменецкий А.Д. Моделирование траекторий нейтронов при расчете реакто-ров методом Монте-Карло.––М.: Атомиздат, 1978.

[69] Хастингс Н., Пикок Дж. Справочник по статистическим распределениям.––М.: Ста-тистика, 1980.

[70] Чачванидзе В.В. Метод случайных испытаний (метод Монте-Карло) // Тр. ин-тафизики АН Груз. ССР.–– 1955.––№ 3.–– C. 105.

[71] Чачванидзе В.В. Применение метода случайных испытаний к расчету внутриядер-ного каскада // Изв. АН СССР, сер. физ. –– 1955.–– Т. 19, № 6.–– С. 629–638.

[72] Ченцов Н.Н. Статистические решающие правила и оптимальные выводы.––М.: На-ука, 1972.

[73] Шалыгин А.С., Палагин Ю.И. Прикладные методы статистического моделирова-ния.–– Л.: Машиностроение, 1986.

[74] Шевцова И.Г. Уточнение верхней оценки абсолютной постоянной в неравенствеБерри-Эссена // Теория вероятностей и ее применения. –– 2006. –– Т. 51, вып. 3. ––C. 622–626.

[75] Ширяев А.Н. Вероятность. ––М.: Наука, 1989.

[76] Шифрин К.С. Введение в оптику океана.–– Л.: Гидрометеоиздат, 1983.

[77] Шрейдер Ю.А. Метод статистических проб (Монте-Карло) и его использование вцифровых машинах // Приборостроение. –– 1955. ––№ 7.–– С. 1–5.

[78] Ядренко М.И. Спектральная теория случайных полей. –– Киев: Изд. Киев. ун-та,1980.

[79] A Million Random Digits with 100000 Normal Deviates. –– Free Press, 1955.

[80] Adler R.J. The Geometry of Random Fields. –– Chichester: John Wihley & Sons. 1981.

[81] Antipov M.V., Mikhailov G.A. On the improvement in random number generators byusing a modulo 1 sum // Rus. J. Numer. Anal. and Math. Modell. –– 1996. –– Vol. 11,№ 2. – P. 93–111.

[82] Bahr B., Esseen C.G. Inequalities for the r-th absolute moment of a sum of randomvariables (1 < r ≤ 2) // Ann. of Math. Stat. –– 1965.–– Vol. 36, № 1.–– P. 229–303.

[83] Box G.E.P., Muller M.E. A note on the generation of random normal deviates // Ann.Math. Statist. –– 1958.–– Vol. 29. –– P. 610–611.

[84] Brodatz P. Textures: a Photographic Album for Artists and Designers. –– NY: DoverPublications, 1966.

[85] Brown G.W. Monte Carlo methods // Modern Mathematics for the Engineer / Ed. byE.F.Beckenbach. –— NY: McGraw-Hill, 1956. –— P. 279–303.

[86] Dyadkin I.G., Hamilton K.G. A study of 128-bit multipliers for congruentialpseudorandom number generators // Computer Physics Communications. –– 2000. ––Vol. 125. –– P. 239–258.

156 Литература

[87] Greenwood V. Algorithm 81-02. A portable formulation of the alias method for randomnumbers with discrete distributions // Comm. Statist.-Simula. Comput. –– 1981. ––B10(6). –– P. 649–655.

[88] Gridgeman N.T. Geometric probability and the number π // Scripta Mathematica. ––1960.–– Vol. 25. –– P. 183–195.

[89] Kargin B.A., Oppel U.G., Prigarin S.M. Simulation of the undulated sea surface and studyof its optical properties by Monte Carlo method // Proc. SPIE. –– 1999. –– Vol. 3583. ––P. 316–324.

[90] Koutsourelakis P.-S., Deodatis G., Simulation of binary random fields with applicationsto two-phase random media // J. Eng. Mech.–– 2005.–– Vol. 131, № 4.–– P. 397–412.

[91] Kraichnan R.H., Diffusion by a random velocity field // Phys. Fluids. –– 1970. –– Vol. 13,№ 1.–– P. 22–31.

[92] Kronmal R.A., Peterson A.V.Jr. An acceptance-complement analogue of the mixture-plus-acceptance-rejection method for generating random variables // ACM Trans. Math.Soft. –– 1984. –– Vol. 10. –– P. 271–281.

[93] Lehmer D. H., Mathematical methods in large-scale computing units // Proc. 2ndSympos. on Large-Scale Digital Calculating Machinery (Cambridge, MA, 1949). ––Harvard: Harvard University Press, 1951. –– P. 141–146.

[94] Matheron G., The intrinsic random functions and their applications // Adv. AppliedProbability. –– 1973.–– Vol. 5. –– P. 439–468.

[95] Matsumoto M., Nishimura T. Mersenne twister: a 623-dimensionally equidistributeduniform pseudorandom number generator // ACM Trans. on Modeling and ComputerSimulations. –– 1998. –– Vol. 8, № 1.–– P. 3–30.

[96] Metropolis N., The beginning of the Monte Carlo method // Los Alamos Science.–– 1987,№ 15.–– P. 125–130.

[97] Metropolis N., Ulam S., The Monte Carlo method // J. Amer. statistical Assoc.–– 1949.––Vol. 44 , № 247.–– P. 335–341.

[98] Muller M. E. Some continuous Monte Carlo methods for the Dirichlet problem // Ann.Math. Statistics. –– 1956.–– Vol.27, № 3.–– P. 569–589.

[99] Ogorodnikov V.A., Prigarin S.M., Numerical Modelling of Random Processes and Fields:Algorithms and Applications. –– Utrecht: VSP, 1996.

[100] Orfeuil J.P., Simulation du Wiener-Levi et de ses integrales // Internal report. ––Fontaineblau: Centre de Morphologie Mathematique, 1972.

[101] Pelinovsky E., Kharif Ch., Eds. Extreme Ocean Waves. –– Berlin: Springer, 2008.[102] Prigarin S.M. Conditional spectral models of Gaussian homogeneous fields // Rus. J.

Numer. Anal. and Math. Modell. –– 1998. –– Vol. 13, № 1.–– P. 57–68.[103] Prigarin S.M. Spectral Models of Random Fields in Monte Carlo Methods. –– Utrecht:

VSP, 2001.[104] Prigarin S.M., Kargin B.A., and Oppel U.G. Random fields of broken clouds and their

associated direct solar radiation, scattered transmission, and albedo // Pure and AppliedOptics, A.–– 1998.–– Vol. 7, № 6.–– P. 1389–1402.

[105] Prigarin S.M., Konstantinov P.V., Spectral numerical models of the fractional Brownianmotion // Rus. J. Numer. Anal. and Math. Modell. –– 2009.–– Vol. 24, № 3.–– P. 279–295.


[106] Prigarin S.M., Litvenko K.V., Conditional spectral models of extreme ocean waves //Rus. J. Numer. Anal. and Math. Modell. –– 2012.–– Vol. 27, № 3.–– P. 289–302.

[107] Prigarin S.M., Marshak A.L., A simple stochastic model for generating broken cloudoptical depth and cloud top height fields // J. Atmospheric Sci.–– 2009.––Vol. 66, № 1.––P. 92–104.

[108] Prigarin S.M., Martin A., Winkler G., Simulation of binary random fields with Gaussiannumerical models // Monte Carlo Methods and Applications. –– 2010.–– Vol. 16, Iss. 2. ––P. 129–142.

[109] Ripley B.D. Stochastic Simulation. –– NY: Willey, 1987.

[110] Salvat F., Fernandez-Varea J.M., Acosta E., Sempau J. PENELOPE––A Code System forMonte Carlo Simulation of Electron and Photon Transport.––Paris: OECD Publications,2001.

[111] Shinozuka M., Simulation of multivariate and multidimensional random processes // J.of Acoust. Soc. Am.–– 1971. –– Vol. 49. –– P. 357–368.

[112] Walker A.J. New fast method for generating random variables with arbitrary frequencydistribution // Elec. Lett. –– 1974. –– Vol. 10. –– P. 127–128.

[113] Walker A.J. An efficient method for generating random variables with generaldistributions // ACM Trans. Math. Soft. –– 1977. –– Vol. 3. –– P. 253–256.

[114] Wilson R.J.,Nott D.J. Review of recent results on excursion set models // Image Analysisand Stereology.–– 2001. –– Vol. 20, № 2.–– P. 71–78.

Список обозначений

AΔB = (A− B) ∪ (B − A) — симметрическая разность множеств A и B;

A+ — псевдообратная матрица;

AT — транспонирование матрицы A;

A∗ — сопряженная матрица;

a ∨ b — максимальное из чисел a, b;

C — множество комплексных чисел;

Dξ — дисперсия случайной величины ξ;

Dm1...mk,Dm — операторы дифференцирования;

diam(A) = supx,y∈A

|x− y| — диаметр множества A;

dim(X) — размерность пространства X;

Iν , Kν — модифицированные функции Бесселя (цилин-дрические функции мнимого аргумента), Kν –функция Макдональда;

Im(A) — образ оператора A;

Jν — функция Бесселя первого рода порядка ν;

Ker(A) — ядро оператора (матрицы) A;

Mξ — математическое ожидание случайной величи-ны ξ;

P(A),P{A} — вероятность события A;

R — множество вещественных чисел;

rang(A) — ранг матрицы A;

Re z, Im z — вещественная и мнимая части числа z;

sh x =ex − e−x

2— гиперболический синус;

〈a, b〉 — скалярное произведение векторов a и b.

158

Предметный указатель

автомодельность, 141

винеровский процессобобщенный, 140фрактальная размерность, 142

условные распределения, 136

гауссовский случайный процесс, 42генератор «вихрь Мерсенна», 31генератор псевдослучайных чисел, 29

двойная замена, 37доверительный интервал, 22дробное броуновское движение, 140

закон больших чисел, 19закон повторного логарифма, 23

игла Бюффона, 17интеграл вероятности, 21

ковариационная функция, 83конструктивное вероятностное пространство,

41

матрица Якоби, 34метод Монте-Карло, 10, 18метод исключений, 35метод обратной функции распределения, 33,

64

неравенство Берри–Эссеена, 22

оценка метода Монте-Карло, 19

парадокс альбедо, 13парадокс дней рождения, 11первообразный корень простого числа, 145персистентность и антиперсистентность, 142положительно определенная функция, 43правило k сигм, 22преобразование плотности распределения, 34псевдослучайные числа, 143

равномерная интегрируемость, 25

распределениеРэлея, 69арксинуса, 69гауссовское, 134условное, 137

логнормальное, 68равномерное, 67экспоненциальное, 69

случайная последовательность, 40случайная функция, 40случайное поле, 40изотропное, 86, 88, 93однородноедифференцируемость, 85спектральное представление, 84

случайный процесс, 40конечномерные распределения, 41конструктивное задание, 41реализация, 40стационарныйдифференцируемость, 70, 72спектральное разложение, 73

траектория, 40спектральная мера, 71, 84радиальная, 86

спектральная модель, 75неоднородная, 103обобщенная схема, 78погрешность, 78последовательное уточнение, 96производные нецелого порядка, 103рандомизированная, 77условная, 97

спектральная плотность, 71, 84спектральная функция, 71спектральное разложение (представление),

73, 74, 84–86, 88, 93

теоремаБохнера–Хинчина, 71Колмогорова о согласованных

распределениях, 41о периоде мультипликативного генератора,

144

159 160 Предметный указатель

трудоемкость, 20, 25

уровень доверия, 22условия согласованности конечномерных

распределений, 41

формулаКотельникова–Шеннона, 72, 84суммирования Пуассона, 75

функция стандартного нормальногораспределения, 21

центральная предельная теорема, 21

число Смита, 145

эргодичность, 72

якобиан, 34

Documents

методах Монте-Карло процессов и полей в …osmf.sscc.ru/~smp/Prigarin_SM_2014-s2c.pdfМодели случайных процессов и полей