m k b Z je - ЦНБ НАН Беларусиcsl.bas-net.by/xfile/v_fizm/2009/1/b475u.pdf · 1 СЕРЫЯ ФІЗІКА-МАТЭМАТЫЧНЫХ НАВУК 2009 № 1 СЕРИЯ ФИЗИКО-МАТЕМАТИЧЕСКИХ

1

СЕРЫЯ ФІЗІКА-МАТЭМАТЫЧНЫХ НАВУК 2009 1

СЕРИЯ ФИЗИКО-МАТЕМАТИЧЕСКИХ НАУК 2009 1

ЗАСНАВАЛЬНІК — НАЦЫЯНАЛЬНАЯ АКАДЭМІЯ НАВУК БЕЛАРУСІ

Часопіс выдаецца са студзеня 1965 г. Выходзіць чатыры разы ў год

ЗМЕСТ

МАТЭМАТЫКА

Харин Ю. С., Волошко В. А. Об одном методе робастного оценивания параметров авторегрессии при на-личии «выбросов»............................................................................................................................................................. 4

Труш Н. Н., Ле Хонг Шон. Оценка параметров модели GARCH (1,1) с остатками, имеющими κ-устойчивое распределение............................................................................................................................................ 13

Таныгина А. Н. Аналоги принципа Ле-Шателье–Самуэльсона для открытой модели Леонтьева–Форда ...... 22 Савельева Н. В., Воробьев Н. Т. О проблеме существования максимальных подклассов минимального

π-нормального класса Фиттинга...................................................................................................................................... 29 Корзюк В. И., Шушкевич Г. Ч. Экранирование магнитного поля системой экранов: тонкая незамкнутая

эллипсоидальная оболочка – сферическая оболочка ..................................................................................................... 38 Гайдук С. И., Кулешов А. А. Об одной смешанной задаче из теории колебаний балок .................................. 47 Швед О. Л. Определение тензора упругого спина в нелинейной теории пластичности.................................... 52

ФІЗІКА

Максименко Н. В., Тимошин Е. С. Спиновая структура нуклона в теории электрослабого взаимо-действия ............................................................................................................................................................................ 59

Барышевский В. Г., Ровба А. А. О влиянии кулоновского взаимодействия на эффект спинового дихроиз-ма дейтронов в области энергий 5–20 МэВ .................................................................................................................... 64

Рябушко А. П., Жур Т. А. Релятивистские эффекты движения тела в гравитационном поле неоднородной среды. II. Постньютоновское приближение общей теории относительности ............................................................. 70

Национальная

академия наук

Беларуси

2

Макаренко Л. Ф. Влияние потенциала изображения на энергию ионизации водородоподобного центра, расположенного вблизи границы раздела двух сред...................................................................................................... 76

Цымбаревич Е. Г. К теории переноса излучения в рассеивающих сильно флуктуирующих средах ............... 82 Непокойчицкий А. Г., Игнатов Б. И., Францкевич К. В., Асташенко С. Г. Некоторые особенности

формирования металлических покрытий на металлооксидных композициях............................................................. 89 Каланда Н. А., Кохановский Л. В., Павленко А. А. Динамика десорбции и кислородная нестехиометрия

в La0.6Sr0.4MnO3-δ ............................................................................................................................................................... 93 Хапалюк А. П. Решение уравнений Максвелла дифракционного типа ............................................................... 98

ІНФАРМАТЫКА Лиходед Н. А. Сохранение зависимостей между операциями при распараллеливании алгоритмов................. 108 Бенедиктович В. И. Отличительное число геометрического графа К7 ............................................................... 113

КАРОТКІЯ ПАВЕДАМЛЕННІ Шамукова Н. В. Связь величин коэффициентов целочисленных многочленов и их корней в полях ком-

плексных и p-адических чисел ......................................................................................................................................... 119

ВУЧОНЫЯ БЕЛАРУСІ Владимир Архипович Лабунов (К 70-летию со дня рождения)............................................................................. 122 Валентин Викентьевич Гороховик (К 60-летию со дня рождения) ....................................................................... 124

ИЗВЕСТИЯ НАЦИОНАЛЬНОЙ АКАДЕМИИ НАУК БЕЛАРУСИ 2009, 1 Серия физико-математических наук на русском и белорусском языках

Рэдактар І. С. А л е к с а н д р о в і ч

Камп’ютэрная вёрстка В. Л. С м о л ь с к а я

Здадзена ў набор 02.02.2009. Падпісана ў друк 25.03.2009. Выхад ў свет 30.03.2009. Фармат 60 × 841/8. Папера афсет-ная. Ум. друк. арк. 14,88. Ум. фарб.-адб. 15,58. Ул.-выд. арк. 16,4. Тыраж 112 экз. Заказ 135. Кошт нумару: індывідуальная падпіска – 16450 руб., ведамасная падпіска – 40975 руб.

Рэспубліканскае унітарнае прадпрыемства «Выдавецкі дом «Беларуская навука». ЛВ 02330/0131569 ад 11.05.2005. Вул. Ф. Скарыны, 40, 220141, Мінск. Пасведчанне 458. Надрукавана ў РУП «Выдавецкі дом «Беларуская навука».

© «Выдавецкі дом «Беларуская навука» Весці НАН Беларусі, серыя фізіка-матэматычных навук, 2009



Беларуси

3

PROCEEDINGS OF THE NATIONAL ACADEMY

OF SCIENCES OF BELARUS PHYSICS AND MATHEMATICS SERIES 2009 No 1

FOUNDED BY THE NATIONAL ACADEMY OF SCIENCES OF BELARUS

The Journal has been published since January 1965

Issued four times a year

CONTENTS MATHEMATICS

Kharin Yu. S., Voloshko V. A. One method of robust estimation of autoregressive parameters under outliers ....... 4 Troush N. N, Le Hong Son. Estimator of parameters of GARCH(1,1) model with stable innovations..................... 13 Tanyhina A. N. Analogs of the LeСhatelier–Samuelson principle for the open Leontiev–Ford model ..................... 22 Savelyeva N. V., Vorob’ev N. T. Problem of existence of maximal subclasses of the minimal π-normal Fitting class . 29 Korzyuk V. I., Shushkevich G. Ch. Shielding of a magnetic field by a system of screens: thin open–ended

ellipsoidal shell and spherical shell..................................................................................................................................... 38 Gaiduk S. I., Kuleshov A. A. One mixed problem of the theory of beam oscillations .............................................. 47 Shwed O. L. Determination of the elastic spin tensor in the nonlinear theory of plasticity ........................................ 52

PHYSICS

Maksimenko N. V., Timoshin E. S. Spin structure of the nucleon in the theory of electroweak interaction ............ 59 Baryshevsky V. G., Rouba A. A. Influence of the Coulomb interaction on the deuteron spin dichroism effect

in the energy range 5–20 MeV............................................................................................................................................ 64 Ryabushko A. P., Zhur T. A. Relativistic effects of the motion of a body in the gravitational field

of a heterogeneous medium. II. The post-Newtonian approximation of the general theory of relativity ............................ 70 Makarenko L. F. Image potential influence on the ionization energy of a hydrogen-like center near the interface

of two media ....................................................................................................................................................................... 76 Tsymbarevich Y. G. To the theory of radiation transfer in scattering strongly fluctuating media............................. 82 Nepokojchitskij A. G., Ignatov B. I., Frantskevich K. V., Astashenko S. G. Some peculiarities of formation

of metal coatings on metal-oxide compositions.................................................................................................................. 89 Kalanda N. A., Kochonovski L. V., Pavlenko A. A. Desorption dynamics and oxygen nonstoichiometry

in La0.6Sr0.4MnO3-δ.............................................................................................................................................................. 93 Khapalyuk A. P. Solution of diffraction-type Maxwell equations............................................................................. 98

INFORMATICS Likhoded N. A. Preserving the dependences between operations at parallelizing algorithms.................................... 108 Benediktovitch V. I. Distinctive number of the geometric clique K7 ......................................................................... 113

SHORT NOTES Shamukova N. V. Relationship between the values of integer polynomial coefficients and their roots in the fields

of complex and p-adic numbers .......................................................................................................................................... 119

SCIENTISTS OF BELARUS Vladimir Arkhipovich Labunov (To the 70th Anniversary of Birthday)...................................................................... 122 Valentin Vikentievich Gorokhovik (To the 60th Anniversary of Birthday) ................................................................. 124



Беларуси

4

ВЕСЦI НАЦЫЯНАЛЬНАЙ АКАДЭМII НАВУК БЕЛАРУСI 1 2009 СЕРЫЯ ФІЗІКА-МАТЭМАТЫЧНЫХ НАВУК

МАТЭМАТЫКА

УДК 519.2 Ю. С. ХАРИН, В. А. ВОЛОШКО

ОБ ОДНОМ МЕТОДЕ РОБАСТНОГО ОЦЕНИВАНИЯ ПАРАМЕТРОВ АВТОРЕГРЕССИИ ПРИ НАЛИЧИИ «ВЫБРОСОВ»

Белорусский государственный университет

(Поступила в редакцию 14.05.2008)

Введение. Математическая модель. В приложениях часто в качестве вероятностной модели наблюдаемого временного ряда используется модель AR(p) гауссовского авторегрессионного временного ряда уt, задаваемая на вероятностном пространстве (Ω, F, P) стохастическим разно-стным уравнением порядка p N∈ [1]:

1 1 ... , ,t t p t p ty b y b y t Z− −+ + + = ξ ∈ (1)

где ( )1,...,p

pb b b R′

= ∈ – вектор-столбец неизвестных коэффициентов авторегрессии, удовлетво-ряющий условию стационарности [1], N, Z – множества натуральных и целых чисел соответ-ственно, : t t Zξ ∈ – последовательность независимых в совокупности одинаково распреде-

ленных гауссовских случайных величин с законом распределения 2 21 (0, ), 0tL Nξ = σ <σ <+∞ –

неизвестная дисперсия инновационного процесса. На практике наблюдаемый временной ряд , ,tz t Z∈ не соответствует гипотетической модели (1)

из-за часто встречающихся искажений [2–5]. В данной статье рассматривается случай искаже-ний, называемых случайными «выбросами»:

(1 ) , ,t t t t t Zz y tη η= − + υ ∈ (2)

где 0,1tη ∈ – независимые в совокупности случайные величины Бернулли,

1 1 0 ,t tP Pη η ε= = − = = (3)

0 1≤ ε << – достаточно малая вероятность появления «выброса», t Rυ ∈ – независимые в сово-купности одинаково распределенные случайные величины с некоторой неизвестной симметрич-ной функцией распределения ( )H υ , нулевым средним 0tE υ = и дисперсией t tD D yυ >> . Задача заключается в статистическом оценивании коэффициентов b по наблюдениям , 1,..., tz t T= .

Дадим краткий обзор результатов по робастному оцениванию параметров AR(p). Ос-новной подход заключается в робастном оценивании ковариационной функции

,,...,1,0 ,,cov pyyEyy tttt =τ==σ τ+τ+τ и нахождении оценок для b при решении уравнений Юла–Уокера. Известны следующие непараметрические робастные оценки ковариаций: оценка Хьюбера [2], медианный коэффициент корреляции и его обобщения [6], оценки, основанные на непараметрических мерах, на отсеивании «выбросов», на робастных ковариациях [2] и др. Отли-чительной особенностью данной статьи является использование новых (параметрических) робаст-ных оценок корреляционной функции с использованием дополнительной априорной информации о гауссовском распределении ξt в (1) и специальных свойств распределения вероятностей Коши.



Беларуси

5

1. Робастное оценивание корреляционной функции. Обозначим:

0corr , , ,t ty y Zτ +τ τθ = = σ σ τ ∈ (4)

подлежащая оцениванию корреляционная функция; medz1,…, zT – выборочная медиана. Со-гласно [2], робастная оценка Хьюбера для коэффициента корреляции θτ может быть вычислена с помощью следующего алгоритма.

1. Вычисляем вспомогательные коэффициенты:

1 med| |: 1,..., ,ta z t T= = − τ 1 med| |: 1 ,..., .tb z t T= = + τ

2. Находим

S+=med|azt+bzt+τ|: t= 1,…, T–τ, S–=med|azt–bzt+τ|: t= 1,…, T–τ.

3. Вычисляем оценку Хьюбера:

( ) ( )2 2 2 2 .S S S Sτ + − + −θ = − + (5)

Для построения новой (параметрической) робастной оценки θτ воспользуемся специальным свойством распределения Коши.

Л е м м а 1. Если , ,ty t Z∈ – стационарный гауссовский временной ряд с нулевым средним и некоторой корреляционной функцией (4), то для любого 0τ ≠ отношение случайных величин

t ty y +τζ = имеет распределение Коши 2( , 1 ).C τ τθ −θ Д о к а з а т е л ь с т в о. По условию имеем:

2 2

2 2 2

0, .

0t

t

yL N

yτ

+τ τ

σ θ σ

θ σ σ

⎛ ⎞⎛ ⎞⎧ ⎫⎛ ⎞ ⎛ ⎞= ⎜ ⎟⎨ ⎬ ⎜ ⎟⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠ ⎝ ⎠⎩ ⎭ ⎝ ⎠

В силу известного регрессионного свойства многомерного нормального распределения [7] справедливо представление:

21 ,t t ty yτ +τ τ= θ + − θ ⋅σ⋅ η

где ηt не зависит от yt+τ и имеет стандартное распределение N1(0,1). Следовательно, 21 ( )t tyτ τ +τζ = θ + − θ ⋅ η σ , где случайная величина 0 ( )t ty +τζ = η σ имеет стандартное распре-

деление Коши C(0,1), поэтому согласно свойствам этого распределения [8] линейное преобразо-

вание 201τ τζ = θ + − θ ζ приводит к распределению 2( , 1 ).C τ τθ − θ

Л е мм а 2. Если 2: R Rϕ → – ограниченная, нечетная по обеим переменным функция, а zt – временной ряд, определяемый моделью (1) – (3), то

2 ( , ) (1 ) ( , ).t t t tE z z E y y+τ +τϕ = − ε ϕ (6)

Д о к а з а т е л ь с т в о. В силу (2) по формуле полного математического ожидания ( )2 2 ( , ) (1 ) ( , ) (1 ) ( , ) ( , ) ( , ).t t t t t t t t t tE z z E y y E y E y E+τ +τ +τ +τ +τϕ = − ε ϕ + ε − ε ϕ υ + ϕ υ + ε ϕ υ υ

Так как yt – стационарный гауссовский процесс с симметричным относительно y=0 распреде-лением 1 (0, )t tL y N D y= , а υt также имеет симметричное относительно υ=0 распределение и yt,υt – независимы, то в силу нечетности ( )ϕ ⋅ все математические ожидания, кроме первого, в этом выражении равны нулю.

Выберем функцию ( )ϕ ⋅ в (6) следующим специальным образом:

( , ) ( ),t t t tz z z z+τ +τϕ = ψ (7)



Беларуси

6

где ( )ψ ⋅ – некоторая пока произвольная ограниченная, нечетная функция:

0| ( ) | , ( ) ( ), u c u u u Rψ ≤ < +∞ ψ − = −ψ ∈ . С помощью этой функции и леммы 1 построим ограни-ченную, нечетную функцию [–1,+ 1] →R:

2 2

2 2 4 2 20

1 ( ) 4 1 ( )( ) :: ( ) .1 ( ) 2 (2 1) 1

z z zf E dz dzz z z

+∞ +∞τ τ τ

ψ ττ τ τ−∞

− θ ψ θ − θ ψθ = ψ ζ = =π π− θ + − θ − θ − +

∫ ∫ (8)

Прежде чем привести основной результат, докажем две вспомогательные леммы. Л е мм а 3. Если 1, ( ) :N f R Rτ+τ ∈ ⋅ → – произвольная борелевская функция, а : tz t N∈ –

произвольная стационарная случайная последовательность, обладающая сильным перемешива-нием с коэффициентом ( )z nα , то случайная последовательность ( ,..., )t t ts f z z +τ= обладает сильным перемешиванием с коэффициентом

1 4, 0 ,

( )( ), .s

z

nn

n n≤ < τ⎧

α ≤ ⎨α − τ ≥ τ⎩

Д о к а з а т е л ь с т в о. По определению сильного перемешивания [9, 10]

1

1 ,( ) sup sup | ( ) ( ) ( ) |,

tt n

st A G B G

n P AB P A P B+∞+≥ ∈ ∈

α = −

где : [ , ]ba tG s t a b= σ ∈ – σ-алгебра, порожденная траекторией st на отрезке [a, b]. Пусть : [ , ]b

a tF z t a b= σ ∈ . Тогда по построению 1 1 ,t tt n t nG F G F+τ +∞ +∞+ +⊂ ⊂ , так что при n ≥ τ справедливо

неравенство: ( ) ( )s zn nα ≤ α − τ . Так как всегда | ( ) ( ) ( ) | 1 4P AB P A P B− ≤ , то ( ) 1 4s nα ≤ при n < τ .

Л емм а 4. Если случайная последовательность yt обладает сильным перемешиванием с ко-эффициентом ( )y nα , μt – независимые одинаково распределенные случайные величины, не за-висящие от yt, а ( )g ⋅ – произвольная борелевская функция, то ( , )t t tz g y= μ также обладает сильным перемешиванием с коэффициентом ( ) ( ), .z yn n n Nα ≤ α ∈

Д о к а з а т е л ь с т в о. Указанный результат следует из теоремы 5.2 [9]. Т е о р е м а 1. Если имеет место модель (1) – (3) и функция ( )ψ ⋅ такова, что функция ( )fψ ⋅ ,

определяемая (8), имеет непрерывную обратную функцию 1( )f −ψ ⋅ , то статистика

1 1 2

1( ) (1 ) ( ) , 0 ,

Tt t

tf T z z T

−τ− − −

τ ψ +τ=

⎛ ⎞θ = − τ − ε ψ < τ <⎜ ⎟⎝ ⎠

∑

является состоятельной оценкой коэффициента корреляции θτ:

.Pτ τθ ⎯⎯→θ (9)

Д о к а з а т е л ь с т в о . В силу непрерывности 1( )f −ψ ⋅ и свойства сходимости по вероятности

функционально преобразованной сходящейся последовательности достаточно доказать справед-ливость следующего закона больших чисел:

1

1( ) ( ) ( ).

T PT t t t t

tS T z z E z z

−τ−

+τ +τ=

= − τ ψ ⎯⎯→ ψ∑ (10)

Действительно, в силу леммы 2, (7), (8), 2 ( ) (1 ) ( ),t tE z z f+τ ψ τψ = − ε θ и для получения (9) достаточно обратить (10).



Беларуси

7

Для доказательства (10) проверим условие Маркова [11]. Исследуем дисперсию

1

21 1 1

1 (0) 2 ( )( )

T T TT

t t t tD S t t

T

−τ −τ− −τψ ψ

= = = +′

⎛ ⎞= σ + σ −′⎜ ⎟⎝ ⎠− τ

∑ ∑ ∑ ,

где ( ) cov ( ), ( ).t t t tt t z z z zψ +τ +τ′ ′σ − = ψ ψ′ Так как 0| ( ) |u cψ ≤ <+∞ , то справедлива оценка сверху:

1

202

1 1

1 ( ) 2 | ( ) |( )

T TT

t t tD S T c t t

T

−τ− −τψ

= = +′

⎛ ⎞≤ − τ ⋅ + σ − =′⎜ ⎟⎝ ⎠− τ

∑ ∑

1

202

1 1

1 ( ) 2 | ( ) |( )

T T t

t iT c i

T

−τ− −τ−ψ

= =

⎛ ⎞− τ ⋅ + σ⎜ ⎟⎝ ⎠− τ

∑ ∑ . (11)

В силу леммы 1.2.1 [12] 20| ( ) | 4 (| |),st t c t tψσ − ≤ α −′ ′ где ( ), ,s n n Nα ∈ – коэффициент переме-

шивания для стационарной случайной последовательности ( )t t ts z z +τ= ψ . Согласно лемме 3, если ( )z nα – коэффициент перемешивания для стационарной случайной последовательности zt, то

1 4, 0 ,

( )( ), .s

z

nn

n n≤ < τ⎧

α ≤ ⎨α − τ ≥ τ⎩

Наконец, в силу леммы 4 ( ) ( ),z yn nα ≤ α где ( )y nα – коэффициент перемешивания для AR(p)-временного ряда (1).

Согласно [10], для AR(p)-временного ряда (1), удовлетворяющего условию стационарности, справедлива экспоненциальная асимптотическая оценка коэффициента перемешивания (при n → +∞ ): ( ) ( ),bn

y n O e−α = где b>0 – некоторая константа. Объединяя приведенные выше оценки и подставляя результат в (11), получаем искомую

оценку дисперсии: ( )1 20 ( ) 2TD S T c S−≤ − τ + ⋅ , где ряд

1| ( ) |

iS i c

+∞ψ ∗

== σ ≤ < +∞∑ сходится в силу

установленной асимптотики. В результате находим ( )1 20 ( ) 2 0TD S T c c−

∗≤ − τ + → , что и означа-

ет справедливость (10), влекущую (9). Выбирая различные функции ( )ψ ⋅ в (8), с помощью теоремы 1 можно получить семейство

состоятельных оценок для θτ:

s – оценка: ( ) sign( )x xψ = ,2

21 sign( ) 2( ) :: sign( ) arcsin( 2 1)R

y xf y dx y

x xyψ

−= Ε ζ = =

ππ − +∫ ,

( ) 2

1sin sign( / )

2( ) 1

Tt t

tz z

T

−ττ +τ

=

⎛ ⎞πθ = ⎜ ⎟− τ − ε⎝ ⎠

∑ ; (12)

a – оценка: ψ( ) arct g( )x x= ,2

21 arctg 1( ) :: arctg arcsin

2( 2 1)R

y xf y dx y

x xyψ

−= Ε ζ = =

π − +∫ ,

( ) 2

1

2sin arctg( / )( ) 1

Tt t

tz z

T

−ττ +τ

=

⎛ ⎞θ = ⎜ ⎟

− τ − ε⎝ ⎠∑ .

Исследуем свойства s-оценки (12). Для произвольной последовательности f: Z→R обозначим ( )f

s Zf s

∈Σ = ∑ .



Беларуси

8

Л е мм а 5. Пусть at=sign(ztzt+τ), ut=sign(ytyt+τ), σ(s)=covat, at+s, ρ(s)=covut, ut+s. Тогда спра-ведливо неравенство:

2 4(2 )(1 3(1 ) ) (1 )σ ρΣ ≤ ε − ε + − ε + − ε Σ .

Д о к а з а т е л ь с т в о. Пусть s>0, s≠τ. Согласно (2) ηt=1, если zt – «выброс». Очевидно Eat|ηt+ηt+τ>0=0, т. е. если произошел «выброс» в момент t или t+τ. Легко видеть также, что при таком условии имеет место условная независимость at от at+s. Обозначим событие Ωt=ηt+ηt+τ>0. Тогда по формуле полного матожидания E∗=P(Ωt)E∗|Ωt+P(Ωt+s)E∗|Ωt+s+ P( stt +ΩΩ )E∗| stt +ΩΩ –P(ΩtΩt+s)E∗|ΩtΩt+s, где A значит дополнение A. Здесь учтено, что

1)()( ≡Ω∩Ω+Ω∪Ω ++ sttstt PP . Вместо ∗ подставим atat+s: Eatat+s|Ωt=Eat|ΩtEat+s|Ωt=0= Eatat+s|Ωt+s=Eatat+s|ΩtΩt+s. Тогда Eatat+s=(1–ε)4×Eatat+s| stt +ΩΩ =σ(s)+E2at. Поскольку at и Ωt+s – независимы и Eat|Ωt=0, имеем Eat=P( tΩ )Eat| tΩ =P( tΩ )Eat| stt +ΩΩ = P( st+Ω )Eat+s| stt +ΩΩ . Получаем σ(s) = (1––ε)4×covat, at+s| stt +ΩΩ )=(1–ε)4ρ(s).

При s=0 имеем σ(0)=Dat=1–E2at=1–(1–ε)4E2ut=1+(1–ε)4(ρ(0)–1). Далее, σ(τ)=Eatat+τ–E2at=Esign(ztzt+2τ)–(1–ε)4E2ut=(1–ε)2Eutut+τ–(1–ε)4E2ut=((1–ε)2–(1–ε)4)×Eutut+τ+(1–ε)4ρ(τ). Тогда σ(0)+2σ(τ)–(ρ(0)+2ρ(τ))(1–ε)4<1+2(1–ε)2–3(1–ε)4=ε(2–ε)(1+3(1–ε)2). Учитывая, что σ(s)=(1–ε)4ρ(s) для s≠0,±τ, получаем требуемое неравенство для сумм рядов.

Т е о р е м а 2. Если имеет место модель (1) – (3), то s-оценка (12) асимптотически нор-мально распределена:

( ) ( ) ( )( )42 21 0, 1 4 1D

TT N σ

τ τ τ→∞

⋅ θ − θ ⎯⎯→ Σ ⋅π − θ − ε .

Д о к а з а т е л ь с т в о. Пусть снова at=sign(ztzt+τ). Обозначим Sτ=(a1 +…+aT-τ)/(T–τ)=Ea1+η. Согласно теореме 5.19 [13], если существуют такие C>0, C0>0, K>0, 0<δ<1, β>1, что

20max | | , k k

k nE a Ea C T D C+δ

≤− ≤ ⋅ η ≥ и коэффициент перемешивания ( )a nα (2 )Kn−β +δ δ≤ , то η

имеет асимптотическое нормальное распределение при T → ∞ . Первое условие, очевидно, вы-полняется. Второе следует из того, что 1 ~

TD T − σ

→∞η ⋅Σ . Теперь из доказательства теоремы 1

( ) ( )bny n O e−α = , откуда по лемме 4 ( ) ( )bn

z n O e−α = и по лемме 3 (2 )( ) ( )bna n O e Kn− −β +δ δα = ≤

для некоторого K. Значит, ( )1 0,D

T N σ⋅ η→ Σ . Поскольку s-оценка θτ вычисляется как

( )2sin 2(1 )Sτ τθ = π⋅ − ε , то из теоремы о функциональном преобразовании асимптотически нор-мальной случайной величины получаем

( ) ( )( )( )2 2 41 0,cos arcsin 4(1 )

DT N σ

τ τ τ⋅ θ − θ → θ ⋅ Σ ⋅π − ε ,

что эквивалентно утверждению теоремы. 2. Робастные оценки коэффициентов авторегрессии и их свойства. Уравнения Юла–

Уокера для модели (1) имеют вид:

20 1 1

1 1 0 1

1 1 0

... ,... 0,

... 0,

p p

p p

p p p

b bb b

b b

− −

− −

⎧σ + σ + + σ = σ⎪σ + σ + + σ =⎪⎨⎪⎪σ + σ + + σ =⎩

…

где cov , t ty yτ +τσ = . Заметим, что решение bi этой системы уравнений не зависит от σ, по-этому вместо ковариации στ можно подставить коэффициент корреляции corry0, yτ=στ/σ0 и без



Беларуси

9

потери общности полагать σ=1. Если вместо коэффициентов корреляции τθ подставить их оценки τθ , то решением будет оценка ( )ib b= вектора коэффициентов авторегрессии. Сформу-лируем алгоритм оценивания вектора ( )ib b= .

Шаг 1. Если неизвестна доля выбросов, строим ее оценку ε (см. п. 3). Шаг 2. Согласно (12) строим s-оценки коэффициентов корреляции ( )τθ = θ , подставляя в них

либо ε (если известно), либо ε . Шаг 3. Строим оценку матрицы системы Юла–Уокера: 0, 1, , 0,ij i j i j p−Ξ = θ θ = = . Шаг 4. Вычисляем обратную матрицу и оценки параметров авторегрессии:

( ) ( )1 10 00

, 1,ii

b i p− −= Ξ Ξ = .

Шаг 5. Находим численным методом наибольший по модулю корень maxλ характеристиче-ского многочлена 1

1( ) ...p ppB b b−λ = λ + λ + + и, если нарушено условие стационарности и

max| | 1λ ≥ , нормируем оценки следующим образом: max(| | ) ii ib b→ λ +Δ , где max0,1 | |Δ = λ .

Этим мы масштабируем корни ( )B λ , поместив их в пределы единичного круга | | 1λ < . Т е о р е м а 3. Обозначим ( 1) ( 1)( ) , ( )n n

ij i jn R n+ × +−Ξ ∈ Ξ = θ . Тогда имеет место следующая схо-

димость:

( )|| || || || 1TP b b K →∞− ≤ ⋅ θ − θ ⎯⎯⎯→ , ( )2min

21 | ( ) | ( 1)ixpK B e dx pπ

−π

⎛ ⎞= + ⋅ λ Ξ −⎜ ⎟π⎝ ⎠

∫ , (13)

где 11( ) ...p p

pB b b−λ = λ + λ + + – характеристический многочлен для (1).

Д о к а з а т е л ь с т в о. Согласно приведенному выше алгоритму, ( )b = Ψ θ , где функция

: p pR RΨ → ограничена. Поскольку P

T→∞θ ⎯⎯→θ и Ψ дифференцируема в окрестности θ , получа-

ем, что (|| ||)b b b o∂ΨΔ = − = ⋅ Δθ + Δθ∂θ

и || || || || || || (|| ||)b o∂ΨΔ ≤ ⋅ Δθ + Δθ∂θ

. Отсюда следует, что

( )0, P || || || || || || P (|| ||) || || 1T

b o→∞

⎛ ⎞∂Ψ⎛ ⎞∀δ > Δ ≤ +δ ⋅ Δθ ≥ Δθ ≤ δ Δθ →⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠∂θ.

Докажем теперь, что || || K∂Ψ ≤∂θ

, где константа K определяется (13). Обозначим 1(1, ,..., )pb b b=

и 10

pe R +∈ – первый столбец единичной матрицы. Тогда из системы Юла–Уокера имеем:

0( ) ( )p b f eΞ ⋅ = θ ⋅ . Дифференцируя по iθ , получаем: ( ) ( )ip b p∂Ξ ∂θ ⋅ + Ξ × 0( )i ib f e∂ ∂θ = ∂ θ ∂θ ⋅ . Это матричное равенство является системой из p+1 линейных уравнений. Отбросив первое из них, имеем: ( 1)i ip∂θ ∂θ + ∂Ξ − ∂θ × ( 1) 0i pb p b+ Ξ − ⋅ ∂ ∂θ = . Собрав эти уравнения для 1,...,i p= ,

получим: ( )(1) (2) ( 1) ( )pI B B p+ + + Ξ − ⋅ ∂Ψ θ ∂θ , где матрицы ( )jB состоят из нулей и коэффици-

ентов ib . Значит, || ( ) || || pI∂Ψ θ ∂θ ≤ ( )(1) (2) 1|| || ( 1)||B B p−+ + ⋅ Ξ − . Далее, как известно [14],

1 1min|| ( 1) || ( ( 1))p p− −Ξ − = λ Ξ − , ( )| | | |jB ( ) 2 2

11max || || 1 ...j

pii p

p B p b b≤ ≤

≤ ⋅ ≤ ⋅ + + + . Выражение под

корнем равно коэффициенту при нулевой степени в разложении 1( ) ( )B B −λ λ в ряд по λ. Отсюда

(1) (2)|| || 1 2I B B pp + + ≤ +0.5

0.5 2(2 ) | ( ) |ixB e dxπ

−

−π

⎛ ⎞× π ⎜ ⎟⎝ ⎠

∫ . Умножаем правую часть на 1|| ( 1)||p−Ξ − и полу-

чаем выражение для K, входящее в (13).



Беларуси

10

3. Оценивание доли выбросов ε и их свойства. Предложенная s-оценка (12) использует до-лю выбросов ε как априорную информацию о модели. Это ограничивает ее применение на прак-тике, так как такая информация редко бывает заранее известной.

Укажем способ статистического оценивания ε. Будем дополнительно предполагать, что «вы-бросы» υt имеют гауссовское распределение: 2

1 1 (0, )tL Nυ = β σ , где 1 0β > – коэффициент, оп-ределяющий уровень «выбросов». Тогда согласно (2) распределение наблюдений zt является смесью нормальных распределений с нулевыми средними и дисперсиями 2 2

1 1 tDσ = υ = σ β и

2 22 2 tD yσ = = σ β , где 2

21 | ( ) |

2ixB e dx

π−

−πβ =

π ∫ . Тогда характеристическая функция zt имеет вид:

2 2 2 21 2( ) exp 0,5 (1 )exp 0,5λ = ε − σ λ + − ε − σ λzf . Если 1 2β >> β , то при достаточно больших значе-

ниях λ можно использовать приближение

2 22( ) (1 )exp 0,5λ ≈ − ε − σ λzf . (14)

Это приближение тем точнее, чем больше уровень «выбросов» 1β . Далее, используя (14),

имеем приближение: ( ) 2 2 22 1 2 2 1( ) ( ) exp 0,5z zf fλ λ = − σ λ − λ . Возьмем некоторые конкретные зна-

чения λ1 и λ2. Тогда в левой части соотношения можно статистически оценить отдельно числи-тель и знаменатель, и затем из правой части получить оценку 2σ . Подставив ее вместо σ2 в фор-мулу (14), получим равенство, из которого и найдем оценку ε . Таким образом, алгоритм оцени-вания ε имеет вид:

1) выбираем λ1 и λ2; 2) строим выборочную характеристическую функцию и вычисляем

1

1( ) cos

Tz i i t

tf T z−

=λ = λ∑ ;

3) строим оценку 22σ : 2 2 2 1

2 1 2 2 12( ) ln ( ) ( )z zf f−σ = λ − λ λ λ ;

4) в формуле (14) делаем подстановки: 12 2 2, −σ → σ λ → σ и вычисляем

121 ( )ze f −ε = − ⋅ σ , где 1 1

2 21

( ) cos T

z tt

f T z− −

=σ = σ∑ .

В этом алгоритме остается одна неопределенность – выбор λ1 и λ2. В численных эксперимен-тах хорошие результаты показал алгоритм со следующим подбором этих параметров:

1 22

11

Tt

tz T

−

=

⎛ ⎞λ = ⎜ ⎟⎝ ⎠

∑ , 2 12λ = λ .

4. Численные результаты. Для двух моделей авторегрессии М1, М2 при наличии «выбро-сов» с параметрами T = 500, ε = 0,1, β = 10, σ = 1 и порождающими уравнениями: M1: 1 20,3 0,2 , 2t t t ty y y u p− −+ + = = , M2: 1 2 40,2 0,1 0,4 , 4t t t t ty y y y u p− − −− + − = = , были смоделированы серии по 10 000 реализаций. Для каждой реализации коэффициенты авто-регрессии b оценивались четырьмя разными процедурами: робастной с известным ε, робастной с неизвестным ε, процедурой, использующей оценки Хьюбера (5), и классическим МНК [1]. В таблицах 1–4 приведены численные результаты для оценок , ibτθ (Sm – смещение, Var – ва-

риация). Гистограммы для абсолютных уклонений оценок max | |i ii

b bδ = − представлены на ри-

сунке и расположены сверху вниз в том же порядке, что и перечисленные выше процедуры оце-нивания.



Беларуси

11

Т а б л и ц а 1

Процедура Var(θ1) Sm(θ1) Var(θ2) Sm(θ2)

роб. с изв ε 0,017 0,007 0,023 0,009

роб. с неизв ε 0,023 0,004 0,019 0,004

Хьюбера 0,029 0,012 0,031 0,017

МНК 0,197 –0,059 0,092 0,132


Процедура Var(b1) E(b1) Var(b2) E(b2)

роб. с изв ε 0,011 0,301 0,013 0,207

роб. с неизв ε 0,015 0,312 0,012 0,217

Хьюбера 0,014 0,284 0,015 0,188

МНК 0,097 –0,011 0,058 0,007


Процедура Var(θ1) Sm(θ1) Var(θ2) Sm(θ2) Var(θ3) Sm(θ3) Var(θ4) Sm(θ4)

роб. с изв ε 0,019 −0,009 0,026 0,004 0,017 0,007 0,029 −0,009

роб. с неизв ε 0,017 −0,007 0,021 0,003 0,014 0,003 0,022 −0,008

Хьюбера 0,027 −0,014 0,031 0,008 0,022 0,012 0,034 −0,013

МНК 0,073 0,071 0,085 0,143 0,068 −0,052 0,273 0,039


Процедура Var(b1) E(b1) Var(b2) E(b2) Var(b3) E(b3) Var(b4) E(b4)

роб. с изв ε 0,013 –0,209 0,011 0,115 0,010 0,008 0,017 –0,384

роб. с неизв ε 0,012 –0,210 0,013 0,114 0,009 0,004 0,015 –0,390

Хьюбера 0,016 –0,189 0,017 0,121 0,013 0,003 0,021 –0,426

МНК 0,042 0,053 0,023 0,014 0,053 –0,02 0,191 0,008

Полученные результаты численных экспериментов иллюстрируют значительный выигрыш в среднеквадратической погрешности оценивания параметров , ibτθ для предложенного мето-да по сравнению с методом Хьюбера и МНК.

Гистограммы величин δ для моделей М1(справа), М2(слева)



Беларуси

12

Литература

1. А н д е р с о н Т. В. Статистический анализ временных рядов. М., 1976. 2. Х ь ю б е р П. Робастность в статистике. М., 1984. 3. Х а м п е л ь Ф. Робастность в статистике: подход на основе функций влияния. М., 1989. 4. М о с т е л л е р Ф., Т ь ю к и Д ж. Анализ данных и регрессия. М., 1982. 5. K h a r i n Y u. Robustness in statistical pattern recognition. Dordrecht; Boston; London, 1996. 6. S h e v l y a k o v G. L., V i l c h e v s k i N. O. Robustness Data Analysis: criteria and methods. N. Y., 2002. 7. А н д е р с о н Т. В. Введение в многомерный статистический анализ данных. М., 1963. 8. В а д з и н с к и й Р. Н. Справочник по вероятностным распределениям. М., 2001. 9. B r a d l e y R. C. Introducion to strong mixing conditions. N. Y., 2007. 10. D o u k h a n P. M i x i n g: properties and examples. N. Y., 1994. 11. Ш и р я е в А. Н. Вероятность. М., 1980. 12. L i n Z h., L u C h. Limit theory for mixing dependent random variables. Dordrecht; Boston; London, 1996. 13. Х а р и н Ю. С., З у е в Н. М. Теория вероятностей. Минск, 2004. 14. Г а н т м а х е р Ф. Р. Теория матриц. М., 1966. 15. К о р о л ю к В. С. Справочник по теории вероятностей и математической статистике. М., 1985.

Yu. S. KHARIN, V. A. VOLOSHKO

ONE METHOD OF ROBUST ESTIMATION OF AUTOREGRESSIVE PARAMETERS UNDER OUTLIERS

Summary

The problem of statistical estimation of coefficients of an autoregressive time series of order p in the presence of random outliers with a symmetric probability distribution is considered. A new method of parametric robust estimation of the correlation function and coefficients for the autoregressive process is proposed. Asymptotic properties of these estimators are analysed. Numerical results on comparison of the proposed method with the Huber estimator and the LS-estimator are given.



Беларуси

13


УДК 519.24 Н. Н. ТРУШ, ЛЕ ХОНГ ШОН

ОЦЕНКА ПАРАМЕТРОВ МОДЕЛИ GARCH(1, 1) С ОСТАТКАМИ, ИМЕЮЩИМИ κ -УСТОЙЧИВОЕ РАСПРЕДЕЛЕНИЕ



Введение. Обобщенный авторегрессионный условный гетероскедастичный процесс (Generalized Autoregressive Conditionally Heteroskedastic (GARCH)) был введен T. Bollerslev [1]. GARCH про-цесс получил активное исследование вследствие его гибкой структуры и более удобной пара-метризации, особенно процесс GARCH(1,1), который служит в качестве модели во многих прак-тических задачах. Процесс ty удовлетворяет модели GARCH(p, q), , 1, 2, ...,p q = если

σ ε ,t t ty = ,t Z∈ (1)

где ε , 0, 1, 2, ...tt = ± ± – независимые, одинаково распределенные случайные величины,

2 2 2

1 1σ ω α β σ ,

p qt i t i j t j

i jy − −

= == + +∑ ∑ .t Z∈ (2)

и ω 0,> α 0,i > 1 ,i p≤ ≤ 0,jβ ≥ 1 .j q≤ ≤ (3)

В [2] доказано, что необходимым и достаточным условием для существования единственно-го стационарного решения модели GARCH(1,1) является 2

1 1 0ln(β α ε ) 0.E + < В работе [3] были найдены необходимое и достаточное условия для существования единственного стационарного решения в общем случае для модели GARCH(p, q). Без потери общности мы можем предпола-гать min( , ) 2.p q ≥ Пусть

1

2

β α α0 0 0

,ξ 0 0 00 0 0

τ n q p

qn

n

p

IA

I

−

−

⎡ ⎤⎢ ⎥⎢ ⎥=⎢ ⎥⎢ ⎥⎢ ⎥⎣ ⎦

где 2 11 1 2 1τ (β ,β , ...,β ) ,ε q

n n q R −−= + α ∈ 2 1ξ (ε , 0, ..., 0) ,q

n n R −= ∈ nI – единичная матрица,

0,1, 2, ...,n = 22 1α (α , ..., α ) .p

p R −−= ∈

Ранее было доказано, что если 0ln || || ,E A < ∞ (4)

то процесс (1)–(3) имеет единственное стационарное решение тогда и только тогда, когда после-довательность ,nA 0,1, 2, ...n = удовлетворяет соотношению

0 10

1inf ln || ... || 0,1L n

nE A A A

n≤ ≤∞γ = <

+ (5)

где γ L называется экспонентой Ляпунова (см. [3]), || || sup|| || / || || : , 0,dd dA Ax x x R x= ∈ ≠ || . ||d –

норма Евклида в пространстве .dR



Беларуси

14

В этом случае модель GARCH(p, q) может быть представлена в виде бесконечной суммы. Обозначим 2 2 2 2 1

1 1 1(σ , .., σ , , ..., )T p qn n n q n n pX y y R + −

− − − − −= ∈ и 1(ω, 0, ..., 0) .T p qD R + −= ∈ Тогда (1) и (2) могут быть записаны как

1 .n n nX A X D+ = +

В работе [3] доказано, что если выполняются условия (4) и (5), то

0

... .n n n kk

X D A A∞

−=

= + ∑

Если 1,p q= = то при условии 21 1 0ln( ) 0,E β + α ε < (2) можно записать в виде

2 21 1

11σ ω 1 (β α ε ) ,

kt t i

ik

∞−

==

⎛ ⎞= + +⎜ ⎟⎝ ⎠

∑∏ 0, 1, 2, ...,t = ± ± (6)

и если 10 1,β< < то

2 21 1 1

1 0

ωσ α β ,1 β

kt t k

ky

∞− −

== +

− ∑ 0, 1, 2, ...t = ± ± . (7)

Невырожденная случайная величина X называется κ -устойчивой, (0; 2],κ ∈ если ее харак-теристическая функция имеет представление

πexp (δ | |) 1 βsign( ) при 1,2

( )2exp δ | | 1 β sign( ) ln(| |) при 1,π

μ

μX

t i t tg i tt

t i t t i t

κ⎧ ⎧ ⎫κ⎡ ⎤− − + κ ≠⎨ ⎬⎪ ⎢ ⎥⎣ ⎦⎪ ⎩ ⎭ϕ = ⎨⎧ ⎫⎡ ⎤⎪ − + + κ =⎨ ⎬⎢ ⎥⎪ ⎣ ⎦⎩ ⎭⎩

где (0; 2],κ ∈ β [ 1;1],∈ − μ ,R∈ δ 0.> Если β 0= , то X является симметричной устойчивой слу-чайной величиной относительно .μ Известно, что если X – κ -устойчивая случайная величина,

(0; 2),κ ∈ то | | pE X < ∞ тогда и только тогда, когда ;p < κ (см. [4, 5]). Характер поведения «хвостов» распределения процесса GARCH(1,1). Рассмотрим про-

цесс GARCH(1,1)

σ ,t t ty ε= 0, 1, 2, ...,t = ± ± (8)

где ε , 0, 1, 2, ...t t = ± ± – независимые, одинаково распределенные случайные величины,

2 2 2 2 20 0 1 0 1 0 0 0 1 1σ ω α β σ ω (β α ε )σ , 0, 1, 2, ...,t t t t ty t− − − −= + + = + + = ± ± (9)

и 0ω 0,> 0α 0,> 0β 0.≥ (10)

Пусть 20 0 0 0β α ε .A = + Исследуем свойства поведения модели GARCH(1,1) и остатков .tε

Связь между степенями «хвоста» модели GARCH(1,1), ее коэффициентами и распределением остатков исследована в работе [6]. Если 0ln 0,E A < 0( 1) 0,P A > > и существует константа

0 0h > такая, что 0hEA < ∞ для всех 0 ,h h< 0

0 ,hEA = ∞ и уравнение

/ 20 1kEA = (11)

имеет единственный положительный корень 0 ,k k= то модель (8) – (10) имеет един-ственное стационарное решение. Кроме того, существует положительная константа

0 0 02 / 2 2 / 2 / 20 0 0 0 0 0 00[(ω σ ) ( σ ) ] /[ / 2 ln ]k k kC E A A k EA A= + − такая, что



Беларуси

15

00 0(σ ) ~ ,kP x C x −> при ,x → ∞ (12)

и 0

0 0 0(| | ) ~ | ε | (σ ),kP y x E P x> > при ,x → ∞ (13)

где ( ) ~ ( ),f x g x при ,x → ∞ означает, что xlim [ ( ) / ( )] const.f x g x→∞

=

Когда ε t имеют нормальное распределение, 20ε 1E = и 0 0α β 1,+ = то уравнение (11) имеет

единственный корень 2.k = Таким образом, 2

0 00 0ln ln (α ε β ) 0,E A E< + = и 20 00 0( 1) (α ε β ) 0.1P A P> = + >>

Отсюда имеем 2

00(σ ) ~ ,P x C x −> при ,x → ∞

200(| | ) ~ ,P y x C x −> при .x → ∞

Рассмотрим случай, когда ε t –κ -устойчивые случайные величины, (0; 2],κ ∈ Следуя [2], не-обходимым и достаточным условиями для существования единственного стационарного реше-ния уравнения (9) является 2

0 0 0ln(β α ε ) 0.E + < Условие ( 1) 0tP A > > выполняется тогда и только тогда, когда 00 β 1.< < Условие 0β 1< необходимо для стационарности и характера поведения «тяжелых хвостов» модели GARCH(1,1).

Известно, что если 0ε является κ -устойчивой случайной величиной, 0 2,< κ < то 20(ε ) kE < ∞ тогда и только тогда, когда 0 / 2,k< < κ и 2

0(ε ) kE = ∞ тогда и только тогда, когда / 2.k ≥ κ Поэтому всегда существует константа 0 0h > такая, что 2

0 0 0(β α ε ) hE + < ∞ при всех

0 ,h h< и 020 0 0(β α ε ) .hE + = ∞ С другой стороны, из 2

0 0 0((β α ε ) 1) 0P + > > вытекает, что уравне-

ние ( ) / 220 0 0β α ε 1

kE + = имеет единственный положительный корень, который меньше чем κ

Поэтому, когда остатки являются κ -устойчивыми случайными величинами, то характер поведе-ния «тяжелых хвостов» (12) и (13) модели GARCH(1,1) выполняется, и поведения «хвостов» мо-дели тяжелее, чем поведения «хвостов» ее остатков. Проблема оценки степени параметра «хво-ста» k исследована в работах [7, 8].

Оценка параметров процесса GARCH(1,1). Для модели GARCH(1,1), заданной (9) – (10), при условии, что 2

02 λ(ε ) ,E + < ∞ 0,λ > используя метод максимального правдоподобия, состоя-

тельная оценка параметров получена в работе [9]. При условиях 20ε ,E < ∞ 0 0β α 1,+ < в работе

[10], используя метод Юла–Уокера для оценки параметров модели GARCH(1,1) через представ-ление ее моделью ARMA, получена состоятельная оценка и доказана ее асимптотическая нор-мальность.

Рассмотрим модель (8) – (10) с остатками, имеющими κ -устойчивое распределение, (0; 2].κ ∈ Известно, что κ -устойчивая случайная величина, (0; 2),κ ∈ имеет конечные абсолютные момен-ты порядка k тогда и только тогда, когда 0 .k< < κ В [10] доказано, что, используя метод квази-максимального правдоподобия, нельзя получить 1/ 2n − -состоятельную оценку, если 0| ε |kE = ∞ при 0 4.k< < Это свидетельтвует об ограниченности метода квази-максимального правдоподо-бия. Для существования модели GARCH(1,1) требуется только, чтобы 2

0| ln ε | ,E < ∞ но оценка может быть построена, если 0| ε |kE < ∞ с некоторым ,k 4.k ≥

Рассмотрим модель GARCH(1,1) вида

σ ε ,t t ty = 0, 1, 2, ...,t = ± ± (14) где 2 2 2

0 0 0 1 0 1σ ω (1 β ) α β σ ,t t ty − −= − + + (15)



Беларуси

16

0ω 0,> 0α 0,> 00 β 1,≤ < (16)

ε t – независимые, одинаково распределённые κ -устойчивые случайные величины, (0; 2].κ ∈ Тогда (7) можно переписать в виде

2 20 0 0 1

0σ ω α β ,k

t t kk

y∞

− −=

= + ∑ 0, 1, 2, ...t = ± ± . (17)

Пусть 0 0 0 0θ (ω , α ,β )= – неизвестные параметры модели, тогда рассматриваемая парамет-рическая модель может быть представлена в виде

σ (θ)ε ,t t ty = 0, 1, 2, ...,t = ± ± (18) где 2 2 2

1 1σ (θ) ω(1 β) α βσ (θ),t t ty − −= − + + (19)

с параметрическим пространством

201 2 1 2 1 2Θ θ (ω,α,β) :0 ω ω ω , 0 α α α , 0 β β β 1, ln(β αε ) 0,E= = < ≤ ≤ < ≤ ≤ < ≤ ≤ < + < (20)

в предположении, что 0θ – внутренняя точка пространства Θ. Известно [1], что если существуют 1θ (ω, α, β) Θ,= ∈ 2θ (ω ', α ', β ') Θ= ∈ такие, что

2 21 2σ (θ ) σ (θ ),t t= то 1 2θ θ ,= т. е.

ω ω ', α α ',β β '.= = = (21) Заметим, что в этом случае

2 20σ (θ ) σ .t t= (22)

Рассмотрим модифицированную функцию правдоподобия в следующем виде:

1

1(θ) (θ),n

n tt

L ln =

= ∑ 2

22

1(θ) lnσ (θ) ,σ (θ)

pt

t tt

ylp

⎛ ⎞⎛ ⎞⎜ ⎟= − + ⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠

(23)

p – некоторая константа, 0 / 2.p< < κ Л е м м а 1. При любых λ, 0 λ / 2,< < κ имеем

2

2θ Θ

λσsup .

σ (θ)t

tE

∈

⎛ ⎞< ∞⎜ ⎟⎝ ⎠

(24)

Д о к а з а т е л ь с т в о. Из (17) получим, что

2 2 2

22 2

1 11 1

σ σ σ ,σ (θ) ω α β α β

t t tM

k ktt k t k

k ky y

∞− − − −

= =

= ≤+ ∑ ∑

(25)

при любом натуральном числе 0.M > Из 0ω 0> вытекает, что

2 2 2

0 0 0 1 0 1 0 0 2 20 1 0 12 2 2

1 1 1

σ ω (1 β ) α β σ ω (1 β ) α ε β (1 ε ),σ σ σ

t t tt t

t t t

y K− −− −

− − −

− + + −= = + + ≤ +

где 0 0max(1 β ),α 1.K = + > Отсюда при 2, 3, ...i = имеем



Беларуси

17

2 2 2 2 2

0 0 0 1 0 1 0 0 1 120 1 02 2 2 2 2

σ ω (1 β ) α β σ ω (1 β ) σ σα ε βσ σ σ σ σ

t t t t tt

t i t i t i t i t i

y − − − −−

− − − − −

− + + −= = + + ≤

2 2

0 0 1 12 20 1 0 12 2

1

ω (1 β ) σ σα ε β (1 ε )σ σ σ

t tt t

t t i t iK− −

− −− − −

−⎛ ⎞+ + ≤ + ≤⎜ ⎟⎝ ⎠

2

22 2 21 2 2

σ(1 ε )(1 ε )σ

tt t

t iK −

− −−

+ + ≤

……………………………………………………….

2

1(1 ε ).

ii

t jj

K −=

+∏ (26)

Используя (25) и (26) получим:

212 2

12112 2 2

0

α βσ (θ) σα β εσ σ σ

Mk

t k Mt t kkk

t kkt t t

y − −− −=

− −=

≥ = ≥∑

∑

21 1

1 20

1

2111 2

01

1α β ε(1 ε )

αβ ε .

(1 ε )

Mk

t k kMk

t jj

Mk

t kMMkt jj

K

K

− − ++=

−=

− −++=−=

≥+

+

∑∏

∑∏

Используя неравенство Гёлдера, при любых ',p ' / 2,pλ < < κ имеем

λλ2 λ( 1) 1

22 λ 2θ Θ 1 10

λσ 1sup (1 ε )

σ (θ) α β ε

M Mtt j M k

jt t kk

KE E+ +

−∈ = − −=

⎛ ⎞⎛ ⎞⎛ ⎞ ⎛ ⎞⎜ ⎟≤ + ≤⎜ ⎟⎜ ⎟ ⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠ ⎝ ⎠⎝ ⎠

∏∑

( ' ) / '/ ' '/( ' )'( 1) 112 2

11 1

λ λ λλλ

λ (1 ε ) β ε .α

p pp p ppM MMt j t k

j j

kK E E

−− −+ ++− − −

= =

⎛ ⎞⎛ ⎞ ⎛ ⎞⎛ ⎞⎜ ⎟⎜ ⎟+ ⎜ ⎟⎜ ⎟⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠⎝ ⎠ ⎝ ⎠

∏ ∑ (27)

Из независимости случайных величин ε t получим:

/ '' / '1 1

2 2 '

1 1

λ λ

(1 ε ) (1 ε ) .

pp pM M

pt j t j

j jE E

+ +− −

= =

⎛ ⎞⎛ ⎞ ⎛ ⎞⎜ ⎟+ = + < ∞⎜ ⎟ ⎜ ⎟⎜ ⎟⎝ ⎠ ⎝ ⎠⎝ ⎠

∏ ∏ (28)

Так как ε t – κ -устойчивые случайные величины, то ε t имеют регулярно меняющееся распределение с индексом κ . Отсюда вытекает, что 2ε t – регулярно меняющиеся с индексом

/ 2κ случайные величины. Тогда 210β εM k

t kk − −=∑ является регулярно меняющейся случайной ве-личиной с индексом / 2.κ Из теоремы 1.3.2 в [11] получим:

'/( ' )

21

0

λ λβ ε ,

p pMk

t kk

E− −

− −=

⎛ ⎞< ∞⎜ ⎟⎝ ⎠

∑ (29)

а из соотношений (27) – (29) имеем (24). Лемма доказана. Пусть

0(θ) (θ),L El=

где 202

0 0 20

1(θ) lnσ (θ) , 0 / 2.σ (θ)

pyl p

p

⎛ ⎞⎛ ⎞⎜ ⎟= − + < < κ⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠



Беларуси

18

Докажем, что (θ) ,L < ∞ при всех θ .∈Θ Действительно, из леммы 1 получим:

( )22 20 0

2 20 0

σεσ (θ) σ (θ)

.p

t

ppyE E E

⎛ ⎞ ⎛ ⎞=⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠

< ∞ 0,1, 2, ...t = . (30)

Следовательно, из устойчивости случайных величин ε t и леммы 2.3 [9], вытекает, что су-ществует константа ρ, ρ 0,> такая что

20

ρ(σ (θ)) .E < ∞

Отсюда, согласно неравенству Йенсена,

2lnσ (θ) .tE < ∞ (31)

Из (30) и (31) получим

202

0 0 20

1(θ) (θ) lnσ (θ) .σ (θ)

pyL El E

p

⎛ ⎞⎛ ⎞⎜ ⎟= = − + < ∞⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠

Л е м м а 2. При 0 / 2,p< < κ функция (θ)nL определена (23), тогда

,

1sup | ( ) ( ) | .| | n n

u vE L u L v

u v∈Θ

⎛ ⎞− < ∞⎜ ⎟−⎝ ⎠

(32)

Д о к а з а т е л ь с т в о. Известно, что

, ,1

1 1 1sup | ( ) ( ) | sup | ( ) ( ) | .| | | |

nn n t t

u v u vtE L u L v E l u l v

u v n u v∈Θ ∈Θ=

⎛ ⎞ ⎛ ⎞− ≤ −⎜ ⎟ ⎜ ⎟− −⎝ ⎠ ⎝ ⎠

∑ (33)

Используя теорему о среднем значении, имеем

2 2

2 22 2

1 1| ( ) ( ) | lnσ ( ) lnσ ( )σ ( ) σ ( )

p pt t

t t t tt t

y yl u l v u vp pu v

⎛ ⎞ ⎛ ⎞− = + − −⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠

≤

( )2

2

'σ (η)

| | .σ (η)

t

tu v− (34)

где η ,∈Θ | η | | |, | η | | | .u u v v u v− ≤ − − ≤ − Подобным методом, как и при доказательстве леммы 1, получим следующее неравенство

2

2θ Θ

γ(σ (η)) 'sup ,σ (η)

t

tE

∈

⎛ ⎞< ∞⎜ ⎟

⎝ ⎠ при некотором γ 0.> (35)

Поэтому, из (33) – (35) получим (32). Лемма доказана. Пусть ˆ nθ – М оценка параметра 0θ модели (14) – (16) с функцией правдоподобия (23), т. е.

θ

ˆ arg max (θ).n nL∈Θ

θ = (36)

Состоятельность оценки ˆ nθ доказана в следующей теореме. Т е о р е м а 1. Предположим, что 0 / 2,p< < κ 2

0| ε | 1,pE = тогда

п.н.0ˆ θ ,nθ ⎯⎯⎯→ при .n → ∞ (37)



Беларуси

19

Д о к а з а т е л ь с т в о. Известно, что (θ)t t Zl ∈ является измеримой функцией от стацио-

нарного эргодического процесса ε t t Z∈ , поэтому (θ)t t Zl ∈ является эргодическим процессом с

конечным математическим ожиданием 0(θ) (θ) ,L El= < ∞ θ .∈Θ Используя эргодическую тео-рему (теорема 2.1, Х [12]), получим:

п.н.(θ) (θ),⎯⎯⎯→nL L θ ,∈Θ при .n → ∞

Отсюда, используя лемму 2, получим равномерную сходимость ряда функции (θ):nL

п.н.

θsup | (θ) (θ) | 0,

∈Θ− ⎯⎯⎯→nL L при .n → ∞

С другой стороны, при любом θ∈Θ имеем

2 20 02 2

0 0 02 20 0

1 1(θ ) (θ) lnσ (θ) lnσσ (θ) σ

p py yL L E E

p p

⎛ ⎞ ⎛ ⎞⎜ ⎟ ⎜ ⎟− = + − + =⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠

2 20 0

2 20 0

1 1 σ σln .σ (θ) σ (θ)

p p

Ep p

⎛ ⎞⎜ ⎟− + −⎜ ⎟⎝ ⎠

(38)

Известно, что функция ( ln )x x− – положительная при всех 0x > и достигает минимума в точке 1.x = Следовательно, из (38) вытекает, что (θ), θL ∈Θ имеет абсолютный максимум в

точке θ* такой, что 20

20 *

σ 1,σ (θ )

p

= или 2 20 0σ (θ*) σ .= Используя (22), получим, что 0θ* θ .= Из (21)

вытекает, что функция (θ), θL ∈Θ имеет единственный максимум в точке 0θ . Отсюда следует, что последовательность максимумов последовательности функций (θ)nL сходится почти на-верное к единственному максимуму функции (θ).L Следовательно, из (36) получим (37). Теоре-ма доказана.

Асимптотическое распределение оценки. Из определения (θ)nL в (23) имеем:

2 2 2 1 2

2 2 21

1 ( ) (σ (θ)) '(σ (θ)) (σ (θ)) ''(θ)(σ (θ)) σ (θ)

p pnt t t t

n pt t t

yLn

−

=

⎛ ⎞= − =⎜ ⎟⎝ ⎠

∑

2 2

2 21

1 (σ (θ)) '1 ,σ (θ) σ (θ)

pnt t

t t t

yn =

⎛ ⎞⎛ ⎞⎜ ⎟−⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠

∑ (39)

2 2 2

2 2 21

1 (σ (θ)) ' (σ (θ)) '"(θ)σ (θ) (θ) σ (θ)σ

p Tnt t t

nt t t t

yL pn =

⎛ ⎛ ⎞⎛ ⎞ ⎛ ⎞⎜ ⎜ ⎟= − +⎜ ⎟ ⎜ ⎟⎜ ⎟⎜ ⎝ ⎠ ⎝ ⎠⎝ ⎠⎝

∑

2 2 2 2

2 2 2 2(σ (θ))" (σ (θ)) ' (σ (θ)) '1

σ (θ) σ (θ) σ (θ) σ (θ)

p Tt t t t

t t t t

y ⎞⎛ ⎞ ⎛ ⎞⎛ ⎞ ⎛ ⎞⎟⎜ ⎟ ⎜ ⎟− − =⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟⎟⎝ ⎠ ⎝ ⎠⎝ ⎠ ⎝ ⎠ ⎠

2 2 2 2 2

2 2 2 2 21

1 (σ (θ))" (σ (θ)) ' (σ (θ)) '1 1 ( 1) .σ (θ) σ (θ) σ (θ) σ (θ) σ (θ)

p p Tnt t t t t

t t t t t t

y ypn =

⎞⎛ ⎞ ⎛ ⎞⎛ ⎞ ⎛ ⎞ ⎛ ⎞⎟⎜ ⎟ ⎜ ⎟− − + −⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟ ⎟⎝ ⎠ ⎝ ⎠ ⎝ ⎠⎝ ⎠ ⎝ ⎠ ⎠

∑ (40)



Беларуси

20

Известно, что 2 20σ (θ ) σ ,t t= тогда, согласно условиям теоремы 1, соотношениям (24), (26),

(35) и независимости случайных величин ε t и 2

2σ

σ (θ)t

t вытекает:

2 20 0

0 2 20 0

(σ (θ)) ''(θ) '(θ) 1σ (θ) σ (θ)

pyL El E

⎛ ⎞⎛ ⎞⎛ ⎞⎜ ⎟⎜ ⎟= = − ≤⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠⎝ ⎠

( )2 2

20 2 2θ

σ (σ (θ)) 'ε 1 sup .σ (θ) σ (θ)

pp t t

t tE E E

∈Θ

⎛ ⎞⎛ ⎞ ⎛ ⎞⎜ ⎟− < ∞⎜ ⎟ ⎜ ⎟⎜ ⎟⎝ ⎠ ⎝ ⎠⎝ ⎠

(41)

Из (39) имеем, что процесс '(θ)t t Zl ∈ – измеримая функция строго стационарного эргодиче-ского процесса ε t , поэтому '(θ)t t Zl ∈ тоже является строгим стационарным эргодическим про-цессом. Из (41), как и при доказательстве теоремы 1, получим, что

п.н.

θsup | '(θ) '(θ) | 0,

∈Θ− ⎯⎯⎯→nL L при .n → ∞

Из (36) имеем, что (θ)nL достигает максимума в точке ˆ ,nθ поэтому для достаточно больших n ˆ nθ является внутренней точкой пространства .Θ Тогда существует 0 ,n N∈ такое что

ˆ'( ) 0,n nL θ = при любом 0.n n≥

Следовательно,

0 0ˆ'( ) '(θ ) '(θ ).n n n nL L Lθ − = −

Отсюда, согласно теореме о среднем значении,

0 0 0ˆ ˆ( θ ) "(η) '( ) '(θ ) '(θ ),n n n n n nL L L Lθ − = θ − = − (42)

где η Θ,∈ чтобы 0ˆ ˆ| η | | θ |,n n− θ ≤ θ − 0 0ˆ| η θ | | θ | .n− ≤ θ − Из непрерывности функции "(.)nL и (37), получим

0"(η) "(θ ) (1).n nL L o= +

В работе [13] доказано, что существует невырожденная матрица

2 20 0 0 0

2 20 0

(σ (θ )) ' (σ (θ )) ' .σ σ

T

A E⎛ ⎞⎛ ⎞⎜ ⎟= ⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠

Известно, что 2 20 0 0σ (θ ) σ ,= .t Z∈ Тогда согласно условиям теоремы 1, из (40) и независимо-

сти случайных величин ε ,t 2

2σ

σ (θ)t

t, а также невырожденности матрицы А имеем:

0"( )θL ( )2 20 0 0 02

0 0 0 2 20 0

(σ (θ )) ' (σ (θ )) ''(θ ) 1 ( 1) | ε | .σ σ

TpEl E p E

⎛ ⎞⎛ ⎞⎜ ⎟= = − + − ⎜ ⎟⎜ ⎟⎝ ⎠⎝ ⎠

(43)

Подобным методом, как и для процесса '(θ) ,t t Zl ∈ получим, что 0 "(θ )t t Zl ∈ является стро-го стационарным и эргодическим процессом. Отсюда имеем:

п.н.0 0"(θ ) "(θ ),⎯⎯⎯→nL L при .n → ∞ (44)



Беларуси

21

Из (39) вытекает

( )2

020 2

1

1 (σ (θ )) ''(θ ) 1 | ε | .σ

ntp

n tt t

Ln =

= −∑ (45)

Используя соотношения (42) – (45), получим

( )2

01/2 2 1 1/20 2 2

1 0

1 1 (σ (θ )) 'ˆ( θ ) 1 | ε | ( ).(1 ( 1) | ε | ) σ

n tpn t Pp

t tn A o n

n E p− −

=θ − = − +

+ −∑ (46)

Т е о р е м а 2. Пусть выполнены условия теоремы 1, тогда при / 4,< κp имеем

1/2 10ˆ( θ ) (0, )d

nn N BA−θ − ⎯⎯→ при ,n → ∞ (47) где

( )

( )

22

220

1 | ε |.

(1 ( 1) | ε | )

pt

p

EB

E p

−=

+ −

Д о к а з а т е л ь с т в о. Действительно, из условия 2| ε | 1ptE = и независимости случайных

величин ε t и 2

02

(σ (θ )) 'σ

t

t имеем, что 2

0| '(θ ) | ,tE l < ∞ и 0'(θ ) 0,tEl = при любом .t Z∈ Отсюда вы-

текает, что ( )2

020 2

(σ (θ )) ''(θ ) 1 | ε |σ

tpt t

t t Z

l∈

⎧ ⎫⎪ ⎪= −⎨ ⎬⎪ ⎪⎩ ⎭

– стационарный, разностный мартингал-процесс.

Следовательно, 0'(θ )t t Zl ∈ – эргодический процесс. Из (46), используя теорему Крамера – Вольда и теорему 23.1 в [14], получим (47). Теорема доказана.


1. B o l l e r s l e v T. // Journal of Econometrics. 1986. Vol. 31. P. 307–327. 2. N e l s o n D. // Econometric Theory. 1990. Vol. 6. 3. P. 318–334. 3. B o u g e r o l P., P I c a r d N. // Ann. Probab. 1992. Vol. 20. P. 1714–1730. 4. F e l l e r W. An Introduction to Probability Theory and Its Applications. Vol. 2. John Wiley & Sons, New York, 1965. 5. L u k a c s E., L I n t o n B. Characteristic Functions. Charles Griffin, London, 1960. 6. M i k o s c h T., S t ă r i c ă C. // Ann. Statis. 2000. Vol. 28. 5. P. 1427–1451. 7. I g l e s i a s E. // Workshop Schedule Fall, Area Econometrics. Michigan State University, Michigan, 2007. 8. S t ă r i c ă C. // Mimeo: Chalmers University. Gothenburg, 1999. 9. B e r k e s I., H o r v á t h L. // Bernoulli. 2003. Vol. 9(2). P. 201–227. 10. M a e r c k e r G., M o s e r M. // Report 58, StatLab Heidelberg – Institute of Angewandte Mathematic, University

Heidelberg. Heidelberg, 2001. 11. M i k o s c h T. // Report 99–013, University of Groningen. Groningen, 1999. 12. D o o b J. L. Stochastic processes. Wiley, New York, 1953. 13. B e r k e s I., H o r v á t h L. // Statist. Probab. Lett. 2003. Vol. 61. P. 133–143. 14. B i l l i n g s l e y P. Convergence of probability measure. Wiley, New York, 1968.

N. N. TROUSH, LE HONG SON

ESTIMATOR OF PARAMETERS OF GARCH(1,1) MODEL WITH STABLE INNOVATIONS

Summary

The M-estimator of the parameters of the models GARCH(1,1) with stable innovations is constructed. The consistency and the asymptotic normality of the M-estimator in the class of the above models are given.



Беларуси

22


УДК 517.983:519.86 А. Н. ТАНЫГИНА

АНАЛОГИ ПРИНЦИПА ЛЕ-ШАТЕЛЬЕ – САМУЭЛЬСОНА ДЛЯ ОТКРЫТОЙ МОДЕЛИ ЛЕОНТЬЕВА – ФОРДА



Данная работа посвящена доказательству аналогов принципа Ле-Шателье – Самуэльсона для открытой модели Леонтьева – Форда [1], основные уравнения которой образуют систему

11 12

21 22

,,

x A x A y cy A x A y d

= + +⎧⎨ = + −⎩

(1)

где вектор mx +∈ описывает объемы производимых в системе благ, вектор ny +∈ – объемы ущербов, возникающих в процессе производства и уничтожаемых в системе, вектор mc +∈ – объемы потребляемых благ, вектор nd +∈ – объемы ущербов, остающихся в природе в резуль-тате производства; ijA ( , 1, 2i j = ) – неотрицательные матрицы. При этом предполагается, что благам соответствует множество индексов 1,2, , m… , а ущербам – множество индексов 1, 2, , m m m n+ + +… . Более того, вектор c предполагается заданным, а векторы x, y и d – неиз-вестными.

Принцип Ле-Шателье – Самуэльсона в классическом случае исследует вопрос о том, каким образом изменяется равновесие продуктивной экономической системы с положительной техно-логической матрицей при изменении внешних параметров системы в случае наличия дополни-тельных ограничений по сравнению со случаем, когда такие ограничения отсутствуют (библио-графию см. в [2]). Для модели Леонтьева – Форда естественно искать обобщения данного прин-ципа, которые будут описывать изменение решений ( , , )x y d системы (1) при увеличении спроса c на некоторую группу благ в случае, когда выпуск некоторой другой группы благ не изменяет-ся, по сравнению со случаем отсутствия данного ограничения.

Аналог принципа Ле-Шателье – Самуэльсона для модели Леонтьева – Форда был приведен в [3]. Однако при этом вектор d, наряду с вектором c, предполагался заданным, и, кроме того, матрица 11A предполагалась положительной. Аналоги принципа Ле-Шателье – Самуэльсона для модели Леонтьева – Форда, приводимые в настоящей работе, справедливы в случае, когда тех-нологическая матрица A модели и, в частности, матрица 11A неотрицательны.

Всюду в дальнейшем будем считать, что модель Леонтьева – Форда продуктивна. Напомним [4], что модель Леонтьева – Форда называется продуктивной, если система (1) имеет хотя бы одно неотрицательное решение ( , , )x y d для любого неотрицательного вектора c. Продуктив-ность модели Леонтьева – Форда эквивалентна выполнению неравенства 11ρ( ) 1A < .

Рассмотрим вначале случай, когда ρ( ) 1A < . Данное неравенство является достаточным усло-вием полной компенсируемости модели Леонтьева – Форда, т. е. достаточным условием сущест-вования у системы (1) хотя бы одного неотрицательного решения вида ( , ,0)x y для любого неот-рицательного вектора c [4]. Предполагая выполнение неравенства ρ( ) 1A < и работая с классом неотрицательных решений системы (1) вида ( , ,0)x y , мы будем находиться в ситуации однозначности определения решения данной системы по вектору c. В общем же случае возни-



Беларуси

23

кают трудности с определением решения ( , , )x y d системы (1) по вектору c в силу ее недоопре-деленности.

Пусть 1 2, 1,2, , D D m⊂ … – непустые непересекающиеся множества, причем 1D – множе-ство благ, на которые возрастает спрос, 2D – множество благ, объемы производства которых остаются неизменными.

Рассмотрим три системы

11 12

21 22

,,

x A x A y cy A x A y

= + +⎧⎨ = +⎩

(2)

11 12

21 22

,,

x' A x' A y' c'y' A x' A y'

= + +⎧⎨ = +⎩

(3)

11 12

21 22

,.

x'' A x'' A y'' c''y'' A x'' A y''

= + +⎧⎨ = +⎩

(4)

Система (2) описывает первоначальную ситуацию при спросе c на блага 1,2, , i m∈ … . В сис-теме (3) спрос увеличивается на блага 1i D∈ , т. е. i ic' c> для 1i D∈ , i ic' c= для

11,2, , \i m D∈ … . В системе (4) также увеличивается спрос на блага из 1D , однако выпуск благ 2i D∈ не изменяется, т. е. i ix'' x= для всех 2i D∈ . Заметим, что при этом изменяется спрос на

блага из 2D . Таким образом, i i ic'' c' c= > для 1i D∈ , i ic' c= для 11,2, , \i m D∈ … , i ic'' c= для 1 21,2, , \ ( )i m D D∈ ∪… , i ic'' c'= для 21,2, , \i m D∈ … .

Обозначим для произвольного подмножества M множества 1,2, , m n+… через ( )AL M множество тех индексов 1,2, , i m n∈ +… , которые могут быть соединены дорожками невырож-денности с индексами из M, а через ( )AP M – множество тех индексов 1,2, , i m n∈ +… , для ко-торых существует индекс j M∈ такой, что 0ija > , т. е. 1 1 2 11 2 1( ) 1,2, , | , и 1 , , , : 0,tA t ik k k k jL M i m n j M t k k k m n a a a −−= ∈ + ∃ ∈ ∈ ≤ ≤ + >… … … ( ) 1,2, , | : 0,A ijP M i m n j M a= ∈ + ∃ ∈ >… где ija – элементы технологической матрицы A модели. По определению считается, что

M⊆LA(M). Имеет место следующая теорема. Т е о р е м а 1. Пусть ρ( ) 1A < , 1 2, 1,2, , D D m⊂ … – непустые непересекающиеся множест-

ва. Пусть, далее, x' и x'' – увеличения объемов производства благ, вызванные увеличением спроса на блага из 1D , соответственно в том случае, когда выпуск благ из 2D не фиксируется и в том случае, когда выпуск благ из 2D поддерживается постоянным. Аналогичным образом, пусть y' и y'' – увеличения объемов, возникающих в процессе производства и уничтожаемых в системе ущер-бов, вызванные увеличением спроса на блага из 1D , соответственно в том случае, когда выпуск благ из 2D не фиксируется, и в том случае, когда выпуск благ из 2D поддерживается постоянным. Тогда векторы x' x''− и y' y''− неотрицательны и имеют место следующие равенства: 1 2 2supp( ) ( ( ( ) \ ) ) 1,2, , ,A A Ax' x'' L P L D D D m− = ∩ ∩ … 1 2 2supp( ) ( ( ( ) \ ) ) 1, 2, , .A A Ay' y'' L P L D D D m m m n− = ∩ ∩ + + +…

Д о к а з а т е л ь с т в о теоремы 1 с математической точки зрения повторяет доказательство аналога принципа Ле-Шателье – Самуэльсона для модели Леонтьева с произвольной неотрица-тельной технологической матрицей в [2]. Действительно, вводя обозначения ( , )h x y= ,

( ,0)w c= , ( , )h' x' y'= , ( ,0)w' c'= , ( , )h'' x'' y''= , ( ,0)w'' c''= , получаем, что системы (2) – (4) эк-вивалентны соответственно уравнениям ,h Ah w= + ,h' Ah' w'= + ,h'' Ah'' w''= +



Беларуси

24

по внешнему виду ничем не отличающимся от линейных уравнений, которые рассматривались при доказательстве аналога принципа Ле-Шателье – Самуэльсона для модели Леонтьева. Един-ственным отличием рассматриваемой нами задачи от задачи, рассмотренной в [2], является то, что у вектора c (и, соответственно, у вектора w) увеличивается теперь не одна конкретная коор-дината, а некоторое множество 1D координат из 1,2, , m… .

Для доказательства аналога принципа Ле-Шателье – Самуэльсона для модели Леонтьева –Форда, справедливого в случае, когда ρ( ) 1A ≥ , напомним некоторые определения из [5, 6].

Как было доказано в [6], для любого неотрицательного решения ( , , )x y d системы (1) суще-ствует диагональная матрица ( , , )Λ Λ x y d= , 0 Λ I≤ ≤ , такая, что ( , , )x y d является решением сис-темы

11 12

21 22

21 22

,,.Λ Λ

x A x A y cy A x A y dd A x A y

= + +⎧⎪ = + −⎨⎪ = +⎩

(5)

При этом для одного конкретного решения системы (1) может существовать, вообще говоря, несколько таких матриц. Неотрицательное решение ( , , )x y d системы (1) называется регулярным, если для хотя бы одной построенной по нему диагональной матрицы Λ выполняется неравенст-

во Λρ( ) 1A < , где 11 12Λ

21 22( ) ( )Λ ΛA A

AI A I A

⎛ ⎞= ⎜ ⎟− −⎝ ⎠

. Согласно рассуждениям, проведенным в [5],

регулярные решения существуют для любого неотрицательного вектора c. В случае, когда матрица Λ фиксируется, не всякое неотрицательное решение системы (1) явля-

ется решением системы (5). Неотрицательное решение ( , , )x y d системы (1), являющееся также ре-шением системы (5) с фиксированной матрицей Λ , называется Λ -решением системы (1).

Пусть, как и ранее, mc +∈ – первоначальный спрос, ( , , )x y d – регулярное решение системы (1), соответствующее вектору c, Λ – построенная по данному решению диагональная матрица, та-кая, что 0 Λ I≤ ≤ и Λρ( ) 1A < . Пусть, далее, 1D – множество благ, на которые возрастает спрос,

2D – множество благ, объемы производства которых остаются неизменными ( 1D ≠ ∅, 2D ≠ ∅, 1 2D D∩ = ∅). Наряду с системой (1) рассмотрим следующие две системы:

11 12

21 22

,,

x' A x' A y' c'y' A x' A y' d'

= + +⎧⎨ = + −⎩

(6)

11 12

21 22

,.

x'' A x'' A y'' c''y'' A x'' A y'' d''

= + +⎧⎨ = + −⎩

(7)

Здесь в системе (6) по сравнению с системой (1) увеличивается спрос на блага 1i D∈ , т. е. i ic' c> для 1i D∈ , i ic' c= для 11,2, , \i m D∈ … . В системе (7) также увеличивается спрос на

блага из 1D ( i i ic'' c' c= > для 1i D∈ ), однако выпуск благ 2i D∈ остается неизменным, т. е. для всякого решения ( , , )x'' y'' d'' системы (7), соответствующего вектору c'' , справедливо равенст-во i ix'' x= для всех 2i D∈ . При этом, естественно, изменяется спрос на блага из 2D , т. е.

i ic'' c= для 1 21,2, , \ ( )i m D D∈ ∪… и i ic'' c'= для 21,2, , \i m D∈ … . В силу недоопределенности систем (6) и (7) (число неизвестных в обеих системах больше

числа уравнений) возникают трудности с определением решений ( , , )x' y' d' и ( , , )x'' y'' d'' данных систем по векторам c' и c'' . Для того, чтобы избежать этих трудностей, рассмотрим системы

11 12

21 22

21 22

,,

,Λ Λ

x' A x' A y' c'y' A x' A y' d'd' A x' A y'

= + +⎧⎪ = + −⎨⎪ = +⎩

(8)



Беларуси

25

11 12

21 22

21 22

,,

.Λ Λ

x'' A x'' A y'' c''y'' A x'' A y'' d''d'' A x'' A y''

= + +⎧⎪ = + −⎨⎪ = +⎩

(9)

Поскольку для матрицы Λ выполнено неравенство Λρ( ) 1A < , то системы (8) и (9) имеют однозначно определенные неотрицательные решения ( , , )x' y' d' и ( , , )x'' y'' d'' , соответствующие векторам c' и c'' . Указанные решения являются в свою очередь Λ -решениями систем (6) и (7).

Аналог принципа Ле-Шателье – Самуэльсона в рассматриваемом случае представляет собой утверждение о том, каким образом изменяются компоненты Λ -решения ( , , )x'' y'' d'' системы (7) по сравнению с соответствующими компонентами Λ -решения ( , , )x' y' d' системы (6).

Как и для матрицы A, обозначим для произвольного множества 1,2, , M m n⊆ +… через ( )AL MΛ и ( )AP MΛ следующие множества индексов:

1 1 2 11 2 1( ) 1,2, , | , и 1 , , , : 0,tA t ik k k k jL M i m n j M t k k k m n b b bΛ −−= ∈ + ∃ ∈ ∈ ≤ ≤ + >… … … ( ) 1,2, , | : 0,A ijP M i m n j M bΛ = ∈ + ∃ ∈ >…

где ijb – элементы матрицы AΛ . По определению считается, что ( )AM L MΛ⊆ . Для произволь-ных множеств 1,2, , J m⊆ … и 1, 2, , K m m m n⊆ + + +… обозначим через 21 ( )AP JΛ и

22 ( )AP KΛ следующие множества индексов:

21 ( ) 1, 2, , | : α 0,A ijP J i m m m n j JΛ = ∈ + + + ∃ ∈ >… 22 ( ) 1, 2, , | : β 0,A ijP K i m m m n j KΛ = ∈ + + + ∃ ∈ >…

где α ij – элементы матрицы 21AΛ , а β ij – элементы матрицы 22AΛ . Справедлива следующая теорема. Т е о р е м а 2. Пусть модель Леонтьева – Форда продуктивна, 1 2, 1,2, , D D m⊂ … – не-

пустые непересекающиеся множества, mc +∈ – первоначальный спрос, ( , , )x y d – регулярное решение системы (1), соответствующее вектору c, Λ – построенная по данному решению диа-гональная матрица, такая, что 0 I≤ Λ ≤ и ρ( ) 1AΛ < . Пусть, далее, в системе (6) по сравнению с системой (1) увеличивается спрос на блага 1i D∈ , т. е. i ic' c> для 1i D∈ , i ic' c= для

11,2, , \i m D∈ … ; в системе (7) также увеличивается спрос на блага из 1D ( i i ic'' c' c= > для 1i D∈ ), однако выпуск благ 2i D∈ остается неизменным, т. е. i ix'' x= для всех 2i D∈ . Тогда

существуют однозначно определенные Λ -решения ( , , )x' y' d' и ( , , )x'' y'' d'' систем (6) и (7), со-ответствующие векторам c' и c'' , причем векторы x' x''− , y' y''− , d' d''− неотрицательны и имеют место следующие равенства:

1 2 2supp( ) ( ( ( ) \ ) ) 1,2, , ,A A Ax' x'' L P L D D D mΛ Λ Λ− = ∩ ∩ … 1 2 2supp( ) ( ( ( ) \ ) ) 1, 2, , ,A A Ay' y'' L P L D D D m m m nΛ Λ Λ− = ∩ ∩ + + +… 21 1 2 2supp( ) ( ( ( ( ) \ ) ) 1,2, , )A A A Ad' d'' P L P L D D D mΛ Λ ΛΛ− = ∩ ∩ ∪… 22 1 2 2( ( ( ( ) \ ) ) 1, 2, , ).A A A AP L P L D D D m m m nΛ Λ ΛΛ ∩ ∩ + + +…

Д о к а з а т е л ь с т в о . Как уже было сказано выше, существование однозначно опреде-ленных Λ -решений ( , , )x' y' d' и ( , , )x'' y'' d'' систем (6) и (7), соответствующих векторам c' и c'' , следует из выполнения неравенства ρ( ) 1AΛ < для матрицы Λ . Докажем неотрицательность векторов x' x''− , y' y''− и d' d''− . Для этого перепишем системы (8) и (9) в виде:

11 12

21 22

21 22

,( ) ( ) ,

,

x' A x' A y' c'y' I A x' I A y'd' A x' A y'

= + +⎧⎪ = − Λ + − Λ⎨⎪ = Λ + Λ⎩

(10)



Беларуси

26

11 12

21 22

21 22

,( ) ( ) ,

,

x'' A x'' A y'' c''y'' I A x'' I A y''d'' A x'' A y''

= + +⎧⎪ = − Λ + − Λ⎨⎪ = Λ + Λ⎩

(11)

и рассмотрим следующие подсистемы систем (10) и (11):

11 12

21 22

,( ) ( ) ,

x' A x' A y' c'y' I A x' I A y'

= + +⎧⎨ = − Λ + − Λ⎩

(12)

11 12

21 22

,( ) ( ) .

x'' A x'' A y'' c''y'' I A x'' I A y''

= + +⎧⎨ = − Λ + − Λ⎩

(13)

Системы (12) и (13) эквивалентны соответственно уравнениям ,h' A h' w'Λ= + (14)

,h'' A h'' w''Λ= + (15)

где ( , )h' x' y'= , ( ,0)w' c'= , ( , )h'' x'' y''= , ( ,0)w'' c''= , причем в силу условий теоремы i iw'' w'= для 21,2, , \i m n D∈ +… .

Докажем, что 0i ih' h''− ≥ для любого 1,2, , i m n∈ +… и найдем supp( )h' h''− . Вычтем из уравнения (14) уравнение (15):

( ) .h' h'' A h' h'' w' w''Λ− = − + −

Поскольку ρ( ) 1AΛ < , то матрица I AΛ− неотрицательно обратима [7] и справедливо равенство

1( ) ( ).h' h'' I A w' w''−Λ− = − − (16)

Покажем, что 0i iw' w''− ≥ для любого 1,2, , i m n∈ +… , откуда в силу неотрицательности

матрицы 1( )I A −Λ− будет следовать справедливость неравенства 0i ih' h''− ≥ для всех

1,2, , i m n∈ +… . Поскольку i iw'' w'= для 21,2, , \i m n D∈ +… , то достаточно доказать справедливость нера-

венства 0i iw' w''− ≥ для всех 2i D∈ . Заметим, что i iw' w= для 2i D∈ , где ( ,0)w c= , откуда i i i iw' w'' w w''− = − для 2i D∈ . Пусть ( , )h x y= . Решение ( , , )x y d системы (1) по определению является решением системы (5),

соответствующим вектору c. Отсюда получим, что имеет место равенство .h A h wΛ= + (17)

Без ограничения общности можно считать, что координаты из 1D являются первыми у век-торов , , ,h h'' w w'' , затем следуют координаты из 2D , а затем – все остальные. При данном предположении перепишем уравнения (17) и (15) в виде:

1 11 1 12 2 13 3 1

2 21 1 22 2 23 3 2

3 31 1 32 2 33 3 3

,,,

p B p B p B p fp B p B p B p fp B p B p B p f

= + + +⎧⎪ = + + +⎨⎪ = + + +⎩

(18)

1 11 1 12 2 13 3 1

2 21 1 22 2 23 3 2

3 31 1 32 2 33 3 3

,,.

q B q B q B q gq B q B q B q gq B q B q B q g

= + + +⎧⎪ = + + +⎨⎪ = + + +⎩

(19)

Здесь 1p – часть вектора h с координатами из 1D , 2p – часть вектора h с координа-тами из 2D , 3p содержит оставшиеся координаты, т. е. координаты из множества

1 21,2, , \ ( )m n D D+ ∪… . Аналогичным образом разбивается вектор h'' на части 1 2 3, ,q q q ;



Беларуси

27

вектор w – на части 1 2 3, ,f f f ; вектор w'' – на части 1 2 3, ,g g g ; матрица AΛ – на блоки ijB ( , 1, 2, 3i j = ).

Рассмотрим разность

2 2 21 1 1 22 2 2 23 3 3 2 2( ) ( ) ( ) .p q B p q B p q B p q f g− = − + − + − + − (20)

По условию теоремы i ix'' x= для всех 2i D∈ , откуда следует, что 2 2q p= . Поэтому равен-ство (20) перепишется в виде

2 2 21 1 1 23 3 3( ) ( ).f g B q p B q p− = − + −

Выразим из системы (18) векторы 1p и 3p :

12 2 1 12 2 11 11 3

32 2 3 32 2 3( ) , ( ) ,

B p f B p fp I B p I B

B p f B p f− −+ +⎛ ⎞ ⎛ ⎞

= Φ − = Ψ −⎜ ⎟ ⎜ ⎟+ +⎝ ⎠ ⎝ ⎠

где Φ и Ψ – операторы проектирования на компоненты, соответствующие множествам индек-

сов 1D и 1 21,2, , \ ( )m n D D+ ∪… , 11 13

31 33

B BB

B B⎛ ⎞

= ⎜ ⎟⎝ ⎠. Матрица 1( )I B −− существует и неотрица-

тельна, поскольку матрица B неотрицательна и ρ( ) 1B < [7]. Аналогичным образом выразим из системы (19) векторы 1q и 3q :

12 2 1 12 2 11 11 3

32 2 3 32 2 3( ) , ( ) .

B q g B q gq I B q I B

B q g B q g− −+ +⎛ ⎞ ⎛ ⎞

= Φ − = Ψ −⎜ ⎟ ⎜ ⎟+ +⎝ ⎠ ⎝ ⎠

Так как i ic'' c= для 1 21,2, , \ ( )i m D D∈ ∪… , то 3 3g p= , откуда в силу полученных ра-венств для 1 3 1, ,p p q и 3q следует, что

1 1 1 11 12 2 21 23( ) ( ) .

0 0g f g f

f g B I B B I B− −− −⎛ ⎞ ⎛ ⎞− = Φ − + Ψ −⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠

(21)

Из неравенства i ic'' c> для всех 1i D∈ следует, что 1 1g f> . Поскольку матрицы 21B и 23B неотрицательны, то отсюда следует, что 2 2f g≥ . Таким образом, i iw w''≥ для 2i D∈ , что вле-чет справедливость неравенства 0i ih' h''− ≥ для любого 1,2, , i m n∈ +… . В силу неотрица-тельности вектора h' h''− векторы x' x''− и y' y''− также являются неотрицательными. Неот-рицательность вектора d' d''− следует из равенства 21 22( ) ( )d' d'' A x' x'' A y' y''− = Λ − + Λ − (22)

и неотрицательности матриц 21AΛ и 22AΛ . Найдем теперь supp( )h' h''− . Из равенства (16) следует, что

1

supp ( ) supp ( ) supp( ) (supp( )).nA

nh' h'' A w' w'' w' w'' L w' w''Λ

∞Λ

=

⎛ ⎞− = − ∪ − = −⎜ ⎟⎝ ⎠

∪

Поскольку i iw'' w'= для 21,2, , \i m n D∈ +… и i iw' w= для 11,2, , \i m n D∈ +… ( 1 2D D∩ = Ø), то 2 2 2supp( ) supp( ) supp( )w' w'' w w'' D f g− = − ∩ = − .

Распишем подробнее разность 2 2f g− . Для этого представим матрицу 1( )I B −− в виде

11 121

21 22( ) .

B BI B

B B− ⎛ ⎞

− = ⎜ ⎟⎝ ⎠

Из равенства (21) следует, что 2 2 21 11 1 1 23 21 1 1( ) ( ).f g B B g f B B g f− = − + −



Беларуси

28

Поскольку i iw'' w> для 1i D∈ , то 1 1 0g f− > . Следовательно, если ξ k – элемент вектора 2 2f g− ( 2k D∈ ), то ξ 0k > тогда и только тогда, когда либо 1 1( ( ) )A Ak P L D DΛ Λ∈ ∩ , либо

1 1 2( ( ) (1,2, , \ ( )))A Ak P L D m n D DΛ Λ∈ ∩ + ∪… . Таким образом, 2 2 1 1 1 1 2 2supp( ) ( ( ( ) ) ( ( ) (1,2, , \ ( )))) .A A A Af g P L D D P L D m n D D DΛ Λ Λ Λ− = ∩ ∪ ∩ + ∪ ∩…

Заметим, что 1 1 1( )AL D D DΛ ∩ = , 1 1 2 1 1 2( ) (1,2, , \ ( )) ( ) \ ( )A AL D m n D D L D D DΛ Λ∩ + ∪ = ∪… и для произвольных множеств 1 2, 1,2, , M M m n⊆ +… справедливо равенство

1 2 1 2( ) ( ) ( ),A A AP M P M P M MΛ Λ Λ∪ = ∪ откуда 2 2 1 1 1 2 2supp( ) ( ( ( ) \ ( ))A Af g P D L D D D DΛ Λ− = ∪ ∪ ∩ = 1 1 1 2 2 1 2 2( ( ) ( ( ( ) \ )) ( ( ) \ ) .A A A A AP L D D L D D D P L D D DΛ Λ Λ Λ Λ∩ ∪ ∩ = ∩

Таким образом, 1 2 2supp( ) ( ( ( ) \ ) ),A A Ah' h'' L P L D D DΛ Λ Λ− = ∩ откуда 1 2 2supp( ) ( ( ( ) \ ) ) 1,2, , A A Ax' x'' L P L D D D mΛ Λ Λ− = ∩ ∩ … и 1 2 2supp( ) ( ( ( ) \ ) ) 1, 2, , .A A Ay' y'' L P L D D D m m m nΛ Λ Λ− = ∩ ∩ + + +…

Из равенства (22) следует, что 21 22supp( ) supp( ( )) supp( ( ))d' d'' A x' x'' A y' y''− = Λ − ∪ Λ − = 21 22(supp( )) (supp( ))A AP x' x'' P y' y''Λ Λ− ∪ − = 21 1 2 2( ( ( ( ) \ ) ) 1,2, , )A A A AP L P L D D D mΛ Λ ΛΛ ∩ ∩ ∪… 22 1 2 2( ( ( ( ) \ ) ) 1, 2, , ).A A A AP L P L D D D m m m nΛ Λ ΛΛ ∩ ∩ + + +…

Теорема доказана. Отметим, что если матрица AΛ является положительной, то supp ( ) 1,2, , x' x'' m− = … и

supp ( ) 1, 2, , y' y'' m m m n− = + + +… , т. е. происходит строгое уменьшение компонент x'' и y'' Λ -решения ( , , )x'' y'' d'' системы (7) по сравнению с соответствующими компонентами x' и y' Λ -решения ( , , )x' y' d' системы (6). Последнее оказывается справедливым в силу того, что для положительных матриц множество 1 2 2( ( ) \ )A AP L D D DΛ Λ ∩ не пусто и потому имеет место ра-венство 1 2 2( ( ( ) \ ) ) 1,2, , A A AL P L D D D m nΛ Λ Λ ∩ = +… . В частности, если ρ( ) 1A < и матрица A положительна, то увеличение объемов производства благ и увеличение объемов возникающих в процессе производства и уничтожаемых в системе ущербов, вызванные увеличением спроса на блага из 1D , в том случае, когда выпуск благ из 2D поддерживается постоянным, оказывают-ся меньшими, чем в случае, когда выпуск благ из 2D не фиксируется.

Литература 1. Л е о н т ь е в В. В., Ф о р д Д. // Экономика и математические методы. 1972. Т. VIII, вып. 3. С. 370–399. 2. З а б р е й к о П. П., Ш е в е л е в и ч К. В. // Докл. НАН Беларуси. 2002. Т. 46, 3. С. 30–34. 3. С т е ц е н к о В. Я. // Докл. АН Таджикской ССР. 1983. Т. 26, 1. С. 12–16. 4. З а б р е й к о П. П. // Тр. Ин-та матем. НАН Беларуси. 2007. Т. 15, 2. С. 15–26. 5. Т а н ы г и н а А. Н. // Докл. НАН Беларуси. 2009. Т. 53, 1. С. 19–26. 6. З а б р е й к о П. П., Т а н ы г и н а А. Н. // Докл. НАН Беларуси. 2008. Т. 52, 2. С. 17–22. 7. К р а с н о с е л ь с к и й М. А., Л и ф ш и ц Е. А., С о б о л е в А. В. Позитивные линейные системы. М., 1985.

A. N. TANYHINA

ANALOGS OF THE LECHATELIER – SAMUELSON PRINCIPLE FOR THE OPEN LEONTIEV – FORD MODEL

Summary The article is devoted to the LeChatelier – Samuelson principle for the open Leontiev – Ford model. The analogs of this principle

are proved both in the case, when ρ( ) 1A < for the technological matrix A of the model, and in the case, when ρ( ) 1A ≥ .



Беларуси

29


УДК 512.542 Н. В. САВЕЛЬЕВА, Н. Т. ВОРОБЬЕВ

О ПРОБЛЕМЕ СУЩЕСТВОВАНИЯ МАКСИМАЛЬНЫХ ПОДКЛАССОВ МИНИМАЛЬНОГО π-НОРМАЛЬНОГО КЛАССА ФИТТИНГА

Витебский государственный университет им. П. М. Машерова


Введение. Класс Фиттинга F называется максимальным подклассом класса Фиттинга X (обо-значают F<⋅X), если F⊂X и из того, что F⊆M⊆X, где M – класс Фиттинга, всегда следует, что M∈F, X.

Основополагающие результаты по описанию максимальных подклассов Фиттинга и их взаи-мосвязи с нормальными классами Фиттинга в классе S всех конечных разрешимых групп были получены Брайсом и Косси [1]. Примечателен тот факт, что каждый класс Фиттинга, максималь-ный в S, является нормальным. В связи с этим была сформулирована следующая

Пр о б л е м а А (Х. Лауш, 9.18 [2]). Существуют ли максимальные по включению подклассы Фиттинга в минимальном нормальном классе Фиттинга S

*?

Отрицательный ответ на этот вопрос был получен в [3]. Вместе с тем самостоятельный интерес представляет результат А. Н. Скибы о том, что каж-

дая локальная формация не имеет максимальных подформаций (см. монографию [4], при-мер 5.1.1). Поиск аналога указанного результата в теории классов Фиттинга обусловила

Пр о б л е м а Б (А. Н. Скиба, 13.50 [2]). Пусть F – локальный класс Фиттинга. Верно ли, что частично упорядоченное по включению множество классов Фиттинга, входящих в F и отличных от F, не имеет максимальных элементов?

Отрицательное решение этой проблемы было анонсировано в [5]. Естественным расширением понятия нормальности в классе S всех конечных разрешимых

групп является понятие π-нормальности в смысле следующего определения. Определение . Пусть π обозначает непустое множество простых чисел и Sπ – класс всех

конечных разрешимых π-групп. Класс Фиттинга F назовем нормальным в классе Фиттинга Sπ или π-нормальным, если F⊆Sπ и для любой π-группы G ее F-радикал является F-максимальной подгруппой G.

Если F<⋅Sπ, то F назовем π-максимальным. Аналогично можно определить и класс Фиттинга, нормальный в произвольном классе групп X. В работе [6] было доказано, что если X – класс Фишера, то пересечение любого множества

X-нормальных классов Фиттинга снова является X-нормальным классом Фиттинга. Нами установлено, что если π – непустое множество простых чисел, то пересечение любого

множества неединичных π-нормальных классов Фиттинга есть неединичный π-нормальный класс Фиттинга (см. лемму 16). Отсюда следует, что существует единственный минимальный π-нормальный класс Фиттинга. В связи с этим естественен следующий аналог проблемы А, ко-торый представляет следующий вопрос: существуют ли максимальные подклассы Фиттинга в минимальном π-нормальном классе Фиттинга?

Основной результат настоящей работы – отрицательный ответ на указанный вопрос для случая, когда максимальные подклассы локальны. А именно, доказано, что в минимальном π-нормальном классе Фиттинга нет нетривиальных максимальных локальных подклассов Фиттинга.



Беларуси

30

Все рассматриваемые в данной работе группы являются конечными и разрешимыми, если не оговорено противное. В определениях и обозначениях мы следуем [7].

1. Предварительные сведения. Класс групп F называется классом Фиттинга, если выпол-няются следующие два условия:

1) из G∈F и N⊳G всегда следует N∈F; 2) если G=N1N2, где Ni⊳G и Ni∈F (i= 1, 2), то G∈F. Пусть F – непустой класс Фиттинга. Напомним, что подгруппу GF группы G называют ее

F-радикалом, если она является максимальной нормальной F-подгруппой G. Л е мм а 1 [7, теорема IX.1.1(a)]. Если F – непустой класс Фиттинга и N – нормальная под-

группа группы G, то NF=N∩GF. Если F – класс Фиттинга, то подгруппу V группы G называют F-инъектором G, если V∩N яв-

ляется F-максимальной подгруппой N для любой субнормальной подгруппы N группы G. Произведением FH классов Фиттинга F и H называется класс всех таких групп G, для кото-

рых G/GF принадлежит H. Напомним, что класс групп F называется гомоморфом, если каждая факторгруппа любой

группы из F принадлежит F. Гомоморф называют насыщенным, если из того, что G/Ф(G)∈F, следует G∈F.

Класс групп F называется формацией, если выполняются следующие условия: 1) каждая факторгруппа любой группы из F также принадлежит F; 2) из H/A∈F и H/B∈F всегда следует H/A∩B∈F. Сформулируем некоторые простейшие свойства произведений классов Фиттинга в виде сле-

дующих двух лемм, доказательство которых осуществляется непосредственной проверкой. Л е мм а 2. Пусть F и H – классы Фиттинга. Тогда справедливы следующие утверждения: 1) если H непуст, то F⊆FH; 2) если H – гомоморф и F непуст, то H⊆FH; 3) умножение классов Фиттинга ассоциативно. Л е мм а 3. Пусть F1, F2 и X – классы Фиттинга. Тогда справедливы следующие утверждения: 1) если X – гомоморф и F1⊆F2, то F1X⊆F2X; 2) если X – формация, то (F1∩F2)X=F1X∩F2X; 3) X(F1∩F2)=XF1∩XF2. Решение многих задач описания структуры классов Фиттинга и их классификации связано

с применением операторов Локетта «*» и «*» [8]. Напомним, что каждому непустому классу Фиттинга F посредством оператора «*» сопоставляется класс Фиттинга F*, который определяет-ся как наименьший из классов Фиттинга, содержащий F такой, что для всех групп G и H справедливо равенство ( )G H× F* = GF* × H F* , а посредством оператора «*» сопоставляется

класс Фиттинга F* , равный пересечению всех таких классов Фиттинга X, для которых X*=F*.

Если F=F*, то F называют классом Локетта. Секцией Локетта непустого класса Фиттинга F называется множество всех таких классов

Фиттинга X, что F*=X*. Секцию Локетта класса Фиттинга F обозначают Locksec(F) [8]. Напомним свойства операторов Локетта «*» и «*», которые мы будем использовать. Л е мм а 4 [7, 9, 10]. Пусть F и H – непустые классы Фиттинга. Тогда справедливы следующие

утверждения: 1) если F⊆H, то F*⊆H* и F*⊆H* (теорема X.1.8(b) [7], следствие 3.5 [9]); 2) (F*)*=(F*)*=F*⊆F⊆F*=(F*)*=(F*)*⊆F*A, где A – формация всех абелевых групп (тео-

рема X.1.15 [7]); 3) если H – насыщенный гомоморф, то справедливо равенство: (FH)*=F*H (лемма 3 [10]); 4) имеет место равенство (F∩H)*=F*∩H* (предложение X.1.13 [7]);



Беларуси

31

5) пусть Nπ – класс Фиттинга всех нильпотентных π-групп, где π⊆ℙ, тогда Nπ=(Nπ)*=(Nπ)* (замечание X.1.23 (a) [7]).

Л е мм а 5 [7, теорема Х.3.7]. Пусть π – непустое множество простых чисел. Тогда сле-дующие утверждения эквивалентны:

1) класс Фиттинга F является π-нормальным; 2) F*=Sπ; 3) G/GF – абелева группа для любой π-группы G. Пусть ℙ – множество всех простых чисел, ∅≠π⊆ℙ и π'=ℙ\π. Всякое отображение

f: ℙ→классы Фиттинга называют функцией Хартли или H-функцией. Класс Фиттинга F называется локальным, если существует такая H-функция f, что

F=Eπ∩(p∈π∩ f(p)NpEp'),

где π=Supp(f)=p∈ℙ | f(p)≠∅ – носитель f. Приведем в качестве лемм свойства локальных классов Фиттинга, которые мы будем исполь-

зовать. Л е мм а 6 [11]. Каждый непустой наследственный класс Фиттинга является локальным. Л е мм а 7 [3]. Каждый локальный класс Фиттинга является классом Локетта. Л е мм а 8 [12]. Произведение двух локальных классов Фиттинга является локальным клас-

сом Фиттинга. В работе [10] была предложена следующая классификация H-функций класса F, аналогичная

классификации локальных спутников формаций. Локальная H-функция f класса Фиттинга F называется [10]: 1) внутренней или приведенной, если f(p)⊆F для каждого простого числа p; 2) полной, если f(p)Np=f(p) для всех простых p. Л е мм а 9 [13]. Любой локальный класс Фиттинга определяется полной внутренней

H-функцией. Напомним, что множество Char(X)=p: p∈ℙ и Zp∈X, где Zp – циклическая группа простого

порядка p, называется характеристикой класса групп X. Если π(G) – множество всех простых делителей порядка группы G, то множество π(F) опре-

деляется как объединение всех таких π(G), что G∈F. Л е мм а 10. Справедливы следующие утверждения: 1) если F – локальный класс Фиттинга, то π(F)=Supp(f); 2) если класс Фиттинга F⊆S, то π(F)=Char(F). Докажем первое утверждение леммы. Пусть σ=Supp(f) и p∈π(F). Так как

F=Sσ∩(p∈σ∩ f(p)NpSp'),

то p∈σ, и поэтому π(F)⊆Supp(f). Пусть теперь p∈σ и Zp – циклическая группа простого порядка p. Покажем, что Zp∈F. Дейст-

вительно, f(p)≠∅, так как p∈σ. Следовательно, с учетом утверждений 1) и 2) леммы 2, имеем:

Zp∈Np⊆f(p)Np⊆f(p)NpSp'.

Если q∈σ и q≠p, то снова, применяя лемму 2, получаем

Zp∈Np⊆Sq' ⊆NqSq' ⊆f(q)NqSq'.

Таким образом, Zp∈Sσ∩(p∈σ∩ f(p)NpSp')=F. Это означает, что p∈π(F) и π(F)=σ. Утверждение 1)

доказано. Доказательство второго утверждения леммы вытекает непосредственно из утверждения

IX.1.7 [7].



Беларуси

32

Л е мм а 11 (теорема IX.1.9 [7]). Если класс Фиттинга F⊆S, то Char(F)=π тогда и только тогда, когда Nπ⊆F⊆Sπ.

Напомним, что класс Фиттинга F называется классом Фишера, если из того, что K⊆H⊆G∈F, K⊳G, H/K∈Ep, где p – некоторое простое число, всегда следует, что H∈F.

Л е м м а 12 (теорема 2.1 [6]). Пусть X – класс Фишера и Fi | i∈I – множество X-нормальных классов Фиттинга. Если F=

i I∈∩ Fi и F⊆X⊆FS, то F является X-нормальным классом Фиттинга.

2. О некоторых свойствах π-нормальных и локальных подклассов. Л е мм а 13. Каждый нильпотентный класс Фиттинга является локальным. Д о к а з а т е л ь с т в о. Пусть X – нильпотентный класс Фиттинга, т. е. X⊆N. Так как любая

подгруппа каждой X-группы G субнормальна в G, то X является наследственным. Следовательно, по лемме 6 класс Фиттинга X локален. Лемма доказана.

Напомним, что через Sπ и Nπ обозначают соответственно класс Фиттинга всех π-групп и класс Фиттинга всех нильпотентных π-групп.

Если F – класс Фиттинга, то Fn – это произведение FF... F, состоящее из n сомножителей. Л е мм а 14. Если π – некоторое множество простых чисел, то справедливо равенство:

1n

∞

=∪ (Nπ)n=Sπ.

Д о к а з а т е л ь с т в о. Индукцией по числу n покажем сначала, что для любого натурального n справедливо равенство (Nπ)n=Sπ∩Nn. Если n=1, то равенство очевидно. Предположим, что данное равенство справедливо для n=k. Тогда

(Nπ)k+ 1 =(Nπ)kNπ=(Sπ∩Nk)Nπ.

С учетом утверждения 2) леммы 3 имеем

(Sπ∩Nk)Nπ=SπNπ∩NkNπ.

Заметим, что SπNπ=Sπ, и поэтому (Nπ)k+ 1 =Sπ∩NkNπ. Но Sπ∩N=Nπ. Значит, ввиду утвержде-ния 3) леммы 3 имеет место равенство:

Sπ∩Nk(Sπ∩N)=Sπ∩NkSπ∩Nk+ 1.

Следовательно, с учетом утверждения 2) леммы 2 имеем Sπ⊆NkSπ и, значит, (Nπ)k+ 1 =Sπ∩Nk+ 1. Таким образом, для любого натурального n верно равенство

(Sπ∩N)n=Sπ∩Nn.

Отсюда ввиду того, что S=1n

∞

=∪ Nn и Nπ=Sπ∩N, следует

1n

∞

=∪ (Nπ)n=

1n

∞

=∪ (Sπ∩N)n=

1n

∞

=∪ (Sπ∩Nn)=Sπ∩(

1n

∞

=∪ Nn)=Sπ∩S=Sπ.

Лемма доказана. Следующая лемма расширяет известный критерий нормальности класса Фиттинга, получен-

ный Локеттом [14], на случай π-нормальных классов Фиттинга. Л е мм а 15. Пусть X – класс Фиттинга и π – некоторое непустое множество простых чи-

сел. Тогда X⊳Sπ в том и только том случае, когда XNπ=Sπ. Д о к а з а т е л ь с т в о. Пусть X⊳Sπ и G∈Sπ. Покажем, что XNπ=Sπ. По лемме 5 (утверждение

1)⇒3)) получаем, что факторгруппа G/GX – абелева π-группа, т. е. G/GX∈Aπ. Следовательно, по определению произведения классов групп G∈XAπ. Но Aπ⊆Nπ и поэтому

G∈XNπ. Это доказывает включение Sπ⊆XNπ. Обратное включение XNπ ⊆Sπ очевидно ввиду того, что X⊆Sπ.



Беларуси

33

Таким образом, из того, что класс Фиттинга X является π-нормальным, вытекает равенство XNπ=Sπ.

Докажем обратное утверждение. Пусть G – некоторая π-группа. Тогда ввиду равенства XNπ=Sπ следует, что G/GX∈Nπ.

Пусть подгруппа V является X-инъектором группы G. Тогда, очевидно, V≥GX и, следователь-но, V/GX≤G/GX∈Nπ. Но всякая подгруппа нильпотентной группы субнормальна в ней, т. е. V/GX⊳⊳G/GX. Следовательно, V⊳⊳G. Теперь по лемме 1 получаем VX=V∩GX.

Таким образом, V=VX⊆GX. Следовательно, V=GX и X-радикал любой π-группы G является X-максимальной подгруппой G. Это означает, что X⊳Sπ. Лемма доказана.

В случае π=ℙ получаем

С л е д с т в и е 1 (Локетт [14]). Пусть X – класс Фиттинга. X⊳S тогда и только тогда, ко-гда XN=S.

Если X и Y – классы Фиттинга, то через XY обозначают класс групп [10], который опреде-ляется следующим образом: G∈XY в том и только том случае, когда X-инъектор группы G при-надлежит Y.

Пусть f – H-функция класса Фиттинга X. Класс Фиттинга Y называется f-инъекторно замкну-тым, если Y⊆f(p)Y для всех простых чисел p [10].

Ввиду леммы 12 для класса Фишера X пересечение любого множества X-нормальных классов Фиттинга является X-нормальным классом Фиттинга.

Л е мм а 16. Если π – непустое множество простых чисел, то пересечение любого множе-ства неединичных π-нормальных классов Фиттинга есть неединичный π-нормальный класс Фиттинга.

Д о к а з а т е л ь с т в о. Пусть Xi | i∈I – множество всех π-нормальных классов Фиттинга и D=

i I∈∩ Xi. Так как класс Фиттинга Sπ наследственен, то Sπ – класс Фишера и по лемме 12 класс

Фиттинга D является π-нормальным. Так как Xi – π-нормальный класс Фиттинга для всех i∈I, то по лемме 5 имеем Xi*=Sπ для каждого i∈I. Тогда по утверждению X.1.20 [7] следует π(Xi*)=π(Xi)=π. Но по условию π≠∅. Следовательно, существует простое p∈π, такое, что p∈π(Xi) для всех i∈I и поэтому по лемме 11 получаем Np⊆Xi для каждого i∈I. Отсюда следует, что Np⊆D и D≠(1).

Таким образом, D – неединичный π-нормальный класс Фиттинга. Лемма доказана. С л е д с т в и е 2. Если π – непустое множество простых чисел, то (Sπ)* – единственный

нетривиальный минимальный π-нормальный класс Фиттинга. Д о к а з а т е л ь с т в о . Заметим, что Locksec(Sπ) состоит из всех π-нормальных классов Фиттинга,

т. е. X∈Locksec(Sπ) в точности тогда, когда X π-нормален. Тогда ввиду леммы 16 минимальный эле-мент секции Локетта (Sπ)* является минимальным π-нормальным классом Фиттинга.

Для доказательства основного результата мы будем также использовать следующее свойство минимальных элементов секций Локетта, которое представляет

Л е мм а 17. Если ψ – полная внутренняя H-функция класса Фиттинга X и Y – ψ-инъекторно замкнутый класс Фиттинга, то

X∩Y*=(X∩Y)* .

Д о к а з а т е л ь с т в о. Так как X∩Y⊆Y и X∩Y⊆X, то по утверждению 1) леммы 4 (X∩Y) *⊆Y* и (X∩Y) *⊆X*⊆X. Следовательно, (X∩Y) *⊆X∩Y* .

Докажем обратное включение. Пусть G∈X и X – ψ(p)-инъектор группы G для некоторого p∈π(X). По определению ψ-инъекторной замкнутости для класса Фиттинга Y следует, что



Беларуси

34

ψ(p)-инъектор принадлежит Y. Отсюда получаем X∈ψ(p)∩Y. Но ψ – внутренняя H-функция. Значит, ψ(p)⊆X.

Итак, X∈X∩Y. Так как по утверждению 2) леммы 4 и по утверждению 1) леммы 2 имеем

X∩Y⊆(X∩Y)*⊆(X∩Y)*Sp' и ввиду утверждения 3) леммы 4 справедливо равенство

(X∩Y)*Sp'=((X∩Y)*Sp')*,

то получаем X∈((X∩Y)*Sp')*.

Значит, по определению операции «» любой ψ(p)-инъектор группы G принадлежит классу f(p), где f(p)=ψ(p)((X∩Y)*Sp')*.

Заметим, что ввиду полноты H-функции ψ по теореме IX.2.3 [7] f(p) является классом Фит-тинга для всех p∈π(F). Таким образом, ввиду произвольности выбора группы G показано, что Y – подкласс Фиттинга класса f(p) для всех p∈π(F).

Теперь по утверждению X.1.36 [7] имеет место равенство:

ψ(p)((X∩Y)*Sp')*=(ψ(p)(X∩Y)*Sp')*.

Но тогда по утверждениям 1) и 2) леммы 4 получаем включение:

Y*⊆((ψ(p)(X∩Y)*Sp')*)*=(f(p))*=f*(p).

Отсюда по определению класса f(p) имеем

ψ(p)∩Y*⊆f*(p)∩ψ(p)=(X∩Y)*Sp'

для всех простых p∈π(X). Согласно утверждению 2) леммы 3, для всех p∈π(X) справедливо включение:

ψ(p)Sp'∩Y*Sp'⊆(X∩Y)*Sp'.

Следовательно,

( )p∈π∩

X(ψ(p)Sp'∩Y*Sp')⊆

( )p∈π∩

X(X∩Y)*Sp'.

Но тогда (

( )p∈π∩

Xψ(p)Sp')∩(Y*(

( )p∈π∩

XSp'))⊆(X∩Y)*(

( )p∈π∩

XSp').

Следовательно, Sπ(X)∩(

( )p∈π∩

Xψ(p)Sp')∩(Y*(

( )p∈π∩

XSp'))⊆Sπ(X)∩(X∩Y)*(

( )p∈π∩

XSp').

Заметим, что ( )p∈π∩

XSp'=Sπ'(X). Кроме того, ввиду условия локальности класса Фиттинга X,

имеем Sπ∩(( )p∈π∩

Xψ(p)Sp')=LR(ψ)=X.

Таким образом, X∩Y*Sπ'⊆Sπ∩(X∩Y)*Sπ'. (1)

Но так как Sπ – гомоморф, то по утверждению 2) леммы 2 Sπ∩(X∩Y)*Sπ'⊆(X∩Y)*Sπ∩(X∩Y)*Sπ'. (2)

Отсюда по утверждению 3) леммы 3 имеем

(X∩Y)*Sπ∩(X∩Y)*Sπ'=(X∩Y)*(Sπ∩Sπ')=(X∩Y)*

. (3)



Беларуси

35

С учетом утверждения 1) леммы 2 имеем Y*⊆Y*Sπ'. Следовательно,

X∩Y*⊆X∩Y*Sπ'.

Но ввиду включений (1) и (2) и равенства (3) получаем:

X∩Y*Sπ'⊆(X∩Y)* .

Значит, X∩Y*⊆(X∩Y)* и равенство X∩Y*=(X∩Y)* доказано. Лемма доказана.

Заметим, что в случае, когда π=ℙ, лемма была доказана в работе [10]. 3. Основной результат. В теории нормальных классов Фиттинга основополагающей являет-

ся теорема Блессеноля – Гашюца [15] о том, что пересечение неединичных нормальных классов Фиттинга есть неединичный нормальный класс Фиттинга. Расширение данного результата на случай π-нормальных классов Фиттинга получено в лемме 16. Напомним, что нами установлено, что класс Фиттинга (Sπ)* является минимальным π-нормальным классом Фиттинга для всякого

непустого множества π⊆ℙ. Следующая теорема представляет новую информацию о классе (Sπ)* и дает отрицательный

ответ на указанный во введении вопрос о существовании в нем максимальных подклассов Фит-тинга для случая, когда такие подклассы локальны.

Т е о р е м а. Если π – непустое множество простых чисел, то в классе Фиттинга (Sπ)* нет нетривиальных максимальных локальных подклассов Фиттинга.

Д о к а з а т е л ь с т в о. Пусть F – локальный класс Фиттинга и F<⋅(Sπ)* . Так как (Sπ)* – ми-

нимальный π-нормальный класс Фиттинга, причем F⊂(Sπ)* , то класс Фиттинга F не является

π-нормальным. Рассмотрим два следующих случая. Случай 1. Существует хотя бы один класс Фиттинга K такой, что F=K* .

Ввиду локальности F класс K* также локален. Следовательно, (K*)*=K* . Кроме того, с уче-

том утверждения 2) леммы 4 получаем (K*)*=K*. Поэтому K*=K*. Но по утверждению 2) лем-

мы 4 также имеем K*⊆K⊆K*. Значит, K*=K=K*. Последнее означает, что класс Фиттинга K ло-

кален. Так как K⊆KNπ⊆Sπ, то, ввиду утверждения 1) леммы 4, следует

K*⊆(KNπ)*⊆(Sπ)* .

По условию F<⋅(Sπ)* , и поэтому имеются две возможности: либо K*=(KNπ)* , либо

(KNπ)*=(Sπ)* .

Если K*=(KNπ)* , то по утверждению 2) леммы 4 получаем K*=(KNπ)*. Но Nπ – насыщенная

радикальная формация. Следовательно, по утверждению 3) леммы 4 имеем (KNπ)*=K*Nπ. Зна-чит, с учетом леммы 14 и утверждения 2) леммы 2 получаем:

Sπ=1n

∞

=∪ Nπ

n⊆1n

∞

=∪ K*Nπ

n=K*.

Отсюда по утверждению 2) леммы 4 имеем (K*

)*=F*=Sπ и класс Фиттинга F является

π-нормальным, что невозможно. Рассмотрим вторую из имеющихся возможностей:

(KNπ)*=(Sπ)* .



Беларуси

36

В этом случае, так как Nπ=LR(f) для H-функции f такой, что

f(p)= , если ;, если ',

∈π ⎧⎨ ∅ ∈π ⎩

p pp

N

то Nπ – локальный класс Фиттинга. Кроме того, K – локальный класс Фиттинга. Следовательно, по лемме 8 класс Фиттинга KNπ также является локальным. Отсюда по лемме 7 класс KNπ явля-ется классом Локетта. Тогда из ((KNπ)*)*=((Sπ)*)* следует (KN π)*=S* и KNπ=Sπ. Следователь-

но, по лемме 15 получаем K⊳Sπ. Но (Sπ)* – минимальный π-нормальный класс Фиттинга, и поэтому (Sπ)*⊆K. Из последнего

включения по утверждениям 1) и 2) леммы 4 имеем ((Sπ)*)*=(Sπ)*⊆K*=F.

Получаем противоречие с максимальностью F в (Sπ)* . Остается принять

Случай 2. F≠K* ни для какого класса Фиттинга K.

Так как F⊆FNπ и F⊂(Sπ)* , то справедливо включение

F⊆FNπ∩(Sπ)* . (4)

По условию класс Фиттинга F локален. Значит, ввиду леммы 8 класс Фиттинга FNπ также локален. Покажем выполнимость условий леммы 17 для классов Фиттинга X=FNπ и Y=Sπ. Заме-тим, что класс Y локален, так как определяется H-функцией ϕ такой, что

ϕ(p)= , если ;, если '.p p

p∈π ⎧

⎨∅ ∈π ⎩

S

Так как классы F и Nπ локальны, то по лемме 8 их произведение – локальный класс Фиттинга. Остается установить, что Y ψ-инъекторно замкнут для H-функции ψ такой, что FNπ=LR(ψ).

Пусть G∈Y и V – ψ(p)-инъектор группы G для некоторого простого p∈π(F). Тогда по определе-нию ψ(p)-инъектора V∈ψ(p).

Но по лемме 9 каждый локальный класс Фиттинга определяется полной внутренней H-функцией. Следовательно, без ограничения общности можем считать, что ψ – полная внут-ренняя функция класса X. Но тогда V∈ψ(p)⊆X.

Кроме того, F⊂Sπ и Nπ⊆Sπ и поэтому V∈Sπ=Y. Итак, для классов X и Y выполняются все условия леммы 17 и поэтому

FNπ∩(Sπ)*=(FNπ∩Sπ)*=(FNπ)* . Следовательно, ввиду включения (4) получаем F⊆(FNπ)* .

Но по предположению F≠(FNπ)* . Значит, F⊂(FNπ)*⊆(Sπ)* . Отсюда, ввиду максимальности

класса F в (Sπ)* , получаем (FNπ)*=(Sπ)* . Но тогда по утверждению 2) леммы 4 следует

(FNπ)*=(Sπ)*. Заметим, что Sπ и FNπ – локальные классы Фиттинга. Следовательно, по лемме 7 каждый из них является классом Локетта. Значит, FNπ=Sπ и поэтому по лемме 15 имеем F⊳Sπ. Но класс Фиттинга F не π-нормален. Полученное противоречие завершает доказательство тео-ремы. Теорема доказана.

Если π=ℙ, то из теоремы получаем С л е д с т в и е 3. В минимальном нормальном классе Фиттинга S* нет нетривиальных мак-

симальных локальных подклассов Фиттинга. Заметим, что теорема дает положительный ответ на указанную во введении проблему

А. Н. Скибы (см. проблему Б) для случая класса Фиттинга всех p-групп, что подтверждает С л е д с т в и е 4. В классе Фиттинга Np всех p-групп не существует нетривиальных макси-

мальных подклассов Фиттинга.



Беларуси

37

Доказательство . Пусть π=p. По теореме заключаем, что в классе (Np)* нет нетривиаль-ных максимальных локальных подклассов Фиттинга. Но по утверждению 5) леммы 4 имеем (Np)*=Np. Значит, в Np нет нетривиальных максимальных локальных подклассов.

Однако, все подклассы любого нильпотентного класса нильпотентны, а следовательно, по лемме 13, являются локальными.

Таким образом, класс Фиттинга Np не содержит нетривиальных максимальных подклассов Фиттинга.

В заключение отметим, что справедлив и усиленный вариант следствия 4, а именно: в классе Np нет нетривиальных подклассов Фиттинга. Действительно, если (1)≠X⊂Np, то существует p-группа G∈X, и по утверждению 2) леммы 10 p=π(X)=Char(X). Следовательно, по лемме 11 Np⊂X и подкласс X тривиален.


1. B r y c e R. A., C o s s e y J. // Bull. Austral. Math. Soc. 1974. Vol. 10. P. 169–175. 2. Коуровская тетрадь (нерешенные вопросы теории групп). Издание 14 / Институт математики СО РАН. Новоси-

бирск, 1999. 3. В о р о б ь е в Н. Т. // Докл. АН БССР. 1991. T. 35, 6. C. 485–487. 4. С к и б а А. Н. Алгебра формаций. Минск, 1997. 5. В о р о б ь е в Н. Т. // Веснiк Вiцебскага дзярж. ун-та. 1997. 4 (6). С. 60–62. 6. S h p a k o v V. V., V o r o b’e v N. N., V o r o b’e v N. T. // Acta Academiae Paedagogicae Agriensis, Sectio

Mathematicae. 2003. Vol. 30. P. 167–171. 7. D o e r k K., H a w k e s T. Finite soluble groups. Berlin; New York: Walter de Gruyter, 1992. 8. L o c k e t t F. P. // Math. Z. 1974. Bd. 137. S. 131–136. 9. B r y c e R. A., C o s s e y J. // Math. Z. 1975. Bd. 141, N 2. S. 99–110. 10. В о р о б ь е в Н. Т. // Матем. заметки. 1988. Т. 43, 2. С. 161–168. 11. В о р о б ь е в Н. Т. // Матем. заметки. 1992. Т. 51, 3. C. 3–8. 12. В о р о б ь е в Н. Т. // Весцi АН БССР. Сер. фiз.-мат. навук. 1991. 6. C. 28–32. 13. В о р о б ь е в Н. Т. // Известия Гомельского гос. ун-та. 1999. Т. 1 (15). С. 8–13. 14. L o c k e t t F. P. On the theory of Fitting classes of finite soluble groups. Ph. D. Thesis. Warwick, 1971. 15. B l e s s e n o h l D., G a s c h ü t z W. // Math. Z. 1970. Bd. 148, N 1. S. 1–8.

N. V. SAVELYEVA, N. T. VOROB’EV

PROBLEM OF EXISTENCE OF MAXIMAL SUBCLASSES OF THE MINIMAL π-NORMAL FITTING CLASS

Summary

It is proved that there are no nontrivial maximal local Fitting subclasses in the minimal π-normal Fitting class (Sπ)*

where π is a nonempty set of primes.



Беларуси

38


УДК 517.958: 537.8 В. И. КОРЗЮК1, Г. Ч. ШУШКЕВИЧ2

ЭКРАНИРОВАНИЕ МАГНИТНОГО ПОЛЯ СИСТЕМОЙ ЭКРАНОВ: ТОНКАЯ НЕЗАМКНУТАЯ ЭЛЛИПСОИДАЛЬНАЯ ОБОЛОЧКА –

СФЕРИЧЕСКАЯ ОБОЛОЧКА 1Белорусский государственный университет

2Гродненский государственный университет им. Янки Купалы


Введение. Насыщенность окружающей среды различными источниками электромагнитных полей, распространяющихся в пространстве и воздействующих на работу высокочувствительных устройств, линий связи, вычислительных комплексов, окружающую среду и человека, стимулиру-ет необходимость электромагнитной совместимости технических средств и электромагнитной безопасности человека [1–3]. Эффективным средством защиты от воздействия электромагнитных излучений является экранирование источников излучения либо рабочего места с помощью экра-нов, поглощающих или отражающих электромагнитную энергию [4–7]. Теоретическое решение задачи экранирования – определение напряженности поля в экранируемой области пространства, – в общем случае чрезвычайно сложно, поэтому в зависимости от типа решаемой задачи рассматри-вают отдельные виды экранирования: электростатическое, магнитное, низкочастотное и высоко-частотное электромагнитное экранирование. В данной работе построено аналитическое решение задачи экранирования неосесимметричного магнитного поля идеально тонкой незамкнутой эллип-соидальной оболочкой в присутствии проницаемой сферической оболочки. Численно исследовано влияние угла раствора незамкнутой эллипсоидальной оболочки, некоторых геометрических пара-метров экранов и электрофизических свойств материала сферической оболочки на коэффициент ослабления поля внутри эллипсоидальной оболочки.

1. Постановка задачи. Пусть в изотропном однородном пространстве R3 с магнитной про-ницаемостью среды μ1 находится идеально тонкая вытянутая незамкнутая эллипсоидальная иде-ально проводящая оболочка S и проницаемая сферическая оболочка Г с магнитной проницаемо-стью μ2, имеющая внешний радиус d и внутренний d1. Оболочка S расположена на вытянутом эллипсоиде вращения S1 с центром в точке O1. Осевое сечение экранов показано на рис. 1.

Для решения задачи свяжем с точкой O – центром сферической оболочки Г – сферические координаты , , r θ ϕ :

cos sin ,x r= ϕ θ sin sin ,y r= ϕ θ cos ,z r= θ

где 0 r≤ < ∞ , 0 ≤ θ ≤ π , 0 2≤ ϕ ≤ π , а с точкой 1O – вытянутые вырож-денные эллипсоидальные координаты , , α β ϕ :

sh sin cosx c α β ϕ= , h sin sinsy c α β ϕ= , ch cosz c α β= ,

где 0≤ α < ∞ , 0 ≤β≤ π , 0 2≤ ϕ ≤ π , 2 2c b a= − – половина межфо-кусного расстояния, b и a – большая и малая полуоси эллипса соот-ветственно. Оболочка S в системе координат , , α β ϕ описывается следующим образом:

0 0Arch ,0 ,0 2b

Sc

= α = α = ≤β≤β < π ≤ ϕ ≤ π .

Расстояние между точками О и O1 обозначим через .

Рис. 1. Осевое сечение экранов



Беларуси

39

Далее условно разобьем все пространство 3R поверхностями эллипсоида 1S и сферы Г на четыре области: 1 0( )D α < α , 3 1( )D d r d< < , 4 1( )D r d< , ( )3

2 1 3 4\D R D D D= ∪ ∪ . Данные тела находятся во внешнем однородном магнитном поле, напряженность которого

направлена вдоль оси Ox1: 10 xH H ex= − . Ставится задача о рассеянии магнитного поля на системе экранов Г и S с учетом проникно-

вения поля через сферический слой Г, при этом предполагается непроницаемость оболочки S для магнитного поля.

Обозначим через 0U потенциал первичного магнитного поля, jU – потенциал вторичного магнитного поля в области jD , j=1,2,3,4.

Потенциал 0U внешнего поля в эллипсоидальных координатах , , α β ϕ имеет представление [4]

1 10 1 1 1(ch ) (cos )cosx xU H x H cP Pα β ϕ= = − . (1)

Потенциалы магнитного поля ( 1,2,3,4)jU j = должны удовлетворять уравнению Лапласа 0jUΔ = , граничному условию на поверхности тонкой незамкнутой эллипсоидальной оболочки S:

( )2 0( ) ( ) 0M S

U M U Mn ∈

∂ + =∂

, (2)

где n – внешняя нормаль к поверхности S, граничным условиям на поверхностях толстостенной сферической оболочки Г:

( )1 0 2 2 3r d r d

U U Ur r= =

∂ ∂μ + = μ∂ ∂

, (3)

( )0 2 3 r dr dU U U ==

+ = , (4)

1 1

2 3 1 4r d r d

U Ur r= =

∂ ∂μ = μ∂ ∂

, (5)

1 13 4r d r dU U= == , (6)

условию на бесконечности

2 ( ) 0U M → при M → ∞ , (7)

где М – произвольная точка области 2D . Потребуем также выполнения условия непрерывности потенциала в области отверстия эл-

липсоидальной оболочки и поля на поверхности оболочки 1S :

( )1 2 0\1 \1( ) ( ) ( )M S S M S S

U M U M U M∈ ∈= + , (8)

( )1 1

1 2 0( ) ( ) ( )M S M S

U M U M U Mn n∈ ∈

∂ ∂= +∂ ∂

, (9)

где n – внешняя нормаль к поверхности 1S . Поставленная задача имеет единственное решение [8]. 2. Представление решения задачи. Потенциалы Uj вторичного магнитного поля ищем в ви-

де суперпозиции сферических и эллипсоидальных гармонических функций [9, 10] так, чтобы выполнялось условие на бесконечности (7):



Беларуси

40

1 11 1

1( , , ) (ch ) (cos )cos в ,x n n n

nU H a P P D

∞

=α β ϕ α β ϕ= ∑ (10)

(1) (2)2 22 2( , , ) ( , , ) в ,U U r U D= θ ϕ + α β ϕ

где

0

1(2) 1 12

11

(ch )( , , ) (ch ) (cos )cos

(ch )

nx n n n

n n

d PdU H a Q Pd Qd

∞

=

α=α

ααα β ϕ α β ϕ

αα

= ∑ , (11)

1

(1) 12

1( , , ) (cos )cos , ,

n

x n nn

rdU H b P r dr

+∞

=θ ϕ θ ϕ⎛ ⎞= >⎜ ⎟⎝ ⎠∑ (12)

1

13 3

11( , , ) (cos )cos в ,

n n

x n n nn

r dU r H m n P Dd r

+∞

=θ ϕ θ ϕ

⎡ ⎤⎛ ⎞ ⎛ ⎞= +⎢ ⎥⎜ ⎟⎜ ⎟ ⎝ ⎠⎝ ⎠⎢ ⎥⎣ ⎦∑ (13)

14 4

1( , , ) (cos ) cos в

n

x n nn

rU r H b P Dd

∞

=θ ϕ θ ϕ⎛ ⎞= ⎜ ⎟⎝ ⎠∑ . (14)

Здесь ( ), ( )m mn nP x Q x – присоединенные функции Лежандра первого и второго рода соответ-

ственно [9–11]. Неизвестные коэффициенты na , nb , na , nb , nm , nn подлежат определению из граничных

условий. 3. Выполнение граничных условий. Для выполнения граничных условий (2), (8), (9) пред-

ставим функцию (1)2 ( , , )U r θ ϕ через эллипсоидальные гармонические функции в системе коор-

динат с началом в точке О1, используя формулу из [4,10] при 1m =

1 (cos )exp(im ) ( , ) (ch ) (cos )exp(im ),n m n m mn ms s s

s mr P D a c P P

∞− −

=θ ϕ α β ϕ= ∑

где

22 2

( 1) (2 1)( )!( , ) , .( )!( )! ( )

n

n m sn nms s

s s mD a c Q ccc n m s m c

+ + ⎛ ⎞⎜ ⎟⎝ ⎠

− + −= >− + −

В результате получим

(1)02

1 1( , , ) (ch ) (cos )cos , ,1

U H D P Pnx n nn

∞α β ϕ = α β ϕ α > α∑

= (15)

где

22 2

.12 1 ( 1)1( 1) ( 1) 1 ( 1)!

p

p pn pdnD Q bn pncn n cp p c

⎛ ⎞⎜ ⎟⎝ ⎠⎛ ⎞

⎜ ⎟⎝ ⎠

∞ ++ −+= − ∑+ = − − (16)

Учитывая представления (1), (10), (11), (15), условие ортогональности присоединенных функций Лежандра 1(cos )Pn β на отрезке [ ]0,π и выполняя условие непрерывности (9), получим:

1n n n na a D cδ= + − , n=1,2,…, (17)

где nkδ – символ Кронекера.



Беларуси

41

Выполняя граничное условие (2), условие непрерывности (8) и принимая во внимание соот-ношение (17) и вронскиан из [11]

0 0

( 1) ( )!(ch ) (ch ) (ch ) (ch )sh ( )!

mm m m mn n n n

d d n mQ P P Qd d n mα = α

α α α αα α α

− +− =−

,

получим парные сумматорные уравнения вида

( )0

1 11

1(ch ) (cos ) 0n n n n n

n

da D c P Pd

∞

= α = αα β

α+ − δ =∑ , 00 ,≤β<β

0

1

110

( 1) (cos ) 0sh (ch )

n nn

n

n na Pd Q

d

∞

=

α=α

βα α

α

+ =∑ , 0β < β ≤ π . (18)

Введем в рассмотрение новые коэффициенты ny по формуле

0

0 14sh (ch )( 1)n n n

da Q yn n d α = α

αα

α=

+ (19)

и малый параметр mng :

0

04sh ( )!1 ( 1) (ch ) (ch )2 1 ( )!

m m mmn n n

n - m d dg P Qn n+ m d d α = α

αα α

α α= + −

+. (20)

Из асимптотических представлений для функций Лежандра ( )mnP x , ( )m

nQ x при больших n [11], следует, что

2( ), ,mng O n n m n−= >> → ∞ .

Учитывая введенные обозначения, парные уравнения (18) преобразуются к виду

1 11

1 1(2 1)(1 ) (cos ) (2 1) (cos )n n n n n

n nn g y P n f P

∞ ∞

= =β β+ − = +∑ ∑ , 00 ≤ β < β ,

1

1(cos ) 0n n

ny P

∞

=β =∑ , 0β < β ≤ π . (21)

где

( )0

11(ch )2 1 n

c Dn n df Pn n dδ −

= α+ α α=α. (22)

Решение парных уравнений (21) сводится к решению бесконечной системы линейных алгеб-раических уравнений (СЛАУ) второго рода относительно 2sy ∈ [12]:

1 11

1 1s n ns n n ns

n ny g R y f R

∞ ∞

= =− =∑ ∑ , 1,2,...,s = (23)

где

( ) ( )0

00

2( ) sin 0,5 sin 0,5nsR s x n xdxθ

θ = + +π ∫ ,

( ) ( )010 0 0 0( ) cosec sin 0,5

2ns ns sR R n Rθθ θ θ= − + .



Беларуси

42

Выполним граничные условия (3) – (6). Используя формулу, связывающую сферические и эллипсоидальные гармонические функции [4, 10] при 1m =

( ) ( )(ch ) (cos )exp im ( 1) ( ; ) (cos )exp im ,m m n s n s mn n ms s

s mQ P B a c r P

∞+

=α β ϕ θ ϕ= −∑

где

2 2 2

( )!( ; )

( )!( )!( )

n sms ns

n mB a c Qc

n m s m c

+ ⎛ ⎞= ⎜ ⎟⎝ ⎠− + −

, c> ,

получим следующее представление потенциала (2)2 ( , , )U α β ϕ через сферические гармонические

функции:

(2) 12

1( , , ) (cos )cosn

x n nn

U r H p r P∞

=θ ϕ θ ϕ= ∑ , (24)

где

( ) 0

1

112 2 2

d (ch )( 1) d( 1) ( 1) d (ch )( 1)! d

n pp n

n p pnp p

Pp p p Q a

c Qn c

∞

=α =α

α⎛ ⎞ α⎜ ⎟⎝ ⎠ α

α

−= − ++ −

∑ . (25)

Потенциал внешнего магнитного поля 0U в сферических координатах , , r θ ϕ имеет пред-ставление

10 1 (cos )cosxU H rP θ ϕ= − . (26)

Принимая во внимание представления потенциалов (12) – (14), (24), (26) и выполняя гранич-ные условия (3) – (6), получим:

1n n

n n n n nm t n b p d dδ+ = + − , (27)

1( 1) ( 1)n nn n n n nnm t n n n b np d dμ μ δ− + = − + + − , (28)

1nn n nb m n t += + , (29)

1( ( 1) )nn n nnb nm n n t +μ= − + . (30)

где 1/ ,t d d= 2 1/μ μ μ= . Из (27), (28) исключим выражение n

nm t и получим:

( ) 11 (2 1) (1 ) ( 1)nn n n nb n n n n np d n dμ μ μ μ δ+ + − + = − + − . (31)

Из (29) – (30) исключим коэффициенты nb и получим:

1( ( 1) ) ( 1)nn nn t n n nm+ μ μ+ + = − . (32)

Теперь коэффициенты nm из (32) подставим в (27):

( )1( 1) n

n n n nn

nn b p d dvμ

δ−= + − , (33)

где 2 1( ( 1) ) ( 1)nnv t n n n+ μ μ= + + + − .



Беларуси

43

Подставляя коэффициенты nn из (33) в (31), получим связь коэффициентов nb и np , входя-

щих в представление потенциалов (1)2 ( , , )U r θ ϕ и (2)

2 ( , , )U r θ ϕ соответственно:

1 1 ,nn n n nb N d p N dδ= − (34)

где ( 1)1

nn

n

nNn nΩ μμ Ω

− −=+ + −

, (2 1) ( 1)n

n

n nv

μ μΩ

+ −= .

Преобразуем правую часть системы (23). Для этого сначала подставим в (25) представление для коэффициентов pa из (19). Полученное представление для коэффициентов np подставим в (34). Принимая во внимание представление (16), окончательно получим связь между коэффици-ентами nD и ky вида

0

11

01

( 1) (2 1) 4 sh ( 1) (ch )( 1)

ns

n ns s ss

n dD d M y Pcn n d

+ ∞

= α=αα α

α

⎡− += − +⎢+ ⎢⎣

∑3

2 211 n

d N Q cl c

⎤⎛ ⎞ ⎥⎜ ⎟ ⎥⎝ ⎠ ⎥⎦−

, (35)

( )2

2 2

1 ( 1)!( 1)!

k kk kns k n s

k

d lM N Q Q ck k c c

∞ −

=

⎛ ⎞ ⎛ ⎞= −⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠− +∑ .

Подставляя коэффициенты nD из (35) в (22), получим следующее представление правой час-ти системы (23):

1

1 1n ns s ns n

n nf R F L y

∞ ∞

= == +∑ ∑ ,

0

31 1 1 1

0 1 12 2 1

( 1)ch (ch )3 ( 1)

n

s s n ns nn

c d dF R N Q R Pn n c dc l c

∞

= α=αα α

α− ⎛ ⎞= + ⎜ ⎟⎝ ⎠+−

∑ , (36)

0 0

0 1 1 1

1

4 sh ( 1)( 1) (ch ) (ch )( 1)

pn

ns n ps pn pp

d d dL P R M Pc d p p d

∞

=α=α α=α

αα α

α α−= −

+∑ .

Учитывая представление (36), из (23) получим бесконечную СЛАУ второго рода, которая разрешима численно методом усечения [13]:

( )11

1s n ns ns n s

ny g R L y F

∞

=− + =∑ , 1,2,... .s = (37)

Если толстостенная сферическая оболочка Г отсутствует, то решение задачи экранирования магнитного поля тонким незамкнутым эллипсоидальным экраном сводится к решению системы вида:

11

1Фs n ns n s

ny g R y

∞

=− =∑ , 1,2,... ,s =

где 10 1ch .

3s sc RαΦ =

4. Вычисление коэффициента экранирования (ослабления) поля внутри незамкнутой эллипсоидальной оболочки. Напряженность вторичного поля в произвольной точке 0M облас-ти 1D , согласно представлению (10), вычисляется по формуле

( ) 1 1 11 0

2 2

1 1sh sinsh sin

U U UH M e e e

сcα β ϕ

∂ ∂ ∂= − + −

∂α ∂β α β ∂ϕα + β

⎡ ⎤⎢ ⎥⎣ ⎦

,



Беларуси

44

где

1 1 1

1(ch ) (cos )cosn n n

nx

U dH a P Pd=

α β ϕα α

∞∂ = ∑∂

,

1 1 1

1(ch ) (cos )cosx n n n

n

U dH a P Pd=

α β ϕβ β

∞∂ = ∑∂

,

1 11

1(ch ) (cos )sin .x n n n

nU H a P P

=α β ϕ

ϕ

∞∂ = − ∑∂

Если точка 0M находится на оси Oz1, то 1z b< , 0β = ( cos 1β = , 1(1) 0nP = ) или β π=

( cos 1β = − , 1( 1) 0nP − = ). Поэтому

( )

0 111 0 ( )

0 11

( ), если 0 , 0,( )

( ), если 0, ,

H M z bH M

H M b z

+

−

⎧ ≤ < β =⎪= ⎨− < ≤ β = π⎪⎩

где

( )01

1 ch

( 1)( ) ( ) cos2

xn n

n

H n n dH M a P ec d

+β

= ξ = αϕ

∞ += ξ∑ξ

, 1ch /z cα = ,

( )( )01

1 ch

( 1)( ) 1 ( ) cos2

nxn n

n

H n n dH M a P ec d

−β

= ξ = α

∞ += − ξ ϕ∑ξ

, 1 /ch z cα = − .

При выводе этих формул учтены соотношения из [4, 9, 11]:

( ) ( )2 11 ( 1) ( ) ,n n nd dx P x n n P x x P x

d x d x− = + − ( )1

ch

1 ch ( )sh n n

dP Pd ξ = α

αα

= ξξ

,

1

( 1)( )2n

x

d n nP xdx =

+= , ( ) 1

1

( 1)( ) 12

nn

x

d n nP xdx

+

= −

+= − .

Коэффициенты na вычисляются по формуле (17). Коэффициент экранирования (ослабления) поля в точке ( )10 0,0,M z , расположенной на оси

1Oz в области 1D , вычисляем по формуле

( )

01( )1

0

( )( )

H MK z

H

±± = . (43)

5. Вычислительный эксперимент. В системе компьютерной алгебры MathCAD [14] были проведены вычисления коэффициента экранирования ( )

1( )K z± в области 1D для различных геометрических параметров экранов и материала оболочки Г по формуле (43).

Бесконечная СЛАУ (37) решалась методом усечения [13], порядок усечения взят равным 40, что обеспечивает решение системы (37) с точностью 10–4 для всех рассматриваемых параметров задачи. Для получения достоверного решения усеченной СЛАУ (37) была проверена обуслов-ленность системы. Матрица, соответствующая системе, считается хорошо обусловленной, если число ее обусловленности 1≥ [15].

На рис. 2 представлены графики коэффициентов экранирования ( )1( )K z+ , 10 z b≤ < , для не-

которых значений угла раствора эллипсоидальной оболочки 0β , равной 80° (1); 90° (2); 100° (3); 110° (4) и при / 2b a = ; / 2,25b = (отношение расстояния между точками О и O1 к большой



Беларуси

45

полуоси эллипсоида b), 1/ 1,05d d = ; / 2,25d = . Пунктирная линия – сферическая оболочка Г

выполнена из меди ( 2 2 0rμ = μ μ , 07 Гн4 10 м

−μ = π ⋅ , 2 0,999912rμ = ), сплошная линия – из железа

( 2 2 0rμ = μ μ , 2 5000rμ = ), 1 1 0rμ = μ μ ( 1 1,000038rμ = – относительная магнитная проницаемость воздуха), точечная линия – при отсутствии сферической оболочки.

На рис. 3 (пунктирная линия – сферическая оболочка Г отсутствует, сплошная линия – сфе-рическая оболочка Г выполнена из железа) показаны графики коэффициентов экранирования

( )1( )K z− , 1 0b z− < ≤ , для некоторых значений угла раствора эллипсоидальной оболочки 0β ,

равной 80° (1); 100° (2); 120° (3); 140° (4) и / 1,5b a = ; / 4a = ; 1/ 2d d = ; / 4.d = На основании вычислительного эксперимента для рассмотренной конфигурации экранов

можно сделать следующие выводы: 1) сферическая оболочка из ферромагнетика улучшает экра-нирующие свойства незамкнутой эллипсоидальной оболочки; 2) сферическая оболочка из пара-магнетика или диамагнетика практически не оказывает влияния на величину коэффициента эк-ранирования; 3) чем больше угол раствора незамкнутой эллипсоидальной оболочки, тем лучши-ми экранирующими свойствами она обладает.

Литература 1. Г р а ч е в Н. Н., М ы р о в а Л. О. Защита человека от опасных излучений. М., 2005. 2. П а в л о в А. Н. Воздействие электромагнитных излучений на жизнедеятельность. М., 2002. 3. А п о л л о н с к и й С. М. Внешние электромагнитные поля электрооборудования и средства их снижения.

СПб., 2001. 4. А п о л л о н с к и й С. М., Е р о ф е е н к о В. Т. Электромагнитные поля в экранирующих оболочках. Минск,

1988. 5. C a n o v a A., G r u o s s o G., R e p e t t o M. // The International journal for computation and mathematics in elec-

trical and electronic engineering. 2004. N 1. P. 173–186. 6. A p o l l o n s k i i S. M., E r o f e e n k o V. T., S h u s h k e v i c h G. Ch. // Proceedings of St. Petersburg IEEE

Chapters. 2003. P. 68–72. 7. К о р з ю к В. И., Ш у ш к е в и ч Г. Ч // ЖТФ. 2006. Т. 76, 6. С. 9–14. 8. К о р з ю к В. И., Ш у ш к е в и ч Г. Ч // Тр. Ин-та матем. 2006. Т. 14, 1. С. 71–81. 9. Л е б е д е в Н. Н. Специальные функции и их приложения. М.; Л., 1953. 10. Ш у ш к е в и ч Г. Ч. Расчет электростатических полей методом парных, тройных уравнений с использовани-

ем теорем сложения оболочки. Гродно, 1999. 11. Справочник по специальным функциям c формулами, графиками и математическими таблицами / Под ред.

М. Абрамовица, И. Стигана. М., 1979. 12. Ш е с т о п а л о в В. П. Сумматорные уравнения в современной теории дифракции. Киев, 1983. 13. К а н т о р о в и ч Л. В., К р ы л о в В. И. Приближенные методы высшего анализа. М.; Л., 1962. 14. Ш у ш к е в и ч Г. Ч., Ш у ш к е в и ч С. B. Введение в MathCAD 2000. Гродно,2001. 15. К а х а н е р Д., М о у л е р К., Н э ш С. Численные методы и программное обеспечение. М., 1998.

Рис. 2. Графики коэффициентов экранирования K(+)(z1)

Коэфф

ициент

экранирования

K(z

1)

Переменная 0≤z1/b<1

Рис. 3. Графики коэффициентов экранирования K(–)(z1)

Коэфф

ициент

экранирования

К(z

1)

Переменная 0≤׀z1׀/b<1



Беларуси

46

V. I. KORZYUK, G. Ch. SHUSHKEVICH

SHIELDING OF A MAGNETIC FIELD BY A SYSTEM OF SCREENS: THIN OPEN-ENDED ELLIPSOIDAL SHELL AND SPHERICAL SHELL

Summary

The solution of the problem of nonaxially symmetric magnetic field penetration into an ideally thin open-ended ellipsoidal shell in the presence of a spherical shell is reduced to the solution of an infinite system of linear algebraic equations of the second kind. The effect of the apex angle of the open-ended ellipsoidal shell, geometric parameters of the screens and electro-physical properties of the spherical shell material on the field attenuation coefficient inside the ellipsoidal shell is studied nu-merically.



Беларуси

47


УДК 517.958 С. И. ГАЙДУК, А. А. КУЛЕШОВ

ОБ ОДНОЙ СМЕШАННОЙ ЗАДАЧЕ ИЗ ТЕОРИИ КОЛЕБАНИЙ БАЛОК



В работах [1] и [2] исследована разрешимость смешанных задач о вызванных динамическим ударом поперечных колебаниях упругих прямоугольных мембраны и плиты. Представляет тео-ретический и прикладной интерес изучение разрешимости смешанных задач, описывающих ко-лебания тел, вызванные кинематическим ударом [3].

Настоящая работа посвящена изучению разрешимости одной задачи о вызванных внезапным приданием скорости (кинематическим ударом) в одной точке поперечных колебаниях однород-ной упругой балки.

1. Постановка задачи и ее формальное решение. Пусть находившаяся в покое однородная упругая балка 0 ,x l≤ ≤ < ∞ опертая по концам, в начальный момент времени 0t = подверглась в точке 0x x= ( 00 x l< < ) удару двигавшимся со скоростью v0 грузом, причем груз после удара мгновенно отделился от балки. Тогда, пренебрегая для простоты весом балки, но учитывая инерцию вращения ее поперечных сечений и деформации сдвига, для определения проги-бов u(x, t) оси балки и углов ϕ(x, t) наклона касательной к кривой изгиба нужно найти в области D ( 0 , 0x l t T< < < ≤ < ∞ ) решение системы уравнений [4]:

2 2

2 2

2 2

2 2

,u uaxt x

ub cxt x

⎛ ⎞∂ ∂ ∂ϕ= −⎜ ⎟∂∂ ∂⎝ ⎠

∂ ϕ ∂ ϕ ∂⎛ ⎞= + − ϕ⎜ ⎟⎝ ⎠∂∂ ∂

(1)

при начальных условиях

0 000

0, δ( ) (0 ),tt

uu v x x x lt=

=

∂= = − ≤ ≤∂

(2)

00

0, 0 (0 )tt

x lt=

=

∂ϕϕ = = ≤ ≤∂

(3)

и граничных условиях

00

0, 0, 0, 0,x x lx x l

u ux x= =

= =

∂ϕ ∂ϕ= = = =∂ ∂

(4)

где a, b и c – положительные постоянные, характеризующие свойства балки, причем ;a b≠ 0δ( )x x− – функция Дирака.

Следует отметить, что в подавляющем большинстве случаев при изучении поперечных коле-баний балок рассматривается уравнение

2 4

22 4 0,u u

t x∂ ∂+ α =∂ ∂

(5)



Беларуси

48

где α2 – постоянная величина, которое предполагает, что деформации распространяются мгно-венно (с бесконечной скоростью), и потому уравнение (5) является не волновым (не допускаю-щим распространения деформаций с конечной скоростью). В связи с этим смешанные задачи о поперечных колебаниях балок для уравнения (5) неточны в физическом смысле, так как в дейст-вительности деформации распространяются не мгновенно, а с конечной скоростью. Система уравнений (1) учитывает инерцию вращения поперечных сечений колеблющейся балки, а также деформации сдвига, и описывает более точно колебательный процесс по сравнению с уравнени-ем (5).

Ищем решение задачи (1) – (4) в виде

0

1

01

( , ) ( )sinμ sinμ ,

( , ) ( )sinμ cosμ ,

k k kk

k k kk

u x t t x x

x t t x x

∞

=∞

=

α

β

=

ϕ =

∑

∑ (6)

где πμ ( 1,2,3, ),kk kl

= = … αk(t) и βk(t) ( 1,2,3, )k = … – функции, подлежащие определению. Под-

ставив (6) в (1) – (4), с учетом равенства [5]

0 01

2δ( ) sinμ sinμ ,k kk

x x x xl

∞

=− = ∑

получим системы уравнений

2

2

α ( ) μ α ( ) μ β ( ) 0,

β ( ) ( μ )β ( ) μ α ( ) 0 ( 1,2,3, )k k k k k

k k k k k

t a t a t

t b c t c t k

+ − =′′

+ + − = =′′ … (7)

и условия

02α (0) 0, α (0) , β (0) 0, β (0) 0 ( 1,2,3, ).k k k kv kl

= = = = =′ ′ … (8)

Решив системы (7) при условиях (8), получим, что

1 2

2 21 2

1 2

α ( ) sin sin ,

β ( ) (μ )sin (μ )sin ( 1,2,3, ),μ μ

k k k k k

k kk k k k k k k

k k

t A t B t

t A t B t ka a

= +

= − + − = … (9)

где

2 2 2 2

0 2 0 12 2 2 2

1 1 2 2 1 2

2 μ 2 μ, ,( ) ( )

k k k kk k

k k k k k k

v a v aA Bl l

− −= ⋅ = ⋅− −

(10)

2 2 4 2 21

2 2 4 2 22

1 ( )μ ( ) μ 2 ( )μ ,21 ( )μ ( ) μ 2 ( )μ .2

k k k k

k k k k

a b c a b c a b c

a b c a b c a b c

⎡ ⎤= + + + − + + +⎢ ⎥⎣ ⎦

⎡ ⎤= + + − − + + +⎢ ⎥⎣ ⎦

(11)

Таким образом, формальное решение задачи (1) – (4) представляется рядами (6), в которых функции αk(t) и βk(t) ( 1,2,3, )k = … определяются равенствами (9).

2. Обоснование формального решения. В силу вида функции в правой части второго из на-чальных условий (2) задача (1) – (4) не может иметь классического решения, поэтому речь пой-



Беларуси

49

дет об обобщенном ее решении, которое определим следующим образом: назовем обобщенным решением задачи (1) – (4) функции u(x, t) и ϕ(x, t), которые обладают перечисленными ниже свойствами: а) функция u(x, t) почти всюду непрерывна в области D ( 0 , 0x l t T≤ ≤ ≤ ≤ < ∞ ); б) производные функции u(x, t) первого и второго порядков представляются рядами, суммируе-мыми почти всюду в области D соответственно методами Чезаро (C, 1) и (C, 2) [6]; в) функция ϕ(x, t) непрерывна в области D а ее производные первого порядка почти всюду непрерывны в этой же области; г) производные второго порядка функции ϕ(x, t) представляются рядами, сум-мируемыми почти всюду в области D методом Чезаро (C, 1); д) функции u(x, t) и ϕ(x, t) удовле-творяют почти всюду в области D системе уравнений (1) и всюду условиям (2) – (4).

Докажем, что имеет место следующая Т е о р е м а 1. Задача (1) – (4) имеет обобщенное в смысле данного выше определения решение,

представимое в виде (6), где функции αk(t) и βk(t) ( =1,2,3,…)k определяются равенствами (9). Д о к а з а т е л ь с т в о. Из (11) следует, что для достаточно больших значений k имеют место

асимптотические представления

1 1 2 2μ , μ ,k k k k k ka b= + ε = + ε (12) где

0 01 23 5 3 5

1 1 1 1,2( ) μ 2( ) μμ μ μ μ

k kk kk k k k

c a p c b qO Oa b b a

⎛ ⎞ ⎛ ⎞ε = + + ε = + +⎜ ⎟ ⎜ ⎟− −⎝ ⎠ ⎝ ⎠

(13)

(p0 и q0 – некоторые постоянные величины). Подставив в (9) и (10) вместо 1k и 2k правые части равенств (12) с учетом (13), после ря-

да преобразований получим, что

01 1 2 2

1

2 1 1( , ) ( , ) sinμ cosμμ μ

k kkk k

vu x t w x t p at p t a tl

∞

=

⎡= + + +⎢

⎣∑

23 4 5 03

1( ) (sinμ sinμ ) sinμ sinμ ,μ

k k k kk

p t p a t p bt x x⎤

+ + ⎥⎥⎦

(14)

02 1 22 2

1

2 1 1( , ) ( , ) ( sinμ sinμ )μ μ

k kk k k

vx t w x t q at q btl

∞

=

⎡ϕ = + + +⎢

⎣∑

3 031 (cosμ cosμ ) sinμ cosμ ,μ

k k k kk

q t a t bt x x⎤

+ ⎥⎥⎦

(15)

где wn(x, t) (n = 1,2) – функции, имеющие в области D непрерывные частные производные перво-го и второго порядков; pn ( 1,5)n = и qn ( 1,3)n = – постоянные величины. Из (14) и (15) видно, что функция ϕ(x, t) непрерывна в области ,D а для исследования свойств функции u(x, t) и про-

изводных , ,m m m

m m mu u

t x t∂ ∂ ∂ ϕ∂ ∂ ∂

и m

mx∂ ϕ∂

(m = 1, 2) нужно исследовать сходимость рядов

1 01

1( , ) sinμ γ sinμ sinμ ,μ k k k

kkS x t t x x

∞

== ∑ (16)

2 01

1( , ) cosμ γ sinμ cosμ ,μ k k k

kkS x t t x x

∞

== ∑ (17)



Беларуси

50

3 01

( , ) cosμ γ sinμ sinμ ,k k kk

S x t t x x∞

== ∑ (18)

4 01

( , ) sinμ γ sinμ cosμ ,k k kk

S x t t x x∞

== ∑ (19)

5 01

( , ) μ sinμ γ sinμ sinμ ,k k k kk

S x t t x x∞

== ∑ (20)

где величина γ принимает значения a и .b Используя формулы преобразования произведе-ний тригонометрических функций в алгебраические суммы, исследование сходимости рядов (16) и (17), (18) и (19), (20) можно свести к изучению сходимости соответственно рядов

* * *1 2 3

1 1 1

1( , ) sin ξ, ( , ) cos ξ, ( , ) sin ξ,k k k

S x t k S x t k S x t k kk

∞ ∞ ∞

= = == = =∑ ∑ ∑ (21)

где 0ξ ( ),π γt x xl

= ± ± причем в правой части последнего равенства берутся четыре комбинации

знаков «плюс» и «минус». Известно [7], что первый из рядов (21) сходится, и его сумма *

1 ( , )S x t при ξ 2 πm= ( 0, 1, 2, 3, )m = ± ± ± … терпит конечные разрывы. Второй и третий из рядов (21) расходятся в обычном смысле, но можно показать, следуя [8], что второй ряд суммируется к нулю при ξ 2 πm≠ ( 0, 1, 2, 3, )m = ± ± ± … в обобщенном смысле методом Чезаро первого порядка (C, 1), а третий ряд можно просуммировать к нулю при ξ 2 πm≠ ( 0, 1, 2, 3, )m = ± ± ± … , следуя [9], мето-дом Чезаро второго порядка (C, 2).

Из сказанного выше следует, что суммы рядов (16) и (17) испытывают на прямых

0 0γ 2 0, γ 2 0 ( 0, 1, 2, 3, )t x x ml t x x ml m± ± − = ± − = = ± ± ±∓ … (22)

конечные разрывы, а ряды (18) и (19) и ряд (20) суммируются вне прямых (22) к нулю соответ-ственно методами Чезаро (C, 1) и (C, 2).

Дифференцируя формально равенства (14) и (15) один и два раза по x и t и принимая во вни-мание указанные выше свойства рядов (16) – (20), в которых величину γ следует положить рав-ной a и ,b заключаем, что функции u(x, t) и ϕ(x, t) и их производные, содержащиеся в задаче (1) – (4), обладают в области D свойствами, указанными в определении обобщенного решения, сформулированного в начале настоящего параграфа. Проверка удовлетворения системы (1) и условий (2) – (4) осуществляется подстановкой функций (6) в (1) – (4) с учетом суммируемости рядов для производных этих функций вне лежащих в области D отрезков прямых линий (22).

С помощью имеющей место формулы

2 2 2 2

00

l u ab a ua dxt c x c t x

⎡ ⎤∂ ∂ϕ ∂ϕ ∂⎛ ⎞ ⎛ ⎞ ⎛ ⎞ ⎛ ⎞+ + + ϕ − =⎢ ⎥⎜ ⎟ ⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎝ ⎠∂ ∂ ∂ ∂⎢ ⎥⎣ ⎦∫

обычным образом можно показать, что задача (1) – (4) не может иметь двух различных решений u1(x, t), ϕ1(x, t) и u2(x, t), ϕ2(x, t), обладающих указанными выше свойствами и таких, чтобы функ-

ции uk(x, t) (k = 1,2) и производные 2 2 2 2

2 2 2 2, , , , , , ,k k k k k k k ku u u ut x t xt x t x

∂ ∂ ∂ ∂ ∂ϕ ∂ϕ ∂ ϕ ∂ ϕ∂ ∂ ∂ ∂∂ ∂ ∂ ∂

(k = 1,2) име-

ли в области D при k = 1 и k = 2 одинаковые разрывы [10].



Беларуси

51

В заключение отметим, что прогибы u(x, t) оси балки и углы ϕ(x, t) наклона касательной к кривой изгиба можно рассматривать как эле-менты пространства квадратично интегрируе-мых (по мере Лебега) функций при каждом t и, следовательно, интегрируемых функций. Мера Лебега является вероятностной мерой (при соответствующей нормировке). Она называет-ся равномерным распределением. Поэтому, при каждом значении t можно вычислить средние значения и найти доверительные ин-тервалы для u(x, t) и ϕ(x, t). Изобразим графи-чески среднее значение и доверительный ин-тервал для прогибов u(x, t) оси балки (рис. 1). Расчеты даны для алюминия и в случае удара, произведенного по середине балки.

На втором графике (см. рис. 2) жирной ли-нией изображено среднее значение функции u(x, t) и доверительный интервал для среднего значения.


1. Г а й д у к С. И. // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 1998. 2. С. 52–57. 2. Г а й д у к С. И. // Труды Ин-та математики НАН Беларуси. Минск, 2000. Т. 6. С. 54–60. 3. П а н о в к о Я. Г. Основы прикладной теории колебаний и удара. Л., 1990. 4. Т и м о ш е н к о С. П. Колебания в инженерном деле. М., 1967. 5. Т и х о н о в А. Н., С а м а р с к и й А. А. Уравнения математической физики. М., 1966. 6. Х а р д и Г. Расходящиеся ряды. М., 1951. 7. З и г м у н д А. Тригонометрические ряды. М., 1965. Т. 1. 8. Г а й д у к С. И. // Дифференц. уравнения. 1976. Т. 12, 5. С. 865–880. 9. Г а й д у к С. И. Математическое рассмотрение краевых задач о продольном ударе по концам однородного

стержня. Препринт 5 (21). Минск, 1977. С. 13, 14. 10. Г а й д у к С. И. // Дифференц. уравнения. 1991. Т. 27, 8. С. 1377–1387.

S. I. GAIDUK, A. A. KULESHOV

ONE MIXED PROBLEM OF THE THEORY OF BEAM OSCILLATIONS

Summary A solution of one problem on kinematic impact-caused transverse oscillations of a homogeneous elastic beam at one point

described by the Timoshenko system of equations is constructed and substantiated.

Рис. 1. Среднее значение прогибов оси балки

Рис. 2. Доверительный интервал для среднего значения

прогибов оси балки



Беларуси

52


УДК 539.3 О. Л. ШВЕД

ОПРЕДЕЛЕНИЕ ТЕНЗОРА УПРУГОГО СПИНА В НЕЛИНЕЙНОЙ ТЕОРИИ ПЛАСТИЧНОСТИ

Объединенный институт проблем информатики НАН Беларуси (Поступила в редакцию 25.01.2008)

Введение. В геометрически линейной теории пластичности В. Д. Клюшников ввел принцип потенциальности определяющих уравнений в скоростях напряжений [1]. Прямого обоснования этот принцип не получил, и встретил ряд возражений специалистов относительно его спра-ведливости для всех определяющих уравнений [2]. В геометрически нелинейной модели сре-ды [3–13] такое обоснование появляется для специального вида определяющего уравнения – обобщенного закона упругости. Оно состоит в необходимости сохранения потенциальной при-роды упругой деформации в активном процессе [12]. При этом следует использовать понятие предельной поверхности (существуют теории и без нее) и в достаточно общем виде вводить не-линейный упругий закон [3, 4]. Распространенная точка зрения состоит в его упрощении [5, 6]. В пассивном процессе имеет место потенциальность уравнения состояния упругопластической среды в напряжениях (условие гиперупругости) и в скоростях напряжений. Оба условия сохра-няются в активном процессе.

При необратимых деформациях надо использовать эйлерово описание в терминах актуаль-ной конфигурации. Здесь существует проблема выбора скорости напряжений. Формально можно использовать любую объективную производную тензора напряжений, удовлетворяющую прин-ципу материальной объективности [3, 5, 13]. Сохраняющей потенциальность в скоростях напря-жений объективной производной упругого закона является просто вычисляемая, яуманнская производная. Однако для расчета упругопластического процесса необходимо вычислять конеч-ные упругие повороты, и, следовательно, требуется упругий спин. При введении условия потен-циальности в скоростях напряжений с помощью объективной О-производной, появляется огра-ничение, связанное с тем, что О-производная, где спин берется по соотношениям нелинейной упругости [3], ему не удовлетворяет. Это позволило получить спин

T TΩ O O= O O= ⋅ − ⋅ собст-венно ортогонального тензора поворота O , сопровождающего упругую деформацию в активном процессе в случае двумерного напряженно-деформированного состояния (НДС) с учетом близо-сти к своему значению в упругости [10]. В [11] указанный результат обобщается для трехмерно-го НДС. Однако приведенные без доказательства ввиду ограниченного объема статей в [10, 11] соотношения требуют строгого обоснования, что и является главной целью настоящей работы. Кроме того, для разработки компьютерных систем моделирования необходимо иметь в явном виде еще ряд соотношений.

Отметим, что пластический спин определять излишне, хотя в иных подходах к проблеме формулировки определяющих соотношений нелинейной упругопластичности это имеет место [7]. Поскольку в настоящем построении находится мера упругих искажений, то знание упругого спина полностью определяет упругую составляющую в рассматриваемом ниже разложении все-гда известного транспонированного градиента общей деформации. Тем самым однозначно опре-деляется его пластическая составляющая и, следовательно, пластический спин без привлечения сомнительных в рамках геометрической нелинейности предположений.

1. Разложение Крёнера – Ли. Используем язык прямого тензорного исчисления, следуя обо-значениям из [3]. В конкретной задаче нахождения спина необходим переход к компонентным представлениям. Введем ортонормированные триэдры: неподвижный 1 2 3, ,c c c и 1 2 3, ,e e e , образо-



Беларуси

53

ванный собственными векторами тензора напряжений Коши. Предполагаем, что векторные ба-зисы отсчетной, актуальной и разгрузочной конфигураций первоначально совпадают:

(0) ( ) ( )s s s st= = = τc R R R , (0) ( ) ( )s s ss t= = = τc R R R (символ t означает время, а 0,τ – его

значения в начале процесса и в момент разгрузки). Они задаются соотношениями

s (0) (0) 0s⋅⋅

= =R R , .

( ) ( ) ( ) ,Ts s st t t= ∇ ⋅ = ⋅∇R v R R v

.( ) ( )s s Tt t= − ⋅∇ =R R v ( )v R−∇ ⋅ s t , (1)

где∇v и T∇v – градиент и транспонированный градиент скорости перемещения. Материальные производные векторов ( ), ( )s

s τ τR R определяются более сложно [10, 11]. Формально просто получается мультипликативная декомпозиция Крёнера – Ли транспони-

рованного градиента общей деформации: 0

( ) ( ) (0)T sst t∇ = =R R R

0( )( ( ) ( )) (0) ( ( ) ( )) ( ( ) (0)) ( ) ( )s k s k T T

s k s kt t tτ

τ ⋅ τ = τ ⋅ τ = ∇ ⋅∇ τR R R R R R R R R R ( ( ) ( )s sk kτ ⋅ τ = δR R ),

0 0

( ) ( ) ( ),T T Tt tτ

∇ = ∇ ⋅∇ τR R R (2)

где 0

( ), ( )T Ttτ∇ ∇ τR R – транспонированные «градиенты» упругой и пластической деформации.

Несложно проверяется, что она удовлетворяет требованиям инвариантности [7]

0 0 0

0 0 0( ) ( ) ( ) ( ) ( )T T T TO R O O R O O R O O R R Oτ τ

τ τ⋅∇ ⋅ = ⋅∇ ⋅ ⋅ ⋅∇ τ ⋅ = ⋅∇ ⋅∇ τ ⋅T T T T Tt t tt t t

( TO O Eτ τ⋅ = – единичный тензор), где 0, , tτO O O – ортогональные тензоры жестких движений, наложенных на отсчетную, разгрузочную и актуальную конфигурации. Это означает, что урав-нение (2) является объективным [5] и может быть использовано в нелинейной теории.

Основные претензии [7, 8] к разложению (2) состоят в том, что оно неоднозначно (напомина-

ет равенство 1( )( )−αβ= αγ γβ ∀γ ), тензоры 0

( ), ( )T Ttτ∇ ∇ τR R не являются градиентами, их нельзя

определить в рамках кинематики и разгрузочной конфигурации не существует, так как вектор места ( )τR бывает обычно неизвестен. Первое возражение устраняется строгим и однозначным

определением ( )T tτ∇R , например, как в [10] с использованием, конечно, не только кинематиче-

ских понятий. Второе возражение неоспоримо. Поэтому надо ослабить обычные требования к разгрузочной конфигурации, как отсчетной: пусть она не может быть достигнута, но векторные базисы ( ), ( )s

s τ τR R должны быть всегда определены. Это позволяет вычислять необходимые тензоры, «заданные в этой конфигурации».

2. Представление упругого спина в упругости. Согласно полярному разложению транспо-

нированного «градиента» упругой деформации имеем ( )T T Ttτ∇ = ⋅ = ⋅R V O O U , где ,V U – тен-

зоры упругого искажения; T⋅ =O O E . Аргументы ,t τ , различающие кофигурации, для упроще-ния частично опускаем. В упругопластической модели среды при пассивном процессе разгру-

зочная конфигурация фиксирована s( ( ) ( ) 0)s⋅⋅

τ = τ =R R и справедливы обычные соотношения упругости.

Найдем выражение для тензора Ω , следуя вначале работе [3]:

( )τ τ τ

⋅∇ ⋅∇ = ∇ =R v R ( )⋅ ⋅

⋅⋅ = ⋅ + ⋅U O U O U O ,

1 1 1( ) ( ) ( )τ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅

− − −∇ = ∇ ⋅ ⋅ + ⋅ = ⋅ ⋅ + ⋅ = ⋅ ⋅ ⋅ + ⋅ =T T Tv R U O U O O U U O U O O U U O O O 1 ,⋅

−⋅ ⋅ ⋅ −TO U U O Ω

1 ,T⋅

−∇ = ⋅ ⋅ ⋅ +Tv O U U O Ω 1 1 -1 -12 ( ) 2 ( )T⋅ ⋅

− −= ∇ −∇ = + ⋅ ⋅ − ⋅ ⋅TW v v Ω O U U U U O , где W – тензор вих-ря. Полученное соотношение для тензора спина неудобно для дальнейшего использования,



Беларуси

54

поскольку содержит материальную производную меры упругих искажений, которую можно вы-числить.

Имеем 2=G U – мера упругой деформации Коши – Грина, материальная производная кото-

рой известна. По Л. М. Зубову [9], решение уравнения ⋅ ⋅ ⋅⋅ + ⋅ =U U U U G , относительно

⋅U имеет

вид: ( ) 11 2 -1 -11 2 3 1 1 3 12 (( ) ( ) ( ) )L L L L L L L

⋅ ⋅ ⋅−−= − − ⋅ + − ⋅ ⋅ + − ⋅ ⋅U E G G U E G U U E G U ( kL –– k-й инвари-ант тензоров U иV ; 1 2 39L L L≥ ).

Учитывая, что 132L

⋅−= ⋅ ⋅G U d U ( 3L= ⋅ ⋅ Td O D O ), 3

1 2 3L L L= − +U G U E (теорема

Гамильтона – Кэли), находим ( ) 1 1 21 2 3 3 1 2 1 1 3(( ) ( )L L L L L L L L L

⋅ − −= − + ⋅ ⋅ + ⋅ ⋅ − ⋅ ⋅ + ⋅ ⋅ + −U U d U G d G G d U U d G d

3 ( ))L ⋅ + ⋅U d d U . Используя связи = ⋅ ⋅ TG O F O , = ⋅ ⋅ TU O V O , получаем ⋅

⋅ ⋅ =TO U O

( ) 1 21 2 3 1 2 1 1 3 3(( ) ) ( ))L L L L L L L L L−− + ⋅ ⋅ + ⋅ ⋅ − ⋅ ⋅ + ⋅ ⋅ + − ⋅ + ⋅V D V F D F (F D V V D F D V D D V , где 2=F V –

мера упругой деформации Фингера, D – тензор скорости деформации (для него в нелинейной теории используется и другой термин, см. [3, 5, 6]).

Вычисляем: ( ) 11 -1 -1 1 21 2 3 1 22 ( ) 2 (( )L L L L L

⋅ ⋅ −− −⋅ ⋅ − ⋅ ⋅ = − + ⋅ + ⋅ ⋅ +TO U U U U O V D F D V -1 1 2 1

1 3 1 3 1 2 1 3( ) ( ) ( )L L L L L L L L− −⋅ − ⋅ + ⋅ ⋅ − ⋅ ⋅ + − + ⋅ − ⋅ ⋅ − ⋅ +D V F D V D V V D V D D V V D F V D1

1 3( ) ( ))L L −⋅ ⋅ ⋅ + + ⋅ ⋅V D V+D F D V D V . Учитывая дальше, что 13 1 2L L L− = − +V F V E , имеем

( ) 11 -1 -11 2 3 1 12 ( ) ( ( ( )))L L L L L

⋅ ⋅ −− ⋅ ⋅ − ⋅ ⋅ = − ⋅ ⋅ − ⋅ ⋅ + ⋅ − ⋅ − ⋅ − ⋅ =TO U U U U O F D V V D F D F F D D V V D1( ) ( ( ))1 2 3 1 3L L L L L−= − ⋅ ⋅ − ⋅ ⋅ + ⋅ − ⋅-1 -1F D V V D F D V V D . Окончательно получаем следующую теорему.

Т е о р е м а 1. Упругий спин в пассивном процессе определяется соотношением 1( ) ( ( ))1 2 3 1 3L L L L L−− − ⋅ ⋅ − ⋅ ⋅ + ⋅ − ⋅-1 -1Ω=W F D V V D F D V V D . (3)

3. Обобщенный закон упругости и дифференциальные соотношения. В [11] введено достаточно общее выражение для удельной потенциальной энергии упругой деформации э путем добавления к изотропному потенциалу Мурнагана [3, 4] анизотропных скалярных структур пер-вой и второй степени и получен обобщенный упругий закон в виде:

211 1 1 2

3 3 0 1 21

2 2 (2 ) ( , )T Tj j

j

эL Lτ τ τ τ τ

− − −

=

∂= ∇ ⋅ ⋅∇ = ⋅ ⋅ +ϕ +ϕ +ϕ + δ ∇ ⋅ =∇ ⋅∇∂ ∑T R R V B V E F F T R=O V F R RG ,

13 ( 1)i i i i iL−= ⋅ ⋅ − ⋅ ⋅T c G c V C C V , 1 1 1

3 3 1 2 1 2 2 12 ( 2 ( 1)( ))i i i i iL− − −+ = ⋅ ⋅ ⋅ + ⋅ ⋅ − + ⋅T V c G c C C c G c C C C C V ,

1 111 3 1 3 1 3 3 1

12 ( 2 ( 1)( )) ,T V c G c C C c G c C C C C V− −+

−= ⋅ ⋅ ⋅ + ⋅ ⋅ − + ⋅i i i i iL 1 1

15 3 2 32 (i i iL− −+ = ⋅ ⋅ ⋅ +T V c G c C C 2 3 3 2

12 ( 1)( ))c G c C C C C V− ⋅ ⋅ − + ⋅i i ( 1, 2,3i = ), 1 1

7 3 1 2 1 2 2 12 ( ) ,L− −= ⋅ ⋅ ⋅ + ⋅T c G c V C C C C V 1 1

11 3 1 3 1 3 3 12 ( )T c G c V C C C C V− −= ⋅ ⋅ ⋅ + ⋅L , 1 1

15 3 2 3 2 3 3 22 ( ) ,T c G c V C C C C V− −= ⋅ ⋅ ⋅ + ⋅L 1 1

8 3 2 2 1 1 1 1 2 22 (( 1) ( 1) ) ,L− −= ⋅ ⋅ ⋅ − + ⋅ ⋅ − ⋅T V c G c C C c G c C C V 1 1

9 3 2 2 3 32 (( 1)L− −= ⋅ ⋅ ⋅ − +T V c G c C C 3 3 2 2( 1) ) ,⋅ ⋅ − ⋅c G c C C V1 1

10 3 3 3 1 1 1 1 3 32 (( 1) ( 1) ) ,L− −= ⋅ ⋅ ⋅ − + ⋅ ⋅ − ⋅T V c G c CC c G c C C V 1

19 3 1 3 1 2 2 1 1 2 1 3 3 11 ( ( ) ( )) ,4T V c G c CC C C c G c CC C C V− −= ⋅ ⋅ ⋅ + + ⋅ ⋅ + ⋅L

120 3 2 3 1 2 2 1

1 ( ( )4T V c G c C C C C− −= ⋅ ⋅ ⋅ + +L 1 2 2 3 3 2( )) ,⋅ ⋅ + ⋅c G c C C C C V1

21 3 2 3 1 3 3 1 1 3 2 3 3 21 ( ( ) ( )) ,4T V c G c C C C C c G c C C C C V− −= ⋅ ⋅ ⋅ + + ⋅ ⋅ + ⋅L



Беларуси

55

20 0 3 1 0 1 1 2 1 3 2 2 0 1 1, , ϕ = ϕ = + + + ϕ = +a I b b I b I b I c c I ; 2

1 1 22I L L= − , 22 2 1 32I L L L= − , 2

3 3I L= ; 10 32 ,a −= ν

10 1 2 316 ( 12 8 9 18 8 )b − λ μ= − − + ν + ν + ν , 1

1 1 28 (2 3 4 )b − λ= − ν − ν , 12 1 216 ( 2 )b −= ν + ν , 1

3 2 34 ( 2 )b −= − ν + ν ;1

0 2 34 (2 3 4 )с − μ= − ν − ν , 1 3с b= − ; = ⋅ ⋅TB O b O , i i i= ⋅ = ⋅TC O c c O , где b – симметричный тензор

(остаточных напряжений) второго ранга; kI – k-й инвариант тензоров G и F; λ , 1 2 3, , ,μ ν ν ν – постоянные Ляме второго и третьего порядков; jδ – параметры анизотропии.

Для изотропной среды имеем 0,=b 0jδ = , а дальше эти величины изменяются при пластиче-

ском деформировании. Тензоры jT дают свой вклад при вычислении напряжений, только когда параметры анизотропии становятся ненулевыми.

По определению производной Яуманна тензор напряжений Коши T запишем ⋅

= − ⋅ + ⋅W

T T W T T W. Учитывая [3], что яуманнская производная обладает свойствами обычной

производной, и соотношения ( ) , ( ) ,T Tτ τ τ τ

⋅ ⋅∇ = ∇ ⋅∇ ∇ = ∇ ⋅∇TR v R R R v T⋅

= ∇ ⋅ ⋅∇F v F+F v ,

= ⋅ + ⋅W

F F D D F , 1 1 1(2 ) 2 2T T Tτ τ τ τ τ τ

− − −∇ ⋅ ⋅∇ = ∇ ⋅ ⋅∇ ⋅ + ⋅ ∇ ⋅ ⋅∇WR b R R b R D D R b R , 2 T⋅ τ τ

= ∇ ⋅ ⋅∇G R D R ,

( ) 2k s k s⋅⋅ ⋅ = ⋅ ⋅ ⋅ ⋅c G c C V D V C , получаем: 0 1dev = +

W

T Q Q ( dev T – девиатор тензора T ), 1 2 2

0 3 1 2 3 1 1 1 0 2dev( 4 (( (2 ) ) ) ))L b b b I c c−= −∇⋅ + ⋅ + ⋅ + + + ⋅⋅ + ⋅⋅ + ⋅⋅ − ϕ ϕ ⋅ ⋅Q vT T D D T F D F D F F DF D+ F D F , 1

1 3 1 1 1 4 1 2 8 2 2 10 3 3

12 1 3 16 2 3 1 1 2 2 2 5 1 2

8 1 1 9 3 3 13 1 3 17 2 3 2 2

dev( ((2

) (2

)

Q V C V D V C C V D V C C V D V C C V D V C

C V D V C C V D V C C C C V D V C C V D V C

C V D V C C V D V C C V D V C C V D V C C C

−= ⋅ δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ +

δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ +

δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅

L

3 3 3 6 1 2 9 2 2 10 1 1 14 1 3

31 1

18 2 3 3 3 3 7 1 2 19 1 31

1 120 2 3 1 2 2 1 11

(2

) (2 2

2 )( ) (2

C V D V C C V D V C C V D V C C V D V C C V D V C

C V D V C C C C V D V C C V D V C C V D V C

C V D V C C C C C C V D V

− −+

=

− −+

+

δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ +

δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ +

δ ⋅ ⋅ ⋅ ⋅ + + δ ⋅ ⋅ ⋅ ⋅

∑ i i ii

i i

3

11 1 31

31 1 1

19 1 2 21 2 3 1 3 3 1 151

1 115 2 3 21 1 3 20 1 2 2 3 3 2

2 2 )( ) (2

2 2 ) ( )) ).

C C V D V C

C V D V C C V D V C C C C C C V D V C

C V D V C C V D V C C V D V C C C C C V

=

− − −+

=

− −

+ δ ⋅ ⋅ ⋅ ⋅ +

δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + + δ ⋅ ⋅ ⋅ ⋅ +

δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ ⋅ + ⋅

∑

∑

ii

i i ii

Несложно проверяются следующие соотношения: 0

∂ϕ=

∂Q

D, 1

∂χ=

∂Q

Dпри 0∇⋅ =v , где

1 1 1 2 1 1 2 23 0 2 12 ( ) 4 ( 2 ( ) 2 2 ( ) ),L d c− − − − −ϕ = ⋅ + ⋅ ⋅ ⋅ + −ϕ ⋅ ⋅ + ϕ ⋅ ⋅ ⋅ ⋅ + ⋅ ⋅ + ⋅ ⋅ ⋅ ⋅T D D T D E D F D F D F D F DF D

31 2

3 3 1 2 11 1 31

2 2 215 2 3 7 1 2 11 1 3 15 2 3

8 1 1 2 2 9 2 2 3

1 1 1

( ( ( ) (

)) 2 ( ) 2 ( ) 2 ( )

C V D V C C V D V C C V D V C C V D V C


C V D V C C V D V C C V D V C C V D

−+ +

=

+− − −

χ = δ ⋅ ⋅ ⋅ ⋅ + ⋅ ⋅ ⋅ ⋅ δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ +

δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ +

δ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅

∑ i i i i i i ii

i

L

3

110 1 1 3 3 19 1 2 1 3

1 120 1 2 2 3 21 1 3 2 3

2

2 2 )

V C



−

− −

⋅ ⋅ +

δ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ +

δ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ + δ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅

0 1( , ,δϕ = ⋅ ⋅δ δχ = ⋅ ⋅δ δQ D Q D – символ вариации по тензору D [3]). Следовательно, доказана

Л е м м а 1. При условии несжимаемости 0∇⋅ =v выполняется ( )

dev∂ ϕ + χ

=∂

W

TD

.



Беларуси

56

Объективная О-производная⋅

= − ⋅ ⋅Ω

T T Ω T+T Ω тензора T связана с его производной Яуман-

на соотношением ( ) ( )= + − ⋅ − ⋅ −Ω W

T T W Ω T T W Ω . Используя (3), преобразуем девиатор:

11 2 3

1 1 1 11 3

( ( ( ) (

( )) , ( ) ( ) = ,2 3

L L L

L L

−

− − − −

− ⋅ − ⋅ − − ⋅ ⋅ ⋅ + ⋅ ⋅ ⋅ − ⋅ ⋅ ⋅ − ⋅ ⋅ ⋅ +

⋅ ⋅ + ⋅ ⋅ − ⋅ ⋅ − ⋅ ⋅ − ⋅ − ⋅ −

W Ω) T T W Ω)= F D V T T V D F T F D V V D F T

D V T T V D T D V V D T W Ω T T W Ω Q +Q (4)

1 1 1 12 1 2 3= ( ) ( 2 ( ) 2 ( ) 2 ( )L L L − − − −− ⋅ ⋅ ⋅ + ⋅ + ⋅ + ⋅ ⋅ ⋅ − ⋅ + ⋅ ⋅ ⋅ −Q F D V T T V T V V T D F T F F T D V

1 1 1 1 1 1 1 11 32 ( ) ( 2 ( ) 2 ( )L L− − − − − − − −⋅ ⋅ ⋅ + ⋅ + ⋅ ⋅ + ⋅ + ⋅ + ⋅ ⋅ − ⋅ ⋅ −V D F T T F D V T T V T V V T D T D V 1 )) ,− ⋅ ⋅V D T

1 1 1 13 1 2 3

1 1 1 1 1 1 11 3

= ( ) ( 2 ( ) 2 ( ) 2 ( )

2 ( ) ( 2 ( ) 2 ( ) )).

L L L

L L

− − − −

− − − − − − −

− ⋅ ⋅ ⋅ − ⋅ + ⋅ − ⋅ ⋅ ⋅ − ⋅ − ⋅ ⋅ ⋅ −

⋅ ⋅ ⋅ − ⋅ + ⋅ ⋅ − ⋅ + ⋅ − ⋅ ⋅

Q F D V T T V T V V T D F T F F T D V

V D F T T F D V T T V T V V T D

Отметим, что 3 0,=Q если тензорыT и V соосны. Обозначим

1 1 1 11 2 3

1 1 1

1 1 1 1 1 1 1 1 1 11 3

( ) (2 ( 2 ( ) 2 ( ) )

2 (2 ( ) 2 ( ))

(2 ( 2 ( ) 2 ( ) ) 2 ( ) )).

L L L

L L

− − − −

− − −

− − − − − − − − − −

ψ = − ⋅ ⋅ ⋅ + ⋅ + ⋅ + ⋅ ⋅ ⋅ ⋅⋅ −

⋅ + ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ + ⋅ ⋅⋅ +

⋅ ⋅ + ⋅ + ⋅ + ⋅ ⋅ ⋅⋅ − ⋅ ⋅ + ⋅ ⋅ ⋅⋅

F D V T T V T V V T D F D

T F F T D V+V D F T T F D

D V T T V T V V T D D T D V V D T D

Тогда справедлива

Л е м м а 2. Имеет место 2

∂ψ=

∂Q

D.

4. Представление упругого спина в пластичности. Для определения спина Ω в активном процессе естественно воспользоваться его выражением в пассивном процессе, поэтому обратим-ся к уравнению (4). Используем леммы 1, 2 и принятое условие потенциальности в скоростях напряжений в активном процессе нагружения. Если 3 0,=Q то полагаем, что справедливо соот-ношение (3). Пусть дальше 3 0≠Q .

Введем компонентные представления тензоров в базисе 1 2 3, ,e e e :

1 1 1 2 2 2 1 2 3 3dev = +( ) ,t t t t+ − −T e e e e e e

1 1 2 2 1 2 1 3 3 1 3 2 3 3 2 1 1 2 2 1 2 1 3 3 1 3 2 3 3 2= ( )+ ( ) + ( ), = ( ) + ( ) + ( ),w w w− − − ω − ω − ω −W e e e e e e e e e e e e Ω e e e e e e e e e e e e

2 1 1 1 2 2 2 1 2 3 3 2= +( )q q q q ′+ − − +Q e e e e e e Q , 2 4 1 2 2 1 5 1 3 3 1 6 2 3 3 2( + ) + ( + ) + ( + )q q q′ =Q e e e e e e e e e e e e ,

1 1 1 2 2 2 1 2 3 3 4 1 2 2 1 5 1 3 3 1 6 2 3 3 2= +( ) ( ) + ( ) + ( )d d d d d d d+ − − + + + +D e e e e e e e e e e e e e e e e e e .

Вычисляем

1 1 2 1 2 2 1 2 1 2 1 3 3 1 3 1 2 2 3 3 2( ) ( ) = ( )( ) (2 )( ) ( 2 )( )s t t s t t s t t− ⋅ − ⋅ − − − + − + + − + +W Ω T T W Ω e e e e e e e e e e e e , (5)

где ,i i is w= −ω ( ) ( ) =0− ⋅ − ⋅ −W Ω E E W Ω . Прежде всего, поскольку выражение 3 ⋅⋅δQ D чисто не по-тенциально, 3Q удаляем из (4). Дальше, чтобы равенство (5) выполнялось, необходимо заменить

девиатор 2Q на девиатор 2′Q . Теперь теряется потенциальность выражения 2

′ ⋅⋅δQ D, новой правой

части в (4), так как компоненты тензора 2′Q имеют вид 4 1 1 2 2 4 1 2 4 5 5 6 6( ) ,q A d A d A t t d A d A d= + + − + +

5 1 1 2 2 4 4 5 1 2 5 6 6(2 ) ,q B d B d B d B t t d B d= + + + + + 6 1 1 2 2 4 4 5 5 6 1 2 6( 2 ) .q C d C d C d C d C t t d= + + + + + Для ее восстановления необходимо удалить из 4q член 1 1 2 2A d A d+ , из 5q – член

1 1 2 2B d B d+ , из 6q – член 1 1 2 2C d C d+ . Сохраняя старые обозначения для iq , получаем 4 4 1 2 4 5 5 6 6( ) ,q A t t d A d A d= − + + 5 4 4 5 5 6 1 2 6(2 ) ,q B d B d B t t d= + + + 6 4 4 5 5 6 1 2 6( 2 )q C d C d C t t d= + + + .



Беларуси

57

Возможно обеспечение потенциальности выражения 2′ ⋅ ⋅δQ D при изменении коэффициен-

тов 5 4,A B на 15 42 ( )A B− + , 6 4,A C – на 1

6 42 ( )A C− + , 6 5, B C – на 16 52 ( )B C− + соответственно. Однако

в этом случае может возникнуть особенность при задании спина. Следовательно, используя

средства символьных вычислений системы MathСad, в компонентном представлении 2′Q остав-

ляем члены 4 4 1 2 4( ) ,q A t t d= − 5 5 1 2 5(2 ) ,q B t t d= + 6 6 1 2 6( 2 ) ,q C t t d= + где коэффициенты 4 5 6, ,A B C имеют вид 1 1 1

4 1 2 3 5 1 2 3 6 1 2 3( ) , ( ) , ( ) ,A L L L a B L L L b C L L L c− − −= − = − = −

2 2 24 1 2 5 1 3 6 2 3 1 2 1 3 2 32 2 2

4 1 2 5 1 3 6 2 3 1 2 1 3 2 32 2 2

4 1 2 5 1 3 6 3 2 1 2 1 3 3 2

( ) ( ) ( ) ( )( )( ),

( ) ( ) ( ) ( )( )( ),

( ) ( ) ( ) ( )( )( ).

a V V V V V V V V V V V V V V V

b V V V V V V V V V V V V V V V

c V V V V V V V V V V V V V V V

= − + + − + − − + +

= + + − − + − + − +

= − + + + + − − + + −

(6)

Компоненты тензоров D и V в базисе 1 2 3, ,e e e можно записать в инвариантном виде

4 1 2 5 1 3 6 2 3 4 1 2 5 1 3 6 2 3, , , , , , .i i id d d V V V V= ⋅ ⋅ = ⋅ ⋅ = ⋅ ⋅ = ⋅ ⋅ = ⋅ ⋅ = ⋅ ⋅ ⋅ ⋅ =e D e e D e e D e e V e e V e e V e e V e (7)

Из (4) – (5) получаем следующую теорему.

Т е о р е м а 2. Спин в активном процессе задается соотношением

11 2 3 4 1 2 2 1 5 1 3 3 1 6 2 3 3 2= ( ) ( ( ) + ( ) + ( ))L L L ad bd cd−+ − − − −Ω W e e e e e e e e e e e e (8)

с учетом (6) – (7) [11].

З а м е ч а н и е 1. В случае совпадения двух собственных значений тензора T соответ-ствующие собственные векторы определяются предельным переходом [5]. Имеет место

( )0 1 2

∂ χ+ϕ+θ ′= + + =∂

Q Q Q QD

, где 1 2 2 21 2 3 1 2 4 1 2 5 1 2 6θ ( ) ( ( ) (2 ) ( 2 ) )−= − − + + + +L L L a t t d b t t d c t t d ,

dev ( 1,2)e T e= ⋅ ⋅ =i i it i . З а м е ч а н и е 2. При наложении жестких движений на конфигурации имеем:

( )tt t t= ⋅ ⋅ +TW O W O Ω ( t t t t t

⋅ ⋅= ⋅ = − ⋅T TO O O OΩ ), ( )t

t t= ⋅ ⋅TD O D O , ( )tt t= ⋅ ⋅TV O V O ,

( )tt t t= ⋅ ⋅ +TΩ O Ω O Ω . Следовательно, Ω и W меняются по одному закону и уравнение (8) яв-

ляется объективным. С л е д с т в и е. Если положить 4 5 6 0V V V= = = (тензоры T и V соосны), то выполняется

03 =Q в (4) и, следовательно, в начальный момент активного процесса для изотропного мате-риала упругий спин и тензор угловой скорости собственно ортогонального тензора, сопровож-дающего общую деформацию (общий спин), совпадают. Соотношения (3) и (8) совпадают при соосности тензоров T и V , тогда 2 2 ,′ = θ = ψQ Q . Для двумерного НДС равенство (8) перехо-дит в равенство 1 2 2 1= ( ),+ω −Ω W e e e e 1 1

1 2 2 2 1 1 1 2 3 3 3 3 1 3 3= ( V V )( ) ( ( V ) V )LL L L L− −ω ⋅ ⋅ ⋅ ⋅ − ⋅ ⋅ − ⋅ ⋅ + ⋅ ⋅e D e e e e e e e e e в соответствии с работой [10].

Заключение. Доказаны соотношения (3) и (6) – (8) (теоремы 1, 2), однозначно определяю-щие кососимметричный тензор угловой скорости Ω тензора упругого поворота O в геометри-чески нелинейной модели упругопластической среды [10, 11], которая является обобщением мо-дели из [3]. Знание упругого спина позволяет всегда вычислить имеющий часто существенное значение упругий поворот, которым обычно пренебрегают в нелинейной теории пластичности. Равенства (6) – (8) следует использовать в активном процессе при течении, если 3 0≠Q , а в ос-тальных случаях нужно применять равенство (3) [12]. В явном виде получены, как промежуточ-ные, соотношения для потенциала скорости изменения тензора напряжений Коши χ + ϕ + θ ,



Беларуси

58

а также для критериального девиатора 0 1 2′= + +Q Q Q Q . Все указанные формулы будут необхо-димы при разработке алгоритмов и комплекса программ численного моделирования.

Особенностью создаваемой нелинейной модели среды [10–12] является использование толь-ко обоснованных предположений (принцип Клюшникова, см. также [7]), и строгий учет нели-нейности изменения геометрии тела, который приводит, к сожалению, к неизбежной громоздко-сти соотношений. Существующие модели материалов не позволяют правильно описывать мно-гие важные экспериментально установленные факты: явление предельного наклепа [6], отсутствие зоны застоя материала в процессе выдавливания [14] и т. д., поэтому настоящая рабо-та имеет четкую практическую направленность.


1. К л ю ш н и к о в В. Д. Физико-математические основы прочности и пластичности. М., 1994. 2. В а с и н Р. А. // Итоги науки и техники. Сер. механики деформируемого твердого тела. М., 1990. С. 3–75. 3. Л у р ь е А. И. Нелинейная теория упругости. М., 1980. 4. M u r n a g a n F. D. Finite deformation of an elastic solid. N. Y.: Dover, 1967. 5. П о з д е е в А. А., Т р у с о в П. В., Н я ш и н Ю. И. Большие упругопластические деформации: теория, алго-

ритмы, приложения. М., 1986. 6. Л е в и т а с В. И. Большие упругопластические деформации материалов при высоком давлении. Киев, 1987. 7. N a g h d i P. M. // ZAMP. 1990. Vol. 41, N 3. P. 315–394. 8. C a s e y J., N a g h d i P. M. // J. of Appl. Mech. 1980. Vol. 47. Р. 672–675. 9. Л у р ь е А. И. // Вопросы математической физики. Л., 1976. С. 48–57. 10. Ш в е д О. Л. // Докл. НАН Беларуси. 2005. Т. 49, 3. С. 45–48. 11. Ш в е д О. Л. // Вестник БГУ. Сер. 1. 2007. 2. С. 88–93. 12. Ш в е д О. Л. // Докл. НАН Беларуси. 2007. Т. 51, 6. С. 35–39. 13. Ш в е д О. Л. // Вестник БНТУ. 2008. 1. С. 57–60. 14. Ш в е д О. Л., А б р а м о в А. А. // Информатика. 2007. 4 (16). С. 133–136.

O. L. SHWED

DETERMINATION OF THE ELASTIC SPIN TENSOR IN THE NON-LINEAR THEORY OF PLASTICITY

Summary With the demands of the potentiality of the governing equations the spin of a proper orthogonal tensor following the

elastic deformation in the active process is generated in strain speeds. The introduced relations can be used for developing computer systems of numerical modeling of deformable metal bodies.



Беларуси

59


ФІЗІКА

УДК 539.172 Н. В. МАКСИМЕНКО, Е. С. ТИМОШИН

СПИНОВАЯ СТРУКТУРА НУКЛОНА В ТЕОРИИ ЭЛЕКТРОСЛАБОГО ВЗАИМОДЕЙСТВИЯ

Гомельский государственный университет им. Ф. Скорины


Введение. Спин нуклона можно представить через вклады его конституэнтов следующим образом:

1 1 ,2 2= Δ∑+Δ + +q gG L L

где Δ∑ и GΔ – вклады поляризаций кварков и глюонов соответственно, qL и gL – орбиталь-ные угловые моменты кварков и глюонов (см. обзоры [1, 2]).

Последние данные COMPASS [1] и HERMES [3] дают для Δ∑ значения, равные 0,35 и 0,33, т. е. подтверждается вывод всех предыдущих экспериментов о малом вкладе кварков в спин ну-клона. Поляризации валентных кварков ( )V Vu dΔ + Δ и странных кварков ( sΔ ) имеют величины 0,40 [4] и – 0,08 [3, 5] соответственно.Однако измерения sΔ в эксперименте HERMES указыва-ют, что эта величина совместима с нулем [6].

Измерения глюонной поляризации GΔ выполняется в экспериментах COMPASS, HERMES, PHENIX и STAR. Их результаты имеют неоднозначный характер. В то же время данные этих экспериментов исключают большую положительную поляризацию глюонов [7–9]. Измерения орбитальных угловых моментов qL и gL возможно в эксклюзивных процессах глубоко вирту-ального комптоновского рассеяния и электророждения векторных мезонов [10–14]. Очевидно, что для решения проблемы спина нуклона требуются дальнейшие прецизионные измерения вкладов всех его составляющих.

В настоящей работе определены вклады кварков в спин нуклона в глубоконеупругом рассея-нии (ГНР) поляризованных лептонов на поляризованных нуклонах l N l X+ → + (1) с учетом слабого взаимодействия. Это обусловлено тем, что при больших значениях квадрата переданного импульса 2( )Q вклад Z-бозона в измеряемые величины процессов (1) становится существенным и должен приниматься во внимание в анализе спиновой структуры нуклона.

Поляризационное lN – ГНР в теории электрослабого взаимодействия. Сечения процессов (1) (см., например, [15]) запишем в виде

2

1 3 5 144 1 ( )

2+ − + −πα

σ ⎡ ⎤= − + −⎢ ⎥⎣ ⎦e N e

xS y F P y F P y g P y gQ

. (2)

Здесь 2d

dxdyσ

σ = , 2 2 21( )= − = − −Q q k k ,

2

2Qxp q

=⋅

, p qyp k⋅=⋅

, 2S p k= ⋅ , 21 (1 )± = ± −y y ,

k ( 1k ) и p – 4-импульсы начального (конечного) лептона и нуклона соответственно,



Беларуси

60

1( 1)= − +eP для лептона (антилептона), NP – степень продольной поляризации нуклона; 1F , 3F и 1g , 5g – усредненные по спину и поляризационные структурные функции (СФ) нуклона:

γ γ1 γ 11 1η η= + +Z Z

Z ZF F F F , γ3 33η γ= + ηZ Z

Z ZF F F ,

1 11 1γ γ

γ= + η + ηZ ZZ Zg g g g , γ

5 γ 55 η= η +Z ZZ Zg g g , (3)

2 2

γ 2 2( )η

2 2πα+=

+Z V A

ZZ

Gm g g QQ m

, 2γηη =Z Z , G – константа Ферми,

Zm – масса Z -бозона, 2 23 2 sin θ= −V q q wg I e и 3=A qg I – векторная и аксиально-векторная

константы связи, 3 =qI

1 для , , ,2

1 для , , ,2

q u c t

q d s b

⎧ =⎪⎪⎨⎪− =⎪⎩

qe – заряд кварка в единицах заряда протона, θw – угол Вайнберга. Для СФ получены следующие выражения в кварк-партонной модели (КПМ) (см. [15]):

2 21

1( ) ( ) [ ( ) ( )]2

ZV A q

qF x g g q x q x= + +∑ , 2 2

3 ( ) 2 ( ) [ ( ) ( )]ZV A q

qF x g g q x q x= −∑ ,

1 ( )Zg x = 2 21 ( ) [ ( ) ( )]2 V A q

qg g q x q x+ Δ + Δ∑ , 5 ( )Zg x = ( ) [ ( ) ( )]V A q

qg g q x q xΔ − Δ∑ , (4)

γ1 ( ) ( ) [ ( ) ( )]Z

q V qq

F x e g q x q x= +∑ , γ3 ( ) 2 ( ) [ ( ) ( )]Z

q A qq

F x e g q x q x= −∑ ,

γ1 ( ) ( ) [ ( ) ( )]Z

q V qq

g x e g q x q x= +∑ , γ5 ( ) ( ) [ ( ) ( )]Z

q A qq

g x e g q x q x= Δ − Δ∑ ,

γ 21

1( ) [ ( ) ( )]2 q

qF x e q x q x= +∑ , γ 2

11( ) [ ( ) ( )]2 q

qg x e q x q x= Δ + Δ∑ .

Измеряемыми величинами являются поляризационные асимметрии, которые определим как следующие комбинации сечений (2):

( ) ( )

( ) ( )A

↓↑ ↑↑ ↓↓ ↑↓

± ↓↑ ↑↑ ↓↓ ↑↓

σ σ σ σ

σ σ σ σ

± − ±=

± + ±,

,

, ,

, ,− +

↓↑ ↑↑ ↓↓ ↑↓

↓↑ ↑↑ ↓↓ ↑↓σ σ

σ σ

−=+l l

A . (5)

Первая стрелка обозначает направление спина лептона ( ↓ ) или антилептона ( ↑ ), а вторая – спина нуклона: ( 1), ( 1)↑ ↓= + = −N NP P .

Подставляя (2) в (5), получаем асимметрии через СФ:

,

5 1

1 32

− +

+ −

−+

±=±

l l

y g y gAyy F F

, 5

1+ =

gAF

, 1

3

2− =

gAF

. (6)

Из (6) видно, что с помощью асимметрий можно определить из экспериментальных данных поляризационные СФ 1g и 5g , поскольку данные для СФ 1F , 3F известны.

Спиновая структура нуклона. Анализ спиновой структуры нуклона проводится здесь на основе первых моментов поляризационных СФ 1g и 5g :

1

1,5 1,50

( )Γ = ∫ g x dx .

Ограничиваясь ароматами (u, d, s), из (3), (4) в случае рассеяния на протонах для этих момен-тов получаем



Беларуси

61

1Г ( ) [( ) ( )]= Δ + Δ + Δ + Δ + Δ + Δu da u u a d d s s , (7)

5Г = Δ + Δu V d Vb u b d . (8) Здесь

2 2γ ,

2 2 1η η ( )9 3 2

= + + + uZ V u Z V Aua g g g , 2 2γ ( , ) ,

1 1 1η η ( )18 3 2

= − + +d Z V d s Z V A d sa g g g ,

γ ,2 η η ( )3

= +Z A u Z V A uub g g g , γ ,1 η η ( )3

= − +Z A d Z V A ddb g g g ,

2,

1 4 sin θ2 3

= − wV ug , ,12

=A ug , 2( , )

1 2 sin θ2 3

= − + wV d sg , ( , )12

= −A d sg ,

1

0( ) ( )( ( ))q q q x q x dxΔ Δ = Δ Δ∫ , , , ,q u d s= Vu u uΔ = Δ − Δ , Vd d dΔ = Δ − Δ .

Для определения из (7) вкладов каждого аромата можно дополнительно использовать изо-векторный аксиальный заряд 3 1,2695 0,0029a = ± и октетный аксиальный заряд 8 0,585 0,025a = ± , которые измеряются в нейтронном и гиперонном бета-распадах соответственно.

Эти измеряемые величины в КПМ равны

3 ( ) ( )a u u d d= Δ + Δ − Δ + Δ , (9) 8 ( ) ( ) 2( )a u u d d s s= Δ + Δ + Δ + Δ − Δ + Δ . (10)

Тогда из этих выражений и (7) получаем вклады кварковых ароматов , ,u d s в спин нуклона

18 3

2Г 3

2( 2 )

+ +Δ + Δ =

+u

d

d

a aau u

a a, 1 8 32Г 2 ( )

2( 2 )− + −Δ + Δ =

+u d

u d

a a a ad da a

,

(11)

8 1

3 3

2Г1 2

2( 2 )

⎛ ⎞− + − +⎜ ⎟⎝ ⎠Δ + Δ =

+

u d u

u d

a a a aa as s

a a.

Рассмотрим вопрос о поляризации валентных кварков, что связано с моментом 5Γ (см. фор-мулу (8)). Данные HERMES [6] свидетельствуют в пользу ароматовой симметрии поляризован-ных легких кварков моря u dΔ = Δ . В этом случае

3 V Va u d= Δ − Δ . (12)

Поэтому с помощью (8) и (12) можно разрешить вклады валентных u- и d-кварков:

5 3+Δ =+

uV

u d

Г a bub b

,

5 3−Δ =+

uV

u d

Г a bdb b

. (13)

Численные расчеты СФ и асимметрий. Для оценки величины и поведения поляри-зационных СФ и асимметрий выполнены их численные рас-четы. Для этого использова-лись партонные распределения [16].

Рис. 1. Структурная функция 5g в зависимости от x при 2 210Q = Q 2ГэВ

(сплошная линия), 2 310Q = 2ГэВ (штриховая линия), 2 410Q = 2ГэВ (штрих-пунктирная линия)



Беларуси

62

Как видно из рис. 1, СФ 5g имеет существенную зависимость от 2Q . Это является следствием того, что СФ 5g целиком обязана своим происхождени-ем слабому взаимодействию, т. е. вкла-дам Z-обмена и γZ -интерференции. В то же время СФ 1g показывает доста-точно слабую зависимость от этой пе-ременной из-за доминирующего элек-тромагнитного вклада.

При значениях Q2≤ 100 ГэВ2 асим-метрия A+ (рис. 2) согласуется с нулем и возрастает по абсолютной величине с увеличением 2Q . Асимметрия A− име-ет противоположный характер поведе-ния и при 2 410Q = ГэВ2 становится близкой к нулю.

Асимметрия lA − (рис. 3) возрас-тает с увеличением x и может дости-гать 40% при больших x и 2Q . Асим-метрия +lA имеет аналогичный харак-тер поведения и порядок величины.

Получены оценки электрослабых эф-фектов ( γZ -интерференции и Z-обмена) в СФ и асимметриях. Так, для СФ 1g эти эффекты становятся заметными при больших 2Q и могут достигать 5% при

малых x и 2 410Q = 2ГэВ . Для асимметрии lA − электрослабые эффекты составляют порядка

30% в области 0,1 0,6y≤ ≤ , т. е. в измеряемой области переменной y . Заключение. Сформулируем основные результаты и выводы, полученные в данной работе. 1. Вклады кварковых ароматов ( , ,u d s ) и валентных кварков ( VuΔ , VdΔ ) в спин нуклона

определены на основе первых моментов СФ 1g , 5g процессов (1) с учетом слабого взаимодей-ствия в КПМ.

2. Структурные функции 1g , 5g могут быть получены из измеряемых асимметрий lA − ,

+lA , A ± . 3. Анализ результатов численных расчетов СФ и асимметрий показывает, что асимметрии

могут достигать в измеряемой кинематической области 30÷40%.

Литература 1. F o r t e S., G o t o Y. Spin physics. 2006. 15p. (ArXiv: hep – ph / 0609127). 2. B o e r D. et al. Spin physics: session summary. 2007. 17 p. (ArXiv:0707.1259[hep-ph]). 3. Precise determination of the spin structure function 1g of the proton, deuteron and neutron / The HERMES Collabora-

tion. 2006. 46p. (ArXiv: hep – ex / 0609039). 4. The polarized valence quark distribution from semi- inclusive DIS / The COMPASS Collaboration. 2007. 10p.

(ArXiv:0707.4077[hep -ex]).

5. The deuteron spin-dependent structure function 1dg and its first moment / The COMPASS Collaboration. 2006. 16p.

(ArXiv: hep –ex / 0609038).

Рис. 2. Асимметрия A+ в зависимости от x

при 2 210Q = 2ГэВ (сплошная линия), 2 310Q = 2ГэВ (пунк-

тирная линия), 2 410Q = 2ГэВ (штрих-пунктирная линия).

Рис. 3. Асимметрия lA − в зависимости от x .

Остальные обозначения те же, что и на рис. 2.



Беларуси

63

6. J a c k s o n H. E. Measurement of sΔ in the nucleon at HERMES from semi – inclusive DIS. HERMES Collabora-tion. 2006. 4 p. (hep – ex /0601006).

7. E l l i s J. Polarization puts a new spin on physics. 2007. 14 p. (ArXiv: hep – ph /0701049). 8. S u r r o w B. Recent results of the STAR high – energy polarized proton – proton program at RHIC at BNL. 2007.

8 p. (ArXiv: 0705.3483[hep -ex]). 9. Inclusive cross section and double helicity asymmetry for π0 production p p+ collisions at 200=s Gev: implica-

tions for the polarized gluon distribution in the proton / The PHENIX Collaboration. 2007. 7p. (ArXiv: 0704.3599[hep -ex]). 10. G o c k e l e r M. et al. Structure of the nucleon. 2003. 8p.(ArXiv: hep-ph /0312104). 11. Measurement of deeply virtual Compton scattering with a polarized proton target / The CLAS Collaboration. 2006.

6 p. (ArXiv: hep-ex /0605012).. 2007. 4 p. (ArXiv: 0705.2925 [hep -ph]). 13. Cross sections for hard exclusive electroproduction of π+ mesons on a hydrogen target / The HERMES Collaboration.

2007. 7 p. (ArXiv:0707.0222[hep -ex]). 14. R o s t o m y a n A., D r e s c h l e r Y. Transverse target-spin asymmetry of exclusive ρ0 meson production on pro-

ton at HERMES. 2007. 4 p. (ArXiv:0707.2486[hep -ex]). 15. A n s e l m i n o M. et al. // Physics Reports. 1995. Vol. 261, N 1. Р. 1–24. 16. B a r t e l s k i J., T a t u r S. // Acta physica polonica. 1996. Vol. B27, N 4. Р. 911–920.

N. V. MAKSIMENKO, E. S. TIMOSHIN

SPIN STRUCTURE OF THE NUCLEON IN THE THEORY OF ELECTRIC WEAK INTERACTION

Summary The contributions of the quark flavours (u, d, s) and the valence quarks in the nucleon spin have been expressed through

the first moments of the polarized structure functions of deep inelastic lepton-nucleon scattering with neutral current taking into account weak interaction.



Беларуси

64


УДК 539.128.218.516.25 В. Г. БАРЫШЕВСКИЙ, А. А. РОВБА

О ВЛИЯНИИ КУЛОНОВСКОГО ВЗАИМОДЕЙСТВИЯ НА ЭФФЕКТ СПИНОВОГО ДИХРОИЗМА ДЕЙТРОНОВ В ОБЛАСТИ ЭНЕРГИЙ 5–20 МэВ

НИУ Институт ядерных проблем БГУ


Введение. В работах [1, 2] было показано, что при прохождении дейтронов высокой энергии через вещество возникает квазиоптический эффект поворота плоскости поляризации дейтронов и спиновый дихроизм (явление двулучепреломления). Указанное явление аналогично известно-му в оптике эффекту двулучепреломления света в оптически анизотропной среде. Первые экспе-риментальные работы подтвердили существование спинового дихроизма дейтронов вначале для энергии 5–20 МэВ [3–5], а затем для дейтронов с энергией 3,9 ГэВ (импульсом 5,5 ГэВ/с) [6]. В экспериментах [3–5] было обнаружено, что при изменении энергии дейтронов изменяет-ся не только величина спинового дихроизма, но и знак дихроизма. В настоящем сообщении по-казано, что обнаруженное на эксперименте [3–5] изменение знака спинового дихроизма обу-словлено интерференцией кулоновского и ядерного взаимодействия дейтрона с ядром.

1. Спиновый дихроизм и тензорная поляризация дейтронов. Эффект спинового дихроиз-ма состоит в том, что коэффициент поглощения дейтронов в спиновом состоянии, характери-зующимся магнитным квантовым числом m=±1 (ось квантования направлена вдоль импульса дейтрона) не равен коэффициенту поглощения в состоянии с m=0. Как следствие, при прохожде-нии через мишень пучка, состоящего, например, из дейтронов в состоянии m=±1, интенсивность пучка в мишени будет меняться следующим образом: 10

1 1( ) nzI z I e ±−σ± ±= , где 0

1I ± – интенсив-ность пучка до мишени, 1±σ – полное сечение рассеяния дейтронов в состоянии с m=±1, n – чис-ло рассеивателей в единице объема, z – пройденный в мишени путь. При прохождении через мишень пучка дейтронов в состоянии m = 0, интенсивность изменяется согласно соотношению

000 0( ) nzI z I e−σ= , где 0

0I – интенсивность пучка до мишени, 0σ – полное сечение рассеяния дей-тронов в состоянии с m = 0.

Рассмотрим прохождение неполяризованного дейтронного пучка через мишень. Неполяри-зованный пучок можно представить как сумму трех пучков с равными интенсивностями:

0 0 01 0 1I I I I− += + + , 0 0

1 0 / 3I I I± = = . С учетом того, что в реальном эксперименте величина 1,0 1σ nz± , изменение интенсивности каждого пучка в мишени представимо в виде:

1 1( ) (1 σ ) / 3I z I nz± ±= − и 0 0( ) (1 σ ) / 3I z I nz= − . Спиновый дихроизм можно охарактеризовать величиной:

( ) ( )1 0 1 0 0 1( ) ( ) ( ) ( ) (σ σ ) 2D I z I z I z I z nz± ± ±= − + ≈ − . (1)

Напомним, что амплитуда упругого когерентного рассеяния дейтрона на ядре на нулевой угол может быть записана в виде 2

0 1(0)f d d m= + , где 0d и 1d – независящая и зависящая от спина часть амплитуды соответственно. Из этого выражения для амплитуды в соответствии с оптической теоремой вытекает равенство 0 1 1σ σ 4π Im( ) /d k±− = − , где k – волновое число дей-трона. Как следствие, выражение (1) можно записать следующим образом:



Беларуси

65

0 1 1 1(σ σ ) 2 2π Im( ) 2π Im( )±≈ − = − = − a rD nz nz d k N L d kM , (2)

где Na – число Авогадро, L – толщина мишени в г/см2, Mr – молярная масса вещества мишени. Вследствие спинового дихроизма первоначально неполяризованный пучок дейтронов

приобретает тензорную поляризацию, определяемую согласно [7] выражением

( ) ( )1 1 0 1 1 02zzp I I I I I I− + − += + − + + . Отсюда имеем, что после прохождения в мишени пути z

первоначально неполяризованный пучок (pzz= 0, I±1 =I0) приобретает тензорную поляризацию: ( ) ( )1 1 0 1 0 1 0 1( ) ( ) ( ) 2 ( ) ( ) ( ) ( ) 2( ) 3σ σzzp z I z I z I z I z I z I z nz− + − + ±= + − + + ≈ − , (3) т. е. 1 18π Im( ) 3 8π Im( ) 3zz a rp nz d k N L d kM= − = − . (4)

Из выражений (1) – (4) вытекает связь между величиной спинового дихроизма дейтронов и величиной приобретенной тензорной поляризации: pzz≈ 4D/3.

Отметим, что согласно [1, 2], 1Re( )d определяет угол поворота плоскости поляризации дей-тронов: 12π Re( )a rN L d kMϑ = .

Следует обратить внимание на то, что при движении в мишени дейтрон теряет энергию вследствие ионизационных потерь. С учетом изменения энергии дейтронов E внутри мишени, выражения для pzz и ϑ можно записать в виде:

( ) ( )( ) ( )( )10 1

0 0

Im ( )2 8πσ ( ) σ ( )3 3

z La

zzr

d E LNp n E z E z dz dLM k±= − = −∫ ∫ , (5)

( )( )1

0

Re ( )2π La

r

d E LN dLM k

ϑ = ∫ . (6)

2. Амплитуда упругого когерентного рассеяния дейтрона на угол ноль на ядре. Для на-хождения амплитуды d1 необходимо определить амплитуды 1(0)mf =± и 0 (0)mf = . Так как в рас-сматриваемом случае средняя энергия дейтронов составляет 12,5 МэВ, а энергия связи дейтрона ε = 2,225 МэВ, то выполняется соотношение ε / 1E и, следовательно, мы можем применить импульсное приближение [8]. Как следствие, гамильтониан H имеет вид:

2 ( ) 2 ( 2) ( 2) ( )D p n CH R m V R r V R r V R= − Δ + + + − + , (7)

где Vp, Vn – потенциалы ядерного взаимодействий протона и нейтрона с ядром, VC – усредненный по основному состоянию дейтрона кулоновский потенциал взаимодействия дейтрона с ядром, R – координата центра массы дейтрона относительно ядра, p nr r r= − , ( )p nr r – координаты протона (нейтрона) в дейтроне. Выражения для амплитуды рассеяния, полученные с помощью гамильтониана (7) должны быть усреднены по координате r с помощью волновой функции ос-новного состояния дейтрона. Амплитуда упругого когерентного рассеяния на угол ноль предста-вима в виде [9]:

( ) ( ) 22 3(0) 12π

Di b rkf e d b r d ri

χ ,⎛ ⎞= − ϕ⎜ ⎟⎝ ⎠∫ , (8)

где фаза χ D имеет вид:

( ) ( ) ( )1 1 1χ χ χ χD p n C p n CV b z dz V b z dz V b z dzr rv v v+∞ +∞ +∞

⊥ ⊥−∞ −∞ −∞= + + = − , , − , , − ,′ ′ ′ ′ ′ ′∫ ∫ ∫ , (9)

где b – поперечная координата центра масс дейтрона, r ⊥ – перпендикулярная к импульсу дей-трона составляющая r , v – скорость дейтрона. Волновая функция основного состояния ( )rϕ различна для различных спиновых состояний дейтрона. Для состояния с m=±1, она имеет вид

1( )r±ϕ , а для m= 0 – 0 ( )rϕ . Строго говоря, фаза χ D , записанная в виде (9), соответствует случаю, когда энергии дейтро-

нов значительно выше потенциала взаимодействия с ядром. В рассматриваемом нами случае вы-ражение (9) для фазы справедливо во всем интервале r ⊥ за исключением центральной области



Беларуси

66

ядра. Однако, как показал соответствующий анализ, основной вклад в изучаемый эффект дает рассеяние от периферии ядра. Вклад же центральной части ядра в изучаемый эффект составляет около 20%. Поэтому в дальнейшем при рассмотрении спинового дихроизма будем использовать (9) для всей области ядра без дополнительных поправок.

Введем новые переменные ξ 2R r⊥ ⊥= + и 2R r⊥ ⊥η = − , где R⊥ – составляющая R , пер-пендикулярная к импульсу дейтрона. Тогда при подстановке (9) в (8) можно получить необхо-димые для описания эффекта двулучепреломления действительную и мнимую части амплитуды рассеяния на угол ноль в следующем виде:

( ) ( ) ( ) ( )

( ) ( ) ( ) ( )

( ) ( ) ( ) ( )

2 2 2 21 1 0

2 2 2 21 0

2 2 2 21 0

2 ξRe( ) Im ξ η ξ η ξ η ξ ηπ 2

2 Im ξ η ξ η ξ η ξ η

4 ξ ηRe ξ η ξ η ξ η ξ η2

С p n

p n

p n С

kd t t t z z d d dz

k t t z z d d dz

k t t t z z d d dz

±

±

±

⎛ ⎞+ η ⎡ ⎤= − + ϕ − , − ϕ − , −⎜ ⎟ ⎢ ⎥⎝ ⎠ ⎣ ⎦

⎡ ⎤ϕ − , − ϕ − , −⎢ ⎥π ⎣ ⎦⎛ ⎞+ ⎡ ⎤ϕ − , − ϕ − , ,⎜ ⎟ ⎢ ⎥π ⎝ ⎠ ⎣ ⎦

∫

∫

∫

( ) ( ) ( ) ( )

( ) ( ) ( ) ( )

( ) ( ) ( ) ( )

2 2 2 21 1 0

2 2 2 21 0

2 2 2 21 0

2 ξ ηIm( ) Re ξ η ξ η ξ η ξ ηπ 2

2 Re ξ η ξ η ξ η ξ η

4 ξ ηIm ξ η ξ η ξ η ξ η ,2

С p n

p n

p n С

kd t t t z z d d dz

k t t z z d d dz

k t t t z z d d dz

±

±

±

⎛ ⎞+ ⎡ ⎤= + ϕ − , − ϕ − , +⎜ ⎟ ⎢ ⎥⎝ ⎠ ⎣ ⎦

⎡ ⎤ϕ − , − ϕ − , −⎢ ⎥π ⎣ ⎦⎛ ⎞+ ⎡ ⎤ϕ − , − ϕ − ,⎜ ⎟ ⎢ ⎥π ⎝ ⎠ ⎣ ⎦

∫

∫

∫

(10)

где ( )( )( )χ( )( ) 1 2n p Ci

n p Ct e i= − . Согласно (10), величина эффекта двулучепреломления определя-

ется разницей ( ) ( )2 21 0ξ η ξ ηz z±ϕ ϕ− , − − , , т. е. разницей распределения плотности нуклонов

в дейтроне в различных спиновых состояниях. В рассматриваемом случае рассеяния дейтрона на легких ядрах характерный радиус дейтрона больше радиуса ядра мишени (радиус дейтрона rd, на котором волновая функция дейтрона изменяется в е раз, составляет примерно 3,3 фм, характер-ный радиус протона – порядка 1 фм, а радиусы ядер гелия, бериллия и углерода – примерно 2,5, 2,8 и 3 фм соответственно). Поэтому для оценки эффектов при интегрировании можно пренеб-речь изменением волновой функции дейтрона в пределах размера ядра и вынести ее из под знака интегрирования:

( ) ( )22 2

1 0 2 203 1 ( ) ( ) 1 ( ) 30 0π 4 π2

u r W r W rz z dz dr Gr r

∞±ϕ ϕ

⎧ ⎫⎪ ⎪⎡ ⎤, − , = − = ,⎨ ⎬⎢ ⎥⎣ ⎦ ⎪ ⎪⎩ ⎭∫ ∫ (11)

где 2 2 2ξr z= + , ( )u r – радиальная волновая функция S-состояния дейтрона; ( )W r – радиальная волновая функция D-состояния дейтрона. В результате получим:

( )

( ) ( )

2 2 22

1 2 2 2

2 22

3 ξ 1 ( ) ( ) 1 ( ) ξ 2Re( ) Im (0) (0) ξ2π 2 42

6 12 ξ ηIm (0) (0) Re ξ η ξ η2π

n p С

p n p n С

u r W r W r zd F F t d dzr r r

kF F G G t t t d d dzk

⎧ ⎫⎧ ⎫⎛ ⎞ −⎪ ⎪ ⎪ ⎪= + − −⎨ ⎨ ⎬ ⎬⎜ ⎟⎝ ⎠ ⎪ ⎪⎪ ⎪⎩ ⎭⎩ ⎭⎛ ⎞+− ,⎜ ⎟⎝ ⎠

∫

∫

( )

( ) ( )

2 2 22

1 2 2 2

2 22

3 ξ 1 ( ) ( ) 1 ( ) ξ 2Im( ) Re (0) (0) ξπ 2 42

6 12 ξ ηRe (0) (0) Im ξ η ξ η ,2π

n p С

p n p n С

u r W r W r zd F F t d dzr r r

kF F G G t t t d d dzk

⎧ ⎫⎧ ⎫⎛ ⎞ −⎪ ⎪ ⎪ ⎪= − + − +⎨ ⎨ ⎬ ⎬⎜ ⎟⎝ ⎠ ⎪ ⎪⎪ ⎪⎩ ⎭⎩ ⎭⎛ ⎞+− ⎜ ⎟⎝ ⎠

∫

∫

(12)



Беларуси

67

где 2( )( ) ( )( ) ( )( )

( )(0) (ξ) ξ (0)

πD

n p C n p C n p Cn p

k mF t d fm

= =∫ и ( )( ) (0)n p Cf – амплитуда рассеяния нейтрона

(протона) на ядре на нулевой угол, обусловленная ядерным (кулоновским) взаимодействием. В выражениях (12) первые слагаемые в 1Re( )d и 1Im( )d описывают вклад интерференции

сильного взаимодействия нейтрона и кулоновского взаимодействия протона с ядром углерода (обозначим их как NC), вторые слагаемые – сильного взаимодействия нейтрона и протона с ядром углерода (NN), третьи слагаемые – сильного взаимодействия нейтрона и протона, а также кулоновского взаимодействия протона с ядром углерода (NNC).

В качестве потенциала сильного нуклон-ядерного взаимодействия в (9) используем оптиче-ский потенциал Вудса–Саксона [10]. Для расчета параметра G используем радиальные волновые функции приведенные в [11]. Полученное значение G составляет примерно 0,05 фм-2.

Согласно (6), 1Re( )d определяет угол поворота плоскости поляризации дейтронов. Подстав-ляя 1Re( )d из (12) в (6) для углеродной мишени толщиной 150 мг/см2, можно получить угол по-ворота плоскости поляризации дейтронов ϑ ∼ −0,5°.

3. Спиновый дихроизм дейтронов с энергией 5–20 МэВ в углеродной мишени. Рассмот-рим подробнее мнимую часть d1, т. е. согласно оптической теореме – разницу полных сечений:

( )1 1 0Im( ) σ σ 4πd k ±= − . Результаты проделанного расчета для разницы сечений 1 0σ σ± − (а также, согласно (12), вклада каждого слагаемого в 1 0σ σ± − ) приведены на рис.1, а.

Как видим, кулоновское взаимодействие радикально изменяет зависимость от энергии ам-плитуды 1Im( )d . Так, если кулоновское взаимодействие не учитывать, то разность сечений

1 0σ σ± − (пунктирная кривая NN) имеет отрицательный знак ( 1 0σ σ± < ) и слабо зависит от энер-гии. Тот факт, что 1 0σ σ± < , качественно согласуется с распределением плотности нуклонов в дейтроне в состоянии с m=±1 и в состоянии с m=0 (рис.1, б). Включение в рассмотрение куло-новского взаимодействия приводит к изменению знака разности 1 0σ σ± − ( 1Im( )d ) при энергиях около 6,5 и 13,5 МэВ и к образованию максимума при энергии около 9 МэВ.

Полученные результаты позволяют объяснить экспериментальные данные [3–5] с дейтрона-ми, обладающими энергией до 20 МэВ. Напомним, что при прохождении через вещество, дей-трон теряет энергию вследствие ионизационных потерь. Это явление было использовано для то-го, чтобы при помощи изменения начальной энергии и толщины мишени подбирать энергию вылетевших из мишени дейтронов в интервале 6–7,5 МэВ, в котором использовавшийся 3He-поляриметр имеет большую анализирующая способность Azz [12]. Например, для мишени толщиной 37,0 мг/см2 начальная энергия моноэнергетического пучка E0 выбиралась в интервале 9,5–10,5 МэВ c шагом 0,1 МэВ, чему соответствовали значения энергии после мишени в интер-вале 6–7,4 МэВ. Аналогичным образом, для мишеней толщиной 131,8 мг/см2 E0 выбиралась

а б Рис. 1. Зависимость от энергии 1 0σ σ± − (сплошная линия) и вклада слагаемых NC, NN, NNC в 1 0σ σ± − (а); квадратмодуля волновой функции дейтрона при r = 1,8 фм с проекцией полного момента 1m = ± и 0m = (б)



Беларуси

68

в интервале 15,2–15,9 МэВ (после мишени энергия составляла 6–7,4 МэВ), а для мишеней тол-щиной 152,6 мг/см2 – 16,2–16,7 МэВ (после мишени – 6–7,4 МэВ).

Полученные на эксперименте [3–5] зависимости тензорной поляризации от энергии дейтрон-ного пучка после прохождения углеродных мишеней различной толщины L, равной 37,0, 131,8 и 152,6 мг/см2, нормированные на значение тензорной поляризации для этих мишеней, при энер-гии пучка после мишени 6 МэВ ( )( ) ( ) (6)n zz zzp E p E p= показаны на рис. 2. На этом же рисунке представлены результаты теоретического расчета на основе выражений (5) и (12). Как видно из рис. 2, построенная модель правильно описывает знак тензорной поляризации и по мере роста начальной энергии пучка E0 (увеличение толщины мишени L) все лучше описывает зависимость тензорной поляризации от энергии.

На рис. 3 показаны полученные на эксперименте [3–5] зависимости тензорной поляризации от энергии дейтронного пучка после прохождения мишеней толщиной 37,0, 131,8 и 152,6 мг/см2, нормированные на значение тензорной поляризации для мишени 131,8 мг/см2, при энергии пуч-ка после этой мишени 6 МэВ ( )131.8( ) ( ) (6)zz zzp E p E p= .

Обращает на себя внимание тот факт, что при данной конечной энергии дейтронов, с увели-чением толщины мишени, т. е. при возрастании начальной энергии E0, абсолютное значение тен-зорной поляризации сначала растет, а затем падает. Например, при конечной энергии 6,5 МэВ для углеродной мишени толщиной L=37,0 мг/см2 значение p(6,5)≈−0,02, для мишени толщиной L=131,8 мг/см2 p(6,5) резко растет по абсолютной величине и составляет ≈−0,8, а для мишени толщиной L=152,6 мг/см2 падает по абсолютной величине до значения p(6,5)≈−0.5. Данный факт на основании построенной модели можно объяснить следующим образом. Из рис. 1, а видно, что 1 0σ σ± − ( 1Im( )d ) меняет знак при энергиях порядка 6,5 и 13,5 МэВ. Предположим, что тен-зорная поляризация измеряется при энергии 6,5 МэВ. В силу ионизационных потерь для получе-ния дейтронного пучка, обладающего после мишени энергией 6,5 МэВ, необходимо перед ми-

шенью иметь моноэнергетический пучок дейтронов с большей энергией. По мере увеличения толщины мишени соответственно необходимо увеличивать и начальную энергию дейтронов перед мишенью. В интервале энергий 6,5–13,5 МэВ разность 1 0σ σ 0± − > , поэтому при увели-чении толщины мишени (а соответственно и начальной энергии до 13,5 МэВ) в силу (5), абсолютная величина отрицательной тензорной поляризации будет расти, дос-тигнув максимального значения для некоторой мишени толщиной L*, энергия пучка в которой меняется в интер-вале 13,5–6,5 МэВ. При дальнейшем увеличении толщи-ны мишени необходимая энергия дейтронного пучка пе-ред мишенью будет составлять более 13,5 МэВ. Но при энергиях более 13,5 МэВ 1 0σ σ 0± − < , поэтому в силу (5) при прохождении такого дейтронного пучка через ми-

Рис. 2. Тензорная поляризация дейтронного пучка, полученная на эксперименте (со статистическими отклонениями)

[5] и в результате моделирования (пунктирные кривые) для углеродных мишеней

Рис. 3 Нормированная тензорная поляриза-ция дейтронного пучка, полученная на экс-перименте (со статистическими отклонения-

ми) [5] для углеродных мишеней



Беларуси

69

шень, по мере падения энергии до 13,5 МэВ, будет накапливаться положительная тензорная по-ляризация. Оставшаяся часть мишени будет вести себя уже как описанная выше мишень толщи-ной L*, в которой накапливается только отрицательная тензорная поляризация. Таким образом, тензорная поляризация у пучка, прошедшего через всю мишень представляет собой сумму по-ложительной тензорной поляризации, возникшей в той части мишени, энергия пучка в которой была выше 13,5 МэВ и отрицательной поляризации, возникшей в оставшейся части мишени толщиной L*. Следовательно, результирующее абсолютное значение тензорной поляризация для такой мишени будет меньше, чем для мишени с толщиной L*. Таким образом, немонотонная за-висимость тензорной поляризации от толщины мишени объясняется изменением знака спиново-го дихроизма ( 1 0σ σ± − ) из-за влияния кулоновского взаимодействия.

В заключение отметим, что значение тензорной поляризации pzz для мишени толщиной L*≈100 мг/см2, рассчитанное с помощью (5) и (12) составляет около −0,01. Интерполяция экспе-риментальных данных для этой мишени дает среднее значение pzz около −0,1.

Количественное несогласие расчетов с результатами эксперимента [3–5] можно объяснить тем, что наблюдаемое на эксперименте взаимодействие нейтрона с углеродом имеет много резо-нансов в области энергий до 10 МэВ, при этом простейшие оптические потенциалы не описыва-ют эти резонансы [13]. Экспериментальные сечения для некоторых интервалов энергий в 2–2,5 раза больше, чем для смоделированного сечения, что может, согласно (12), привести к увеличе-нию эффекта в 4–6 раз в этих интервалах энергии.

Таким образом, в работе показано, что знак спинового дихроизма, немонотонная зависи-мость дихроизма от толщины мишени, полученные на эксперименте для дейтронов с энергией 5–20 МэВ, обусловлены интерференцией кулоновского и ядерного взаимодействий, приводящей к изменению знака дихроизма при изменении энергии дейтрона.

Работа выполнена при поддержке Белорусского республиканского фонда фундаментальных исследований (грант Ф08Д-004).


1. B a r y s h e v s k y V. G. // Phys. Lett. 1992. Vol. A171. P. 431. 2. B a r y s h e v s k y V. G. // J. Phys. 1993. Vol. G19. P. 273. 3. B a r y s h e v s k y V. G., D u w e k e C., E m m e r i c h R. et al. // LANL e-print arxive. hep-ex/0501045 4. B a r y s h e v s k y V. G., D u w e k e C., E m m e r i c h R. et al. // Proceedings of the 17th Int. spin phys. Symp.,

SPIN2006, Kyoto, Japan, 2–7 October 2006. New York; Melville, 2007. Vol. 915. P. 777. 5. B a r y s h e v s k y V. G., R o u b a A. A. // Proceedings of the 11th Int. Conf. on Meson-Nucleon Phys. and the

Structure of the Nucleon MENU 2007, Forschungzentrum Juelich, Germany, September 10–14, 2007. SLAC eConf C070910, 2008. P. 346.

6. A z h g i r e y L. S., G u r c h i n Yu. V., I s u p o v A. Yu. et al. // Proceedings of the XIIth Workshop on high en-ergy spin physics DSPIN-2007, Dubna, 3–7 September 2007. Dubna, JINR, 2008. P. 205.

7. O h l s e n G. G. // Rep. Prog. Phys. 1972. Vol. 35. P. 717. 8. Г о л ь д б е р г е р М., В а т с о н К. // Теория столкновений. М., 1967. C. 612 – 633. 9. Л а н д а у Л., Л и ф ш и ц В. // Квантовая механика: нерелятивистская теория. М., 1989. С. 623 – 627. 10. M e l k a n o f f M. A., M o s z k o w s k i S. A., N o d v i k J. and S a x o n D. S. // Phys. Rev. 1956. Vol. 101.

P. 507. 11. M a c h l e i d t R. // Phys. Rev. 2001. Vol. C63. 024001. 12. B i t t c h e r M., G r ü e b l e r W., K ö n i g V. et al. // Few-Body Systems. 1990. Vol. 9. P. 165. 13. A m o s K., C a n t o n L., P i s e n t G. et al. // Nuclear Physics. 2003. Vol. A728. P. 65.

V. G. BARYSHEVSKY, A. A. ROUBA

INFLUENCE OF THE COULOMB INTERACTION ON THE DEUTERON SPIN DICHROISM EFFECT IN THE ENERGY RANGE 5–20 MeV

Summаry When an unpolarized deuteron beam passes through an unpolarized target, the tensor polarization of beam arises due to

deuteron spin dichroism. It is shown, that the interference of Coulomb and nuclear interactions affects essentially the value and the behavior of deuteron spin dichroism in the energy range 5–20 MeV. Qualitative agreement between theoretical and ex-perimental results is obtained.



Беларуси

70


УДК 530.12 А. П. РЯБУШКО, Т. А. ЖУР

РЕЛЯТИВИСТСКИЕ ЭФФЕКТЫ ДВИЖЕНИЯ ТЕЛА В ГРАВИТАЦИОННОМ ПОЛЕ НЕОДНОРОДНОЙ СРЕДЫ.

II. Постньютоновское приближение общей теории относительности

Белорусский государственный аграрный технический университет


Введение. Предлагаемое исследование является продолжением работы [1] и решает реляти-вистскую проблему движения тела a в гравитационном поле, создаваемом массивным централь-ным телом массой m и окружающим его материальным шаром радиусом R, плотность среды ρ в котором распределена по закону:

0ρ ρ (1 / ), ; ρ 0, ,r R r R r R= − ≤ = ≥ (1)

где 0ρ – плотность среды в центре, а r – расстояние до центра шара. В работе [1] аналогичная проблема решена в ньютоновском приближении (НП) общей тео-

рии относительности (ОТО). В настоящей работе эта проблема будет решена в постньютонов-ском приближении (ПНП) ОТО.

1. Релятивистские интегралы энергии и орбитального момента импульса. По хорошо известной схеме (см., напр., [2–4]) из уравнений движения (2) – (5) работы [1] с использованием их решения в НП ОТО, находим интеграл энергии в ПНП ОТО:

2 2 2 2 2 20 0

1 1 1( ) (2 ) (1 ) 2(1 2 3 ) (1 3 6 )2 3 2 3

m a m pv a e p e e e ea R p R

⎡γ γ ⎤− + πγρ − = − − + πγρ − + − − + +⎢ ⎥⎦⎣

2 2 2 2

202 2 2 2

γ γ 10 5 10 2(2 7 8 ) πγρ (1 ) ln3(1 ) 3 (1 )3 (1 ) (1 )

m p p R p pe e m ee p R ec p R e R e

⎧ ⎡⎪ + + + − + + + +⎨ ⎢ + ++ +⎪ ⎣⎩

2 2 2

22 2

1 1 5γ 3γ2 (1 )1 (1 ) ( )

e p e m mp ee R ape a

⎤− −− − + − +⎥+ + ⎦

( ) ( )2 2 2 2 3

2 20

10 5 ( ) 10 ( ) ( ) ( )πγρ 2 ln 2 1 1 ,3 3 3

⎫⎡ ⎤⎪− + − − − − + −⎢ ⎥⎬⎪⎣ ⎦⎭

a R a a a am a e eR a R R p Rp

(2)

а также интеграл орбитального момента импульса тела a (интеграл площадей):

3

02 2 21 2 3 3 02

4 8 40, 0, 1 (1 ) (1 2 3 ) (1 3 6 )3 3

⎧ ⎡γ πρ⎪= = = + + − πρ − + + − + −⎨ ⎢⎪ ⎣⎩

m pM M M M e p e e e ep Rc

3

21 0 0

4 8 4 ( )(1 cos ) 4 πρ ( ) πρ .3 3

⎫⎤⎪+ ϕ − + − ⎥⎬⎪⎦⎭

m ae mu ap R

(3)



Беларуси

71

Напомним смысл величин, входящих в интегралы (2) и (3): 8 1 3 2γ 6,67 10 г см с− − −= ⋅ (ньюто-новская постоянная тяготения); 10 13 10 см сс −= ⋅ ⋅ (скорость света в вакууме); π 3,14= ; p – пара-метр эллиптической орбиты движения тела a в НП ОТО; e – эксцентриситет этой орбиты (0<e<1); a – расстояние тела a до начала декартовой системы координат 1 2 3Ox x x в НП ОТО; значок тильда (∼) над буквой означает, что величина берется в ПНП ОТО, т. е. является реляти-вистской. Например, , , iv a M – релятивистские скорость, расстояние, координаты орбитального

момента импульса тела a; ( ) 23 2 ,M a mp C= ϕ = γ = где С – секториальная скорость тела a; 1u

совпадает с выражением (18) в [1]. Релятивистские интегралы (2) и (3) найдены при следующих условиях. 1) Так как движение тела а плоское, то за плоскость движение принята координатная плос-

кость Ox1x2, т. е. 3 0x = , в которой введена полярная система координат 1 2cos , sin .x r x r= ϕ = ϕ Тогда уравнение ньютоновской орбиты движения тела а в пустоте имеет вид (см. (10) в [1]):

1 (1 cos ),u ep

= + ϕ 1/u a= . (4)

2) Релятивистская орбита в среде, уравнение которой 1( )u ua

= ϕ = мы пока не знаем, прохо-

дит через перигелий орбиты (4) и в том же направлении в начальный момент, когда 0ϕ = , т. е.

выполняются условия (0) (0) (1 ) / , 0.du duu u e pd dϕ ϕ

= = + = =

3) При 0ϕ = поступательная скорость тела а по орбите (4) и поступательная скорость по ре-лятивистской орбите в среде совпадают, т. е. выполняется равенство (0) (0).v v=

4) Интеграл (3) удовлетворяет условию 3 3(0) (0),M M= т. е. удвоенная секториальная ско-рость С тела а на орбите (4) в начальный момент 0ϕ = совпадает с релятивистской.

2. Вывод уравнения релятивистской орбиты в среде. Знание интегралов (2) и (3) позволя-ет по известной схеме [4] получить дифференциальное уравнение (ДУ), из которого будет най-дено уравнение релятивистской орбиты тела а в среде.

Не приводя подробных вычислений, выпишем упомянутое ДУ:

2

0 0 0212 3 4 2 2 2 3

1 4 6 14 12( ) (9 8 )3

d u m mu u u e ep p pd mpu Rmpu c p u Ru

πρ πρ πρ

ϕ

⎧γ ⎪ ⎡+ − − + = + − + − + − −⎨ ⎢⎣⎪⎩

2 2 2 3

23 3 4 4 3 2 3

4(1 ) 32(1 ) 1 8(1 ) 4 10 16 8ln( ) .33 3 3(1 ) 3 (1 )

e e e e p pRu Rpu pu Rpu Rpu Ru e R e

⎫⎤− + − + ⎪− + + − − + − ⎥⎬+ + ⎪⎦⎭

(5)

Как и ДУ (15) в [1], ДУ (5) интегрируем методом последовательных приближений с точно-стью до 0ρ и 2.e Справа в ДУ (5) все величины известны, в частности, u определяется равенст-вом (4), а 1u – добавка к u в выражении (21), в [1].

Решая задачу Коши для ДУ (5) с начальными условиями (0) (1 ) / , 0,duu e pdϕ

= + = находим

следующее уравнение релятивистской орбиты в среде:

1 1,u u u u= + + (6)

где u совпадает с выражением (4), 1u – с добавкой к u в (21) из [1] и имеет вид:



Беларуси

72

2 2

0 0 21

2 41 sin (4 5 ) (1 cos )3

p p p p pu e emR R m R Rπρ πρ

ϕ ϕ ϕ⎧⎡⎛ ⎞ ⎤= − − + − + − − +⎨⎜ ⎟ ⎢ ⎥⎝ ⎠ ⎦⎣⎩

21 4 5 (cos cos2 ) ,3

p eR

ϕ ϕ⎫⎛ ⎞− − ⎬⎜ ⎟⎝ ⎠ ⎭

(7)

2 21 02 2 2 πρ

3γ sin 6 1 ( cos sin ) 2 4 5 sin 2m p pu e p e eR Rc p c

γϕ ϕ ϕ ϕ ϕ ϕ ϕ ϕ

⎧ ⎛ ⎞ ⎛ ⎞= + − − − − +⎨ ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠⎩

2 22216 42 77 7 50 6 ln sin .2

p p Re e e e eR R p

ϕ ϕ⎡ ⎫⎤⎛ ⎞+ + − + + +⎢ ⎬⎜ ⎟ ⎥⎝ ⎠⎢ ⎦ ⎭⎣

(8)

В релятивистской добавке 1u выписаны только вековые члены, а постоянные и периодиче-ские члены отброшены в силу их чрезвычайной малости.

3. Исследование движения в постньютоновском приближении. Изучение свойств реляти-вистской орбиты (6) будет более удобным, если ее уравнение записать в виде:

( )01 cos 1 α α αH

He

u up

ρ γρρ

ϕ⎡ ⎤+ + − +⎣ ⎦= + , (9)

где 3

00 2

2πρ 3γα 1 , α ,H p p mm R c p

ρ⎛ ⎞= − =⎜ ⎟⎝ ⎠

(10)

2

0γρ 2

γπρ 6 7α 6 1 6 ln 42 77 50 110,5 ,p p p p pe eR R R e e Rc

⎡ ⎤⎛ ⎞ ⎛ ⎞= − + − + + + + +⎜ ⎟ ⎜ ⎟⎢ ⎥⎝ ⎠ ⎝ ⎠⎣ ⎦ (11)

2

0 2 2ρ

πρ 4 1(4 5 ) (1 cos ) 4 5 (cos cos 2 ) ,3 3

H p p p pu e em R R R

ϕ ϕ ϕ⎧ ⎫⎡ ⎤ ⎛ ⎞= − + − − + − −⎨ ⎬⎜ ⎟⎢ ⎥ ⎝ ⎠⎣ ⎦⎩ ⎭

(12)

2 2

0 022 2

6γπρ 4γπρ1 1 4 5 sin .p p p pe e eR Rc c

ϕ ϕ ϕ⎡ ⎤⎛ ⎞ ⎛ ⎞= + − − −⎢ ⎥⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠⎣ ⎦

(13)

Запись уравнения орбиты в виде (9) сразу показывает, что орбита по форме близка к эллипсу, подверженному следующим деформациям и перемещениям.

1. Происходит смещение перигелия за один ньютоновский период на величину

ρ 0 γρ2π(α α α ),HϕΔ = − − + (14)

которая может быть положительной (перигелий смещается по ходу движения тела а по орбите), отрицательной (смещение против хода), нулем (смещения нет).

2. Одновременно с эффектом 1 существует релятивистский эффект (13) векового увеличения эксцентриситета эллипса.

3. Несложные вычисления показывают, что ньютоновская добавка (12) приводит к укороче-нию большой оси эллиптической орбиты на постоянную величину

4

0 2ρ 2

2πρ 4 2 4 5 ,3 3(1 )

p p pa eR Rm e

⎡ ⎤⎛ ⎞Δ = − + −⎜ ⎟⎢ ⎥⎝ ⎠− ⎣ ⎦ (15)

а в перпендикулярном к большой оси эллипса направлении, когда π π , 1, ,2

k k nϕ = + = пара-

метр p ньютоновской орбиты (4) укорачивается также на постоянную величину



Беларуси

73

4

0 2ρ

πρ 4 4 4 53 3

p p pp eR Rm

⎡ ⎤⎛ ⎞Δ = − + −⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦. (16)

Таким образом, в НП ОТО имеем эффект «сжатия» эллиптической орбиты. Благодаря нали-чию ньютоновской величины ραH (см. (10)), уже в НП ОТО имеем вековой эффект смещения перигелия этого «сжатого» эллипса. На эти эффекты накладываются малые релятивистские эф-фекты смещения перигелия 0 γρα , α и вековое увеличение эксцентриситета .e

Поступательная и секториальная скорости тела а в ПНП ОТО испытывают не только перио-дические, но и вековые колебания, что немедленно следует из (2), (3) и (6).

Действительно, подставив в (3) вместо а и 1u их выражения из (4) и (7), находим:

23 3 02 2

4γ γ 41 (1 cos ) 4πρ 2 1 sin (1 cos )3

m pM M e p e eRc p c

ϕ ϕ ϕ ϕ⎧ ⎡⎪ ⎛ ⎞= + − + − + − −⎨ ⎜ ⎟⎢ ⎝ ⎠⎪ ⎣⎩

(17)

2 2 2 24 4 52 sin (1 cos ) 4 5 (1 cos ) (cos cos2 ) .3 3 3

⎫⎛ ⎞ ⎤⎛ ⎞ ⎛ ⎞ϕ − − ϕ − − + − − ϕ − − ϕ − ϕ ⎬⎜ ⎟ ⎜ ⎟ ⎥⎜ ⎟⎝ ⎠ ⎝ ⎠⎝ ⎠ ⎦⎭

p p p pe e e eR R R R

В НП ОТО из (17) получаем 3 3 γ 2 const,M M mp C= = = = т. е. секториальная скорость тела а С=const. В ПНП ОТО без учета среды 0(ρ 0)= имеем:

3 3 24γ1 (1 cos )mM M ec p

⎡ ⎤= + − ϕ⎢ ⎥

⎣ ⎦, (18)

т. е. 3 2M C= пульсирует, имея наименьшее значение в перигелии 3 3П ПM M= при

2π , 0,1,2,...k kϕ = = и наибольшее значение в афелии 3aM при (2 1)πkϕ = + . Разница между ни-

ми (размах пульсации)

3 3 3 3.28γa П mM M M eMc p

Δ = − = . (19)

Если в (17) пренебречь постоянными и периодическими членами, то

23 3 02

γ1 8πρ 1 sin ,pM M p eRc

⎡ ⎤⎛ ⎞= + − ϕ ϕ⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦ (20)

т. е. на пульсации накладывается медленно растущее вековое изменение C . Поступательная скорость в ПНП ОТО v определяется из интеграла энергии (2) после замены

в нем a на 1 , где uu

является решением (6), и a на 1u

, где u является решением (4). В результате

получим достаточно громоздкое выражение для 2v , при тщательном изучении которого выявля-ется, что 2 2 2γ (1 2 cos ) /v v m e e p> = + ϕ + – ньютоновское значение 2v , а также 2v содержит ве-ковые члены, приводящие к нарастающим пульсациям .v

Подчеркнем, что все рассмотренные эффекты являются новыми. 4. Числовые оценки эффектов в Солнечной системе. Согласно известным данным физики

и астрономии (см., например, [5–8]) для фигурирующих в данной работе величин можно принять следующие значения: масса Солнца 33 15 3 13

02 10 г, ρ 10 г/cм , 80 a.e. (1 a.e. 1,5 10 смm R−= ⋅ = = = ⋅ – астрономическая единица), параметр р и эксцентриситет е для Меркурия, Земли и Плутона соот-ветственно 13 13 150,56 10 см, 1,5 10 см, 0,56 10 см, 0,21, 0,02, 0,25.M З П М З Пp p p е е е= ⋅ = ⋅ = ⋅ = = =

Тогда согласно выражениям (15), (16)



Беларуси

74

3ρ ρ~ ~ 10 см,M Ma pΔ Δ 5

ρ ρ~ ~ 10 см,З Зa pΔ Δ 11ρ ρ~ ~ 10 см.П Пa pΔ Δ (21)

Размах пульсации (19) для тех же планет соответственно имеет оценки:

12 23 1,3 10 см /c,MMΔ ≈ ⋅ 10 2

3 7 10 см /c,ЗMΔ ≈ ⋅ 11 23 1,6 10 см /cПMΔ ≈ ⋅ . (22)

Размах вековой нарастающей пульсации (20) в направлениях 1 2π 32π π 2π2 2

k и kϕ = + ϕ = +

определяется формулой

1 23 3 3 02

γ( 1) 8πρ 1 , 1,2.i i ii

pM M M p e iRc

− ⎛ ⎞Δ = − = − − ϕ =⎜ ⎟⎝ ⎠ (23)

Оценки для эффекта (23) при небольших k на много порядков меньше оценок (22). Напри-мер, для Меркурия 1

3 3,17 10( 1)i iiM −Δ = ⋅ − ϕ , для Плутона 6 1

3 1,97 10 ( 1)i iiM −Δ = ⋅ − ϕ .

Релятивистская поступательная скорость v~ в перигелии при 0ϕ = совпадает с ньютонов-

ским значением γ(1 )Пmv ep

= + и больше всего отличается от ньтоновского v в афелии, т. е.

при (2 1)πkϕ = + . Пользуясь интегралом (2), можно найти v v vΔ = − в афелии:

20 2 2

2 2 23 2

02 2 2

2πγρ 4 4 8 101 γ 3 3 3 3

γ γ14 12 π ρ 1 (2 1) .(1 ) γ

a a ap p p p pv v v e e e e

e m R R R

pm pe pm e kR e mc p c

⎛ ⎞Δ = − = − − + + − +⎜ ⎟⎝ ⎠−

⎡ ⎤⎛ ⎞− − +⎢ ⎥⎜ ⎟⎝ ⎠ −⎣ ⎦

(24)

Оценка avΔ согласно (24) дает для Меркурия ∼1см/с, для Земли ∼0,04 см/с, для Плутона ∼100 см/с. Хотя увеличение скорости невелико, но при прохождении по орбите больших рас-стояний должно наблюдаться значительное добавочное расстояние в положении тела а на орбите за 1 год – порядка десятков километров для Меркурия и Земли и тысяч километров для Плутона.

В заключение рассмотрим структуру уравнений движения (2) из [1], записав их после сокра-щения на am в векторной форме:

03γ 4πγρ .

3( )a

m aa a a fRa

⎛ ⎞= − − − +⎜ ⎟⎝ ⎠ (25)

Общее ускорение тела а a является суммой трех ускорений: а) ньютоновского в пустоте (первое слагаемое справа в (25)); б) ньютоновского в среде (второе слагаемое); в) релятивистско-го ускорения .af

Ньютоновские ускорения всегда направлены точно на центр, так как они направлены по век-тору ( ).a− В Солнечной системе в диапазоне расстояний 20–70 а. е. при 15

0ρ 10−≈ г/см3, 80R = а. е. и законе распределения плотности межпланетной среды (1) эти ускорения по модулю

соответственно равны 4 3 2(10 10 )см/c− −÷ , 8 2(7 11)10 см/c ,−÷ ~af 11 10 2(10 10 )см/c− −÷ . Известно

[9], что космические аппараты Pioneer 10,11 в диапазоне 20–70 а. е. испытывали дополнительное ускорение 8 2(7,41 10,07)10 см/c ,Pa −= ÷ направленное строго к Солнцу. Как видим, Pa практи-чески совпадает с ньютоновским ускорением, возникающим от воздействия гравитационного поля межпланетной среды с распределением (1) при 15 3

0ρ 10 г/см .−≈ Это распределение под-тверждено экспериментально (см. работы специалистов по малым телам [10–12]). В итоге полу-чаем следующий результат. Постоянным источником Pioneer anomaly является гравитационное



Беларуси

75

поле межпланетной среды, состоящей из поясов астероидов, комет семейства Юпитера, транс-нептунных и других объектов Солнечной системы (более подробно см. наши работы [13–14]).


1. Р я б у ш к о А. П., Ж у р Т. А. // Весцi НАН Беларусi. Сер. фiз.- мат. навук. 2007. 2. С. 86–90. 2. Д у б о ш и н Г. Н. Небесная механика. Основные задачи и методы. М., 1963. 3. С м а р т У. М. Небесная механика. М., 1965. 4. Р я б у ш к о А. П. Движение тел в общей теории относительности. Минск, 1979. 5. В с е х с в я т с к и й С. К. Космогония Солнечной системы // Проблемы современной космогонии. М., 1972. 6. Л и в ш и ц М. А. Солнечная корона. Маленькая Энциклопедия «Физика космоса». М., 1976. 7. Н и к о л ь с к и й Г. М. Солнечная система и межпланетное пространство. М., 1975. 8. Б а к у л и н П. И., К о н о н о в и ч Э. В., М о р о з В. И. Курс общей астрономии. М., 1983. 9. A n d e r s o n J. D. [и др.] // Phys. Rev. D. 2002. Vol. 65. P. 1–50. 10. L e v i s o n H. F., D u n c a n M. J. // Icarus. 1997. Vol. 127. P. 13–23. 11. J e w i t t D. // Annu. Rev. Earth. Planet. Sci. 1999. Vol. 27. P. 287–312. 12. И п а т о в С. И. Миграция небесных тел в Солнечной системе. М., 2000. 13. Р я б у ш к о А. П., Ж у р Т. А. // Научно-инновационная деятельность и предпринимательство в АПК: про-

блемы эффективности и управления. Сб. ст. 2-ой Междунар. науч.-практ. конф. Минск, 2007. Ч. 1. С. 95–102. 14. Р я б у ш к о А. П., Ж у р Т. А. // Еругинские чтения -2007: Тезисы докл. XII Междунар. науч. конф. по диф-

ференциальным уравнениям . Минск, 2007. С. 112–113.

A. P. RYABUSHKO, T. A. ZHUR

RELATIVISTIC EFFECTS OF THE MOTION OF A BODY IN THE GRAVITATIONAL FIELD OF A HETEROGENEOUS MEDIUM.

II. The post-Newtonian approximation of the general theory of relativity

Summary In the post-Newtonian approximation of the general theory of relativity the relativistic energy integral, the orbital angular

momentum and the equation of the orbit of a test body in the medium have been derived and discussed. Several relativistic effects are predicted: an additional acceleration of the body as a systematic origin to Pioneer anomaly, an inverse displacement of the perihelion, the shortening of the orbit and an increase of the pulsation of the sectorial and orbital velocity of the motion of a body. Some numerical values of these effects for the Mercury, Earth and Pluto orbits are given.



Беларуси

76


УДК 539.2 Л. Ф. МАКАРЕНКО

ВЛИЯНИЕ ПОТЕНЦИАЛА ИЗОБРАЖЕНИЯ НА ЭНЕРГИЮ ИОНИЗАЦИИ ВОДОРОДОПОДОБНОГО ЦЕНТРА, РАСПОЛОЖЕННОГО ВБЛИЗИ ГРАНИЦЫ РАЗДЕЛА ДВУХ СРЕД



Введение. Задача изучения энергетического спектра водородоподобного (кулоновского) цен-тра вблизи границы раздела двух сред представляет интерес для решения нескольких физиче-ских проблем. Одной из них является изучение основных закономерностей физической адсорб-ции [1, 2]. Подобная задача возникает и при моделировании спектров отражения от полупровод-ников в области энергий экситонного поглощения [3, 4]. В последнее время интерес к этой задаче возник также в связи с предложением реализации квантового компьютера на основе до-норов фосфора в кремнии [5, 6].

С учетом сил изображения эта задача приводит к уравнению Шредингера с неразделяющи-мися переменными, что существенно усложняет ее решение [1, 2]. В то же время для анализа влияния внешних условий на характеристики центров подобного типа и более ясной физической интерпретации роли тех или иных факторов, позволяющих управлять волновой функцией элек-трона, связанного с кулоновским центром, расположенным вблизи границы раздела, хотелось бы иметь способ проведения математически простого расчета свойств изучаемого объекта. Подоб-ная задача решалась и ранее (см., например, [7]), но результаты, полученные в этой работе ока-зались во многом неудовлетворительными и подверглись критике в работе [8]. В связи с этим целью настоящей работы является разработка относительно простого метода моделирования влияния различных граничных условий на энергию основного состояния водородоподобного центра, расположенного достаточно близко к границе раздела двух сред.

Постановка задачи. При рассмотрении задачи расчета энергии основного состояния водо-родоподобного центра вблизи границы раздела двух сред будем предполагать, что этот центр

представляет собой донор в полупроводни-ке с эффективной массой m* и относитель-ной электрической проницаемостью ε1. Геометрия исследуемой задачи представле-на на рис. 1. Ось OZ представляет собой перпендикуляр к границе, проходящей через положительный заряд, находящийся в точке 1. В точке 2 находится его изображение.

Изменяя параметры второй среды, мож-но управлять граничными условиями для потенциала поля, создаваемого зарядами в первой среде. Будем предполагать, что вто-рой средой является диэлектрик с относи-тельной диэлектрической проницаемостью ε2. Если она представляет собой вакуум, то ε2 = 1. При ε2→∞ мы получаем другой пре-

Рис. 1. Система координат, используемая для расчета энергии состояния водородоподобного центра вблизи границы разде-ла двух сред. Начало координат выбрано на границе раздела



Беларуси

77

дельный случай, когда потенциал на границе равен нулю, как в случае если бы вторая среда яв-лялась металлом (см., например, [9–11]).

В общем случае электростатический потенциал ( )V r на границе двух сред ищется из реше-ния граничной задачи для уравнения Пуассона с условиями на границе Г

1 21 2ε εV V

n nΓ Γ

∂ ∂=∂ ∂

и 1 2

τ τV V

Γ Γ

∂ ∂=∂ ∂

,

где n и τ – единичные векторы нормали и касательной к границе соответственно. Как известно [9–11], для нахождения потенциала ( )V r в исследуемой задаче применим метод

изображений, и соответствующий гамильтониан можно представить в виде суммы

2ˆ ˆ ˆ ˆ ˆ|H T V V V′ ′′ ′′′= + + + , (1)

где 2

2ˆ2

Tm

= − ∇ есть оператор кинетической энергии. Потенциальная энергия электрона учиты-

вает, во-первых, его взаимодействие с самим кулоновским центром

2

0 1

ˆ4πεε

eVr

′ = − , (2)

во-вторых, с изображением этого центра

* 2

0 2

ˆ4πεε

Q eVr

′′ = − (3)

и, в-третьих, взаимодействие электрона со своим изображением во второй среде

* 2

0

1 1ˆ2 4πεε 2

Q eVz

′′′ = . (4)

Величина *Q для границы двух диэлектриков с проницаемостями 1ε и 2ε определяется со-гласно [8, 9] следующим образом:

1 2*

1 2

ε εε ε

Q −=+

. (5)

Для дальнейшего рассмотрения удобно использовать координаты вытянутого сфероида ξ и η , определенные как

1 2ξ2

r rL

+= , 2 1η2

r rL−= .

Третьей координатой является полярный угол ϕ. После обезразмеривания получим следующую задачу на собственные значения:

* *

2

1 2

2 2 (ξ,η, ) (ξ,η, )4

Q Q F EFr r z

⎧ ⎫⎪ ⎪−∇ − − + ϕ = ϕ⎨ ⎬⎪ ⎪⎩ ⎭

, (6)

где ограниченное решение ищется в полупространстве 0<η<1, 1<ξ<∞ и 0<ϕ<2π. Для основного состояния функция (ξ,η, )F ϕ не будет зависеть от полярного угла. Тогда опе-

ратор 2∇ примет вид

2 2 22 2 2

1 (ξ 1) (1 η ) ξ ξ η η(ξ η )L

⎧ ⎫⎡ ⎤ ⎡ ⎤∂ ∂ ∂ ∂∇ = − + −⎨ ⎬⎢ ⎥ ⎢ ⎥∂ ∂ ∂ ∂− ⎣ ⎦ ⎣ ⎦⎩ ⎭



Беларуси

78

Кроме того, наше уравнение должно быть дополнено граничным условием

0( , ) | 0F η=ξ η = . (7)

Вариационный метод решения задачи о нахождении наименьшего значения энергии. Энергия основного состояния представляет собой наименьшее собственное значение задачи (6) – (7). Поэтому наиболее простым методом решения будет вариационный метод. Вначале про-ведем сравнение результатов для простейших пробных функций

( )α ξ η3 3/ 2 1/ 2ψ α (2 ) π ηLA L e− −−= (8a)

и,

( )ξ η5 / 2 3/ 2 1/ 2ψ 2 α π ξη.−α −−= LB L e (8b)

Функция вида ψB использовалась ранее в работе [7]. Выбор пробных функций определяется следующими факторами. Во-первых, они должны

обеспечивать условие (7), которое выполняется автоматически наличием множителя η. Кроме того, они должны переходить в точное решение для водородоподобного центра при L→∞. Обе функции ψA и ψB, очевидно, обладают этим свойством.

В результате несложных расчетов были получены следующие выражения для слагаемых, оп-ределяющих энергию основного состояния:

2( ) ( ) ( ) ( )( ) , , ,i i i i

oii

T L V L V L V LE L i A BN

+ + +′ ′′ ′′′= = (9)

где по определению i i iF F dr= ψ ψ∫ и 2 2i iN dr= ψ∫ для действительных ψ i .

С помощью интегрирования для пробной функции первого вида получаем следующие выра-жения для слагаемых, входящих в сумму (9):

( ) ( )2 3 2 2 28 12 12 5 5 2 2 ,sAN s s s s s e−= − + − + − − (10a)

( ) ( )2 3 2 2 2α 8 4 4 1 2 2 1 ,sAT s s s s s e−⎡ ⎤= − + − − + −⎣ ⎦ (10b)

( ) ( )( )3 2 24α 4 4 3 1 1 ,sAV s s s s e−= − − + − + + −′ (10c)

( ) ( )( )2 2α 2 3 2 2 ,sAV Q s s s e∗ −= − − + − +′′ (10d)

( )( ) ( ) ( )( ) ( )3 2 2 2 2α 2 8 12 12 6 2 4 1 6 2 2 1 .s sAV Q s Ei s s s s Ei s e s Ei s s e∗ ⎡ ⎤= − + − + − − − −′′′ ⎣ ⎦ (10e)

Для пробной функции второго вида эти же слагаемые выражаются как

( ) ( )2 2 24 4 2 ,sBN s s e−= + − + (11a)

2 20α ,BT N= (11b)

( )( )2 22α 4 2 ,sBV s e−= − + −′ (11c)

( ) ( )( )3 4 3 2 2α 4 3 2 6 6 3 ,sBV Q s s s s s e∗ − −= − − + + + + +′′ (11d)

( )( )21 α 8 2 3 .2

∗ −= + +′′′ sBV Q s s e (11e)



Беларуси

79

В (10a) – (10e) и (11a) – (11e) использовано обозначение αs L= . Параметр α определялся путем минимизации функции при заданном значении L. Рассчитан-

ные таким образом значения E0A(L) и E0B(L)представлены на рис. 2 и 3. Расчеты проведены с пробными функциями различного вида. Кривая 4 рассчитана с использованием метода Ритца

(размер базиса – 12 функций). Значение * 12

= +Q соответствует границе кремний – окисел

кремния, а * 12

Q = − – соотношению 2 13ε ε= . Для кремния ε1 = 11,4, следовательно, должно

быть ∼ε2≈ 35. Последняя величина близка к относительной диэлектрической проницаемости HfO2. Предельные значения Q* достигаются, когда вторая среда является вакуумом:

1*

1

ε 1ε 1vacQ −=+

(12)

и при ε2→∞ Q*=–1 («металлическое зеркало»). Как видно из приведенных рисунков, качество используемых пробных функций различно

при разных расстояниях до плоскости. Функция первого вида дает лучшие результаты при больших значениях L. В то же время при L<0,5 существенно лучшие результаты дает примене-ние функции ψB. Этот факт легко объясним, если учесть, что эта функция дает правильную асимптотику для решения задачи движения электрона в полупространстве при расположении кулоновского центра на границе раздела. При L→0 функция ψB совпадает с точной волновой функцией для аналогичной задачи для донора, расположенного непосредственно на границе раздела [12].

Следует отметить, однако, что ни ψB, ни ψA не позволяют достаточно хорошо воспроизве-сти поведение Ε0 (L) вблизи своего минимума при 2<L<4. Это может служить, в частности, не-достатком при выявлении качественных особенностей поведения адсорбированных атомов. Поэтому в некоторых случаях желательно иметь пробную волновую функцию (ВФ), более точно аппроксимирующую решение нашей задачи. Простейшим путем улучшения качества результа-тов дает ВФ, представляющая собой линейную комбинацию ψA и ψB:

AB A A B BC Cψ = ψ + ψ (13a)

или в другой форме

( ) exp ( )ψ = β + ξ η −α ξ − ηAB ABN L . (13b)

Рис. 2. Зависимость энергии основного состояния

водородоподобного центра от его расстояния до границы раздела при Q*= −0,5 (ε2/ε1 = 3)

Рис. 3. Зависимость энергии основного состояния водородоподобного центра от его расстояния до границы раздела при Q*=+ 0,5 (ε2 ⁄ ε1 = 1/3)



Беларуси

80

Коэффициенты C1 и C2 (или, то же самое, второй вариационный параметр β) можно найти, используя вариационный принцип Рэлея – Ритца, а значение Ε0 находится из решения уравнения

0 0

02 00AA AB AB AB AB

AB AB BB AB

H E H S EH S E H E

− −=

− −, (14)

где ij i jS dr= ψ ψ∫ ; ˆij i jH H dr= ψ ψ∫ , i=A, B. Кривая 3 на рис. 3 показывает существенное улучшение аппроксимации Ε0(L) при использо-

вании ψAB. В качестве кривой сравнения выбрано значение Ε0, рассчитанное по методу Рэлея – Ритца с использованием 12 слагаемых в соответствующей сумме для пробной функции. При этом, что важно для анализа, например, силы, действующей на экситон, достаточно ясно вос-производится поведение функции Ε0(L) вблизи минимума.

Еще одним критерием качества используемых пробных функций может служить их сравне-ние с точными результатами, полученными в [4] для Q*=–0. Эти данные приведены в таблице.

Т а б л и ц а. Сравнение значений энергии ионизации водородоподобного центра, рассчитанных вариационным методом

Расстояние до границы L Энергия связи E0A Энергия связи E0B Энергия связи E0AB Энергия связи Eexact

0,10 0,0101 0,2635 0,2633 0,263649 0,20 0,0989 0,2795 0,2798 0,280217 0,30 0,1909 0,2986 0,2999 0,300917 0,40 0,2690 0,3218 0,3256 0,327310 0,60 0,3927 0,3831 0,3966 0,402865 0,80 0,4968 0,4620 0,5021 0,506633 1,00 0,5981 0,5451 0,6082 0,617319 1,20 0,6838 0,6199 0,6995 0,714496 1,40 0,7513 0,6825 0,7720 0,791240 1,60 0,8031 0,7333 0,8275 0,848851 1,80 0,8427 0,7743 0,8692 0,891096 2,00 0,8729 0,8073 0,9008 0,921741 2,50 0,9219 0,8656 0,9494 0,965983 3,00 0,9488 0,9018 0,9735 0,985358 3,50 0,9646 0,92564 0,9857 0,993771 4,00 0,9743 0,9418 0,9918 0,997384 4,50 0,9807 0,9533 0,9953 0,998915 5,00 0,9850 0,9618 0,9972 0,999555

Обсуждение. Обширное исследование представленной задачи было проведено в [2]. При

рассмотрении использовались сферическая система координат и метод Рэлея – Ритца с базисом из функций атома водорода, умноженных на величину z=Lξη, т. е. функций, аналогичных функ-циям второго типа в нашей работе. Как и следовало ожидать, такой выбор пробных функций привел к необходимости использования достаточно большого количества базисных функций. Удовлетворительные результаты получались при их числе ∼20. Кроме того, выбор сферической системы координат обусловил необходимость применения численного интегрирования при вы-числении матричных элементов, что также существенно усложненило расчетный алгоритм ре-шения рассматриваемой задачи.

Использование системы координат вытянутого сфероида позволяет существенно сократить размеры базиса, требуемого для достижения заданной погрешности [1]. Кроме того, именно применение сфероидной системы координат позволило найти достаточно простую пробную функцию, позволяющую получить довольно малую погрешность при относительно несложных



Беларуси

81

расчетах. Отличие функций, используемых в нашей работе, от функций работы [1] заключается в замене sh(η) на более простой множитель η, что также существенно улучшает качество полу-чаемой при аппроксимации значения энергии основного состояния водородоподобного центра, особенно при больших значениях L.

Наши результаты, так же как на это и указывалось в [8], показывают недостаточное качество функции ψ, использованной для расчетов в [7], для расчета энергии связи при промежуточных значениях L. Выбор функции ψА (уравнение (8a)) и особенно ψАВ (уравнение (13a)) являются бо-лее предпочтительными при L > 0,5, особенно если требуется оценка результатов дополнитель-ных внешних воздействий (например, электрического поля).

Таким образом, в работе рассмотрено применение нескольких пробных функций для расчета энергии основного состояния водородоподобного центра, расположенного вблизи поверхности раздела двух сред. Расчеты проведены с учетом потенциала сил изображения, возникающих на границе двух диэлектриков. Показано, что для различных расстояний до поверхности раздела оптимальным является использование простейших функций разного вида. Существенно лучшие результаты дает использование линейной комбинации двух простейших функций, что позволяет воспроизвести основные особенности зависимости энергии основного состояния от расположе-ния водородоподобного центра относительно границы.

Работа выполнена при финансовой поддержке Белорусского республиканского фонда фун-даментальных исследований, проект Ф06–323.


1. B r u c h L. W., R u i j g r o k Th. W. // Surface Science. 1979. Vol. 79, N 2. P. 509–548. 2. M a c M i l l e n D. B., L a n d m a n U. // J. Chem. Phys. 1984. Vol. 80, N 4. P. 1691–1702. 3. D’A n d r e a A., D e l S o l e R. // Phys. Rev. B. 1988. Vol. 38, N 2. P. 1197 – 1209. 4. S a t p a t h y S. // Phys. Rev. B. 1983. Vol. 28, N 8. P. 4585 – 4592. 5. K a n e B. // Nature. 1998. Vol. 393, N 6681. P. 133–137. 6. C a l d e r ó n M. J., K o i l l e r B., D a s S a r m a S. // Phys. Rev. B. 2007. Vol. 75. 125311-1–125311-11. 7. S h e n Z. J., Y u a n X. Z., Y a n g B. C., S h e n Y. // Phys. Rev. B. 1993. Vol. 48, N 3. P. 1977–1980. 8. V i r i D., D e l S o l e R. // Phys. Rev. B. 1995. Vol. 52, N 16. P. 11891 – 11897. 9. Д ж е к с о н Дж. Классическая электродинамика. М., 1965. 10. Л а н д а у Л. Д., Л и ф ш и ц Е. М. Теоретическая физика. Том 8. Электродинамика сплошных сред. М., 1982. 11. И р о д о в И. Е. // Электромагнетизм. Основные законы. 4-е изд., испр. М., 2002. 12. L e v i n e J. D. Phys. Rev. 1965. Vol. 140, N 2А. P. A586–A589.

L. F. MAKARENKO

IMAGE POTENTIAL INFLUENCE ON THE IONIZATION ENERGY OF A HYDROGEN-LIKE CENTER NEAR THE INTERFACE OF TWO MEDIA

Summary This article considers the application of simple trial wave functions to calculate the ground state energy of a hydrogen-like

center near the interface of two media. Calculations have been performed taking into account the image potential. It has been shown that different kinds of wave functions are optimal at different distances from the interface. A relatively simple wave function has been suggested to represent main features of the dependence of the ground state energy on the distance to the interface.



Беларуси

82


УДК 551.521.3 Е. Г. ЦЫМБАРЕВИЧ

К ТЕОРИИ ПЕРЕНОСА ИЗЛУЧЕНИЯ В РАССЕИВАЮЩИХ СИЛЬНО ФЛУКТУИРУЮЩИХ СРЕДАХ

Могилевский государственный университет продовольствия


Закономерности преобразования светового поля при распространении излучения через раз-личные среды могут быть установлены на основе решения уравнения переноса оптического из-лучения [1, 2], определяющего закон изменения интенсивности светового пучка вдоль заданного направления в результате поглощения и рассеяния света. Для стационарного светового поля с произвольно заданными источниками это уравнение имеет вид

( ) ( ); ;LI J=r rΩ Ω , (1)

где ( );I r Ω – яркость излучения в точке r пространства в направлении Ω ,

( ) ( ) ( )( )4

;4

L d gπ

σ= ⋅∇ + ε − ⋅′ ′

π ∫r

r rΩ Ω Ω ⋅Ω – (2)

линейный оператор, x y z∇ = ∂ ∂ + ∂ ∂ + ∂ ∂i j k – оператор Гамильтона, ( )ε r – показатель ослаб-ления света, ( )σ r – показатель рассеяния, ( );g ′r Ω⋅Ω – индикатриса рассеяния, ( );J r Ω – функ-ция источников. Коэффициенты ( )ε r , ( )σ r и ( );g ′r Ω ⋅Ω являются феноменологическими па-раметрами рассеяния элементарного объема среды с центром в точке r и могут задаваться как детерминированными, так и случайными функциями. В последнем случае уравнение (1) являет-ся стохастическим и описывает процессы переноса излучения в средах со случайной макро-структурой. Ясно, что многие природные образования (например, атмосфера и океан), а также различные биологические структуры характеризуются случайной изменчивостью своих оптиче-ских свойств в пространстве и во времени, поэтому должны рассматриваться как объекты для изучения именно в рамках статистической теории переноса [1–3]. Основная задача статистиче-ской теории состоит в нахождении взаимосвязи между статистическими характеристиками слу-чайного поля параметров рассеяния и светового поля, создаваемого в среде различными излуча-телями. При этом функцию ( );I r Ω в уравнении (1) следует трактовать как стохастическую яр-кость излучения.

В настоящей работе приводится описание аналитического метода решения стохастического уравнения переноса (1), основанного на итерационном принципе и справедливого для сред с крупномасштабными флуктуациями оптических параметров при сильно анизотропном рассея-нии. Для одномерной статистической модели бинарной марковской смеси исследуется влияние вариаций оптических параметров элементарного объема на точность решений метода и условия сходимости этих решений.

В стохастической теории переноса анализируются два первых статистических момента ярко-сти ( );I r Ω и ( ) ( ); ;I I ′ ′r rΩ Ω (здесь и далее символом « ⋅ » обозначается оператор, произ-

водящий статистическое усреднение). Следуя [4], стохастическую яркость ( );I r Ω представим

в виде суммы среднего значения ( );I r Ω и флуктуационной части:



Беларуси

83

( ) ( ) ( ); ; ;I I I= +r r rΩ Ω Ω , (3)

где ( ); 0I =r Ω , символ «∼» означает отклонение случайной величины от среднего значения. Линейный стохастический оператор L, определяемый формулой (2), также представим су-

перпозицией детерминированного оператора L и случайного оператора L :

L L L= + , (4)

( ) ( )4

L dπ

= ⋅∇ + ε − σ ⋅′ ′∫Ω Ω Ω ⋅Ω , ( ) ( )( )4

;L dπ

= ε − σ ⋅′ ′∫r rΩ Ω ⋅Ω , (5), (6)

где ( ) ( ) ( ); 4gσ = σ π′ ′r rΩ ⋅Ω Ω ⋅Ω – показатель направленного светорассеяния из направления

′Ω в направлении Ω. Разделение оператора L на компоненты L и L практически однозначно диктуется физиче-

скими соображениями, а также требованием, чтобы для L был известен обратный оператор 1L − (оператор Грина) такой, что 1 1L L− = . В работах [5, 6] на основе уравнения (1) и пред-

ставлений (3) – (6) получено уравнение для среднего поля яркости

( ) ( ); ; ;virL I J n=r rΩ Ω , (7)

где ( )vir ; ;J nr Ω – функция внутренних виртуальных источников,

( ) ( )vir

0; ; ;

ni

iJ n LI

== ∑r rΩ Ω

. (8)

Расщепление корреляций ( );iLI r Ω в (8) производится на основе рекуррентных соотно-шений

( ) ( )( ) ( )

1

11 1

0, 0,

; ; , 1,

; ; , 1.

i

i i

i

LI L L L I i

L L LI LI i

−

−− −

⎧ =⎪⎪= =⎨⎪

− >⎪⎩

r r

r r

Ω Ω

Ω Ω (9)

Уравнение (7) представляет собой замкнутое уравнение для средней интенсивности излуче-ния в стохастической среде с произвольной статистикой рассеяния. Это уравнение является ос-новным для метода [5, 6], а рекуррентные соотношения (8), (9) решают проблему замыкания. Как видно из (9), для расщепления корреляций ( );iLI r Ω и замыкания уравнения (7) использу-

ется итерационная схема определения регулярной составляющей яркости ( );I r Ω . Метод расчета

средней яркости ( );I r Ω на основании уравнений (7) – (9) называется методом итераций, а на-туральный параметр n, определяющий количество слагаемых в разложении (8), – порядком или степенью метода [5, 6].

При распространении излучения в атмосфере и океане, а также при рассеянии на крупно-масштабных неоднородностях, индикатриса рассеяния сильно вытянута в направлении «вперед» [1–3]. Это позволяет существенно упростить уравнение метода итераций (7) путем перехода к малоугловому приближению [7]. Полагая

( ) ( )4

d d+∞

π −∞⋅ ≈ ⋅∫ ∫ ⊥Ω Ω , ( ) ( )g g⋅ ≈ −′ ′⊥ ⊥Ω Ω Ω Ω , 1zΩ ≈ ,

операторы (5) и (6) преобразуем к виду



Беларуси

84

( ) ( )* *L dz

+∞

⊥−∞

∂= + ∇ + ε − σ − ⋅′ ′∂ ∫⊥ ⊥ ⊥ ⊥Ω Ω Ω Ω , (10)

( ) ( )( )* *; ; ;L z d z+∞

−∞= ε − σ − ⋅′ ′∫ ⊥ ⊥ ⊥ρ Ω ρ Ω Ω , (11)

где x y= +i jρ , x yd d d=⊥Ω Ω Ω , x y= Ω + Ωi j⊥Ω , x y⊥∇ = ∂ ∂ + ∂ ∂i j , ( )* 1 fσ = − σ , 0,05f ≈ – доля фотонов, рассеянных в направлении «назад».

Уравнение (7) с учетом (10), (11) запишем в виде

( ) ( )* ; ; ; ; ;virL I z J z n=⊥ ⊥ρ Ω ρ Ω , (12)

( ); ; ;virJ z n⊥ρ Ω – малоугловая функция виртуальных источников (8), (9). Считаем, что рассеивающий слой толщиной 0z не содержит внутренних источников и осве-

щается по нормали излучением, создающим на его поверхности яркость ( )0 ;I ⊥ρ Ω . Граничное условие для уравнения (12) запишем в виде

( ) ( )0; 0; ;I z I= =⊥ ⊥ρ Ω ρ Ω . (13)

Уравнение (12) с граничным условием (13) дает полную математическую постановку задачи в приближении малоуглового метода итераций. Это уравнение является естественным обобще-нием известных результатов [7] на случай стохастических рассеивающих сред с флуктуирую-щими параметрами.

Для решения уравнения (12) рассмотрим двумерные преобразования Фурье, определяемые оператором

( )( )( )expd d i+∞ +∞

−∞ −∞ℜ = − + ⋅∫ ∫ p⊥ ⊥ρ Ω ωρ Ω , (14)

где ω и p – пространственная и угловая частоты соответственно. Действуя оператором (14) на уравнение (12), получим

( ) ( ) ( ) ( )

0; ; ; ; ; ;

z

nI z K z z I z dzz

⎧ ⎫∂ ∂+ −Φ = − ′ ′ ′⎨ ⎬∂ ∂⎩ ⎭∫p p p p

pω ω ω ω . (15)

Здесь x yp p∂ ∂ = ∂ ∂ + ∂ ∂p i j , ( ) ( )gΦ = ε − σp p , ( )g p – преобразование Ганкеля нуле-

вого порядка от индикатрисы рассеяния [7], ( ) ( ); ; ; ;I z I z= ℜp ⊥ω ρ Ω . Структура интеграль-

ного ядра ( ); ;nK z pω уравнения (15) однозначно определяется натуральным параметром n и представляет результат действия фурье-оператора (14) на функцию виртуальных источников (8), (9). Так, в простейшем случае 0n = , функция ( ); ; 0nK z =pω , при 1n = :

( ) ( ) ( ) ( ) ( ) ( ) 2; ; 2 ; ; ; 2 ; ; ; ;nK z d T z R z R z R z+∞

−εε εσ σσ

−∞= π − − − + −∫p p p p0 0 0 0 0ω ω ω ω ω ω ω ω ω ,

где ( )T ⋅ – фурье-спектр функции Грина детерминированного уравнения переноса (ненормиро-ванная оптическая передаточная функция), ( )Rεε ⋅ , ( )Rεσ ⋅ , ( )Rσσ ⋅ – соответственно фурье-

спектры функций корреляции ( ) ( )ε ε ′r r , ( ) ( );ε σ ⋅′ ′r r Ω Ω , ( ) ( ); ;σ ⋅ σ ⋅′ ′ ′ ′′r rΩ Ω Ω Ω . При 1n > в структуре интегрального ядра уравнения (15), как следует из (8), (9), присутствуют

функции корреляции более высоких порядков [5, 6].



Беларуси

85

В теоретических исследованиях структуры облачных полей и радиации наибольшее распро-странение получила двухкомпонентная (бинарная) модель облачности, под которой понимается стохастическая система, состоящая из двух компонент (облако – чистое небо), имеющих случай-ную форму и рассеивающих или поглощающих излучение различным образом. Примером такой системы является бинарная марковская смесь [1, 9, 10], параметры рассеяния которой

( ) ( ) ( )1 1 2 2z z zε = ε χ + ε χ , ( ) ( ) ( )1 1 2 2z z zσ = σ χ + σ χ , ( ) ( ) ( )1 1 2 2z z zκ = κ χ + κ χ ,

где iε , iσ , iκ – показатели ослабления, рассеяния и поглощения компоненты смеси с номером i ( 1, 2i = ), ( )ziχ – индикаторная функция, удовлетворяющая свойствам

( ) ( ) 121 =χ+χ zz , ( ) ( ) 021 =χχ zz .

Безусловная вероятность наличия в произвольной точке z компоненты смеси с номером i равна ( ) ( )1 2i i ip z= χ = λ λ + λ ( iλ – средняя хорда этой компоненты), регулярные состав-ляющие показателей рассеяния

1 1 2 2p pε = ε + ε , 1 1 2 2p pσ = σ + σ , 1 1 2 2p pκ = κ + κ .

Для иллюстрации эффективности обсуждаемого подхода найдем средний коэффициент про-пускания бинарной марковской смеси для бесконечно широких пучков излучения, падающего на верхнюю границу рассеивающего слоя.

Выполняя фурье-преобразование (14) функции (8), (9), после несложных преобразований получим

( ) ( ) ( ) ( ) ( )1 1

1; ; exp 1 1 !

n i in

iK z z z i− −

== α −β − δ −∑pω , (16)

( ) ( )( )( ) ( ) ( ) ( )1 1; ; exp 1 1 1 !n n nnK z z z n+ +Δ = α − β + ςδ − − ς ςδ +pω , (17)

( ) 21 2 1 2p pα = κ − κ , 1 1

1 2− −β = ε + λ + λ , ( )( )1 2 2 1p pδ = κ − κ − , (18)

где ς – произвольное число, удовлетворяющее условию 0 1< ς < . Для рассматриваемой стати-стической модели соотношение (16) определяет структуру интегрального ядра уравнения (15), выражение (17) – структуру остаточного члена этого ядра. Так, из формул (16) – (18) видно, что наибольшую точность следует ожидать при выполнении хотя бы одного из следующих условий:

1 0p ≈ ( 2 1p ≈ ), 1 1p ≈ ( 2 0p ≈ ), 1 2p p≈ , 0z ≈ , 1 2κ ≈ κ , n→∞ .

Рассмотрим последнее из этих условий подробнее. Соотношение (16) при n→∞ есть фак-тически разложение экспоненты с отрицательным показателем в ряд Маклорена. Суммируя этот ряд, получим:

( ) ( ); ; expK z z∞ ∞= α −βpω , (19)

( ) 1 11 2 1 2 2 11 f p p− −

∞β = − σ + λ + λ + κ + κ . (20)

Решение уравнения (15) для интегрального ядра (19), (20) находится просто:

( ) ( ) ( )1 21 2

1 2 2 1exp expS z z z∞ ∞γ −β γ −β= −γ + −γ

γ − γ γ − γ, (21)

( ) 21

20,5 4f f∞ ∞

γ ⎫ ⎛ ⎞= β + κ + σ ± α + β − κ − σ⎬ ⎜ ⎟⎝ ⎠γ ⎭, (22)

где ( ) ( ) ( )0S z I z I z= = – средний коэффициент диффузного пропускания стохастического слоя.



Беларуси

86

Оценим условия применимости полученного решения. Очевидно, что точность формул (21), (22) тем выше, чем выше точность малоуглового приближения, которое без существенных огра-ничений может быть использовано, когда

1 1− μ << , ( )1 0,5zλσ − μ ≤ , (23)

где ( )1

10,5 g d

−μ = μ μ μ∫ – средний косинус индикатрисы рассеяния (например, для аэрозольной

атмосферы 0,7μ ≅ , для облаков 0,95μ ≅ ), λz – характерный размер среды, например, ее тол-щина [7]. Вместе с тем, для модели чисто поглощающего стохастического слоя в работе [11] имеется точное решение задачи. Анализ математической структуры коэффициента пропускания (21), (22) при условии 0σ = и результатов [11] указывает в этом случае на их полную иден-тичность. Таким образом, полученное решение (21), (22) уравнения (15) в случае чисто погло-щающей среды переходит на бесконечности в точное. Наличие такого решения можно обосно-вать следующими соображениями. В основу разработки малоуглового метода итераций были положены два принципиальных ограничения. С одной стороны, точность рассматриваемого подхода изначально ограничена точностью самого метода итераций, заменяющего при каждом фиксированном значении n статистически полное (с использованием характеристических функ-ционалов) описание оптических параметров среды приближенным, основанным на применении аппарата корреляционных функций. С другой стороны, точность метода ограничена точностью малоуглового приближения. В случае стохастической среды без рассеяния эти ограничения не-существенны. Так, первое ограничение, очевидно, не имеет значения при условии n →∞ , мате-матически эквивалентном точному описанию, так как структура характеристического функцио-нала в этом случае может быть восстановлена через его разложение в ряд по кумулянтам [4]. Что же касается второго ограничения, то для чисто поглощающей среды, когда выходящий пучок излучения формируется в основном прямопрошедшим светом, диффузного расплывания свето-вого потока не происходит и малоугловое приближение приводит к точному результату [11].

Оценим точность приближений низшего ( 4n ≤ ) порядка в сравнении с формулами (21), (22), считая условия применимости малоуглового приближения (23) выполненными. Пусть ( )S z – коэффициент пропускания рассеивающего слоя, рассчитанный для интегрального ядра (16),

( )S z∞ – коэффициент пропускания (21), (22). Относительную погрешность приближения n обо-

значим ( ) ( )1 S z S z∞η = − и определим безразмерные оптические величины: оптическую глу-

бину слоя zτ = ε , масштаб флуктуаций показателей ослабления 2 1Θ = ε ε , альбедо однократ-ного рассеяния i i iΛ = σ ε ( 1, 2i = ) i -й компоненты смеси. Некоторые результаты проделанных вычисле-ний представлены на рис. 1, 2.

Зависимость величины η от масштаба флуктуа-ций Θ для различных приближений n показана на рис. 1. Как видно, изменение величины флуктуаций от значения 1Θ = до 100 при фиксированном n ока-зывает заметное влияние на точность метода. Как и следовало ожидать, наиболее чувствительными к из-менению Θ оказываются приближения более низких порядков. Так, например, при величине флуктуаций

50Θ ≈ с погрешностью не более 9% коэффициент пропускания может быть рассчитан в приближении

1n = . Погрешность приближения 2n = в этом случае составит около 2%, приближений 3,4=n – не более 0,5%. Этот факт, кроме формально-математического

Рис. 1. Зависимость величины ошибки η от мас-штаба флуктуаций Θ показателей ослабления для приближений 1, 2, 3, 4n = (кривые 1–4) и

10, 9Λ = ,

20, 5Λ = ,

10, 4p = , 3τ =



Беларуси

87

(приближения более высоких порядков и должны обеспечивать большую точность), имеет и фи-зическое содержание. Решение стохастического уравнения переноса (1) для конкретной стати-стической модели среды предполагает знание всех ее статистических свойств. Наиболее полно эти свойства описываются характеристическими функционалами [4]. В рамках метода итераций статистическое описание случайного поля параметров среды производится приближенно с ис-пользованием различного порядка корреляционных функций. Увеличение порядка n приближе-ния на единицу приводит в этом случае к увеличению порядка соответствующей функции кор-реляции. Описание поля становится более детальным.

Результаты расчетов (рис. 2) демонстрируют зависимость величины η от альбедо 2Λ и ве-роятности 1p в приближении 1n = . Анализ рисунка показывает, что точность метода итераций очень сильно зависит от вероятности 1p и, в конечном счете, от концентрации неоднородностей (облаков) в объеме рассеивающего слоя. Так, в области 1 0p ≈ , 1 1p ≈ и 1 2p p≈ величина 0η≈ и практически не зависит от альбедо 2Λ . Физическое объяснение этого факта заключается в следующем. Выполнение условий 1 0p ≈ или 1 1p ≈ приводит к вырождению неоднородной двухкомпонентной смеси в однородную, состоящую только из вещества 1-й компоненты при

1 1p ≈ или из вещества 2-й компоненты при 1 0p ≈ . Ясно, что величина альбедо 2Λ в этом слу-чае уже не имеет значения. Аналогичная ситуация будет наблюдаться и при выполнении условия

1 2p p≈ , означающего, что в объеме рассеивающего слоя обе компоненты марковской смеси представлены равновероятно. Двухкомпонентную смесь в этой ситуации можно рассматривать как однокомпонентную с эффективными значениями показателей ослабления и рассеяния, рав-ными ε и σ соответственно. Влияние параметра 2Λ на величину η проявляется в том, что при уменьшении альбедо до значения 2 0,4Λ = (кривая 1) наблюдается усиление зависимости η от 1p и 2Λ ; напротив, с увеличением 2Λ (кривые 2–4) влияние 1p и 2Λ на величину ошибки η становится менее заметным. Усиление зависимости при 2 0,4Λ → объясняется возрастанием отличий в оптических свойствах компонент бинарной смеси (облака и чистого неба). Так, при

1 0,98Λ = 1-я компонента смеси (облако) является практически чисто рассеивающей средой, в то время как 2-я компонента (небо) при 2 0,4Λ = значительную часть излучения будет поглощать.

Анализ данных, представленных на рисунках, позволяет заключить, что рассмотренный ме-тод решения уравнения переноса обеспечивает дос-таточно хорошую сходимость результатов и в об-ласти крупномасштабных флуктуаций 1Θ >> пара-метров рассеяния. Этим обстоятельством итераци-онный метод принципиально отличается от классической теории возмущений [7], справедливой только в области слабых флуктуаций ( 1 1−Θ ≈ ).

Основные результаты исследования. Представлен аналитический метод решения сто-

хастического уравнения переноса – малоугловой ме-тод итераций, справедливый для рассеивающих сред с произвольной статистикой оптических пара-метров и сильно анизотропным рассеянием.

Для приближений низшего порядка ( 4n ≤ ) мето-да итераций в рамках одномерной статистической модели бинарной марковской смеси произведена оценка точности решений метода и на качественном уровне исследовано влияние вариаций параметров рассеяния бинарной смеси на точность этих решений.

Рис. 2. Влияние безусловной вероятности наличия облака 1p на точность η приближения 1n =

метода итераций для различных значений альбедо

2 0, 4, 0, 5, 0, 6, 0, 7Λ = (кривые 1–4) и 10Θ = ,

1 0, 98Λ = , 3τ =



Беларуси

88

В приближении n→∞ получено выражение для коэффициента диффузного пропускания бинарной марковской смеси, которое в частном случае чисто поглощающей смеси сходится к точному результату.


1. P o m r a n і n g G. C. Linear Kinetic Theory and Particle Transport in Stochastic Mixtures. Singapore: World Scien-tific Publishing, 1991.

2. В а л е н т ю к А. Н., П р е д к о К. Г. Оптическое изображение при дистанционном наблюдении. Минск, 1991. 3. А н и к о н о в Д. С., К о в т а н ю к А. Е., П р о х о р о в И. В. Использование уравнения переноса в томо-

графии. М., 2000. 4. Р ы т о в С. М., К р а в ц о в Ю. А., Т а т а р с к и й В. И. Введение в статистическую радиофизику. Ч. 2. Слу-

чайные поля. М., 1978. 5. В а л е н т ю к А. Н., Ц ы м б а р е в и ч Е. Г. // Изв. РАН. Сер. ФАО. 1999. Т. 35, 1. С. 58–65. 6. Ц ы м б а р е в и ч Е. Г. // Журнал прикладной спектроскопии. 2004. Т. 71, 4. С. 496–501. 7. З е г е Э. П., И в а н о в А. П., К а ц е в И. Л. Перенос изображения в рассеивающей среде. Минск, 1985. 8. Д е ч Г. Руководство к практическому применению преобразования Лапласа и Z-преобразования / Пер. с нем.

М., 1971. 9. М а л в а д ж и Ф., П о м р а н и н г Г. С. // Оптика атмосферы. 1993. Т. 6, 9. С. 1064–1088. 10. Т и т о в Г. А., Ж у р а в л е в а Т. Б. // Оптика атмосферы и океана. 1999. Т. 12, 3. С. 207–214. 11. V a l e n t y u k A. N. // JQSRT. 1996. Vol. 56, N 3. P. 447–464.

Y. G. TSYMBAREVICH

TO THE THEORY OF RADIATION TRANSFER IN SCATTERING STRONGLY FLUCTUATING MEDIA

Summary A small-angle iteration method of analytical approximate solving of a stochastic equation of transfer is described. This

method is valid for any statistics of a medium and strongly anisotropic scattering. Its convergence and accuracy are studied for a binary Markovian mixture. The method is shown to be applicable for description of radiation transfer in media with strongly fluctuating optical properties.



Беларуси

89


УДК 535.212. А. Г. НЕПОКОЙЧИЦКИЙ1, Б. И. ИГНАТОВ2, К. В. ФРАНЦКЕВИЧ1, С. Г. АСТАШЕНКО1

НЕКОТОРЫЕ ОСОБЕННОСТИ ФОРМИРОВАНИЯ МЕТАЛЛИЧЕСКИХ ПОКРЫТИЙ НА МЕТАЛЛООКСИДНЫХ КОМПОЗИЦИЯХ

1Институт технологии металлов НАН Беларуси 2Могилевский государственный университет продовольствия


Низкотемпературная плазма и лазерное излучение широко используются для инициирования гетерогенных химических процессов и, в частности, для активирования реакций химического восстановления металла из его оксида при поверхностной металлизации оксидных материалов [1, 2]. Для оксидных материалов, обладающих повышенным активационным порогом восстано-вительной реакции, предложено формировать поверхностный слой металла восстановлением с помощью СВЧ-плазмы [3]. Однако восстановление металла из его оксида на поверхности фер-рит-гранатов в СВЧ-плазме нередко сопровождается высоким объемным нагревом образца, а локализация процесса металлизации поверхности вызывает существенные затруднения. Мето-ды металлизации, основанные на нанесении металла извне (напыление, вжигание паст и др.), в большинстве своем многооперационны, сложны в производстве и не всегда способны решать возникающие проблемы в прецизионном приборостроении [4].

Более перспективными являются методы, основанные на использовании электроразрядной плазмы, лазерного излучения и других высокоэнергетических источников. Известно, что в зоне электрического разряда на поверхности оксидов металлов происходит их локальное восстанов-ление (рис. 1) [5].

На основе этих исследований разработан метод локального восстановления металла из окси-да феррита. Для получения линейных металлических каналов на ферритах используются два электрода, контактирующие с ферритом, погруженным в защитно-восстановительную жидкость. При подаче на них постоянного напряжения определенной величины происходит поверхност-ный пробой с выделением металла. Если после этого один из электродов перемещать по поверх-ности феррита, то в результате воздействия многочисленных электрических пробоев образуется металлический канал по форме траектории движения электрода [6]. Одновременное перемеще-ние двух электродов в направлении, перпендикулярном первичному каналу (между электрода-ми), позволяет получить достаточно широкий канал, равный промежутку между электродами. Фигурное покрытие можно сформировать при изменении промежутка между электродами

Рис.1. Металлические образования на оксиде меди, полученные под действием одного импульсного разряда (а);

между двумя электродами при напряженности поля, недостаточной для возникновения пробоя (b); вид металлической дорожки, образованной при пробое в защитно-восстановительной жидкости (c) и без нее на воздухе (d)



Беларуси

90

в процессе перемещения электро-дов. Данным методом получены металлические дорожки шириной от десятых долей миллиметра до нескольких миллиметров.

Исследования показали, что рост металлической дорожки при пробое под действием постоянно-го напряжения начинается от ка-тода и ускоренно продвигается к аноду. Процесс образования металлической дорожки при пе-ремещении правого электрода представлен на мгновенной фото-графии (рис. 2).

Исследования пробоя оксид-ной пластинки из Сu2О, пропитанной защитно-восстановительной жидкостью, показали что стенки сквозного и глухого отверстий покрыты восстановленным металлом, а на поверхности в зоне пробоя имеются сверху и снизу кольцевые металлизированные образования (см. рис. 2).

Характерное изменение тока, протекающего между электродами в процессе пробоя, показано на рис. 3. Участок ОА характеризует предпробойную стадию. В этот промежуток времени на по-верхности образца никаких видимых изменений не наблюдается, т. е. происходит своеобразная подготовка образца к пробою. Пробойную стадию характеризует участок АВ, а послепробойную – участок ВС.

Металлические покрытия, образованные путем восстановления оксидов металлов под дейст-вием электрических разрядов, несколько заглублены в тело образца. Они могут быть утолщены электролитическим способом, напылением или каким-либо другим методом. После одновремен-ной механической обработки (шлифовки, полировки) получаются металлические покрытия, за-глубленные в поверхностном слое и не выступающие из него.

Учитывая практическую и научную значимость данного метода, были проведены дополни-тельные исследования.

Особенностью рассмотренного способа металлизации является проведение процесса в усло-виях неравновесной плазмы и при температуре, близкой к комнатной. В качестве защитно-восстановительной жидкости использовались различные виды спиртов и их смеси, трансформа-торное масло и другие жидкие смеси.

Неравновесная плазма при электрическом пробое возникает из-за низкой теплопроводности материалов. Эксперименты показали, что при расположении электродов на поверхности ферри-та, находящегося под слоем жидкости, электрический пробой происходит по поверхности ферри-та, контактирующего с жидкостью. Изучение начальных стадий пробоя с помощью скоростной съемки на установке СФР-1 с лазерной подсветкой показало, что развитие пробоя начинается с формирования оптических неоднородностей в пространстве между электродами. Жидкость в местах образования будущих металлических дорожек становится малопрозрачной.

На снимках с разрешением порядка одного микрометра видно густое переплетение микроскопических тонких нитей – пробой развивается в виде древовидной формы – дендрита. Бы-ла высказана гипотеза, что эти неоднородности связаны с обра-зованием в жидкости газовых микропузырьков, вызванных ее разогревом токами эмиссии, автоионизацией молекул [7]. По нашим наблюдениям, здесь происходит локальная диссоциация молекул под действием ударной ионизации и высокой темпера-туры в зоне электрического разряда. Следствием этого является образование объемного заряда на границе раздела феррит – жидкость в зоне расположения электродов. Под воздействием

Рис. 2. Образование металлического канала в направлении перемещения правого электрода (1),

продольные шлифы глухого (2) и сквозного(3) отверстий

Рис. 3. Характерное изменение тока в процессе электрического пробоя



Беларуси

91

электроразрядной плазмы происходит диссоциация спирта, и в объемном заряде появляются возбужденные атомы водорода и молекулы оксида углерода. Гетерогенные процессы восстанов-ления железа из его оксида можно рассматривать как газификацию связанного кислорода коле-бательно-возбужденными водородом и оксидом углерода [8]. Восстановление металла начинает-ся с поверхности и доходит до глубины, не превышающей глубины рекомбинации атомов водо-рода. Эффективность атомарного водорода связана с его относительно высоким коэффициентом диффузии в решетке оксидного материала. В [8] отмечается, что поток атомов водорода в кон-денсированную фазу может обеспечиваться диссоциацией Н2 как в плазме электрического раз-ряда, так и в поверхностном слое, что позволяет за счет утилизации энергии абсорбции снизить порог диссоциации до величины ∼ 2 эВ. Для сравнения порог диссоциации Н2 в объеме состав-ляет 4,4 эВ. Отмеченное снижение порога диссоциации Н2 и увеличение потока атомов восста-новителя в конденсированную фазу происходит вследствие колебательного возбуждения адсор-бированных атомов водорода при нагреве поверхности образца электроразрядной плазмой.

При импульсном характере воздействия теплового потока на поверхность распределение температуры по поперечному сечению образца будет неустановившимся, и при коротких мощ-ных импульсах температура различных слоев различается во много раз. Соответствующим под-бором мощности теплового потока, длительности импульса и частоты его повторения можно нагреть тонкий поверхностный слой без разогрева всего образца. Уравнение теплопроводности при импульсном воздействии плазмы электрического разряда имеет вид [9]:

0ρ λ ,Т Tс Qt z z

∂ ∂ ∂⎛ ⎞= +⎜ ⎟⎝ ⎠∂ ∂ ∂ (1)

где ρ, с, λ – плотность, удельная теплоемкость, коэффициент теплопроводности, Q0 – поток те-пла, действующий на поверхность образца в момент времени t = 0, z – координата; начало коор-динат находится на поверхности, положительное направление направлено вглубь образца.

Поток тепла, действующий на плоскую границу раздела фаз при импульсе электрического разряда, имеет вид [9]:

0 ,Sо VT TQ n P v h= ν (2)

где п0 – концентрация ионов в плазме разряда, SVTР – вероятность колебательной релаксации воз-

бужденных молекул на поверхности образца, vT – средняя тепловая скорость молекул, hν – ко-лебательный квант.

Решение уравнения (1) при допущении, что коэффициент теплопроводности при кратковре-менных импульсах разряда не зависит от температуры, имеет вид:

2

00

0

( , ) exp τ.4 ( τ)π( τ)

t q zT z t T da ta t

⎡ ⎤= + −⎢ ⎥−− ⎣ ⎦

∫ (3)

Здесь λ /ρа с= – коэффициент температуропроводности, 0 0 /ρq Q c= , Т0 – начальная тем-пература образца.

На поверхности образца температура равна:

0 0(0, ) 2 .πtT t T q

a= + (4)

Мощность потока Q0, необходимая для разогрева поверхностного слоя глубиной h на вели-чину ΔT, равна:

00,6 π ρ .Q ca T

h= Δ (5)



Беларуси

92

Из выражения (5) следует, что в слаботе-плопроводящих мате-риалах неравновесный разогрев тонкого слоя поверхности можно осуществить достаточ-но просто.

Металлические ка-налы на феррите, сфор-мированные под воздей-ствием электроразряд-ной плазмы под слоем

защитно-восстановительной среды, получены углубленными в материал феррита на глубину 0,1–0,3 мм. Этот факт можно объяснить тем, что объем металла, получающегося в результате восстановления оксидов феррита, меньше, чем объем исходных оксидов. Эта разность объемов и определяет величину заглубления металлической дорожки в тело феррита. Восстановленный металл дорожки имеет высокую адгезию к подложке. Примеры применения данного метода формирования металлических каналов представлены на рис. 4.

Разработанный метод формирования металлических покрытий путем восстановления метал-ла из его соединения не является индивидуальной особенностью ферритов. Он также в своей основе позволяет производить металлизацию и других систем. Этим методом получены метал-лические покрытия на оксидах меди, свинца, никеля, азотнокислого серебра, хлористых кадмия и меди.

Метод может быть применен в прецизионном приборостроении при изготовлении магнит-ных антенн, модуляторов, фазовращателей в СВЧ-технике, пассивных LRC элементов, сквозных токопроводящих каналов, высокопрецизионных неразъемных соединений феррита с ферритом или металлом в радиотехнике, электронике, вычислительной технике и в других областях.


1. Н е п о к о й ч и ц к и й А. Г. // Проблемы прикладной оптики. Могилев, 2000. С. 429–458. 2. И г н а т о в Б. И., Н е п о к о й ч и ц к и й А. Г. // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2007. 3. С. 79–84. 3. А л е ш и н а Н. М., К о р о т к о в Н. А., Н е п о к о й ч и ц к и й А. Г. и др. // Физ. и хим. обработки материа-

лов. 1981. 5. С. 57–59. 4. К о н ю ш к о в Г. В., З о т о в Б. М., М е р к и н Э. И. Ферриты и их соединения с металлами и керамикой.

М., 1979. С. 126–133. 5. Способ нанесения токопроводящих металлических слоев на окислах металлов: а. с. 320862 СССР, МКИ.Н01L19/00.

А. Г. Непокойчицкий; Могилевский педагогический ин-т. 1158405/26–25; заявл. 16.05.1967; опубл. 04.11.1971 // Открытия. Изобретения. 1971. 34.

6. Н е п о к о й ч и ц к и й А. Г., И г н а т о в Б. И., Ф р а н ц к е в и ч К. В. и др. // Современные методы и тех-нологии создания и обработки материалов: Материалы второй междунар. науч.-техн. конф. Минск, 3–5 октября 2007 г. / НАН Беларуси, Физико-технический институт; редкол.: С. А. Астапчик [и др.]. Минск, 2007. Ч. 2. С. 227–231.

7. Б о р и с о в М. Э., К о й к о в С. Н. Физика диэлектриков. Л., 1979. 8. Р у с а н о в В. Д., Ф р и д м а н А. А. Физика химически активной плазмы. М., 1984. 9. Б о ч и н В. П., Р у с а н о в В. Д., Л у к ь я н ч у к А. Н. и др. // Вторая Междунар. школа по физике и техни-

ке низкотемпературной плазмы. Минск, 1976. С. 20–25.

A. G. NEPOKOJCHITSKIJ, B. I. IGNATOV, K. V. FRANTSKEVICH, S. G. ASTASHENKO

SOME PECULIARITIES OF FORMATION OF METAL COATINGS ON METAL-OXIDE COMPOSITIONS

Summary Some regularities of formation of metal coatings on metal-oxides and ferrite under the influence of electrochemical and

electroplasmic processes are viewed. A method of obtaining coatings of any shape and size is suggested. It is applicable in radio and electrotechnics, electronics, calculation techniques for production of passive LRC elements, current conductor chan-nels on the surface and inside oxide materials and for other purposes.

Рис. 4. Ферритовый полый шарик с экваториальным металлическим пояском (1),

кольцевая катушка индуктивности (2), увеличенный участок катушки индуктивности (3),

образцы резисторов и емкостей, сформированные на ферритовой пластинке (4)



Беларуси

93


УДК 544.022.347 Н. А. КАЛАНДА1, Л. В. КОХАНОВСКИЙ2, А. А. ПАВЛЕНКО1

ДИНАМИКА ДЕСОРБЦИИ И КИСЛОРОДНАЯ НЕСТЕХИОМЕТРИЯ В La0.6Sr0.4MnO3-δ

1Объединенный институт физики твердого тела и полупроводников НАН Беларуси 2Институт общей и неорганической химии НАН Беларуси


Введение. Особый интерес к твердым растворам манганитов LaxR1-xMnO3-δ (где R – редкозе-мельный элемент), обусловлен наличием конкурирующих электрон-электронного и электрон-фононного взаимодействий, способствующих формированию пространственно разделенных ферромагнитных и антиферромагнитных областей. Наличие в таких системах орбитального и зарядового упорядочений стимулирует появление гигантского магнитосопротивления, спин-поляризованного электрического транспорта и других практически важных характеристик [1–3]. Наиболее перспективным является лантан-стронциевый манганит состава La0,6Sr0,4MnO3-δ, кото-рый характеризуется максимальными значениями магниторезистивного эффекта вблизи фазово-го перехода «ферро – парамагнетик». Такой манганит обладает уникальной взаимосвязью элек-трических, магнитных и других свойств, а также имеет кислородную нестехиометрию и исполь-зуется в качестве катодного материала [4, 5].

Физико-химические свойства легированных манганитов в значительной степени определя-ются способностью марганца находиться в различных степенях окисления (Mn4 +, Mn3 + с элек-тронными конфигурациями t 3

2g e 1g (S=2), t 3

2g e 0g (S=3/2) соответственно) и электронным обменом

между Mn3+ и Mn4+ [6, 7]. Пространственное расположение цепочек связей Mn4+-O-Mn3+ допус-кает двойной обмен, зависящий от перекрытия электронных орбиталей и угла связей между ни-ми. Любые искажения кристаллической решетки, обусловленные кислородной дефектностью, оказывают сильное воздействие на электротранспортные и магнитные свойства лантан-стронциевого манганита [8, 9].

Изменение кислородного индекса может быть достигнуто при термической обработке образ-цов в окислительно-восстановительных средах с различным парциальным давлением кислорода. Поэтому для получения La0,6Sr0,4MnO3-δ с оптимальными электрофизическими характеристиками и повышения длительности ресурса эксплуатации приборов на их основе необходимо знание и контроль анионного состава образцов, что приводит к необходимости изучения подвижности кислорода в соединении при различных термодинамических условиях, которые и по настоящий момент недостаточно исследованы. Это не позволяет эффективно получать манганиты с опти-мальным насыщением кислородом и его распределением в анионной подрешетке.

Эксперимент. При синтезе твердого раствора манганита La0.6Sr0.4MnO3-δ использовали окси-ды металлов La2O3, Mn2O3 и карбонат стронция SrCO3 марки «ОСЧ». Термообработку образцов осуществляли в резистивных термоустановках, в которых температура поддерживалась с помо-щью высокоточного регулятора температуры РИФ-101 и контролировалась Pt-Pt/Rh(10%) тер-мопарой с точностью ±0,5 К. Для удаления кристаллизационной влаги исходные химические соединения выдерживали в термоустановке в течение 10 ч при температуре 1120 К. Стехиомет-рическую смесь исходных оксидов металлов и карбоната стронция перемешивали в этиловом спирте и сушили при температуре 370 К до полного удаления спирта. Предварительный отжиг осуществляли на воздухе при 1170 К в течение 18 ч. Для повышения гомогенизации шихты



Беларуси

94

использовали вторичный помол. Затем порошок прессовали в таблетки диаметром 10 мм и тол-щиной 4–5 мм с усилием 1,5 тон. Синтез образцов осуществляли на воздухе при 1770 К с вы-держкой в течение 3 ч с последующим охлаждением в режиме выключенной термоустановки. Фазовый состав продуктов твердофазного синтеза контролировали с помощью рентгенофазо-вого анализа (РФА) на установке ДРОН-3 в CuKα-излучении с использованием базы данных ICSD-PDF2 (Release 2000).

Исследование характера десорбции – сорбции кислорода лантан-стронциевого манганита проводили на кулонометрическом измерительном комплексе OXYLIT (SensoTech, ФРГ) при различных парциальных давлениях кислорода (pO2) в интервале 5 ≤ pO2 ≤ 150 Па [10]. Призна-ком достижения равновесия служило совпадение массы образца при одинаковых температурах в процессе подъема и снижения температуры с точностью, соответствующей точности взвешивания (± 3·10–5 г). Образцы нагревались с постоянными скоростями (νнагр = 180, 300, 420, 540, 660 К/ч) от 300 до 1270 К в токе смеси газов аргона и кислорода при различной концентрации (pO2 = 5, 50, 100, 150 Па), выдерживались до установления равновесия с газовой средой, а затем охлаж-дались в той же газовой среде до 300 К. На основании анализа изменения содержания кисло-рода рассчитывали изменения параметра кислородной нестехиометрии δ по формуле:

2

11 0δ ( )

t

Dt

k I I d t= −∫ , где k1 – постоянная величина, I0 – базовый ток титрования, ID – теку-

щий ток титрования. Результаты и обсуждение. Формы минимумов тока титрования, которые соответствуют

максимумам скорости выделения кислорода, указывают на сложный характер изменения скоро-сти десорбции кислорода из лантан-стронциевого манганита. Типичные временные зависимости тока титрования ID и кислородной нестехиометрии δ, полученные в ходе нагревания со ско-

ростью νнагр = 180 К/ч, выдержки до уста-новления равновесия с газовой фазой при Т = 1270 К с последующим охлаждением со скоростью νохлаж = 660 К/ч, приведены на рис. 1 (а, б). При pO2≤100 Па наблюдает-ся появление слабовыраженного первого минимума min ID(1)180 К/ч с плавным пере-ходом на второй более выраженный min ID(2)180 К/ч, который выделяется в само-стоятельный экстремум при pO2 = 5 Па с Тmin ID(1)180 К/ч= 1070 К.

Температура второго минимума при pO2 = 50, 100, 150 Па была Тmin ID(2)180 К/ч = 1270 К, а при pO2 = 5 Па – Тmin ID(2)180 К/ч = 1200 К. С охлаждением образцов от Т = 1270 К практически сразу же происходило по-глощение кислорода, причем значения Тmax ID(1)660 К/ч, при которых наблюдали максимальные скорости сорбции кислорода, являлись функцией pO2. С уменьшением парциального давления кислорода значе-ния Тmax ID(1)660 К/ч росли (рис. 1). При рассмотрении количества десорбируемого кислорода после термоциклирования (Δ(3-δ)300→1270→300 К) и количества десорби-руемого кислорода после нагрева от 300 до 1270 К (Δ(3-δ)300→1270 К) обнаружено, что значения Δ(3-δ)300→1270→300 К и Δ(3-δ)300→1270 К

Рис. 1. Изменение тока титрования (ID) и величины

кислородного индекса (3-δ) в ходе термического воздействия на образцы La0.6Sr0.4MnO3 при различных парциальных

давлениях кислорода pO2 = 100 Па (а), 5Па (б)



Беларуси

95

увеличиваются с понижением pO2 (рис. 2). Величина поглощенного кислорода при охлаждении образцов от Т = 1270 К до Т = 300 К (Δ(3-δ)1270→300 К) имеет максимальные значения при pO2 = 100 Па. Такое поведение Δ(3-δ)1270→300 К скорее всего связано с кинетическими трудностя-ми при диффузии кислорода в образце La0,6Sr0,4MnO3-δ. Замечено, что значения (3-δ)300→1270 К при нагреве и pO2 = 150, 100, 50 Па не выходили на насыщение. Для обоснования вышеуказан-ного предположения рассмотрим спектры десорбции – сорбции кислорода при больших скоро-стях нагрева.

При увеличении скорости нагрева до νнагр= 660 К/ч значения (3-δ)300–1270 К уменьшались и вы-ходили на насыщение при pO2 = 150, 100, 50 Па, тогда как при pO2 = 5 Па и после 100 мин вы-держки происходило изменение значений кислородного индекса. Обнаружено, что первый ми-нимум min ID(1)660 К/ч проявился лишь только при pO2 = 5 Па и Тmin ID(1)660 К/ч = 1090 К с плав-ным переходом на более выраженный второй минимум Tmin ID(2)660 К/ч = 1215 К. Значения Тmin ID(2)660 К/ч не опускались ниже 1270 К при pO2 = 50, 100, 150 Па, а при охлаждении от Т = 1270 К наблюдалось резкое поглощение кислорода, где Δ(3-δ)1270→300 К=f(pO2). С уменьшением парциального давления кислорода Тmax ID(1)660 К/ч = 1270 К, а при pO2 = 5 Па Тmax ID(1)660 К/ч = 1170 К. Количество десорбируемого кислорода Δ(3-δ)300→1270→300 К и Δ(3-δ)300→1270 К увеличивается при отжиге, как и при νнагр= 180 К/ч с понижением pO2, но до меньших значений. Величина по-глощенного кислорода Δ(3-δ)1270→300 К при охлаждении образцов от 1270 до 300 К имеет практи-чески ту же зависимость от pO2, что и при νнагр= 180 К/ч.

Рассмотрим особенности дефектообразования при 150 ≤ pO2 ≤ 5 Па в лантан-стронциевом манганите. В кристаллической решетке соединения La0,6Sr0,4MnO3-δ при значениях кислородного индекса меньше трех образуются анионные вакансии (V ••

ο ) с одновременным перераспределе-нием заряда между катионами Mn3+ и Mn4+. С учетом соблюдения электронейтральности, квази-химическую реакцию дефектообразования, при восстановлении в кристаллической решетке ле-гированного оксидом стронция манганита лантана, записывают в виде:

La +−

31 х Sr +2

х Mn +−

31 х Mn +4

х O −23 ↔ La +

−31 х Sr +2

х Mn ++−

321 δх Mn +

−4

2δх O −22 (V ••

ο )δO −−

21 δ +δ/2О2↑. (2)

Рис. 2. Зависимость кислородного индекса (3-δ) и его изменения Δ(3-δ)

от парциального давления кислорода (pO2) в процессе отжига



Беларуси

96

Из выражения (2) видно, что с увеличением δ концентрация [Mn4+] = x–2δ уменьшается, а [Mn3+] = 1–x + 2δ – растет. Можно предположить, что min ID(1)180 К/ч обусловлен разрывом свя-зей анионов с октаэдром, у которого в центре расположен Mn4+(6), так как сила электростатиче-ского отталкивания между анионами выше, чем в октаэдрах с Mn3+(6) из-за разницы катионных радиусов (r(Mn3+(6))= 0,645Å, r(Mn4+(6)) = 0,530Å) [11]. Появление кислородных вакансий спо-собствует восстановлению катиона марганца Mn4+ с перераспределением электронной плотности и образованию Mn3+ в пентаэдрическом окружении лигандов с r(Mn3+(5))= 0,580Å [11]. При уве-личении температуры наблюдается min ID(2)180 К/ч который имеет связь с выделением анионов из октаэдров в центре которых расположен Mn3+(6). В этом случае образуется Mn3+(5), а пере-распределенная электронная плотность восстанавливает катионы марганца Mn4+(6) до Mn3+(6). Поскольку при восстановлении эффективные ионные радиусы катионов марганца в октаэдре r(Mn3+(6))= 0,645Å, r(Mn3+(5)) = 0,580Å и r(Mn4+(6)) = 0,530Å значительно различаются, увели-чение [Mn3+] в пентаэдрическом и октаэдрическом окружении лигандов приводит к росту моль-ного объема. Кроме этого, образование кислородных вакансий также будет способствовать росту эффективного ионного радиуса r(Mn) из-за их разрыхляющей природы. Это ведет к росту на-пряжений в зерне при min ID(2)180 К/ч больше, чем при min ID(1)180 К/ч. В результате, из-за умень-шения коэффициента химической диффузии кислорода при увеличении концентрации кисло-родных вакансий в процессе отжига при νнагр = 660 К/ч, образуется более напряженный слой на поверхности зерна, чем при νнагр = 180 К/ч, что вызывает дополнительные кинетические трудно-сти при восстановлении La0,6Sr0,4MnO3-δ. В этом случае скорость десорбции определяется диффу-зией кислорода по напряженному слою, что объясняет уменьшение количества выделившегося Δ(3-δ)300→1270 К, Δ(3-δ)300→1270→300 К и поглотившегося Δ(3-δ)1270→300 К кислорода при увеличении скорости нагревания образцов La0,6Sr0,4MnO3-δ. На зависимость диффузионных процессов при десорбции кислорода от концентрации анионных дефектов в лантан-стронциевом манганите указывают данные расчета значений энергии активации при pO2 = 5 Па.

Значения энергии активации для процессов выделения кислорода манганитом La0,6Sr0,4MnO3-δ

при pO2 = 5 Па с фиксированным по кислороду составом рассчитывается по формуле: Еа = –Rdln(dδ/dt)v/d(1/T), где t – продолжительность процесса, R – газовая постоянная, Т – темпера-тура эксперимента. На основании зависимости изменения δ от времени определяли температуры, со-ответствующие достижению одинаковых значений δ при различных скоростях нагрева [12–17]. Для установленного набора температур при фиксированных значениях δ, определяли соответствующий набор скоростей процесса, строили зависимости ln[(dδ/dt)v]–1/T и рассчитывали значения энергии

активации. Из анализа зависимо-сти скорости процесса окисления от температуры в арениусовских координатах (δ=const) установле-но, что наклон прямых ln(dδ/dt)v = f(1/T) монотонно изменяется с уве-личением δ.

На начальном этапе десорб-ции кислорода из La0,6Sr0,4MnO3-δ зависимость энергии активации диффузии кислорода имеет зна-чение ∼ 293 кДж/моль, по мере увеличения концентрации нуль-мерных дефектов она уменьша-ется до 241 кДж/моль и претер-певает минимум в интервале 0,0024 ≤ δ ≤ 0,0031, а затем уве-личивается до 260 кДж/моль при δ=0,004 (рис. 3).

Рис. 3. Зависимость энергии активации десорбции кислорода от кисло-родного индекса при pO2 = 5 Па



Беларуси

97

Выводы. Скорость выделения кислорода из La1-хSrхMnO3-δ является функцией парциального давления кислорода (pO2). Предполагается, что такое поведение энергии активации диффузии кислорода обусловлено наличием напряженного слоя на поверхности зерна. Во время выделения кислорода из La0,6Sr0,4MnO3-δ существует два минимума тока титрования, обусловленных разры-вом связей анионов с трехвалентным и четырехвалентным марганцем, а также образованием пе-реходного слоя, расположенного вблизи поверхности зерна, обедненного кислородом и одно-временно являющегося буфером для диффузии кислорода из зерна.


1. C o e y J. M. D., V i r e t M. // Advances in Physics. 1999. Vol. 48. N. 2. P. 167–293. 2. M i z u s a k i J., M o r i N., T a k a i H. // Solid State Ionics. 2000. Vol. 129. P. 163–177. 3. K h a r t o n V. V., Y a r e m c h e n k o A. A., N a u m o v i c h E. N. // Solid State Electrochem. 1999. Vol. 3.

P. 303–326. 4. Z h a n g a F. C., G o n g a W. Z., C a i a C., X u a B., Q i u a X. G., V a n f l e e t b R., C h o w c L., Z h a o a B. R. //

Solid State Communications. 2004. Vol. 131. P. 271–274. 5. Б а й к о в Ю. М., Н и к у л и н Е. И., М е л е х Б. Т., Е г о р о в В. М. // Физика твердого тела. 2004. Т. 46,

вып. 11. С. 2018–2024. 6. И з ю м о в Ю. А., С к р я б и н Ю. Н. // Успехи физических наук. 2001. Т. 171, 2. С. 121–148. 7. M i z u s a k i J., Y o n e m u r a Y., K a m a t a H. // Solid State Ionics. 2000. Vol. 132. P. 167–180. 8. Y a r e m c h e n k o A. A., N a u m o v i c h E. N. // Solid State Electrochem. 1999. Vol. 3. P. 303–326. 9. D e L e´ o n- G u e v a r a A. M., B e r t h e t P., B e r t h o n J., M i l l o t F., R e v c o l e v s c h I A. // Physical

review. 1997. Vol. 56, N. 10. P. 6031–6035. 10. B o d e M., T e s k e K., U l l m a n n H. // Fachzeitschrift fuer das Laboratorium. 1994. Vol. 38. P. 495–500. 11. T r u k h a n o v a S. V., L o b a n o v s k i L. S., B u s h i n s k y M. V., K h o m c h e n k o V. A., P u s h k a r e v

N. V., T r o y a n c h u k I. O., M a i g n a n A., F l a h a u t D., S z y m c z a k H., S z y m c z a k R. // Eur. Phys. J. B. 2004. Vol. 42. P. 51–61.

12. M i k k e l s e n L., S k o u E. // Journal of Thermal Analysis and Calorimetry. 2001. Vol. 64. P. 873–878. 13. B a k T., N o w o t n y J., R e k a s M., S o r r e l l C. C., V a n c e E. R. // Solid State Ionics. 2000. Vol. 135.

P. 557–561. 14. Y a s u d a I., O g a s a w a r a K., H i s h i n u m a M., K a w a d a T., D o k i y a M. // Solid State Ionics. 1996.

Vol. 8688. P. 1197–1203. 15. B e l t z n e r A., G u r T. M., H u g g i n s R. A. // Solid State Ionics. 1992. Vol. 57. P. 327–389. 16. K a m a t a H., Y o n e m u r a Y., M i z u s a k i J., T a g a w a H., N a r a y a K., S a s a m o t o T. // Physical

Chemical Solids. 1995. Vol. 56. P. 943–951. 17. M i z u s a k i J., M o r i N., T a k a i H., Y o n e m u r a Y., M i n a m i u e H., T a g a w a H., D o k i y a M.,

I n a b a H., N a r a y a K., S a s a m o t o T., H a s h i m o t o T. // Solid State Ionics. 2000. Vol. 129. P. 163–177.

N. A. KALANDA, L. V. KOCHONOVSKI, A. A. PAVLENKO

DESORBTION DYNAMICS AND OXYGEN NONSTOICHIOMETRY IN La0.6Sr0.4MnO3-δ

Summary On the basis of the obtained results it is established that the rate of oxygen evolution from La1-хSrхMnO3-δ is the function

of the partial pressure of oxygen (pO2). It is assumed that this behavior of the activation energy of oxygen diffusion is caused by the presence of the stressed layer on the grain surface. During the oxygen evolution from La0.6Sr0.4MnO3-δ there are two minimums of the current of titration caused by the bond cleveage of anions with trivalent and tetravalent manganese, and also by the formation of the transition layer located near the surface of the grain depleted with oxygen and simultaneously being a buffer for diffusing oxygen from the grain.



Беларуси

98


УДК. 621.372.413:535 А. П. ХАПАЛЮК

РЕШЕНИЕ УРАВНЕНИЙ МАКСВЕЛЛА ДИФРАКЦИОННОГО ТИПА

Институт прикладных физических проблем им. А. Н. Севченко БГУ


Как известно, решение практически важных дифракционных задач считается одной из наи-более сложных проблем всей теории электромагнитных волн [1–3]. В настоящее время такие за-дачи обычно формулируются как краевые задачи для уравнений Максвелла, и тем самым на пер-вом этапе их решения они приобретают чисто математический характер. Именно этот необходи-мый этап и представляется наиболее сложным. Только в частных наиболее простейших случаях удается решение таких задач довести до логического конца [1, 2].

Цель настоящей работы: получение точного аналитического решения краевых задач для уравнений Максвелла довольно общего вида дифракционного типа. Математическая постановка начального этапа задачи формулируется следующим образом. В стационарном (временной мно-житель exp i tω опускается) случае требуется найти решения уравнений Максвелла, которые в безразмерной декартовой системе координат (kx→x, ky→y, kz→z, k –волновое число) записы-ваются в виде

( , , )( , , ) ( , , )yz

xE x y zE x y z iH x y z

y z∂∂ − = −

∂ ∂,

( , , )( , , ) ( , , )yzx

H x y zН x y z iE x y zy z

∂∂ − =∂ ∂

( , , ) ( , , ) ( , , )x zy

E x y z E x y z iH x y zz x

∂ ∂− = −∂ ∂

, ( , , ) ( , , ) ( , , )x zy

Н x y z H x y z iE x y zz x

∂ ∂− =∂ ∂

(1)

( , , ) ( , , ) ( , , )y x

zE x y z E x y z iH x y z

x y∂ ∂− = −

∂ ∂,

( , , ) ( , , ) ( , , )y xz

Н x y z H x y z iE x y zx y

∂ ∂− =∂ ∂

Требуется найти такие решения уравнений (1), которые бы при z = 0 (на координатной плос-кости ху) совпадали с произвольно заданными функциями от х и у:

Ex(x, y, 0) = g1(x, y), Ey(x, y, 0) = g2(x, y), Нx(х, у, 0) = g3(х, у) Ну(х, у, 0) = g4(x, у). (2)

Произвольно заданные функции (2), которые обычно интерпретируются как тангенциальные составляющие векторов поля волны, достаточны для однозначного решения исходных уравне-ний Максвелла (1). В математике функции gj(x, y) (j = 1,2,3,4) обычно называются краевыми ус-ловиями, в физике – тангенциальными составляющими векторов поля волны [3].

Из общей теории электромагнитных волн известно, что каждая компонента векторов волны Е и Н по отдельности должна удовлетворять уравнению Гельмгольца

2 2 2

2 2 2( , , ) ( , , ) ( , , ) ( , , ) 0F x y z F x y z F x y x F x y zx y z

∂ ∂ ∂+ + + =∂ ∂ ∂

, (3)

где F(x, y, z) – любая компонента векторов поля волны. Если функция F(x, y, z) имеет производ-ные любого порядка по произвольному аргументу, то любая частная производная тоже будет удовлетворять уравнению Гельмгольца (3). Поэтому с самого начала ясно, что искомые решения



Беларуси

99

уравнений Максвелла (1) следует искать среди функций, удовлетворяющих уравнению Гельм-гольца (3). В данном случае будем исходить из следующих двух функций:

ξ η2

1 sin γ( , , ) (ξ,η) ξ η,γ4π

i x i yzF x y z f e d d∞

− −

−∞= ∫ ∫ (4)

ξ η2

1( , , ) (ξ,η)cos γ ξ η,4π

i x i yG x y z g ze d d∞

− −

−∞= ∫ ∫

где 2 2γ 1 ξ η .= − − Функции (4) удовлетворяют уравнению Гельмгольца при любых значениях подынтеграль-

ных функций f (ξ, η) и g (ξ, η), и их будем называть дифракционными интегралами соответст-венно первого и второго типов. Первый дифракционный интеграл является нечетной, а второй – четной функцией продольной координаты z. Функции F(x, у, z) и G(x, у, z) переменных х и у можно интерпретировать как оригиналы, а соответствующие подынтегральные функции пере-менных ξ, η – как трансформанты двумерного преобразования Фурье [4, 5]. Теперь очевидно, что решение поставленной задачи следует искать в виде линейной комбинации дифракционных интегралов (4)

ξ η2

1( , , ) ( , , ) ( , , ) (ξ,η)cos γ ξ η4π

i x i yj j j jx y z G x y z F x y z g ze d d

∞− −

−∞Φ = + = +∫ ∫

ξ η2

1 sin γ(ξ,η) ξ ηγ4π

i x i yj

zf e d d∞

− −

−∞∫ ∫ , (j= 1,2,3,4),

(5)

где введены обозначения

Ф1(х, у, z) = Ех(х, у, z), Ф2(х, у, z) = Ey(x, y, z),

Ф3(х, у, z) = Нх(х, у, z), Ф4(х, у, z) = Ну(х, у, z). (6)

Продольные компоненты векторов волны Ez(x, y, z) и Hz(x, y, z) не играют существенной ро-ли, поэтому их выписывать не будем. Выражения (5) удовлетворяют уравнению Гельмгольца (3) при произвольных функциях f j(ξ, η) и g j(ξ, η), но они должны дополнительно удовлетво-рить уравнениям Максвелла и краевым условиям. Для этого достаточно доопределить функции f j(ξ, η) и g j(ξ, η). Начнем с краевых условий. При z=0 функции (5) должны удовле-творять краевым условиям (2):

ξ η2

1( , ,0) ( , ,0) ( , ) (ξ,η) ξ η4π

∞∧ ∧ ∧ ∨− −

−∞Φ = = = ∫ ∫ i x i y

j j j jx y G x y g x y g e d d . (7)

Отсюда видно, что искомые функции (ξ,η)jg∨

являются трансформантами Фурье заданных

при постановке задачи краевых функций ( , )jg x y∧

и ( , )jg∨

ξ η , однозначно определяются

по формуле (прямое кратное преобразование Фурье)

ξ η(ξ,η) ( , ) ix iyj jg g x y e dxdy

∞∨ ∧+

−∞= ∫ ∫ . (8)

Осталось доопределить функции (ξ,η)jf∨

. Для этого функции (5) нужно подставить в урав-

нения Максвелла (1) и потребовать их выполнения при произвольных значениях краевых функ-



Беларуси

100

ций (8). В результате довольно простых выкладок получаются условия для определения функ-

ций (ξ,η)jf∨

:

21 3 4(ξ,η) ξη (ξ,η) (1 ξ ) (ξ,η),f g g

∨ ∨ ∨= − − − 2

2 3 4(ξ, η) (1 η ) (ξ, η) ξη (ξ, η),f g g∨ ∨ ∨

= − +

23 1 4(ξ, η) ξη (ξ,η) (1 ) (ξ,η),

∨ ∨ ∨= + − ξf g g 2

4 1 2(ξ,η) (1 η ) (ξ,η) ξη (ξ,η).f g g∨ ∨ ∨

= − − − (9)

Отсюда следует, что функции (ξ,η)jf∨

тоже определяются через краевые функции (2). Тем

самым заканчивается первый этап решения, и его результаты запишем в явном виде в перемен-ных x, y, z:

121( , , ) ( , )cos

4i x i y

xE x y z g ze d d∞∧ ∨

− ξ − η

−∞= ξ η γ ξ η−

π∫ ∫

23 42

sin( , ) (1 ) ( , ) ,4

i x i yi zg g e d d∞ ∨ ∨

− ξ − η

−∞

⎡ ⎤ γξη ξ η + − ξ ξ η ξ η⎢ ⎥ γπ ⎣ ⎦∫ ∫

221( , , ) ( , )cos

4i x i y

yE x y z g ze d d∞∧ ∨

− ξ − η

−∞= ξ η γ ξ η+

π∫ ∫

23 42

sin(1 ) ( , ) ( , ) ,4


− ξ − η

−∞

⎡ ⎤ γ− η ξ η + ξη ξ η ξ η⎢ ⎥ γπ ⎣ ⎦∫ ∫

321( , , ) ( , )cos

4i x i y

xH x y z g ze d d∞∧ ∨

− ξ − η

−∞= ξ η γ ξ η+

π∫ ∫ (10)

21 22

sin( , ) (1 ) ( , ) ,4


− ξ − η

−∞

⎡ ⎤ γξη ξ η + − ξ ξ η ξ η⎢ ⎥ γπ ⎣ ⎦∫ ∫

421( , , ) ( , )cos

4i x i y

yH x y z g ze d d∞∧ ∨

− ξ − η

−∞= ξ η γ ξ η−

π∫ ∫

21 22

sin(1 ) ( , ) ( , ) .4


− ξ − η

−∞

⎡ ⎤ γ− η ξ η + ξη ξ η ξ η⎢ ⎥ γπ ⎣ ⎦∫ ∫

Таким образом, точное аналитическое решение общей краевой задачи для уравнений Максвел-ла получилось достаточно просто и свелось к квадратурам. Простота решения объясняется спе-циальным выбором переменных, через которые оно записывается. Осталось исследовать полу-ченные решения и дать им физическую интерпретацию. Сами по себе функции (10) еще не дают окончательного решения поставленной в статье физической дифракционной задачи.

Прежде чем приступить ко второму этапу решения поставленной задачи, отметим некоторые нужные для дальнейшего особенности полученного решения (10). Оно содержит четыре линейно

независимые функции ( , )jg∨

ξ η . Поэтому можно считать, что функции (10) представляют собой

линейную комбинацию четырех независимых частных решений уравнений Максвелла, каждое

из которых содержит одну произвольную функцию ( , )jg∨

ξ η . Рассмотрим более детально одно

из таких частных решений. Для этого положим g1≠0, g2 = g3, = g4 = 0. В результате получим

1 ,xFEz

∧∧ ∂=

∂ 0yE∧

= , 1 ,zFEx

∧∧ ∂= −

∂



Беларуси

101

2

1 ,xFH i

x y

∧∧ ∂= −

∂ ∂

2

121 ,yH i Fy

∧ ∧⎛ ⎞∂= − +⎜ ⎟∂⎝ ⎠

21 ,z

FH iy z

∧∧ ∂= −

∂ ∂

где

1 12sin( , , ) ( , ) .

4i x i yi zF x y z g e d d

∞∧ ∨− ξ − η

−∞

γ= ξ η ξ ηγπ

∫ ∫ (11)

Нетрудно убедиться, что решение (11) представляет собой стоячую волну. Действительно, в плоскости z = 0 компоненты поля (11) равны

1 12

1

1( , , 0) ( , ) ( , ),4

( , , 0) ( , , 0) ( , , 0) ( , , 0) 0,

( , , 0) ( , ).

i x i yx

y z x y

z

E x y g e d d g x y

E x y E x y H x y H x y

H x y i g x yy

∞∧ ∨ ∧− ξ − η

−∞∧ ∧ ∧ ∧

∧ ∧

= ξ η ξ η =π

= = = =∂= −∂

∫ ∫

(12)

Как отсюда следует, вектор Пойнтинга этой волны, который определяет поток энергии, пе-реносимой пучком, при z = 0 равен нулю. Согласно закону сохранения энергии он должен рав-няться нулю в любой плоскости z = const. Это и есть признак стоячей волны.

Подынтегральные тригонометрические функции в (11) являются целыми функциями экспо-

ненциального типа. Если дополнительно предположить, что функция 1( , )g∨

ξ η тоже является функцией экспоненциального типа, то в математическом отношении компоненты волны (11) яв-ляются результатом кратного обратного преобразования Фурье тоже функций экспоненциально-го типа и, следовательно [6], будут финитными функциями координат х и у. Отсюда следует, что решение (11) будет стоячей волной бесконечной протяженности вдоль координаты z и ограни-ченной протяженности в поперечном (по координатам х и у) сечении. Такие решения пригод-ны для моделирования собственных колебаний реальных резонаторов Фабри–Перо и поля ла-зерных пучков. Однако в данном случае прежде всего нас интересуют бегущие волны, которые можно представить в виде соответствующей линейной комбинации стоячих волн вида (11). Для этого из общего решения (11) выделим другое частное решение, удовлетворяющее краевым ус-ловиям g1 = g2 = g3 = 0, g4 ≠ 0:

2

421 ,xE i Fx

∧ ∧⎛ ⎞∂= − +⎜ ⎟∂⎝ ⎠

24 ,y

FE ix y

∧∧ ∂= −

∂ ∂

24 ,z

FE ix z

∧∧ ∂=

∂ ∂

0xH∧

= , 4 ,yFHz

∧∧ ∂=

∂ 4 ,z

FHy

∧∧ ∂= −

∂

где

4 421 sin( , , ) ( , ) .

4i x i yzF x y z g e d d

∞∧ ∨− ξ − η

−∞

γ= ξ η ξ ηγπ

∫ ∫ (13)

Решение (13) является частным решением уравнений Максвелла и представляет собой тоже стоячую волну, но другой поляризации. В плоскости z = 0 оно равно

4 4 42

1( , , 0) ( , ) ( , ), ( , , 0) ( , ),4

( , , ) ( , , ) ( , , 0) ( , , 0) 0.

∞∧ ∨ ∧ ∧ ∧− ξ − η

−∞∧ ∧ ∧ ∧

∂= ξ η ξ η = =∂π

= = = =

∫ ∫ i x i yy z

x y x z

H x y g e d d g x y E x y i g x yx

E x y o E x y o H x y H x y

(14)



Беларуси

102

Отсюда видно, что поток энергии (продольная компонента вектора Пойнтинга) в плоскости z = 0 равен нулю.

Теперь возьмем линейную комбинацию частных решений (11) и (13)

2

1421 ,x

FE A iB Fz x

∧∧ ∧⎛ ⎞∂ ∂

= − +⎜ ⎟∂ ∂⎝ ⎠

24 ,y

FE iBx y

∧ ∂= −∂ ∂

2

1 4 ,zF FE A iBx x z

∧ ∧∧ ∂ ∂= − +

∂ ∂ ∂

1 ,xFH iAx y

∧∧ ∂= −

∂ ∂

24

121 ,yFH iA F Bzy

∧∧ ∧⎛ ⎞∂ ∂

= − + +⎜ ⎟ ∂∂⎝ ⎠

21 4 ,z

F FH iA By z y

∧ ∧∧ ∂ ∂= − −

∂ ∂ ∂

(15)

где коэффициенты А и В могут быть в общем случае произвольными числами. В плоскости z = 0 имеем

1( , ,0) ( , ),xE x y A g x y∧ ∧

= ( , ,0) 0yE x y∧

= , 4( , ,0) ( , ),zE x y iB g x yx

∧ ∧∂=∂

( , ,0) 0xH x y∧

= , 4( , ,0) ( , ),yH x y B g x y∧ ∧

= 1( , ,0) ( , ).zH x y iA g x yy

∧ ∧∂= −∂

(16)

Исходя из формул (16) можно найти вектор Пойнтинга Р = Re *EH⎢ ⎥⎣ ⎦ (звездочка означает комплексное сопряжение), который определяет поток энергии, переносимой волной. Для упро-

щения результатов будем считать, что 1 4( , ) ( , )g x y g x y∧ ∧

= являются действительными функ-циями. В этом случае только z – компонента вектора Пойнтинга отлична от нуля

*

*1 1( , ,0) ( , ) ( , ) Re( )

∧ ∧=zP x y g x y g x y AB . (17)

Согласно закону сохранения энергии суммарный поток энергии волны, распространяющейся вдоль оси z, должен быть постоянным, он определяется выражением (17) при любом z. Его вели-чина зависит от сдвига фаз частных решений (11) и (13). При А = В получается бегущая волна (15), распространяющаяся вдоль положительного направления оси z (Pz >0). При В = –А по-лучается тоже бегущая волна, но с обратным направлением распространения (Pz < 0). При А ≠ ±В решение (15) будет представлять собой поле в виде суммы бегущей и стоячей волн.

Полученные решения пригодны не только для исследования задач дифракционного типа, они могут быть использованы для точного моделирования поля реальных лазерных пучков. Для это-го можно использовать решение в виде бегущей волны (15), которое с точностью до несущест-венного множителя (амплитуды) может быть записано в виде

2

21 ,xFE i Fz x

∧∧ ∧⎛ ⎞∂ ∂

= − + +⎜ ⎟∂ ∂⎝ ⎠

2,y

FE iBx y

∧∧ ∂= −

∂ ∂

2,z

F FE ix x y

∧ ∧∧ ∂ ∂= − −

∂ ∂ ∂

2

,xFH i

x y

∧∧ ∂=

∂ ∂

2

21 ,yFH i Fz y

∧∧ ∧⎛ ⎞∂ ∂

= − + +⎜ ⎟∂ ∂⎝ ⎠

2,z

F FH iy y z

∧ ∧∧ ∂ ∂= +

∂ ∂ ∂

(18)

где ( , , )F x y z∧

― дифракционный интеграл первого типа (4). Теоретическое исследование про-странственной структуры поля лазерных пучков (18) упирается в сложность вычисления ди-фракционных интегралов (4), упростить которые можно только для частных простейших случа-ев. В частности, широко используемые решения в виде плоских волн получаются, если краевые

функции ( , )jg∨

ξ η представить в виде суммы δ-функций Дирака. Этот факт говорит о том, что

математические операции, прежде всего дифференцирование и интегрирование, в теории элек-тромагнитных волн иногда могут быть выполнены только в рамках теории обобщенных функ-



Беларуси

103

ций [7, 8]. По-видимому, наиболее важный результат общего характера, который на данном эта-

пе можно получить, сводится к следующему. Существуют функции ( , , )F x y z∧

типа дифракцион-ных интегралов (4), которые являются финитными и бесконечно дифференцируемыми функ-циями по поперечным координатам х, у. Для этого достаточно, чтобы удовлетворяли этому ус-

ловию краевые функции (2). Их трансформанты Фурье ( , )jg∨

ξ η в этом случае будут целыми

функциями экспоненциального типа [6]. Такие функции известны, но они достаточно сложны для детального исследования в рамках данной работы. С другой стороны, можно представить дифракционные интегралы в другом виде. Тригонометрические функции под знаком интегралов в (4) являются по всем переменным ξ, η, z целыми функциями экспоненциального типа, их мож-но разложить по любой из этих переменных в равномерно сходящиеся ряды Тейлора

( )2 2 2 1

2 2 2 22 2 0 0

sin 1( 1) ( ) ( 1) (1 ) ,

(2 1)!1

mmm m mm

m m

z zS zm

+∞ ∞

= =

− ξ − η= − ξ + η = − − ξ − η

+− ξ − η∑ ∑

( )2

2 2 2 2 2 2

0 0cos 1 ( 1) ( ) ( 1) (1 ) ,

(2 )!

mmm m mm

m m

zz C zm

∞ ∞

= =− ξ − η = − ξ + η = − − ξ − η∑ ∑

(19)

где

2( 1) !( ) ,( )! !(2 )!

∞

=

−= −∑nn

mn m

n zС z n m m n

2 1( 1) !( )( )! ! (2 1)!

n n

mn m

n zS zn m m n

+∞

=

−=− +∑ . (20)

Используя формулы (19), дифракционный интеграл в (4) можно записать в виде

2 220 0

1( , , ) ( 1) ( ) ( , )( ) ( ) ( , ),4

i x i ym mm m m

m mG x y z C z g e d d C z g x y

∞∞ ∞∧ ∧ ∧− ξ − η

= =−∞= − ⋅ ξ η ξ + η ξ η=

π∑ ∑∫ ∫ (21)

где

( )2 2

2 22 2 2

1( , ) ( , ) ( 1) ( , ).4

mm i z i y m

mg x y g e d d g x yx y

∞∧ ∨ ∧− ξ − η

−∞

⎛ ⎞∂ ∂= ξ η ξ + η ξ η = − +⎜ ⎟π ∂ ∂⎝ ⎠∫ ∫ (22)

Аналогично записывается другой дифракционный интеграл

0

( , , ) ( ) ( , )m mm

F x y z S z x y∞∧ ∧

== ϕ∑ , (23)

где

( )2 2

2 22 2 2

1( , ) ( , ) ( 1) ( , ).4

mm i x i y m

m x y e d d x yx y

∞∧ ∨ ∧− ξ − η

−∞

⎛ ⎞∂ ∂ϕ = ϕ ξ η ξ + η ξ η = − + ϕ⎜ ⎟π ∂ ∂⎝ ⎠∫ ∫ (24)

При т = 0 функция 0 ( , )g x y∧

является краевым условием, а функции ( , )mg x y∧

представляют

собой производные от краевых функций 0 ( , )g x y∧

. Если предположить, что краевые функции (2) являются финитными бесконечно дифференцируемыми функциями, то дифракционные интегра-лы (4) и решения (18) тоже будут финитными функциями. Именно такие решения и являются наиболее подходящими для моделирования пространственной структуры поля реальных лазер-ных пучков и собственных колебаний реальных резонаторов.

В настоящее время в качестве теоретической модели поля реальных лазерных пучков чаще всего используют так называемые гауссово-эрмитовы пучки [9], которые в поперечном сечении



Беларуси

104

представляются функциями вида 2 2n m x yx y e− − и не являются точными решениями уравнений

Максвелла (параболическое приближение). В принципе можно было бы построить и точное ре-

шение исходя из краевых функций вида 2 2n m x yx y e− − . Однако соответствующие точные реше-

ния уравнений Максвелла не будут финитными функциями. Вернемся теперь ко второму этапу решения поставленной в начале дифракционной задачи.

Решение (10) не является окончательным решением поставленной задачи, оно содержит только отдельные элементы, из которых еще предстоит построить окончательное решение. Оно являет-ся точным аналитическим решением уравнений Максвелла для заданных краевых условий, но никакой дополнительной информации, в том числе о причине их появления, не содержит. Такая дополнительная и до сих пор неучтенная информация содержится в изначальной постановке за-дачи. В частности, в ней задается падающая на экран (дифрагирующая) волна, которая опреде-ляет краевые условия и является причиной появления дифракционной волны.

Из общих соображений следует, что в целом решение дифракционной задачи целесообразно искать в виде суммы четырех частных решений вида (10), которые схематически представлены на рисунке. Показана дифрагирующая волна (а), которая изначально задается и существует толь-ко в области z < 0 (с освещенной стороны экрана) и распространяется (является бегущей) вдоль положительного направления продольной координатной оси z (по направлению к экрану). Эта дифрагирующая волна содержится в общем решении (10) при дополнительных условиях

141( , ) ( , ) ( , ),g g∨ ∨ ∨

ξ η = ξ η = ϑ ξ η 232 ( , ) ( , ) ( , ).g g∨ ∨ ∨

ξ η = − ξ η = ϑ ξ η (25)

Выпишем ее трансформанты в явном виде

211 2

sin( , , ) ( , )cos ( , ) (1 ) ( , ) ,xzE z z i

+∨ ∨ ∨ ∨⎡ ⎤ γξ η = ϑ ξ η γ + ξηϑ ξ η − − ξ ϑ ξ η⎢ ⎥ γ⎣ ⎦

222 1

sin( , , ) ( , )cos ( , ) (1 ) ( , ) ,yzE z z i

+∨ ∨ ∨ ∨⎡ ⎤ γξ η = ϑ ξ η γ + ξηϑ ξ η − − η ϑ ξ η⎢ ⎥ γ⎣ ⎦

222 1

sin( , , ) ( , )cos ( , ) (1 ) ( , ) ,xzH z z i

+∨ ∨ ∨ ∨⎡ ⎤ γξ η = −ϑ ξ η γ + ξηϑ ξ η + − ξ ϑ ξ η⎢ ⎥ γ⎣ ⎦

(26)

211 2

sin( , , ) ( , )cos ( , ) (1 ) ( , ) .yzH z z i

+∨ ∨ ∨ ∨⎡ ⎤ γξ η = ϑ ξ η γ − ξηϑ ξ η + − η ϑ ξ η⎢ ⎥ γ⎣ ⎦

Пространственная структура поля дифрагирующей волны не предполагается плоской, она

задается двумя независимыми между собой произвольными функциями 1( , )∨ϑ ξ η и 2 ( , )

∨ϑ ξ η , что

соответствует двум независимым между собой поляризациям волны. Затем найдем волну, «отраженную» от идеального (однородного) экрана. Эта волна схемати-

чески показана на рисунке (б). Она отличается от дифрагирующей только тем, что распространя-

а б в г

Схематическое представление отдельных составляющих волн дифракционной задачи



Беларуси

105

ется в обратном направлении, но существует тоже только в области z < 0. Эта волна получается из общего решения (10) при другом дополнительном условии

141( , ) ( , ) ( , ),g g∨ ∨ ∨

ξ η = − ξ η = ϑ ξ η 232 ( , ) ( , ) ( , ).∨ ∨ ∨

ξ η = ξ η = ϑ ξ ηg g (27)

С учетом данного условия решение для этой волны запишется в виде

211 2

sin( , , ) ( , )cos ( , ) (1 ) ( , ) ,xzE z z i

−∨ ∨ ∨ ∨⎡ ⎤ γξ η = ϑ ξ η γ − ξηϑ ξ η − − ξ ϑ ξ η⎢ ⎥ γ⎣ ⎦

222 1

sin( , , ) ( , )cos ( , ) (1 ) ( , ) ,yzE z z i

−∨ ∨ ∨ ∨⎡ ⎤ γξ η = ϑ ξ η γ − ξηϑ ξ η − − η ϑ ξ η⎢ ⎥ γ⎣ ⎦

222 1

sin( , , ) ( , )cos ( , ) (1 ) ( , ) ,xzH z z i

−∨ ∨ ∨ ∨⎡ ⎤ γξ η = ϑ ξ η γ + ξηϑ ξ η + − ξ ϑ ξ η⎢ ⎥ γ⎣ ⎦

(28)

211 2

sin( , , ) ( , )cos ( , ) (1 ) ( , ) .yzH z z i

−∨ ∨ ∨ ∨⎡ ⎤ γξ η = −ϑ ξ η γ − ξηϑ ξ η + − η ϑ ξ η⎢ ⎥ γ⎣ ⎦

Решение (28) описывает отраженную волну от неискаженного экрана. Если экран неодно-родный с отверстиями и препятствиями произвольной геометрической формы, то они искажают отраженную и прошедшую часть волны и эти части можно назвать действительно дифракцион-ной волной. Такие чисто дифракционные волны тоже содержатся в общем решении (10), но оп-ределяются уже другими краевыми условиями, которые, вообще говоря, должны задаваться при постановке задачи. Они, конечно, должны зависеть от параметров дифрагирующей волны, но зависят также и от свойств экрана. В данном случае условия, определяющие свойства экрана, сводятся к определению краевых функций для этих чисто дифракционных волн. Не конкретизи-

руя этих краевых условий, обозначим их через 3 ( , )∨ϑ ξ η и 4 ( , )

∨ϑ ξ η . После этого чисто дифракци-

онная отраженная волна (рис. в), которая существует в области z<0 и распространяется «от экра-на», будет определяться формулами (28), в которых следует заменить краевые условия:

1( , )∨ϑ ξ η → 3 ( , )

∨ϑ ξ η и 2 ( , )

∨ϑ ξ η → 4 ( , )

∨ϑ ξ η . В результате получается та часть отраженной волны

(28), которая является чисто дифракционной и в отраженной волне (28) отсутствует. Поэтому суммарная отраженная волна будет описываться функцией (28) (рис. б), из которой надо вычесть чисто дифракционную отраженную волну (рис. в). В результате окончательно поле запишется

в виде (28), где следует произвести замену краевых условий: 1( , )∨ϑ ξ η → 1( , )

∨ϑ ξ η 3( , )

∨−ϑ ξ η

и 2 ( , )∨ϑ ξ η → 2 ( , )

∨ϑ ξ η 4 ( , ).

∨−ϑ ξ η

Осталось найти чисто дифракционную прошедшую через экран волну (рис. г), которая отли-чается от чисто дифракционной отраженной волны тем, что существует только в области z > 0 (теневая сторона экрана) и распространяется вдоль положительного направления оси z. Очевидно, что она будет представлена формулой (26), в которой следует заменить краевые усло-

вия 1( , )∨ϑ ξ η → 3( , )

∨ϑ ξ η и 2 ( , )

∨ϑ ξ η → 4 ( , )

∨ϑ ξ η . На этом заканчивается второй математический

этап решения дифракционной задачи. Оказалось, что общее точное аналитическое решение краевой задачи с краевыми условиями

( , )jg∨

ξ η (10) дает также возможность получить точное решение дифракционной задачи с до-

полнительными произвольными условиями на экране ( , )j∨ϑ ξ η . Причем 1( , )

∨ϑ ξ η и 2 ( , )

∨ϑ ξ η оп-

ределяют падающую (дифрагирующую) на экран волну, а функции 3 (ξ,η)∨ϑ и 4 ( , )

∨ϑ ξ η дополни-



Беларуси

106

тельно учитывают свойства экрана, на котором происходит дифракция. Заметим, что решение получено в явном и сравнительно простом виде в переменных ξ, η, z. Переход к переменным х, у, z требует выполнения двукратной обратной операции преобразования Фурье.

Следует заметить, что решения в окончательном виде сведены к интегралам (квадратурам), которые в общем случае могут в обычном смысле не сходиться. В процессе получения решений часто приходится иметь также дело с производными, которые тоже в обычном смысле могут не существовать. На наш взгляд, это еще не означает, что полученные здесь решения теряют смысл и практически не могут быть использованы. Границы их применимости определяются с учетом возможностей современной теории обобщенных функций, где проблемы дифференци-рования, сходимости интегралов и рядов решаются по-другому.

На этом, фактически, заканчиваются чисто математические начальные этапы решения. Оста-ется третий этап, который носит другой, можно сказать, физический характер. Осталось конкре-тизировать краевые условия, исследовать полученные решения и дать им физическую интерпре-тацию. На этом пути возникают новые и практически очень сложные проблемы, которые заслу-живают особого дополнительного исследования.

К первой из этих проблем можно отнести конкретное определение краевых условий (функ-ций). В принципе они должны определяться из физических экспериментов. Однако ожидать достаточно точных соответствующих экспериментальных результатов, особенно в коротко-волновой (оптической) области спектра, вряд ли реально. Приходится их задавать приближен-но исходя из различных, по большей части качественных соображений. Необходимо также считаться с тем, что краевые условия точно не известны, и, следовательно, не известен харак-тер приближения, с которым они фактически задаются. Этот фактор, который всегда имеет место при определении входных условий, сказывается на точности определения результирую-щих дифракционных волн. Часто дифрагирующую волну задают (считают) плоской волной, а свойства экрана описывают разрывными функциями на отдельных элементах (щелях, отвер-стиях и т. д.) экрана. Наличие разрывов означает, что соответствующие краевые условия в от-дельных точках не будут дифференцируемы. Систематический учет разрывов требует приме-нения обобщенных функций.

Вторая проблема на этом пути связана с конкретным вычислением тех интегралов, через ко-торые выражаются сами решения. Эти интегралы в общем случае являются довольно сложными. Вряд ли можно ожидать, что они могут быть в сколько-нибудь общем случае выражены через известные в математике функции.

Можно сформулировать некоторые требования, предъявляемые к краевым функциям. Реаль-но дифрагирующая волна в поперечном сечении ограничена в пространстве. Это означает, что

краевые функции 1( , )x y∨ϑ и 2 ( , )x y

∨ϑ должны быть финитными по обеим координатам и беско-

нечно дифференцируемыми. Такие функции в математике известны, но они мало изучены

и сложны в практическом применении. Их трансформанты Фурье, т. е. функции 1( , )∨ϑ ξ η

и 2 ( , )∨ϑ ξ η будут целыми функциями экспоненциального типа. В известных нам конкретных слу-

чаях дифракционных задач краевые условия этим требованиям, как правило, не удовлетворяют. Решения получены нами в предположении, что функции jϑ заданы. Реально они могут быть

определены, как уже отмечалось, только приближенно. Часто дифракционные задачи решаются в предположении, что дифрагирующая волна считается плоской. Свойства экрана тоже модели-руют в виде простейших геометрических фигур (щель, круглое одиночное отверстие и т. д.).

Чаще всего используется следующее определение краевых функций 3 ( , )x y∨ϑ и 4 ( , )x y

∨ϑ : предпо-

лагается, что экран в одних местах полностью пропускает падающую на него волну, в других местах полностью отражает. Для учета таких свойств экрана вводится характеристическая функ-ция h(x, y), равная нулю на той части экрана, где падающая на него волна полностью отражается, и равная единице на оставшейся части экрана, где падающая волна проходит через экран. В этом

случае функции 3 ( , )x y∨ϑ и 4 ( , )x y

∨ϑ будут определяться формулами



Беларуси

107

3 1( , ) ( , ) ( , ),x y x y h x y∧ ∧ϑ = ϑ 4 2( , ) ( , ) ( , ),x y x y h x y

∧ ∧ϑ = ϑ (29)

Теперь надо найти трансформанты функций (29), которые находятся стандартным методом

3 1 121( , ) ( , ) ( , ) ( , ) ( , ) ,

(2 )i x i yx y h x y e dxdy h d d

∞ ∞∨ ∧ξ + η

−∞ −∞ϑ ξ η = ϑ = ϑ ξ − α η−β α β α β

π∫ ∫ ∫ ∫

4 2 221( , ) ( , ) ( , ) ( , ) ( , ) ,

(2 )i x i yx y h x y e dxdy h d d

∞ ∞∨ ∧ξ + η

−∞ −∞ϑ ξ η = ϑ = ϑ ξ − α η−β α β α β

π∫ ∫ ∫ ∫

(30)

и определяются интегралами типа сверток. Их исследование тоже часто требует учета специфи-ческих результатов общей теории обобщенных функций.


1. Х е н л X., М а у э А., В е с т п ф а л ь К. Теория дифракции. М., 1964. 2. Б о р н М., В о л ь ф Э. Основы оптики. М., 1970. 3. Т и х о н о в А. Н., С а м а р с к и й А. А. Уравнения математической физики. М., 1966. 4. Т и т ч м а р ш Э. Введение в теорию интегралов Фурье. М.; Л., 1948. 5. Д и т к и н В. А., П р у д н и к о в А. П. Интегральные преобразования и операционное исчисление. М., 1971. 6. В и н е р Н., П э л и Р. Преобразование Фурье в комплексной области. М., 1964. 7. Г е л ь ф а н д И. М., Ш и л о в Г. Е. Обобщенные функции и действия над ними. М., 1959. 8. Б р е м е р м а н Г. Распределения, комплексные переменные и преобразования Фурье. М., 1968. 9. Г о н ч а р е н к о А. М. Гауссовы пучки света. Минск, 1977.

A. P. KHAPALYUK

SOLUTION OF DIFFRACTION-TYPE MAXWELL EQUATIONS

Summary A precise analytical solution of the diffraction problem on the ideal flat screen of a rather general view is obtained. The

problem is formulated as a boundary-value problem on Maxwell equations. A diffracting wave and diffraction waves are pre-cise solutions of Maxwell equations, which are determined by tangential vector components of the wave field on the screen as arbitrary functions of the coordinates of the screen plane. Therefore, a diffracting wave can be arbitrary (not necessarily flat) and electrodynamic properties of the screen, which determine diffraction waves, can be arbitrary.

The precise analytical solutions are represented as integrals, that are uniquely determined through the boundary functions given in the problem at statement.



Беларуси

108


ІНФАРМАТЫКА

УДК 519.6+681.3.012 Н. А. ЛИХОДЕД

СОХРАНЕНИЕ ЗАВИСИМОСТЕЙ МЕЖДУ ОПЕРАЦИЯМИ ПРИ РАСПАРАЛЛЕЛИВАНИИ АЛГОРИТМОВ

Институт математики НАН Беларуси


Введение. Требование сохранения зависимостей, т. е. требование сохранения порядка вы-полнения информационно связанных операций, является обязательным при выполнении преоб-разования алгоритмов. Поэтому разработка удобных для применения формализованных условий сохранения зависимостей привлекает внимание специалистов в области распараллеливания ал-горитмов и программ.

Основные подходы к получению ограничений, задающих условия сохранения зависимостей, можно условно разделить на метод вершин [1–4] и метод, основанный на лемме Фаркаша [4–6]. Первый из этих методов требует поиска параметризованных вершин многогранников, что не всегда удобно на практике. Второй метод решает поставленную задачу только при конкретных значениях параметров алгоритма и не позволяет переходить к распараллеливанию алгоритма при произвольных значениях внешних переменных. Оба подхода требуют при реализации удов-летворения большого, часто избыточного числа ограничений, выражаемых равенствами и нера-венствами. Преодолению некоторых из указанных недостатков посвящены работы [7–12]. Ис-следования данной работы направлены на дальнейшее развитие метода Фаркаша: предлагаемый способ получения новых условий сохранения зависимостей применим в общем случае и при произвольных, заранее неизвестных значениях внешних переменных.

Предварительные сведения. Пусть алгоритм задан аффинным гнездом циклов произволь-ной структуры вложенности. Для таких алгоритмов индексные выражения переменных и грани-цы изменения параметров циклов являются аффинными функциями от параметров циклов и внешних переменных. Пусть в гнезде циклов имеется K операторов Sβ . Область изменения параметров гнезда циклов для оператора Sβ будем называть индексной областью и обозначать

Vβ. Обозначим nβ – число циклов, окружающих оператор Sβ , nV β

β ⊂ .Z Выполнение оператора Sβ при конкретных значениях β и вектора параметров цикла J бу-

дем называть операцией и обозначать ( )S Jβ . Выполнение всех операций, зависящих от J , на-зывается J -й итерацией.

Операция ( )S J J Vβ β, ∈ , зависит от операции ( )S I I Vα α, ∈ , если: 1) ( )S Iα выполняется раньше ( )S Jβ ; 2) ( )S Iα и ( )S Jβ используют один и тот же элемент какого-либо массива, и по крайней мере одно из использований есть переопределение (изменение) элемента; 3) между опе-рациями ( )S Iα и ( )S Jβ этот элемент не переопределяется. Зависимость операции ( )S Jβ от операции ( )S Iα будем обозначать ( ) ( )S I S Jα β→ .

Обозначим ( ) | ( ) ( )P I V J V S I S Jα β α βα β= , ∃ ∈ , ∈ , → . Множество P определяет пары за-висимых операторов. Для каждой пары ( ) Pα β, ∈ обозначим | ( ) ( )V J V S I S Jα,β β α β= ∈ ∃ → .



Беларуси

109

Будем считать, что Vα,β – выпуклый многогранник в пространстве nβ .Z Функции V Vα,β αα,β : →Φ такие, что если ( ) ( ),α β→S I S J α α,β β∈ , ∈ ⊆ ,I V J V V то ( )I Jα,β= ,Φ назовем

функциями зависимостей. Будем предполагать, что функции зависимостей являются аффин-ными:

( )( )J J N α,βα,β α,βα,β = Φ + Ψ − ϕ ,Φ

где 1 2 ( ) ( )eJ V P N N N … Nα,β∈ , α,β ∈ , = , , , – вектор внешних переменных алгоритма, e – число

таких переменных, ( ) n n n e nα β α α× × α,βα,β α,βΦ ∈ , Ψ ∈ , ϕ ∈ ,Z Z Z матрицы α,β α,βΦ , Ψ и векторы

( )α,βϕ не зависят от внешних переменных. Пусть функции ( ) 1t V Kβ

β: → , ≤ β ≤ ,Z ставят в соответствие каждой операции ( )S Jβ алго-

ритма целое число ( ) ( )t Jβ . Пусть функции ( )t β являются таймирующими функциями, т. е.

( ) ( ) ( )( ) ( ) ( )t J t J N J V Pβ α α,βα,β α,β α,β≥ Φ + Ψ − ϕ , ∈ , α,β ∈ . (1)

Условия (1) называются условиями сохранения зависимостей и означают, что если ( ) ( ),S I S Jα β→ ( )I J N α,β

α,β α,β= Φ + Ψ − ϕ , то операция ( )S Iα должна выполняться не позже

операции ( )S Jβ . Будем предполагать, что функции ( ) ( )t Jβ являются аффинными:

( ) ( ) ( )( )t J J b N aβ β ββ= τ + + ,

где ( ) ( )1 n eK J V b N aββ ββ β≤ β ≤ , ∈ , τ ∈ , , ∈ , ∈ .Z Z Z Предполагается, что ( ) ( ) b aβ β

βτ , , не зави-сят от N .

Таймирующие функции используются для распараллеливания и других преобразований ал-горитмов [1–12]. Удовлетворение условий сохранения зависимостей является обязательным при получении функций таймирования.

Далее нам понадобится понятие эрмитовой нормальной формы матрицы. Пусть D есть матрица с вещественными элементами, ρ – ранг матрицы D. Тогда элемен-

тарными строчными преобразованиями матрицу D можно свести к ее эрмитовой нормальной форме – к матрице H следующей структуры:

• первые ρ строк матрицы H ненулевые, все элементы остальных строк равны нулю; • первый ненулевой элемент в i -й ( 1 2i …= , , ,ρ ) строке матрицы H равен 1; пусть этот эле-

мент входит в столбец с номером ic ; • 1 2c c … cρ< < < ; • в столбце с номером ic все элементы, кроме входящего в i -ю строку, равны нулю. Постановка задачи. Введем обозначения:

01

0 1j

j ii

n j K=

σ = , σ = , ≤ ≤ ,∑ K Ke Kσ = σ + + ;

(1) ( ) (1) ( )1( )K K

K… b … b a … a,τ = τ , ,τ , , , , , , – вектор размера σ, составленный из параметров функций ( )t β ;

0 i j× – нулевая матрица размера i j× ; ( )iE – единичная матрица порядка i;

( )0 i – нулевой вектор-столбец размера i ; ( )ije – вектор размера i, у которого координата с номером j равна 1, а остальные координа-

ты нулевые;



Беларуси

110

1 1

( )

( ) ( )

0 0

0 0

n n

n

n n

E

⎛ ⎞ ⎛ ⎞β− β α− β⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟

β⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟β β α β⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠

σ × σ ×

α,βα,βσ−σ × σ−σ ×

= − ΦΦ – матрица размера nβσ × ;

1( ( 1) ) ( ( 1) )

( ) ( )

(( ) ) ( ) (( ) )

0 0 0

0 0 0

K Ke e e e e

e e

K e K e e K e K eE E

α−

α

σ + β− × σ × σ + α− ×⎛ ⎞ ⎛ ⎞ ⎛ ⎞⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟ ⎜ ⎟

α,β⎜ ⎟ ⎜ ⎟ ⎜ ⎟α,β⎜ ⎟ ⎜ ⎟ ⎜ ⎟−β + × σ−σ × −α + ×⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠ ⎝ ⎠

= − Ψ −Ψ – матрица размера eσ × ;

1( )

( ) ( ) ( )( )

( )

0

0KKe e

α−

α

σ⎛ ⎞⎜ ⎟

α,β σ σ⎜ ⎟α,β⎜ ⎟ σ− +ασ− +β⎜ ⎟σ−σ⎜ ⎟⎝ ⎠

= ϕ + −ϕ – вектор размера .σ

Используя введенные обозначения, условия сохранения зависимостей (1) можно записать в виде [12]:

( )( )( ) 0 ( )J N J V Pα,βα,βα,β α,βτ | , + τ ≥ , ∈ , α,β ∈ ,ϕΦ Ψ (2)

где ( )α,β α,β|Φ Ψ – матрица размера ( )n eβσ × + , составленная из матриц α,βΦ и α,β,Ψ ( )J N, –

вектор размера n eβ + , составленный из вектора параметров цикла J и вектора внешних пере-менных N .

Основные трудности практического использования системы (2) связаны с необходимостью удовлетворения большого числа неравенств, количество которых зависит от размера областей Vα,β . Нашей задачей является разработка алгоритма получения системы неравенств, равносиль-ной системе (2), но с существенно меньшим числом неравенств.

Алгоритм получения условий сохранения зависимостей. Следующая процедура приводит для каждой пары ( ) Pα,β ∈ систему неравенств (2) к равносильной системе с числом неравенств, не зависящим от J и N .

1. Положить ( )x α,β α,β= τ | ,Φ Ψ ( )w J N= , , ( )u α,β= τ ,ϕ h n eβ= + , ( ) | V J N J Vα,β= , ∈ .

Представить область V в виде | 0hV w Aw b= ∈ + ≥ ,Z где hA μ×∈Z – матрица, hb∈Z – вектор.

2. Привести матрицу тA к эрмитовой нормальной форме: тH PA= , где P – матрица, осуще-ствляющая соответствующие строчные преобразования. Пусть 1 2 hc c … c, , , – номера столбцов матрицы H , в которых единственный ненулевой элемент равен единице.

3. Рассмотреть систему PA Pxλ = , 0 0 0 0 u b μλ = − λ , λ ,λ ≥ , λ ∈ , λ ∈ .Z Z Выразить icλ , 1 i h≤ ≤ , через jλ , ij c≠ , и kx , 1 k h≤ ≤ ; выразить 0λ , через u, jλ , ij c≠ , и kx , 1 k h≤ ≤ :

( )i ic c j kf xλ = λ , , 0 0 ( )j kf u xλ = ,λ , . 4. Последовательно исключить все jλ из системы неравенств ( ) 0ic j kf xλ , ≥ , 1 i h≤ ≤ ,

0jλ ≥ , ij c≠ , 0 ( ) 0j kf u x,λ , ≥ . Для исключения фиксированного 0jλ выполнить следующее: • взять все пары неравенств с коэффициентами при 0jλ противоположных знаков и для каж-

дой пары получить новое неравенство с исключенным 0jλ ; • добавить из исходной системы неравенств все неравенства, не содержащие 0jλ . 5. В полученной в результате выполнения предыдущего шага системе неравенств заменить u

на ( )α,βτ ,ϕ а kx заменить на ( ) kα,β α,βτ | ,Φ Ψ где ( ) kα,β α,β|Φ Ψ обозначает k -й столбец матрицы

( )α,β α,β| .Φ Ψ



Беларуси

111

Обоснование алгоритма. В принятых обозначениях для фиксированных x и u условия (2) примут вид

0 .hxw u w V+ ≥ , ∈ ⊂ Z (3)

Система неравенств (3) справедлива тогда и только тогда, когда выполняются условия [4]

0 0, 0x A u b= λ , = λ + λ λ ,λ ≥ . (4)

Предполагается, что в матрице hA μ×∈Z число строк больше числа столбцов, rankA h= (для практического использования интересен этот случай). Нас интересуют ограничения на x и u , поэтому 0λ и λ следует исключить. На шагах 2 и 3 происходит исключение 0 1 hc c c…λ , λ , , λ . На шаге 4 применяется процедура Фурье – Моткина исключения из неравенств оставшихся jλ .

Проиллюстрируем применение алгоритма на примере. Рассмотрим основную часть алгоритма перемножения трех квадратных матриц A B D, , по-

рядка N : do i = 1, N do j = 1, N do k= 1, N S1: c(i, j) = c(i, j) + a(i, k) b(k, j) do i = 1, N do j = 1, N do k = 1, N S2: x(i, j) = x(i, j)+c(i, k) d(k, j)

Одна из зависимостей алгоритма является неоднородной и определяется функцией

1 2

1 0 0 0( ) 0 0 1 0

0 0 0 1

ii j k j N

k,

⎛ ⎞ ⎛ ⎞ ⎛ ⎞⎜ ⎟ ⎜ ⎟ ⎜ ⎟, , = + ,Φ ⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠ ⎝ ⎠

31 2 ( ) | 1 V i j k i j k N, = , , ∈ ≤ , , ≤ .Z

Получим условия сохранения этой зависимости. Имеем: 1 22 3 1K n n e= , = = , = , 1 23 6σ = , σ = , 10σ = ,

(1) (1) (1) (2) (2) (2) (1) (2)1 21 2 3 1 2 3( )b b a a,τ = τ ,τ ,τ ,τ ,τ ,τ , , , , , 1 2, =Φ

(3)

4 3

1 0 00 0 10 0 0

0

E×

−⎛ ⎞⎜ ⎟−⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

, 1 2, =Ψ

(2)

(3)

(2)

01

01

1

0

⎛ ⎞⎜ ⎟−⎜ ⎟⎜ ⎟⎜ ⎟−⎜ ⎟

⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

,

(1 2) (10) (10)9 10e e, = − + ,ϕ

4( ) | 1 0 1 0 1 0 0 0 0V i j k N i j k N i N j N k= , , , ∈ − ≥ , − ≥ , − ≥ , − ≥ , − ≥ , − ≥ ,Z

т

1 0 0 1 0 00 1 0 0 1 00 0 1 0 0 10 0 0 1 1 1

A

−⎛ ⎞⎜ ⎟−⎜ ⎟=

−⎜ ⎟⎜ ⎟⎝ ⎠

, ( 1 1 1 0 0 0)b = − ,− ,− , , , .

Для получения нормальной эрмитовой формы матрицы тA достаточно к первой строке при-бавить четвертую. Выразим 1 2 3 4 λ , λ , λ , λ через 5 6λ , λ и kx , 1 4k≤ ≤ ; выразим 0λ , через u,

5 6 λ , λ и kx , 1 4k≤ ≤ . Придем к системе неравенств 1 4 5 6 0x x+ − λ − λ ≥ , 2 5 0x + λ ≥ ,



Беларуси

112

3 6 0x + λ ≥ , 4 5 6 0x − λ − λ ≥ , 5 0λ ≥ , 6 0λ ≥ , 1 2 3 4 0u x x x x+ + + + ≥ . После исключения 5λ по-лучим систему 1 2 4 6 0x x x+ + − λ ≥ , 2 4 6 0x x+ − λ ≥ , 1 4 6 0x x+ − λ ≥ , 4 6 0x − λ ≥ , 3 6 0x + λ ≥ ,

6 0λ ≥ , 1 2 3 4 0u x x x x+ + + + ≥ . Исключив 6λ , придем к системе 1 2 3 4 0x x x x+ + + ≥ , 2 3 4 0x x x+ + ≥ , 1 3 4 0x x x+ + ≥ , 3 4 0x x+ ≥ , 1 2 4 0x x x+ + ≥ , 2 4 0x x+ ≥ , 1 4 0x x+ ≥ , 4 0x ≥ ,

1 2 3 4 0u x x x x+ + + + ≥ . Осталось в этой системе неравенств заменить u на ( )α,βτ ,ϕ а kx – на

( ) kα,β α,βτ | .Φ Ψ

Эти условия совпадают с необходимыми и достаточными условиями сохранения зависимо-стей, полученными в работе [12] другим, менее общим, но более приспособленным для автома-тизации способом.

Работа выполнена при поддержке Фонда фундаментальных исследований Республики Бела-русь.


1. Q u i n t o n P., D o n g e n V., V. // J. of VLSI Signal Processing. 1989. Vol. 1(2). P. 95–113. 2. M a u r a s C., Q u i n t o n P., R a j o p a d h y e S., S a o u t e r Y. Scheduling affine parameterized recurrences by

means of variable dependent timing functions. In Kung S. Y., J. Swartzlander E. E., Fortes J. A. B., Przytula K. W. editors. // Application Specific Array Processors. IEEE Computer Society Press, September 1990. P. 100–110.

3. В о е в о д и н В. В., В о е в о д и н Вл. В. Параллельные вычисления. СПб., 2002. 4. B a l e v S., Q u i n t o n P., R a j o p a d h y e S., R i s s e t T. Linear programming models for scheduling systems

of affine recurrence equations – a comparative study. 10th Symposium on parallel algorithms and architectures (SPAA). Puerto Vallarto, 1998. P. 250–258.

5. F e a u t r i e r P. // Int. J. of Parallel Programming. 1992. Vol. 21, N 5, 6. P. 313–348, 389–420. 6. L i m A. W., L a m M. S. // Parallel Computing. 1998. Vol. 24, N 3–4. P. 445–475. 7. Da r t e A., V i v i e n F. // Int. J. Parallel Programming. 1997. Vol. 25, N 6. P. 447–496. 8. D a r t e A. // Algorithms for Parallel Processing, IMA Volumes in Mathematics and its Applications. 1999. Vol. 105.

P. 147–183. 9. А д у ц к е в и ч Е. В., Л и х о д е д Н. А. // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2004. 3. С. 100–105. 10. А д у ц к е в и ч Е. В., Л и х о д е д Н. А., С о б о л е в с к и й П. И. // Весцi НАН Беларусi. Сер. фiз.-мат. на-

вук. 2005. 3. С. 105–111. 11. А д у ц к е в и ч Е. В. // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2005. 4. С. 107–112. 12. А д у ц к е в и ч Е. В., Л и х о д е д Н. А. // Программирование. 2006. 3. С. 54–65.

N. A. LIKHODED

PRESERVING OF DEPENDENCES BETWEEN OPERATIONS AT PARALLELIZING THE ALGORITHMS

Summary Conditions for preservation of dependences when parallelizing of algorithms are obtained. Unlike the other methods

which based on the Farkash lemma, the method can be applied for arbitrary and beforehand unknown values of external vari-ables.



Беларуси

113


УДК 519.173 В. И. БЕНЕДИКТОВИЧ

ОТЛИЧИТЕЛЬНОЕ ЧИСЛО ГЕОМЕТРИЧЕСКОГО ГРАФА K7

Институт математики НАН Беларуси


Пусть задан абстрактный граф G, и G обозначает геометрический граф, который реализует G на плоскости. Точнее, V( G )=x1, x2, …, xn является множеством n точек в общем положении в R2, а ребром xixj∈E( G ) является прямолинейный отрезок, соединяющий соответствующую пару точек. Говорят, что два ребра, скажем, uv и xy, пересекаются, если отрезки uv и xy имеют об-щую, внутреннюю для обоих точку – точку пересечения. Это имеет место лишь тогда, когда вер-шины u, x, v и y являются вершинами (в циклическом порядке) выпуклого четырехугольника.

Чтобы уметь различать два геометрических графа, представляющих один и тот же абстракт-ный граф, необходимо понятие эквивалентности (или изоморфизма) двух геометрических гра-фов. Напомним, что два абстрактных графа G и H изоморфны, если существует взаимно-однозначное соответствие между их множествами вершин ϕ: V(G)→V(H), такое, что uv∈E(G) тогда и только тогда, когда ϕ(u)ϕ(v)∈ E(H). Аналогично будем говорить, что два геометрических графа G и H геометрически изоморфны, если существует графовый изоморфизм ϕ: V(G)→V(H), такой, что ребра uv и xy пересекаются в G тогда и только тогда, когда ребра ϕ(u)ϕ(v) и ϕ(x)ϕ(y) пересекаются в H . Геометрический изоморфизм геометрического графа G на себя называется геометрическим автоморфизмом. Пусть Aut( G ) обозначает группу геомет-рических автоморфизмов графа G . Очевидно, что если G является геометрической реализацией абстрактного графа G, то группа Aut( G ) является подгруппой Aut(G). Будем говорить, что под-граф 2G является геометрическим образом подграфа 1G , если существует геометрический ав-томорфизм ϕ∈Aut( G ), такой, что ϕ( 1G )= 2G . Граф nK будем называть геометрической кликой. Исследование геометрической клики тесно взаимосвязано с границей ее выпуклой оболочки, которую будем обозначать через C. Часто будем подразумевать под C как саму полигональную границу, так и множество вершин этого полигона. В последнем случае мощность множества вершин C будем обозначать через c= |C|.

Пусть задан абстрактный граф G. Раскраска его вершин f: V(G) → 1, 2, …, r называется r-отличительной, если единственным автоморфизмом, который сохраняет цвета вершин, явля-ется тождественный. То есть, раскраска f является r-отличительной, если из того, что ϕ∈Aut(G) и f(ϕ(x))=f(x) для всех x∈ V(G) следует, что ϕ=id, где id – тождественный автоморфизм. Отличи-тельным числом графа G, обозначаемым через Dist(G), называется минимальное число r, такое, что граф G обладает r-отличительной раскраской вершин. Легко видеть, что раскраска вершин является отличительной тогда и только тогда, когда каждая вершина графа однозначно опреде-ляется своей вершинной орбитой и своим цветом.

Можно показать, что при 3≤n≤5 отличительное число n-цикла Cn равно Dist(Cn)= 3, а при n≥6 Dist(Cn)= 2. Чтобы подтвердить справедливость последнего утверждения, достаточно присвоить вершинам цикла Cn (n≥6) следующие цвета: 1, 1, 2, 1, 2, …, 2. Нетрудно также видеть, что отли-чительное число клики Kn равно Dist(Kn)=n и при q>p отличительное число полного двудольного графа Kp, q равно Dist(Kp, q)=q, а Dist(Kn, n)=n+1. Следует отметить, что различные графы с одной и той же группой автоморфизмов могут иметь различные отличительные числа.



Беларуси

114

Понятие отличительности можно распространить и на геометрические графы. Пусть задан геометрический граф G . Тогда произвольная раскраска его вершин f: V( G ) → 1, 2, …, r назы-вается r-отличительной, если единственным геометрическим автоморфизмом, который сохраня-ет цвета вершин, является тождественный. То есть, раскраска f является r-отличительной, если из того, что ϕ∈Aut( G ) и f(ϕ(x))=f(x) для всех x∈V( G ) следует, что ϕ=id. Отличительным числом графа G , обозначаемым через Dist( G ), называется минимальное число r, такое, что граф G об-ладает r-отличительной раскраской вершин, т. е.

Dist( G ) = minr | G имеет раскраску вершин, которая r-отличительна.

Ясно, что если G является геометрическим графом, реализующим абстрактный граф G, то Dist( G )≤Dist(G). Очевидно, что если Dist( G ) = 1, то Aut( G )=id.

Естественно возникает необходимость поиска таких геометрических реализаций абстрактно-го графа, которые требуют максимального числа цветов для отличительности раскраски вершин: в некотором смысле такие реализации обладают большей симметрией. Поэтому геометрическим отличительным числом абстрактного графа G, обозначаемым через Distg(G), называется число, равное

Distg(G)=maxDist( G ) | G – геометрический граф, реализующий G.

Для произвольного ребра e геометрического графа G обозначим через cr(e) число ребер, ко-торые пересекают ребро e. Пусть E0( G ) (соответственно, E+( G )) – множество всех ребер e графа G , для которых cr(e)= 0 (соответственно, cr(e)>0). Обозначим через H0 (соответственно, H+) ос-товный подграф графа G , чьи ребра образуют множество E0( G ) (соответственно, E+( G )). Не-трудно заметить, что справедливо неравенство Dist( G )≤minDist(H0), Dist(H+) (лемма 1 [1]).

Для произвольной вершины x графа G пусть e1, e2,…, es обозначают ребра, инцидентные ей. Тогда последовательность чисел cr(e1), cr(e2),…, cr(es), где cr(ei), si ,1= , обозначает число ребер, которые пересекают ребро ei, называется последовательностью пересечений вершины x. Отме-тим, что порядок в этой последовательности не имеет значения, и обычно числа в ней упорядо-чиваются в неубывающем порядке. По определению последовательность пересечений для произ-вольной вершины x графа G сохраняется при любом автоморфизме геометрического графа G .

Важным понятием при нахождении отличительного числа геометрического графа служит так называемое определяющее множество. Говорят, что подмножество вершин S⊆V( G ) является определяющим множеством, если из того, что g, h∈Aut( G ) и g(s)=h(s) для всех s∈S следует, что g=h. Другими словами, по действию произвольного автоморфизма h∈Aut( G ) на множестве S можно определить его действие на всем множестве вершин V( G ). Определяющим числом гео-метрического графа G , обозначаемым через Det( G ), называется минимальное число r, такое, что геометрический граф G имеет определяющее множество мощности r:

Det( G ) = minr | G имеет определяющее множество мощности r.

Очевидно, каждый геометрический граф имеет определяющее множество, так как любое множество, содержащее все вершины, кроме одной, является определяющим. Понятия опреде-ляющее множество и определяющее число впервые были введены в 2006 г. [2] для нахождения отличительного числа геометрического графа.

Каждый выпуклый геометрический цикл nC имеет определяющее множество, состоящее из любых двух не диаметрально противоположных вершин. Отметим, что если n≥6 и nC выпукло, то Dist( nC )=Det( nC )= 2, а для 3≤ n≤5 Dist( nC )= 3, в то время как Det( nC )= 2. Эти числа зави-сят от конкретной геометрической реализации. Так, если цикл 4C имеет самопересечение, то Dist( 4C )= 2, в то время как Det( 4C )= 1.



Беларуси

115

Для характеризации определяющих множеств используются стабилизаторы вершин. Напом-ним, что для вершины s∈V( G ) ее стабилизатором называется подгруппа Stab(s) группы авто-морфизмов Aut( G ), которая оставляет неподвижной вершину s: Stab(s) = ϕ∈Aut( G ) | ϕ(s)=s. Поточечным стабилизатором подмножества вершин S⊆V( G ) называется множество автомор-физмов Stab(S), фиксирующих каждую точку s∈S: Stab(S)=∩s∈S Stab(s). Можно показать, что подмножество вершин S⊆V( G ) геометрического графа G является определяющим множеством тогда и только тогда, когда Stab(S)=id.

Проблема нахождения геометрического отличительного числа для произвольного графа яв-ляется актуальной задачей топологической теории графов и особенно интенсивно исследует-ся в последнее десятилетие. Однако, по-прежнему остается открытым вопрос его определе-ния даже для клики Kn. Известно, что при 3≤n≤6 ее геометрическое отличительное число равно Distg(Kn)= 3. В 2004 г. [1] была выдвинута гипотеза, что при n≥7 Distg(Kn)= 2. В 2006 г.[2] было установлено, что она верна при условии, когда мощность c выпуклой оболочки nK удов-летворяет условию: c≥4. В частности, доказательство последнего утверждения основано на сле-дующей теореме.

Т е о р е м а 1 [2]. Поточечный стабилизатор множества вершин C выпуклой оболочки геометрического графа nK тривиален.

В данной работе мы доказываем следующую теорему. Т е о р е м а 2. Для геометрической клики 7K отличительное число Dist( 7K ) ≤ 2.

Д о к а з а т е л ь с т в о. Обозначим через G геометрический граф 7K . На основании получен-

ного результата в [2] далее всюду будем считать, что выпуклая оболочка C графа G есть цикл 3C . Поскольку C≠C7, то по лемме 3 [1] G не является вершинно-транзитивным графом. Рассмот-

рим его наибольшую вершинную орбиту W (относительно действия группы автоморфизмов Aut(G)). Пусть mK (m<7) – граф, индуцированный множеством вершин W. Тогда в силу лемм 3

и 4 [1] mK может либо 1) совпадать с графом 6K , состоящим из двух вложенных друг в друга треугольников, либо 2) являться выпуклым геометрическим графом.

Рассмотрим случай 1). Тогда граф G содержит две вершинно-транзитивные орбиты: O1 = 6K ,

где 6K состоит из двух вложенных друг в друга треугольников, и O2 =v7, где v7 – неподвиж-ная вершина относительно любого автоморфизма из Aut(G). Заметим, что если вершина v7 лежит внутри внутреннего треугольника графа 6K или вне графа 6K , то существуют две вершины

6K , скажем v1 и v2, такие, что ребро v1v7 не имеет пересечений, а ребро v2v7 имеет пересечение,

а б

Рис. 1



Беларуси

116

что противоречит существованию такого автоморфизма ϕ∈Aut(G), что ϕ(v1)=v2. То же самое можно утверждать, когда вершина v7 лежит между двумя треугольниками графа 6K . Для этого достаточно рассмотреть четыре области внутри четырехугольника v2v3v6v5, полученные в резуль-тате пересечения его диагоналей, где может находиться вершина v7 (рис. 1, a)). Заметим, что они всегда существуют, поскольку вершины внешнего треугольника лежат во внешних углах вер-шин внутреннего треугольника (см. [1]). Легко удостовериться, что всегда найдутся две верши-ны 6K , например, v2 и v5 (см. рис. 1, a) такие, что ребро v2v7 не имеет пересечений, а ребро v5v7

имеет пересечение. Таким образом, случай 1) невозможен. Перейдем теперь к случаю 2). Тогда число m может принимать следующие значения:

m= 3,4,5,6. Пусть m= 6. В этом случае граф G также состоит из двух вершинных орбит: O1 = 6K

и O2 =v7, где 6K – выпуклая геометрическая клика, а v7 –неподвижная вершина относительно любого автоморфизма из Aut(G). Тогда можно воспользоваться следующим очевидным утвер-ждением.

Л е м м а 1. Пусть O1,…, Ok – вершинные орбиты графа G, тогда Dist(G) ≤

1,max Dist( )ii k

O=

.

В силу этой леммы и леммы 1 [1] имеем следующую цепочку неравенств: Dist(G) ≤ Dist( 6K ) ≤

Dist( 6C )= 2, поскольку, ни одно из ребер v7vi, 1,6,i = не пересекает выпуклую оболочку 6C

геометрической клики 6K . Пусть m= 5 и множество вершин клики 5K состоит из точек vi, 1,5i = . Тогда отрезок v6v7

неподвижен относительно любого автоморфизма из Aut(G) (могут меняться местами только его концы, если число вершинно-транзитивных орбит равно 2). Воспользуемся теперь следующим утверждением.

Л е м м а 2. Любое ребро выпуклой оболочки 5C клики 5K при произвольном автоморфиз-ме ϕ∈Aut(G) переходит в ребро выпуклой оболочки 5C .

В силу этой леммы отрезок v6v7 не может пересекать выпуклую оболочку 5C . А поскольку выпуклая оболочка графа G есть цикл 3C , обе точки v6 и v7 лежат вне выпуклой оболочки 5C . Тогда, по крайней мере, одна из этих точек лежит на выпуклой оболочке 3C графа G. Следова-тельно, по крайней мере, одна точка v клики 5K лежит на 3C . Заметим тогда, что последова-тельность пересечений этой точки v содержит четыре нуля. В то же время, одна из двух смежных с v вершин клики 5K не может иметь в своей последовательности пересечений более трех ну-лей. Противоречие.

Пусть m= 4. Обозначим вершины, не входящие в вершинно-транзитивную геометрическую клику 4K , через v5, v6 и v7. По крайне мере одна из них, например v7, должна лежать на выпук-

лой оболочке 3C графа G. Здесь мы можем воспользоваться следующим очевидным утвержде-нием.

Л е м м а 3. Если отрезок vivj пересекает выпуклую оболочку 4C вершинно-транзитивной

геометрической клики 4K (один из его концов может совпадать с вершиной 4C ), то и для

произвольного автоморфизма ϕ∈Aut(G) образ ϕ(vi)ϕ(vj) также пересекает 4C .

Поэтому, если две другие точки, v5 и v6, лежат внутри клики 4K , то по лемме 3, точка v7 не-подвижна относительно любого ϕ∈Aut(G). Применяя теперь теорему 7 [2] и приписывая верши-не v7 любой из двух цветов, мы получим 2-отличительную раскраску графа G.



Беларуси

117

Если только одна точка, v6, лежит внутри клики 4K (а точка v5 – внутри выпуклой оболочки

3C ), то по лемме 3 она должна быть неподвижной относительно любого ϕ∈Aut(G). Поэтому

отрезки v6v7 и v6v5 должны пересекать два противоположных ребра клики 4K (см. рис. 1, б). Но тогда раскраска вершин, представленная на этом рисунке, является 2-отличительной. Действи-тельно, если мы рассмотрим произвольный автоморфизм ϕ∈Aut(G), сохраняющий эту раскрас-ку, то вершины v4 и v7 неподвижны относительно него. Кроме того, поскольку ребра v6v7 и v6v5 также неподвижны относительно такого ϕ∈Aut(G), то неподвижной остается и вершина v1. Та-ким образом, ϕ=id.

Если обе точки v5, v6 лежат вне клики 4K , но внутри выпуклой оболочки 3C , то присвоим вершинам цвета, как показано на рис. 2, a, и пусть произвольный автоморфизм ϕ∈Aut(G) сохра-няет эту раскраску. Покажем, что вершина v7 остается неподвижной. Действительно, иначе ϕ(v7)= v6 и одно из ребер v1v6 и v4v6, являющихся образами при автоморфизме ϕ ребер v1v7 и v4v7, имеет пересечение. Противоречие. Поэтому вершины v5, v6 также неподвижны при действии та-кого ϕ. Осталось воспользоваться следующим утверждением.

Л е м м а 4. Пусть граф G=C3 +P2 – соединение цикла C3 и цепи P2. Тогда автоморфизм ϕ∈Aut(G), удовлетворяющий условию 3ϕ =C id , является тривиальным.

Рассмотрим теперь ситуацию, когда только одна вершина, v1, клики 4K принадлежит вы-

пуклой оболочке 3C . При этом пусть вершины v6, v7 также входят в 3C .

Если точка v5 лежит внутри выпуклой оболочки клики 4K , то она является неподвижной относительно любого ϕ∈Aut(G), поскольку иначе какая-то точка из v6, v7 должна быть ее прооб-разом при этом автоморфизме, а, следовательно, ребро ϕ(v6)ϕ(v7) имеет пересечение (с выпуклой оболочкой клики 4K ), противоречие. Переходя теперь к ограничению автоморфизмов

( )4 5Aut( ) +G K v , нетрудно видеть (см. рис.2, б), что они не реализует транзитивность вершин кли-

ки 4K . Таким образом, этот случай невозможен и v5 лежит вне выпуклой оболочки клики 4K . В этом случае раскрасим вершины графа G в цвета, как показано на рис. 3, а. Поясним здесь,

что цвета «–», «+», или «±», присвоенные областям (треугольникам v1v7L, v1v6M и полигону v4v3v2LM соответственно) означают, что если точка v5 лежит в данной области, то ее раскрашивают в соответствующий цвет. Нетрудно видеть тогда, что точки v1, v6 и v7 неподвижны при любом ав-томорфизме ϕ∈Aut(G), сохраняющем эти цвета. Далее можно воспользоваться теоремой 1.

Наконец, рассмотрим ситуацию, когда вершинно-транзитивная клика 4K целиком лежит

внутри выпуклой оболочки 3C , индуцированной вершинами v5, v6 и v7. Заметим, что среди 12 отрезков vivj, 1,4, 5,7i j= = , обязательно существует отрезок, пересекающий выпуклую

a б

Рис. 2



Беларуси

118

оболочку v1v2v3v4 клики 4K . Действительно, это следует из того, что каждая пара противопо-ложных сторон четырехугольника v1v2v3v4 пересекается в единственной точке. Эти две точки пе-ресечения А и B (см. рис. 3, б) определяют области «видимости» всех точек v1, v2, v3, v4: из любой точки внутреннего угла с вершиной в данной точке пересечения «видны» все вершины клики

4K . Для того, чтобы цикл 3C содержал четырехугольник v1v2v3v4, третья вершина цикла 3C обязательно должна находиться вне этих двух областей «видимости» и, значит, найдется отрезок, скажем v1v7, пересекающий четырехугольник v1v2v3v4 по его стороне, скажем v2v3 (см. рис. 3, б).

Присвоим теперь следующие цвета вершинам v5, v6 и v7: вершине v7 присвоим цвет «–», а вершинам v5 и v6 – «+», Тогда вершина v7 неподвижна относительно любого автоморфизма ϕ∈Aut(G), сохраняющего эти цвета. Если v1v7 – единственный отрезок, выходящий из вершины v7 и пересекающий четырехугольник v1v2v3v4 (см. рис. 3, б), то неподвижной относительно этого ϕ будет и вершина v1, а значит, и все остальные вершины, v2, v3, v4, четырехугольника v1v2v3v4. Если же существует еще один отрезок v2v7, выходящий из вершины v7 и пересекающий четырех-угольник v1v2v3v4, то вершинам v1, v2 присвоим разные цвета. Тогда все вершины четырехуголь-ника v1v2v3v4 будут неподвижны относительно любого автоморфизма ϕ∈Aut(G), сохраняющего эти цвета. Осталось воспользоваться леммой 4, из которой следует, что неподвижными будут и вершины v5, v6.

Случай m= 3 рассматривается аналогично и используются те же методы исследования. Тео-рема доказана.

Т е о р е м а 3. Для клики K7 имеет место равенство Distg(K7)= 2. Д о к а з а т е л ь с т в о этой теоремы следует непосредственно из предыдущей теоремы

и примера, представленного на рис. 2, а (без раскраски), для которого существует нетри-виальный геометрический автоморфизм.

Работа выполнена в рамках Государственной программы фундаментальных исследований «Математические модели» при частичной поддержке Белорусского республиканского фонда фундаментальных исследований (проект Ф07–293).

Литература 1. A l b e r t s o n M. O., B o u t i n D. L. // J. Graph Theory. 2006. Vol. 53. P. 135–150. 2. A l b e r t s o n M. O., B o u t i n D. L. // Discrete and Computational Geometry. 2008. Vol. 39. P. 778–785.

V. I. BENEDIKTOVITCH

DISTINCTIVE NUMBER OF THE GEOMETRIC CLIQUE K7

Summary In this article a distinctive number of geometric clique K7 is found.

a б

Рис. 3



Беларуси

119


КАРОТКІЯ ПАВЕДАМЛЕННІ

УДК 511.36 Н. В. ШАМУКОВА

СВЯЗЬ ВЕЛИЧИН КОЭФФИЦИЕНТОВ ЦЕЛОЧИСЛЕННЫХ МНОГОЧЛЕНОВ И ИХ КОРНЕЙ В ПОЛЯХ

КОМПЛЕКСНЫХ И р-АДИЧЕСКИХ ЧИСЕЛ

Бобруйский филиал Белорусского государственного экономического университета


Во многих задачах теории чисел нужно по величине коэффициентов многочленов получить информацию о величине корней в поле комплексных чисел или об их р-адической норме. В мо-нографии [1] В. Г. Спринджук при решении проблемы Малера о мере множества действитель-ных, комплексных и р-адических чисел показал, что изучаемое множество без значительного изменения метрических и топологических характеристик может быть перенесено в окрестность нуля. Суть проблемы проясняется в следующей лемме.

Л е м м а. Пусть коэффициенты полинома

( ) 11 1 0

n nn nР x а x a x a x a−

−= + + + +…

удовлетворяют при некотором 1 0c > неравенству

( )1na c H P> , ( )0max j

j nH H P a

≤ ≤= = . (1)

Тогда для любого из его корней 1 2, , , nα α α… справедливо неравенство

11 1ja c −< + . (2)

В частности при 1 1c = все корни Р(х) лежат в круге комплексной плоскости радиуса r = 2 с центром в начале координат. Аналогичный результат получен и для нормы корней , 1j j nβ ≤ ≤ , полинома Р(х) в некотором алгебраическом расширении поля р-адических чисел pQ

1j pβ << . (3)

Здесь << означает для двух величин А и В, что существует c>0 такое, что А<cВ. Неравенства (2) и (3) удобны тем, что можно легко получать оценку сверху для многих функций от корней многочленов. Однако величина 1с может оказаться малой. Более того, при ( )H H P= →∞ вели-чина 1с может стремиться к нулю, а значит 1

1−c – к бесконечности. В [1] указаны простые преоб-

разования аргумента полинома Р(х), переводящие его в полином 1( )P x , для которого ( )1c c n> и не зависит от Н. В ряде задач диофантовых приближений необходимо выполнение условия (1) и его р-адического варианта одновременно. Более того, в р-адическом случае для простых чисел

1 2, , , kp p p… требуется выполнение системы неравенств

21min .

jn pj ka c

≤ ≤> (4)



Беларуси

120

В данной статье мы укажем такие преобразования аргумента многочлена Р(х), при которых старший коэффициент Р(х) удовлетворяет одновременно условиям (1) и (4).

Т е о р е м а. Пусть 11 1 0( ) n n

n nР х а x a x a x a−−= + + + +… целочисленный полином,

( )0 1, , , 1, ( ) ,na a a H P Q= ≤… и пусть D(P) – дискриминант Р(х). Тогда можно построить поли-

ном 1 0( ) nnT x b x b x b= + + +… , ( ) [ ] ,T x x∈Ζ который удовлетворяет условиям

( ) , ( ) ( ), 1, 1, 2.in pH T Q D T D P b i<< = >> =

Д о к а з а т е л ь с т в о. Вначале допустим, что существует 0 0, 1 1,m m n≤ ≤ + такое что

1 101 1max ( ) ( ) 1.p pk n

P k P m≤ ≤ +

= >> Существование такого 0m доказано в [1].

Предположим, что для некоторого 3 1dс p= выполняется следующая система неравенств

1 13

1 1max ( ) .d

p pk nP k c p −

≤ ≤ +< = (5)

Предположения в теореме подразумевают, что есть такой 0 0, 0 ,j j n≤ ≤ что 0 11.j p

a =

Заменим систему (5) системой уравнений относительно , 0 ,ia i n≤ ≤ и решим ее относи-тельно 0 .ja Получим

( ) ( ) ( )

1

1

1

1 1 0 3 1

11 1 0 3 2

11 1 0 3 1

1

,

2 2 2 ,

...............................................................................................

1 1 1 ,

, 1,i

n n p

n nn n

p

n nn n n

p

di i

a a a a c

a a a a c

a n a n a n a c

p d

+

−+

−+ +

⎧ + + + + = θ

+ + + + = θ

+ + + + + + + = θ

θ = ≥

…

…

…

⎪⎪⎪⎪⎨⎪⎪⎪⎪⎩

00

jja

Δ=

Δ (6)

Определитель Δ из (6) – определитель Ван дер Монда.

( )

( )0

1 1 11 2 1

! !.

1 2 1

n

knn

тk n k

n=

+Δ = = −∏

+

……

…

(7)

Простое число 1p входит в !k в степени, не большей

21

,j

j

k k k p kp p

∞−

=

⎡ ⎤⎡ ⎤+ + ≤ ≤⎢ ⎥⎢ ⎥

⎣ ⎦ ⎣ ⎦∑

и Δ содержит степень 1p , не большую, чем nn . Для определителя jΔ равенство 0 0 01 , 1j j jcΔ = Δ Δ ≤ выполняется и поэтому 0

dj p

p −Δ ≤ .

Если 0 11,j p

Δ = равенство (6) выполняется при .nd n>



Беларуси

121

Положим ( ) 11

0 1 .lp

P m p −= Мы выбираем 2 1l l> и рассматриваем числа

201 , 1 1.lsp m s n+ ≤ ≤ + Ясно, что ( ) ( )2

110 01 1.l

ppP sp m P m+ = >> Нетрудно доказать, что в

этом случае определитель в (7) равняется

( )21

0! !

nl

kp k n k

=−∏

и простое число 2p входит в указанное число со степенью, не большей nn . Далее будем пола-гать, что 2

0 0 01lt s p m= + .

Рассмотрим многочлен ( ) ( ) ( )11 0 1 1 0 .n n

n nP x P x m a x a x a x P m−−= + = + + + +′ ′… Его

корни 0 , 1 ,j j m j nβ = α − ≤ ≤ и абсолютное значение дискриминанта равно

( ) ( ) ( ) ( )2 22 2 2 21

1 1.n n

n i j n i ji j n i j n

D P a a D P− −

≤ < ≤ ≤ < ≤= β −β = α − α =∏ ∏

Многочлен ( ) ( ) 11 0 1 1

1n n nn nT x x P P m x a x a x a

x−

−⎛ ⎞= = + + + +′′ ′′⎜ ⎟⎝ ⎠

… имеет корни

0

1 1 , 1 .jj j

j nm

γ = = ≤ ≤β α −

Абсолютное значение дискриминанта равно

( ) ( ) ( ) 22 2 2 20

1.n

i j i ji j n

D T P m − − −

≤ < ≤= β −β β β∏

Но ( ) ( )( ) 2 22 2 10

1,

ni j i j n

i j nP m a

−− − −

≤ < ≤β − β β β =∏ поэтому ( ) ( ) .D T D P= Условие

( ) ( )H T c n H< очевидно выполняется, потому что ( )H T имеет порядок ( )H P .


1. С п р и н д ж у к В. Г. Проблема Малера в метрической теории чисел. Минск, 1967.

N. V. SHAMUKOVA

RELATION BETWEEN THE VALUES OF INTEGER POLYNOMIAL COEFFICIENTS AND THEIR ROOTS IN THE FIELDS OF COMPLEX AND p-ADIC NUMBERS

Summary In the article it was shown how by means of linear-fractional transformations of argument any integer polynomial can be

reduced to the polynomial with the values of roots and p-adic norm not larger than some value that doesn’t depend on the height of polynomial.



Беларуси

122


ВУЧОНЫЯ БЕЛАРУСІ

ВЛАДИМИР АРХИПОВИЧ ЛАБУНОВ

(К 70-летию со дня рождения)

16 марта 2009 г. исполнилось 70 лет со дня рождения вы-дающегося ученого в области нано- и микроэлектроники, ор-ганизатора науки, педагога и общественного деятеля, акаде-мика Национальной академии наук Беларуси Владимира Ар-хиповича Лабунова.

Владимир Архипович родился в г. Орше. В 1961 г. окончил Белорусский политехнический институт, после чего с 1961 по 1963 г. работал инженером-конструктором радиоэлектрон-ных систем на предприятии п/я 32 Министерства радио-технической промышленности (г. Минск). С 1963 г. он аспи-рант БПИ. В 1966 г. защитил кандидатскую диссертацию и был распределен в Mинский радиотехнический институт (ныне БГУИР), где с 1966 по 1994 г. работал ассистентом, старшим преподавателем, доцентом, профессором, заведую-щим кафедрой.

В 1971 г. В. А. Лабунов защитил докторскую диссерта-цию, в 1975 г. был избран заведующим кафедрой микроэлек-троники Минского радиотехнического института.

На базе кафедры микроэлектроники впервые в Беларуси была открыта проблемная лаборато-рия в области микроэлектроники, научным руководителем кoтоpoй являлся В. А. Лабунов. Ла-боратория стала родоначальником 12 научно-исследовательских лабораторий, в которых работа-ли 187 инженеров и научных сотрудников кафедры.

В 1982 г. В. А. Лабунов избран членом-корреспондентом АН БССР по специальности «Мик-роэлектроника», в 1986 г. – академиком АН БССР по той же специальности, а в 1987 г. – акаде-миком-секретарем Отделения физики, математики и информатики АН БССР и работал в этой должности до 1989 г.

Основным направлением исследований, проводимых под руководством В. А. Лабунова, яв-лялось создание полностью автоматизированных интегрированных замкнутых технологий про-изводства интегральных микросхем. На основе этих разработок в Советском Союзе впервые в мировой практике (примерно на 15 лет раньше, чем на Западе) были продемонстрированы ин-тегрированные системы в одной вакуумной камере, которые получили междyнapоднyю извест-ность под названием «бочка Лабунова», и интегрированные системы линейного типа, в которых вакуумные камеры соединялись вакуумной транспортной системой. Сегодня мировая микро-электроника работает на «бочках Лабунова», которые называют «кластерами».

В этой области В. А. Лабуновым было опубликовано более 400 научных работ и сделано бо-лее 500 изобретений.

За период с 1968 по 1989 г. им было подготовлено 78 кандидатов и 8 докторов наук. Кафедра микроэлектроники, которой руководил В. А. Лабунов, выпустила тысячи инженеров

электронной техники высокой квалификации, составляющих костяк таких флагманов электрон-ной промышленности, как НПО «Интеграл», «Планар» и десятка других радиоэлектронных предприятий Республики Беларусь.

За высокие достижения в области науки и техники В. А. Лабунову присвоено звание За-служенный изобретатель Белорусской ССР. В 1978 г. он удостоен первой премии Президиума АН СССР за лучшие фундаментальные разработки в области микроэлектроники, а в 1992 г. –



Беларуси

123

звания лауреата Государственной премии Республики Беларусь за цикл работ «Создание и про-мышленная реализация высокоэффективной системной технологии массового производства сверхбольших интегральных схем». Награжден орденами Октябрьской Революции (1986 г.), Трудового Красного Знамени (1981 г.) и медалью «За трудовую доблесть» (1979 г.).

С 1989 по 1991 г. В. А. Лабунов находился на постоянной работе в Москве: был членом Вер-ховного Совета СССР, заместителем председателя Комитета по науке и технологиям Верховного Совета СССР, проводил работу по реорганизации науки, руководил разработкой ряда законода-тельных актов, призванных способствовать развитию научно-технического прогресса, защите интеллектуальной собственности и др.

С 1991 по 1994 г. В. А. Лабунов – вновь заведующий кафедрой микроэлектроники БГУИР. Владимир Архипович Лабунов являлся президентом Ассоциации содействия ООН Беларуси

(1989–1994 гг.), вице-президентом Комиссии ООН по науке и технике для развития (1990–1995 гг.), членом коллегии МИД Республики Беларусь (1990–1994 гг.).

С 1994 по 2002 г. В. А. Лабунов – Чрезвычайный и Полномочный Посол Республики Бела-русь в Бельгии, Нидерландах и Люксембурге, постоянный Представитель Республики Беларусь при Европейских сообществах и при Организации Североатлантического договора (НАТО). Из-бирался вице-президентом Научно-технической программы Европейского союза INTAS (1997–1999 гг.).

Как ученый, депутат Верховного Совета СССР и Посол Республики Беларусь В. А. Лабунов посвятил свои знания и опыт ученого, политика и дипломата защите интересов нашей страны на международной арене и повышению ее научно-технического потенциала.

Начиная с 2001 г., после возвращения с дипломатической работы, академик В. А. Лабунов является главным научным сотрудником Белорусского государственного университета инфор-матики и радиоэлектроники, членом Президиума НАН Беларуси, членом наблюдательного сове-та Парка высоких технологий.

Как член Президиума НАН Беларуси, ответственный за электронику, микро- и наноэлектро-нику, В. А. Лабунов является научным руководителем государственных программ ГНТП «Mикроэлектроника» и «Инфотех», ГКПНИ «Электроника» и «Нанотех». Постановлением Сове-та министров РБ он назначен заместителем научного руководителя Государственной комплекс-ной целевой НТП «Электроника и оптика», в которую входят ГНТП «Mикроэлектроника», «Ра-диоэлектроника» и «Оптотех» и ГКПНИ «Электроника» и «Фотоника».

В настоящее время основным направлением научной деятельности В. А. Лабунова яляется наноэлектроника, в частности исследование и разработка элементной базы (транзисторы, дис-плеи, электронно-оптические и электромеханические элементы, сенсоры, солнечные элементы, микротопливные элементы и др.) для новых поколений информационных и коммуникационных систем. Осуществляется это путем масштабирования до наноразмеров элементов кремниевой технологии как базовой и расширения функциональных возможностей этих элементов за счет использования специально разработанных наноструктурированных неорганических и функцио-нальных органических материалов, таких как нанопроволоки, нанотрубки, наночастицы, полу-чаемые самосборкой монослои, а также биомолекулы.

Начиная с 2001 г. им опубликовано в этой области более 100 работ в престижных междуна-родных изданиях, сделаны десятки научных докладов на международных конференциях самого высокого уровня.

В. А. Лабунов осуществляет научное руководство пятью проектами в рамках перечисленных выше программ в области наноэлектроники, руководит двумя магистрантами, тремя аспиранта-ми и является научным консультантом двух докторских диссертаций в БГУИР.

Если человек талантлив, то он талантлив во всем: талантливый ученый академик В. А. Лабу-нов, обладая удивительным чувством нового, является «генератором идей» в области нано- и микроэлектроники, обладает глубочайшим чувством юмора, замечательный спортсмен. Его талант, трудолюбие, доброжелательность, внимательное отношение к людям, открытость и вы-сочайшая порядочность создают замечательный облик белорусского ученого.

Отделение физики, математики и информатики НАН Беларуси, Белорусский государственный университет информатики и радиоэлектроники



Беларуси

124


ВАЛЕНТИН ВИКЕНТЬЕВИЧ ГОРОХОВИК

(К 60-летию со дня рождения)

29 марта 2009 г. исполняется 60 лет доктору физико-математических наук, профессору, члену-корреспонденту НАН Беларуси Валентину Викентьевичу Гороховику.

Валентин Викентьевич родился в 1949 г. в д. Хорошее Логойского района Минской области. В 1965 г. после окон-чания с серебряной медалью средней школы поступил на математический факультет Белорусского государственно-го университета, который с отличием окончил в 1970 г. Вся трудовая жизнь В. В. Гороховика неразрывно связана с Ин-ститутом математики НАН Беларуси, куда он был принят на работу еще до окончания университета в сентябре 1969 г. Здесь в Институте математики он состоялся как ученый, пройдя путь от младшего до главного научного сотрудника. В 1996 г. В. В. Гороховик возглавил созданный в институте новый отдел – отдел нелинейного анализа (с 2004 г. отдел нелинейного и стохастического анализа), которым руково-дит и в настоящее время. В июне 1973 г. Валентин Викенть-евич защитил кандидатскую диссертацию, а в ноябре 1988 г.

в Институте математики и механики Уральского отделения АН СССР – диссертацию на соис-кание ученой степени доктора физико-математических наук. В 1991 г. ВАК СССР присвоил В. В. Гороховику ученое звание профессора, а в 2000 г. он был избран членом-корреспондентом Национальной академии наук Беларуси.

В. В. Гороховик – известный ученый в области нелинейного анализа и математической тео-рии оптимизации. Его основные научные интересы связаны с такими актуальными разделами современного анализа, как выпуклый, негладкий и многозначный анализ, и их приложениями к экстремальным задачам. Существенный вклад внес В. В. Гороховик в разработку математиче-ских основ теории векторной оптимизации – нового научного направления, возникшего в теории оптимизации в 70-е гг. прошлого века и связанного с теоретическим обоснованием оптимально-го выбора по нескольким показателям качества.

В. В. Гороховик ввел в линейный и выпуклый анализ новые классы функций – ступенчато-линейных и ступенчато-аффинных – и развил теорию отделимости выпуклых множеств ступен-чато-аффинными функциями, которая обобщает один из основных принципов линейного анали-за – классическую теорию отделимости выпуклых множеств гиперплоскостями. В качестве при-ложений этой теории им предложен и разработан новый подход к исследованию выпуклых задач оптимизации, базирующийся не на классических схемах выпуклого анализа, а на отделимости выпуклых множеств ступенчато-аффинными функциями. Используя этот подход, В. В. Горохо-вик получил критерии оптимальности решений в нерегулярных выпуклых задачах векторной оптимизации, включая нерегулярные классические задачи выпуклого программирования. Этими результатами, фактически, была полностью завершена разработка двойственных условий опти-мальности для выпуклых задач оптимизации.

Существенный вклад внес В. В. Гороховик и в развитие негладкого анализа, т. е. анализа не-дифференцируемых в классическом смысле функций и отображений. В этом направлении им разработана теория полиэдрального и аппроксимативного квазидифференцирования функций и отображений, основанная на использовании кусочно-аффинных и разностно-сублинейных ло-кальных аппроксимаций. Применяя развитую технику полиэдрального и аппроксимативного



Беларуси

125

квазидифференцирования к исследованиям экстремальных задач, в частности, общих задач векторной оптимизации и задач оптимального управления по векторному показателю качества, В. В. Гороховик всесторонне разработал для них теорию необходимых и достаточных условий оптимальности первого и более высоких порядков.

В многозначном анализе, т. е. анализе отображений, значениями которых являются множест-ва, основные результаты В. В. Гороховика связаны с дифференцируемостью многозначных ото-бражений и, в частности, с распространением на многозначные отображения классического по-нятия дифференцируемости по Фреше. Самостоятельный интерес представляют исследования аффинных многозначных отображений, выполненные В. В. Гороховиком в рамках теории диф-ференцирования многозначных отображений. Важные результаты получены и по вопросам ус-тойчивости решений задач векторной оптимизации, связанные, по существу, с исследованием топологических свойств специальных многозначных отображений.

В последние годы значительные усилия В. В. Гороховика направлены на прикладные иссле-дования. Под его руководством выполнены важные проекты по договорам с рядом ведущих предприятий и организаций республики, в частности, с объединением «Интеграл», объединени-ем «Белорусская железная дорога» и др.

В. В. Гороховик участник многих международных симпозиумов и конференций, им опубли-ковано около 120 научных работ, в том числе монография «Выпуклые и негладкие задачи век-торной оптимизации» (1990), под его руководством защищены три кандидатские диссертации.

В. В. Гороховик принимает активное участие в аттестации научных кадров. Более двадцати лет он является членом, а в последние годы председателем совета по защите докторских диссер-таций. С момента создания ВАК Республики Беларусь в течение одиннадцати лет был членом экспертного совета ВАК по математике.

Валентин Викентьевич успешно сочетает научные исследования с педагогической деятель-ностью. Начиная с 1987 г., он работает по совместительству на механико-математическом фа-культете Белорусского государственного университета, в настоящее время – профессор кафедры математических методов теории управления. Читает лекции по основным и специальным кур-сам, руководит работой студентов над курсовыми и дипломными проектами, магистерскими диссертациями. При создании новых специальностей на факультете участвовал в разработке ря-да учебных программ и курсов лекций, в частности, подготовил и издал книгу «Конечномерные задачи оптимизации» (2007), которая рекомендована Министерством образования Республики Беларусь в качестве учебного пособия для студентов математических специальностей. В качест-ве председателя неоднократно возглавлял работу государственных экзаменационных комиссий в Белорусском и Гродненском государственных университетах.

Для В. В. Гороховика характерны большое трудолюбие, добросовестное и ответственное вы-полнение служебных обязанностей и общественных поручений, внимательное и доброжелатель-ное отношение к людям.

Коллеги и друзья сердечно поздравляют Валентина Викентьевича с юбилеем, желают ему крепкого здоровья, новых творческих достижений.

Отделение физики, математики и информатики НАН Беларуси, Институт математики НАН Беларуси



Беларуси

126


РЕФЕРАТЫ

УДК 519.2 Х а р и н Ю. С., В о л о ш к о В. А. Об одном методе робастного оценивания параметров авторегрес-

сии при наличии «выбросов» // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2009. 1. С. 4–12. Рассматривается задача статистического оценивания коэффициентов гауссовского авторегрессионного вре-

менного ряда порядка р, наблюдаемого со случайными «выбросами», имеющими симметричное распределение вероятностей. Предложен новый метод параметрического робастного оценивания значений корреляционной функции и коэффициентов авторегрессионного временного ряда. Исследованы асимптотические свойства оценок. Представлены численные результаты сравнения предлагаемого метода с оценками Хьюбера и МНК-оценками.

Ил. 1. Табл. 4. Библиогр. – 15 назв.

УДК 519.24 Т р у ш Н. Н., Л е Х о н г Ш о н. Оценка параметров модели GARCH (1,1) с остатками, имеющими

κ-устойчивое распределение // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2009. 1. С. 13–21. Строится М-оценка параметров модели GARCH (1,1), имеющей устойчивые остатки. Состоятельность и

асимптотическая нормальность доказаны. Библиогр. – 14 назв.

УДК 517.983:519.86 Т а н ы г и н а А. Н. Аналоги принципа Ле-Шателье – Самуэльсона для открытой модели Леон-

тьева – Форда // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2009. 1. С. 22–28. В работе приводятся аналоги принципа Ле-Шателье – Самуэльсона для открытой модели Леонтьева –

Форда как в случае выполнения неравенства ( ) 1Aρ < для технологической матрицы A модели, так и в случае, когда ρ( ) 1A ≥ .

Библиогр. – 7 назв.

УДК 512.542 С а в е л ь е в а Н. В., В о р о б ь е в Н. Т. О проблеме существования максимальных подклассов мини-

мального π-нормального класса Фиттинга // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2008. 1. С. 29–37. Пусть π – множество простых чисел. Определяется понятие π-нормального класса Фиттинга и изучаются

его свойства. Доказано, что для любого непустого множества простых чисел π в минимальном π-нормальном классе Фиттинга (Sπ) * не существует нетривиальных максимальных по включению локальных подклассов Фиттинга.


УДК 517.958: 537.8 К о р з ю к В. И., Ш у ш к е в и ч Г. Ч. Экранирование магнитного поля системой экранов: тонкая

незамкнутая эллипсоидальная оболочка – сферическая оболочка // Весцi НАН Беларуси. Сер. фiз.-мат. на-вук. 2009. 1. С. 38–46.

Построено аналитическое решение задачи экранирования неосесимметричного магнитного поля тонкой незамкнутой эллипсоидальной оболочкой в присутствии сферической оболочки с использованием соответст-вующих теорем сложения и парных сумматорных уравнений с ядром в виде присоединенных функций Лежан-дра. Численно исследовано влияние угла раствора незамкнутой эллипсоидальной оболочки, некоторых геомет-рических параметров экранов и электрофизических свойств материала сферической оболочки на коэффициент ослабления поля внутри эллипсоидальной оболочки.

Ил. 3. Библиогр. – 15 назв.

УДК 517.958 Г а й д у к С. И., К у л е ш о в А. А. Об одной смешанной задаче из теории колебаний балок // Весцi

НАН Беларусi. Сер. фiз.-мат. навук. 2009. 1. С. 47–51. Построено и обосновано решение одной задачи о вызванных кинематическим ударом в одной точке и опи-

сываемых системой уравнений Тимошенко поперечных колебаниях однородной упругой балки. Ил. 2. Библиогр.— 10 назв.



Беларуси

127

УДК 539.3 Ш в е д О. Л. Определение тензора упругого спина в нелинейной теории пластичности // Весцi НАН

Беларусi. Сер. фiз.-мат. навук. 2009. 1. С. 52–58. На основе требования потенциальности определяющих уравнений в скоростях напряжений получен спин

собственно ортогонального тензора, сопровождающего упругую деформацию в активном процессе. Представ-ленные соотношения можно использовать при разработке компьютерных систем численного моделирования деформируемых металлических тел.


УДК 539. 172 М а к с и м е н к о Н. В., Т и м о ш и н Е. С. Спиновая структура нуклона в теории электрослабого

взаимодействия // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2009. 1. С. 59–63.

В кварк-партонной модели вклады кварковых ароматов (u, d, s) и валентных кварков ( VuΔ , VdΔ ) в спин нуклона выражены с помощью первых моментов поляризационных структурных функций нуклона в глубоко-неупругом рассеянии с нейтральным током с учетом слабого взаимодействия.


УДК 539.128.218.516.25 Б а р ы ш е в с к и й В. Г., Р о в б а А. А. О влиянии кулоновского взаимодействия на эффект спино-

вого дихроизма дейтронов в области энергий 5–20 МэВ // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2009. 1. С. 64–69.

При прохождении неполяризованного дейтронного пучка через неполяризованное вещество, вследствие спинового дихроизма дейтронов, дейтронный пучок приобретает тензорную поляризацию. Показано, что ин-терференция кулоновского и ядерного взаимодействий существенным образом влияет на величину и поведе-ние спинового дихроизма дейтронов в области энергии 5–20 МэВ. Получено качественное согласие теоретиче-ских и экспериментальных результатов.


УДК 530.12 Р я б у ш к о А. П., Ж у р Т. А. Релятивистские эффекты движения тела в гравитационном поле не-

однородной среды. II. Постньютоновское приближение общей теории относительности // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2009. 1. С. 70–75.

В постньютоновском приближении общей теории относительности найдены интеграл энергии, орбиталь-ный момент импульса тела и уравнение орбиты его движения в неоднородной среде. Предсказывается не-сколько релятивистских эффектов: добавочное ускорение тела как источник Pioneer аномалии, обратное сме-щение перигелия, сжатие орбиты, нарастающие пульсации секториальной и орбитальной скоростей. Даны не-которые числовые оценки для орбит Меркурия, Земли и Плутона.


УДК 539.2 М а к а р е н к о Л. Ф. Влияние потенциала изображения на энергию ионизации водородоподобного

центра, расположенного вблизи границы раздела двух сред // Весцi НАН Беларусi. Сер. фiз.-мат. навук. 2009. 1. С. 76–81.

Рассмотрено применение волновых функций простого вида для расчета энергии основного состояния во-дородоподобного центра, расположенного вблизи поверхности раздела двух сред. Расчеты проведены с учетом потенциала сил изображения. Показано, что в зависимости от расстояния до поверхности раздела оптималь-ным является использование пробных функций разного вида. Предложена достаточно простая функция, позво-ляющая воспроизвести основные особенности зависимости энергии основного состояния центра от расстояния до границы.

Ил. 3. Табл. 1. Библиогр. – 12 назв.

УДК 551.521.3 Ц ы м б а р е в и ч Е. Г. К теории переноса излучения в рассеивающих сильно флуктуирующих сре-

дах // Весці НАН Беларусі. Сер. фіз.-мат. навук. 2009. 1. С. 82–88. Предложен приближенный аналитический метод решения стохастического уравнения переноса – малоуг-

ловой метод итераций, справедливый для рассеивающих сред с произвольной статистикой оптических пара-метров и сильно анизотропным рассеянием. Для одномерной статистической модели бинарной марковской смеси проведено исследование сходимости метода и его точности. Показана возможность использования пред-ложенного метода для описания радиационного переноса в средах с сильно флуктуирующими оптическими параметрами.




Беларуси

128

УДК 535.212 Н е п о к о й ч и ц к и й А. Г., И г н а т о в Б. И., Ф р а н ц к е в и ч К. В., А с т а ш е н к о С. Г. Некото-

рые особенности формирования металлических покрытий на металлооксидных композициях // Весці НАН Беларусі. Сер. фіз.-мат. навук. 2009. 1. С. 89–92.

Рассмотрены некоторые закономерности формирования металлических покрытий на оксидах металлов и феррите под действием электрохимических и электроплазменных процессов. Предложен метод получения по-крытий любой формы и размеров. Применим в радио- и электротехнике, электронике, вычислительной технике при производстве пассивных LRC элементов, токопроводящих каналов на поверхности и в толщине оксидных материалов.


УДК 544.022.347 К а л а н д а Н. А., К о х а н о в с к и й Л. В., П а в л е н к о А. А. Динамика десорбции и кислородная

нестехиометрия в La0,6Sr0,4MnO3-δ // Весці НАН Беларусі. Сер. фіз.-мат. навук. 2009. 1. С. 93–97. На основании полученных результатов установлено, что скорость выделения кислорода из La1-хSrхMnO3-δ

является функцией парциального давления кислорода (pO2). Предполагается, что такое поведение энергии ак-тивации диффузии кислорода обусловлено наличием напряженного слоя на поверхности зерна. Во время вы-деления кислорода из La0.6Sr0.4MnO3-δ существует два минимума тока титрования, обусловленных разрывом связей анионов с трехвалентным и четырехвалентным марганцем, а также образованием переходного слоя, расположенного вблизи поверхности зерна, обедненного кислородом и одновременно являющегося буфером для диффузии кислорода из зерна.


УДК. 621.372.413:535 Х а п а л ю к А. П. Решение уравнений Максвелла дифракционного типа // Весці НАН Беларусі. Сер.

фіз.-мат. навук. 2009. 1. С. 98–107. Получено точное аналитическое решение дифракционной задачи на идеальном плоском экране довольно

общего вида. Задача сформулирована как краевая задача для уравнений Максвелла. Дифрагирующая и ди-фракционные волны являются точными решениями уравнений Максвелла, которые определяются тангенци-альными составляющими векторов поля волны на экране как произвольные функции координат плоскости эк-рана. Поэтому дифрагирующая волна может быть произвольной (не обязательно плоской) и произвольными могут быть электродинамические свойства экрана, которые определяют дифракционные волны.

Точные аналитические решения представлены в виде интегралов, которые однозначно определяются через заданные при постановке задачи краевые функции.


УДК 519.6+681.3.012 Л и х о д е д Н. А. Сохранение зависимостей между операциями при распараллеливании алгоритмов //

Весці НАН Беларусі. Сер. фіз.-мат. навук. 2009. 1. С. 108–112. Разработан метод получения условий сохранения зависимостей распараллеливаемого алгоритма. В отли-

чие от других способов, основанных на лемме Фаркаша, метод применим при произвольных, заранее неиз-вестных значениях внешних переменных.


УДК 519.173 Б е н е д и к т о в и ч В. И. Отличительное число геометрического графа K7 // Весці НАН Беларусі.

Сер. фіз.-мат. навук. 2009. 1. С. 113–118. В данной работе находится отличительное число геометрического графа K7. Ил. 3. Библиогр. – 2 назв.

УДК 511.36 Ш а м у к о в а Н. В. Связь величин коэффициентов целочисленных многочленов и их корней в по-

лях комплексных и p-адических чисел // Весці НАН Беларусі. Сер. фіз.-мат. навук. 2009. 1. С. 119–121.

В монографии В. Г. Спринджука доказано, что преобразованиями аргумента из многочлена ( )P x ,

deg P n≤ , можно получить новые многочлены ( )1P x и ( )2P x , у которых модули корней ограничены ( )1c n ,

а их р-адическая норма ( )2c n . В работе найдено преобразование аргумента, приводящее к многочлену ( )3P x ,

у которого модули корней и их р-адическая норма ограничены одной и той же величиной ( )3c n . Библиогр. – 1 назв.



Беларуси

Documents

m k b Z je - ЦНБ НАН Беларусиcsl.bas-net.by/xfile/v_fizm/2009/1/b475u.pdf · 1 СЕРЫЯ ФІЗІКА-МАТЭМАТЫЧНЫХ НАВУК 2009 № 1 СЕРИЯ ФИЗИКО-МАТЕМАТИЧЕСКИХ