ОКЕАНОЛОГИЯ, 2017, том 57, № 2, с. 297–302

297

МЕТОДЫ МАШИННОГО ОБУЧЕНИЯ В ЗАДАЧЕ ОПРЕДЕЛЕНИЯ СОСТОЯНИЯ ДИСКА СОЛНЦА ПО ШИРОКОУГОЛЬНЫМ СНИМКАМ

ВИДИМОЙ ПОЛУСФЕРЫ НЕБА НАД ОКЕАНОМ© 2017 г. М. А. Криницкий

Институт океанологии им. П.П. Ширшова РАН, Москва, Россияe-mail: krinitsky@sail.msk.ru

Поступила в редакцию 22.09.2016 г.После доработки 06.10.2016 г.

Разработан и реализован новый подход к автоматическому определению состояния диска Солнцапо широкоугольному снимку видимой полусферы неба с использованием методов машинного обу-чения. Проанализирована эффективность наиболее широко используемых алгоритмов машинногообучения, а также оценено влияние понижения размерности пространства признаков на точностьклассификации. Модель многослойной искусственной нейронной сети показала наилучшее каче-ство по показателю доли верных ответов. Результат работы демонстрирует эффективность исполь-зования методов машинного обучения в приложении к задаче определения состояния диска Солнцапо широкоугольным снимкам неба.

DOI: 10.7868/S0030157417020125

ВВЕДЕНИЕПри автоматической оценке общего балла об-

лачности (далее ОБО) по цифровым широко-угольным снимкам видимой полусферы неба(рис. 1) традиционно используется ряд алгорит-мов [10, 12, 13], которые дают смещенную оценкупо сравнению с показаниями наблюдателя [1].В [1] продемонстрировано, что одним из важныхфакторов, ограничивающих точность оценкиОБО, является состояние диска Солнца (далее СДС),представленного на фотографии (рис. 1). СДСтакже является важной характеристикой, влияю-щей на оценку приходящих коротковолновых ра-диационных потоков на поверхность океана ивходящей в состав стандартных метеорологиче-ских и актинометрических наблюдений.

При проведении морских и наземных наблю-дений СДС оценивается визуально [3]. Согласнометодике [3], СДС делится на четыре класса: –1(“пасмурно”, солнечного диска не видно сквозьплотные облака); 0 (Солнце слабо просвечивает,видно место его нахождения, но тени от предме-тов не наблюдаются; т.н. “Солнце в нулевой сте-пени”); 1 (Солнце просвечивает сквозь облака,туман, дым, пыль; наблюдаются тени от предме-тов; т.н. “Солнце в первой степени”); 2 (на сол-нечном диске и в зоне 5° от его центра не заметноследов облаков, тумана, дыма, пыли; т.н. “Солн-це в квадрате”). Автоматическое и экспертноеопределения СДС по широкоугольному снимкунеба затруднены отсутствием предметов и их те-

ней в кадре. Для оценки способности оператораопределять СДС по снимку было проведено те-стирование на выборке, сбалансированной поклассам СДС, общим объемом 1600 снимков.В рамках этого тестирования оценка человека поширокоугольной цифровой фотографии сравни-валась с показаниями наблюдателя в натурныхусловиях. При этом учитывалось, что смежныеклассы СДС (“0” и “1”, “1” и “2”) в некоторыхситуациях недостаточно четко различимы в на-турных условиях. Описанное испытание показа-ло, что специалист способен определить СДС влабораторных условиях, т.е согласно общимпредставлениям о передаче визуальной сценыфотоснимком без наблюдения реальной ситуации.

В предположении, что СДС обуславливает ста-тистические характеристики цветовых полейизображения, а также поля синтетического ин-декса GrIx (т.н. “индекс степени серости пикселя”),предложенного в [1], нами был сформирован на-бор численных признаков, на которых задача ав-томатической классификации с применением со-временных методов машинного обучения имеетрешение с точностью, превышающей точностьслучайного выбора. При этом некоторые из рас-смотренных алгоритмов позволяют достигать ка-чества по показателю доли верных ответов более96%. Принимая во внимание результат кластери-зации множества объектов (цифровых снимковвидимой полусферы неба), приведенный в [1],для корректности использования методов ма-

УДК 551.501.776,551.508.761

ФИЗИКА МОРЯ

4

298

ОКЕАНОЛОГИЯ том 57 № 2 2017

КРИНИЦКИЙ

шинного обучения нами была выдвинута гипотезакомпактности: объекты, относящиеся к одномуклассу СДС, образуют подмножества, компактнолокализованные в пространстве предикторов.

ПОСТАНОВКА ЗАДАЧИ И ИСХОДНЫЕ ДАННЫЕ

Задача определения СДС на широкоугольномснимке видимой полусферы неба сформулирова-на как классификация фотографий по четыремклассам [3]. Тренировочная выборка для обуче-ния моделей в этой постановке предварительноформируется экспертами совокупно в процессенатурных наблюдений и в лабораторных услови-ях. Задача, таким образом, состоит в подборе иоптимизации параметров модели из семействаалгоритмов машинного обучения, позволяющейотнести новый независимый объект (цифровойширокоугольный снимок неба) к одному из клас-сов СДС.

Для формирования обучающей выборки в ра-боте использовались наборы данных, получен-

ные двумя разными способами: в ходе сопутству-ющих съемке натурных наблюдений, а также не-зависимой оценкой СДС тремя экспертами поснимкам. Исходные фотографии были полученыустановкой оценки ОБО [1] в экспедиции АИ-49НИС “Академик Иоффе” и в экспедиции № 31НИС “Академик Николай Страхов” (рис. 2) с пе-риодом съемки 20 с. Сопутствующие натурныенаблюдения проводились с периодом 1 ч в свет-лое время суток. Полученные показания наблю-дателей считались верными классами СДС дляснимков, отстоящих по времени менее чем на5 мин от момента наблюдения. На этапе предва-рительной обработки применялась процедурафильтрации объектов-выбросов по каждому изчисловых признаков. Общий объем выборки со-ставил 28724 объекта, включая 15511 данных на-блюдений и 13213 оценок в лабораторных услови-ях. Полученное распределение объектов набораданных по классам СДС представлено на рис. 2.Это распределение неравномерное, поэтому длясоставления тренировочных подмножеств при-менялась процедура балансировки классов. Были

Рис. 1. Цифровой широкоугольный оптический снимок видимой полусферы неба.

ОКЕАНОЛОГИЯ том 57 № 2 2017

МЕТОДЫ МАШИННОГО ОБУЧЕНИЯ В ЗАДАЧЕ ОПРЕДЕЛЕНИЯ 299

использованы два метода: дублирование сэмпловредких классов с зашумлением предикторов и об-резание объема частых классов. Ни один из этихспособов не показал решающего преимуществаперед другим по точности получаемых моделей.

Для формирования пространства числовыхпредикторов были использованы поля красного(R), зеленого (G) и синего (B) каналов изображе-ния в цветовой модели RGB [9], поле яркостипикселей (Y), а также синтетический индекс GrIx,вычисляемый для каждой точки изображения последующей формуле:

(1)

где StdDev(R, G, B) – стандартное отклонение ря-да из значений (R, G, B).

На вышеперечисленных полях вычислялисьследующие статистики: минимальное и макси-мальное значения, арифметическое среднее, эм-пирические центральные моменты распределе-ния (дисперсия, коэффициент асимметрии,коэффициент эксцесса), среднеквадратическоеотклонение, набор перцентилей от 5 до 95 с ша-гом 5 (5, 10 … 95), перцентиль 99, среднее квадра-тическое по полю. Кроме того, использовалисьвысота и азимут Солнца. Метрика расстояниймежду событиями в пространстве признаков былавыбрана евклидова. Таким образом, вышепере-численными вещественными переменными былосформировано 142-мерное пространство.

( ), ,1 ,

StdDev R G BGrIx

Y= −

Для сравнения точности классификации вы-бирались наиболее популярные алгоритмы:

метод линейного дискриминантного анализа(далее LDA) [7];

метод произвольного ансамбля решающих де-ревьев (Random Forest, далее RF) [4, 6];

метод градиентного бустинга над решающимидеревьями (gradient boosting trees, далее GBT) [5, 8];

метод глубокой искусственной нейронной се-ти (deep artificial neural network, далее DANN) [2, 5].

Для каждого из вышеперечисленных семействмоделей машинного обучения существует свойподход к оценке значимости признаков. Для се-мейств алгоритмов LDA, RF и GBT применялосьранжирование признаков по оценке значимости.Было проведено исследование влияния размер-ности N пространства наиболее значимых пре-дикторов на точность классификации. В случаемодели типа DANN для оценки значимости при-знаков применялся подход “optimal brain damage”(далее OBD) [11] для слоя входных параметров сети.

Для достоверной оценки точности и контроляошибок в процессе тренировки, а также для ис-ключения переобучения использовался подходконтроля и подбора гиперпараметров моделейметодом кросс-валидации в стратифицирован-ном варианте с разбиением на 10 блоков.

Рис. 2. 1 – Маршрут экспедиции № 31 НИС “Академик Николай Страхов” с 15.12.2015 г. по 21.01.2016 г.; 2 – маршрутэкспедиции АИ-49 НИС “Академик Иоффе” с 12.06.2015 г. по 02.07.2015 г.; на врезке – распределение объектов обу-чающей выборки по классам СДС.

70°

60°

50°

40°

30°

20°

10°

60° 50° 40° 30° 20° 10° 0° 10° 20° 30° 40° 50° 60° 70° 80° в.д.з.д.

с.ш.

0.4

0.3

0.2

0.1

0–1 0

Дол

я в

выбо

рке

1 2Класс СДС

12

4*

300

ОКЕАНОЛОГИЯ том 57 № 2 2017

КРИНИЦКИЙ

ОЦЕНКА КАЧЕСТВА МОДЕЛЕЙ

Оценка качества моделей производилась наотложенной выборке по показателю доли верныхответов:

(2)

где Tc – количество ответов классификатора, сов-падающих с экспертным, Fc – количество оши-бочных ответов классификатора. Объем отложен-ной выборки составлял 25% общей совокупностисобытий. Зависимость качества Acc моделей LDA,GBM и RF от размерности N пространства наибо-лее значимых числовых признаков приведена нарис. 3.

Для моделей из семейства LDA вне зависимо-сти от состава предикторов точность не превыси-ла Acc = 87%. Наилучшее качество на отложеннойвыборке, полученное с использованием моделейсемейства RF, составило Acc = 93.6%. С использо-ванием моделей семейства GBT в некоторых слу-чаях была достигнута точность Acc = 94%. Дляэтих алгоритмов рост качества по показателю Accс ростом N размерности пространства веществен-ных предикторов существенно замедляется, на-чиная с N = 20 (рис. 3). Таким образом, для моде-лей LDA, RF и GBT использование больше 20 наи-более значимых признаков в задаче определенияСДС не имеет практического смысла.

,TcAccTc Fc

=+

МОДЕЛИ СЕМЕЙСТВА DANN

Альтернативный метод определения СДС ба-зируется на полносвязных глубоких искусствен-ных нейронных сетях [2]. С применением алго-ритмов семейства DANN на полном составе при-знаков была достигнута точность Acc = 96.42%.Распределение отклонений ответов и матрицаошибок лучшего из полученных классификато-ров в сравнении с показаниями наблюдателяпредставлены на рис. 4а.

Для оценки значимости признаков в случаемоделей семейства DANN обычно применяетсяподход OBD [11] на промежуточном этапе обуче-ния, который не позволяет построить зависи-мость результирующей точности Acc от N при на-копительном наращивании размерности про-странства предикторов. Однако метод OBD даетвозможность оценить значимость каждого при-знака в отдельности. Предикторы, продемон-стрировавшие наибольшую значимость (с поте-рей более 5% по Acc в подходе OBD) в порядкеубывания значимости: коэффициент асимметриипо полям G и Y, дисперсия значений R, а такжеперцентили 70, 15, 20, 80, 75, 25, 5, 35, 30 GrIx. Та-ким образом, поле GrIx является важной пере-менной в задаче классификации СДС по широко-угольным снимкам видимой полусферы неба надокеаном.

Подход OBD подразумевает возможность до-обучения модели DANN после исключения mпредикторов с наименьшей значимостью. На рис. 4бпредставлена зависимость точности Acc после та-кой процедуры от m исключенных признаков.Этот график показывает, что, дообучаясь на не-которых тренировочных подвыборках, при со-кращении размерности пространства N возмож-но получить качество классификации, сравнимоес качеством на полном наборе предикторов приN = 142. В некоторых случаях точность модели наотложенной выборке после дообучения можетпревысить базовую. Однако общая тенденция де-монстрирует, что исключать признаки с мини-мальной оценкой значимости без существеннойпотери качества (более 1%) следует лишь в преде-лах 10–15 предикторов.

ВЫВОДЫ

Полученные результаты показывают, что ме-тоды машинного обучения могут эффективно ис-пользоваться в задаче определения СДС по широ-коугольным снимкам видимой полусферы небанад океаном. Высокая точность достигается напространстве числовых признаков, сформиро-ванных на основании статистик цветовых полейизображения и синтетического индекса GrIx [1], атакже дополнительных предикторов, вычисляе-мых на основании координат и времени съемки.

Рис. 3. Точность классификации по показателю Accдоли верных ответов в зависимости от размерности Nпространства числовых признаков для моделей из се-мейств LDA, GBM и RF. Для графика точности моде-лей семейства LDA серой заливкой обозначены дове-рительные интервалы на каждом значении N с уров-нем доверия 95%.

100

90

80

70

60

50200 40 80 120 14060 100

Acc,

%

LDAGBMRF

N

ОКЕАНОЛОГИЯ том 57 № 2 2017

МЕТОДЫ МАШИННОГО ОБУЧЕНИЯ В ЗАДАЧЕ ОПРЕДЕЛЕНИЯ 301

Следует отметить, что ограниченная точность вопределении СДС наблюдателем может вноситьнеопределенность в предложенный метод. Крометого, вероятно снижение точности при определе-нии в условиях съемки, редко представленных втренировочной выборке (например, сильная аэро-зольная или пылевая загрязненность атмосферы).

В рассматриваемой задаче лучшее качество попоказателю доли верных ответов дают модели се-мейства DANN [2], где точность классификацииснимков достигает Acc = 96.42%. При этом полеиндекса GrIx [1] оказывается одной из наиболеезначимых переменных. Общая тенденция потерикачества по мере исключения предикторов в мо-делях семейства DANN позволяет говорить о бес-перспективности сокращения размерности про-странства признаков.

Высокое качество классификации при ис-пользовании алгоритмов машинного обученияподтверждает выдвинутую нами гипотезу ком-пактности для объектов (цифровых широко-угольных снимков видимой полусферы неба) насформированном пространстве вещественныхпредикторов, что позволяет выдвинуть предполо-жение об эффективности предложенных методовв аналогичных задачах, таких как оценка общего

балла облачности, классификация наблюдаемыхтипов облачности и др.

Проведение вычислительной части исследова-ний и анализ результатов выполнены за счет РНФ(проект № 14-50-00095). Подготовка и обработкаэкспериментальных данных осуществлена в рамкахпроекта Минобрнауки РФ 14.607.21.0023, иденти-фикационный номер RFMEF160714X0023.

СПИСОК ЛИТЕРАТУРЫ1. Криницкий М.А., Синицын А.В. Адаптивный алго-

ритм оценки общего балла облачности над моремпо широкоугольным снимкам неба // Океаноло-гия. 2016. Т. 56. № 3. С. 341–345.

2. Минский М., Пейперт С. Персептроны. Гл. 13. Пер-септроны и распознавание образов. М.: Мир, 1971.С. 226–231.

3. РД 52.04.562-96. Наставление гидрометеорологи-ческим станциям и постам. Выпуск 5, часть 1. Ак-тинометрические наблюдения на станциях. Гл. 7.2.Метеорологические параметры и оптические ха-рактеристики атмосферы, определяемые при вы-полнении актинометрических наблюдений. М.:Росгидромет, 1997. С. 15–17.

4. Чистяков С.П. Случайные леса: обзор //Тр. КарНЦ РАН. 2013. № 1. С. 117–136.

Рис. 4. (а) – Распределение отклонений ответов лучшего классификатора семейства DANN в сравнении с показания-ми наблюдателя; на врезке – матрица ошибок лучшего классификатора семейства DANN; (б) – качество моделей се-мейства DANN по показателю Acc доли верных ответов в подходе OBD при исключении количества m предикторовминимальной значимости. Серой заливкой обозначены доверительные интервалы Acc на каждом значении m с уров-нем доверия 95%.

97.0

96.5

96.0

95.5

95.0

94.5

94.0

93.0

93.5

10 20 30 40 500

Асс лучшей базовой модели DANN

Асс лучшей из моделей типа RF

Асс лучшей из моделей типа GBT

Acc,

%

m

(б)1.0

0.9

0.8

0.7

0.6

0.5

0.4

0.3

0.2

0.1

–3 –2 –1 0 1 2 3

Час

тота

отк

лоне

ния

отве

тов

Величина отклонения ответов

(а)

Отв

еты

кла

ссиф

икат

ора

0.4%

1.4% 2%

0.4%

1.4%

0.6%

12.50 25%

“–1”

“–1”

“0”

“0”

“1”

“1”

“2”

“2”

Верные значения СДС

302

ОКЕАНОЛОГИЯ том 57 № 2 2017

КРИНИЦКИЙ

5. Breiman L. Bagging predictors // Mach. Learn. 1996.V. 24. № 2. P. 123–140. doi 10.1023/A:1018054314350

6. Breiman L. Random Forests // Mach. Learn. 2001.V. 45. № 1. P. 5–32. doi 10.1023/A:1010933404324

7. Fisher R.A. The use of multiple measurements in taxo-nomic problems // Ann. Eugen. 1936. V. 7. № 2.P. 179–188.

8. Hastie T., Tibshirani R., Friedman J. The Elements ofStatistical Learning: Data Mining, Inference, and Pre-diction. Second Edition. Springer. 2008. P. 353–360.

9. Joblove G.H., Greenberg D. Color spaces for computergraphics // Proceedings of the 5th annual conferenceon Computer graphics and interactive techniques(SIGGRAPH '78). ACM, New York, NY, USA. 1978.P. 20–25. doi 10.1145/800248.807362

10. Kalisch J., Macke A. Estimation of the total cloud coverwith high temporal resolution and parameterization of

short-term fluctuations of sea surface insolation // Me-teorologische Zeitschrift. 2008. V. 17. № 5. P. 603–611.

11. Le Cun Y., Denker J.S., Solla S.A. Optimal Brain Dam-age // Touretzky, David (Eds), Advances in Neural In-formation Processing Systems 2 (NIPS*89). MorganKaufman, Denver, CO. 1990. V. 2. P. 598–605.

12. Long C.N., Deluisi J.J. Development of an automatedhemispheric sky imager for cloud fraction retrievals //10th Symp. on Meteorological Observations and In-strumentation, January 11 to 16. 1998, Phoenix, AZ,USA. P. 171–174.

13. Yamashita M., Yoshimura M., Nakashizuka T. Cloudcover estimation using multi-temporal hemisphere im-ageries. // International Archives of PhotogrammetryRemote Sensing and Spatial Information Sciences.2004. V. 35. Part B7. P. 826–829.

Machine Learning Methods Applied to Solar Disk State Detection using All-Sky Images over the Ocean

M. A. Krinitskiy

New approach has been developed and implemented for automatic determination of solar disk state from all-sky optical images with the use of machine learning techniques. Efficiency of the most widely used machinelearning algorithms has been analysed. Influence of dimensionallity reduction of the feature space on classi-fication accuracy has been estimated. Multilayer artificial neural network model demonstrated the best accu-racy. The obtained results demonstrate applicability of the machine learning approach to determination of thesolar disk state using all-sky optical images.