Классификация изображений

Классификация изображений

Many slides adapted from Fei-Fei Li, Rob Fergus, Antonio Torralba and Svetlana Lazebnik

CSEDays-2010

Сколько всего классов объектов?

Biederman 1987

1500-3000 основных существительных, ~10 подкатегорий

Миллионы крошечных картинок («Tiny images»)

http://people.csail.mit.edu/torralba/tinyimages/




Миллионы крошечных картинок («Tiny images»)

Классификация текстов

US Presidential Speeches Tag Cloudhttp://chir.ag/phernalia/preztags/

• Представление документа без порядка: частоты слов из словаря («мешок слов») Salton & McGill (1983)







Слова и словари

• Что такое «слово» в контексте изображений?• Как составить «словарь» для коллекции

изображений?

Моделирование текстур

• Текстура является повторением набора базовых элементов («текстонов»)

• Для стохастических текстур важны сами текстоны, а не их пространственное расположение

Распознавание текстур

Universal texton dictionary

histogram

«Визуальные слова»

face, flowers, building

• «Визуальное слово» – часто повторяющийся фрагмент изображения

• В отличие от текстур – не в одном изображении, а в коллекции

• В изображении визуальное слово может встречаться только один раз!

«Визуальный словарь»

• Словарь – набор фрагментов, часто повторяющихся в коллекции изображений

• Как составить словарь?• Составить большой список всех фрагментов по всей

коллекции• Разделить весь список на похожие группы• Типичная задача «кластеризации»• Будем считать все фрагменты в одной группе –

«экземплярами» одного и того же слова

«Мешок визуальных слов»

• Регулярная сетка• Vogel & Schiele, 2003

• Fei-Fei & Perona, 2005

1. Сбор фрагментов

• Регулярная сетка• Vogel & Schiele, 2003


• Характерные точки• Csurka et al. 2004


• Sivic et al. 2005

1. Сбор фрагментов

Характерная точка изображения - это точка с характерной (отличающейся) окрестностью

Пример особой точки

Пример точки, не являющейся особой

Характерные точки

Названия:• Особенность (feature)• Характеристическая / интересная точка (interest point)

Свойства характерных точек

Локальность (Locality)Особенность занимаем маленькую область изображения, поэтому работа с ней нечувствительна к перекрытиям

Повторяемость (Repeatability)Особенность (feature) должна находится в том же месте не смотря на изменения точки обзора и освещения

Значимость (Saliency)Каждая особенность должна иметь уникальное (distinctive) описание

Компактность и эффективностьОсобенностей гораздо меньше .чем пикселей в изображении

Детекторы характерных точек

• Harris• Difference of Gaussian• Harris-Laplacian

2

2

yyx

yxx

III

IIIM

• Как два небольших изображения!• Те же метрики, что и при прямом сравнении изображений:• SAD = Squared absolute difference• SSD = Squared of square difference• Cross-correlation

• Неустойчиво к изменениям!• Освещения• Малые сдвиги приводят к

большим изменениям

Как сравнивать фрагменты?

SIFT

• Scale-Invariant Feature Transform• DoG или Harris-Laplacian• Характерный размер области R• Характерная ориентация• Дескриптор на основе гистограммы направлений градиентов

• Один из самых эффективных

дескрипторов

David G. Lowe. "Distinctive image features from scale-invariant keypoints.” IJCV 60 (2), pp. 91-110, 2004.

http://www.cs.ubc.ca/~lowe/papers/ijcv04.pdf



ОриентацияПример: найти локальное направление градиента

вокруг интересной точки

Повернуть фрагмент(ы) так, чтобы средний градиент был направлен вверх

0 2

Дескрипторы

Ориентация = размытый градиентРамка, независимая от поворота (Rotation Invariant Frame)

Дескрипторы

Гистограммы градиентов SIFT

• Вычисляем градиент в каждой точке

• Строим гистограммы по окрестностям

• Обычно – сетка 4x4, в каждой гистограмма с 8ю ячейками

• Стандартная длина вектора-дескриптора – 128 (4*4*8)

• Устойчив к изменениям освещенности и небольшим сдвигам

…

1. Извлечение фрагментов

• Выбрали фрагменты

• Вычислили для каждого дескриптор

• Составили большой список всех дескрипторов

2. Обучение словаря

…


Кластеризация

…

Slide credit: Josef Sivic


Кластеризация

…

Slide credit: Josef Sivic

Визуальныйсловарь

Кластеризации

• Кластеризация является обычным методов обучения визуального словаря или «кодовой книги» (codebook)• Обучение без учителя• Центр каждого кластера становится кодовым вектором• Словарь можно обучить на отдельной выборке• Если обучающая выборка достаточно представительна,

тогда словарь может стать «универсальным»

Кластеризация K-cредними

• Минимизируем сумму квадратов Евклидовых расстояний между точками xi и ближайшими центрами кластеров mk

• Алгоритм:• Случайно инициализируем K центров кластеров• Повторяем до сходимости:

• Назначаем каждую точку ближайшему центру• Пересчитываем центр каждого кластера как среднее

всх назначенных точек

k

ki

ki mxMXDcluster

clusterinpoint

2)(),(

Иллюстрация









Пример словаря

Fei-Fei et al. 2005

Визуальные словари

• Как выбрать размер словаря?• Маленький: слова не могут описать все особенности• Большой: переобучение

• Вычислительная сложность• Деревья словарей

(Nister & Stewenius, 2006)• Approximate nearest-neighbour• Хеширование

3. От кластеризации к квантизации

• Квантуем особенности с помощью словаря• Сопоставляем каждый дескриптор ближайшему слову из

словаря

Sivic et al. 2005

Примеры визуальных слова

3. Описание изображения – «мешок слов»

…..

част

оты

слова

4. Классификация изображений

• Как мы будем различать изображение, если представление изображения в виде сумки слов уже получено?

Классификация

• Обучим решающее правило (классификатор), назначающий «мешкам» соответствующий класс

• Любое решающее правило делит пространство на решающие регионы разделенные решающими границами

Decision

Классификатор – ближайший сосед

• Назначаем объекту метку ближайшего прецедента из обучающей выборки

Диаграмма вороного для разбиения пространства признаковна 2 класса

from Duda et al.

Source: D. Lowe

К ближайших соседей

k = 5

Source: D. Lowe

• Для каждой точки найти k ближайших точек из обучающей выборки

• Метки k точек голосуют за метку • Работает неплохо при наличии большой обучающей выборки

и хорошей функции близости

Решающее дерево

1

2

3 4

5

67

1 4

52 3

76

Slide by V.Lempitsky

«Оверфиттинг» и «Прунинг»

A

B

C D


От дерева к лесу

1. Yali Amit, Donald Geman: Shape quantization and recognition with randomized trees. Neural Computation, 1997.

2. Leo Breiman: Random forests. Machine Learning, 2001. Slide by V.Lempitsky

Решающий лес - обучение

function Node = Обучение_Вершины( {(x,y)}, Level) {if {y} одинаковые или Level == maxLevel

return Создать_Лист(Распределение y);{tests} = Создать_N_Случайных_Разбиений({(x,y)},N);test = Выбрать_лучшее_разбиение_из({tests});{(x0,y0)} = {(x,y) | test(x) = 0};{(x1,y1)} = {(x,y) | test(x) = 1};LeftChild = Обучение_Вершины( {(x0,y0)}, Level+1);RightChild = Обучение_Вершины( {(x1,y1)}, Level+1);return Создать_Вершину(test, LeftChild, RightChild);

}

//Обучение лесаfunction main() {

{X,Y} = Прочитать_Обучающие_Данные();for i = 1 to N

{Xi,Yi} = Случайное_Подмнжество({X,Y}));TreeRoot_i = Обучение_Вершины({Xi,Yi});

end}


Решающий лес - применение


Решающий лес – свойства

1. Один из самых эффективных алгоритмов классификации2. Вероятностное распределение на выходе3. Применим для высоких размерностей пространства

признаков4. Высокая скорость обучения и тестирования5. Относительная простота реализации

Caruana, R., Niculescu-Mizil, A.: An empirical comparison of supervised learning algorithms, 2006


Случайные окна для классификации

Raphaël Marée, Pierre Geurts, Justus H. Piater, Louis Wehenkel: Random Subwindows for Robust Image Classification. CVPR 2005

- случайные окна

- нормализация

Признаки – интенсивностипикселей (цвета)

Возможные тесты

I(p) ≷ τ I(p) ≷ I(q) + τpp

q

Σ p∊A I(p) ≷ τA

A

B

Σ p∊A I(p) ≷ Σ p∊B I(p) + τ

• Интегральные изображения для быстрого подсчета


Устойчивость к повороту

• Случайным образом поворачиваем каждое окно перед нормализацией размера

Результат работы

• Размер выборки = 100.000• Глубина = максимум• Количество тестов = 1 (“extremely-randomized decision trees”)• 10 деревьев в лесу• всего 6 минут на обучение!!!!• 100 окон (2000 тестов) на классификацию картинки – realtime• Сравнимая с другими методами точность работы!


Caltech 101 & 256

Griffin, Holub, Perona, 2007

Fei-Fei, Fergus, Perona, 2004

http://www.vision.caltech.edu/Image_Datasets/Caltech101/



Caltech-101

The PASCAL Visual Object Classes Challenge (2005-2009)

• Основные конкурсы• Классификация: Для каждого из 20 классов, определить

присутствие/отсутствие объекта этого класса в изображении• Поиск: Определить рамку и метку каждого объекта из 20

классов в изображении

http://pascallin.ecs.soton.ac.uk/challenges/VOC/


PASCAL (2005-2009)

Классы 2008 :Человек: человекЖивотные: птица, кошка, корова, собака, лошадь, оцва Транспорт: самолет, велосипед, лодка, автобус, машина, мотоцикл, поездПомещения: бутылка, кресло, стол, растение в горшке, монитор, диван



http://www.pascal-network.org/challenges/VOC/voc2007/examples/aeroplane_03.jpg

http://www.pascal-network.org/challenges/VOC/voc2007/examples/bicycle_08.jpg

http://www.pascal-network.org/challenges/VOC/voc2007/examples/bird_07.jpg

http://www.pascal-network.org/challenges/VOC/voc2007/examples/boat_02.jpg

http://www.pascal-network.org/challenges/VOC/voc2007/examples/bottle_05.jpg

http://www.pascal-network.org/challenges/VOC/voc2007/examples/bus_01.jpg

http://www.pascal-network.org/challenges/VOC/voc2007/examples/car_01.jpg

http://www.pascal-network.org/challenges/VOC/voc2007/examples/cat_02.jpg

http://www.pascal-network.org/challenges/VOC/voc2007/examples/chair_02.jpg

http://www.pascal-network.org/challenges/VOC/voc2007/examples/cow_02.jpg

The PASCAL Visual Object Classes Challenge (2005-2009)

• Новые конкурсы• Семантическая

сегментация: попиксельная аннотация области объектов и фона

• Человек: Пометить рамкой и меткой каждую часть тела (голову, руки, ступни)

Как реализовать?

• OpenCV 2.0• Работа с изображениями, классификаторы

• VLFeat• Детекторы точек, дескрипторы, кластеризация• http://www.vlfeat.org/

• ColorDescriptor• Ряд разнообразных дескрипторов точек• http://staff.science.uva.nl/~ksande/research/

colordescriptors/

Резюме метода «мешок слов»

1. Извлечение особенностей

2. Обучить “визуальный словарь”

3. Квантуем особенности по словарю

4. Описываем картинку частотами «визуальных слов»

5. Варианты:• Поиск ближайшего• Многоклассовая

классификация

Завтра…

• Поиск объектов

• Семантическая

сегментация

Documents

Классификация изображений