47
Анализ изображений и видео Наталья Васильева [email protected] HP Labs Russia 21 сентября 2012, Computer Science Center Лекция 2: Основы пространственной и частотной обработки изображений

Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

Embed Size (px)

DESCRIPTION

Гистограммы, фильтрация, градиент, нахождение границ, выделение связных компонент, бинаризация.

Citation preview

Page 1: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

Анализ изображений и видео

Наталья Васильева [email protected] HP Labs Russia

21 сентября 2012, Computer Science Center

Лекция 2: Основы пространственной и частотной обработки изображений

Page 2: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

2 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Обработка изображений

Обработка изображений Image Processing

Изображение Изображение

• На входе и выходе – изображения • Результат обработки «лучше» оригинала с точки зрения конкретного применения

• Лучше с эстетической точки зрения • Лучше для последующего анализа

Page 3: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

3 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Примеры

Page 4: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

4 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Примеры

Page 5: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

5 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

План лекции

• Пространственная область • Частотная область, преобразование Фурье • Обработка в пространственной области • Обработка в частотной области

Page 6: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

6 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Представление цифровых изображений (recap)

Цветное растровое изображение:

Page 7: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

7 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Пространственная область

= + +

= + +

f(x,y)

Page 8: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

8 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Представим «одномерную картинку»

0 20 40 60 80 100 120 140 160 180 2000

50

100

150

200

250

300

Page 9: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

9 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

1-D изображение

0 50 100 150 200 25020

40

60

80

100

120

140

160

180

200

220

Page 10: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

10 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Частотное представление – основная идея

= ∑

Page 11: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

11 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Преобразование Фурье для изображений – основная идея

• Любое изображение может быть представлено, как сумма синусов и косинусов различной амплитуды и частоты

• Частоты слагаемых характеризуют изображение:

• Яркость «сильно скачет» на небольших участках изображения – будут преобладать слагаемые с высокими частотами

• Яркость плавно изменяется – будут преобладать низкие частоты

Page 12: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

12 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Преобразование Фурье

= + +

f(x) F1*g1(x) F2*g2(x) F3*g3(x)

• Преобразование исходного представления изображения, как функции f(x), в частотное представление – набор Fi

• Преобразование обратимо

Page 13: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

13 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Преобразование Фурье

Прямое преобразование Фурье непрерывной фукнции одной переменной f(x):

Обратное преобразование Фурье:

g(x,u)

Page 14: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

14 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Двумерный случай

Базисные функции: g(x, y, u, v)

Обратное преобразование:

Прямое преобразование

-1

-0.5

0

0.5

1

Page 15: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

15 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Визуализация Фурье-спектра

• Фурье-спектр: набор всех |F(u,v)|

• Визуализация спектра – чем выше значение F(u,v), тем «светлее» точка с координатами (u,v)

• Светлый центр спектра – исходное изображение содержит в основном однородные области, без перепадов яркости

• Светлая периферия спектра – изображение содержит много локальных перепадов яркости

http://www1.idc.ac.il/toky/imageproc-10/lectures/fft_2d.pptx

u=0, v=0 u=1, v=0 u=2, v=0 u=-2, v=0 u=-1, v=0

u=0, v=1 u=1, v=1 u=2, v=1 u=-2, v=1 u=-1, v=1

u=0, v=2 u=1, v=2 u=2, v=2 u=-2, v=2 u=-1, v=2

u=0, v=-1 u=1, v=-1 u=2, v=-1 u=-2, v=-1 u=-1, v=-1

u=0, v=-2 u=1, v=-2 u=2, v=-2 u=-2, v=-2 u=-1, v=-2

U

V

Page 16: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

16 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Визуализация Фурье-спектра

f(x,y) F(u,v)

Page 17: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

17 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Примеры

Page 18: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

18 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Еще примеры

Page 19: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

19 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Обработка в пространственной области

• Обработка в пространственной области – манипулирование пикселями изображения

• Например, инвертирование

Page 20: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

20 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Гистограммы

0

500

1000

1500

2000

2500

3000

3500

0 50 100 150 200 250

0

500

1000

1500

2000

2500

3000

3500

0 50 100 150 200 250

Page 21: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

21 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Гистограммы

0

500

1000

1500

2000

2500

0 50 100 150 200 250

0

500

1000

1500

2000

0 50 100 150 200 250

Page 22: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

22 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Гистограммы - коррекция

• Линейное преобразование – линейное «растяжение» гистограммы, устойчивое растяжение

• Нелинейное преобразование • Эквализация (линеаризция) гистограммы

∑∑==

===

−==

k

i

ik

iixkk

kkx

nnxpxfy

Lknnxp

00)()(

1,..,1,0,)(

Page 23: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

23 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Результат эквализации гистограммы

0

500

1000

1500

2000

0 50 100 150 200 250

0

500

1000

1500

2000

2500

3000

3500

0 50 100 150 200 250

0

500

1000

1500

2000

2500

3000

3500

0 50 100 150 200 250

0

500

1000

1500

2000

0 50 100 150 200 250

Page 24: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

24 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Результат эквализации гистограммы

0

500

1000

1500

2000

2500

0 50 100 150 200 250

0

200

400

600

800

1000

1200

1400

1600

1800

2000

0 50 100 150 200 250

0

500

1000

1500

2000

0 50 100 150 200 250

0

200

400

600

800

1000

1200

1400

1600

1800

2000

0 50 100 150 200 250

Page 25: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

25 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Пороговая бинаризация

Светлый объект на темном фоне

Два светлых объекта на темном фоне

Глобальная – порог единый для всех точек изображения Локальная или Динамическая – когда порог зависит от координат точки (x,y) Адаптивная – когда порог зависит от значения яркости в точке I(x,y)

Page 26: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

26 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Глобальная бинаризация

• Выбор порога вручную

• Выбор порога автоматически 1. Случайно выбрать начальное значение порога T0 2. Сегментировать изображение по порогу T0: регионы

G1 и G2 из пикселей со значениями >T0 и ≤ T0 3. Вычислить средние значения µ1 and µ2 для регионов

G1 and G2 4. T1 = 0.5 (µ1 + µ2) 5. Повторять пока | Ti - Ti+1|< Tth

Page 27: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

27 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Примеры бинаризации

Page 28: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

28 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Выделение компонент связности

0 0 0

0 0 0 0 0 0 0 0 0 0 0 0 0 0

0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0

0

0

0

0

0

0

0

0

0

0

0

0

0

0

0 0 0 0 0 0 0

0 0

0 0

0 0

0 0

0 0

0 0

0 0

0 0

0

0

0 0 0

0 0 0

0 0 0

0 0 0 0 0 0

0 0 0 0 0

1 1

1 1 1 1 1 1 1 1

1 1 1 1

1 1 1 1

1 1 1

1 1

1 1

2 2 3 3

3 3

3 3

4 4

3 3 3 3

3 3 3 3

3 3 3

3 3 3

5 3

5 3 6 6 3 3 3 7

0

Page 29: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

29 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Компоненты связности

Page 30: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

30 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Фильтрация (свертка изображения с фильтром)

Операция свертки:

f – изображение w – ядро, фильтр g – результат свертки f*w

Свойства: • коммутативность: f*w = w*f • ассоциативность: f*(w1*w2)=(f*w1)*w2 • дистрибутивность по сложению: f*(w1+w2=f*w1 + f*w2 • kf*w = f*kw = k(f*w)

Page 31: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

31 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Теорема о свертке

g = f * h g = f h

implies implies

G = F H G = F * H

Slide: http://www1.idc.ac.il/toky/imageproc-10/lectures/fft_2d.pptx

Page 32: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

32 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Теорема о свертке

Problem in Frequency

Space

Original Problem

Solution in Frequency

Space

Solution of Original Problem

Relatively easy solution

Difficult solution

Fourier Transform

Inverse Fourier Transform

Slide: http://www1.idc.ac.il/toky/imageproc-10/lectures/fft_2d.pptx

Page 33: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

33 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Сглаживание

• Линейные усредняющие фильтры – удаление «случайного шума»

• Фильтры, основанные на порядковых статистиках • Медианный фильтр (подавление шума «соль и перец»)

Page 34: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

34 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Сглаживание фильтром Гаусса

Свертка с ядром Гаусса

Page 35: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

35 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Сглаживание фильтром Гаусса: пример

Sigma =1.4 Size = 5

Sigma =2.8 Size = 10

Page 36: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

36 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Выделение деталей

A point has been detected if |g| ≥ T, • T is a nonnegative threshold

Page 37: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

37 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Обнаружение линий

• If |gi| > |gj| for all j≠i – the point is within line i. • Use one mask to detect lines of a given direction

Page 38: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

38 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Выделение границ: примеры

Sobel Canny Исходное

Page 39: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

39 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Обнаружение границ

Page 40: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

40 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Градиент изображения Градиент направлен в сторону наибольшего изменения интенсивности

Направление градиента:

Величина градиента:

Page 41: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

41 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Вычисление градиента изображения

Roberts: Prewitt: Sobel:

Дискретный случай:

Page 42: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

42 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Пример

Page 43: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

43 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Обнаружение контуров: вычисление производных

Вычисление второй производной: Лапласиан

•Маски Лапласиана:

2

2

2

22 ),(),(

yyxf

xyxff

∂∂

+∂

∂=∇

Page 44: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

44 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Слайд: А. Конушин

Page 45: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

45 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Слайд: А. Конушин

Page 46: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

46 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Mexican hat

Page 47: Анализ изображений и видео 1, осень 2012: Основы пространственной и частотной обработки изображений

47 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Заключение

• Пространственная область • Частотная область, преобразование Фурье, теорема о свертке

• Обработка в пространственной и частотной областях • Гистограммы, бинаризация, выделение связных компонент, сглаживание, повышение резкости, выделение контуров