Фильтрация изображений. Быстрое ... · 2013-02-26 · Н.Новгород, 20 1 г. Фильтрация изображений. Быстрое преобразование

Нижегородский государственный университет им. Н.И. Лобачевского

Лабораторная работа

Фильтрация изображений. Быстрое

преобразование Фурье

Параллельные численные методы

Сиднев А.А.

Кафедра математического обеспечения ЭВМ

При поддержке компании Intel

Фильтрация изображений. Быстрое преобразование Фурье Н.Новгород, 2011 г. 2

Преобразование Фурье.

Назначение и примеры

использования


Назначение ПФ

В обработке сигналов и связанных областях

преобразование Фурье обычно рассматривается как

декомпозиция сигнала на частоты и амплитуды, то есть,

обратимый переход от временного пространства (time

domain) в частотное пространство (frequency domain).

Далее рассмотрим примеры:

– обработка изображений;

– обработка звука.


Аудио

В исходном WAV файле, хранится полная информация об

исходном звуке, оцифрованном и проквантованном с

частотой 44кГц.

Этой информации абсолютно достаточно для

воспроизведения всех частот исходного сигнала, меньших

половины частоты квантования (по т. Котельникова).

!!! Одна минута записи занимает около 15 МБ.


Сжатие MP3

MPEG Layer-3.

Исходный звуковой файл режется на фрагменты,

длительностью по 50 миллисекунд, каждый из которых

анализируется отдельно.

При анализе фрагмент раскладывается на гармоники по

методу Фурье, из которых в соответствии с теорией

восприятия звука человеческим ухом выбрасываются те

гармоники, которые человек хуже воспринимает на фоне

остальных:

– более тихие гармоники на фоне более громких;

– звуки, замаскированные вследствие инертности слуха.


Воспроизведение MP3

При воспроизведении производится обратное

преобразование, при котором оставшиеся гармоники

вновь преобразуются в звуковую волну.

Поскольку часть информации об исходном сигнале была

выкинута, звук получается не совпадающий с исходным.

Битрейт - это объем информации в единицу времени, как

много информации можно потратить на каждую секунду

записи:

– чем он меньше, тем меньший размер имеют файлы с

одинаковой по времени длине;

– чем он меньше, тем большее количество "лишних"

гармоник приходится выкидывать.


Пример фильтрации изображения низкого качества

Фильтрация изображений


Цифровая обработка изображений

Фильтрация

– Пространственная

• Линейный фильтр

• Медианный фильтр

• Изотропный фильтр

– Частотная


Пространственная фильтрация

Процесс фильтрации основан на простом перемещении

маски фильтра от точки к точке изображения.

В каждой точке отклик фильтра вычисляется с

использованием предварительно заданных связей.

Пространственные фильтры имеют линейную

трудоѐмкость.


Частотная фильтрация

Все пространственные фильтры можно реализовать с

помощью частотных.

Фильтрация происходит в частотной области

изображения.

С помощью преобразования Фурье происходит получение

частотной области (спектра) изображения.

Простая идея фильтрации:

– низкие частоты – плавное изменение яркости

изображения;

– высокие частоты – быстрое изменение яркости

изображения (границы объектов).


Пример частотного спектра

Изображение Фурье-спектр

Логарифмический

спектр

Фильтрация изображений. Быстрое преобразование Фурье 12 Н.Новгород, 2011 г.

Разминка

0. Задание на знание синтаксиса языка C


Все проекты разработаны в среде Microsoft Visual Studio

2008.

Для работы программы необходима библиотека OpenCV.

Для обработки видеофрагментов потребуется кодек Xvid.

Программное обеспечение


– <OpenCV install dir>\cxcore\include\

– <OpenCV install dir>\otherlibs\highgui\

– <OpenCV install dir>\lib

Настройка среды разработки


Компилятор вам поможет.

Ошибки в программе


Отсутствует ―using namespace std;‖ (filter.cpp:14, fft.h:6).

Ошибки компиляции (1)





2 - отсутствует ―;‖ (filter.cpp:50).




3 - опечатка в функции pnintf (filter.cpp:334).




3 - опечатка в функции pnintf (filter.cpp:334).

7 - не объявлена переменная, хранящая количество

обработанных кадров (filter.cpp:275):

int totFrames = 0;





4 - неверный тип аргумента функции cvReleaseImage -

отсутствует ―&‖ (filter.cpp:467).





2 - неверная передача параметров в функцию printf

(filter.cpp:384).





2 - неверная передача параметров в функцию printf

(filter.cpp:384).

5 - отсутствует ―}‖, закрывающая тело цикла

(filter.cpp:317).


Ещѐ раз вспомним C

1. Задание на простые алгоритмические ошибки в программах


Ошибки в программе

Программа запустилась. Теперь необходимо заставить

работать программу корректно!!!


Запуск Intel Inspector XE

Режим работы ―Quick: Memory Error Analysis / Locate

Memory Problems‖


Intel Inspector XE. Утечки памяти

Обнаружена 41 утечка памяти!


Ошибки (1)

Не освобождается ресурс ―film‖ перед завершением

работы программы (filter.cpp:465):

cvReleaseCapture(&film);

Не закрывается открытый файл (filter.cpp:329):

fclose(f);

Не уничтожается одно из окон перед завершением

работы программы (filter.cpp:256):

cvDestroyWindow(fStr);

Не освобождаются ресурсы картинки (filter.cpp:467):

cvReleaseImage(&filter);


Результат запуска программы

1. Отрицательные

времена

2. Некорректное изображение


Ошибки (2)

Неправильное вычитание (filter.cpp:426):

(finish.QuadPart-start.QuadPart)

Не выполняется передача параметра при рекурсивном

вызове (fft.cpp:44):

SerialFFTCalculation( signal, first, size/2, forward);


Низкочастотная фильтрация

filter.exe ..\Videos\TestVideo1.avi –gl

Корректная работа программы (1)


Высокочастотная фильтрация

filter.exe ..\Videos\TestVideo1.avi –gh

Корректная работа программы (2)


Профилировка

2. Анализ эффективности программного обеспечения можно

выполнять ничего не зная о решаемой задаче, используя

профилировщики.


Оценка эффективности

Время, потраченное на обработку видео: 128.5 с



Итак, программа работает очень медленно и нам

предстоит с ней разобраться! Для этого необходимо

определить наиболее ―горячие‖ точки программы –

локализовать задачу.

Для поиска горячих точек необходимо воспользоваться

профилировщиком:

– Intel Parallel Amplifier;

– Intel VTune Amplifier XE;

– Profiler (VS 2008, VS 2010);

– gprof.


Использование Intel VTune Amplifier XE


“Горячие” точки

Функция вычисления БПФ является самой ―горячей‖.

Если получится выполнить оптимизацию этой функции, то

получим максимальный выигрыш!


Анализ профиля (1)

Самая ―горячая‖ функция SerialFFTCalculation вызывает в

цикле функцию Butterfly.



Функция Butterfly выполняет простейшие действия, но за

счѐт большого количества вызовов является самым узким

местом в программе.


Использование массивов вместо контейнера

std:vector

Реализации контейнеров STL достаточно медленные.

Компилятор генерирует наиболее эффективный код при

использовании простых типов данных.

Откажемся от использования std::vector – будем

использовать обычные массивы.


Не эффективное использование контейнера

std::vector (1)

Передача контейнеров по значению.


Не эффективное использование контейнера

std::vector (2)

Неэффективное заполнение контейнера.


STL и HPC не всегда

совместимы!

3. STL-реализации контейнеров не самые быстрые. Их основное

достоинство в унификации.





Прогресс оптимизации


Ищем ошибки

А программа-то была с ошибками!


Ошибки работы с динамической памятью (1)

Не освобождается память, выделенная под динамический

массив (filter.cpp:213):

delete[] outB;


Ошибки работы с динамической памятью (2)

Освобождение памяти не соответствует выделению

(filter.cpp:217):

delete[] f;


Intel С++ Compiler

Далее поступим самым простым образом: воспользуемся

оптимизирующим компилятором Intel.


Использование Intel Compiler

Конвертирование проекта:


Intel Power

4. Современные компиляторы в состоянии генерировать

высокоэффективные программы. Разработчику достаточно лишь

написать понятный для компилятора программный код.







Ищѐм следующее проблемное место

―– Что дальше?

– Снова профилировка и поиск ―горячих‖ точек!‖


Самая “медленная” функция

Большую часть времени выполняется функция SerialFFTCalculation.

Функция Butterfly исчезла из профиля, т.к. компилятор встроил еѐ код

непосредственно в функцию SerialFFTCalculation.


Анализ профиля

22.6% времени работы программы занимает выполнение

функции по смещению 0x4748.


Тригонометрические функции

Функция по смещению 0x4748 выполняет вычисление

тригонометрических функций sin и cos. Посчитанные

значения передаются в параметры функции Butterfly.


Преобразование Фурье



ПФ широко применяется в задачах анализа спектра

сигнала, цифровой обработки сигналов и др.

Существуют специализированные процессоры для

вычисления дискретного преобразования Фурье

(DSP-процессоры).


Аппаратная реализация БПФ

Однокристальная реализация алгоритма БПФ на ПЛИС

фирмы Xilinx

Профессиональная видеокамера со встроенным

видеопроцессором Altera Stratix II GX


Комплексное число

Тригонометрическая форма записи

Показательная форма записи

Комплексные числа

𝑧 = 𝑥 + 𝑖 ⋅ 𝑦, где

𝑥, 𝑦 - вещественные числа, 𝑖 – мнимая единица (𝑖2 = −1).

𝑧 = 𝑟 ⋅ (𝑐𝑜𝑠𝜑 + 𝑖 ⋅ 𝑠𝑖𝑛𝜑)

𝑟 = 𝑧 , 𝑐𝑜𝑠𝜑 =𝑥

|𝑧|, 𝑠𝑖𝑛𝜑 =

𝑦

|𝑧|

𝑧 = 𝑟 ⋅ 𝑒𝑖⋅𝜑 = 𝑟 ⋅ (𝑐𝑜𝑠𝜑 + 𝑖 ⋅ 𝑠𝑖𝑛𝜑)



Любая функция, периодически воспроизводящая свои

значения, может быть представлена в виде суммы

синусов или косинусов различных частот, умноженных на

некоторые коэффициенты.


Разложение функции на гармоники


Спектр сигнала (1)


Спектр сигнала (2)


Преобразование Фурье (2)

Прямое преобразование Фурье:

Обратное преобразование Фурье:

- исходный сигнал (комплексный)

- спектр сигнала (комплексный)

𝑦(𝜔) = 𝑥(𝑡) ⋅ 𝑒;𝜔⋅𝑡⋅𝑖 𝑑𝑡

:∞

;∞

x(𝑡) =1

2𝜋 𝑦(𝜔) ⋅ 𝑒𝜔⋅𝑡⋅𝑖𝑑𝜔

:∞

;∞

x(𝑡)

y(𝜔)


Дискретизация сигнала

Рассмотрим функцию :

где - дельта-функция.

𝑥𝜎 𝑡 = 𝑥 𝑡 𝜎 𝑡 − 𝑛 ⋅△ 𝑡

𝑁;1

𝑛<0

= 𝑥(𝑡) ⋅ 𝜎 𝑡 − 𝑛 ⋅△ 𝑡

𝑁;1

𝑛<0

𝜎 𝑡

𝑥𝜎 𝑡

𝜎 𝑡 = ∞ , если 𝑡 = 0

𝜎 𝑡 = 0, если 𝑡 ≠ 0


Связь непрерывного и дискретного

преобразований

Вычислим спектр дискретного сигнала:

Можно рассматривать только один период повторения

спектра при .

𝑦 𝜔 = 𝑥𝜎(𝑡) ⋅ 𝑒;𝜔⋅𝑡⋅𝑖

∞

;∞

𝑑𝑡 = 𝑥(𝑡) ⋅ 𝜎 𝑡 − 𝑛 ⋅△ 𝑡

𝑁;1

𝑛<0

⋅ 𝑒;𝜔⋅𝑡⋅𝑖∞

;∞

𝑑𝑡

𝑦 𝜔 = 𝑥 𝑡 ⋅ 𝜎 𝑡 − 𝑛 ⋅△ 𝑡

∞

;∞

⋅ 𝑒;𝜔⋅𝑡⋅𝑖 𝑑𝑡

𝑁;1

𝑛<0

= 𝑥 𝑛 ⋅△ 𝑡 ⋅ 𝑒;𝜔⋅𝑛⋅△𝑡⋅𝑖𝑁;1

𝑛<0

𝑥(𝑡) ⋅ 𝜎 𝑡 − 𝜏

∞

;∞

𝑑𝑡 = 𝑥(𝜏)

𝑦 𝜔 𝜔 ∈ [0,2𝜋

∆𝑡]


Дискретное преобразование Фурье

Дискретное преобразование Фурье (ДПФ, DFT) – это

разложение дискретной функций на гармонические

составляющие.

Вычисление ДПФ чаще всего происходит в виде быстрого

преобразования Фурье (БПФ, FFT).


Дискретное преобразование Фурье (2)

- дискретное преобразование

Фурье (ДПФ)

Трудоѐмкость:

𝑥(𝑡) - комплексная функция действительного аргумента

𝑥𝑛 = 𝑥 𝑛 , 𝑛 = 0,𝑁 − 1

𝑦𝑘 = 𝑥𝑛 ⋅ 𝑒;𝑘⋅𝑛𝑁 ⋅2⋅𝜋⋅𝑖

𝑁;1

𝑛<0

, 𝑘 = 0,𝑁 − 1

𝑦𝑘 = 𝑥𝑛 ⋅ (cos𝑘 ⋅ 𝑛

𝑁⋅ 2 ⋅ 𝜋 − 𝑖 ⋅ sin

𝑘 ⋅ 𝑛

𝑁⋅ 2 ⋅ 𝜋 )

𝑁;1

𝑛<0

, 𝑘 = 0,𝑁 − 1


Дискретное преобразование Фурье (3)

- дискретное преобразование

Фурье (ДПФ)


𝑥(𝑡) - комплексная функция действительного аргумента

𝑥𝑛 = 𝑥 𝑛 , 𝑛 = 0,𝑁 − 1

𝑦𝑘 = 𝑥𝑛 ⋅ 𝑒;𝑘⋅𝑛𝑁 ⋅2⋅𝜋⋅𝑖

𝑁;1

𝑛<0

, 𝑘 = 0,𝑁 − 1

𝑦𝑘 = 𝑥𝑛 ⋅ (cos𝑘 ⋅ 𝑛

𝑁⋅ 2 ⋅ 𝜋 − 𝑖 ⋅ sin

𝑘 ⋅ 𝑛

𝑁⋅ 2 ⋅ 𝜋 )

𝑁;1

𝑛<0

, 𝑘 = 0,𝑁 − 1

𝑂(𝑛2)


Прямое и обратное преобразование Фурье

По заданному образу можно восстановить исходную

функцию с помощью обратного ДПФ

- обратное дискретное

преобразование Фурье (ДПФ)


- прямое дискретное

преобразование Фурье (ДПФ)


𝑦𝑘 = 𝑥𝑛 ⋅ 𝑒;𝑘⋅𝑛𝑁⋅2⋅𝜋⋅𝑖

𝑁;1

𝑛<0

, 𝑘 = 0,𝑁 − 1

𝑂(𝑛2)

𝑂(𝑛2)

𝑥𝑘 =1

𝑁⋅ 𝑦𝑛 ⋅ 𝑒

𝑘⋅𝑛𝑁 ⋅2⋅𝜋⋅𝑖

𝑁;1

𝑛<0

, 𝑘 = 0,𝑁 − 1


Быстрое преобразование Фурье (1)

Пусть N – чѐтное, тогда

Чѐтные слагаемые Нечѐтные слагаемые

Коэффициент

поворота

𝑦𝑘 = 𝑥𝑛 ⋅ 𝑒;𝑘⋅𝑛𝑁⋅2⋅𝜋⋅𝑖

𝑁;1

𝑛<0

, 𝑘 = 0,𝑁 − 1

𝑦𝑘 = 𝑥2⋅𝑛 ⋅ 𝑒;2⋅𝑛⋅𝑘𝑁 ⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

+ 𝑥2⋅𝑛:1 ⋅ 𝑒;(2⋅𝑛:1)⋅𝑘𝑁 ⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

=

= 𝑥2⋅𝑛 ⋅ 𝑒;𝑛⋅𝑘𝑁/2⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

+ ( 𝑥2⋅𝑛:1 ⋅ 𝑒;𝑛⋅𝑘𝑁/2⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

) ⋅ 𝑒;𝑘𝑁⋅2⋅𝜋⋅𝑖

ДПФ над чѐтными

слагаемыми

ДПФ над нечѐтными

слагаемыми



Пусть t =𝑁

2+ 𝑘, 𝑘 = 0,

𝑁

2− 1

𝑦𝑡 = 𝑥2⋅𝑛 ⋅ 𝑒;𝑛⋅𝑡𝑁/2⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

+ ( 𝑥2⋅𝑛:1 ⋅ 𝑒;𝑛⋅𝑡𝑁/2⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

) ⋅ 𝑒;𝑡𝑁⋅2⋅𝜋⋅𝑖 =

= 𝑥2⋅𝑛 ⋅ 𝑒;𝑛⋅𝑘𝑁/2⋅2⋅𝜋⋅𝑖⋅ 𝑒;𝑛⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

+ ( 𝑥2⋅𝑛:1 ⋅ 𝑒;𝑛⋅𝑘𝑁/2⋅2⋅𝜋⋅𝑖⋅ 𝑒;𝑛⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

) ⋅ 𝑒;𝑘𝑁⋅2⋅𝜋⋅𝑖 ⋅ 𝑒;𝜋⋅𝑖 =

= 𝑥2⋅𝑛 ⋅ 𝑒;𝑛⋅𝑘𝑁/2⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

− ( 𝑥2⋅𝑛:1 ⋅ 𝑒;𝑛⋅𝑘𝑁/2⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

) ⋅ 𝑒;𝑘𝑁⋅2⋅𝜋⋅𝑖

𝑦𝑘′ 𝑦𝑘

′′


В результате получили:



′′

𝑦𝑘:𝑁2= 𝑥2⋅𝑛 ⋅ 𝑒

;𝑛⋅𝑘𝑁/2⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

− ( 𝑥2⋅𝑛:1 ⋅ 𝑒;𝑛⋅𝑘𝑁/2⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

) ⋅ 𝑒;𝑘𝑁⋅2⋅𝜋⋅𝑖

𝑦𝑘 = 𝑥2⋅𝑛 ⋅ 𝑒;𝑛⋅𝑘𝑁/2⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

+ ( 𝑥2⋅𝑛:1 ⋅ 𝑒;𝑛⋅𝑘𝑁/2⋅2⋅𝜋⋅𝑖

𝑁/2;1

𝑛<0

) ⋅ 𝑒;𝑘𝑁⋅2⋅𝜋⋅𝑖


′′


БПФ. «Бабочка» (1)

Рекуррентное соотношение «бабочка»

Для вычисления ДПФ над N элементами по соотношению

«бабочки» необходимо вычислить два ДПФ размерности N/2.

- коэффициенты ПФ для

четных элементов

- коэффициенты ПФ для

нечетных элементов

𝑦𝑘 = 𝑦𝑘′ + 𝑦𝑘

′′ ⋅ 𝑒;2⋅𝜋⋅𝑘⋅𝑖𝑁

𝑘 = 0,𝑁

2− 1

𝑦0′, 𝑦1′, … , 𝑦𝑁

2;1′

𝑦0′′, 𝑦1′′, … , 𝑦𝑁

2;1′′

𝑦𝑘:𝑁2= 𝑦𝑘

′ − 𝑦𝑘′′ ⋅ 𝑒;

2⋅𝜋⋅𝑘⋅𝑖𝑁


БПФ. «Бабочка» (2)

Визуальное представление «бабочки»

𝑦𝑘 = 𝑦𝑘′ + 𝑦𝑘

′′ ⋅ 𝑒;2⋅𝜋⋅𝑘⋅𝑖𝑁

𝑘 = 0,𝑁

2− 1

𝑦𝑘:𝑁2= 𝑦𝑘

′ − 𝑦𝑘′′ ⋅ 𝑒;


𝑦𝑘′

𝑦𝑘′′

𝑦𝑘

𝑦𝑘:𝑁2

𝑈𝑁𝑘 = 𝑒;


𝑈𝑁𝑘


Быстрое преобразование Фурье

Алгоритм Кули и Таки (Cooley-Tukey)

Основан на рекуррентном соотношении



Быстрое преобразование Фурье

Алгоритм Кули и Таки (Cooley-Tukey)

Основан на рекуррентном соотношении


𝑂(𝑛𝑙𝑜𝑔𝑛)

𝑙𝑜𝑔𝑛


Рассмотрим алгоритм работы БПФ на примере сигнала из

4-х точек, т.е. n=4

К массиву из 4 комплексных чисел

применим «бабочку»

Для простоты в дальнейших вычислениях выполним

перестановку элементов массива (бит-реверсирование)

Пример вычисления 4-точечного БПФ…

ip

pppebay

2

i

p

pppebay

2

1

1,0p

0x 1x2x 3x


Чтобы посчитать коэффициенты Фурье

необходимо вычислить коэффициенты


ip

ppp ebay

2

i

p

ppp ebay

21

1,0p

000 bay

002 bay

12

0

i

e

iei

2

1

ibay 111

ibay 113

0p 1p

3210 ,,, yyyy

1010 ,,, bbaa



Коэффициенты и являются коэффициентами

преобразования Фурье над сигналами из 2-х точек

(чѐтные и нечѐтные слагаемые)

Для вычисления указанных коэффициентов снова

воспользуемся соотношением «бабочки»

10 ,aa10 ,bb



Для 2-точечного сигнала «бабочка»

примет следующий вид для чѐтных слагаемых:

000 baa

001 baa 0p

in

p

ppp ebay2

in

p

pppn ebay2

2/

12

,0 n

p



Коэффициенты являются коэффициентами Фурье

для сигнала, состоящего из одной точки:

– для ;

– для .

Коэффициент Фурье для множества из одной точки

является самой точкой, поэтому:

– ;

– .

- коэффициенты Фурье для сигнала, состоящего из

одной точки (нечетные слагаемые):

– ;

– .

00 ,ba

0a0x

0b2x

00 xa

20 xb

0a 0b 0b 0a

00 ,ba

00 xa

20 xb



Вычислим коэффициенты 2-точечного БПФ:

Результат запишем в исходный массив:

0a 0b1a 1b

000 baa

001 baa

000 bab

001 bab

0a 0b 0b 0a


Вычислим искомые коэффициенты (4-точечного БПФ):

Результат запишем в исходный массив:


000 bay

002 bay

ibay 111

ibay 113

0y1y 2y 3y

0a 0b1a 1b



1. Перестановка элементов массива

0x 1x 2x 3x0x 1x2x 3x

Бит-реверсирование



2. Выполнение 1-точечного ПФ

0x 1x 2x 3x0x 1x2x 3x


0a 0b 0b 0a




0x 1x 2x 3x

0a 0b 0b 0a

0x 1x2x 3x


0a 0b1a 1b




0y1y 2y 3y

0a 0b1a 1b

0x 1x 2x 3x0x 1x2x 3x


0a 0b 0b 0a


Демонстрация вычисления 4-точечного БПФ

0

4U -

+

+

+

0

4U -

+

+

+

0

4U -

+

+

+

2

4U -

+

+

+

2x

0x

1x

3x

1y

0y

2y

3y

1-ый этап 2-ой этап

ki

k nnU e

0 0

4 1U e 2 24

i

U e i


Демонстрация вычисления 4-точечного БПФ

0

4U -

+

+

+

0

4U -

+

+

+

0

4U -

+

+

+

2

4U -

+

+

+

2x

0x

1x

3x

1y

0y

2y

3y

1-ый этап 2-ой этап

ki

k nnU e

0 0

4 1U e 2 24

i

U e i



1. Перестановка элементов массива


0x 1x 2x 3x 4x 6x5x 7x

0x 2x4x 6x 5x 7x1x 3x




1

0a 1

0b 20a 2

0b 30a 3

0b40a 4

0b

0x 2x4x 6x 5x 7x1x 3x




0x 2x4x 6x 5x 7x1x 3x

1

0a 1

0b 20a 2

0b 30a 3

0b40a 4

0b

50a 5

0b51a

51b 6

0a 60b6

1a 61b

10

10

50 baa

10

10

51 baa

20

20

50 bab

20

20

51 bab

...




0x 2x4x 6x 5x 7x1x 3x

50a 5

0b51a

51b 6

0a 60b6

1a 61b

1

0a 1

0b 20a 2

0b 30a 3

0b40a 4

0b

70a

70b7

1a 71b7

2a 73a 7

3b72b

50

50

70 baa

ibaa 51

51

71

50

50

72 baa

ibaa 51

51

73

60

60

70 bab

ibab 61

61

71

60

60

72 bab

ibab 61

61

73




1

0a 1

0b 20a 2

0b 30a 3

0b40a 4

0b

50a 5

0b51a

51b 6

0a 60b6

1a 61b

70a

70b7

1a 71b7

2a 73a 7

3b72b

0y1y 2y 3y

4y 6y5y 7y

… 70

700 bay

70

704 bay

ibay 72

722

ibay 72

726

)(22

227

1711 ibay

)(22

227

1715 ibay

)(22

227

3733 ibay

)(22

227

3737 ibay



Переупорядочивание элементов массива

Бит-реверсирование — это преобразование двоичного

числа, заключающееся в изменении порядка следования

бит на противоположный

01 0 0 1 = 18 10 1 0 0 = 9


Бит-реверсирование. Пример

Пример изменения индексов элементов при выполнении

бит-реверсирования над массивом из 16 элементов

0000 = 0

000 1 = 81 = 1

000 = 41 = 2

00 = 1211 = 3

000 = 2

1

= 4

00 = 101 = 5

00 = 61 = 6

0 = 1411 = 7

1

1

1

0 000

000

0 0 01

0 011

0 00

1

001

0 01

011

1

1

1

= 0 000 = 1= 8

00 1 = 91 = 9

00 = 51 = 10

0 = 1311 = 11

00 = 3

1

= 12

0 = 111 = 13

0 = 71 = 14

= 1511 = 15

1

1

1

0 00

00

0 01

011

0 0

1

01

0 1

11

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1


Бит-реверсирование. Реализация

//in: ind - обычный порядок следования бит

//out: revInd - бит-реверсивный порядок следования бит

//size = 1 << bitsCount;

int mask = 1 << (bitsCount - 1);

revInd = 0;

for(int i=0; i<bitsCount; i++)

{

bool val = ind & mask;

revInd |= val << i;

mask = mask >> 1;

}

Первая итерация (1)

01 0 0 1

01 0 0 0mask

ind

10 0 0 0val

10 0 0 0revInd







revInd = 0;


{


revInd |= val << i;

mask = mask >> 1;

}

Вторая итерация (2)

01 0 0 1

00 1 0 0mask

ind

00 0 0 0val

10 0 0 0revInd







revInd = 0;


{


revInd |= val << i;

mask = mask >> 1;

}

Третья итерация (3)

01 0 0 1

00 0 1 0mask

ind

00 0 0 0val

10 0 0 0revInd







revInd = 0;


{


revInd |= val << i;

mask = mask >> 1;

}

Четвёртая итерация (4)

01 0 0 1

00 0 0 1mask

ind

10 0 0 0val

10 1 0 0revInd







revInd = 0;


{


revInd |= val << i;

mask = mask >> 1;

}

Пятая итерация (5)

01 0 0 1

10 0 0 0mask

ind

00 0 0 0val

10 1 0 0revInd


БПФ. Алгоритм


Рекурсия (БПФ)

– Вычисление БПФ над первой половиной массива

– Вычисление БПФ над второй половиной массива

– Применение «бабочки» ко всем парам элементов

in

p

ppp ebay2

in

p

pppn ebay2

2/

12

,0 n

p


Быстрое вычисление синуса

5. Эффективность алгоритмической оптимизации никогда не

сравнится с программной.


“Горячая” точка

Итак, мы воспользовались Intel VTune Amplifier XE и

обнаружили, что очень долго происходит вычисление

функций sin/cos.

Чтобы ускорить работу указанного участка кода,

необходимо вспомним тригонометрические тождества.


Вспомним математику

Представим экспоненту в тригонометрической форме:

Вспомним тригонометрические тождества:

Для фиксированного n получаем:

)2sin()2cos(2

n

pi

n

pe

in

p

12

,0 n

p

)2

sin()2

)1sin(()2

cos()2

)1cos(()2

cos(nn

pnn

pn

p

)sin()sin()cos()cos()cos(

)2

sin()2

)1cos(()2

cos()2

)1sin(()2

sin(nn

pnn

pn

p

)sin()cos()cos()sin()sin(


Оптимизация вычисления тригонометрических

функций

Чтобы посчитать sin и cos, необходимо выполнить 4

операции умножения и по одной операции сложения и

вычитания:

Т.к. n фиксированное, то коэффициенты и

достаточно посчитать один раз.

)2

sin()2

)1sin(()2

cos()2

)1cos(()2

cos(nn

pnn

pn

p

)2

sin()2

)1cos(()2

cos()2

)1sin(()2

sin(nn

pnn

pn

p

)2

cos(n

)

2sin(

n


Применение оптимизации

В соответствие с указанными соотношениями выполним

оптимизацию вычисления функций sin и cos.

В цикле по j от first до first+size/2 необходимо посчитать

все значения sin(j*coeff) и cos(j*coeff).

1. Посчитаем перед циклом первые sin и cos:

sin(first*coeff) и cos(first*coeff).

2. Посчитаем перед циклом множители:

sin(coeff) и cos(coeff).

3. В цикле по j для вычисления sin(j*coeff) и cos(j*coeff)

будем использовать предыдущие значения sin и cos для

j-1 и множители в соответствии с ранее выведенными

соотношениями.



Время, потраченное на обработку видео: 77 с




Анализ эффективности (1)

Достаточно низкое ускорение, полученное после оптимизации

вычисления тригонометрических функций вызвано в первую очередь

тем, что в функции SerialFFTCalculation сохраняется значительное

количество вычислений sin и cos.

Значения sin и cos многократно считаются повторно, особенно для

маленьких размерностей!


Анализ эффективности (2)

В исходной версии требовалось 𝒏 ∙ 𝒍𝒐𝒈𝒏 вычислений

синусов и косинусов, где 𝑛 – размер массива для

выполнения одномерного БПФ.

То есть для 𝑛 = 256 потребуется вычислить 2048 синусов

и косинусов.

В модифицированной версии требуется 𝟒 ∙ (𝒏 − 𝟏) вычислений синусов и косинусов, где 𝑛 – размер массива

для выполнения одномерного БПФ.

То есть для 𝑛 = 256 потребуется вычислить 1020 синусов

и косинусов.

Для больших n эффективность модифицированной

версии будет ещё выше.


Ищѐм следующее проблемное место


Наиболее медленные функции

Снова большую часть времени работает функция

SerialFFTCalculation.


“Горячая” точка

Функция Butterfly наиболее часто вызываемая функция. За счѐт

этого на еѐ выполнение расходуется 40% времени работы

программы.

Избавимся от лишних ветвлений в цикле – вынесем проверку

за тело цикла.


Лишние ветвления

6. В большинстве случаев оптимизирующие компиляторы способны

выполнять высококачественные оптимизации, но если

программный код достаточно сложен, то компилятор может не

справиться с оптимизацией.






121


Анализ эффективности

Невысокое ускорение вызвано тем, что глубина рекурсии

функции SerialFFTCalculation достаточно маленькая, т.к.

обрабатываемый сигнал одномерного БПФ содержит

всего 256 точек (для рассматриваемого тестового видео).


Дальнейший анализ


Удаление “лишних” вызовов

Функция SerialFFTCalculation всѐ ещѐ остаѐтся горячей

точкой программы, поэтому продолжим еѐ оптимизацию.

Теорема об удалении рекурсии.

По каждому алгоритму можно построить эквивалентный

алгоритм без рекурсии.

Избавимся от рекурсии.

Избавимся от ―лишних‖ вызовов функций (сделаем явный

inline функций Butterfly и реализуем в виде отдельных

функции прямое и обратное одномерное БПФ).


Разворачивание рекурсии

7. Рекурсивные реализации достаточно сложны для оптимизации +

приводят к появлению накладных расходов на организацию

рекурсии, поэтому итеративные реализации предпочтительны.







Снова профилировка


“Горячие точки”

Достаточно предсказуемо выглядит результат работы

профилировщика. Функции, выполняющие БПФ, работают

наибольшее время.


Детальный анализ профиля (1)

Профиль на языке высокого уровня не даѐт сколь-либо

полезную информацию для анализа, поэтому придѐтся

обратиться к ассемблерному листингу программы.


Детальный анализ профиля (2)

20.8% времени работы программы выполнялись две

функции по адресам 0x407080 и 0x40707c. Эти функции

присутствуют в профиле по 2 раза.


Анализ листинга

Функция по смещению 0x7080 является перегруженным

оператором ―-‖ класса complex<double>.

Функция по смещению 0x707с является перегруженным

оператором ―*‖ класса complex<double>.


Перейдѐм к native типам данных

Ранее мы отказались от использования контейнера

std::vector и это привело к ощутимому приросту

производительности.

Поступим таким же образом с классом, представляющим

комплексные числа, std::complex.

Будем представлять комплексное число в виде

последовательности из двух элементов типа double.

RealReal Image Real Image ………..

double

Комплексное

число


Встроенные типы данных

8. Для компилятора наиболее удобно, если программа

обрабатывает встроенные типы данных.







Выбор направления оптимизации

Вычисление одномерного БПФ состоит из двух этапов:

перестановка элементов и непосредственно вычисления.

Оценим ―вклад‖ перестановки элементов в вычисление

БПФ.



Функция, выполняющая перестановку элементов массива

с помощью бит-реверсирования, занимает достаточно

много времени, чтобы заняться еѐ оптимизацией.


Делайте всѐ заранее

9. Один из наиболее простых и эффективных способов оптимизации

заключается в выполнении предвычислений, которые можно

будет использовать в основных вычислениях.



Переупорядочивание элементов массива

Бит-реверсирование — это преобразование двоичного

числа заключающееся в изменении порядка следования

бит на противоположный

01 0 0 1 = 18 10 1 0 0 = 9







revInd = 0;


{


revInd |= val << i;

mask = mask >> 1;

}







revInd = 0;


{


revInd |= val << i;

mask = mask >> 1;

}

Для пересчёта каждого индекса

необходимо выполнить цикл!


Оптимизация бит-реверсирования

Известный метод:

– Давайте заранее всѐ посчитаем и во время

реверсирования будем подставлять посчитанные

значения!


Оптимизация бит-реверсирования

Создадим таблицу, в которой будут содержаться все

однобайтовые величины и их реверсивные аналоги (256

значений).

Исходное число, которое необходимо реверсировать,

разделим на байты.

Каждый байт заменим на соответствующий аналог из

таблицы.

Выполним сдвиг вправо полученного результата, если это

необходимо.


Пример бит-реверсирования

Рассмотрим пример, в котором необходимо

реверсировать число, содержащее 19 значимых бит

Исходное число

Результат должен быть записан так же в 3 байта

19 бит



Записываем первый байт в инверсивном порядке (1)



Записываем второй байт в инверсивном порядке (2)



Записываем третий байт в инверсивном порядке (3)



Выполняем сдвиг на 5 бит вправо (4)

5 бит










Функция, вычисляющая БПФ подверглась достаточно

хорошей оптимизации, поэтому выполнение функции

ProcessFrame стало занимать существенное время.


Математические функции

Основную часть времени функция ProcessFrame

выполняет вычисление математических функций

(извлечение корня, возведение в степень, логарифм,

экспонента).


Оптимизация использования математических

функций (1)

Избавимся от функций pow, которые возводят в степень

число ―-1‖.



функций (2)

Заменим вычисление функции pow на соответствующее

умножение.



функций (3)

Избавимся от повторных вычислений выражений.


Упрощение выражений

10. Применение маленьких и простых оптимизаций может приводить

к значительному сокращению времени выполнения программы.







Следующий шаг

Многие вычислительные системы имеют несколько вычислительных

ядер/процессоров. Наша тестовая система содержит 8

вычислительных ядер.

Выполним распараллеливание функции, выполняющей вычисление

БПФ, с использованием OpenMP.


Параллельная реализация

11. Современные процессоры имеют больше одного

вычислительного ядра, поэтому разработка параллельной

программы – один из эффективных способов сократить время

работы программы.



С картинкой что-то не то!


“Гонки данных”

Рассмотрим типичную ситуацию, в которой необходима

синхронизация, называемую «гонкой данных».

Пусть есть общая переменная data, доступная

нескольким потокам для чтения и записи.

Каждый поток должен выполнить инкремент этой

переменной (то есть выполнить код data++).

Для этого процессору необходимо выполнить три

операции: чтение значения переменной из оперативной

памяти в регистр процессора, инкремент регистра, запись

посчитанного значения в переменную (в оперативную

память).


“Гонки данных”.

Ожидаемая реализация

Сначала поток 0 выполняет чтение переменной, инкремент регистра

и запись его значения в переменную, а потом поток 1 выполнит ту же

последовательность действий.

Таким образом, после завершения работы приложения значение

общей переменной будет равно data+2.

data

Поток #0

чте

ние

Поток #1

запись

data+1

Поток #0

чте

ние

Поток #1

запись

data+1 data+2

1 2



Менее ожидаемая реализация (1)

Поток 0 выполняет чтение значения переменной в регистр и

инкремент этого регистра, и в этот же момент времени поток 1

выполняет чтение переменной data.

Т.к. для каждого потока имеется свой набор регистров, то поток 0

продолжит выполнение и запишет в переменную значение data+1.

data

Поток #0

чте

ние

Поток #1

запись

data

Поток #0

чте

ние

Поток #1

запись

data+1data+1

1 2



Менее ожидаемая реализация (2)

Поток 1 также выполнит инкремент регистра (значение переменной

data было прочитано из оперативной памяти ранее до записи потоком

0 значения data+1) и сохранит значение data+1 (свое) в общую

переменную.

Таким образом, после завершения работы приложения значение

переменной будет равно data+1.

data

Поток #0

чте

ние

Поток #1

запись

data

Поток #0

чте

ние

Поток #1

запись

data+1data+1

1 2


“Гонки данных”

Обе реализации могут наблюдаться как на многоядерной

(многопроцессорной) системе, так и на

однопроцессорной, одноядерной.

Таким образом, в зависимости от порядка выполнения

команд результат работы приложения может меняться.


Ищем ошибки

Вы можете наблюдать ―гонки данных‖ при работе

программы в виде искаженного изображения.


Intel Inspector XE 2011. Поиск “гонок данных”


Ошибки (1)

Гонка данных: потоки используют переменную temI

параллельно для записи и чтения (fft.cpp:73, 76).


Ошибки (2)

Гонка данных: потоки используют переменную uRtmp

параллельно для записи и чтения (fft.cpp:75, 77).


Исправление ошибок

Чтобы исправить ошибки необходимо:

– либо воспользоваться директивой private:

#pragma omp parallel for private(temI, uRtmp)

– либо объявить переменные локально.





Анализ эффективности

Оцените эффективность распараллеливания.


Конфигурирование Intel Amplifier XE 2011



Программа состоит из очень большого количества

параллельных секций.



Каждая параллельная секция выполняется менее 5 мкс!

Замедление программы вызвано тем, что накладные

расходы на создание параллельных секций значительно

превосходят объѐм вычислений в этих секциях.

Функция SerialFFTCalculation обрабатывает малые

массивы данных, поэтому еѐ распараллеливание не

актуально.


Эффективное распараллеливание

Выполним распараллеливание двух циклов функции

SerialFFT2D. Каждая итерация в этих циклах может

выполняться независимо, т.к. на каждой итерации

обрабатывается отдельная строка (столбец) матрицы,

задающей изображение.

Параллельную реализацию поместим в функцию

ParallelFFT2D.

Аналогично поступим с функцией SerialInverseFFT2D.


Эффективное

распараллеливание

12. Написать быструю последовательную программу сложно, а

параллельную ещѐ сложнее.







Эффективность параллельной реализации (1)

Общее ускорение по сравнению с последовательной

версией получилось всего 2.2, при том, что доступно 8

вычислительных ядер!

Дело в том, что выполнялось распараллеливание только

части программы, поэтому ускорение и не могло

получиться близким к линейному.



Распараллеливание было выполнено той части кода,

который занимал 51% времени (последовательная версия

программы).

По закону Амдала получается что максимальное

ускорение будет чуть больше 2 (что и наблюдается).



Intel VTune Amplifier XE 2011 так же позволяет убедиться

что большую часть времени параллельные секции

одновременно обрабатывают 8 потоков.


Полное распараллеливание

Выполним распараллеливание функции ProcessFrame.

Так же выполним следующие оптимизации:

– вынесем switch из тела цикла;

– будем выделять/освобождать динамическую память

один раз.


Полностью параллельно

13. Распараллеливание одного алгоритма может не привести к

значительному ускорению работы программы.




Время обработки одного кадра: 0.015 с




Тестовые данные

До настоящего момента все эксперименты проводились

на одном видеофрагменте, поэтому вся оптимизация

проводилась по сути для этого файла (следовательно, и

размера картинки).

Проведѐм эксперимент на видеофрагментах с

разрешением 512x512 и 1024x1024 точек.


Эксперименты






Анализ (1)

Основным вычислительном алгоритмом в

рассматриваемой задаче является вычисление

двумерного БПФ. Таким образом, трудоѐмкость обработки

одного кадра составляет: O h ∙ w ∙ logw + 𝑤 ∙ ℎ ∙ logh , где w

– количество точек по горизонтали в изображении, а h –

по вертикали.

Рассмотрим увеличенное в два раза по горизонтали и

вертикали изображение. Трудоѐмкость обработки такого

изображения составит:

O 4 ∙ h ∙ w ∙ log(2 ∙ w) + 4 ∙ 𝑤 ∙ ℎ ∙ log(2 ∙ h) .


Анализ (2)

Таким образом, время обработки кадра увеличенного в

два раза по горизонтали и вертикали должно замедлиться

в 4∙h∙w∙log(2∙w):4∙𝑤∙ℎ∙log(2∙h)

h∙w∙logw:𝑤∙ℎ∙logh раз.

4∙h∙w∙𝑙𝑜𝑔(2∙w):4∙𝑤∙ℎ∙𝑙𝑜𝑔(2∙h)

h∙w∙𝑙𝑜𝑔w:𝑤∙ℎ∙𝑙𝑜𝑔h= 4 ∙

𝑙𝑜𝑔2:𝑙𝑜𝑔𝑤:𝑙𝑜𝑔2:𝑙𝑜𝑔ℎ

𝑙𝑜𝑔w:𝑙𝑜𝑔h= 4 ∙

1 + 2 ∙𝑙𝑜𝑔w:𝑙𝑜𝑔h

𝑙𝑜𝑔2

;1= 4 ∙ 1 +

2

log2 𝑤:log2 ℎ

Для 𝑤 = ℎ = 256 получаем замедление в 4 ∙ 1 +2

8:8= 4.5

раза.

Для 𝑤 = ℎ = 512 получаем замедление в 4 ∙ 1 +2

9:9≈ 4.4

раза.


Анализ экспериментов

При переходе от изображения размером 256x256 к

изображению размером 512x512 наблюдается

замедление в 65

15≈ 4.3 раза.

При переходе от изображения размером 512x512 к

изображению размером 1024x1024 наблюдается

замедление в 481

65= 7.4 раза.

Результаты последнего эксперимента показывают, что

замедление программы значительно больше, чем это

предсказывалось теоретически!!!




Профиль функции ParallelInverseFFT2D

Вычисление одномерного ДПФ по строкам работает в 10

раз быстрее, чем вычисление одномерного ДПФ по

столбцам (для TestVideo2.avi и TestVideo3.avi

соотношения будут похожими).


Детальный анализ


Анализ

Вычисление БПФ над строками приводит к тому, что

появляется большое количество инструкций доступа к

памяти, которые работают очень долго.


Кеш-память

Современные процессоры содержат специальную память

(кеш-память) с быстрым доступом к данным в которую

процессор может помещать часть обрабатываемых

данных.

Часто процессоры имеют многоуровневую иерархию кеш-

памяти.

Кэш 1-го уровня имеет небольшой размер, но очень

высокую скорость работы, кэш 2-го уровня имеет большой

размер, но меньшую скорость работы и т.д.


Тестовая система

Тестовая система имеет 3 уровня кеш-памяти.


Модель кеш-памяти

Мы будем представлять кеш-память в виде прямоугольной матрицы.

Каждый элемент матрицы – это линейка кеш-памяти (минимальный

элемент с которым работает кеш-память).

Количество столбцов будет определять ассоциативность кэша.

Количество строк определяется соотношением <размер кеш-памяти>

/ (<ассоциативность кеш-памяти> * <размер кеш-линейки>).

Для тестовой системы рассмотрим кеш-память 2-го уровня:

– Размер кеш-памяти: 256 КБ.

– Ассоциативность: 8.

– Размер кеш-линейки: 64 Б.


Тестовое изображение

Рассмотрим один кадр (одну компоненту цвета).


Выполнение ДПФ над первой строкой (1)

Первый элемент изображения занимает 16 байт (2

элемента типа double) и будет загружен в первую кеш-

линейку.



Второй элемент изображения будет снова загружен в

первую кеш-линейку, т.к. размер линейки кэша составляет

64 Б.



Первые 4 элемента изображения будет загружены в

первую кеш-линейку.



Строка тестового изображения занимает в памяти 4 КБ и

может быть полностью загружена как в кеш-память 2-го

уровня, так и в более быстрою память 1-го уровня.


Выполнение ДПФ над первым столбцом (1)

Первый элемент столбца занимает 16 байт (2 элемента

типа double) и будет загружен в первую кеш-линейку.



Второй элемент столбца находится по смещению 4 КБ (

256 * 16 Б), поэтому он будет загружен в кеш по такому же

смещению.



Каждый следующий элемент столбца смещѐн на 4 КБ.



Первые 64 элемента столбца заполнят 1

64 часть линеек

кеш-памяти.

Очередной элемент столбца может быть помещѐн только

в занятые позиции, поэтому один из находящихся в кеш-

памяти элементов будет выгружен в кеш 3-го уровня.

Повторное использование данных в кеш-памяти

происходить не будет!!!


Оптимизация

Перед выполнением одномерно БПФ поместим

обрабатываемый столбец в непрерывный массив (т.к.

БПФ имеет трудоемкость 𝑂(𝑛𝑙𝑜𝑔𝑛) то указанная

оптимизация даст положительный эффект, т.к.

трудоѐмкость копирования линейна).


Эффективное использование

кеш-памяти

14. Перед выполнением оптимизации разработчику необходимо

подготовить представительные (наиболее типичные для

программы) данные на которых будет происходить тестирование

программы.







Результаты экспериментов




MKL для вычисления ДПФ

15. Для многих вычислительных задач разработано большое

количество библиотек, которые содержат эффективные

реализации алгоритмов решения таких задач.


Реализация БПФ

FFTW (Fastest Fourier Transform in the West)

– библиотека для вычисления ДПФ;

– GNU GPL.

Intel MKL (Math Kernel Library)

– содержит реализации большого количества

алгоритмов;

– оптимизирована для процессоров Intel;

– имеет реализацию интерфейсов FFTW.


Настройка среды разработки


Ручная настройка среды разработки

Путь к заголовочным файлам

Tools → Options…→ Projects and Solutions → VC++

Directories

Show directories for: Include files

New Line: C:\Program Files\Intel\MKL\<version>\include

Путь к статическим библиотекам для линковки

Tools → Options…→ Projects and Solutions → VC++

Directories

Show directories for: Library files

New Line: C:\Program Files\Intel\MKL\<version>\<arch>\lib,

где <arch> = ia32 | em64t | ia64


Использование ДПФ в MKL

Заголовочный файл: mkl_dfti.h

Статические библиотеки:

• Базовая библиотека: mkl_core.lib

• Версия MKL:

• параллельная: mkl_intel_thread.lib

• последовательная: mkl_sequential.lib

• Тип интерфейса функций:

• cdecl: mkl_intel_c.lib

• stdcall: mkl_intel_s.lib

Помощник для линковки: http://software.intel.com/en-

us/articles/intel-mkl-link-line-advisor

http://software.intel.com/en-us/articles/intel-mkl-link-line-advisor
























Выполнение ДПФ в MKL

1. Создание дескриптора, описывающего ДПФ: DftiCreateDescriptor

2. Подтверждение дескриптора:

DftiCommitDescriptor

3. Вычисление прямого/обратного ДПФ: DftiComputeForward/DftiComputeBackward

4. Освобождение дескриптора:

DftiFreeDescriptor


Создание дескриптора

DFTI_DESCRIPTOR_HANDLE dftHandle;

MKL_LONG status;

status = DftiCreateDescriptor( &dftHandle, DFTI_DOUBLE,

DFTI_COMPLEX, 1, size);

status = DftiCommitDescriptor( dftHandle );

dftHandle – дескриптор.

status – статус выполнения функции (status = 0, если операция выполнена успешно, используя функцию DftiErrorMessage можно

получить содержательное сообщение о типе ошибки).

DFTI_DOUBLE – тип элементов над которыми будет выполнять ДПФ

– элементы двойной точности (может быть DFTI_SINGLE – одинарная

точность).

DFTI_COMPLEX – комплексная область (может быть DFTI_REAL –

действительная область).

1 – размерность ДПФ.

size – количество элементов.


Создание дескриптора для двумерного ДПФ

DFTI_DESCRIPTOR_HANDLE dftHandle;

MKL_LONG status;

int size[2] = {w,h};

status = DftiCreateDescriptor( &dftHandle, DFTI_DOUBLE,

DFTI_COMPLEX, 2, size);

status = DftiCommitDescriptor( dftHandle );

2 – размерность ДПФ.

size – массив размерностей обрабатываемого массива.


Вычисление ДПФ

Прямое ДПФ status = DftiComputeForward( dftHandle, mas );

mas – последовательность действительных значений.

Обратное ДПФ status = DftiComputeBackward( dftHandle, mas );

mas – последовательность комплексных значений в формате.


Замечание

При выполнении обратного ДПФ по умолчанию функция DftiComputeBackward не выполняет деление на

количество элементов.

Можно реализовать ручное деление или перед выполнением операции DftiCommitDescriptor

необходимо установить коэффициент масштабирования:

DftiSetValue(handle, DFTI_BACKWARD_SCALE,

1.0 / (double)n);

1,0 ,1 1

0

2

nkeyn

xn

p

in

kp

pp

- обратное ДПФ


Освобождение дескриптора

status = DftiFreeDescriptor( &dftHandle );


Использование MKL (задание)

Откройте проект 14. filter (on the fly)\filter.sln.

Заменить ручное вычисление ДПФ на вычисление из

MKL:

– В файле filter.cpp функции ParallelFFT2D и

ParallelInverseFFT2D выполняют вычисление ДПФ для

каждой компоненты цвета. Для вычислений

используются два массива для каждого канала

(inp<R,G,B>, out<R,G,B>). Функциям MKL будет

достаточно одного массива для каждого канала.

Сравните быстродействие исходной версии и версии с

MKL на различных видеофрагментах.





Тестовая система

15.


Аппаратная часть

8-ядерный процессор Intel Core i7


Программное обеспечение

Microsoft Visual Studio 2008

– Version 9.0.21022.8

– Microsoft (R) 32-bit C/C++ Optimizing Compiler Version

15.00.21022.08 for 80x86

Intel Parallel Studio XE 2011

– Intel Composer XE 2011 (package 104)

• Intel(R) C++ Compiler XE for applications running on IA-32,

Version 12.0.0.104

– Intel Inspector XE 2011 (build 119192)

– Intel VTune Amplifier XE 2011 (build 119041)


Спасибо за внимание!


Задания для самостоятельной работы…

Перейти от использования типа double к типу float. Оценить

корректность получаемых данных и эффективность

реализации

Реализовать одну функцию вычисления БПФ для всех трѐх

компонент цвета. Оценить эффективность реализации

Реализовать функцию, выполняющую перестановку

элементов массива на основании таблицы с реверсивными

двухбайтовыми числами (таблица на 65536 записей). Оценить

эффективность реализации

Реализовать функцию, выполняющую перестановку

элементов массива сразу для всех строк/столбцов

обрабатываемого изображения. Оценить эффективность

реализации


Задания для самостоятельной работы

Реализовать in-place алгоритм БПФ без использования

перестановки элементов массива. Оценить эффективность

реализации.

Реализовать алгоритм БПФ на общий случай размера

входного сигнала из. Оценить эффективность реализации.

Оценить эффективность динамического планирования в

OpenMP-версии по сравнению со статическим.

Реализовать одну глобальную параллельную секцию в

программе в функции ProcessFrame. Оценить эффективность

параллельной версии.


Источники информации

Кудрявцев Л. Д. Краткий курс математического анализа. Т.

2. Дифференциальное и интегральное исчисления

функций многих переменных. Гармонический анализ:

Учебник. — 3-е изд., перераб. — М.: ФИЗМАТЛИТ, 2005.

— 424 с.

Тропченко А.Ю., Тропченко А.А. Методы сжатия

изображений, аудиосигналов и видео. Учебное пособие

по дисциплине «Теоретическая информатика» - Санкт-

Петербург: , 2009. — 108 с.

Гонсалес Р., Вудс Р. Цифровая обработка изображений.

Москва: Техносфера, 2005 г. — 1072 c.

Дискретное преобразование Фурье (ДПФ).

[http://dsplib.ru/content/dft/dft.html]


Авторский коллектив

Сиднев Алексей Александрович,

ассистент кафедры

Математического обеспечения ЭВМ факультета ВМК ННГУ

[email protected]

mailto:[email protected]

Documents

Фильтрация изображений. Быстрое ... · 2013-02-26 · Н.Новгород, 20 1 г. Фильтрация изображений. Быстрое преобразование