Регрессионное тестирование

Регрессионное тестированиеSoftware Testing 101

Марат Ахин

Санкт-Петербургский государственный политехнический университет

Марат Ахин (СПбГПУ) RT 2014 283 / 349

Содержание

1 Регрессионное тестированиеТестирование ПО в процессе разработкиРегрессионное тестированиеВыборочное регрессионное тестированиеУправление регрессионными тестамиРегрессионное тестирование на практике

Регрессионное тестирование Тестирование ПО в процессе разработки

Тестирование ПО в процессе разработки

Как ПО изменяется в процессе разработки?

Инкрементально, небольшими независимыми шагамиИзменение уже существующего кодаИсправление ошибокДобавление новой функциональностиАдаптация имеющихся компонентов к новым задачам

Любые (даже самые незначительные) изменения могут серьезноповлиять на качество ПО

После любого изменения требуется проверить, что в программе непоявилось новых ошибокДля этого мы выполняем все имеющиеся тесты и проверяем, чтовсе они успешно завершаются

Основной вид тестирования в процессе разработки ПО – эторегрессионное тестирование

Регрессионное тестирование Регрессионное тестирование

Как выглядит одна итерация регрессионного тестирования?

1 Мы модифицируем программу P и получаем программу P′

2 Из всего множества тестов T мы выбираем набор тестов T′,

который необходимо выполнить на P′

3 Для новой функциональности мы разрабатываем новые тесты T′′

4 Полученный набор тестов T′+ T

′′запускается на P

5 Результаты выполнения анализируются с последующейвозможной модификацией как программы, так и набора тестов

Какие проблемы связаны с РТ?

Проблема №1

Как выбрать набор тестов T′после изменения в программе?

Консервативный подходВыбираем все имеющиеся тестыПолное регрессионное тестирование

Случайный подходВыбираем случайное подмножество всех тестовСлучайное выборочное регрессионное тестирование

Каким свойствам должно удовлетворять выборочное регрессионноетестирование?

Полнота – способность выбирать те тесты, которые могутобнаружить ошибки, связанные с изменениями в кодеТочность – способность пропускать такие тесты, которые неизменяют своего поведения на модифицированной программеЭффективность – способность выполняться быстрее, чем полноерегрессионное тестированиеУниверсальность – применимость в большинстве практическихситуаций

«Качественно. Быстро. Дешево. Выберите любые два.»

Умный подходВыбирать тесты, которые «затрагивают» при выполненииизмененные части программыВыборочное регрессионное тестирование

Все подходы к ВРТ различаются по двум основным критериямСпособ идентификации измененных программных компонентовМетод получения информации о покрытии элементов программытестами

Регрессионное тестирование Выборочное регрессионное тестирование

Подход МакКарти

Анализ изменений на уровне целого модуляСвязь элементов программы с тестами задается вручнуюразработчиком

Преимущества и недостатки?

Подход на основе концепции файервола

Анализ изменений на уровне целых модулейСвязь элементов программы с тестами задается вручнуюразработчиком

Поход Ротермела и Харролд

Анализ изменений на уровне узлов CFG программыСвязь элементов программы с тестами задается на уровне CFG наоснове динамической информации о выполнении каждого теста

Подход Балла

Анализ изменений на уровне узлов CFG программыСвязь элементов программы с тестами задается на уровне CFG наоснове динамической информации о выполнении каждого теста

Подход на основе AST

Анализ изменений на уровне вершин AST программыСвязь элементов программы с тестами задается на уровне AST наоснове динамической информации о выполнении каждого теста

Регрессионное тестирование Управление регрессионными тестами

Управление регрессионными тестами

Проблема №2Как управлять набором регрессионных тестов?

Когда и как добавлять в набор новые тесты?Когда можно удалять старые тесты?

Добавление новых тестов

Когда надо добавлять новый регрессионный тест?

Когда в ПО появилась новая функциональностьКогда в ПО была исправлена ошибкаКогда мы хотим улучшить тестовое покрытие ПОКогда мы можем себе позволить добавить новыйнеповторяющийся тест

С течением времени число тестов увеличиваетсяЧем больше тестов, тем лучше тестовое покрытиеПроблемы начинаются, когда тестов становится слишком много

Что такое «слишком много»?

Удаление старых тестов

Когда можно удалять старый тест?

Никогда

Когда тест дублирует другие тестыКогда тест не улучшает тестовое покрытиеКогда тест ни разу не обнаружил ошибки за все времятестированияКогда тест обнаруживает такие же ошибки, как и другие тесты

Никогда

Приоритизация регрессионных тестов

Проблема №3Как запускать регрессионные тесты?

Взяли имеющийся набор тестов и запустили их

Такой подход может не всегда нас устраиватьЧто мы можем изменить?

Мы можем изменить порядок, в котором мы запускаемрегрессионные тестыЗачем?

Чем раньше мы узнаем о том, что в ПО появилась регрессионнаяошибка, тем скорее мы сможем приступить к ее исправлениюЧасто причиной непрохождения различных (напрямую несвязанных друг с другом) тестов является одна и та же ошибка вПОИногда время на тестирование является ограниченным, инеобходимо найти наибольшее число ошибок с учетом всехограничений

Как мы можем приоритизировать регрессионные тесты?

При помощи интуицииПодход работает, если у Вас хорошая интуицияКроме интуиции можно использовать имеющийся опыт разработкиПО

На основе знаний о тестовом покрытии ПОСперва выполняются тесты, которые имеют наибольшее покрытиеПОСперва выполняются тесты, которые покрывают более важныекомпоненты ПО

На основе истории разработкиПриоритет отдается тестам, которые чаще других обнаруживалирегрессионные ошибкиПервыми выполняются тесты, проверяющие корректность работынаиболее «проблемных» компонентов ПО

Случайным образомПодход перекликается со случайным ВРТЕсли мы можем случайным образом поменять порядоквыполнения тестов, то почему бы это не сделать?

На основе характеристик тестовПервыми выполняются тесты с наименьшим временем выполненияПриоритет отдается тестам, которые наиболее активно работают сокружением программной системы

Анализ результатов регрессионного тестирования

Проблема №4Что делать с результатами регрессионного тестирования?

Если все тесты проходят – все хорошо

Если тест не проходит – то все зависит от того, по какой причинеон не проходит

Варианты?

Анализ результатов регрессионного тестирования

Регрессионное тестирование Регрессионное тестирование на практике

Регрессионное тестирование на практике

Как обстоит дело с РТ/ВРТ на практике?

РТ используется очень частоTDDAgile DevelopmentRUP

ВРТ практически не используется

Почему?

Крайняя сложность выбора регрессионных тестовОпасность пропустить регрессионную ошибку при использованиинебезопасного ВРТСтрах перед использованием «непонятной» технологииПростота экстенсивного пути решения проблем РТ

Отсутствие хорошей инструментальной поддержки

Какие еще сложности связаны с ВРТ?

Недетерминизм в тестахЕсли выполнение тестов может отличаться от запуска к запуску —все плохоПочему?

Эффект «лавины»Пропущенный тест в ВРТ может дальше привести к каскадномупропуску множества тестовЧто делать?

W.I.L.T. What I Learned Today?

W.I.L.T.

Регрессионное тестирование

Education

Нагрузочное тестирование

ИНТЕРНЕТ -ТЕСТИРОВАНИЕ ШКОЛЬНИКОВ

Тестирование технологий и протоколов L2-L3 ......2 Тестирование технологий и протоколов L2-L3 Тестирование

Автоматизированное тестирование

Тестирование программных средств

Постоянное тестирование интеграции

Отборочное тестирование. Демоверсиядокументы.школа-цпм.рф/obshestvoznanie...Отборочное тестирование. Демоверсия

итоговое тестирование

Случайное тестирование

Тестирование продуктов

Регрессионное тестирование Случайное тестированиеkspt.icc.spbstu.ru/media/files/2013/courses/softwarequality/04-Testi… · Регрессионное

Быстрое тестирование

Регрессионное тестирование верстки

языковое тестирование

Экспресс-тестирование - это

Бодрящий микс из Selenium и TestNG- регрессионное тестирование руками разработчиков

Тестирование Retail систем

репетиционное тестирование

Гибкое тестирование

Юзабилити-тестирование (2008)