ИИ: Этические аспекты проблемы выбора

Broslavsky Oleg ISCD TSUAdvisor: PhD Осаченко Ю.С.

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ:

ЭТИЧЕСКИЕ АСПЕКТЫ ПРОБЛЕМЫ ВЫБОРА

Tomsk - 2015

ИИ здорового человека ИИ курильщика

Стивен Хокинг назвал искусственный интеллект величайшей ошибкой

человечества«Все последние достижения меркнут на фоне того, что нас ждет в ближайшие десятилетия. Успешное создание искусственного интеллекта станет самым большим событием в истории человечества. К сожалению, оно может оказаться последним, если мы не научимся избегать рисков.» https://geektimes.ru/post/221933/

Илон Маск считает, что искусственный интеллект опасен для

человечества«The pace of progress in AI is

incredibly fast. Unless you have direct exposure to groups like Deepmind, you have no idea how fast.

The risk of something seriously dangerous happening is in five year timeframe. 10 years at most. Please note that I am normally super pro technology, and have never raised this issue until recent months.»

https://geektimes.ru/post/241810/

Билл Гейтс назвал искусственный интеллект угрозой в будущем

«Я в том лагере, который обеспокоен перспективой развития супер-интеллекта. Это хорошо, если мы правильно будем этим управлять. Через несколько десятилетий искусственный интеллект станет достаточно развитым, чтобы стать причиной для беспокойства»

http://lenta.ru/news/2015/01/29/gatesai/

Что же такое искусственный

интеллект?

Типы ИИ Узконаправленный (слабый) искусственный интеллект (УИИ). УИИ специализируется в одной области. Среди таких ИИ есть те, кто может обыграть чемпиона мира по шахматам, но на этом все.

Общий (сильный) искусственный интеллект. Иногда также называют ИИ человеческого уровня. ОИИ относят к компьютеру, который умен, как человек — машина, которая способна выполнять любое интеллектуальное действие, присущее человеку.

Искусственный сверх интеллект (ИСИ). «Интеллект, который гораздо умнее лучших человеческих умов в практически любой сфере, включая научное творчество, общую мудрость и социальные навыки».

Современный уровень развития - Узконаправленный

искусственный интеллект

Siri, Cortana IBM Watson SPAM – фильтры Search enginesDriverless cars…

Driverless cars

Проблема вагонетки

Что ты сделаешь?

Проблема вагонетки:

Толстый человек

Проблема вагонетки:

Толстый человек

Я не толстый, у меня просто

кость широкая

Проблема вагонетки:

Толстый человек

А так?

Проблема вагонетки:

Толстый человек

Сколько достаточно?

Проблема вагонетки для беспилотного

автомобиля

Аварии не избежать.Какой вариант

предпочтительнее?

Критерий 1.«Количество»

Проблема вагонетки для беспилотного

автомобиля

Аварии не избежать.Какой вариант

предпочтительнее?

Критерий 2.«Пол»

Проблема вагонетки для беспилотного

автомобиля

Аварии не избежать.Какой вариант

предпочтительнее?

Критерий 3.«Возраст»

Проблема вагонетки для беспилотного

автомобиля

Аварии не избежать.Какой вариант

предпочтительнее?

Критерий 4.«Случай»

Проблема вагонетки для беспилотного

автомобиля

Аварии не избежать.Какой вариант

предпочтительнее?

Критерий 5.«Общественное

мнение»

Критерий 5.«Общественное

мнение»

Да Федька наркоман, дави

его!

Проблема вагонетки для беспилотного

автомобиля

Аварии не избежать.Какой вариант

предпочтительнее?

Критерий 6.«Выбор пассажира»

Проблема вагонетки для беспилотного

автомобиля

Аварии не избежать.Какой вариант

предпочтительнее?

Критерий 7.«Значимость»

• IQ 89• Отчислен из

университета• Косит от армии• КМС по легкой атлетике

• IQ 130• Собственный бизнес• Даёт взятки• Примерный семьянин

Проблема вагонетки для беспилотного

автомобиля

Аварии не избежать.Какой вариант

предпочтительнее?

Прохожий или пассажир?

Проблема вагонетки для беспилотного

автомобиля

Аварии не избежать.Какой вариант

предпочтительнее?

Безопасность?

При подготовке презентации ни одно существо, наделенное интеллектом,

не пострадало

Oleg Broslavskyovbroslavsky@gmail.com@yalegko