Андрей Алексеев. Комплексный тест Тьюринга: робототехнические приложения

1

Алексеев Андрей Алексеев Андрей НСМИИ РАН, философский факультет НСМИИ РАН, философский факультет

МГУ им.М.В.ЛомоносоваМГУ им.М.В.Ломоносова

Четвертая международная конференция Skolkovo Robotics,Сколково, 20 мая 2016 г.

Комплексный тест Тьюринга:

робототехнические приложения

Комплексный тест Тьюринга:

робототехнические приложения

Концептуальный инструментарий разработки базовых принципов компьютерной имитации когнитивных феноменов

тест Тьюринга: «Может ли компьютер мыслить?» (А.Тьюринг, 1950 г.);

частные тесты Тьюринга: «Может ли компьютер понимать, жить, творить, любить, осознавать, быть личностью, обществом, обладать свободой и пр.?» (Дж.Маккарти, Д.Деннетт, Н.Блок, К.Колби, Дж.Серль, Р.Френч, Ю.Генова, С.Ватт, А.Сломан, С.Брингсйорд, Дж.Лукас, Р.Пенроуз, Дж.Мур, Дж.Баресси, С.Харнад, П.Швайзер, Дж.Поллок, Р.Кирк, Д.Чалмерс, В.К.Финн и др., 1950-2016 гг.)

2

Интеграция частных тестов: Может ли компьютер ВСЁ ?

(всё то, что специфицируется частными тестами). Функции: 1. Дефинитная – рациональное определение

имитируемых когнитивных феноменов 2. Критическая – экспертиза проектов ИИ 3. Конструирующая – разработка когнитивного

компьютера4. Коммуникативная – необходимые

концептуальные .средства организации междисциплинарных исследований ИИ

5. Конституирующая – формирование феноменологии компьютерного мира

3

Применение в когнитивной робототехникеНайти отличие: Телетанк (1940 г.) / беспилотник (наше время)

4

5

Комплексный Тест Тьюринга

Комплексный тест Тьюринга (КТТ) состоит из многочисленных версий, модификаций и интерпретаций оригинального Теста Тьюринга (ТТ), т.е. частных ТТ (ЧТТ)

Предлагается единый категориальный формат для междисциплинарного изучения проблемы компьютерной реализации когнитивных феноменов витального, ментального, персонального и социального содержания концептуальными средствами мысленных экспериментов ЧТТ.

Способы компьютерной реализации (упорядочены по степени онтологических притязаний исследователей ИИ): функционально-операциональная имитация репрезентация (модель) репродукция (фактическое воспроизведение) рекреация (феномены не имеют натуральных аналогов)

дефинитная функция

6


Интерпретации оригинального теста Тьюринга: 1)тезис о замене бессмысленного вопроса «может ли машина мыслить?» на вопрос «способен ли компьютер имитировать интеллектуальное поведение?»; 2) лингво-бихевиористский тест на «сознание» и «интеллект»; 3) определение логически достаточных условий приписывания когнитивных феноменов системе неизвестной природы (x-системе); 4) критерий интеллектуальности x-системы; 5) принципиальная схема обмана человека в «человечности» компьютера; 6) обобщенное техническое задание на разработку интеллектуальной системы; 7) функциональная аппроксимация естественного интеллекта;8) логико-лингвистическая модель естественно-языкового интерфейса; 9) проект усиления естественного интеллекта; 10) компьютерная модель естественного интеллекта…


7


Канонические формы теста Тьюринга: 1)судья тестирует х-систему для выяснения, является ли она человеком или компьютером; 2)судья тестирует x-систему с целью определения у нее y-способностей; 3)судья выявляет наличие y-способностей у х-системы, z-субстраты которой не известны; 4)судья выявляет у себя w-компетенции путем обнаружения y-способностей в x-системе, z-субстраты которой не известны.

Тест Тьюринга – формальная дефиниция «интеллекта»Искусственный интеллект – квазиалгоритмическая реализация теста Тьюринга


8

Частные тесты

1) Оригинальный тест (А.Тьюринг,1950): Интеллект/ Компьютер может мыслить/ Машина Тьюринга и нейронная сеть; 2) Тест на здравый смысл (Дж. Макккарти,1956, Д. Деннетт,1984): Здравый смысл/ Экспертным системам здравый смысл не присущ/ Компьютер с программами «здравого смысла»; 3) Китайская нация (Н. Блок,1978): Глобальное сознание/ Ноосфера невозможна/ Интернет; 4) Параноидальный тест (К. Колби,1980): Психическое отклонение/ Интеллектуальные системы способны имитировать только паранойю/ Современные экспертные системы; 5) Китайская комната (Дж. Серль,1980): Понимание/ Компьютер не может понимать/ Когнитивно-компьютерные механизмы «Я»; 6) Субкогнитивный тест (Р. Френч,1990): Подсознание/ Компьютер не может жить как человек/ Программы тестирования подсознания; 7) Гендерный тест (Ю. Генова,1994): Гендерные различия/ Интеллектуальный сексизм/ секс-машина;


9

8) Инвертированный тест (С. Ватт,1996): Воображение / Компьютер не может воображать/ Машина Тьюринга, тестирующая тест Тьюринга; 9) Эмоциональный тест (А.Колмогоров, 1953; А.Сломан,2000): Любовь/ Компьютер может любить/ Человеко-подобные агенты; 10) Креативный тест (С. Брингсджорд и др.,2000, В.И.Самохвалова, 2010): Творчество/ Компьютер не может творить/ Креативные программы генерации артефактов; 11) Тест Гёделя (Дж. Лукас, 1961, Р. Пенроуз,1989): Самоорганизация / Компьютер не способен к саморазвитию/ Ауторепрезентативная система;12) Индуктивный тест (Дж. Мур,1974): Необходимые условия интеллекта/ Интеллект – индуктивно-собирательное понятие/ Система сбора фактов в пользу ИИ; 13) Новый тест (Н. Блок,1980): Достаточные условия интеллекта/ Глобальная «машина знаний» невозможна/ Машина Блока 14) Кибериадный тест (Дж. Баресси,1984): Творение/ Постчеловечество возможно/ Перспективные технологии;



10

15) Тотальный тест (С. Харнад,1991): Человек и реальность/ Компьютер способен репродуцировать человека/ НБИКС; 16) Самый тотальный тест (П. Швайзер,1998): Человек и общество/ Компьютер способен репродуцировать социо-биологическое развитие/ НБИКС; 17) Искусственная личность (Дж. Поллок,1995): Личность/ Компьютер может быть личностью/ Проект "Оскар"; 18) Тест зомби (Р. Кирк,1972, Д. Чалмерс,1995): «Другое» сознание/ Компьютерные зомби возможны/НБИКС; 19) Интроспективный тест (А. Клифтон,2003): «Иное» сознание/ Компьютеру присуща нечеловеческая ментальность/ Проект сенситивных компьютеров; 20) Интерактивный тест (В. Финн, 2007): Интеллект/ Рационализация жизни общества посредством интеллектуальных технологий/ ДСМ-система; 21) Комплексный тест (2006): когнитивные феномены/ систематическая деструктивно-конструктивная критика компьютерного инструментария электронной культуры/ Средства реализации частных тестов и спец.средства комплексирования



11

Дискуссии по поводу атрибуции компьютерам когнитивных феноменов1)математическое возражение; 2)с позиции сознания; 3)от x-возможностей; 4)о неформальном поведении; 5)по поводу непрерывности нервной системы; 6)от боязни и неприязни; 7)теологическое возражение; 8)от экстрасенсорного восприятия; 9)аргумент Ады Лавлейс

Тесты Блока, Серля, Колби, Деннета, Маккарти … - критика проектов ИИ

Полемический стандарт Тьюринга

критическая функция

12

Прототипы когнитивного компьютера

Машина Р.Луллия (1308 г.)

Машина Ч.Бэббиджа (прото-УЦВМ, 1842 г.)

Машина С.Н.Корсакова (прото-нейрокомпьютер, 1832 г.)

конструирующая функция

13

S0, S1, …, Sn

Тезис Чёрча-Тьюринга, принцип нормализации Маркова

Изменяем концептуальный прототип – изменяется фундамент когнитивной науки


14

Корсаков Семен Николаевич (1787-1853) –

русский дворянин, участник Отечественной войны

1812 г., чиновник Императорского Министерства

внутренних дел, изобретатель “интеллектуальных

машин” – механических устройств для

информационного поиска и классификации

Вышел в отставку в чине действительного статского советника (генерала). Оставив

службу жил в имении Тарусово, под Москвой, г.Дмитров. Известен также своими

работами по гомеопатии. Награжден орденами св. Анны 2-й степени и св. Владимира 4-й

степени с бантом, кавалер Прусского ордена “За заслуги”.


15

Машина Корсакова – Машина Корсакова – компьютерная метафора работы компьютерная метафора работы художника (одна из художника (одна из возможных интерпретаций, ВГИК)возможных интерпретаций, ВГИК)

Машина Тьюринга – компьютерная метафора работы математика

В 2012 году исполняется 225 лет со дня рождения С.Н.Корсакова и 180 лет со дня представления «интеллектуальных машин» в Императорской Академии наук.


16


17

5 устройств: 1) Линейный гомеоскоп с неподвижными частями который выбирал из набора сложных

идей, представленных в специальной таблице, все те, которые содержат какую–либо другую известную сложную идею со всеми ее элементами, показывая искомые идеи путем самопроизвольной остановки во время выполнения заданной операции;

2) Линейный гомеоскоп с подвижными частями, выполняющий те же функции, что и предыдущий, и, сверх этого, способный моментально выделить и отделить те элементы сложной идеи, которые соответствуют (или не соответствуют) аналогичным элементам других идей;

3) Планшетный гомеоскоп, показывающий совпадение элементов двух сложных идей, между которыми проводится сравнение (количество элементов может достигать одного миллиона);

4) Идеоскоп, который при помощи специальной таблицы выявляет: все схожие элементы сложных идей, обрабатываемых в ходе текущей операции; элементы одной сложной идеи, которые отсутствуют в другой идее, с которой производится сравнение; элементы, которые отсутствуют в данной сложной идее, но присутствуют в той, с которой производится сравнение; элементы, отсутствующие в сравниваемых сложных идеях, но являющихся частью других сложных идей, занесенных в таблицу.

5) Простой компаратор производит те же операции, что и Идеоскоп, но лишь в отношении двух сложных идей, сравниваемых между собой. Он способен обрабатывать всего несколько десятков элементов таких идей, но выгодно отличается от остальных устройств тем, что не требует специальной таблицы.


18

Нейрокомпьютинговая интерпретация

Страницы (перфокарты), на которых представлены таблицы машины (страниц может быть достатоточно большое количество), накладываются одна на другую. В клетках таблиц указывается наличие или отсутствие некоторых признаков (в оригинале описывались патологии различных человеческих органов). Если признак имеет место, то он отмечается прокалыванием иглой клетки, в которой он представлен (пересечение «признака болезни» с «анатомией человеческих органов»). Ячейка таблицы - нейрон, а игла – синапс. Каждая таблица представляет некоторую простую, обозримую идею, Ряды накладываемых друг на друга таблиц соответствуют летентным узлам «сети». Начальные и конечные таблицы – входные и выходные узлы. Механизмы, которые приводят в движение машину сравнения сложных идей (сложная идея – это есть ряд наложенных друг на друга таблиц), выдают результат, зависящий во многом от усилия, затрачиваемого для прокалывания страниц («весовой коэффициент»).


Базовые парадигмы (Дж.Левин): 1) машинный Ф.: когнитивные феномены суть функции

работы машины Тьюринга; 2) психофункционализм, представляющий когнитивные

феномены в логико-предикативном формате; 3) аналитический Ф., обеспечивающий тематически

нейтральную корреляцию психологического и нейрофизиологического языков;

4) Ф. тождества функциональных состояний, использующий двумерный лингвистический каркас для обозначения связей между феноменальным миром и возможным миром научных теорий.

19

конституирующая функция

Конкретизация компонентов отношения «супервентор/реализатор» (функциональные системы, соответственно, каузально сопровождающие и фактически реализующие когнитивный феномен)

компьютерный Ф., физический Ф., химический Ф., биологический Ф., нейрофизиологический Ф., психический Ф., персоналистический Ф. и мн.др. Ф-ы

20


Различные трактовки «функции» информационный Ф. (Д.И.Дубровский); логический Ф. (В.Л.Васюков), Ф. состояний (Х.Патнэм); контентный Ф. (Дж.Фодор), телеофункционализм (Т.Полгер) и пр.

21


В зависимости от подхода к трактовке «сознания»

квалиативный Ф. (Д.Чалмерс); акцессный Ф. (Н. Блок);

проективный Ф. (Т.Нагель); нарративный Ф. (Д.Деннетт) и пр.

22


континуальный Ф., непрерывно фиксирующий дескрипции Ф-ов с учетом нелинейной бесконечности множества версий

библиографический Ф., предполагающий построение единого словаря систематизации Ф-ов (Дж.Левин);

обобщающий Ф., фиксирующий базис интеграции, к примеру, отношение множественной реализации (Т.Полгер); редукционный Ф., сводящий все Ф-ы к одной архетипичной идее;

антиредукционный Ф., ведущий поиск тематически нейтральных посредников и т.п.

23


Компьютеризм (в широкой трактовке) является интегральной формой Ф.:

любая теория сознания представима в компьютерном формате. Собственно, уже машинный Ф. представлялся Х.Патнэму панкомпьютеристской парадигмой, так как он описывает мои ментальные состояния как машинные состояния «сознания», предметом которого являются теории сознания, включая собственную теорию машинного Ф. Компьютеризм дополняет «состояния» моего «сознания» содержанием этих состояний.

24


Постнеклассическая интерпретация комплексной тьюринговой игры в имитацию интеллектуального поведения (Я за «скобками» компьютерного мира)

когнитивный феномен конституируется атрибуциями компьютерно независимого Я, исполняющего функции комплексного теста Тьюринга.

25


Расширенная версия патнэмовского функционализма: правомочен эгологический тезис: «Я – машина Корсакова-Тьюринга»,

Тестовый функционализма, напротив: «Я – не машина Корсакова-Тьюринга»: Я позиционируется вне компьютерных технологий.

Для машинного функционализма онтологический тезис существования субъекта в контексте нейросоциума:

«e–re–praesento ergo sum» - представлен в компьютерном формате => существую

Для тестового функционализма Non computato ergо sum»: не компьютируем,

следовательно, существую.

26


Праксеологическое право на Я. Феноменологическая редукция: в осадке остается

собственно человеческое, не механистическое квалиативное переживание, интенциональное

осмысление, проективное осознавание «каково быть мною», самость.

Из-за ориентира на решение когнитивно-антропологических проблем электронной культуры =>

Тестовый компьютеризм – высшая форма функционализма

27


28

Тест Серля : способствует ли понимать компьютер-абитуриент?

Тест Ватта: способен ли понять компьютер-преподаватель - понимает ли компьютер-абитуриент?

Практические применения комплексного теста

29

Несмотря на абсурдность теста зомби и футурологическую отдаленность теста искусственной личности целесообразно использование тестов для категориального анализа проблемы интерсубъективности в контексте электронной культуры:

общение человека с когнитивным роботом

Применение в когнитивной робототехнике

30

Проблема интерсубъективности в компьютерном мире инспирирована успехами Робототехнического центра «Сколково»

Применение в когнитивной робототехнике

31

Искусственная личность (ИЛ) – это когнитивно-компьютерная система, удовлетворяющая по-крайней мере одному из двух критериев:

1) обладает подобием человеческой субъективной реальности («квазисознанием»);

2) функционально, поведенчески и/или физически неотличима от человеческой личности.

32

Проекты искусственной личности следует изучать в контексте проблематики философии сознания. Стержнем философских приложений выступает вычислительная парадигма, выдвигающая как формальные, так и каузальные основания в пользу т.н. вычислительного аргумента

Ментальное – суть мышлениеМышление – суть вычисление, реализуемое компьютером,

в частности, мозгом

Ментальное (сознательное)

Физическое (нейрофизиологическое)

поведенческое

компьютерное социальное

персональное

33

34

Два похода: Экспертный подход - Дуглас Ленат (автор

«Автоматического математика», 1976 г.). Опровержение принципа - необходимо подражание психологическим и социокультурным особенностям человека, физическое подобие не обязательно. Робот = базовые концепции+ЕЯ-интерфейс+базы знаний

Робототехнический подход - Родни Брукс (автор робота COG). Поддержка принципа - необходимо физическое подобие, а не только психологическое подражание (так как все социокультурные понятия обусловлены антропологическими особенностями, например, «безногому» роботу трудно усвоить выражение «Перевернуть с головы на ноги» (принцип Джонсона и Лэйкоффа, 1987 г.)

35

«X=Личность» или «Х=Компьютер»?

XСудья ЕЯ-интерфейс

36

Тесты Харнада (ТХ) – Многоуровневая классификацию тестов Тьюринга (С. Харнад, «Разумы, машины и Тьюринг: неразличимость неразличимостей» (2001 г.)).

ТX0. Это – уровень «игрушечных» ТТ – не полноправных тестов, а лишь некоторых фрагментов, ограниченных как по длине, так и по содержанию. Такие тесты не отвечают исходному замыслу А. Тьюринга. Однако все попытки моделирования интеллекта, известные на сегодняшний день, выше данного уровня не поднялись.

ТХ2 – общепринятое понимание ТТ. Именно его и имел в виду А. Тьюринг. Иногда ТТ данного уровня называют тестом «друг по переписке». Длина ТХ2 равна протяжённости человеческой жизни судьи.

ТХ3 – это так называемая «роботизированная» версия TХ2. Имеется возможность манипуляции предметами внешнего мира. Процедура идентификации систем, которые проходят данный тест, требует реализации принципа «Вскрытие покажет».

37

TХ4 – это компьютерные системы, неотличимые как в плане ТХ3-неотличимости, так и в плане микрофизической организации системы. Здесь имеет место «тотальная неотличимость» компьютерной системы от человека, включая мельчайшие внутренние нюансы телесного строения. На данном уровне можно разместить так называемый «Тест Тьюринга с мозгом» («Brainy-Turing-Test»), где в дополнение к поведенческой неотличимости требуется неотличимость на уровне нервной системы и предполагается использование коннекционистских моделей.

ТХ4-система = (концептуально) 1) зомби; 2) искусственной личности (квазисознательному роботу)

ТХ5. На этом уровне происходит отбор ТХ4-систем на предмет соответствия Единой Теории Реальности, которая способна, если она вообще возможна, объединить все возможные знания о природе,обществе, человеке. Уровень вводится для допущения истинности нескольких отличающихся друг от друга конкретных теоретических описаний одной и той же реальности (т.е. ТХ4-систем). Истинность в данном случае имеет различные метафизические предпосылки у создателей различных теорий.

38

Традиционная технология =

«данные»+алгоритм

Технология ИИ = «знания»

+эвристика (квазиалгоритм)

Проект ИЛ = «смыслы»

+механизмы «понимания»

39

Контекстуальная парадигма: «смысл» – это обладающий параметрами системного единства контекст формализованных

«знаний» экспертов.Общетеоретическая основа парадигмы: классическая модель

«смысла» Г.Фреге (смысл – это выражаемый знаком способ означивания значения) и её модификации Б. Расселом и

Л. Витгенштейном.

Многообразие моделей «смысла»: онтологическая, культурологическая, психологическая, лингвистическая, герменевтическая, риторическая,

дискурсивная, семиотическая, поэтическая, иконографическая, эстетическая, ззотерическая, математическая, инженерная,

синергетическая, неклассическая…

40

АА’

А

А’

«Здравый» смысл «Общий» смысл «Чистый» смысл

База данных и базы знаний экспертной системы

41

Апробация экспертного подхода к проектированию ИЛ, осуществлённая в ходе опытной эксплуатации макета (середина

1990-х г.г.), выявила ряд неудач: методологических, организационных, теоретических и реализационных.

Однако достигается социокультурный эффект: предложенный инструментарий вынуждает специалистов осуществлять рефлексию над «знаниями», эксплицировать «смыслы» собственных решений и

выставлять их для интерсубъективного обсуждения.

42

COG

Kismet

43

Человекоподобный торс, смонтированный на неподвижном основании с помощью сочленения, дающего три степени

свободы. Рука-манипулятор с шестью степенями свободы.

Шея - три степени свободыГолова - два комплекта видеокамер с двумя степенями

свободы. Видеоглаз - из двух черно-белых камер, одна из которых с

углом обзора 120 обеспечивает периферийное зрение, а другая - с обзором в 23 - покрывает центральную зону. Сервосистема

камер позволяет им поддерживать темпы движения человеческого глаза.

Вестибулярная система - три гироскопа с ортогональным положением осей. Сервомоторы управляются собственными процессорами Motorola HC11 с частотой выдачи импульсов 1

kHz. Калибровка и контроль - термодатчики и датчики положения.

Управление Cog - сеть микропроцессоров Motorola 68332s, Программное обеспечение модернизированный

многопоточный ЛиспБаза данных - сервер Mac

44

Автор модели Уровень первичных репрезентаций

Уровень коннекционистских образов (паттернов)

Уровень вторичных репрезентаций

Д.И.Дубровский Уровень сигналов-кодов Уровень сигналов-изображений

Уровень сигналов-кодов второго порядка

Д. Деннетт Органы чувств Перцептуальный анализ Контроль (включая дискурсивный акт)

Н. Блок Подсистема действий/навыков

и исполнительная система

Подсистема действий/навыков и подсистема ответов

Специализированные модули феноменального сознания

А. Сломан Реактивные механизмы Механизмы принятия решения и глобальная сигнальная подсистема

Рефлективные (метауправляющие механизмы)

45

46

•Механизмы и память предназначены для решения специфических задач

•Отсутствуют средства создания новых планов и описаний системы•Альтернативным структурам присваиваются явные значения

•Параллелизм и совершенствование технических средств ускоряют работу

•Многие процессы могут быть аналоговыми (непрерывными)•Возможны примитивные формы обучения (подстройка частоты

радиоприёмника) •Агенты могут выжить лишь в условиях генетической

предопределённости •Трудности возникают, если требуется структурная перестройка

•Длительному потреблению не подлежат, так как быстро обесцениваются и являются по сути одноразовыми

47

48

•Мотивы задаются явно•Разрабатываются планы

•Создаются и развиваются новые альтернативы•Механизмы и память последовательно повторно

используются•Механизмы обучения могут быть переведены на реактивный

уровень•Параллелизм не играет большой роли, так как обучение

требует ограничений сложности, имеется последовательный доступ к параллельной ассоциативной памяти, имеется

интегральное управление •Динамичная среда приводит ко многим прерываниям, частым

изменениям целей•Фильтрация посредством динамически изменяющихся

порогов помогает, но не решает всех проблем

49

50

самомониторинг; саморазвитие; самомодификация; самоуправление

1. Улучшает распределение недостаточных совещательных ресурсов2. Сохраняет в памяти события, проблемы, решения из совещательных

механизмов3. Находит управляющие паттерны (стратегии принятия решения с учётом

определённых условий)4. Позволяет исследовать новые стратегии, понятия, процедуры, которые

создают новые способности, генерализации и категоризации5. Позволяет проводить диагностику повреждений, расстройств и других

проблем посредством экспертизы внутренних симптомов 6. Развивает высокоуровневые стратегии, т.е. процедуры для целей и

стандартов высокого уровня7. Взаимодействует более эффективно посредством столкновения и

сопоставления точек зрения, выбора фокуса внимания8. Мета-мета-мета…-управление не требуется в силу рекурсивных

механизмов

51

52

53

Тезис: «В будущем робот будет делать всё то, что делаем мы (т.е. проходить всё более сложные тесты Тьюринга), но не будет одним из нас (не будет сознательным).

54

(1) «Проект ИЛ» «Личность – это автомат»; (2) «Личность – это автомат»; (3) «Проект ИЛ». Посылка (2) интуитивно апеллирует к наличию у человека и отсутствию у автомата ряда

машинно не воспроизводимых персонологических параметров F, к которым относится свободная воля, способность к интроспекции, внутренний проективный опыт «какого быть» ("what it's like to be") и пр. К F относятся и компьютерное воспроизводство творческих способностей.

Общие посылки (2): (4) «Личность обладает F»; (5) «Автомат обладает F»; (6) «Личность не может быть автоматом». Аргументы невычислимости F: аргументы Гёделя, «Китайской комнаты» Дж. Серля,

произвольной множественной реализации Н. Блока, примеры программ генерации философских и художественных текстов С.Брингсйорда («Компьютер творить не может!») и др.

Заключение: «Роботы будут многое делать, однако они не будут личностями».

55

I. Проект ИЛ абсурден, так как: 1) метафизические понятия «личность», «свобода воли», «интроспекция» не могут быть предметом эмпирического анализа; 2) нечёткое определение понятия личности, образная иррациональность проекта ИЛ – всё это не заслуживают научного внимания; 3) персонологические параметры логически невыразимы – попытки их логической экспликации непременно сопровождаются техническими ошибками;

II. Проект ИЛ неточен, так как: 1) апелляция к интуитивным аргументам разрушает логическую строгость дедуктивных аргументов; 2) нецелесообразно применять дедуктивные умозаключения в качестве метода аргументации (дедукция – не метод, а схема суждений); 3) необходимо чётко формулировать конкретную разновидность функционализма, который лежит в основании проекта ИЛ – нет функционализма «вообще», а есть, к примеру, низко-уровневый функционализм, биологический функционализм и пр.;

III. Проект ИЛ реализуем, так как: 1) человеческая личность – это всё же автомат, но неклассического типа, т.е. представимый не машиной Тьюринга, а иными, квазиалгоритмическими правилами обработки вычислительных элементов; 2) компьютер вовсе не автомат и кто считает противное – тому не место в проблематике искусственной личности; 3) компьютерная система должна тестироваться природой, а не человеком;

IV. Проект ИЛ значим вне зависимости от возможностей его реализации: 1) будет ли создана ИЛ либо не будет создана – не принципиально, главное, что проекты ИЛ выявляют механистические аспекты человеческого сознания; 2) проектирование ИЛ проясняет роль и функции сознания в жизни человека путём постановки вопроса о зомби – о созданиях, не обладающих сознанием, но имеющих все поведенческие способности человека.

56

Проектирование ИЛ проясняет роль и функции сознания в жизни человека путём постановки чётких вопросов о роли и функциях сознания.

57

•Проблема другого сознания•Проблема теста Тьюринга на сознание•Проблема зомби •Проблема самосознания(когнитивно-компьютерные вариации)

58

Тест на творческие способности (тест леди Лавлейс) – можно ли протестировать творчество? (Selmer Bringsjord, Paul Bello, David Ferrucci. Creativity, the Turing Test and the (Better) Lovelace Test, 2001).

Тест Френча – можно ли протестировать подсознательные способности. French, R. 1990, Subcognition and the Limits of the Turing Test, Mind 99(393), pp. 53–65

Тест Блока - можно ли протестировать способность продуцирования осмысленной последовательности вербальных реакций. Block N.,(1981). Psychologism and Behaviorism, Philosophical Review 90, pp. 5–43)

Тест Серля: можно ли протестировать понимание? Searle J. R., (1980). Minds, Brains, and Programs.

Тест Ватта (ТВ) – можно ли протестировать приписывание ментальных способностей другому Watt Stuart, (1996). Naive Psychology and the Inverted Turing Test, Psycoloquy: 7, #14

Протестировать можно, однако…

59

1. Ощущение (Sentience) – Сознательность в плане ощущающего существа, способного воспринимать мир и реагировать на него. Возможны различные степени сознательности и различные виды сенсорных способностей, которые невозможно строго разграничить (обладает ли рыба сознанием?).

2. Бодрствование (Wakefulness). Система должна фактически реализовывать некоторую способность, а не только иметь способность или диспозицию к её осуществлению. Таким образом, существо можно считать сознательным, только если оно не спит и внимательно. Трудно установить, является ли существо сознательным, когда видит сон, пребывает в состоянии гипноза или в состоянии аффекта.

3) Само-сознание (Self-consciousness). Система должна быть не просто осведомлена о чём-то, но и осведомлена о своей осведомлённости, что трактуется как форма само-сознания. Требование к само-осведомлённости (self-awareness) можно интерпретировать различными способами, например, многие нечеловеческие животные и даже младенцы не подпадают в категорию сознательных (не отдают себе отчёта).

4) Что значить «быть как»? – позиция (What it is like). Имеется в виду знаменитый критерий Т. Нагеля «Что значить “быть как”?» («Какого быть?»), который направлен на выделение субъективного статуса «сознательности». Существование сознательно тогда, когда имеется способ «видения» мира с собственной ментальной позиции.

60

1) Пребывает в состоянии «осведомлённости о» (States one is aware of). Здесь имеется в виду форма некой мета-ментальности или мета-интенциональности (meta-mentality or meta-intentionalit), поскольку задействованы ментальные состояния о самих ментальных состояниях;

2) обладает квалиа - когда система содержит качественные свойства конкретной разновидности;

3) пребывает в феноменальном состоянии, с более полной структурой опыта, нежели чем в случае с квалиа, предполагая пространственную, темпоральную и концептуальную организацию опыта реальности и опыта самого себя;

4) обладает аксессным сознанием (Access consciousness)- т.е. способностью доступа к внутри-ментальным составляющим при управлении речью или действием (Н. Блок);

5) обладает нарративным сознанием (Narrative consciousness) – т.е. серией более или менее последовательных «рассказов» с перспективы актуальной или виртуальной самости (Д.Деннет);

6) обладает интенциональностью – направленностью внимания на предмет сознания, активностью (Д.Серль)

61

Проблема возможности философского зомби – существа, обладающего всеми физическими, функциональными и поведенческими способностями естественной личности, но не обладающей сознанием

62

1. Если зомби возможны, то некоторая теория сознания ложна.

2. Зомби возможны. 3. Следовательно, данная теория

сознания ложна.

63

1. зомби мыслимы; 2. всё мыслимое возможно; 3. следовательно, зомби возможны

Kirk, R. (2004). Zombies. Stanford Encyclopedia of Philosophy; http://plato.stanford.edu/entries/zombies/

64

1. Зомби мыслимы «проект искусственной личности».

2. Зомби мыслимы. 3. «проект искусственной личности»

(1,2).

65

I. Зомбисты утверждают возможность зомби, или по-крайней мере, их мыслимость. Если, например, возможны поведенческие зомби, то ложен бихевиоризм; если возможны физические зомби, то ложен физикализм. Имеются и другие фундаментальные выводы, например: 1) эпифеноменализм истинен; 2) проблема «другого» неразрешима, т.к. мы оцениваем не субъективную реальность другого, а лишь внешнее поведение, т.е. оцениваем его двойника-зомби; 3) сознание не существенно для эволюции природы; 4) изучение сознания для прогресса когнитивно-компьютерных технологий не интересно и др.

II. Антизомбисты заявляют противоположное. Идея зомби настолько абсурдна, что зомби не только вообразить нельзя, но и более-менее связно помыслить. Поэтому по причине немыслимости зомби, аргумент зомби не опровергает ту или иную теорию сознания, например, материализм, а напротив, защищают эту теорию.

III. Нейтральные зомбисты. Они требуют внести ясность в проблематику сознания, распутать сложный «клубок из терминов», большинство которых неопределимо, полисемично, нередуктивно и чётко определяется лишь в оппозиции к контрадикторному понятию, т.е. к понятию бессознательного. Над теоретическими проблемами метафизики сознания не стоит задумываться, а нужно обратить внимание на роль сознания в жизни человека и в эволюции природы, практически оценивать когнитивно-компьютерные механизмы воспроизводства квазисознательных феноменов на субстрате, отличном от биологического и пр.

66

1. Понятие зомби важно для наведения порядка в определении сознания, так как предел любому понятию полагается противоречивым или, по крайней мере, противоположным понятием. То есть понятие бессознательного зомби логически необходимо для выработки понятия сознательного существа. Здесь становится важной таксономия зомби, учитывающая следующие параметры: а) теории сознания, которые анализируемые зомби опровергают либо удостоверяют (в первую очередь, физикализм, бихевиоризм, функционализм), б) модальности (степени мыслимости и возможности зомби) и др.

2. Зомби дают богатый фактуальный материал в изучении бессознательного. Конечно, эти факты воображаемы, тем не менее, пройдя через горнило мысленных экспериментов, они становятся вполне убедительными. Дозомбиевые средства экспликации бессознательного – это неработоспособные понятия о бессознательном «вообще» либо психоаналитическое эмпирическое мелкотемье «минимальной достаточной определённости» понятия бессознательного, на что справедливо указывает Д.И. Дубровский.

3. Мысленные эксперименты с зомби аккумулируют по сути параметры всех крупных мысленных экспериментов в философии сознания, таких как «Мозги в бочке» Х. Патнэма, «Человек-имитация» Д.Кэмпбелла (1970 г.), «Гомункулусная голова» и «Китайская нация» Н. Блока (1978 г.); «Китайская комната» Дж. Серла (1980 г.); «Мэри» Ф. Джексона (1982 г.); «Танцующее квалиа» Д. Чалмерса (1996); «Воришка феноменального» М. Линча (2004 г.) и др. Они раскрывают лишь частные аспекты зависимости сознательных феноменов от физического, бихевиорального, функционального, персонального, социального. Поэтому очевидна методологическо-интегративная функция понятия зомби относительно этих экспериментов.

4. Важность проблематики зомби вызвана не только интересами спекулятивной метафизики сознания, как у Д. Чалмерса. Приложения проблематики зомби можно проследить во всех науках, в поле зрения которых – роль, функции, структуры сознания. Очевидны применения в общественных и гуманитарных науках. Сегодня зомби в фокусе внимания исследователей искусственного интеллекта и служат основанием для критики либо поддержки таких перспективных направлений в информационной технологии, как искусственная жизнь, искусственная личность, искусственное общество. Способы идентификации зомби сродни тесту Тьюринга – базовому мысленному эксперименту философии искусственного интеллекта, предназначенному для определения интеллектуальности систем. Тест на предмет выявления сознательности/бессознательности систем (тест Зомби) можно считать разновидностью теста Тьюринга. Тест Зомби плюс знание внутренних структурно-функциональных отношений тестируемой системы создаёт модифицируемые условия определения сознательности/бессознательности. А это существенно приближает к решению проблемы «другого».

5. Вышесказанное подчёркивает то, что вряд ли Р. Кирк способен убить своё детище – джин выпущен из бутылки. Однако чтобы воспользоваться «силой» зомби, надо отдавать себе отчёт – где мы имеем метафорико-риторические параметры, присущие мысленному эксперименту, а где – логико-эпистемологические параметры, приближающие нас к онтологии. Эти параметры не надо смешивать. Иначе, в самом деле, возникает путаница, но не в понятиях философии сознания, а в уровнях описания сознательных систем.

67

«Дэн» Р. Кирка (1974 г.) «Гулливер» Р. Кирка (1974 г.) «Зимбо» Д. Деннета (1991 г.) «Кремниевые мозги» Дж. Серля

(1992) Принцип несущественности

сознания О. Фланагана (1991) «Земля зомби» Т. Моуди (1994 г.) «Чалмерс-зомби» Д. Чалмерса

(1996 г.)

68

Проблема зомби позволяет чётко формализовать вопросы по различным теориям сознания

Таблица Полджера: Возможно ли в логическом (L), метафизическом (M), естественно-научном (N) смыслах наличие

поведенчески (B), функционально (F), физически (P) идентичных двойников, один из которых обладает сознанием, а другой - нет

69

Основана на картезианском скептическом аргументе

1. Наивная трактовка: Вы сейчас видите сон о том, что слушаете доклад Алексеева А.Ю. на тему «Проблемы проекта искусственной личности»

2. Радикальная трактовка: вы существуете в мире, данном исключительно для вас, а богоподобный Демон-обманщик намеренно вводит вас в заблуждение. В мире Демона-обманщика нет ничего физического, весь Ваш опыт прямо причиняется им. Поэтому Ваш опыт, удостоверяющий существование внешнего мира физических объектов (включая Ваше тело), на самом деле систематически даёт ошибочные убеждения о мире

70

3. Компьютерная трактовка скептического аргумента «Мозги в бочке»

Отделённый от Вас мозг плавает в бочке, пропитанной флюидами. Он соединён с суперкомпьютером, программа которого продуцирует импульсы, стимулирующие мозг точно таким же способом, с которым нормальные мозги стимулируются при восприятии внешних объектов обычным способом. (Кинофильм «Матрица» иллюстрирует воплощаемые в бочках мозги, которые стимулируются подобным образом). Если Вы – мозги в бочке, тогда имеете опыт, качественно не отличающийся от опыта тех, кто нормально воспринимает. Если Вы убедитесь на основе вашего компьютерно-индуцированного опыта, что смотрите на дерево, тогда, как это ни прискорбно, вы ошибаетесь.

71

Формализация скептического аргумента:Выберите любое предметное

предложение (пропозицию) P, что-то утверждающую о внешнем мире. Эта пропозиция должна выражать истину.

1. Если вы знаете, что P, тогда вы знаете, что вы не мозги в бочке

2. Вы не знаете, что вы не мозги в бочке, поэтому

3. Вы не знаете, что P.

72

ДА выражается в доказательстве: (¬SK) Я не МвБ. (следует из t и h)а. Либо я суть МвБ (говорящий на русском бочковом языке) либо я не

суть МвБ (говорящий на русском). b. Если я суть МвБ (говорящий на русском бочковом), тогда мое

высказывание «Я суть МвБ» истинно тогда и только тогда, когда я суть мозги* в бочке*.

c. Если я суть МвБ (говорящий на русском бочковом), тогда я мозги* в бочке*.

d. Если я МвБ (говорящий на русском бочковом), тогда моё высказывание «Я суть МвБ» ложно [(b),(c)]

e. Если я не МвБ (говорящий по-русски), тогда моё высказывание ‘Я суть МвБ’ истинно если и только если Я суть МвБ.

f. Если я не МвБ (говорящий по-русски), тогда моё высказывание ‘Я суть МвБ’ ложно [(e)]

g. Моё высказывание ‘Я суть МвБ’ ложно [(a),(d),(f)] (h) Мое высказывание ‘Я не МвБ’ истинно. (t) Моё высказывание ‘Я не МвБ’ истинно, если и только если я не

МвБ. ‘мозг*’ ссылается на компьютерные программные возможности, которые причиняют восприятие в МвБ,

что является качественно неотличимым от нормального восприятия, которое репрезентируется мозгами. ‘бочка*’ возможности компьютерной программы, которые являются причиной восприятия, качественно

неотличимого от нормального восприятия, но представленного бочками. МвБ это не мозги* в бочке*: МвБ – это не возможности компьютерной программы, локализованной в

другой возможности компьютерной программы.

73

Выводы:Общий вывод: предпочтительна материалистически

ориентированная методология проектирования ИЛ в отличие от идеалистических, дуалистических и эпифеноменалистских вариантов (презумпция объективной реальности). Проект искусственной жизни должен предшествовать проекту искусственной личности

Частный вывод: чисто рефлективный уровень (в терминологии А. Сломана) в проекте ИЛ невозможен, он должен надстраиваться над реально функционирующими реактивным и совещательным уровнями

Неутешительный вывод: скептический аргумент остаётся правомочным и не срабатывает лишь при принятии позиции семантического экстернализма, т.е. веры в реальность объективного мира

74

Лёгкая проблема (Д.Чалмерс)

Трудная проблема (Д.Чалмерс)

затрагивает только операциональные аспекты сознания. Сознание

ограничено следующими феноменами: реакция на внешние

стимулы, отчеты о ментальных состояниях, интегрирование

информации когнитивной системой, фокус внимания, контроль поведения,

научение, различение между бодрствованием и сном.

связывает сознание с наличием «субъективного опыта» или

самосознания. «Ключевой вопрос проблемы сознания» состоит в объяснении механизмов этих

субъективных процессов

Как номически связать сознательное и компьютерное?

75

Уильям Джеймс: «природа в ее непостижимых проектах смешала нас из глины и пламени, мозга и знания, эти две вещи существуют несомненно вместе и определяют существо друг друга, но как или почему, никакой смертный никогда не узнает’ (Джеймс, 1890);

Томас Нагель (1994): «проблема субъективности сложна или безнадежна. Мало того, что мы не имеем никакого решения – мы даже не имеем концепции физического объяснения ментального».

Колин Макджинн (1999): имеющемуся способу изучения ментального и мозга непреодолимо присущ дуализм. «Вы можете изучать ваши знания, но никогда не будете способны обнаружить при этом нейроны, синапсы и все остальное. Вы можете смотреть на чей-нибудь мозг от рассвета до заката, но никогда не выявите сознание, которое очевидно для того человека, мозг которого Вы так грубо рассматриваете… Мы «познавательно закрыты» для трудной проблемы – как собака познавательно закрыта для чтения газеты или понимания поэзии. Однако как бы собака не пыталась, она не будет способна к математике владельца, потому что её мозг не так устроен. Подобным образом наш человеческий вид интеллекта не предназначен для того, чтобы понять сознание. Мы можем научиться нервным корреляциям сознательных состояний (а это - легкая проблема), однако не можем понять, как ментальное вызывает сознание.

Стивен Пинкер (1997): мы можем без конца работать над пониманием того, как работает ментальное, это навсегда спрятано за пределами нашего концептуального горизонта».

76

Давид Чалмерс: требуется привлечение новой теории информации и переосмысления с её позиций двуаспектной теории сознания. Информация имеет два основных аспекта – физический и опытный (субъективно-феноменальный). Всякий раз, когда имеется сознательный опыт, имеем один аспект информационного состояния. Другой аспект - в физической организации мозга.

Крис Клэйрк (1995) требуется пересмотр фундаментальной физики. Ментальное – это преимущественно нелокальное, подобное некоторым явлениям в квантовой физике. Сознание - ключевой аспект вселенной и связано с местом и временем: сознание и квантовый эффект – это субъективные и объективные аспекты представления одной и той же вещи (то есть субъективные и объективные аспекты).

Роджер Пенроуз (1989, 1996): сознание зависит от неалгоритмических процессов – то есть процессов, которые не могут быть выполнены цифровым компьютером или вычислены с использованием процедур поддающихся формальному описанию. Требуется кардинальный пересмотр отношения ментальное-нейрофизиологическое с квантово-теоретических позиций. Опыт следует трактовать как качество, обусловленное квантовой последовательностью в микроканальцах нейронов.

77

Фрэнсис Крик (1994) – Изучение сознания - научная проблема, мы приблизимся к более полному пониманию проблемы сознания, если начнём с чего-то простого, например, с визуального закрепления. Теория визуального закрепления – т.е. о синхронизации колебаний для объяснения того, как различные признаки воспринятого объекта становятся связанными вместе в процессе создания перцептивного целого.

78

О’Хара и Скатт (1996) в специальной работе «Нет никакой трудной проблемы сознания», приводят три причины, чтобы игнорировать трудную проблему. 1) Мы знаем, как обратиться к легким проблемам и следует начинать с них. 2) Решения легких проблем изменят наше понимание трудной проблемы, таким образом, попытки решить трудную проблему сейчас преждевременны. 3) Решение трудной проблемы было бы полезно, если мы могли бы распознать ее как таковую: на данный момент проблема не достаточно хорошо понимается, какого рода трудность предстаёт перед исследователем.

Патриция Черчлэнд (1996): Трудная проблема неверно понята. Мы не можем заранее предсказать, какие проблемы окажутся легкими, а какие трудными. Приводит пример с биологами, которые утверждали, что для понимания механизмов наследственности мы должны вначале решить проблему сворачивающегося белка. На самом деле, наследственность объясняет анализ ДНК, а проблема сворачивающегося белка остается нерешенной. Откуда мы знаем, что объяснение субъективности более трудно чем «легкие» проблемы? Достаточно ли хорошо определены «трудные» вещи (квалиа, субъективный опыт), чтобы их можно было как-то идентифицировать в роли трудных. Например, мысли – это квалиа или нет?

Даниел Деннетт (1994): «даже если бы все легкие проблемы воспроизводства, развития, роста и метаболизма были решены, всё равно осталась бы ‘действительно трудная проблема: что такое собственно жизнь». Деление проблемы сознания на «легкие» и «трудные» - это главный отвлекающий фактор, генератор иллюзии’ (1996a).

79

«Сознание - действительно глубокая тайна.... причина тайны в том, что наш интеллект неправильно (?) разработан для понимания сознания» (Макджинн, 1999).

5. Ничего не нужно делать

80


самая сложная (Н.Блок)

сложная (Н.Блок)

менее сложная (Д.Дубровский)

81





Н.Блокмы не представляем себе, как

феноменальное сознание может быть сведено (редуцировано) к нейрофизиологическим фактам,

наблюдаемых при изучении мозговых процессов в связи с субъективно переживаемыми явлениями сознания. Почему нейронная основа некоторого

феноменального качества есть нейронная основа именно этого феноменального качества, а не

другого феноменального качества или вообще никакого. Проблема

объяснения данной связи состоит в объяснительном пробеле между нейронной основой некоторого

феноменального качества и самим феноменальным качеством.

Д.И.ДубровскийКак объяснить связь явлений сознания (субъективной реальности) с физическими (в частности, мозговыми)

процессами, если первым нельзя приписывать физические

свойства, а вторые ими по необходимости обладают?

82





Н.Блок1. У нас нет оснований считать человеко-

подобного робота (искусственную личность) номологически и

метафизически невозможным;2. Внешняя функциональная

эквивалентность служит основанием для того, чтобы приписать роботу сознание.

Однако этот аргумент можно отвергнуть; 3. Физическая реализация, существенно

отличная от нашей, сама по себе не является основой для убеждения в

отсутствии сознания;4. У нас нет никакого понятия о том, как

доказать наличие или отсутствие сознание у другого существа (проблема

зомби)

Д.И.ДубровскийПроблема теоретически неразрешима на сегодняшнем этапе

развития науки и методологии

83





Д.И.Дубровскийзаключается в расшифровке

нейродинамических кодов ментальных феноменов

Имеются два вида задач расшифровки кода: 1) «прямая», когда дан кодовый

объект и требуется выяснить информацию, которая в нем содержится

(здесь мы имеем дело с «чуждым» кодом), и 2) «обратную», когда нам дана определенная информация и требуется

установить ее носитель и его кодовую организацию; здесь перед нами

«естественный» код и такая задача является более трудной.

84

Если тестировать все возможные параметры «личности» в условиях комплексного теста Тьюринга, т.е. проводить положительную дефиницию тестируемых персонологических качеств и способностей, то получается слишком обширный базис для индуктивного заключения –

Да, Я общаюсь с личностью, либо, напротив, Нет, со мной коммуницирует веб-робот.

Применение Комплексного теста Тьюринга в когнитивной робототехнике

85

Требуется доказать суждение «Я общаюсь с личностью» (p). Вначале доказательства формулируется противоположное ему высказывание не-p и предполагается, что оно истинно. Пропозициональное суждение не-p означает по сути то, что Я общаюсь с не-личностью, т.е. неизвестная система x находится по ту сторону стены Тьюринга – это некий философский зомби. Если допускается, что p ложно, тогда должно быть истинным не-p. Затем из этого, якобы истинного антитезиса, выводятся следствия – некоторые суждения p1, p2, …, pn – до тех пор, пока либо не получится противоречие, либо такое следствие, которое явным образом не сооответствует очевидным фактам. То есть мы получаем, что если некоторое p1, p2, …, pn ложно, то не-p истинно.


86

Например, если воспользоваться тестом Блока (нео-ТТ), то в предположении общения с зомби – а именно так Я должен начинать свое исследование партнера в социальной сети – Я должен получать бессмысленный набор символов, хотя эти наборы могут быть синтаксически корректными, а в семантическом отношении что-то отражать. Сообщение p1 – бессмысленно. Сообщение p2 – бессмысленно и пр. Однако вдруг поступило по интернету высокохудожественное сообщение pn, проникнутое глубоким смыслом и морально-духовным содержанием. Оно очень даже осмысленно, поэтому логично предположить, что Я общаюсь не с зомби, а с «личностью».


87

Если пользоваться прямым способом аргументации, то цепь моих рассуждений должна быть такой: Я-судья общаюсь с «личностью», поэтому мне должны поступать по интернету высокохудожественные сообщения, проникнутые глубоким смыслом и морально-духовным содержанием. Мне поступают сообщения: p1 – высокохудожественное, p2 – глубоко-нравственное и пр. Все эти сообщения я должен анализировать на предмет «высокого» содержания. Одно из поступивших сообщений – бессмысленное, поэтому я общаюсь с зомби. Однако этот единичный факт статистически сомнителен и требует дополнительного пополнения базиса индукции.Методология философских зомби экономнее стандартного метода индуктивного подтверждения личностных параметров другого.


88

Когнитивно-компьютерные (философские) зомби победили


Technology

Андрей Алексеев. Комплексный тест Тьюринга: робототехнические приложения