Повышение производительности труда и нейро:смычка кортекса и экзокортекса

Москва28 октября 2015г.

2

Совместная работа• Совместная работа – это делать какую-то систему/сервис (не

рассматриваем совместные развлечения, религиозные практики, совместные занятия сексом для деторождения и т.д.)• Используем представления системной инженерии – вид

жизненного цикла как «принципиальная схема» работ по созданию системы.• Где в жизненном цикле ожидать помощи со стороны

«нейро»?• Будущее доступно через метафору тумана: вблизи всё

прозрачно, а в трёх метрах может быть невидимая стена. Так что ограничиваемся только тем, что уже видно – стараемся много не сочинять.

3

Тотальная автоматизация• Традиционная автоматизация –

алгоритмическая (можем использовать точные определения)• Черчение и стереометрия, физика,

дифференциальные уравнения, логика

•Обучение нейронных сетей – неалгоритмическая (не можем использовать точные определения).• Стиль и художественный дизайн• Работа с интересами людей

4

Искусственный интеллект: «то, что компьютеры пока не умеют делать»

Граница быстро движется: шахматы, вождение автомобиля, распознавание речи и т.д.

Смена парадигмы:Обучение (learning) проектированию, конструированию, моделированию вместо/вместе программирования (GOFAI)Эпистемология (неявное знание и методы обучения) вместо/вместе онтологии (явного сконструированного знания)

Машинное обучение бывает (с выходом на master algorithm):• Символьное (правила)

• Коннекционистское (нейронные сети) – сегодня в моде («глубокое обучение»)!

• Байесовское (вероятности)• Эволюционное (генетические алгоритмы)• Поиском аналогий

Почему только сейчас?!Оборудование: enabling technology

Интернет (1990 – первый браузер WWW)• Линии связи позволили

передавать картинки на дом (т.е. стало можно использовать WWW)

• Дисплеи смогли картинки показать• Процессоры смогли картинки

обработать

250Kb веб-страница• 56Kbps – 36 секунд• 1Mbps – 2 секунды• 100Mbps – 0.2 секунды

Нейронные сетки (2012 – первая победа на соревнованиях)• Процессоры сумели выдать

терафлопс, нужный для научения сетки за обозримое время

• Связь и память смогли дать терабайты данных для научения

• 1TFLOP -- 200млн. человек по 14 вычислений на калькуляторе в день каждый, за год

• GTX Titan X – 7TFLOPS (single preсision)• Intel Knights Landing Xeon Phi – 6TFLOPS (

http://www.zdnet.com/article/intels-next-big-thing-knights-landing/, http://arxiv.org/abs/1506.09067)

• FPGA: эксперименты до 10TFLOPS и до 6x меньше TFLOPS/Watt

5http://www.theguardian.com/technology/2011/jul/06/broadband-speeds-uk

6

Дилемма инноватора: мужики-то не знают!(Clayton Christensen из Гарварда)

Характеристики

Время

Лучшие технологии

Прорывные технологии

Характеристики лучших продуктовНа рынке

Характеристики худших продуктов на рынке

http://web.mit.edu/6.933/www/Fall2000/teradyne/clay.html

• Инновации обеспечиваются на неприкладных уровнях технологического стека (проектирование – алгоритмы обучения

• Обучение компьютеров сегодня даёт любительские результаты во всём, кроме задач распознавания изображений, звука, сигналов, вторжений и т.д..

• Через 5 лет эти любительские результаты окажутся профессиональными, если не сверхчеловеческими. Всё происходит быстро.

7

Экстремальная сложностьINCOSE VISION 2025 (июнь 2014)

http://www.incose.org/AboutSE/sevision

Выход за пределы сложности для классического проектирования/конструирования:

• Эволюция в системах систем• Общественные дисциплины

(сдвиг на оргсистемы)• Мегаломания (появилась Земля

как объект контроля-проектирования)

Там, где интересы людей, там меньше уравнений, больше трудноопределяемых понятий – там нужно использовать нейро!

8

Многомасштабность*за пределами жизненного цикла

<<< Замысел Архитектура «Рабочка» Изготовление Эксплуатация>>>

Usingsystem

IT-1 IT-2 IT-3 IT-4 IT-5

Макро IT1 IT2 IT3 IT4 IT5

Мезо IT6 IT7 IT8 IT9 IT10

Микро IT11 IT12 IT13 IT14 IT15

Нано IT16 IT17 IT18 IT19 IT20

Специализация/профессионализация: фирма в каждой клетке, плюс экспансия на соседейИнтеграция в продукте: вся таблица (эко-система!)

CAD/CAM/codes/PLM/CAE/ERP/EAM/… будут интегрированы!

уровни структуры вещества * уровни воплощения

ФормальностьНейро сюда!

9

Экстремальное начало ЖЦ проекта:исследования как часть проектирования

• Отрицательный результат в исследованиях – это не результат, если есть проектирование. Исследования и изобретательство различны.

• Наука-техника Латура: исследования и изобретательство едины.• Лаборатории условного Эйнштейна, условного Эдисона.• R&D management – относительно новая дисциплина, но мы-то не про менеджмент! Дисциплины R&D инженерии пока нет.

• Крупные корпорации, государство (институты развития), стартап-движение, предпринимательские университеты.

• Пример: акселераторы и лаборатории при акселераторах (Y Combinator, http://ailev.livejournal.com/1220274.html), фонды для инфраструктурных проектов «низко по стеку» (NumFocus и Julia)

Basic Research Applied Research Concept Design Engineering

http://www.3ds.com/products-services/biovia/

global, collaborative product lifecycle experiences to transform scientific innovation

Нейро сюда!

10

Model-based conceptual design

Выход за пределы:• Явное упоминание стратегии (ISO 15288:2015 – 6.4.1 Business of mission analysis

process)• Пересечение с системной инженерией (требования и архитектура)• Пересечение с классическим предметным проектированием

Steven J.Saunders, INCOSE INSIGHT volume 17 issue 4

Нейро сюда!

11

Киборги-2, мультиагентные системы• Агент – сущность, способная к действию (https://en.wikipedia.org/wiki/Agency_(

philosophy))

• Пока разделение «человек или компьютер» важно: • Мультиагентские системы• Экономика, социология, правоведение психология, и т.д.

• Завтра эти дисциплины начнут смешиваться• Киборг-1 = кибернетический организм • Киборг-2 = кибернетическая организация• Киборгизируются и

• отдельные люди (экзокортекс и персональные агенты), и• Команды, коллективы (корпоративные информационные системы как

агенты), и • общество в целом (агенты социальных сетей).

• Команда, коллектив, общество = мультиагентная система из людей и достаточно умных компьютеров

Чтобы проект начать, нужно его как-то описать!(ISO 42010 – OMG Essence)

12

Нейро сюда!

Concerns = интересы (озабоченности)

• Интересы плохо формализуются!• Интересы часто бессознательны• С бессознательным работает

нейролингвистическое программирование (R.Bandler, J.Grinder. Epistemology by G.Bateson)

• Работа с кортексом двусторонняя (обучение идёт в две стороны – ситуации в проекте учится и кортекс, и экзокортекс!)

13

Нейролингвистическое программирование(neuro-linguistics programming)

• Упор не на онтологию, а эпистемологию (обучение, моделирование)• Бинарная модель психики (хорошо согласуется с нейромоделями)

• совершенно необязательно тамошним моделям «верить на слово», для сегодняшнего уровня техники можно легко проверить постулаты (они довольно эклектичны) и воспользоваться только тем, что проверилось/подтвердилось.

• Использовать не только само НЛП как набор отдельных моделей, но и дискуссию вокруг (например, дискуссии про манипулятивность воздействий, повременную оплату против фиксированной за терапию/обучение)

• Использовать не столько конкретные модели, сколько сам подход (эпистемологию), способ задания вопросов, подход к моделированию.

14

Терминология: не так важно(word embeddings)

15

Словарные сообщества

тачка

Понятийное сообщество

car машинка автомобиль

16

Эстетика и художественность (модели стилей)Learning Visual Clothing Style with Heterogeneous Dyadic Co-occurrences (http://arxiv.org/abs/1509.07473)

A Neural Algorithm of Artistic Style (http://arxiv.org/abs/1508.06576)

17

Аватаризация инженерного софта• Обучение САПР вместо/вместе программирования/настройки• Естественный язык вместо/вместе компьютерного• Диалог компьютера с человеком по уточнению намерений и ограничений• Совместное порождение идей вместо/вместе оформления идей человека• Комфортный диалог: имя и образ (аватар), распознавание и учёт эмоций

Фирма Имя умного помощника Google Google Apple Siri Microsoft Cortana Facebook M Amazon Alexa Autodesk ???????????

18

Коллаборативное проектирование• Дисинтермедиация проектирования, создание команд «вне

фирм»: • не требуется фирма для гладкого включения в команду людей (Uber для

поиска коллаборантов, включая по-разному обученных компьютерных интеллектуальных агентов от разных поставщиков) – распознавание интересов, опыт «сайтов свиданий»

• Низкий барьер входа (облачные ресурсы и подписки, доступны даже индивидам, а не только фирме)

• Совместная работа с аватаризованными инженерными компьютерными помощниками (на естественном языке, с распознаванием жестов, они всех будут различать по голосу и помнить по именам!)

• Киборг-2:• Ведение протокола принятых решений (и изменения решений – возможно

с переспросом), отметки о консенсусе и расхождении мнений• Учёт интересов, определение провалов в представленности каких-то

интересов (например, если никто не озаботился о финансах, то можно об этом в какой-то момент сообщить команде – легко сравнивать происходящее с чеклистами)

19

Спасибо за внимание

Анатолий Левенчук,http://ailev.ruailev@asmp.msk.su

TechInvestLab