29
1 Интеллектуальные системы и технологии Лекция 2. Методы представления знаний.

Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

  • Upload
    others

  • View
    10

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

1

Интеллектуальные системыи технологии

Лекция 2. Методы представления знаний.

Page 2: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

2

Представление знаний в системахискусственного интеллекта

• Основной особенностью интеллектуальных систем является то, чтоони основаны на знаниях, а вернее, на некотором их представлении.

• Знания здесь понимаются как хранимая информация, формализованная в соответствии с некоторыми правилами, которуюЭВМ может использовать при логическом выводе по определеннымалгоритмам.

• Наиболее фундаментальной и важной проблемой является описаниесмыслового содержания проблем самого широкого диапазона, т.е. должна использоваться такая форма описания знаний, котораягарантировала бы правильную обработку их содержимого понекоторым формальным правилам. Эта проблема называетсяпроблемой представления знаний.

Page 3: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

3

Получение знаний

• Знания могут формализованы и вложены всистемы человеком– Системы, основанные на знаниях (инженериязнаний, экспертные системы)

• Знания могут быть результатом обучениясистемы (с учителем или без учителя)– Обучающиеся системы (Computational Intelligence, когнитивные системы и роботы, нейронные сети)

Page 4: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

4

Структура экспертной системы.Пример системы, основанной на знаниях

Page 5: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

5

Отличие знаний от данных• Более структурированы и связны, т.е. самоеважное в знаниях не сами данные, а связи междуними

• Более самоинтерпретируемы• Отвечают не только на вопросы «что», «кто»,

«где», «когда», но и на вопросы «как» и «почему»• Субъективны в отличие от объективности данных• Могут быть противоречивы, не полны и не точны

Page 6: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

6

Методы представления знаний• В настоящее время наиболее используемые подходы кпредставлению знаний в интеллектуальных системах:

• Методы инженерии знаний, ориентированные наформализацию знаний:– логические модели, в том числе продукционные

(правила);– семантические сети;– фреймы;

• Методы, ориентированные на обучение:– нейронные сети;– байесовские сети (условные вероятности)– скрытые модели Маркова

Page 7: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

7

Другая классификация методовпредставления знаний

• Логические• Эвристические• Нейронные сети• Вероятностные

Page 8: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

8

Еще одна …Методы представления знаний

Правила Объекты

Логическаямодель(предикаты)

Продукционнаямодель

Нечеткаялогика

Условныевероятности

Статическая Динамическая

Семантическаясеть

Фреймы

Объектно-ориент.модель

степеньопределенности(формальности)

степень динамичности

степеньоперационности

степень динамичности

степень структурированностизнания

Page 9: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

9

Логические

• Логика предикатов 1-го порядка• Модальные логики• Нечеткие логики (Fuzzy logic)• Псевдофизические логики• Дескрипторная логика

Page 10: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

10

Эвристические• Правила-продукции• Семантические сети• Фреймы

Page 11: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

11

Знания

Page 12: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

12

Декларативные и процедурныезнания

• Декларативные знания состоят из множества описаний состоянийи условий переходов между ними, которые носят синтаксический(символьный) характер и не содержат в явном виде описанияисполняющих процедур. – Вывод и принятие решений осуществляется процедурами поиска в

пространстве состояний, которые учитывают семантику (смысл) конкретной предметной области. Универсальность и общностьдекларативных знаний обеспечивается разделением синтаксическихи семантических знаний.

• Процедурные знания включают исходные состояния и явныеописания процедур, обрабатывающих исходные знания принеобходимости получения состояния полного множествапроизводных знаний.– Это позволяет отказаться от хранения всех состояний БЗ, требуемых

при выводе и принятии решений. Здесь семантика вводится вописания процедур, генерирующих синтаксические знания. Такэкономится память при хранении знаний, но возможностивыполнения процедур ухудшаются.

Page 13: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

13

Процедурные и декларативныезнания

• Чисто процедурные знания – описаниеалгоритма на каком-то алгоритмическом языке

• Если в этой программе есть описаниепеременных, а особенно, таких как массивы, структуры, объекты, то это уже декларативнаясоставляющая знания

• Чисто декларативные знания – реляционнаябаза знаний в простой СУБД (без встроенныхпроцедур, не в MS Access), например, вMySQL.

Page 14: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

14

Структурные и параметрическиезнания

• По характеру представления знания могут бытьструктурными или параметрическими.

• Структурное представление знаний характеризуетотношения фактов или объектов.

• Структура знаний может изменяться, за счет чегопроизводится их конкретизация при описаниизаданной проблемной области. В динамических Б3 структура знаний может изменяться эволюционно илиадаптивно

• Параметрическое представление знанийхарактеризуется фиксированной структурой иизменяемыми параметрами в фактах или объектах. Конкретизация знаний под задачу производится тольконастройкой параметров. Часть параметров обычноиспользуется для настройки силы связей илиотношений вплоть до их отключения.

Page 15: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

15

Модель знаний• Модель знаний является представлением системызнаний с помощью определенного формализма, т.е, универсального математического аппарата длякорректного формального описания и построенияпроцедуры решения задачи.

• Могут использоваться такие формализмы, какфункциональный, основанный на λ-исчислении, логический на исчислении предикатов первогопорядка, алгоритмический на базе формальноймашины Тьюринга и объектный — на базе теориифакторов.

• Модели знаний можно разделить на реляционные, объектные и ассоциативные, причём каждая модельможет иметь ряд форм, определяющих ее конкретныереализации.

Page 16: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

16

Реляционная модель знаний• Эта модель использует понятие формальной системы, задаваемой как

R = (Т, Р, А, F),где R - система отношений,Т - множество базовых элементов,Р – множество синтаксических правил, позволяющихстроить из множества элементов Т синтаксическиправильные выражения;

А - множество априорно истинных выражений (аксиом);F - семантические правила вывода, позволяющиерасширить множество А за счет других выражений.

Page 17: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

17

Реляционная модель (2)

• В основе реляционной модели лежат теорияотношений и логика. Исторически эта модельимеет корни в исчислении высказываний, откоторого позже перешли к исчислениюпредикатов (отношений).

• Развитие автоматических процедурдоказательства, основанных на унификации, резолюции и эвристическом поиске, позволилоиспользовать логические программы изпредикатов для формализации знаний ивывода.

Page 18: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

18

Формы реляционной модели• Предикатная форма является наиболее строгой идоказательной. Она имеет мощную программную поддержку ввиде универсального языка логического программированияPROLOG, фактически применяемого как оболочку дляразработки логических интеллектуальных систем.

• Продукционная форма менее строгая, но более популярная, используется для представления знаний в видеимпликативных отношений и связок И и ИЛИ между фактами. Вывод в такой системе знаний осуществляется на основедедуктивной логики и процедур эвристического поиска. Продукционная форма также поддерживается программно, носпециализированными средствами типа языка разработкисистем продукций (OPS-5 и пр.).

• Лингвистическая форма является развитием продукционнойдля применения в естественно-языковых системах (общение сЭВМ, машинный перевод), Она поддерживаетсяспециализированными языками типа ATNL.

Page 19: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

19

Объектная модель знанийЭта модель использует понятие формальной системы, задаваемой как:

N = (C, O, S, I),где: N — сеть объектов, связанных разными отношениями;С - множество классов объектов, связанных отношениямиклассов;

О - множество объектов, связанных отношениями объектов;S - структура классов и объектов, определяющаяконкретные связи между ними;

I – правила преобразования объектов и вывода на сетиобъектов.

Page 20: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

20

Объектная модель знаний (2)• В основе объектной модели лежат теория семантических и фреймовых сетей, а

также теория акторов.• Исследования в области семантической памяти, а также методов запоминания и

обработки сложных образов в мозгу человека привели к разработкесемантических и фреймовых моделей знаний. С другой стороны, развитиеметодов моделирования реального мира вылилось в формирование объектногоподхода при проектировании и программировании систем моделирования. Общим для этих подходов явилось понятие объекта знаний как основногодействующего элемента сетевой системы знаний. В простейшем случае объектзнания – это понятие в узле семантической сети, связанное с другимиподобными объектами различными отношениями. В более сложном случаеобъект знаний – фрейм, содержащий декларативные знания и процедуры, позволяющие выполнять некоторые действия над ними.

• Универсальным вариантом объекта знаний является объект, содержащий данныеили знания любого вида и имеющий процедуры, выполняющие любые действиянад ними. Система таких объектов знаний строится как иерархическая, поддерживающая любую структуру классов и объектов. Вывод в такой системеосуществляется в соответствие с правилами, определяющими обменинформацией между объектами с учетом отношений классов и объектов типанаследования, морфизма и пp.. а также с правилами преобразований в объектахпри наступлении событий.

Page 21: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

21

Объектная модель знаний (3)• При построении интеллектуальных систем используются

семантическая, фреймовая и универсальная формы объектной моделизнаний.

• Наиболее простая форма семантической сети часто применяется дляотображения системы понятий в про6лемной области и вывода в этойсистеме. Она поддерживается специализированными языкамисемантических сетей, таких как NETL, ATNL.

• Фреймовая форма является мощным средством построения большихиерархических систем знаний при обработке изображений, речевыхобразов, процессов управления, диагностирования и пр. Дляподдержки разработки фреймовых систем используются основанныена LISP языковые средства типа FRL, FMS и др.

• Универсальная объектная форма в настоящее время развивается ичасто используется в практических разработках мощныхраспределенных сетевых систем знаний для моделирования, управления, проектирования и пр. Программная поддержка этойформы знаний обширна: основанные на LISP языки типа CLOS, LOOPS и др., объектно-ориентированные языки типа Smalltalk, С++ идр.

• Развитие реляционной и объектной моделей знаний происходит врамках символистского направления в искусственном интеллекте.

Page 22: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

22

Ассоциативная модель знанийЭта модель использует понятие формальнойсистемы, задаваемой как

A = (U, C, L, I),где А — ассоциативная сеть представлениязнаний;

U - множество узловых элементовассоциативной сети;

С — множество коннекций (контактных связей) элементов;

L - множество правил построения сети иопределения параметров коннекций;

I — правила ассоциативного вывода (процедурыпроцессирования знаний).

Page 23: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

23

Ассоциативная модель знаний (2)• В основе ассоциативной модели знаний лежатассоциативная логика, нейродинамика икогнитология. Исторически эта модель имееткорни в психологии и нейродинамике.

• Развитие в рамках психологии представлений опамяти, обучении и мышлении иформализации некоторых из них внейродинамике привело к разработкеассоциативного подхода (коннекционистского) в искусственном интеллекте.

Page 24: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

24

Ассоциативная модель знаний (3)• Общим для ассоциативного подхода является представлениезнаний в виде ассоциативной сети узловых элементов, имеющих коннекции между собой в соответствии с решаемойзадачей. Здесь под коннекцией понимается регулируемаяконтактная связь между элементами.

• Именно управляемые коннекции обеспечивают такомупредставлению знаний свойство ассоциативности, т.е. способности системы давать наиболее вероятные решения навыходе даже по части входного вектора за счетпараллельного процессирования информации, распространяемой по сети узловых элементов, с учетом силыконнекций.

• Другой стороной ассоциативного подхода являетсявозможность обеспечения когнитивности как способностиформирования знаний путем обучения и обработки их вреальном времени подобно тому, как это делает нервнаясистема человека.

Page 25: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

25

Ассоциативная модель знаний (4)• Обучение здесь рассматривается как процессустановления коннекций узловых элементов путёмминимизации соответствующего критерия (функцияцены, энергетическая функция) при запоминании рядаправильных примеров поведения системы.

• Реальное время решения задач обеспечивается за счётассоциативного вывода путём параллельногопроцессирования знаний.

• Когнитивность сближает такие системы поэффективности с биологическим прототипом –нервной системой человека.

• Разные проявления ассоциативной модели вылились вассоциативные логическую, нейронную формы.

Page 26: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

26

Логическая форма ассоциативноймодели

• Логическая форма ассоциативной модели знанииоснована на использовании в узловых элементах сетилогических вычислительных базисов: предикатного, продукционного, семантического.

• Наиболее часто процессирование информации вэлементах сети осуществляется в нечетко-логическом, вероятностно логическом базисах. При этом в узлахвычисляются оценки в виде степеней принадлежностик нечетким множествам или вероятности фактов-событий с учетом силы коннекций. Такие системынаходят применение при управлении динамическимиобъектами, распознавании образов и пр.

• Примеры – байесовы сети, цепи Маркова.

Page 27: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

27

Нейронная форма ассоциативноймодели

• Нейронная форма предполагает использование в узловыхэлементах (формальных нейронах) сети мультипликативно-аддитивного базиса с пороговым или линенйно ограниченнымвыходом.

• Сила коннекций трактуется здесь как сила синаптических связейнейронов и определяется только путем обучения.

• Нейронная форма ассоциативного отображения знаний посравнению с простой нейросетью всегда структурирована, т. е. состоит из связанных локальных нейросетей, объединенныхиерархически. Такая сложная структура может обладатьсвойством когнитивности, что отражается в названияхнейромоделей: COGNITRON, NEOCOGNITRON и пр.

• Развитие таких моделей происходит в рамках коннективистскогонаправления в искусственном интеллекте. Нейронные системыэффективны при решении задач классификации иаппроксимации.

Page 28: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

28

Универсальная формаассоциативной модели

• Универсальная форма ассоциативной модели знанийиспользует базис узловых элементов сети, настраиваемый из условий наилучшего отображениясистемы знаний.

• Как правило такая форма применяется дляпредставления сложных систем знаний, поэтому онаимеет средства структуризации. Компонентом структурыможет быть объект, содержащий локальную системузнаний, средства наполнения или коррекции ее путемобучения и интерфейсные средства вводы-вывода иобмена с другими объектами. Такой объект может бытьназван когнитивным, а сами системы — когнитивнымисистемами. В настоящее время когнитивные системы наассоциативной модели знаний интенсивно изучаются.

Page 29: Лекция 2ermak.cs.nstu.ru/neurotech/html/metodmat/ist2019/Lec_2.pdf · Title: Microsoft PowerPoint - Лекция_2.ppt Author: Andrey Gavrilov Created Date: 9/18/2016 12:49:32

Гаврилов А.В. Кафедра ВТ, НГТУ

29

Ассоциативная модель знаний (5)• Программная поддержка ассоциативныхинтеллектуальных систем осуществляетсятолько специализированнымиинструментальными средствами такими, как– пакет для разработки ассоциативной памяти

STARAN,– нейросетевой пакет ВRAINMAKER,– пакет для разработки нечетких систем FUZZY ТЕСН и др.