Embed Size (px)
Citation preview
Systemy uczące się – wykład 1
dr Przemysław Juszczuk
Katedra Inżynierii Wiedzy, Uniwersytet Ekonomiczny
5 X 2018
dr Przemysław Juszczuk Systemy uczące się – wykład 1
e-mail: [email protected]
Konsultacje: na stronie katedry + na stronie domowej
Pokój 207 budynek A
pjuszczuk.pl
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Zaliczenie ćwiczeń – 70%
Prezentacja i demonstracja zaimplementowanego systemuwykorzystującego techniki maszynowego uczenia połączona z dyskusją natemat jego teoretycznych podstaw.
Zaliczenie wykładu – 30%
Test wielokrotnego wyboru bez możliwości korzystania z notatek.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Zakres przedmiotu1 Sztuczna inteligencja w uczeniu maszynowym.2 Eksploracja danych a uczenie maszynowe.3 Metody pozyskiwania wiedzy i podstawy preprocessingu danych.4 Wzorce i reguły.5 Klasyfikatory bazujące na drzewach decyzyjnych.6 Ocena jakości klasyfikacji.7 Metody probabilistyczne i naiwny klasyfikator Bayesa.8 Klasyfikator 1-nn i k-nn.9 Podsumowanie i przykłady zastosowań.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Zakres ćwiczeń
wczytywanie danych i preprocessing;projekty do wykonania: drzewa decyzyjne, sieci Kohonena, k-nn, siecineuronowe;WEKA (RapidMiner) i przegląd algorytmów;implementacja wybranych metod.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Uczenie się
zmienność systemu w czasie;poprawa określonego kryterium – możliwość dokładnegooszacowania, o ile w danym momencie system jest ”lepszy”, czyli oile lepsze wyniki osiąga. Możliwość dokładnego przełożenia nakonkretną wartość liczbową;możliwość wskazania zmian negatywnyh i zmian pozytywnych;nie każda korzystna zmiana w systemie jest automatycznierównoważna procesowi uczenia się;autonomiczność systemu – zmiana wprowadzana jest przez systemsamodzielnie, a nie jest efektem interwencji z zewnątrz;doświadczenie zdobyte przez system na podstawie pewnychokreślonych czynników zewnętrznych.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Definicja
Każda autonomiczna zmiana w systemie zachodząca na podstawiedoświadczeń, która prowadzi do poprawy jakości jego działania. P.Cichosz, ”Systemy uczące się”.
Wynik uczenia się
W wyniku procesu uczenia się możliwe jest uzyskanie wiedzy orazumiejętności. Różnica pomiędzy wiedzą a umiejętnościami jest dośćpłynna, przy czym w sytuacji, kiedy konieczne jest wykonanie pewnegookreślonego szeregu czynności najczęściej używa się słowa ”umiejętność”.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Rysunek: Uczenie na przykładzie algorytmu
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Przykłady uczenia się
gra w grę - uczenie na podstawie wcześniej rozegranych partii -modyfikacja pewnej funkcji oceniającej;diagnostyka medyczna - uczenie na podstawie poszerzenia zestawudostępnych danych;klasyfikacja - problem klasyfikacji obiektów pojawiających się wsystemie;kierowanie pojazdem.
Motywacja uczenia się
złożone problemy, dla których konieczne może okazać się podejścieniedeterministyczne;dążenie do maksymalnej autonomiczności ze strony systemów;analiza, klasyfikacja i odkrywanie zależności w złożonych zbiorachdanych.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Rodzaje systemów uczących się
metoda reprezentacji wiedzy - wybór wewnętrznej reprezentacjidanego problemu z uwzględnieniem dziedziny zastosowania systemu,możliwości wykorzystania wiedzy środowiskowej, prostotyprzekształcenia;sposób używania wiedzy/umiejętności - powiązany z reprezentacjąwiedzy oraz celem, jakiemu ma służyć - np. klasyfikacja lubaproksymacja;źródło i postać informacji trenującej - uczenie nadzorowane oraznienadzorowane (gdzie w pierwszym przypadku dostępna jestinformacja wyjściowa odpowiadająca zestawowi zmiennychwejściowych, natomiast w drugim przypadku uczenie możliwe jesttylko na podstawie pewnego zestawu wektorów wejściowych);mechanizm nabywania wiedzy/umiejętności- wyznaczany najczęściejprzez zastosowaną metodę reprezentacji wiedzy - np. indukcja, czyliuogólnianie zdobywanej wiedzy.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Dziedziny pokrewne
teoria prawdopodobieństwa;teoria informacji;logika formalna;statystyka;teoria sterowania;psychologia;neurofizjologia.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Sztuczna inteligencja - SI
system, który myśli jak człowiek;system, który myśli racjonalnie;
Test Turinga
Udział bierze dwóch graczy: sędzia (C) i poddawany testowi (A);Gracze nie kontaktują się w ze sobą inaczej niż przy pomocyklawiatury;Pytania zadaje sędzia, a gracz A odpowiada na nie;Gracz C nie powinien byc ekspertem w dziedzinie komputerów;Test ma charakter statyczny i powinien byc powtarzany kilkukrotnie.Sędzia powinien oceniać kilka razy, a w rolę gracza A czasamipowinien wcielić się człowiek.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Główne działy sztucznej inteligencji
automatyczne wnioskowanie (systemy ekspertowe oraz automatycznedowodzenie twierdzeń);przeszukiwanie - zadanie przeszukiwania dużej przestrzeni rozwiązań;planowanie - znalezienie planu rozwiązania w sposób bardziejefektywny, niż poprzez przeszukiwanie;uczenie się - zachowanie racjonalne systemu oraz dążenie doposzerzania zakresu wiedzy/umiejętności (uczenie się, jakownioskowanie).
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Przekształcenia wiedzy
generalizacja/specjalizacja;abstrakcja/konkretyzacja;podobieństwo/kontrastowanie;wyjaśnianie/predykcja.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Preprocessing danych
Przetwarzanie wstępne (ang. preprocessing) polega naprzekształceniu danych doprowadzonych do wejścia systemu doformatu akceptowanego przez moduł wnioskowania.
Przetwarzanie końcowe (ang. postprocessing) służy do konwersjidanych wyjściowych z tego modułu do postaci zgodnej z wymogamiukładów zewnętrznych.
Procedura fuzyfikacji (z ang. fuzzification), polega na transformacjiwartości z dziedziny liczb rzeczywistych na wartości z dziedzinyzbiorów rozmytych. W tym celu dokonuje się wyznaczenia wartościfunkcji przynależności dla kolejnych zmiennych lingwistycznych i dladanej rzeczywistej wartości wejściowej.
Defuzyfikacja (ang. defuzzification), zwana również wyostrzaniem,jest przekształceniem odwrotnym do rozmywania, czylitransformacją informacji zawartej w zbiorze rozmytym do postacipojedynczej wartości (crisp value)
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Usuwanie danych odstających. Gdzie pewna wartość ze zbioru danychwejściowych znacznie odstaje od pozostałych. Może się tak zdarzyć naprzykład na skutek błędnie odczytanych wejściowych, przekłamania wzapisie itp.
Rysunek: Dane odstające na wykresie
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Rysunek: Wartości obserwacji w tabeli
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Skalowanie danych
Dane wejściowe należą do przedziału < xmin : xmax >Dane wyjściowe należą do przedziału < ymin : ymax >
y = ymin +(x−xmin)·(ymax−ymin)
xmax−xmin
Sieci neuronowe < −1, 1 >Rozmyte sieci kognitywne < 0, 1 >
Normalizacja danych
Normalizacja danych do przedziału < 0 : 1 >y = x/xmax
W przypadku danych ujemnych : przedział < −xmin, xmax > na< 0, ymax >
Dyskretyzacja danych wejściowych
podział zbioru początkowego na n równych części.podział zbioru w zależności od częstości występowania obiektów.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Pozyskiwanie wiedzy
Pozyskiwanie wiedzy
Ekspert sam przedstawia wiedzę w postaci reguł (łańcuchprzyczynowo-skutkowy):„Jeśli coś to wtedy...”Zaletą jest czytelność. Liczne wady : czas potrzebny do przekazaniawiedzy, konieczność usystematyzowania wiedzy przez eksperta.Ekspert określa prawdopodobieństwo wpływu poszczególnych cechna daną sytuację. Np. Lekarz określający prawdopodobieństwowystąpienia danego objawu. Zdecydowaną wadą takiego podejściajest błędne szacowanie prawdopodobieństwa + różni eksperci mogąróżnie interpretować pewne fakty.Budowa bazy wiedzy opartej na przykładach. Nie zawsze jednak dladanego problemu istnieje wystarczająca liczba opisanych przypadków.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Reprezentacje wiedzy
Reprezentacje wiedzy
Regułowe bazy wiedzy - wiedza zapisana w postaci reguł :if obiekt = wartość then regułaTablice decyzyjne - odpowiadają regułom. Zapis w tablicy, gdziejeden wiersz odpowiada jednej regule. Zawiera atrybuty warunkoweoraz atrybut/atrybuty decyzyjne.Język perceptów - (SKRZYDLA : SAMOLOT : X ,MA)Język predykatów - Wyższy(Paweł, Piotr)wiedza niepewna (zbiory przybliżone, sieci Bayesa).
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Podstawowe definicje
Fakt;Przesłanka;Konkluzja;Reguła;Wnioskowanie.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
Dziękuję za uwagę
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![NN NNN NN · nn nn nn nn nn nn nn n nnn nn nnn nn5 nn nnn n 7$1,$ &2175$672 'dwd˛ ˝ ˘ 3dj ˛ 5 6l]h˛ n $9(˛ n 7ludwxud˛ 'liixvlrqh˛ /hwwrul˛ mondadori libri 2](https://img.pdfslide.tips/doc/110x75/5f0f201d7e708231d4429d72/nn-nnn-nn-nn-nn-nn-nn-nn-nn-nn-n-nnn-nn-nnn-nn5-nn-nnn-n-71-2175672-dwd.jpg)
