1

SZAKDOLGOZAT

2

Metastabil oszcillációk stabilitásának és bemeneti jelfolyam-

felismerő képességének vizsgálata feltételezett memóriafolyama-

tok modellezésére

3

Nyilatkozat az eredetiségről

Alulírott Lehoczky Zsombor, a Pázmány Péter Katolikus Egyetem Információs Techno-

lógiai és Bionikai Karának hallgatója kijelentem, hogy ezt a szakdolgozatot meg nem engedett

segítség nélkül, saját magam készítettem, és a szakdolgozatban csak a megadott forrásokat

használtam fel. Minden olyan részt, melyet szó szerint, vagy azonos értelemben, de átfogalmaz-

va más forrásból átvettem, egyértelműen a forrás megadásával megjelöltem. Ezt a Szakdolgoza-

tot más szakon még nem nyújtottam be.

Budapest, 2015. december 21.

Lehoczky Zsombor

4

Tartalomjegyzék

A szakdolgozat tartalmi összefoglalója 5

Bevezetés a választott témához 7

A kutatás céljainak elemzése 9

Az irodalom áttekintése 11

A tervezés lépései és a kutatási folyamat 17

Az eredmények értékelése a kitűzött feladatok fényében 21

Hivatkozások 28

Függelék: MATLAB scriptek 29

5

A szakdolgozat tartalmi összefoglalója

1.1 Magyar nyelvű kivonat

A szakdolgozatban mesterségesen létrehozott, metastabil forgó hullámokat tanulmányo-

zok és hasonlítok össze valódi neuronhálózatokban létrejövő, feltételezett memóriafolyamatok-

kal. A mesterséges hullámokat egy egydimenziós, néhány cellából álló, számítógéppel szimulált

CNN gyűrűben hoztam létre. A gyűrű homogén, minden cellája ugyanazzal a csatolással hat a

tőle balra, illetve jobbra található szomszédos cellára. A cellák a szakaszonként lineáris kimene-

ti függvény szerint generálják a kimenetüket.

Első lépésként megalkottam egy szimulációs környezetet, amiben a kísérleteimet futtat-

tam. Ezt követően a metastabil rendszerek matematikáját vizsgálva kerestem egy olyan, köny-

nyen mérhető és számolható, jól definiált paramétert, amely megbízhatóan jelzi a különböző

hullámok stabilitását.

A következő lépésben egy korábbi, ugyanebben a témában zajló kutatás eredményeiből

kiindulva először autonóm, majd bemenettel rendelkező esetben is megnéztem, hogy a különbö-

ző paraméterek változtatása milyen hatással volt a rendszerre, különös tekintettel a

metastabilitásra. Bemenetként változtatható periódusidejű négyszöghullámot adtam. A változta-

tott paraméterek a kezdeti állapotvektor, autonóm esetben az egyik, illetve másik irányba ható

csatolás mértéke, bemenettel ellátott esetben pedig a bemenet csatolása és a bemenetként adott

hullám periódusideje voltak.

A kutatás végső részében – feltételezve azt, hogy a megalkotott gyűrű egy agybéli neu-

ronhálózatot jelképez, a cellák pedig leegyszerűsített neuronok – megvizsgáltam annak a lehető-

ségét, hogy a gyűrűben mesterségesen előállított forgóhullám a valóságban egy agyi memória-

folyamatot jelképez. Ehhez a szimulációból kapott eredményeimet az idevágó szakirodalom

segítségével összevetettem az agyban megjelenő, hasonló folyamatokkal, és megkerestem a

kettő közötti összefüggéseket.

1.2 Abstract in English

In this paper I observe artificial, metastable oscillating rotating waves and then compare

them against hypothetical memory processes in real life neural networks. The artificial waves

are generated in a one-dimensional, computer-simulated CNN ring with several cells. All of the

cells have the same connection with their left and their right neighbours, respectively. Cells use

the piecewise linear output function when generating their output.

Firstly I created a simulation environment which is capable of running the experiments.

Then I have studied the mathematics of metastable systems in order to extract a parameter that

is both easily calculated from my simulations, and correlates with a system’s degree of stability.

6

In the next step, based on a previous study in the same topic, I ran simulations first

assuming an automous CNN ring, then adding input to the cells. I observed the effects of

variations in system parameters on the behaviour of cells, especially on the stability of rotating

waves. As an input I chose square waves with a variable period length. The other variable

parameters were initial state, connection strength in either direction in the autonomous case and

strength of input in the other case.

Finally, I considered the possibility of my results being consistent with a memory process

in the human brain. I compared my results with what I have learned from the related literature

about memory processes to conclude my research.

7

Bevezetés a választott témához

2.1 Miért ezt a témát választottam?

A képzésem során két kurzus, elsőként a neurális hálózatokról, majd a celluláris hullám-

számítógépekről szóló keltette föl az érdeklődésem az analóg számítások iránt. Utóbbi órán az

előadónk példák segítségével próbálta megértetni velünk ezek hasznát és előnyeit, például a

digitális számításokkal szemben. A példák egy része arra vonatkozott, hogy az ember központi

idegrendszere is hasonlóan – bár nyilván felfoghatatlanul bonyolultabban – működik ahhoz,

amit ezeknél az egyszerű analóg modelleknél láttunk, és ennek köszönhetően az ezeket megva-

lósító gépek bizonyos, az agyunk számára mindennaposnak számító feladatokat sokkal hatéko-

nyabban oldanak meg, mint arra digitális megfelelőjük képes lenne.

Az az elképzelés, hogy neurális modellek felhasználásával vizsgálhatók lennének feltéte-

lezett agybéli folyamatok, nagyon tetszett, és ezért kerestem fel akkori konzulensemet a tárgy-

ból, hogy komolyabban szeretnék foglalkozni ezzel a témával. Koller Miklós segített kiválasz-

tani a lehetőségek közül egy olyan területet, amellyel már foglalkozott korábban, PhD. kutatásai

közben, így az ő eredményeiből és tapasztalatából indulhattam ki.

2.2 Tudományos motivációm a téma kutatásához

Az agyi memóriafolyamatokat vizsgálva felmerül, hogy agyunk a külső vagy belső inge-

rek által kialakított idegsejt-állapotokról képes asszociálni korábban átélt állapotokra. Ezt úgy is

elképzelhetjük, hogy egy megfelelő (akár a korábbihoz hasonló, akár különböző) stimulus hatá-

sára az idegsejtek közötti kapcsolatokon keresztül ugyanazok az agykérgi területek aktiválódnak

egy időben, amelyek az emlék keletkezésekor is egyszerre működtek. Ennek a jelenségnek a

létrejöttéhez arra lehet szükség, hogy az idegsejtek között egyébként máskor is fennálló össze-

köttetések a megfelelő mintázatban serkentsék és gátolják a neuronokat a különböző területe-

ken. Ha ez a mintázat kellő ideig fenn marad, akkor a fejünkben megjelenik egy emlékkép.

Azonban ezek a képek sohasem statikusak, az agyunk más területein tapasztalható működéséhez

hűen ezek is folyamatosan változnak, újabb asszociációkat hoznak létre, amelyek újabb mintá-

zatokat jelentenek. Vagyis olyan modellre van szükség, ami lehetővé teszi, hogy egy-egy mintá-

zat elég ideig fennmaradhasson (vagyis periodikusan ismétlődjön), hogy felidézhessen egy em-

lékképet, majd utána gyorsan átalakuljon egy újabb mintázattá, vagy éppen lecsengjen, és ezzel

eltűnjön az emlékkép. Ezt matematikailag úgy fogalmazhatnám meg, hogy időlegesen egy sta-

bilhoz közeli, ún. metastabil állapotnak kell létrejönnie.

Ez a jelenség minden bizonnyal az agyban, in vivo is tetten érhető lenne, de én egy másik

megközelítést választottam ehhez a kutatáshoz. Léteznek ugyanis olyan matematikai modellek,

amelyek hasonló metastabil mintázatokat generálnak. Ez az irány arra épül, hogy egy elmélet-

8

ben lehetségesnek tartott jelenséget mesterséges körülmények között létrehozva képesek va-

gyunk azt tanulmányozni, megismerni, és a működő rendszerünkhöz hasonló struktúrákat, mű-

ködést keresni az eredeti környezetben.

Azt mindenképpen meg kell említenem elöljáróban, hogy ez a módszer sok feltételezést

foglal magában a jelenség biológiai oldalával kapcsolatban. Elsősorban nem azzal foglalkoztam,

hogy az itt leírt dolgok ténylegesen megtörténnek-e az idegi memóriahálózatokban, vagy sem.

Sokkal inkább arra voltam kíváncsi, hogy hogyan viselkedik egy olyan rendszer, amely

metastabil állapotokat tud létrehozni. Mindenesetre az átnézett szakirodalomban találtam olyan

cikkeket, amelyek az enyémhez hasonló kutatásokat biológiai szempontból is kontextusba he-

lyezik, ami azt mutatja számomra, hogy szükség van arra, hogy ebből az irányból is közelítsek

az emberi agy megértéséhez, és van értelme a folyamatok mögötti elméletet tanulmányoznom.

9

A kutatás céljainak elemzése

3.1 A dolgozat témája (témabejelentő)

Az agy memóriafolyamatai bizonyos szintjeinek pontos működése mind a mai napig nem

teljesen megértett és feltérképezett terület. Többféle feltételezés és modell létezik ezek működé-

sére, a pontos és részletes összefüggő adatok hiányában viszont néhány ezek közül erősen spe-

kulatív.

A modellek között létezik olyan, mely metastabil oszcillációkhoz és metastabil egyensú-

lyi pontok láncolatához hasonlít egy-egy felismerési folyamatot. Előbbi esetében egy dinamikus

rendszer olyan periodikus megoldás-viselkedéséről beszélünk, mely hosszabb időn keresztül, de

csak látszólagosan mutat oszcilláló viselkedést: a kellően hosszú tranziens után váratlanul a

rendszer egy stabil pontba konvergál. Bizonyos esetekben a metastabil hullámforma egy vagy

több metamorfózison is átmegy, a hullám alakja akár többször is megváltozhat, mielőtt véglege-

sen a stabil egyensúlyi pontba kerül a rendszer. Feltételezések szerint ezek az átmenet sorozatok

kódolhatnak bizonyos emléknyomokat, illetve ezeken az átmeneti sorozatokon keresztül követ-

kezik be ráasszociálás, "rádöbbenés" az emléknyomra.

Metastabil oszcillációt megfigyelhetünk bizonyos template-tel felprogramozott celluláris

architektúrában is. Ennek metastabilitása az autonóm (bemenet nélküli) esetben bizonyított. A

rendszert bemenettel ellátva ugyanakkor annak belső állapotát lényegesen jobban befolyásolhat-

juk, adott esetben irányíthatjuk. A bemenettől függően más köztes állapotokat kereshet fel a

rendszer, az elképzeléshez igazodva más emléknyomokat érinthet.

3.2 A hallgató feladatai (témabejelentő)

1. Vizsgálja meg a biológiai szakirodalomban publikált memóriafolyamat-modelleket!

2. Vizsgálja meg a dinamikus rendszerek szakirodalmában a metastabil jelenségeket mu-

tató modelleket!

3. Készítsen szimulációs környezetet, amelyben egy celluláris architektúrán tud

metastabil oszcillációt megfigyelni és tanulmányozni!

4. Egészítse ki a rendszert úgy, hogy bemenettel lehessen ellátni, vizsgálja meg a bemenet

hatását az eredetileg metastabil jelenség stabilitására vonatkozóan!

5. Próbáljon meg általánosabban csoportosítani a kiismert konkrét példákat!

6. Elemezze az alkalmazott eljárása és módszere helyességét, értékelje az eredményeket a

szakirodalmi ismeretek fényében!

10

6.3 A feladatok értelmezése

A biológiai szakirodalomban elsősorban olyan jellemzőit keresem a memóriafolyamatok-

nak, amelyek ismertek, és amelyek az én rendszeremben is megfigyelhető, összehasonlítható

jelenségeknek számítanak. Mivel nem élő neuronhálózatokon folytatok vizsgálatokat, ennél a

lépésnél el kell vonatkoztatni majd a konkrét, emberi agyban végbemenő jelenségektől, és

absztraktabb kikötéseket kell tenni. Meg kell vizsgálnom, mennyire jellemző a metastabilitás az

emberi agyban, és hogy ez milyen módon lehet egy memóriafolyamat jellemzője. Annak is utá-

na kell néznem, hogy a metastabilitást erősítő-gyengítő jelenségek (kapcsolatok erőssége, kör-

nyezetből kapott bemenet) mennyire jellemzők az agyi metastabil jelenségekre.

A dinamikus rendszerek szakirodalmában való körültekintés azért szükséges, mert ennek

segítségével fogom tudni értékelni az eredményül kapott adathalmazt. Itt az egyik legfontosabb

cél, hogy megértsem, mi a metastabilitás, miben különbözik a stabilitástól és az instabilitástól.

Keresnem kell egy olyan mérhető értéket, amely egyértelműen megmutatja a stabilitás mértékét,

ugyanis ezekkel fogom tudni összehasonlítani a különböző futtatásokat olyan szempontból,

hogy sikerült-e stabilizálni egy állapotot valamilyen módosítással, vagy sem. Meg kell ismer-

nem, hogy a hálózat tulajdonságainak (szimmetria, kezdeti értékek, bemenet) milyen hatása

lehet a rendszerre, hogy ennek megfelelően tudjam kitűzni a futtatandó beállításokat a későbbi-

ekben.

A szimulációs környezet elkészítésénél elvárás, hogy autonóm, illetve bemenettel ellátott

gyűrűk dinamikáját is megoldó programot írjak. Az eredményeket meg kell tudjam jeleníteni,

tudnom kell további számításokat (pl. Floquet-sajátértékek) végezni a programommal. Lehető-

leg matematikailag minél pontosabban számoló módszert kell használnom, ami megfelelően

gyors is. A változtatandó paramétereknek állíthatóknak kell lenniük, minden elvárható beállítás-

sal működnie kell a környezetnek.

Az eredményeket a megismert irodalom alapján rendszerbe kell tudnom csoportosítani, és

következtetnem kell arra, hogy miért a tapasztalt eredmények jöttek ki, vagy arra, hogy miért

nem a várható eredményekkel találkoztam. Mérlegelnem kell, hogy vannak-e olyan irányai a

területnek, amiket kihagytam, nem vettem figyelembe a célkitűzéseimnél.

Az eredményeket összevetve a feltételezésekkel értékelnem kell a szakdolgozat sikerét,

figyelembe véve a szakirodalmat. Végül ellenőriznem kell a kitűzött célok és feladatok teljesíté-

sét.

11

Az irodalom áttekintése

4.1 A téma előzménye

Témavezetőm, dr. Koller Miklós PhD disszertációjának 3. fejezete a kutatásom közvetlen

előzménye [2]. Témája nagyon hasonló a jelen szakdolgozatéhoz, bár az én témám új megköze-

lítésből szemléli a jelenséget a biológiai vonatkozás beemelésével, így távolodva el Koller Mik-

lós konkrét kutatásától. Ő a disszertációjában metastabil oszcillációkat vizsgált egy általa szi-

mulált, később megépített áramkörben. Az általa tervezett architektúra egy 16 cellás CNN gyűrű

volt. A gyűrű, hasonlóan az én kutatásomhoz, egy olyan egydimenziós CNN hálózatot jelent,

amelynek határfeltétele folytonossá teszi azt, vagyis a két szélső cellát összekapcsolja.

A cellák a három részre tagolt, szakaszonként lineáris kimeneti függvényt használták.

Csatolási együtthatóik a következők: minden cella önmagába nullaszoros, bal szomszédjára α,

jobb szomszédjára β együtthatóval csatolta a kimenetét. 16 cellás esetben a kezdeti állapot egy

16 elem nagyságú vektor, amely az ő kísérleteiben kizárólag a +1 és -1 értékeket tartalmazhatta.

Az autonóm kikötésnek megfelelően a bemenet csatolása mindenütt 0 volt.

Koller Miklós egy szemléletes grafikonon foglalta össze azt, hogy a különböző együttha-

tók változtatásával hogyan változik a gyűrűben létrejövő metastabil hullám viselkedése. (4.1.

ábra).

4.1. ábra:

Az α és β értékek a sík két dimenziójában változva megváltoztatják a gyűrűben létrejövő állapotvál-

tozások tulajdonságait. A világosabb szürkével jelölt régióban Koller Miklós eredményei szerint

12

egyes típusú, a sötétszürke részen kettes típusú metastabil hullámok jönnek létre.

Az egyes típusú hullámok esetén egyszerre csak egy-egy elszigetelt cella van a kimeneti

függvény lineáris régiójában. A kettes típusúaknál a szomszédos cellák közül egyszerre több is

a lineáris régióban van, átfedésben egymással. A szaturációs pont azt az állapotot jelzi, ahol az

összes cella vagy -1, vagy +1 értéket vesz föl.

Fontos viszonyítási alap a munkámhoz továbbá az a tény, hogy Koller Miklós is végzett

szimulációkat az áramkörrel. A szimulációk egy részét hozzám hasonlóan MATLABban végezte

el, így előzetesen is képet kaphattam arról, hogy mik azok a jelenségek, amelyekre figyelni kell

a futtatásnál és az eredmények értékelésénél.

4.2 A metastabilitás matematikája

A metastabil rendszerek dinamikájának matematikai megalapozottságának bizonyítására

Koller Miklós disszertációjában [2] többször hivatkozik dr. Garay Barnabás munkájára. Ezért a

matematikai környezet megismeréséhez én is tanulmányoztam Garay Barnabás jegyzetét, amely

egy nemlineáris dinamikával foglalkozó tárgyhoz készült [1].

A jegyzet 128. oldalán bevezetett fogalmak a Poincaré-metszősík, Poincaré-

követőfüggvény és a Floquet-sajátértékek, amelyek segítségével a periodikusság mértéke szám-

szerűsíthetővé válik. A módszer lényege szemléletesen a következő: N dimenziós állapotvektor

esetén egy periodikus, vagy periodikushoz hasonló pálya N-dimenziós térben ábrázolva körbe-

záródó (illetve majdnem körbezáródó) mintázatot fog kirajzolni. Ha ennek a mintázatnak min-

den periódusában (illetve „kvázi periódusában” periodikusnak tűnő viselkedésnél) megvizsgál-

juk egy olyan N-dimenziós pontját, ami jól azonosíthatóan ugyanahhoz a fázishoz tartozik egy

perióduson belül, akkor megvizsgálhatjuk a mintázat megváltozását egy perióduson belül. Ezt a

jól azonosítható pontot úgy tekintjük, mint azt a pillanatot, amikor az állapotfüggvény átlépi egy

bizonyos irányban ugyanazt az N-1-dimenziós síkot a térben. Ezt a síkot nevezzük Poincaré-

metszősíknak. A metszősík pillanatában egymásra helyezve az egymást követő állapotokat és

kiszámítva a kettő közötti megváltozás vektorát megkapjuk a Poincaré-követőfüggvényt.

Ha a különböző koordinátákat egy kis pozitív ε számmal perturbáljuk, a következő perió-

dus vetülete is változni fog a metszősíkon. Ha minden koordinátát perturbálunk, majd a Poinca-

ré-követőfüggvényekből kivonjuk a perturbálás nélküli követőfüggvényt, minden koordinátára

kapunk a követőfüggvények megváltozásait tartalmazó vektort. Mivel mindig az N-1 dimenziós

síkon való vetületet tekintettük, ezért a vektorok lineárisan összefüggő rendszert alkotnak majd.

A megfelelő eltávolításával azonban függetlenné tesszük a rendszert. A megváltozás-vektorokat

ε-nal leosztva relatív megváltozásokat kapunk. A vektorokat egymás utáni sorokba rendezve és

a kihagyott koordinátának megfelelő sort eltávolítva egy négyzetes mátrixot kapunk. Ennek

sajátértékei lesznek a Floquet-sajátértékek, melyek nagyságából következtethetünk a pálya orbi-

tális stabilitására, illetve instabilitására. (Ez a fogalom azt takarja, hogy a megfigyelt függvény

13

végső soron konvergál-e egy ténylegesen periodikus mozgáshoz, vagy sem.) Az összefüggés

nagyon egyszerű, ugyanis ha a legnagyobb sajátérték egynél kisebb, akkor a pálya exponenciá-

lisan közelít egy periodikus pályához, amennyiben viszont egynél szigorúan nagyobb, akkor a

pálya biztosan orbitálisan instabil [1]. [2]-ből egy még ennél is tovább menő állítást használok

fel további következtetések levonására, mégpedig azt, hogy amennyiben a legnagyobb sajátér-

ték, bár egynél nagyobb, mégis egyhez elég közeli szám, akkor a függvény rövidtávon a perio-

dikushoz nagyon hasonló, hosszabb távon mégis instabil viselkedést fog követni. Ezt a jelensé-

get Koller Miklóshoz hasonlóan metastabil oszcillációnak neveztem a kutatás során [2].

4.3 A metastabil modellek vizsgálata a szakirodalomban

Fontos megjegyeznem, hogy a szakirodalomban körbeolvasgatva nem találtam olyan

publikációt, mely pontosan az általam vizsgálthoz hasonló rendszerrel foglalkozott volna, ter-

mészetesen az első alpontban már említett disszertáción kívül. Viszont a jelenséget több részre

bontva már több érdekes, a témát érintő olvasmányt találtam.

Ezek egyike az agyban végbemenő folyamatok jellemző metastabil viselkedésével foglal-

kozik [5]. A „Metastabil agyhoz” címzett publikációban arról van szó, hogy egy, a szerző által

felállított elmélet szerint az agyban a neuronok pillanatnyi, időben gyorsan változó összhangja

jellemzőbb és hatékonyabb viselkedés, mint az időben állandó módon való izgatás, gátlás. Tehát

érdemes megfigyelni ebben az esetben, hogy a metastabilitás egy nagyon hasonló kontextusban

mást is jelenthet.

Mégis igyekeztem kiemelni a hasonlóságokat a saját rendszeremmel. Tognioli írásában

egy koordinációs dinamikának nevezett jelenségre hivatkozik, amelyet funkciójuk miatt össze-

köttetésben lévő neuronok között figyelt meg. Az elmélet szerint a neuronok között folyamato-

san zajló, időben nagyon változékony, mind a kapcsolódás és az elszigetelődés felé irányuló

párhuzamos folyamatok zajlanak. Ezek a folyamatok a neuroncsoportok működéséből adódnak,

és bizonyos saját ritmust vagy mintázatot követnek. Úgy is értelmezhető ez, hogy a szóban for-

gó neuronok egyfajta periodikus mintázatot generálnak. Ennek a periodikusságnak a frekvenciá-

ja többnyire kissé eltérő a különböző területeken, illetve fázisuk egymáshoz képes el van tolva,

azonban egyidejű működésük esetén a mintázatok összhangba kerülhetnek az egymásra való

hatás révén. Tognioli szerint ez a koordináció a neuronhálózatok dinamikájából eredő jelenség,

amely nagyon jellemző az agyunk működésére, szemléletesen például a motoros működés ösz-

szehangolásánál, ahol kifejezetten fontos szerepet kap a ritmikus mintázatgenerálás [5].

A közös periódusidejű mintázat az előzőekből következően nem lesz stabil, nem fog ma-

gától, további stabilizáló hatások nélkül hosszú ideig fennmaradni, ugyanis a különböző egyéb

területek hatásai gyengítik a fázisok „összeragadását” (angolul: phase locking). Ezek a szegre-

gáció felé irányuló folyamatok idővel képesek a területeket egymástól függetlenül oszcilláló

viselkedésbe juttatni. Ezt a tranziens, időtől erősen függő, különböző funkciók végrehajtása

14

esetén létrejövő egyidejűséget nevezi a szerző metastabilitásnak, amely szerinte a fáziskapcsolt

(phase-locked) és csatolatlan (uncoupled) állapotok közötti átjárhatóságot és időbeliséget jelen-

ti. Az összekapcsoltság mértékét kifejező változót Tognioli koordinációs változónak

(coordination variable) nevezi [5].

Egy másik említésre méltó cikk a témában Yo Horikawa publikációja [4]. Az általa vizs-

gált rendszer sok szempontból hasonló a kutatásom témájához, ugyanis „Metastabil dinamikai

mintázatok és ezek stabilizálódása két irányban csatolt szigmaid neuron tömbökben”

(„Metastable dynamical patterns and their stabilization in arrays of bidirectionally coupled

sigmoidal neurons”) c. írásában egyrészt hozzám hasonlóan egydimenziós, két irányban csatolt

neuronhálózatok (gyűrűk) belső viselkedését vizsgálta, másrészt szintén metastabil mintázatokat

tanulmányozott [4].

Horikawa kísérleteiből kiderül, hogy szimmetrikus1 esetben, két stabil, térben állandó ál-

lapotvektorral rendelkező gyűrűknél a tranziens, metastabil mintázatok lecsengési ideje a neu-

ronok számával exponenciálisan növekszik, vagyis egyre inkább a stabilitás felé húznak az álta-

la előidézett véletlenszerű mintázatok. Hasonló stabilizálódást ért el a csatolási paraméterek

nagyságának együttes változtatásával, képes volt teljesen stabilizálni az állapotokat. Mindkét

jelenséget megfigyelte Koller Miklós is disszertációjában, Horikawához hasonló módon, bár

különböző rendszerben [2].

Aszimmetrikus csatolási paraméterek esetén forgó hullámokat észlelt, melyek forgása az

erősebb csatolás irányában történt. Ebben az esetben azonban a mintázatok nem stabilizálódtak,

hanem mindig lecsengtek idővel. Ezek a megfigyelések az én hálózatomnál is releváns viszo-

nyítási alapnak számítanak, ugyanis hasonló jelenséget én is észleltem.

Horikawa szóhasználata, ahogy a mintázatokat metastabilnak nevezi, nagyon hasonló ah-

hoz, ahogy én használtam ezt a szót [4].

A két rendszer az övé és az enyém abban különbözik, hogy ő a folytonosan deriválható,

bár a szakaszonként lineárishoz nagyon hasonló alakú szigmaid kimeneti függvény egy változa-

tát alkalmazta a neuronoknál. Ez feltételezhetően nem okoz nagy különbséget a mérések ered-

ményének értékelésénél, ugyanis az alapvető tulajdonságaik nagyon hasonlóak a függvények-

nek. A középső régió itt is egy lineárishoz közelítő karakterisztikát mutat, míg ±∞ felé elmoz-

dulva viszonylag hamar közelítőleg konstanssá válnak a szigmaid függvények.

4.4 A biológiai szakirodalom áttekintése a jelenség biológiai vonatkozásainak

megismeréséhez

Bár az eddigi cikkeknek is volt több-kevesebb biológiai vonatkozása (főleg az elsőként

tárgyalt „The Metastable Brain” címűnek, ami konkrét agyi folyamatokat vizsgált), az első

1 Mindkét irányban azonos csatolási paraméterrel rendelkező neuronokból épített hálózat.

15

esetben a tárgyalt folyamatok viszonylagos különbözősége miatt biológiai szempontból csak

távoli párhuzamokat húzhattam, a másodiknál pedig túl kevésnek tartottam a biológiai vonatko-

zást.

Rabinovich cikkében [6] konkrét agyi neurális hálózatok működése mentén elindulva

hangsúlyozza a tranziens folyamatok szerepét. Nem tartja életszerűnek a stabil állapotok által

meghatározott rendszereket, ugyanis szerinte a valódi idegsejtek között végbemenő folyamatok

időskálája kisebb léptékű, mint ami ahhoz volna szükséges, hogy a hálózatok ténylegesen is

elérjék stabil határállapotaikat. Tehát a számítások gyakorlatilag a tranziens állapotokkal dol-

goznak a kutató szerint.

A cikkben kifejti, hogy a stabil állapotok tényleges helyzeténél sokkal fontosabb lehet a

trajektória, amelyen haladva az állapot konvergál ezekhez az állapotokhoz. Ennek bemutatására

felhoz egy példát is: sáskák csápján végzett vizsgálatokkal rögzítették az ott található érzékelő

és feldolgozó neuronok aktivitási mintázatát. Azt észlelték, hogy a tranziens trajektóriák közötti

távolság átlagosan sokkal nagyobb, mint a stabil pontok közti. Ezt összekapcsolva azzal a meg-

figyeléssel, hogy a principális neuronok jeleit átvevő, következő szintbéli neuronok leginkább

az érzékelő neuronok tranziens szakasza alatt voltak aktívak, következik, hogy a szaglórendszer

kifejezetten a trajektóriák különválasztására alapozza a különböző szagok felismerését, ami a

jelek közti nagyobb távolság miatt feltehetőleg biztosabban történik meg [6].

A szagok felismerését a cikk ezek alapján különböző trajektóriákhoz kapcsolja, amelyek

érzékenyek a bemenet kis változásaira, a különböző koncentrációk, szagok más-más útvonala-

kon közelítenek a stabil állapot felé, amit különben ritkán érnek el, mivel ehhez az lenne szük-

séges, hogy kifejezetten hosszabb ideig legyen kitéve az érzékszerv az adott szagmintának. Sta-

bil tranziensek mégis már viszonylag rövid stimulusnál létrejönnek, ami megint csak a tranziens

viselkedés önállóságát bizonyítja a stabil pont elérése nélkül [6].

A következő cikk (Rabinovich, [7]) már kifejezetten az információ feldolgozására helyezi

a hangsúlyt. Az általa chunking dynamicsnak nevezett, magyarul feldarabolás dinamikájára

fordítható elképzelés lényege, hogy az agy a komplex, különböző típusú információt tartalmazó

feladatok apróbb részekre bontva oldja meg. Ezt szerinte nyeregpontok, vagyis stabilnak tűnő,

metastabil állapotok egymásutánjaként lehet kivitelezni. Az előző cikk témájával szorosan ösz-

szefügg a megállapítás, miszerint a metastabil nyeregpontok közötti útvonalak, az átmenetek

sorrendje szintén fontos a feladat lebontásában, nem csak az érintett állapotok. Ezeket az átme-

neteket stabil heteroklinikus csatornáknak (SHC, stable heteroclinic channel) nevezi.

Ez a cikk konkrét példaként megemlíti, hogy a rövidtávú memória is feltételezhetően

ilyen átmenetek segítségével kapcsolja össze az információ különböző darabjait, köztük hierar-

chiát képezve, vagy egyenrangú kapcsolatokat kialakítva. Az emléknyom felelevenítése egy

hasonló átmeneten keresztül történhet meg, metastabil állapotok egymásba való átmeneteként

[7].

16

Végül egy tankönyvet tanulmányoztam [3], hogy többet megtudjak az asszociációs me-

móriahálózatokról. A „The Handbook of Brain Theory and Neural Networks” c. könyvből meg-

tudtam, hogy az ilyen neurális hálózatok általában viszonylag sok kevésbé stabil állapotból ké-

pesek egy stabilabb, kisebb energiájú állapotba vezetni a rendszert. Bár látszólag a stabil pontra

asszociáló hálózatok nem metastabil alapon működnek, az előző cikkek kifejtették, hogy az

ilyen átmeneteknél, élő rendszerekben a metastabil szakasz épp olyan fontos, mint a megérkezés

a stabil helyzetbe a folyamat végén [6][7]. A könyvből megtudtam, hogy az asszociatív hálóza-

tok mintázatfelismerőként hálózatként is működhetnek. A bemenetként kapott állapotmintázatot

képesek kategorizálni, így működik memória jellegük. Ez azért érdekes, mert valójában a

metastabil rendszerek stabilizálódására is tekinthetünk egyfajta mintázat-felismerésként: a tran-

ziens mintázat, amennyiben bizonyos feltételeknek megfelel, képes megszilárdulni. Ez a jelen-

ség az asszociáció ebben az esetben [3].

17

A tervezés lépései és a kutatási folyamat

5.1 A programozási környezet megválasztása

A szóban forgó gyűrű viselkedését számítógépen szimuláltam. Programozási környezet-

nek a MathWorks MATLAB 2013b szoftvert választottam. Elsősorban azért így döntöttem

(egyéb, némileg „manuálisabb” nyelvek helyett, mint akár a C++), mert a MATLAB natív mó-

don nagyon jól kezeli az általam felvázolthoz hasonló dinamikai rendszereket. Ennek a progra-

mozási nyelvnek a kialakításánál feltehetően komoly szempont volt, hogy könnyű legyen mátri-

xokkal műveleteket végezni, és a program átláthatóan kezelje a tömbökön végzett műveleteket,

legyen szó akár egyszerre N különböző kiindulási értékkel futó numerikus közelítésekről, mint

ahogy arra az én esetemben szükség volt. Ezen kívül a MATLAB számomra nagyon logikus

nyelv. A szintaktikája, függvényei sokkal jobban működnek az elméleti, matematikai gondolko-

dásmóddal, és kevesebbet kell a háttérben zajló folyamatokkal foglalkozni. Az esetleges hibák

könnyű felderítése mellett nagyon jól használható beépített dokumentációt és súgót tartalmaz a

program, amely lényegesen megkönnyíti a munkát olyan számára, mint én, aki nem ismerem

kívülről minden parancs összes használati módját.

Bár az előző bekezdésben felsorolt érvek alapján a választás számomra egyértelmű volt,

fontos megemlítenem a MATLAB hátrányait is egyéb, „közvetlenebb” programozási nyelvek-

kel szemben. Egyrészt a beépített függvények használata, saját procedúrák írásának szükségte-

lensége miatt bizonyos számítási folyamatokban meg kell bíznom anélkül, hogy ismerném a

pontos működésüket. Ez a probléma az én esetemben az ode45 differenciálegyenlet-megoldó

függvénynél fel is merült. A numerikus megoldásnál a függvény ugyanis okvetlenül bizonyos

kerekítéseket alkalmaz, és ezek befolyásolják az eredményt. Ebből különböző hibák erednek,

mint például az, hogy a gyűrű szimmetrikus kezdeti értékekkel, autonóm működésnél soha nem

jut el a szaturációs pontokba, bár ez a valóságban megtörténne [2]. A pontos okát ennek a prob-

lémának nem ismerem, de feltehetőleg az ode45 alkalmaz bizonyos stabilizációs mechanizmust

vagy kerekítést annak érdekében, hogy minimális eltérések ne okozzák a dinamikai rendszer

„elszállását”. Ez azonban egy metastabil oszcilláció esetében akár azzal is végződhet, hogy a

szimulációban a rendszer stabilizálódik, így eltér a valós viselkedéstől. A szimuláció hibáiról

később még ejtek néhány szót, de bővebben [2]-ben is olvashatnak róla.

A MATLAB másik hátránya a lassúsága. A függvények egymással való kompatibilitásá-

nak, a sokoldalúságnak és matematikailag logikusabb gondolkodásnak az ára ugyanis a legtöbb

esetben sokkal lassabb lefutás lesz, mint például C++-ban írt programoknál. Mivel nem volt

célom, hogy a program nagyobb gyűrűket1 is ésszerű időn belül szimuláljon – a célom elsősor-

1 A kutatásom során 16 vagy kevesebb cellából álló gyűrűket szimuláltam, ennél sokkal több cel-

lával rendelkező gyűrűkre gondolok itt.

18

ban a gyűrű viselkedésének megismerése volt, ami viszonylag kevés cellánál is szépen látszik –

ezért ezt a problémát figyelmen kívül hagyhattam. Mégis, amikor próbaképp egy kicsit nagyobb

(kb. kétszer akkora) gyűrűt futtattam, a programom futási ideje sokszorosa volt annak, amit

megszoktam N = 16 esetben. Nyilvánvaló, hogy több cellánál egy gyorsabb algoritmusra, az

erőforrásokat jobban kihasználó programozási nyelvre és erősebb hardverre van szükség.

5.2 A szimuláció megtervezése

A vizsgált, két irányban csatolt, autonóm, illetve bemenettel ellátott egydimenziós CNN

gyűrű (tehát szélein is összekapcsolt struktúra) szimulációjához előbb szükséges a dinamika

matematikai működését felvázolni. A gyűrű szimulációjának megtervezéséhez a klasszikus

egydimenziós CNN dinamikai egyenletet használtam föl, kissé leegyszerűsítve, az általam vizs-

gált rendszer tulajdonságainak megfelelően. A következő egyenletről van szó:

�̇� = −𝑋 + 𝐴 ∙ 𝑌 + 𝐵 ∙ 𝑈

𝐴 = [𝛼 0 𝛽]

Tehát a cellák önmagukra egyáltalán nem, a szomszédaikra pedig bal, illetve jobb irányba kü-

lön-külön változtatható módon csatolják kimenetüket. A z vagy bias paraméter fel sincs tüntet-

ve, ugyanis értéke 0. A két fő eset, az autonóm és a bemenettel ellátott gyűrű közötti különbség:

i) Autonóm esetben a bemenet csatolása 0.

𝐵 = 0

ii) Bemenettel ellátott esetben pedig a következő:

𝐵 = [0 𝛾 0]

A kimeneteket a szakaszonként lineáris kimeneti függvénnyel határozzuk meg.

𝑌 = 𝑓(𝑋)

𝑓(𝑥) = 1

2|𝑥 + 1| −

1

2|𝑥 − 1|

Az állapotvektorok, bemeneti és kimeneti vektorok mind N dimenziósak, ahol N a cella-

számot jelenti. α, β és γ változtatható paraméterek. A kezdeti állapotok szintén N dimenziós

vektorok, melyek csak ±1 értékeket tartalmaznak, bár változtatható arányban és elrendezésben.

Ezen feltételek leprogramozása után már képes voltam egy általam megadott bemenettel

tetszőleges ideig futtatni a szimulációt, és kirajzolni az eredményt.

19

A következő lépés a Floquet-sajátértékek kiszámítása volt. Ehhez szükséges a hullám

alakjának ismerete, amiből kiválaszthatjuk a megfelelő metszősíkot. A hullám alakja az 5.1.

ábrán látható.

5.1. ábra

A hullám jellemző alakja 𝑋0 = [1 1 1 1 −1 −1 −1 −1] kezdeti feltétel és 𝑁 = 8 ese-

tén. Az ábrán az egyik cella állapota látható az idő függvényében.

Az összes cella ilyen állapotfüggvénnyel rendelkezik, azonban egymáshoz képest időben

el vannak tolva. Metszősíknak azt a pillanatot választottam, amikor az első cella állapota éppen

negatívból pozitív irányba szeli át az x tengelyt a negyedik, majd az ötödik alkalommal. (Az

esetleges kezdeti tranziens hiba lecsillapodása érdekében vártam három periódusnyi időt.)

A metszősík pontos meghatározásához a mintavételi pontok diszkrét jellege miatt egy kö-

zelítő mechanizmust kellett alkalmaznom. Kiválasztottam azokat az állapotpárokat, amelyek

közül az első még negatív, a második már pozitív. Ezek közül a negyedik és ötödik párral dol-

goztam. A pár két tagja értékeiből kiszámoltam, hogy a köztük levő állapotátmenetet lineárisnak

tekintve mikor érné el a cella értéke éppen a nullát. A tengelymetszés t* időpillanata:

𝑡∗ = 𝑡1 − 𝑥1 ∙𝑡2 − 𝑡1

𝑥2 − 𝑥1

Ahol t1, t2 a mintapár két tagjához tartozó időpillanatokat, x1 és x2 pedig az állapotokat jelenti.

20

A két t* időpillanatban kiszámolt állapotvektorokkal kiszámítottam a Floquet-

sajátérékeket a 4.2 pontban leírt módon. A legnagyobb sajátértéket és a periódusidőt (𝑇 = 𝑡2∗ −

𝑡1∗) adja vissza a program, ezeket rögzítettem a bemenetekkel együtt.

A MATLAB scriptek a függelékben találhatók meg.

5.3 A paraméterek megválasztása

Autonóm esetben a változtatható paraméterek α és β, illetve a kezdeti állapotok vektora

voltak. A csatolási paraméterek változtatásával az α - β síkot akartam feltérképezni, hogy körül-

belüli fogalmam legyen arról, hogy az értékpárok milyen hatással vannak a létrejövő metastabil

oszcillációra. Ehhez Koller Miklós disszertációjának ábráját (4.1. ábra) használtam, amelyen ő

már bejelölte a különböző viselkedésekhez tartozó régiókat.

A kezdeti állapotvektor változtatásával azt akartam megtapasztalni, hogy a hullámalakra

milyen hatással van a kiindulási vektor (~négyszöghullám) alakja.

Bemenettel rendelkező gyűrűnél fix csatolással és bemenettel futtattam. Itt a változtatható

paraméterek γ, azaz a bemenet csatolása, illetve a bemeneti négyszöghullám periódusideje. Arra

voltam kíváncsi, hogy milyen csatolásnál lesz elég finom, de még érezhető hatású a bemenet.

Túl nagy csatolásnál arra számítottam, hogy a bemenet fogja meghatározni a hullám új alakját,

és a rendszer periódusideje gyakorlatilag követni fogja a bemenet periódusidejét. Túl kicsi csa-

tolásnál viszont nem lesz érezhető a befolyásoló hatás. A kettő közötti intervallumban lévő csa-

tolásnál érdemes kísérletezni a bemeneti periódusidővel, hogy megtudjam, milyen stabilizáló

vagy romboló hatással vannak a különböző frekvenciájú bemenetek a hullámalakra.

21

Az eredmények értékelése a kitűzött feladatok fényében

6.1 Mérések az autonóm CNN gyűrűvel

Először a csatolási paraméterek változtatásának hatásait vizsgálom. Ezek a futtatások

kezdeti állapotnak a [2]-ből tanult jelöléssel {1}8 {−1}8 vektort használta. Ezt úgy kell értel-

mezni, hogy 8 db 1, majd 8 db -1 található a vektorban, amiből következik, hogy 𝑁 = 16. Az

eredményeket a következő táblázat foglalja össze:

6.1. táblázat

# α β T λ

1 1,5 0 13,45 1,0516

2 2 0 12,48 1,0676

3 2 1 29,13 1,000511

4 3 0,5 14,90 1,0390

5 3,5 2,5 40,94 1,0000665

6 4 -2 4,59 1,3360

7 4 2 23,68 1,0026

8 5 1 14,98 1,0417

Látszik, hogy messze a leginkább stabil csatolás az 5. sorban szereplő. Ezt a párosítást

fogjuk használni ezután az összes mérésben.

Ezután a kiindulási hullámalak változtatásával kísérleteztem. A hullámról egy kép már

szerepelt (5.1. ábra). Általánosságban annyi elmondható a hullámalakról, hogy minden cellában

ugyanolyan alakú hullámok jönnek létre. A hullámok maximumértéke az y tengelyre vonatkoz-

tatva 𝛼 + 𝛽, minimumértékük ennek az ellentettje. A kezdeti értékek formáját a hullámok kö-

vetni fogják olyan módon, hogy a pozitív és negatív értékekkel arányos időt tölt a hullámalak a

maximum illetve minimum értékeken. Ezt jól mutatja a következő kép is egy másmilyen kezdeti

hullámalakkal mérve (6.1. ábra). Itt {1}6 {-1}4 alakú kiindulási helyzettel futtattam.

Egy hasonló futtatás eredményét mutatja a 6.2. ábra. Ezen {1}12 {-1}4 feltétellel indított

szimuláció képét figyelhetjük meg. Itt a λ = 1,2154 és T = 40,7954.

A 6.3. ábra ugyanennek a rendszernek a lecsengését mutatja be. Fontos, hogy a kiindulási

vektor ne legyen szimmetrikus, hogy meg tudjuk figyelni a jelenséget.

22

6.1. ábra

X0 = {1}6 {-1}4, 𝑁 = 10

6.2. ábra

X0 = {1}12 {-1}4, 𝑁 = 16

23

6.3. ábra

Metastabil rendszer összeomlása.

6.2 Mérések a bemenettel ellátott gyűrűn

Először a csatolási paraméter variálásával foglalkoztam. A 6.2. táblázat összefoglalja az

eredményeket. A kezdeti állapot {1}8{−1}8 volt, tehát 𝑁 = 16. Az autonóm esetből ismerjük a

gyűrűben kialakuló hullámok periódusidejét, ami 40,94 időegység (6.1. táblázat, 5. sor).

6.2. táblázat

# γ Tinput T λ

1 0,1 35 36,995 1,001112

2 0,1 41 41,000 0,9997

3 0,1 42 42,000 0,9987

4 0,1 43 43,000 0,9987

5 0,01 20 40,956 1,0003705

6 0,01 35 41,379 1,002251

7 0,01 41 41,033 0,9999

8 0,01 42 41,394 0,99995

9 0,01 43 41,395 0,99995

10 0,01 46 41,360 0,9984

11 0,001 35 40,983 1,0002402

12 0,001 41 40,961 1,00005166

13 0,001 46 40,968 1,00005981

24

Megállapítható az eredményekből, hogy γ = 0,1-es csatolással a bemenet gyakorlatilag

teljesen átveszi az uralmat a hullámok periódusideje felett, és „erőszakkal” stabilizálja őket,

vagyis nem engedi, hogy más alakot vegyenek fel. Egy nagyságrenddel kisebb bemenetnél a

hullámalak nagyon szépen reagál a bemenet periódusidejére. Azt látjuk, hogy a rendszer saját

periódusidejéhez közeli bemenetek teljesen stabilizálják a hullámokat, míg a jóval különböző

periódusidők rontják a stabilitást, de a gyűrű saját periódusidejét ezzel együtt is csak kis mér-

tékben változtatják meg. Az ennél is kisebb nagyságrendű (γ = 0,001) bemenetek gyakorlatilag

ártalmatlanok a rendszerre nézve, csak egész kis mértékben képesek stabilizálni, illetve destabi-

lizálni azt.

Érdekes, hogy a 10. sorban szereplő futtatás stabilabbnak bizonyult, mint a nála kicsit ki-

sebb, az eredeti periódusidőhöz közelebb eső értékek. Elképzelhető, hogy bizonyos feltételek

teljesülése esetén létezik az eredeti frekvenciától jócskán eltérő bemenet, ami szintén viszonylag

stabillá tudja tenni a bemenetet.

Egy ilyen futtatásnál, viszonylag nagyobb csatolás esetén a kirajzolt hullám alakján látha-

tó az eltérő periódusú bemeneti hullám. A 6.4. ábrán egy ilyen jelenség látható, azaz a táblázat

1. sorához tartozó hullámalakok.

6.4. ábra

{1}8{-1}8 alakú kezdeti feltétel 0,1-es csatolással és 35-ös bemeneti periódusidővel.

25

6.4 A szimuláció korlátai

Mint ahogy az 5.1. pontban ismertettem, a MATLAB futtatások egyik problémája, hogy

nem omlik össze a rendszer, amikor a dinamika alapján össze kéne omlania. Ezt ismerve na-

gyon hasznosnak bizonyult a Floquet-sajátértékek használata, amelyek megmutatják, hogy mi-

lyen sokáig bírná a rendszer a stabilhoz közeli állapotát fenntartani.

Egy másik korlátjára ezeknek a számításoknak a témavezetőm hívta fel a figyelmemet. 16

cellánál nagyobb rendszerek számolásánál a Floquet-sajátértékek egyre pontatlanabbak lesznek,

majd még több cellánál kifejezetten rossz eredmények jönnek ki, amelyek nem állnak össz-

hangban a rendszer stabilitásának exponenciális erősödésével. A MATLAB numerikus megoldó-

jának valamilyen, általam nem ismert tulajdonságából fakadhat ez. Emiatt nem vizsgáltam 16

cellánál nagyobb rendszereket a szimulációs környezettel.

6.5 Az eredmények értékelése

Az autonóm szituációban (6.1. táblázat) megfigyelhető, hogy a csatolási paraméterek

egymástól való távolsága rontja a stabilitást. A legstabilabb az a két sor, ahol a paraméterek

különbsége csak 1. Ez összhangban áll [4]-gyel, amelyik azt írta, hogy a szimmetrikus csatolás

stabilizálta a rendszert. Én a forgó hullámokra voltam kíváncsi, ezért teljesen szimmetrikus csa-

tolású rendszert nem futtattam, de a tendencia egyértelműen érződik az aszimmetrikus hálóza-

ton is. Ezen felül [2]-höz hasonlóan a 3 környékén lévő csatolási értékek működtek a legjobban.

Az α - β sík felderítésénél kipróbáltam a régiók határai közelében jelentkező különféle összeom-

lásokat és csillapodásokat, illetve a periódusidő megnyúlását, ami gyakorlatilag az oszcilláció

végét jelenti. Ezek mind megtalálhatók [2]-ben is, de mutatják, hogy a szimulációs rendszer jól

és konzisztensen működik. A 3,5-2,5 csatolás-páros szemléletesen mutatta be a gyűrű viselke-

dését.

A kezdeti érték szimmetriája nem meglepő módon stabilizálta a rendszert. Az aszimmet-

rikus állapot a túlsúly irányába borította meg a rendszert, ami így hamarabb eljutott a megfelelő

szaturációs pontba (minden cella által ugyanúgy fölvett végletes állapotba).

A bemenettel rendelkező változatnál sikerült megmutatni, hogy a jelnél százszorta kisebb

bemenet képes effektíven megváltoztatni a rendszer működését. Ez jól mutatja azt a jelenséget,

amit [6]-ban említettek, amikor a koncentrációban és a szagokban mutatkozó minimális különb-

ségek képesek voltak más trajektóriára terelni az érzékelő hálózat tranziens lefutását. Ez a fajta

érzékenység általában sajátja egy mintázatfelismerő rendszernek.

A 6.2. táblázat 5. sorában látható jelenség a legjobb példa arra, amikor egy más frekven-

cián működő rendszer képes minimális ráhatással relatív stabilizálni egy rendszert. A 6. sorban

látható destabilitáshoz képest az 5. sorban viszonylag tartós metastabil állapotot figyelhetünk

meg. Ez egyrészt összhangban áll [5]-tel, ahol megfigyelték azt a jelenséget, hogy gyenge csato-

26

lásnál az eltérő periodikussággal működő rendszerek ideiglenesen megerősítették egymást. A

koordinációs dinamika elméletébe illeszkedik ez az eset, vagyis amikor kialakul egy összecsen-

gés a két hullámforma között, azonban ez metastabil voltának köszönhetően rövid időn belül

elmúlik. Mindez felfogható akként is, ahogy két agyterület rövid ideig kapcsolatban áll egymás-

sal, egyszerre működik, majd ez a kapcsolat megszakad. Másrészt jól mutatja azt is, hogy a 41

időegységnyi periódusidejű hálózat pillanatnyilag képes felismerni a feleakkora periódusidővel

működő hullámot, és bár a felismerés nem olyan erős, hogy stabilizálja a hullámot, mégis meg-

erősíti az egyébként tőle távol álló, autonóm frekvenciás oszcillációt is. Ez absztrakt módon

nagyon hasonlít arra a jelenségre, amit [7]-ben írtak meg, vagyis ahogy az egyik közel stabil,

nyeregpont-szerű állapot átmegy egy másik ilyen, majdnem stabil állapotba.

A 10. sorban látható egy jelenség, ahol egy kevésbé szabályos (41 egység – 46 egység)

periódusidő-arányú bemenet is képes – például a 43 egységnyi periódusidejű bemenethez képest

– a gyűrű periódusidejét közelebb tartani a natív 40,94 időegységhez. Akár ez is jelképezhet egy

olyan állapotot, ami képes megerősíteni az egész hálózat metastabilitását, ezzel végrehajtva egy

állapotátmenetet két nem teljesen stabil állapot között, és így alkalmazva a chunking dynamics

elvét [7].

6.6 Konklúzió

Ezeket a mondatokat olvasva nyilvánvalóvá válik, hogy itt erősen spekulatív összefüggé-

sekről van szó. Az eredményeim nem bizonyítják, hogy ezek a jelenségek létrejönnek és lezaj-

lanak az agyi memóriafolyamatokban, viszont az irodalom alapján felállított feltételezéseket

alátámasztják, ami azt jelenti, hogy lehetséges, hogy ez mégis így van, és egy egydimenziós,

kétirányban kapcsolt CNN gyűrű képes asszociatív funkciókat ellátni.

6.7 Kilátások

Az egyik meglátásom az, hogy egy jobban megírt, erősebb szimulációs környezettel na-

gyobb hálózatokban lehetne vizsgálni a jelenséget, ami realisztikusabb, a gyakorlatban használ-

hatóbb eredményt adhat. Ezen kívül érdemes lenne vizsgálni a paraméterek további változtatá-

sával megfigyelhető változásokat a rendszeren. Következő lépésként keresni lehetne olyan be-

meneteket, amelyek viszonylag távol helyezkednek el a belső oszcilláció frekvenciájától, mégis

megerősítik annak metastabilitását, ami további implikáció lenne a memóriaként való működés-

re, és segítene a létrejövő asszociációk felderítésében.

De más lehetőségeket is látok ezen a területen ezeken kívül. A jelenség gyakorlati hasznát

lehetne kutatni ilyen elven működő asszociatív hálózatokkal, amelyekből később akár újabb

memóriák illetve mintázatfelismerő eszközök is születhetnek.

Az utolsó, számomra legizgalmasabban hangzó lehetőség az lenne, ha a jelenséget valódi

idegsejtek hálózatán vizsgálnám meg. A mostani kutatásom alapján biztos vagyok benne, hogy

27

nagyon sok, még fel nem fedezett folyamat ezen az elven alapul az agyban. Ezek vizsgálata

fényt deríthet eddig megmagyarázatlan agyi funkciókra.

28

Hivatkozások

[1] Dr. Garay Barnabás, „Nemlineáris dinamikus rendszerek,” tantárgyi jegyzet, kiadatlan.

[2] Dr. Koller Miklós, „Long transient metastable oscillations,” Ph.D. dissertation, FIT, PPCU,

Budapest, 2014.

[3] The Handbook of Brain Theory and Neural Networks, 2nd ed., Massachusetts Institute of

Technology, Cambridge, MA, 2003.

[4] Y. Horikawa, „Metastable dynamical patterns and their stabilization in arrays of bidirectionally

coupled sigmoidal neurons,” Phys. Rev. E, vol. 88, pp. 062902, 2013.

[5] E. Tognoli and J. A. S. Kelso, „The metastable brain,” Neuron, vol. 81, no. 1, pp. 35-48, Jan.

2014.

[6] M. Rabinovich, R. Huerta and G. Laurent, „Transient dynamics for neural processing,” Science,

vol. 321, pp. 48-50, Jul. 2008.

[7] M. I. Rabinovich et. al., „Chunking dynamics: heteroclinics in mind,” Frontiers in

Computational Neuroscience, vol. 8, no. 22, Mar. 2014.

29

Függelék: MATLAB scriptek

i) Autonóm eset scriptje

clear all;

%%

% INITIAL CNN RING SIMULATION WITH THE GIVEN VALUES

% Set the parameters of the CNN ring

X = [ 1 1 1 1 -1 -1 -1 -1 ]';

N = length(X);

alpha = 3.5;

beta = 2.5;

% Generate A matrix

A = Generate_1D_propagation_matrix( N, alpha, beta );

% Simulate CNN ring

[ T, X ] = Simulate_CNN_ring( A, X, 500 );

%%

% Plot the state of cell #1

figure;

plot( T, X(:, 1) );

%%

% FLOQUET EIGENVALUE CALCULATION

% We introduce the notation 'X1' ... 'XN', where 'Xi' corresponds to the

% state vector of the i-th cell. It is important to note that inside the

% code 'Xi' is invalid notation, and can be referred to as "X(:, i)" (the

% i-th column of the matrix 'X').

% Create 'Sign_shift_indices', which will contain all the indices where

% 'X1' has just shifted its sign from "-" to "+".

Sign_shift_indices = Locate_negative_to_positive_shift( X(:, 1));

% 'indA' and 'indB' are indices referring to the moments 'tA' and 'tB' in vector 'T',

% when the state of the first cell (X1) has just turned positive from negative the

fourth and fifth time,

% respectively. We create these new variables in order to set reference

% points between which we will be able to measure (simulate) alterations of

% the waveform due to perturbations applied at the 'tA' moment. We could

% set the reference points to the first and second occurences of the "- to +" sign

shift,

% however, we assume the presence of some kind of transience at the

% beginning of the simulation, and we decide to wait for three full cycles

% for this transience to settle.

indA = Sign_shift_indices(4);

indB = Sign_shift_indices(5);

% We create 'XBref', which is a state vector containing the values of all

% the cells at the supposed moment near 'tB' when 'X1' equals its value at

% 'tA' ( = 'X1A'). It is important to note that this moment is not 'tB'. We

% do this in order to be able to assume that a full cycle has happened.

% From now on, 'X1' will not be used in calculations, as its value should

% always equal 'X1A' (we will always use corrigations to make sure about

% this).

XA = X(indA, :); % Value of state vector 'X' at time 'tA'

XBm = X(indB - 1, :); % Value of state vector 'X' at time 'tB' minus 1

XB = X(indB, :); % Value of state vector 'X' at time 'tB'

XBref = Corrigate_XB_values( XA, XBm, XB);

% Create the matrix 'X0', size NxN, every row of which containing the

% values of the cells at the 'tA' moment, except in the i-th row the value

% of 'Xi' is perturbed by a small number (+ 0.001). (So that every row is

% in the form of [ X1(tA), X2(tA), ..., Xi(tA) + 0.001, ..., XN(tA) ]). The

% reason for this is that we want to measure the effect of perturbation

% applied to each of the cells. This means that we will have to simulate

% the CNN ring N-1 times, each time using a different row of the matrix

30

% 'X0' as initial values. (We don't measure the effects of perturbation to

% the first cell as its value should always stay equal to 'X1A'.)

epsilon = 0.001;

X0 = zeros(N,N);

for i = 1:N

X0(i, :) = X(indA, :);

end

X0 = X0 + diag( epsilon + zeros(1, N) );

% Run the simulations, and at the same time create the matrices 'dXM' and

% 'dXM_rel', both the size of N-1 * N. 'dXM' contains in its rows the

% difference between the result of the simulations and the reference vector

% 'XBref'. 'dXM_rel' is derived from 'dXM' by dividing all of its elements

% by epsilon.

dXM = Run_floquet_simulations( N, A, X0, XA, XBref );

dXM_rel = dXM / epsilon;

% Calculate the Floquet eigenvalues. For this we have to remove the first

% column of 'dXM_rel'. (This contains the values of 'X1', which we don't

% need.) The remaining matrix is a square matrix, and after transposing

% it (which we need to do in order to get the results of each of the

% simulations into separate columns), we can calculate its eigenvalues.

dXM_rel = dXM_rel(:, 2:N)';

Floquet_eigenvalues = eig( dXM_rel);

alpha

beta

Floquet_eigenvalues(1)

T0 = T(indB) - T(indA)

ii) Bemenettel rendelkező eset

clear all;

%%

% INITIAL CNN RING SIMULATION WITH THE GIVEN VALUES

% Set the parameters of the CNN ring

X = [ 1 1 1 1 1 1 -1 -1 -1 -1 ]';

% Set initial state of cells, a column vector

alpha = 3.5;

beta = 2.5;

N = length(X);

% Generate A matrix

A = Generate_1D_propagation_matrix( N, alpha, beta );

% Simulate CNN ring

gamma = 0

Tx = 35

[ T, X ] = Simulate_CNN_ring_w_inputs( A, X, 250, gamma, Tx, N );

disp('Finished calculations.')

%%

% Plot the state of cell #1

figure;

plot( T, X(:, 1) );

%%

% FLOQUET EIGENVALUE CALCULATION

% We introduce the notation 'X1' ... 'XN', where 'Xi' corresponds to the

% state vector of the i-th cell. It is important to note that inside the

% code 'Xi' is invalid notation, and can be referred to as "X(:, i)" (the

% i-th column of the matrix 'X').

% Create 'Sign_shift_indices', which will contain all the indices where

% 'X1' has just shifted its sign from "-" to "+".

Sign_shift_indices = Locate_negative_to_positive_shift( X(:, 1));

% 'indA' and 'indB' are indices referring to the moments 'tA' and 'tB' in vector 'T',

31

% when the state of the first cell (X1) has just turned positive from negative the

fourth and fifth time,

% respectively. We create these new variables in order to set reference

% points between which we will be able to measure (simulate) alterations of

% the waveform due to perturbations applied at the 'tA' moment. We could

% set the reference points to the first and second occurences of the "- to +" sign

shift,

% however, we assume the presence of some kind of transience at the

% beginning of the simulation, and we decide to wait for three full cycles

% for this transience to settle.

indA = Sign_shift_indices(4);

indB = Sign_shift_indices(5);

T0 = T(indB) - T(indA)

%%

% We create 'XBref', which is a state vector containing the values of all

% the cells at the supposed moment near 'tB' when 'X1' equals its value at

% 'tA' ( = 'X1A'). It is important to note that this moment is not 'tB'. We

% do this in order to be able to assume that a full cycle has happened.

% From now on, 'X1' will not be used in calculations, as its value should

% always equal 'X1A' (we will always use corrigations to make sure about

% this).

XA = X(indA, :); % Value of state vector 'X' at time 'tA'

XBm = X(indB - 1, :); % Value of state vector 'X' at time 'tB' minus 1

XB = X(indB, :); % Value of state vector 'X' at time 'tB'

XBref = Corrigate_XB_values( XA, XBm, XB);

% Create the matrix 'X0', size NxN, every row of which containing the

% values of the cells at the 'tA' moment, except in the i-th row the value

% of 'Xi' is perturbed by a small number (+ 0.001). (So that every row is

% in the form of [ X1(tA), X2(tA), ..., Xi(tA) + 0.001, ..., XN(tA) ]). The

% reason for this is that we want to measure the effect of perturbation

% applied to each of the cells. This means that we will have to simulate

% the CNN ring N-1 times, each time using a different row of the matrix

% 'X0' as initial values. (We don't measure the effects of perturbation to

% the first cell as its value should always stay equal to 'X1A'.)

epsilon = 0.001;

X0 = zeros(N,N);

for i = 1:N

X0(i, :) = X(indA, :);

end

X0 = X0 + diag( epsilon + zeros(1, N) );

% Run the simulations, and at the same time create the matrices 'dXM' and

% 'dXM_rel', both the size of N-1 * N. 'dXM' contains in its rows the

% difference between the result of the simulations and the reference vector

% 'XBref'. 'dXM_rel' is derived from 'dXM' by dividing all of its elements

% by epsilon.

dXM = Run_floquet_simulations( N, A, X0, XA, XBref );

dXM_rel = dXM / epsilon;

% Calculate the Floquet eigenvalues. For this we have to remove the first

% column of 'dXM_rel'. (This contains the values of 'X1', which we don't

% need.) The remaining matrix is a square matrix, and after transposing

% it (which we need to do in order to get the results of each of the

% simulations into separate columns), we can calculate its eigenvalues.

dXM_rel = dXM_rel(:, 2:N)';

Floquet_eigenvalues = eig( dXM_rel);

Floquet_eigenvalues(1)

iii) Egyéb függvények

function [ T, X ] = Simulate_CNN_ring_w_inputs( A, X0, sim_time, gamma, T0, N )

%Simulate CNN ring with inputs

% T0 is the period time of the input wave

% Describe the CNN dynamics using a function handler

cnn_dynamics = @( T, X ) -X + A * Output_nonlinearity( X ) + gamma .* circshift(X0, [

round(T * N / T0 ), 0 ]);

32

% Solve diff equation

options = odeset( 'RelTol', 2.22045e-14, 'AbsTol', 1e-18 );

[ T, X ] = ode45( cnn_dynamics , [0 sim_time], X0, options);

end

function [ T, X ] = Simulate_CNN_ring( A, X0, sim_time )

%UNTITLED Summary of this function goes here

% Detailed explanation goes here

% Describe the CNN dynamics using a function handler

cnn_dynamics = @( T, X ) -X + A * Output_nonlinearity( X );

% Solve diff equation

options = odeset( 'RelTol', 2.22045e-14, 'AbsTol', 1e-18 );

[ T, X ] = ode45( cnn_dynamics , [0 sim_time], X0, options);

end

function [ Y ] = Output_nonlinearity( X )

%UNTITLED Summary of this function goes here

% Detailed explanation goes here

Y = 1/2 * ( abs( X + 1 ) - abs( X - 1 ));

end

function [ Sign_shift_indices ] = Locate_negative_to_positive_shift( X )

%UNTITLED3 Summary of this function goes here

% Detailed explanation goes here

% Y will contain 1 where X has just turned "+" form "-", 0 elsewhere

X_positive = X > 0; % 1 where X1 is positive, 0 elsewhere

Y = false( size( X_positive));

for i = 2 : length(Y)

Y(i) = and( X_positive(i), not( X_positive(i-1)));

end

Sign_shift_indices = find(Y > 0);

end

function [ A ] = Generate_1D_propagation_matrix( N, alpha, beta )

%UNTITLED2 Summary of this function goes here

% Detailed explanation goes here

A = zeros( N, N );

for i = 1:N

if i == 1

A( i, N ) = alpha;

A( i, 2 ) = beta;

elseif i == N

A( i, N - 1 ) = alpha;

A( i, 1 ) = beta;

else

A( i, i - 1 ) = alpha;

A( i, i + 1 ) = beta;

end

end

end

function [ XB ] = Corrigate_XB_values( XA, XBm, XB)

%UNTITLED2 Summary of this function goes here

% Detailed explanation goes here

alpha = ( XA(1) - XB(1)) / ( XB(1) - XBm(1));

XB = XB + alpha * ( XB - XBm);

end

function [ dXM ] = Run_floquet_simulations( N, A, X0, XA, XBref )

%UNTITLED Summary of this function goes here

% Detailed explanation goes here

dXM = zeros(N-1, N);

for i = 2:N

% Simulate the ring with the corresponding initial values.

[T, X] = Simulate_CNN_ring(A, X0(i, :), 50);

% Find the first occurence of sign shift in 'X1'.

Indices = Locate_negative_to_positive_shift( X(:, 1));

indB = Indices(1);

XB = X( indB, :);

XBm = X( indB - 1, :);

% Corrigate the XB values.

XB = Corrigate_XB_values( XA, XBm, XB);

% Calculate the corresponding row of the matrix.

dXM(i-1, :) = XB - XBref;

end

end