METODI DI STIMA DELL’ORDINE pMETODI DI STIMA DELL’ORDINE pPerPer lala sceltascelta dell’ordinedell’ordine ottimoottimo pp perper unun modellomodello AR,AR, sisi definiscedefinisce unun criteriocriterio didi“errore”“errore” cheche indichiindichi qualqual èè l’ordinel’ordine “ottimo”“ottimo” perper quelquel modellomodello..

L’approccioL’approccio piùpiù semplicesemplice èè quelloquello didi costruirecostruire modellimodelli ARAR didi ordineordine viavia viaviacrescente,crescente, finofino adad ottenereottenere unun minimominimo nellanella funzionefunzione didi errore,errore, datadata dalladallavarianzavarianza dell’erroredell’errore didi predizionepredizione.. PerPer ii metodimetodi visti,visti, però,però, lala varianzavarianza decrescedecrescemonotonicamentemonotonicamente alal crescerecrescere didi pp..

SonoSono statistati definitidefiniti numerosinumerosi critericriteri basatibasati susu funzionifunzioni nonnon monotonemonotone decrescentidecrescenti ,,cheche raggiungonoraggiungono unun valorevalore minimominimo perper qualchequalche valorevalore didi pp perper poipoi crescerecrescerecheche raggiungonoraggiungono unun valorevalore minimominimo perper qualchequalche valorevalore didi pp perper poipoi crescerecrescerenuovamentenuovamente.. IlIl principioprincipio èè quelloquello didi inserireinserire nelnel criteriocriterio unun terminetermine“penalizzante”,“penalizzante”, funzionefunzione didi pp:: infatti,infatti, ilil “principio“principio didi parsimonia”parsimonia” affermaafferma chechel’ordinel’ordine deldel modellomodello devedeve essereessere ilil piùpiù bassobasso possibilepossibile..

VediamoVediamo ii critericriteri piùpiù notinoti..

RicordiamoRicordiamo comunquecomunque cheche lala conoscenzaconoscenza delledelle caratteristichecaratteristiche deldel segnalesegnale alloallostudiostudio ee del/deidel/dei parametriparametri cheche vogliamovogliamo estrarreestrarre dada essoesso èè didi fondamentalefondamentaleimportanzaimportanza perper lala definizionedefinizione didi unun rangerange ammissibileammissibile didi valorivalori entroentro cuicui stimarestimarepp..

CRITERI DI STIMA DELL’ORDINE CRITERI DI STIMA DELL’ORDINE OTTIMOOTTIMO

Final Prediction ErrorFinal Prediction Error

Spesso sottostima l’ordine ottimo.Spesso sottostima l’ordine ottimo.

Akaike Information CriterionAkaike Information Criterion

N=n. di dati, N=n. di dati, ρρρρρρρρpp= varianza dell’errore LP= varianza dell’errore LP

Akaike Information CriterionAkaike Information Criterion

Tende a sovrastimare p per N grandeTende a sovrastimare p per N grande

Minimum Description LengthMinimum Description Length

Non presenta il problema dell’AICNon presenta il problema dell’AIC

Criterion Autoregressive TransferCriterion Autoregressive Transfer

Analogo al precedenteAnalogo al precedente

CONFRONTO METODICONFRONTO METODII dati (circa 1000) provengono da un sistema di equ azioni differenziali del 3I dati (circa 1000) provengono da un sistema di equ azioni differenziali del 3°°ordine ordine

p=3?

p=3p=3

p=3

STIMA LS RICORSIVA (RLS)STIMA LS RICORSIVA (RLS)RLSRLS == RecursiveRecursive LeastLeast SquaresSquares.. E’E’ dettadetta ancheanche stimastima parametricaparametrica “on“on line”line”:: iiparametriparametri all’istanteall’istante tt sonosono stimatistimati sullasulla basebase didi quelliquelli ottenutiottenuti all’istanteall’istante tt--11..

CaratteristicheCaratteristiche ::CaratteristicheCaratteristiche ::

•• AllaAlla basebase deidei sistemisistemi didi controllocontrollo adattativoadattativo(es(es:: dosaggiodosaggio farmaci)farmaci)

•• OccupazioneOccupazione didi memoriamemoria modestamodesta

•• UtiliUtili perper ilil trackingtracking deidei parametriparametri tempotempo--varianti,varianti, ee perper individuarneindividuarne cambiamenticambiamentisignificativisignificativi (es(es:: diagnosidiagnosi didimalfunzionamento)malfunzionamento)..

MINIMI QUADRATI RICORSIVIMINIMI QUADRATI RICORSIVIConCon ilil metodometodo LSLS abbiamoabbiamo vistovisto checheii parametriparametri θθθθθθθθ(t)(t) sisi ottengonoottengono dada::

Definiamo:Definiamo: Da cui:Da cui:

Sostituendo Sostituendo

(1)(1)

(2)(2)

Sostituendo Sostituendo nella (1):nella (1):

CheChe possiamopossiamo scriverescrivere comecome::

εεεεεεεε(t)= e(t)= errore di predizionerrore di predizione

IlIl calcolocalcolo didi P(t)P(t) implicaimplica un’inversioneun’inversione didi matricematrice adad ogniogni iterazioneiterazione(numericamente(numericamente pocopoco efficiente)efficiente)..

(3)(3)

RLS (cont.)RLS (cont.)UtilizzanoUtilizzano ilil lemmalemma didi inversioneinversione didi matricimatrici (v(v.. sotto),sotto), dada ((22)) lala ricorsionericorsione susu P(t)P(t)sisi puòpuò scriverescrivere comecome seguesegue::

Divisione fra scalari Divisione fra scalari invece di inversione invece di inversione

di matricedi matrice

Da cui nella (3):Da cui nella (3):

LEMMA DI INVERSIONE DI MATRICILEMMA DI INVERSIONE DI MATRICI

Dimostrazione:Dimostrazione:

RLS CON FORGETTING FACTORRLS CON FORGETTING FACTORModificaModifica deldel metodometodo RLSRLS visto,visto, perper ilil trackingtracking deidei parametriparametri nelnel casocaso didi sistemasistematempotempo--variantevariante..

SiSi modificamodifica ilil funzionalefunzionale dada minimizzareminimizzare tramitetramite unun fattorefattore λλλλλλλλ (forgetting(forgetting factor)factor)::

λλλλλλλλ<1. Minore è <1. Minore è λλλλλλλλ, più velocemente vengono “dimenticate” le misure p assate. La , più velocemente vengono “dimenticate” le misure p assate. La λλλλλλλλ<1. Minore è <1. Minore è λλλλλλλλ, più velocemente vengono “dimenticate” le misure p assate. La , più velocemente vengono “dimenticate” le misure p assate. La “memoria” è data da: 1/1“memoria” è data da: 1/1-- λλλλλλλλ. Es.: . Es.: λλλλλλλλ=0.99=0.99⇒⇒⇒⇒⇒⇒⇒⇒ 1/11/1-- λλλλλλλλ=100; =100; λλλλλλλλ=0.95=0.95⇒⇒⇒⇒⇒⇒⇒⇒ 1/11/1-- λλλλλλλλ=20.=20.

La formulazione del metodo generale è quindi (caso precedente: La formulazione del metodo generale è quindi (caso precedente: λλλλλλλλ=1):=1):

Condizioni iniziali:Condizioni iniziali:

ESEMPIO: SIMULAZIONE ESEMPIO: SIMULAZIONE SEGNALE ULTRASONICO SEGNALE ULTRASONICO

λλλλλλλλ variabilevariabile

Valore Valore teoricoteorico

ObbiettivoObbiettivo:: MappeMappe spettralispettrali perper laladifferenziazionedifferenziazione nonnon invasivainvasiva didi patologiepatologieocularioculari.. Retinoblastoma,Retinoblastoma, melanoma,melanoma, eccecc.. sonosonoassimilabiliassimilabili aa sferesfere didi dimensionidimensioni variabilivariabili ((2020 µµµµµµµµ--100100µµµµµµµµ..))

ValoreValore massimomassimo delladella PSDPSD concon modellomodello AR(AR(33))tramitetramite RLSRLS ee forgettingforgetting factorfactor variabilevariabile:: 00..77 ≤≤≤≤≤≤≤≤ λ≤λ≤λ≤λ≤λ≤λ≤λ≤λ≤00..9999(da(da 33 aa 100100 campionicampioni passatipassati didi memoria)memoria) oo fissofisso::λλλλλλλλ==00..9898 ((5050 campionicampioni passati)passati)..

λλλλλλλλ fissofisso

IDENTIFICAZIONE PARAMETRICA: IDENTIFICAZIONE PARAMETRICA: ASPETTI PRATICIASPETTI PRATICI

•• SceltaScelta deldel segnalesegnale didi ingressoingresso (raramente(raramente possibilepossibile perper segnalisegnali biomedici!)biomedici!):: devedeve avereaverePSD>PSD>00 nelnel rangerange didi frequenzefrequenze didi interesseinteresse..

•• PresenzaPresenza didi valorvalor mediomedio nonnon nullonullo :: generagenera unauna continuacontinua nonnon desideratadesiderata ee creacrea unaunapolarizzazionepolarizzazione delledelle stimestime.. SiSi puòpuò eliminareeliminare ilil valorvalor mediomedio primaprima delledelle elaborazionielaborazioni oolavorarelavorare sulsul segnalesegnale differenziatodifferenziato:: ∆∆∆∆∆∆∆∆y(t)=y(t)=y(t)y(t)--y(ty(t--11))..

•• SceltaScelta delladella frequenzafrequenza didi campionamentocampionamento :: bassabassa ⇒⇒⇒⇒⇒⇒⇒⇒ perditaperdita didi informazioneinformazione allealle altealte⇒⇒⇒⇒⇒⇒⇒⇒frequenzefrequenze;; altaalta ⇒⇒⇒⇒⇒⇒⇒⇒ esaltazioneesaltazione deldel contributocontributo delledelle componenticomponenti allealle altealte frequenzefrequenze (può(può

essereessere solosolo rumore,rumore, nonnon sempresempre èè ddii interesse)interesse)..

•• PrefiltraggioPrefiltraggio perper ridurreridurre ilil rumorerumore:: solosolo sese l’obbiettivol’obbiettivo nonnon èè proprioproprio quelloquello didi stimarestimare ililrumore!rumore!

•• SceltaScelta deldel modellomodello ee dell’ordinedell’ordine :: dipendedipende dalladalla disponibilitàdisponibilità oo menomeno didi ingressiingressi misurabilimisurabiliee daldal tipotipo didi analisianalisi cheche sisi vuolevuole effettuareeffettuare.. ValeVale ilil principioprincipio didi parsimoniaparsimonia == utilizzareutilizzare ililmodellomodello ottimoottimo didi ordineordine minimominimo possibile,possibile, ancheanche tramitetramite ii metodimetodi vistivisti (AIC,(AIC, MDL,MDL, eccecc..))..

•• ValidazioneValidazione deldel modellomodello :: analisianalisi statisticastatistica deglidegli errorierrori didi predizionepredizione (dovrebbero(dovrebbero essereesserescorrelatiscorrelati concon l’ingressol’ingresso ee frafra didi loro)loro)..

•• BuonBuon sensosenso ee conoscenzaconoscenza deldel problemaproblema :: documentarsidocumentarsi sullesulle caratteristichecaratteristiche deldel segnale,segnale,suglisugli obbiettivi,obbiettivi, osservareosservare ii dati,dati, osservareosservare ii risultati,risultati, eccecc..

ESEMPIOESEMPIOModelloModello ARMA(ARMA(11,,22)):: simulazionisimulazioni concon ARMA(n,n),ARMA(n,n), n=n=11,,22,,33..

11=segnale=segnale verovero;; 22=segnale=segnale simulatosimulato..

ARMA(ARMA(11,,11)):: residuiresidui correlaticorrelati;; ARMA(ARMA(22,,22)):: residuiresidui scorrelatiscorrelati

ingressoingresso

ARMA(1,1)ARMA(1,1)AC residuiAC residui Corr.I/OCorr.I/O

ARMA(2,2)ARMA(2,2)

ARMA(3,3)ARMA(3,3)

AC residuiAC residui Corr.I/OCorr.I/O

CAMPIONAMENTOCAMPIONAMENTO•• SegnaleSegnale analogicoanalogico :: rappresentazionerappresentazione dell’eventodell’evento fisicofisico descrittodescritto dada unun segnalesegnale continuocontinuo.. IlIl

segnalesegnale cioècioè èè sempresempre similesimile (analogo)(analogo) aa sese stessostesso..

•• SegnaleSegnale digitaledigitale (o(o numerico)numerico):: assumeassume solosolo unun numeronumero fissofisso didi valori,valori, corrispondenticorrispondenti aadeterminatideterminati istantiistanti temporalitemporali.. E’E’ unauna rappresentazionerappresentazione “discretizzata”“discretizzata” didi unun segnalesegnaleanalogicoanalogico cheche vieneviene memorizzatomemorizzato concon unauna serieserie didi “digits”“digits” paripari aa 00 oo 11,, dettadetta codicecodice binariobinario..

•• FrequenzaFrequenza didi campionamentocampionamento FFss:: ilil teoremateorema deldel campionamentocampionamento didi NyquistNyquist affermaafferma cheche ununsegnalesegnale puòpuò essereessere rappresentatorappresentato inin modomodo esattoesatto sese campionatocampionato adad unauna frequenzafrequenza almenoalmenodoppiadoppia delladella massimamassima frequenzafrequenza presentepresente nelnel segnalesegnale ..doppiadoppia delladella massimamassima frequenzafrequenza presentepresente nelnel segnalesegnale ..

•• AliasingAliasing :: distorsionedistorsione datadata dalledalle frequenzefrequenze oltreoltre FF ss//22.. SiSi usanousano filtrifiltri passapassa--basso,basso, concon valorevaloredidi cutoffcutoff << FF ss//22..

•• II filtrifiltri nonnon sonosono inin generegenere perfettiperfetti.. ESES.:.: neinei CDCD sisi usausa FFss==4444..100100 HzHz ⇒⇒⇒⇒⇒⇒⇒⇒ l’orecchiol’orecchio umanoumano fafa dadafiltrofiltro naturalenaturale (range(range udibileudibile:: 2020HzHz--2020kHz)kHz)..

QUANTIZZAZIONEQUANTIZZAZIONEL’ampiezzaL’ampiezza didi ogniogni campionecampione didi segnalesegnale èè rappresentatarappresentata dada unun numeronumero compresocompreso frafra 00 ee 22 nn

(es(es:: 22 1616== 6565..538538.. IlIl convertitoreconvertitore A/DA/D èè inin questoquesto casocaso aa nn == 1616 bit)bit)..

(a) Segnale analogico (b) segnale campionato (c) qu antizzazione a 3 bit(a) Segnale analogico (b) segnale campionato (c) qu antizzazione a 3 bit

Schema di acquisizione e conversione A/D di un segn aleSchema di acquisizione e conversione A/D di un segn ale

ΩΩΩΩΩΩΩΩcc=freq=freq.. maxmax.. deldel segnalesegnale analogicoanalogico;; ΩΩΩΩΩΩΩΩNN=freq=freq.. maxmax deldel filtrofiltro analogicoanalogico;; ΩΩΩΩΩΩΩΩsamplsampl =freq=freq.. didi campionamentocampionamento;; ωωωωωωωωcc== freqfreq.. maxmaxdeldel filtrofiltro digitaledigitale..