densità spettrale di potenza: lo spettro di un processo stocastico e come stimarlo come si guarda un processo stocastico in frequenza. la densità spettrale di potenza come trasformata dell'autocovarianza, cosa racconta su quattro processi tipici, e come la si stima dai dati, dal periodogramma, che non migliora con più campioni, al metodo di bartlett. segnali programmazione nell'[articolo sui processi stocastici](/articoli/processi-stocastici-stazionari) abbiamo descritto un processo stazionario **nel tempo**, con la media e la funzione di autocovarianza. per i segnali deterministici c'era anche una descrizione **in frequenza**, lo [spettro](/articoli/trasformata-di-fourier-discreta). qui facciamo lo stesso per i processi stocastici. ## dall'autocovarianza allo spettro la dtft non si può applicare direttamente a un processo stocastico. una realizzazione dura per sempre e non si spegne: ha **energia infinita**. ha però **potenza finita**, perché la sua varianza resta costante nel tempo. l'idea è trasformare la funzione di autocovarianza $\gamma_{vv}(\tau)$. per i processi che ci interessano decade a zero abbastanza in fretta al crescere del lag, quindi è un segnale a energia finita, e la sua dtft esiste. si chiama **densità spettrale di potenza**: $$ \gamma_{vv}(\omega) = \sum_{\tau=-\infty}^{+\infty} \gamma_{vv}(\tau)\, e^{-j\omega\tau} $$ la corrispondente [trasformata zeta](/articoli/sistemi-lti-discreti) si indica con $\phi_{vv}(z)$, e vale $\gamma_{vv}(\omega) = \phi_{vv}(e^{j\omega})$. $\gamma_{vv}(\omega)$ dice **come la potenza del processo si distribuisce tra le frequenze**: quanto contribuisce, in media sulle realizzazioni, ciascuna componente in frequenza alla variabilità del segnale. conoscere lo spettro o l'autocovarianza è equivalente, perché si torna indietro con l'antitrasformata: $$ \gamma_{vv}(\tau) = \frac{1}{2\pi} \int_{-\pi}^{\pi} \gamma_{vv}(\omega)\, e^{j\omega\tau}\, d\omega $$ con $\tau = 0$ si ottiene un risultato importante: la **varianza** del processo è l'area sotto la densità spettrale, divisa per $2\pi$. $$ \operatorname{var}[v(t)] = \gamma_{vv}(0) = \frac{1}{2\pi} \int_{-\pi}^{\pi} \gamma_{vv}(\omega)\, d\omega $$ la densità spettrale di potenza ha quattro proprietà: 1. è **reale**; 2. è **non negativa**: $\gamma_{vv}(\omega) \ge 0$, come deve essere una potenza; 3. è **pari**: $\gamma_{vv}(-\omega) = \gamma_{vv}(\omega)$; 4. è **periodica** di periodo $2\pi$.

dimostrazioni: le quattro proprietà

**perché è reale.** per la formula di eulero, ogni esponenziale della somma è un coseno più un seno moltiplicato per $j$: $$ e^{-j\omega\tau} = \cos(\omega\tau) - j\,\sin(\omega\tau) $$ il seno è la parte immaginaria. si prendono insieme i termini in $\tau$ e in $-\tau$. hanno lo stesso coefficiente, perché $\gamma_{vv}(-\tau) = \gamma_{vv}(\tau)$. il coseno è pari e resta uguale, mentre il seno è dispari e cambia segno: $\sin(-\omega\tau) = -\sin(\omega\tau)$. sommando la coppia, i due seni si cancellano: $$ \gamma_{vv}(\tau)\, e^{-j\omega\tau} + \gamma_{vv}(\tau)\, e^{j\omega\tau} = 2\,\gamma_{vv}(\tau) \cos(\omega\tau) $$ quindi la densità spettrale è una somma di soli coseni, ed è reale: $$ \gamma_{vv}(\omega) = \gamma_{vv}(0) + 2\sum_{\tau=1}^{\infty} \gamma_{vv}(\tau) \cos(\omega\tau) $$ **perché è pari.** dalla stessa formula, perché $\cos(-\omega\tau) = \cos(\omega\tau)$. **perché è periodica.** ogni termine lo è: $e^{-j(\omega + 2\pi)\tau} = e^{-j\omega\tau}\, e^{-j2\pi\tau} = e^{-j\omega\tau}$, perché $\tau$ è intero. **perché è non negativa.** non si vede dalla formula. si ricava dal periodogramma, più avanti: $i_n(\omega) = |v(e^{j\omega})|^2 / n$ è sempre $\ge 0$, e il suo valore atteso tende a $\gamma_{vv}(\omega)$. il limite di quantità non negative non può essere negativo.

per le ultime due proprietà basta guardarla tra $0$ e $\pi$. come per la dtft, $\omega$ è una pulsazione **normalizzata**, in radianti per campione: $\omega = \pi$ corrisponde alla frequenza di nyquist, $f_s/2$. ## densità spettrale di un rumore bianco per il rumore bianco $e(t) \sim \text{wn}(0, \lambda^2)$ l'autocovarianza è diversa da zero solo in $\tau = 0$, dove vale $\lambda^2$. nella somma resta un solo termine: $$ \gamma_{ee}(\omega) = \lambda^2 $$ lo spettro è **costante**: tutte le frequenze contribuiscono allo stesso modo, e nessuna domina. il nome viene da qui: come la luce bianca contiene tutti i colori in parti uguali. è lo spettro di un segnale che non ha nessuna regolarità, e che quindi non si può predire. ## processi stazionari a confronto il grafico mette a confronto quattro processi stazionari a media nulla, tutti ottenuti dallo stesso rumore bianco $e(t) \sim \text{wn}(0, 1)$: - **rumore bianco**: $e(t)$ stesso; - **regolare**: $y(t) = a\,y(t-1) + e(t)$ con $a = 0{,}9$; - **alternante**: lo stesso con $a = -0{,}9$; - **risonante**: $y(t) = 1{,}6\,y(t-1) - 0{,}9\,y(t-2) + e(t)$. per ciascuno: una realizzazione, l'autocovarianza e la densità spettrale. ogni pannello ha la sua scala. realizzazione, autocovarianza e spettro raccontano la stessa cosa in tre modi. - **regolare.** ogni campione è il 90% del precedente: il segnale cambia lentamente. l'autocovarianza **decade piano**, perché campioni lontani restano simili. la potenza è concentrata alle **basse frequenze**: $\gamma(0) = 100$, $\gamma(\pi) = 0{,}28$. - **alternante.** il segno si inverte quasi a ogni passo. l'autocovarianza **cambia segno** a ogni lag. lo spettro è lo specchio del precedente: dominano le **alte frequenze**, vicino a $\pi$. - **risonante.** il segnale oscilla in modo irregolare, con un periodo di circa 11 campioni. anche l'autocovarianza oscilla, smorzandosi. lo spettro ha un **picco di risonanza** in $\omega \approx 2\pi/11$. **perché ci sono i picchi.** lo spettro dice a che ritmo si muove il segnale. se cambia piano, la potenza sta alle frequenze basse, vicino a $0$. se salta su e giù a ogni passo, sta a quelle alte, vicino a $\pi$. se oscilla con un suo ritmo, c'è un picco proprio a quel ritmo. più lo spettro è concentrato, più il processo è regolare e prevedibile. lo spettro piatto del rumore bianco è il caso opposto. **densità cross-spettrale.** con due processi stazionari $v$ e $x$ si trasforma allo stesso modo la cross-covarianza: $\gamma_{vx}(\omega)$ è la dtft di $\gamma_{vx}(\tau)$, e $\phi_{vx}(z)$ la sua trasformata zeta. a differenza dell'autocovarianza, la cross-covarianza non è pari, ma vale $\gamma_{vx}(\tau) = \gamma_{xv}(-\tau)$; di conseguenza $\gamma_{vx}(\omega) = \gamma_{xv}(-\omega)$ e $\phi_{vx}(z) = \phi_{xv}(z^{-1})$. servirà per collegare ingresso e uscita di un sistema. ## stimare dai dati nella pratica né l'autocovarianza né lo spettro sono noti: vanno stimati. le ipotesi sono: - il processo è stazionario ed **ergodico**, così basta una sola realizzazione; - ha **media nulla**. se non è così, si stima la media con la media temporale e la si sottrae; - sono disponibili $n$ campioni, $v(0), \dots, v(n-1)$. ### autocovarianza campionaria siccome $\gamma_{vv}(\tau) = \mathbb{e}[v(t)\,v(t+\tau)]$, la stima viene naturale: la media dei prodotti delle coppie di campioni a distanza $\tau$. le coppie disponibili sono $n - |\tau|$: $$ \hat\gamma_{vv}(\tau) = \frac{1}{n - |\tau|} \sum_{t=0}^{n-|\tau|-1} v(t)\, v(t+|\tau|) $$ si usa $|\tau|$ perché, per la simmetria, la stima è la stessa per $\tau$ e $-\tau$. con $\tau = 0$ si stima la varianza. questo stimatore è **corretto**, e consistente per ogni $\tau$ fissato. il problema sono i lag grandi. con $\tau$ vicino a $n$ restano pochissime coppie da mediare, e la stima diventa molto incerta. l'alternativa è dividere sempre per $n$: $$ \hat\gamma'_{vv}(\tau) = \frac{1}{n} \sum_{t=0}^{n-|\tau|-1} v(t)\, v(t+|\tau|) = \frac{n - |\tau|}{n}\, \hat\gamma_{vv}(\tau) $$ questo è **distorto**: in media vale $\frac{n-|\tau|}{n}\gamma_{vv}(\tau)$, e viene schiacciato verso zero tanto più quanto $\tau$ si avvicina a $n$. ma è asintoticamente corretto, e ai lag grandi ha varianza molto più piccola. un esempio con il processo $v(t) = 0{,}8\,v(t-1) + e(t)$ dell'[articolo precedente](/articoli/processi-stocastici-stazionari), la cui autocovarianza vera vale $2{,}78 \cdot 0{,}8^{|\tau|}$. ripetendo la stima su 3.000 realizzazioni da $n = 200$ campioni, ecco la deviazione standard dei due stimatori: | $\tau$ | valore vero | $\hat\gamma$ (divide per $n-\lvert\tau\rvert$) | $\hat\gamma'$ (divide per $n$) | |---|---|---|---| | 1 | 2,22 | 0,58 | 0,57 | | 100 | ≈ 0 | 0,58 | 0,29 | | 190 | ≈ 0 | 1,73 | 0,09 | a lag piccoli i due stimatori si equivalgono. a lag grandi lo stimatore corretto dà valori a caso: a lag 190 ha una deviazione standard di 1,7, dove il valore vero è zero, mentre quello distorto resta vicino a zero. è lo stesso [compromesso tra bias e varianza](/articoli/bias-varianza-overfitting) visto per i modelli statici: un po' di distorsione in cambio di molta stabilità. e siccome per i processi che ci interessano $\gamma_{vv}(\tau) \to 0$, schiacciare verso zero è anche la scelta giusta. ### periodogramma per stimare lo spettro si prende la definizione e si mette, al posto dell'autocovarianza vera, quella stimata $\hat\gamma'_{vv}$. la somma si ferma a $|\tau| < n$, perché oltre non ci sono dati. il risultato si chiama **periodogramma**: $$ i_n(\omega) = \sum_{\tau=-(n-1)}^{n-1} \hat\gamma'_{vv}(\tau)\, e^{-j\omega\tau} $$ si dimostra che è il modulo al quadrato della dtft dei dati, diviso per $n$: $$ i_n(\omega) = \frac{1}{n}\, \bigl|v(e^{j\omega})\bigr|^2 $$ dove $v(e^{j\omega})$ è la dtft dei campioni $v(0), \dots, v(n-1)$. in pratica lo si calcola con una fft, sui bin della [dft](/articoli/trasformata-di-fourier-discreta) $\omega_k = 2\pi k / n$. in media il periodogramma è giusto: per $n \to \infty$ il suo valore atteso tende a $\gamma_{vv}(\omega)$. il problema è quanto oscilla. a ogni frequenza sbaglia, tipicamente, di quanto vale lo spettro stesso, e questo errore **non scende con più dati**: con più campioni si ottengono più frequenze, non stime migliori. si dice che lo stimatore **non è consistente**. il grafico lo mostra per il processo risonante. in alto il periodogramma su 4.096 campioni (la scala verticale è logaritmica): segue lo spettro vero, ma è tutto frastagliato. per misurare l'errore si divide, frequenza per frequenza, il periodogramma per lo spettro vero, e si calcola la deviazione standard di questi rapporti. con una stima perfetta varrebbe zero: | campioni $n$ | 1.024 | 4.096 | 16.384 | |---|---|---|---| | deviazione standard relativa | 1,01 | 0,99 | 0,99 | con sedici volte più dati l'errore resta lo stesso: circa il **100%** del valore vero. ### metodo di bartlett il periodogramma però in media è giusto: sbaglia a caso, a volte per eccesso e a volte per difetto. facendo la **media** di più periodogrammi indipendenti, gli errori si compensano. il **metodo di bartlett** divide gli $n$ dati in $k$ blocchi da $m = n/k$ campioni, calcola il periodogramma di ogni blocco e ne fa la media: $$ \bar i_{m,k}(\omega) = \frac{1}{k} \sum_{i=1}^{k} i^{(i)}_{m}(\omega) $$ se l'autocovarianza decade in fretta, i blocchi sono quasi indipendenti e la varianza si divide per $k$. è la curva in basso nel grafico: 16 blocchi da 256 campioni, molto più regolare. il prezzo è che ogni blocco è corto. con meno campioni le frequenze stimate sono più distanti tra loro ($2\pi/m$), e i picchi vengono **abbassati e allargati**. con 16.384 campioni del processo risonante, il cui picco vero vale 346: | blocchi $k$ | campioni per blocco $m$ | picco stimato | |---|---|---| | 16 | 1.024 | 400 | | 64 | 256 | 326 | | 256 | 64 | 215 | - **pochi blocchi lunghi**: il picco è risolto bene, ma la stima è ancora rumorosa (400, il 15% in più del vero). - **tanti blocchi corti**: la stima è liscia, ma il picco viene **spianato** (215). se lo spettro ha picchi stretti servono blocchi lunghi, proprio come serve una misura lunga per distinguere frequenze vicine con la dft. ## riepilogo - la **densità spettrale di potenza** $\gamma_{vv}(\omega)$ è la dtft dell'autocovarianza: dice come la potenza del processo si distribuisce tra le frequenze. è reale, non negativa, pari e periodica, quindi basta guardarla tra 0 e $\pi$. - l'area sotto $\gamma_{vv}(\omega)$, divisa per $2\pi$, è la **varianza** del processo. - il **rumore bianco** ha spettro piatto, $\gamma_{ee}(\omega) = \lambda^2$. uno spettro concentrato alle basse frequenze indica un processo regolare, alle alte un processo alternante, un picco un'oscillazione dominante. - dei due stimatori dell'autocovarianza, quello che divide per $n$ è distorto ma ha varianza molto minore ai lag grandi. - il **periodogramma** $|v(e^{j\omega})|^2/n$ non è consistente: la sua varianza non scende con più dati. il **metodo di bartlett** fa la media di $k$ periodogrammi e divide la varianza per $k$, al prezzo di risoluzione in frequenza.