Probabilità e Processi Stocastici (455AA)
Avvisi
29/11/2024: Testo e soluzioni della prova scritta (compitino). I risultati sono disponibili nel Team del corso. Un video di commento ai principali errori riscontrati.
21/11/2024: Testo e soluzioni della simulazione di prova scritta.
Descrizione del corso
Il corso si occupa dell’insegnamento dei concetti di base della probabilità, intesa come calcolo del grado di fiducia basato su informazione parziale, con approfondimenti riguardanti la teoria generale dei processi stocastici (studio delle catene di Markov, processi di Markov a salti, processi autoregressivi, serie storiche).
Si propone inoltre una introduzione minima al linguaggio R per l’analisi dei dati e la statistica.
Modalità d’esame
L’esame consiste di una prova scritta e di una prova orale:
La prova scritta è strutturata in problemi da risolvere analiticamente, sugli argomenti coperti dal corso fino ai processi di Markov a salti (inclusi). È possibile l’uso di calcolatrici (non programmabili) e materiale didattico personale (appunti, libri, dispense). Il voto della prova scritta è assegnato in trentesimi, con soglia di superamento a 16.
La prova orale, cui si accede solamente se si supera la prova scritta, consiste di domande su tutto quanto svolto nel corso: definizioni, esempi e controesempi, teoremi anche con dimostrazione, eventualmente anche qualche comando R. Sarà anche possibile richiedere agli studenti di discutere eventuali errori commessi nella prova scritta.
Il voto finale tiene conto sia della prova scritta che della prova orale.
Per facilitare l’organizzazione dello studio di tutto il materiale del corso, si conviene la seguente regola di ammissione alla prova orale: coloro che abbiano superato una prova scritta potranno svolgere la prova orale anche in un qualsiasi appello successivo, purché nella medesima sessione (il compitino vale per la sessione invernale).
È obbligatoria l’iscrizione per sostenere la prova scritta presso il portale esami ed è fortemente consigliata per la prova orale (specificare nelle note solo prova orale).
Ricevimento
L’orario del ricevimento settimanale (in presenza oppure su MS Teams) è fissato ogni lunedì ore 18-20.
Per ragioni organizzative è fortemente consigliato avvisare prima (di persona a lezione, via mail o messaggio Teams) se si intende partecipare al ricevimento.
Materiale didattico
Le lezioni dell’anno precedente sono registrate e rese disponibili su Youtube.
Sono inoltre a disposizione:
Un foglio di riepilogo delle principali densità e delle loro proprietà
Le slides delle lezioni:
Introduzione al corso e regole elementari della probabilità. (slides e commentate ).
Formula di Bayes, statistica bayesiana elementare e cenni agli assiomi di Kolmogorov (slides e commentate ).
Indipendenza probabilistica, densità binomiale e problemi. (slides e commentate ).
Variabili aleatorie generali, discrete e continue. (slides e commentate).
Trasformazioni di variabili: composizione tramite funzione e formule di trasformazione delle densità, variabile congiunta e variabili marginali. Formula di Bayes per variabili, indipendenza. (slides e commentate).
Reti bayesiane, cenni alle densità coniugate e ai metodi numerici. Problemi. (slides e commentate).
Funzione di ripartizione, mediana e quantile. Valor medio e proprietà. (slides e commentate)
Varianza, deviazione standard. Covarianza. Esempi (slides, sono state commentate alla lavagna).
Coefficiente di correlazione, matrice delle covarianze e standardizzazione. Problemi su medie, varianze e covarianze. Momenti e funzione generatrice dei momenti. Richiami sulla trasformata di Fourier. (slides e annotato slides).
Funzione caratteristica e cenni sull’entropia. Variabili aleatorie gaussiane: definizione e proprietà di base (caso reale). Densità geometrica. (slides annotato slides ).
Esercizi su variabili gaussiane. Vettori aleatori gaussiani: definizione e proprietà. Stima dei parametri di media e varianza da osservazioni di gaussiane indipendenti. (slides e annotate).
Stima dei parametri da osservazioni di gaussiane vettoriali indipendenti. PCA e intepretazione probabilistica. Regressione: metodo dei minimi quadrati, modelli lineari. Esempio in R di regressione lineare. (slides e annotate).
13.Intepretazione probabilistica del metodo dei minimi quadrati. Approccio Bayesiano e regolarizzazione. Come giustificare l’ipotesi di residui gaussiani (istogrammi, QQ-plot, test di gaussianità). Metodo di Laplace. Esercizi di riepilogo. (slides e annotate).
Introduzione ai processi stocastici, classificazione stati/tempi continui/discreti. Legge di un processo, legge delle marginali. Proprietà di Markov, processi omogenei, processi stazionari. Catene di Markov (omogenee): matrice di transizione, rappresentazione grafica, legge del processo e legge delle marginali Processi di Markov a salti: matrice delle intensità di salto, legge delle marginali (master equation), legge del processo (slides e annotate).
Richiami sulle catene di Markov e processi di Markov a salti. Simulazione di processi. Distribuzioni invarianti: definizione, bilancio di flusso, teoremi di esistenza, unicità e classificazione (slides, annotate).
Dimostrazione dei teoremi di esistenza, unicità per distribuzioni invarianti. Teorema di classificazione. Catene regolari, esercizi e problemi vari (slides, annotate).
Simulazione di compitino Testo e soluzioni.
Stima dei parametri di una catena di Markov (o processo a salti) partendo dalle osservazioni di un cammino. Esempi dalla teoria delle code. (slides e annotate).
Introduzione ai processi a stati continui (tempi discreti): funzioni di media, autocovarianza, autocorrelazione. Esempi fondamentali: rumore bianco gaussiano, passeggiata aleatoria gaussiana, equazione lineare con smorzamento. Modelli ARIMA, definizioni (slides e annotate).
Processi ARIMA, proprietà e previsione mediante comandi R. (slides e annotate).
Stima della funzione di autocovarianza per processi stazionari (autocovarianza empirica, densità spettrale di potenza, teorema di Wiener-Khinchin). Convergenza di variabili aleatorie (probabilità, media quadratica, in legge) e legge dei grandi numeri per esperimenti indipendenti e ripetuti.(slides e annotate).
Legge dei grandi numeri generale, teorema ergodico, teorema limite centrale, cenni agli eventi estremi (slides e annotate).
Una Raccolta dei compiti degli anni precedenti, con soluzioni (non esitate a segnalare eventuali imprecisioni nelle soluzioni).
