Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

15
Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi

Transcript of Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

Page 1: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

Regressione Lineareparte 2

Corso di

Misure Meccaniche e Termiche

David Vetturi

Page 2: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

2

Misure Meccaniche e Termiche Regressione Lineare

La quantità 2 indica quanto il modello non è in grado di spiegare la variabilità delle Y complessivamente.Tale “errore” può essere mediato fra tutti gli m punti osservati e dunque

Varianza residua:Il modello generato attraverso il metodo dei minimi quadrati descrive la variabilità della grandezza Y che può essere pensata essere funzione diretta di X.

m

kkk

m

kk xyy

1

2

1

22

nm

xyy

nm

m

kkk

m

kk

1

2

1

2

20

Page 3: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

3

Misure Meccaniche e Termiche Regressione Lineare

Il metodo della stima ai Minimi Quadrati presentato permette di valutare la ennupla di parametri (1, 2 … n) che identifica il modello funzionale di relazione fra Y e X all’interno delle funzioni di uno spazio vettoriale generato da una base di funzioni (1, 2 … n)

Regressione lineare

Page 4: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

4

Misure Meccaniche e Termiche Regressione Lineare

Si può pensare cha la serie di m punti (xk,yk) sia estratta dalla distribuzione congiunta fxy(x,y) e che ne rappresenti un campione.

Per ogni campione estratto dalla popolazione X-Y il metodo associa una ennupla (1, 2 … n) che può essere vista come una variabile casuale a n-dimensioni funzione (attraverso il metodo) della VC doppia X-Y

La quantità 02 indica la variabilità non spiegata

dal modella e permette di valutare la variabilità dei parametri (variabile casuale a n-dimensioni).

Page 5: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

5

Misure Meccaniche e Termiche Regressione Lineare

Nel caso in cui le funzioni di base risultano fra loro ortogonali le quantità i risultano tra loro indipendenti e la loro varianza vale:

m

kki x

i

1

2

202

120

AC

Mentre nel caso generale in cui le funzioni di base non sono fra loro ortogonali si ha che la matrice di covarianza della variabile casuale a n dimensioni è data da:

dove C è la matrice di covarianza e A la matrice del sistema lineare che permette di valutare i parametri

Varianza dei parametri :

Page 6: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

6

Misure Meccaniche e Termiche Regressione Lineare

Analogamente al caso dei parametri , anche il modello che questi definiscono è funzione del “campione” estratto da X-Y.

La varianza dei parametri può essere dunque propagata sul modello y(x).

Per ogni valore di x si ha:

2

1

22)( i

n

iixy x

Varianza del modello:

Page 7: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

7

Misure Meccaniche e Termiche Regressione Lineare

Txy C 2)(

)(..)()( 21 xxx n

Mentre nel caso generale in cui le funzioni di base non sono fra loro ortogonali si ha:

dove

Varianza del modello:

Page 8: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

8

Misure Meccaniche e Termiche Regressione Lineare

Se il modello viene utilizzato per fare previsioni, ovvero se viene utilizzato per valutare il valore di y in corrispondenza di una certa ascissa x si ha che le cause di variabilità sono due:

- la variabilità del modello 2y(x)

- la variabilità delle Y non spiegata dal modello 20

e dunque:

20

2)(

2 xyy prev

Varianza della previsione:

Page 9: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

9

Misure Meccaniche e Termiche Regressione Lineare

Come mostrato precedentemente è possibile calcolare i parametri della retta ai minimi quadrati a partire dai punti (xk,yk) dati. Lo scarto indica quanto il modello non è in grado di spiegare la variabilità delle ordinate.x y y(x) scarto

0.8 21 31.30 -10.302.5 36 38.95 -2.953.8 53 44.80 8.205.3 48 51.56 -3.566.8 61 58.31 2.698.2 78 64.61 13.3910.3 77 74.07 2.9312.6 75 84.42 -9.4214.7 99 93.88 5.1218.3 104 110.09 -6.09

Retta ai minimi quadrati: esempio numerico - continuazione

Page 10: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

10

Misure Meccaniche e Termiche Regressione Lineare

Come abbiamo visto la quantità 2 indica quanto il modello non è in grado di spiegare la variabilità delle Y complessivamente e in questo caso:

7.5411

2

1

22

m

kkk

m

kk xyy

7.67

8

7.5411

2

1

2

20

nm

xyy

nm

m

kkk

m

kk

e dunque la varianza non spiegata dal modello è:

Page 11: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

11

Misure Meccaniche e Termiche Regressione Lineare

Come abbiamo visto la quantità 2 indica quanto il modello non è in grado di spiegare la variabilità delle Y complessivamente e in questo caso:

7.5411

2

1

22

m

kkk

m

kk xyy

7.67

8

7.5411

2

1

2

20

nm

xyy

nm

m

kkk

m

kk

e dunque la varianza non spiegata dal modello è:

Page 12: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

12

Misure Meccaniche e Termiche Regressione Lineare

I parametri stimati 1 e 2 che sono stati valutati sono:

e la varianza dei due parametri sono:

50.4

841.284

44.1282

)(

)(

1

2

12

m

kk

m

kkk

xx

xxxy2.65

10

652)(

11

m

xym

kk

77.6

10

7.67

1

21

202

1

m

kkx

2377.0

841.284

7.67

1

22

202

2

m

kkx

Page 13: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

13

Misure Meccaniche e Termiche Regressione Lineare

.

Come è stato indicato precedentemente la varianza dei parametri può essere dunque propagata sul modello y(x). Analogamente per la varianza della previsione effettuata a partire dal modello.Per ogni valore di x si ha:

2

1

22)( i

n

iixy x

Retta ai minimi quadrati: esempio numerico – varianza del modello

20

2)(

2 xyy prev.

attorno al modello possono essere individuate due fasce di ampiezza k. che individuano rispettivamente:•inviluppo dei modelli probabili per la relazione y=y(x)•luogo dei punti ipotizzabili come previsioni di y a partire dal modello y(x)

Page 14: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

14

Misure Meccaniche e Termiche Regressione Lineare

Page 15: Regressione Lineare parte 2 Corso di Misure Meccaniche e Termiche David Vetturi.

15

Misure Meccaniche e Termiche Regressione Lineare