L20 Teoria Della Stima

1 1 1 1

Universit di Napoli Federico II, DISES, A.a. 2014-15, CLEC, Corso di Statistica (A-K)

m. gherghi Lezione L20 Teoria della stima

Marco Gherghi

Corso di

Statistica (A-K)

Anno accademico 2014-15

www.docenti.unina.it/marco.gherghi [email protected]

Lezione: Argomento: Teoria della stima L20

Corso di laurea in Economia e Commercio (CLEC)

2 2 2 2



Linferenza

Pop

C

Estrazione casuale

3 3 3 3



Linferenza

Compito dellinferenza statistica quello di giungere ad una conoscenza delle caratteristiche incognite del processo in esame sulla base dellinformazione disponibile, informazione che non pu essere considerata come esaustiva e certa ma che presenta aspetti di parzialit e di casualit proprio in ragione della sua stessa natura (Orsi, pag. 267).

Losservazione di un fenomeno nellambito di quelle che vengono definite scienze osservazionali come leconomia, la sociologia, la psicologia e altre, pu essere considerata come la realizzazione di un modello probabilistico teorico, e la grandezza analizzata come una variabile casuale generata da tale modello (Orsi, pag. 267).

Linferenza statistica affronta problemi di decisione in condizioni di incertezza, di previsione o, pi in generale, di conoscenza del mondo reale, basandosi sia su informazioni a priori sia su dati campionari che, per loro natura, costituiscono solo degli aspetti parziali di tale realt. (Orsi, pag. 268).

PopPop

CC

Linferenza statisticainduceinduce le caratteristiche

della popolazione dallanalisi del contenuto del campione osservato, cio inferisce le propriet del modello matematico a partire dallanalisi dei dati campionari osservati.

4 4 4 4



Sebbene ogni esperimento sia unico e irripetibile, indispensabile individuare, e provare a controllare, aspetti che possono essere considerati come comuni. Pi precisamente, ogni inferenza si basa sulla specificazione accurata dei seguenti elementi (Piccolo, pag. 493):

Popolazione di riferimento Procedura di raccolta e selezione delle informazioni Tecnica inferenziale per giungere dal risultato parziale alla popolazione Validit statistica della procedura utilizzata

Linferenza PopPop

CC



5 5 5 5



Da unindagine campionaria condotta sulle matricole universitarie risultato che il 70% ha dato un giudizio buono sui propri docenti.

Questo risultato pu essere considerato

Negativo Perch la percentuale media degli anni precedenti era oltre l80%.

Positivo Perch , in assoluto, una % alta;

Ma ci che importante (da un punto di vista statistico) :

Come stato scelto il campione?

Come si determinata la sua numerosit?

Qual lerrore associato a questo risultato e quale il livello di fiducia che noi riponiamo in esso?

Ogni risultato va interpretato;

Ogni interpretazione pu essere giusta o sbagliata, utile o inutile, rilevante o irrilevante rispetto al problema che dobbiamo risolvere;

Ci su cui si deve essere daccordo il processo che ha generato quel risultato.

Es.:

Ricordiamo sempre che Lucido della lezione zero

6 6 6 6



Sebbene ogni esperimento sia unico e irripetibile, indispensabile individuare, e provare a controllare, aspetti che possono essere considerati come comuni. Pi precisamente, ogni inferenza si basa sulla specificazione accurata dei seguenti elementi (Piccolo, pag. 493):

Popolazione di riferimento Procedura di raccolta e selezione delle informazioni Tecnica inferenziale per giungere dal risultato parziale alla popolazione Validit statistica della procedura utilizzata

Linferenza comprende una serie di tecniche che possono essere raccolte nei suoi due principali capitoli:

Linferenza PopPop

CC



7 7 7 7



Stimatori e stime

Supporremo che sulla popolazione sia definita una variabile X la cui distribuzione, seppure incognita, completamente caratterizzata da un parametro o da un insieme di parametri .

Lobiettivo trovare, sulla base di un campione casuale X1, X2, , Xn, un valore, o un insieme di valori, per (o per ) che siano la migliore approssimazione possibile del valore incognito della popolazione.

Le n osservazioni campionarie X1,Xn sono altrettante variabili casuali la cui distribuzione e i cui parametri sono uguali a quelli della variabile X.

Una funzione delle osservazioni campionarie essa stessa una variabile casuale che, nel caso della stima di un parametro, viene definita stimatore.

Il valore che lo stimatore assume nello specifico campione estratto costituisce la realizzazione campionaria della variabile casuale e costituisce la stima.

8 8 8 8



Stimatori e stime

Pop C

C C

C

C

CC

C

C

C

C

C

C

Popolazione Universo dei possibili campioni di dimensione n Campione estratto

1

1 ni

iX X

n ==

1

1 ni

ix xn =

= (Parametro) (Stimatore) (Stima)

C

nT = t

9 9 9 9



Stimatori e stime

Pop C

C C

C

C

CC

C

C

C

C

C

C

Popolazione Universo dei possibili campioni di dimensione n Campione estratto

C

In generale, possibile definire pi di uno stimatore per uno stesso parametro.

Ciascuno stimatore avr una propria distribuzione campionaria che, in generale, ammetter una media e una varianza

( )E ( ) 2 E E

Valore atteso dello stimatore

Varianza dello stimatore ( )( ) Var

10 10 10 10



La scelta dello stimatore

Naturalit dello stimatore (rispetto al parametro che vuole stimare)

Propriet

Metodo dei momenti Metodo dei minimi quadrati Metodo della massima verosimiglianza

11 11 11 11



Propriet degli stimatori

(o centratura o non distorsione)

Dato uno stimatore Tn=T(X1, X2, , Xn) del parametro , diremo che Tn corretto se:

( )nE T =Se E(Tn), diremo che lo stimatore Tn uno stimatore distorto per , con fattore di distorsione:

( ) ( )n nD T E T =

12 12 12 12




Tn

Tn= T X

1,,X

n( )

( )nE T =



( ) ( )n nD T E T =


13 13 13 13




Tn

Tn= T X

1,,X

n( )

( )nE T

Distorsione



( ) ( )n nD T E T =


14 14 14 14




1

1 ni

iX X

n ==

( )E X

Media campionaria

Ciascuna variabile casuale Xi (osservazione campionaria) ha la stessa distribuzione e gli stessi parametri (, 2)della variabile X nella popolazione.

1

1 ni

iE Xn =

=

1

1 ni

iE Xn =

= ( )

1

1 ni

iE X

n == 1 nn =

=


15 15 15 15




Varianza campionaria ( )

22

1

1 ni

iS X X

n ==


La Varianza campionaria una misura della variabilit del carattere nel campione, e pu quindi essere utilizzata come stimatore della variabilit nella popolazione."

E quindi cosa ben diversa dalla Varianza della media campionaria, che invece una misura della variabilit di tutte le medie calcolabili su tutti i possibili campioni di dimensioni n estratti da una determinata popolazione."

S2 = 1

nX

i X( )2

i=1

n

Var X( ) = X2 =

2

n

16 16 16 16




Varianza campionaria

campione X1 X2 S 21 5 5 5,02 5 7 6,03 5 10 7,54 7 5 6,05 7 7 7,06 7 10 8,57 10 5 7,58 10 7 8,59 10 10 10,0

Somma 66 66 66Media 7,333 7,333 7,333Var 4,222 4,222 2,111Sqm 2,055 2,055 1,453

X

( )221

1 ni

iS X X

n ==


Pop.: 7 5 10

N=3 = 7,33 2 = 4,22

n=2

17 17 17 17




Varianza campionaria

campione X1 X2 S 21 5 5 5,02 5 7 6,03 5 10 7,54 7 5 6,05 7 7 7,06 7 10 8,57 10 5 7,58 10 7 8,59 10 10 10,0

Somma 66 66 66Media 7,333 7,333 7,333Var 4,222 4,222 2,111Sqm 2,055 2,055 1,453

X

( )221

1 ni

iS X X

n ==


Pop.: 7 5 10

N=3 = 7,33 2 = 4,22

n=2

18 18 18 18




( )221

1 ni

iS X X

n == Varianza campionaria

campione X1 X2 S 21 5 5 5,0 0,002 5 7 6,0 1,003 5 10 7,5 6,254 7 5 6,0 1,005 7 7 7,0 0,006 7 10 8,5 2,257 10 5 7,5 6,258 10 7 8,5 2,259 10 10 10,0 0,00

Somma 66 66 66 19Media 7,333 7,333 7,333 2,111Var 4,222 4,222 2,111Sqm 2,055 2,055 1,453

X

La varianza campionaria uno stimatore distorto della varianza della popolazione

E S2( ) 2

1. Quale potrebbe essere uno stimatore altrettanto naturale ma non distorto per 2 ?

2. Cosa succede allo stimatore distorto S2 quando il campione grande?


Pop.: 7 5 10

N=3 = 7,33 2 = 4,22

n=2

= 2 n 1

n

19 19 19 19




( )221

1 ni

iS X X

n == Varianza campionaria

campione X1 X2 S 21 5 5 5,0 0,002 5 7 6,0 1,003 5 10 7,5 6,254 7 5 6,0 1,005 7 7 7,0 0,006 7 10 8,5 2,257 10 5 7,5 6,258 10 7 8,5 2,259 10 10 10,0 0,00


X

La varianza campionaria uno stimatore distorto della varianza della popolazione

( )2 2 1nE S n =

Consideriamo allora lo stimatore: 21n Sn

( )22 2 211 1 1n n n nE S E Sn n n n

= = =

( )22 1 ii

S x xn

=

( )22 11 1 iin nS x xn n n

= ( )

211 ii

x xn

=

Poich: , allora:


Pop.: 7 5 10

N=3 = 7,33 2 = 4,22

n=2

20 20 20 20




!S2 = 1

n 1X

i X( )2

i=1

n

Varianza campionaria corretta campione X1 X2 S 21 5 5 5,0 0,002 5 7 6,0 1,003 5 10 7,5 6,254 7 5 6,0 1,005 7 7 7,0 0,006 7 10 8,5 2,257 10 5 7,5 6,258 10 7 8,5 2,259 10 10 10,0 0,00


X


La Varianza campionaria corretta pu essere ottenuta in due modi:""1. Moltiplicando la varianza campionaria S2 per il fattore di

correzione . """"E questo il metodo che si utilizza quando non si dispone dei singoli dati campionari, per correggere una varianza gi calcolata con la formula tradizionale;"

""2. Dividendo la devianza per (n-1) anzich per

n."" E questo il metodo che in genere si utilizza quando si dispone dei singoli dati campionari ."

Xi X( )2

nn 1

Pop.: 7 5 10

N=3 = 7,33 2 = 4,22

n=2

21 21 21 21



Pop.: 7 5 10

N=3 = 7,33 2 = 4,22

n=2


Varianza campionaria ( )

22

1

1 ni

iS X X

n ==

campione X1 X2 S 21 5 5 5,0 0,002 5 7 6,0 1,003 5 10 7,5 6,254 7 5 6,0 1,005 7 7 7,0 0,006 7 10 8,5 2,257 10 5 7,5 6,258 10 7 8,5 2,259 10 10 10,0 0,00


XLa varianza campionaria uno stimatore distorto della varianza della popolazione:

( )2 2 1nE S n =

E !S2( ) = E 1n 1 xi x( )

2

i

= 2

La varianza campionaria corretta , invece, uno stimatore corretto della varianza della popolazione


!S2 = 1

n 1X

i X( )2

i=1

n

Varianza campionaria corretta

22 22 22 22



( )E X = La media campionaria uno stimatore non distorto della media della popolazione XMedia campionaria

Mediana campionaria

( )12

nX +

12 2

2n nX X ++

n dispari

n pari

( )12

nE X +

= =12 22

n nX XE +

+

Per distribuzioni simmetriche:

Se la variabile X ha distribuzione simmetrica, sia la media campionaria che la mediana campionaria sono stimatori non distorti per la media della popolazione.


23 23 23 23



( )( )

1

2

1 Var TVar T

< T1 pi efficiente di T2

Tn ( )nE T =T1

T3

T2

Dati due stimatori, T1 e T2, entrambi corretti per il parametro , lo stimatore T1 sar pi efficiente di T2 se risulta:

( )( )1

2

1Var TVar T

< (efficienza relativa)

( ) ( ) ( )3 2 1Var T Var T Var T< 2 si sceglier lo stimatore T1.

Tn( )nE T =T3

T1

T2


27 27 27 27


m. gherghi Lezione L20 Teoria della stima Teoria della stima

Disuguaglianza di Cramer-Rao E possibile dimostrare che, sotto condizioni molto generali, ad ogni parametro possibile associare un valore minimo della varianza dello stimatore corretto Tn, al di sotto del quale tale varianza non pu scendere, qualunque sia lo stimatore utilizzato.

Lo stimatore che raggiunge tale limite verr definito stimatore a varianza minima.

Lesistenza di una varianza minima per ogni non implica necessariamente lesistenza di uno stimatore a varianza minima. In altri termini, possibile che esista il limite ma che non esista alcuno stimatore che lo raggiunga.

E possibile, comunque, ipotizzare che ad ogni parametro corrisponda, sotto condizioni molto generali, almeno uno stimatore asintoticamente efficiente.

Per campioni di dimensione finita, sar il pi delle volte sufficiente fare riferimento a stimatori che si avvicinano allestremo di Cramer-Rao.

( )( )

21

log ;nVar T

n E f X


28 28 28 28



Tn

T1 (corretto)

T2 (distorto)


Uno stimatore distorto ma con una varianza piccola (T2) potrebbe essere preferito ad uno stimatore corretto ma con una grande variabilit (T1) ."

29 29 29 29



Tn

T1 (corretto)

T2 (distorto)

T3 (distorto)


Uno stimatore distorto ma con una varianza piccola (T2) potrebbe essere preferito ad uno stimatore corretto ma con una grande variabilit (T1) ."Daltra parte, se la distorsione elevata (T3), la variabilit ridotta, paradossalmente, rende pi probabili risultati campionari lontani dal parametro che si vuole stimare. "

30 30 30 30



Tn

T1 (corretto)

T2 (distorto)

T3 (distorto)

T4 (distorto)


Uno stimatore distorto ma con una varianza piccola (T2) potrebbe essere preferito ad uno stimatore corretto ma con una grande variabilit (T1) ."Daltra parte, se la distorsione elevata (T3), la variabilit ridotta, paradossalmente, rende pi probabili risultati campionari lontani dal parametro che si vuole stimare (T4)."Nella scelta tra stimatori diversi, quindi importante considerare sia leventuale distorsione sia la variabilit dello stimatore."

31 31 31 31



Tn

T1 (corretto)

T2 (distorto)

( ) ( ) 2n nVar T D T= +

LEQM di uno stimatore pari alla varianza dello stimatore pi il quadrato della distorsione."Se lo stimatore non distorto, lEQM risulta pari alla sola varianza."

T3 (distorto)

T4 (distorto)


EQM T

n( ) = E Tn ( )2

32 32 32 32



Tn

T1 (corretto)

T2 (distorto)

( ) ( ) 2n nVar T D T= + T3

(distorto) T4

(distorto)


EQM T

n( ) = E Tn ( )2

Nella scelta tra stimatori diversi, quindi, si preferir quello con EQM pi piccolo, regola che, nel caso di stimatori entrambi non distorti, equivale a preferire quello pi efficiente."

33 33 33 33



(asintotiche)

Quando, allaumentare di n, la distribuzione di uno stimatore tende ad assumere una forma ben specifica, allora la distribuzione limite verso cui tende viene definita distribuzione asintotica dello stimatore.

Il termine asintotico non deve far pensare che la distribuzione asintotica coincida con la forma finale della distribuzione per n infinito (forma che, tipicamente, tender a degenerare in un punto) quanto piuttosto alla forma che la distribuzione assume prima di divenire un punto, cio per n grande ma finito.


34 34 34 34



Uno stimatore Tn asintoticamente corretto per se il valore atteso della sua distribuzione limite uguale a .

(asintotiche)

La propriet della correttezza asintotica garantisce che, anche in uno stimatore distorto, gli errori sistematici tendono a scomparire al crescere di n, ma non dice nulla sul comportamento della varianza di Tn, cio sulla dispersione delle singole stime attorno al parametro . (Orsi, pag. 297)

Uno stimatore non distorto certamente anche asintoticamente corretto ma linverso non necessariamente vero.


35 35 35 35



Uno stimatore Tn asintoticamente corretto per se il valore atteso della sua distribuzione limite uguale a .

(asintotiche)

Esempio (Orsi, pag. 297) : 11

1 ni

iT X

n == 2 1

2

1 12 2

n

ii

T X Xn =

= + ( )2~ ,X N

( )1E T = Stimatore non distorto e, quindi, asintoticamente corretto.

( )2E T ( ) ( )12

1 12 2

n

ii

E X E Xn =

= + ( )1 1 12 2 nn = + 1 12 2nn

= + 2 1

2nn

= (stimatore distorto)

( )2lim n E T = Stimatore asintoticamente corretto.


36 36 36 36



(asintotiche)

Uno stimatore Tn consistente per se per ogni coppia di numeri positivi ed , scelti piccoli a piacere, sempre possibile trovare una dimensione campionaria N tale che, per ogni n>N, risulti:

{ } 1nP t < > Condizione sufficiente (ma non necessaria) perch Tn sia uno stimatore consistente per , che Tn sia asintoticamente corretto e che la sua varianza tenda a zero allaumentare di n:

( )lim nn E T = ( )lim 0nn Var T =Questa caratteristica pu essere riassunta nella condizione che lEQM tenda a zero al crescere di n.

( )lim 0nn EQM T =


37 37 37 37



(asintotiche)


{ } 1nP t < >

Esempio:

( )lim 0nn EQM T =


Verificare se gli stimatori T1, T2 e T3 definiti di seguito soddisfano la propriet della consistenza.

11

1 ni

iT X

n == ( )2 112 nT X X= +

D T1( ) = 0 D T2( ) = 0

D T3( ) = 23 =

13

Var T1( ) =

2

nVar T2( ) =

2

2 Var T3( ) = 29 2

EQM T1( ) = 02 + 2

n=

2

n EQM T1( ) = 02 +

2

2=

2

2 EQM T3( ) = 19 2 +

29 2

T3= 13X2+ X

8( )

limn

EQM T1( ) = 0 limnEQM T2( ) =

2

2 limn

EQM T3( ) = 19 2 +29 2

38 38 38 38



(asintotiche)


{ } 1nP t < >

Esempio:

( )lim 0nn EQM T =


Verificare se gli stimatori T1, T2 e T3 definiti di seguito soddisfano la propriet della consistenza.

11

1 ni

iT X

n == ( )2 112 nT X X= + T3 =

13X2+ X

8( )

Solo lo stimatore T1 consistente

39 39 39 39



(asintotiche)


{ } 1nP t < >

Esempio: 12

1 12 2

n

ii

T X Xn =

= +

2 1 22

n nn

=

12n

=

( ) ( )1 22

1 14 4

n

ii

Var X Var Xn =

= +

( )2 221 1 14 4

nn

= +

( )2 22

14

n nn

+

=

( ) 2 12nE Tn

=

( ) 2 12nD Tn

=

( ) 12

1 12 2

n

ii

Var T Var X Xn =

= +

( )lim 0nn EQM T =

( )2 21 11 14

nn

= +


40 40 40 40



(asintotiche)

Esempio: 12

1 12 2

n

ii

T X Xn =

= + ( ) 12D T n = ( )( )2 2

2

14

n nVar T

n

+ =

( ) ( ) ( ) 2EQM T Var T D T = + ( )2 2 2

2 2

1 14 4

n nn n

+

= +( )2 2 2

2

14

n nn + +

=

( )limnEQM T

( )2 2 22

1lim

4nn n

n

+ +=

( ) 2 22 2

1lim

4 4nn n

n n

+= +

2

4= 0 Lo stimatore non consistente

{ } 1nP t < > ( )lim 0nn EQM T =



41 41 41 41



(asintotiche)

{ } 1nP t < > ( )lim 0nn EQM T =

La consistenza una propriet molto importante per gli stimatori poich assicura la coerenza tra laumento della numerosit campionaria e lincremento delle informazioni contenute nel campione stesso. (Orsi, pag. 301)

Tuttavia, tale propriet non dice nulla sulla grandezza degli errori di stima per ogni valore finito di n, cio non d alcuna idea della velocit con cui uno stimatore tende a concentrarsi intorno al valore del parametro della popolazione. (Orsi, pag. 301)

E ovvio, infatti, che tra diversi stimatori consistenti si preferir quello per il quale tale concentrazione avviene pi rapidamente, ossia con campioni di dimensioni ridotte. (Orsi, pag. 302)



42 42 42 42



(asintotiche)

Nellambito della famiglia degli stimatori consistenti, uno stimatore T(n) si definisce asintoticamente efficiente se la varianza della sua distribuzione limite risulta inferiore alla varianza della distribuzione limite di qualsiasi altro stimatore consistente.

( )lim nnp T

=

( )( ) ( )( ) 22 *lim limn nn nE n T E n T <

1.

2.

Qualsiasi altro stimatore, diverso da T(n) e per il quale risulti ( )*lim nnp T

=*nT


L20 Teoria Della Stima

Documents

Transcript of L20 Teoria Della Stima