Odhad maximálnej pravdepodobnosti

Maximálny odhad pravdepodobnosti (VLE) je všeobecný model na odhad parametrov rozdelenia pravdepodobnosti, ktorý závisí od pozorovaní vo vzorke.

Inými slovami, EMV maximalizuje pravdepodobnosť parametrov hustotných funkcií, ktoré závisia od rozdelenia pravdepodobnosti a pozorovaní vo vzorke.

Keď hovoríme o odhade maximálnej pravdepodobnosti, musíme hovoriť o funkcie maximálna pravdepodobnosť. Matematicky, vzhľadom na vzorku x = (x₁,…, X_n) a parametre, θ = (θ₁, …, Θⁿ) potom,

Nepanikár! Tento symbol znamená to isté ako súčet súčtov. V tomto prípade je to znásobenie všetkých hustotných funkcií, ktoré závisia od pozorovaní vzorky (x_i) a parametre θ.

Čím väčšia je hodnota L (θ | x), to znamená hodnota funkcie maximálnej pravdepodobnosti, tým pravdepodobnejšie budú parametre založené na vzorke.

Logaritmická funkcia EMV

Aby sme našli odhady maximálnej pravdepodobnosti, musíme rozlíšiť (odvodiť) produkty funkcií hustoty, čo nie je najpohodlnejší spôsob.

Keď narazíme na komplikované funkcie, môžeme urobiť iba monotónnu transformáciu. Inými slovami, chcelo by to vykresliť Európu v skutočnom meradle. Mali by sme ju zmenšiť, aby sa zmestila na list papiera.

V tomto prípade robíme monotónnu transformáciu pomocou prirodzených logaritmov, pretože sú to monotónne a zvyšujúce sa funkcie. Matematicky

Vlastnosti logaritmov nám umožňujú vyjadriť vyššie uvedené násobenie ako súčet prirodzených logaritmov použitých na funkcie hustoty.

Takže monotónna transformácia pomocou logaritmov je jednoducho „zmena mierky“ na menšie počty.

Odhadovaná hodnota parametrov, ktoré maximalizujú pravdepodobnosť parametrov funkcie maximálnej pravdepodobnosti pomocou logaritmov, je ekvivalentná s odhadovanou hodnotou parametrov, ktoré maximalizujú pravdepodobnosť parametrov pôvodnej funkcie maximálnej pravdepodobnosti.

Takže sa vždy budeme zaoberať monotónnou úpravou funkcie maximálnej pravdepodobnosti vzhľadom na jej väčšiu ľahkosť výpočtov.

Zvedavosť

Akokoľvek sa EMV môže zdať zložité a čudné, neustále ho uplatňujeme bez toho, aby sme si to uvedomovali.

Kedy?

Pri všetkých odhadoch parametrov lineárnej regresie za klasických predpokladov. Známejšie ako obyčajné najmenšie štvorce (OLS).

Inými slovami, keď aplikujeme OLS, aplikujeme EMV implicitne, pretože obe sú z hľadiska konzistencie rovnocenné.

App

Rovnako ako iné metódy, aj EMV je založená na iterácii. To znamená opakovanie určitej operácie toľkokrát, koľkokrát je potrebné na nájdenie maximálnej alebo minimálnej hodnoty funkcie. Tento proces môže podliehať obmedzeniam konečných hodnôt parametrov. Napríklad, že výsledok je väčší alebo rovný nule alebo že súčet dvoch parametrov musí byť menší ako jeden.

Symetrický model GARCH a jeho rôzne rozšírenia používajú EMV na zistenie odhadovanej hodnoty parametrov, ktorá maximalizuje pravdepodobnosť parametrov hustotných funkcií.