AIC proti BIC
AIC in BIC se pogosto uporabljata pri merilih za izbiro modelov. AIC pomeni Akaikejeva informacijska merila, BIC pa pomeni Bayesova informacijska merila. Čeprav ta dva izraza obravnavata izbiro modela, nista enaka. Med dvema pristopoma izbire modelov se lahko razlikuje.
Informacijska merila Akaike so bila oblikovana leta 1973, Bayesova informacijska merila pa leta 1978. Hirotsugu Akaike je razvila Akaikova informacijska merila, medtem ko je Gideon E. Schwarz razvil Bayesovo informacijsko merilo.
AIC lahko označimo kot primernost ustreznosti pri katerem koli ocenjenem statističnem modelu. BIC je vrsta izbire modelov med razredom parametričnih modelov z različnim številom parametrov.
Če primerjamo Bayesova informacijska merila in Akaikejeva informacijska merila, je kazen za dodatne parametre večja v BIC kot AIC. Za razliko od AIC BIC proste parametre močneje kaznuje.
Akaikejeva informacijska merila na splošno poskušajo najti neznani model z visoko dimenzijsko resničnostjo. To pomeni, da modeli niso pravi modeli v AIC. Po drugi strani Bayesova informacijska merila naletijo samo na prave modele True. Prav tako lahko rečemo, da so Bayesova informacijska merila dosledna, medtem ko Akaikejeva informacijska merila niso tako.
Ko bodo Akaikove informacijske kriterije predstavljale nevarnost, ki bi jo lahko uporabila. Bayesova informacijska merila bodo predstavljala nevarnost, ki bi jo koristila. Čeprav je BIC v primerjavi z AIC tolerantnejši, pri večjih številkah kaže manjšo toleranco.
Akaikejeva informacijska merila so dobra za asimptotično enakovredno navzkrižni validaciji. Nasprotno, Bayesova informacijska merila so dobra za dosledno ocenjevanje.
Povzetek
1. AIC pomeni Akaikejeva informacijska merila, BIC pa bajezijska informacijska merila.
2. Akaikejeva informacijska merila so bila oblikovana leta 1973, Bayesova informacijska merila pa leta 1978.
3. Če primerjamo Bayesova informacijska merila in Akaikejeva informacijska merila, je kazen za dodatne parametre v BIC več kot AIC.
4. Akaikejeva informacijska merila na splošno poskušajo najti neznani model z visoko dimenzionalno resničnostjo. Po drugi strani Bayesova informacijska merila naletijo samo na prave modele True.
5. Bayesova informacijska merila so skladna, medtem ko Akaikejeva informacijska merila niso tako.
6. Akaikejeva informacijska merila so dobra za asimptotično enakovredno navzkrižni validaciji. Nasprotno, Bayesova informacijska merila so dobra za dosledno ocenjevanje.
7. Čeprav je BIC bolj strpen v primerjavi z AIC, pri manjših številkah kaže manjšo toleranco.
8. Za razliko od AIC BIC proste parametre močneje kaznuje.
//