- VIF identificē multikolinearitāti, mērot, cik lielā mērā regresijas koeficienta dispersija palielinās korelāciju dēļ starp prognozētājiem.
- Vispārpieņemtie nozares standarti liecina, ka VIF vērtības virs 4 ir rūpīgi jāpārbauda, savukārt vērtības virs 10 norāda uz smagu multikolinearitāti.
- Efektīva korekcija ietver lieku mainīgo noņemšanu, pamatojoties uz praktisku lietderību un zinātnisko atbilstību, lai stabilizētu modeli.
Vai jums kādreiz ir bijusi sajūta, ka jūsu regresijas modelis darbojas nedaudz kļūdaini, ar koeficientiem, kas lēkā visur, vai p-vērtībām, kas vienkārši nav loģiskas? Iespējams, jūs saskaraties ar multikolinearitāti — viltīgu problēmu, kur jūsu prognozējošie mainīgie ir pārāk cieši saistīti, būtībā divreiz stāstot modelim vienu un to pašu stāstu. Kad tas notiek, kļūst gandrīz neiespējami izolēt viena mainīgā individuālo ietekmi uz mērķa rezultātu.
Lai to izprastu, datu zinātnieki paļaujas uz jaudīgu diagnostikas rīku, ko sauc par dispersijas inflācijas faktoru (VIF) . Iedomājieties VIF kā palielināmo stiklu, kas precīzi atklāj, cik lielā mērā aprēķinātā regresijas koeficienta dispersija tiek "palielināta" korelāciju dēļ ar citiem prognozētājiem. Šī rādītāja apgūšana ir būtiska, lai izveidotu stabilus un uzticamus prognozēšanas modeļus , kas nesabrūk, pielāgojot dažus datu punktus.
Variācijas inflācijas faktora dekodēšana
Pēc būtības VIF kvantificē koeficientu aprēķinu precizitātes pasliktināšanos. Ideālā pasaulē prognozētāji būtu neatkarīgi, kas nozīmē, ka koeficientu dispersija būtu absolūti minimāla. Tomēr, ja prognozētāji ir korelēti , dispersija palielinās, padarot aprēķinus mazāk drošus. Konkrēta mainīgā VIF tiek aprēķināts, no 1 atņemot R kvadrāta vērtību, kas iegūta, regresējot šo konkrēto prognozētāju pret visiem pārējiem neatkarīgajiem mainīgajiem modelī.
Matemātiskais attēlojums ir VIF j = 1 / (1 – R j 2 ) . Ja R kvadrāta vērtība ir zema, tas nozīmē, ka mainīgais nav lieks, un VIF paliek tuvu 1. Bet, R kvadrātam pieaugot — norādot, ka mainīgo var paredzēt citi —, VIF vērtība strauji pieaug , signalizējot par augstu lieko vērtību.
Kā interpretēt VIF rādītājus
Zināt skaitli ir viena lieta, bet zināt, ko tas nozīmē jūsu datiem, ir īstā maģija. VIF 1 ir zelta standarts, kas norāda uz nulles korelāciju starp šo prognozētāju un pārējo kopu. Kad sākat redzēt vērtības, kas pārsniedz 4 , tā parasti ir zīme, ka jums jāsāk pievērst lielāka uzmanība šim mainīgajam.
Kad VIF pārsniedz 10 slieksni , mēs redzam nopietnu multikolinearitāti. Šajā posmā koeficientu aprēķini, visticamāk, ir nestabili, un standarta kļūdas ir tik ļoti palielinātas, ka t-testi var parādīt mainīgos kā nenozīmīgus, pat ja kopējais modeļa F-tests ir ļoti nozīmīgs. Šī pretruna ir klasiska brīdinājuma zīme kolinearitātes problēmām.
Multikolinearitātes noteikšana savvaļā
Lai gan VIF ir vispiemērotākais rīks, ir noderīgi atpazīt arī citus šīs problēmas simptomus. Piemēram, ja pamanāt, ka koeficientu aprēķini ievērojami svārstās, pievienojot vai noņemot vienu mainīgo, iespējams, ir kolinearitātes problēma. Līdzīgi korelācijas matricas pārbaude var sniegt ātru priekšstatu par pāru attiecībām, lai gan tas ir ierobežots, jo nevar noteikt sarežģītas atkarības, kurās iesaistīti trīs vai vairāki mainīgie.
- Pāru korelācijas: Lieliski piemērots vienkāršu saikņu noteikšanai starp diviem mainīgajiem lielumiem (piemēram, svaru un ķermeņa virsmas laukumu).
- R kvadrāta analīze: VIF pamati, kas parāda, cik lielu daļu mainīgā lieluma dispersijas izskaidro citi mainīgie.
- Koeficienta stabilitāte: Vērtību izmaiņu uzraudzība dažādās modeļa iterācijās.
Praktiskas stratēģijas augsta VIF labošanai
Tātad, esat veicis analīzi un atradis dažus mainīgos ar VIF 12 vai 15. Kā rīkoties tālāk? Vienkāršākais risinājums ir noņemt traucējošos prognozētājus . Taču mainīgos nevar vienkārši izdzēst nejauši; jums ir jāizdara zinātniska vai praktiska izvēle. Piemēram, ja jums ir divi ļoti korelēti mainīgie, piemēram, “Svars” un “Ķermeņa virsmas laukums”, pajautājiet sev, kuru no tiem ir vieglāk izmērīt vai kurš ir loģiskāk atbilstošs jūsu pētījumam.
Izmetot visvairāk lieko mainīgo, bieži vien var konstatēt, ka atlikušo prognozētāju VIF ievērojami samazinās . Interesanti, ka šī attīrīšana bieži notiek bez būtiska trieciena modeļa prognozēšanas jaudai. Jūs varētu novērot nelielu kritumu koriģētajā R kvadrāta vērtībā , taču kompromiss ir modelis, kas ir daudz labāk interpretējams un statistiski pamatots.
VIF diagnostikas ieviešana programmēšanā
Neatkarīgi no tā, vai izmantojat R vai C, loģika paliek nemainīga: vispirms ir jāpielāgo lineārs modelis un pēc tam jāaprēķina VIF katrai funkcijai. Tādās vidēs kā R, tādas bibliotēkas kā auto sniegt tiešu vif() funkcija, kas paveic smago darbu. Lai rezultāti būtu vieglāk uztverami, ir lieliska ideja izmantot joslu diagrammas lai vizualizētu VIF vērtības, ļaujot jums uzreiz pamanīt mainīgos, kas rada vislielākās problēmas, kas ir galvenā sastāvdaļa logica de programacion para escribir mejor codigo veidojot statistikas rīkus.
Papildus skaitļiem vienmēr ir prātīgi vizualizēt modeļa atlikumus . Atlikumu attēlošana palīdz apstiprināt, vai modeļa kļūdas ir nejaušas vai arī ir kāds nepamanīts likumsakarības modelis. Korelācijas matricu apvienošana ar VIF diagrammām sniedz visaptverošu 360 grādu pārskatu par datu kopas stāvokli, nodrošinot, ka regresijas rezultāti nav tikai skaitļi, bet gan uzticamas atziņas.
Multikolinearitātes pārvaldība ietver ciklu, kurā, izmantojot VIF, tiek noteiktas palielinātas dispersijas, analizētas attiecības starp prognozētājiem, izmantojot korelācijas matricas, un pilnveidota pazīmju kopa, noņemot liekus datus. Uzturot zemas VIF vērtības — parasti zem 5 vai 10 —, jūs nodrošināt, ka katrs mainīgais sniedz unikālu informāciju, kas noved pie precīzākiem koeficientiem un regresijas modeļa, kas patiesi atspoguļo jūsu datu pamatā esošo dinamiku.
