Aangepaste R-kwadraat

Aangepaste R-kwadraat beoordeelt de fit van regressiemodellen door te corrigeren voor het aantal voorspellers en zo overfitting te voorkomen. In tegenstelling tot R-kwadraat stijgt deze waarde alleen bij significante voorspellers. Essentieel in regressieanalyse helpt het bij modelselectie en prestatie-evaluatie in onder andere de financiële sector.

Aangepaste R-kwadraat is een statistische maatstaf die wordt gebruikt om de geschiktheid van een regressiemodel te beoordelen. Het is een aangepaste versie van de R-kwadraat (of determinatiecoëfficiënt) die rekening houdt met het aantal voorspellers in het model. In tegenstelling tot de gewone R-kwadraat, die kunstmatig kan toenemen door het toevoegen van meer onafhankelijke variabelen, corrigeert Aangepaste R-kwadraat voor het aantal voorspellers, waardoor een nauwkeuriger beeld ontstaat van het verklarend vermogen van het model. De waarde stijgt alleen als de nieuwe voorspeller de voorspellende kracht van het model meer verbetert dan op basis van toeval verwacht mag worden, en daalt als een voorspeller geen significante waarde toevoegt.

Het concept begrijpen

R-kwadraat versus Aangepaste R-kwadraat

• R-kwadraat: Geeft het deel van de variantie in de afhankelijke variabele weer dat voorspelbaar is op basis van de onafhankelijke variabelen. Het wordt berekend als de verhouding tussen verklaarde variantie en totale variantie en ligt tussen 0 en 1, waarbij 1 betekent dat het model alle variabiliteit van de responsdata rond het gemiddelde verklaart.
• Aangepaste R-kwadraat: Deze maatstaf past de R-kwadraatwaarde aan op basis van het aantal voorspellers in het model. De aanpassing wordt gemaakt om overfitting tegen te gaan, wat kan optreden als er te veel voorspellers in een model worden opgenomen. Aangepaste R-kwadraat is altijd kleiner dan of gelijk aan R-kwadraat en kan negatief zijn, hetgeen aangeeft dat het model slechter presteert dan een horizontale lijn door het gemiddelde van de afhankelijke variabele.

Wiskundige formule

De formule voor Aangepaste R-kwadraat is:

[ \text{Aangepaste } R^2 = 1 – \left( \frac{1-R^2}{n-k-1} \right) \times (n-1) ]

Waarbij:

• ( R^2 ) de R-kwadraat is,
• ( n ) het aantal waarnemingen,
• ( k ) het aantal onafhankelijke variabelen (voorspellers).

Belang in regressieanalyse

Aangepaste R-kwadraat is cruciaal in regressieanalyse, vooral bij meervoudige regressiemodellen waarin meerdere onafhankelijke variabelen zijn opgenomen. Het helpt te bepalen welke variabelen betekenisvolle informatie toevoegen en welke niet. Dit wordt bijzonder belangrijk in sectoren als financiën, economie en data science, waar voorspellend modelleren essentieel is.

Overfitting en modelcomplexiteit

Een van de belangrijkste voordelen van Aangepaste R-kwadraat is het vermogen om het toevoegen van niet-significante voorspellers te bestraffen. Het toevoegen van meer variabelen aan een regressiemodel verhoogt meestal de R-kwadraat, omdat de kans groter wordt dat willekeurige ruis wordt opgevangen. Aangepaste R-kwadraat zal echter alleen stijgen als de toegevoegde variabele de voorspellende kracht van het model daadwerkelijk verbetert, waardoor overfitting wordt voorkomen.

Toepassingen en voorbeelden

Gebruik in machine learning

In machine learning wordt Aangepaste R-kwadraat gebruikt om de prestaties van regressiemodellen te evalueren. Het is vooral nuttig bij feature selectie, een essentieel onderdeel van modeloptimalisatie. Door het gebruik van Aangepaste R-kwadraat kunnen data scientists ervoor zorgen dat alleen die kenmerken die daadwerkelijk bijdragen aan de nauwkeurigheid van het model worden opgenomen.

Toepassing in de financiële sector

In de financiële sector wordt Aangepaste R-kwadraat vaak gebruikt om de prestaties van beleggingsportefeuilles te vergelijken met een benchmarkindex. Door te corrigeren voor het aantal variabelen kunnen beleggers beter begrijpen in hoeverre het rendement van een portefeuille verklaard wordt door verschillende economische factoren.

Eenvoudig voorbeeld

Stel een model voor dat huizenprijzen voorspelt op basis van het aantal vierkante meters en het aantal slaapkamers. Aanvankelijk heeft het model een hoge R-kwadraat, wat een goede fit suggereert. Wanneer er echter irrelevante variabelen, zoals de kleur van de voordeur, worden toegevoegd, kan de R-kwadraat hoog blijven. In dit geval zou de Aangepaste R-kwadraat juist dalen, wat aangeeft dat de nieuwe variabelen de voorspellende kracht van het model niet verbeteren.

Uitgebreid voorbeeld

Volgens een gids van het Corporate Finance Institute zijn er twee regressiemodellen voor het voorspellen van de prijs van een pizza. Het eerste model gebruikt alleen de prijs van het deeg als invoervariabele, met een R-kwadraat van 0,9557 en een aangepaste R-kwadraat van 0,9493. Een tweede model voegt temperatuur toe als tweede invoervariabele, wat resulteert in een R-kwadraat van 0,9573 maar een lagere aangepaste R-kwadraat van 0,9431. De aangepaste R-kwadraat geeft correct aan dat temperatuur de voorspellende kracht van het model niet verbetert, waardoor analisten het eerste model zouden moeten verkiezen.

Vergelijking met andere maatstaven

Hoewel zowel R-kwadraat als Aangepaste R-kwadraat worden gebruikt om de geschiktheid van een model te meten, zijn ze niet inwisselbaar en dienen ze verschillende doelen. R-kwadraat is meer geschikt voor eenvoudige lineaire regressie met één onafhankelijke variabele, terwijl Aangepaste R-kwadraat beter past bij meervoudige regressiemodellen met meerdere voorspellers.