{"id":71574,"date":"2023-07-05T14:29:02","date_gmt":"2023-07-05T13:29:02","guid":{"rendered":"https:\/\/www.artefact.com\/?post_type=blog&p=71574"},"modified":"2024-09-20T17:45:57","modified_gmt":"2024-09-20T16:45:57","slug":"encoding-categorical-features-in-forecasting-are-we-all-doing-it-wrong","status":"publish","type":"blog","link":"https:\/\/www.artefact.com\/nl\/blog\/encoding-categorical-features-in-forecasting-are-we-all-doing-it-wrong\/","title":{"rendered":"Het coderen van categorische kenmerken in voorspellingen: doen we het allemaal verkeerd?"},"content":{"rendered":"

Auteur<\/h2><\/div>\"Image\"

Youssef Oudghiri<\/h3><\/div>

Data Wetenschapper bij Artefact Frankrijk<\/p>\n<\/div><\/div><\/div><\/div><\/div>

Wij stellen een nieuwe methode voor het coderen van categorische kenmerken voor, die specifiek is afgestemd op voorspellingstoepassingen. In essentie codeert deze aanpak categorische kenmerken door de trend van de hoeveelheden geassocieerd met elke categorie te modelleren. In onze experimenten laat deze aanpak aanzienlijke prestatievoordelen zien - zowel in termen van voorspellingsnauwkeurigheid als bias - omdat boomgebaseerde ensemblemodellen beter trends kunnen modelleren en extrapoleren.<\/p>\n<\/div><\/div><\/div><\/div><\/div>

<\/span><\/a><\/span>

Lees ons artikel over<\/u><\/p>\n<\/div>

<\/span><\/div>

.<\/p>\n<\/div><\/div><\/div><\/div><\/div>

Inleiding<\/h2><\/div>

De motivatie voor dit werk kwam voort uit talrijke voorspellingsprojecten voor klanten bij Artefact waarbij onze boostingmodellen een hoge bias vertoonden op het moment van voorspellen. In een diagnostische fase stelden we vast dat een van de belangrijkste bronnen van vertekening in modellen voor ensembleleren voortkwam uit hun uitdaging om trends en fluctuerende niveaus nauwkeurig te modelleren.<\/p>\n

In het volgende zullen we het volgende aantonen\u00a0waarom<\/strong>\u00a0en\u00a0hoe<\/strong>\u00a0gebruikten we een nieuwe benadering voor het coderen van categorische kenmerken. Op basis van onze experimenten met een retailvoorspellingsproject van een klant en verschillende openbare datasets, bewijzen wij dat deze techniek de vertekening effectief kan verminderen en de nauwkeurigheid kan verbeteren.<\/p>\n<\/div>

Boosting en trends, waarom is het complex?<\/h2><\/div>

Boosting-algoritmen hebben het moeilijk om te extrapoleren<\/h3><\/div>

Boosting-algoritmen hebben het moeilijk om trends te modelleren en te extrapoleren, omdat ze geen nieuwe waarden kunnen voorspellen die niet in de trainingsset voorkomen\/afwezig zijn in de bladeren. \u201cLineaire boom<\/a>\u201dOnze tests leverden echter geen overtuigende resultaten op met deze methode.<\/p>\n<\/div>

Klassieke coderingen gaan in de richting van statische voorspellingen<\/h3><\/div>

De meest gebruikte coderingsmethoden voor boosting bevorderen statische relaties tussen onafhankelijke en afhankelijke variabelen, wat op zijn beurt bijdraagt aan een grotere vertekening in de aanwezigheid van trends. Het onderstaande diagram illustreert dit fenomeen:<\/p>\n<\/div>

\"Classical<\/span><\/div>

Vereenvoudigde visuele weergave van de statische aard van de codering van categorische kenmerken in boosting-algoritmen<\/em><\/p>\n<\/div>

We erkennen dat de bovenstaande voorstelling een oversimplificatie is, aangezien beslisbomen complexer zijn en niet-lineaire relaties kunnen identificeren op basis van meerdere factoren. De voorwaarde \u201cde kleur is zwart\u201d zou inderdaad geassocieerd kunnen worden met \u201cde maand juni\u201d. In dit geval zou de kleur zwart niet altijd dezelfde impact hebben. Maar laten we eens naar het grotere geheel kijken:<\/p>\n<\/div>