{"id":65478,"date":"2021-11-26T14:35:34","date_gmt":"2021-11-26T14:35:34","guid":{"rendered":"https:\/\/www.artefact.com\/?post_type=news&p=65478"},"modified":"2024-09-20T17:45:47","modified_gmt":"2024-09-20T16:45:47","slug":"the-path-to-developing-a-high-performance-demand-forecasting-model-part-4","status":"publish","type":"blog","link":"https:\/\/www.artefact.com\/nl\/blog\/the-path-to-developing-a-high-performance-demand-forecasting-model-part-4\/","title":{"rendered":"De weg naar het ontwikkelen van een goed presterend vraagvoorspellingsmodel - Deel 4"},"content":{"rendered":"

Auteur<\/h2><\/div>\"Image\"

Kasra Mansouri<\/h3><\/div>

Senior Data Wetenschapper bij Artefact<\/p>\n<\/div><\/div><\/div><\/div><\/div>

<\/span><\/a><\/span>

Lees ons artikel over<\/u><\/p>\n<\/div>

<\/span><\/div>

.<\/p>\n<\/div><\/div><\/div><\/div><\/div>

Tot nu toe hebben we het voornamelijk gehad over het voorspellen van reguliere producten die al een tijdje in de schappen liggen. Maar hoe zit het met producten die zeer recent gelanceerd zijn?
\nIn dit artikel laten we u zien hoe we dit probleem hebben aangepakt door een alternatieve oplossing voor te stellen voor ons boostingmodel op basis van product look-alikes.
\nHet bestaat uit het trainen van een clustermodel op oude innovaties om overeenkomsten in verkooppatronen op te sporen, dat vervolgens met een classificatiemodel in kaart te brengen voor productkenmerken en vervolgens de verkoop van nieuwe innovaties af te leiden met eenvoudige statistische methoden op basis van de resultaten van model 1 en 2.<\/p>\n<\/div>

Waarom is het voorspellen van gelanceerde producten zo moeilijk?<\/h1><\/div>

Een beetje context<\/h2><\/div>

Productlanceringen zijn heel gewoon in de detailhandel. Het ligt in de aard van CPG-bedrijven om hun producten te diversifi\u00ebren. Ze willen hun klanten aanspreken en hun producten aanpassen aan gedragsveranderingen. En het bedrijf waarvoor wij het project deden, was geen uitzondering: zij brengen elk jaar bijna 50-60 innovaties (nieuwe producten) uit.
\nWij defini\u00ebren een innovatie eerder als een nieuw productmerk dat wordt gelanceerd of een nieuw product met een nieuwe smaak dat wordt toegevoegd aan een al bestaand merk. Na een bepaalde tijd (in ons geval bijvoorbeeld 2 maanden) wordt een innovatie een gewoon product.
\nEr zijn andere gevallen waarin een nieuwe productcode kan worden gegenereerd, zoals<\/p>\n<\/div>

  • <\/i><\/span>
    Lichte verandering in het gewicht van een bestaand product<\/div><\/li>
  • <\/i><\/span>
    Lichte verandering in de formule van een bestaand product<\/div><\/li>
  • <\/i><\/span>
    Verandering van fabriek die het product produceert<\/div><\/li><\/ul>

    Wij beschouwen deze gevallen niet als innovaties maar als renovaties en daarom vallen ze buiten ons bereik.Wij hadden toegang tot productlanceringen met een omzet van data van 2017 tot 2019, dus ruwweg 150 innovatieproducten.<\/p>\n<\/div>

    De grootste uitdaging<\/h2><\/div>

    Het was onze taak om wekelijkse voorspellingen te doen voor de komende 14 weken op\u00a0magazijn\/dagelijks\/product<\/strong>\u00a0niveau.
    \nDe eerste keer dat het model moest worden toegepast was\u00a07 dagen na de lancering<\/strong>, wat betekent dat het slechts 7 dagen historische data zou hebben en de verkoop voor de komende 14 x 7 = 98 dagen moest voorspellen! De laatste keer dat we het model moesten toepassen was\u00a060 dagen na de lancering<\/strong>. Dit betekent dat een gelanceerd product na 2 maanden als een \u201cnormaal product\u201d zou worden beschouwd, omdat het enige \u201cstabiliteit\u201d in de verkoopcycli zou hebben bereikt, maar dit hangt natuurlijk af van de activiteit van uw bedrijf en de aard van het product. Na deze fase van 2 maanden zou het kernmodel (het model dat ontwikkeld is voor reguliere producten) het innovatiemodel overnemen en voorspellingen doen voor de betreffende lancering, deze beslissing werd gevalideerd door de bedrijfsteams die enige kennis hadden van de verkoopcycli van innovaties.<\/p>\n<\/div>

    Zeer beperkt historisch data<\/h3><\/div>

    De hoeveelheid historische data waarover we beschikken is kritisch laag voor het maken van nauwkeurige voorspellingen. We hebben een training dataset die veel kleiner is dan onze voorspelling\/test dataset en dat zorgt vaak voor een zeer slechte voorspellingsnauwkeurigheid. We hebben het over een paar weken in training data en we moeten voorspellingen doen voor 98 dagen.<\/p>\n<\/div>

    Gelanceerde producten hebben in het begin een zeer onstabiele verkoop<\/h3><\/div>

    Bovendien,\u00a0De verkoop data is vaak erg rommelig tijdens de eerste weken van de lancering, omdat trends drastisch kunnen veranderen.<\/strong>. Het is zelfs zo dat detailhandelaren in de eerste 2 weken enorme hoeveelheden van de innovatie bestellen om hun schappen te vullen, ze noemen dit de\u00a0uitvoeringsfase.\u00a0<\/em>Daarna dalen de bestellingen over het algemeen op W3 en W4 en daarna stijgen ze weer een beetje.
    \nOok hier kan er veel gebeuren: sommige detailhandelaren kunnen zich realiseren dat het nieuwe product niet erg goed verkoopt tijdens de eerste weken in hun winkels en daarom als snelle reactie hun bestellingen drastisch verlagen. Of een product kan enorme bestelvolumes hebben van sommige detailhandelaren, waaraan de fabrikant niet volledig kan voldoen omdat hij dit vraagniveau niet had voorzien. De detailhandelaren zullen in de weken daarna grote volumes blijven bestellen om de volumes te compenseren die niet volledig geleverd werden.<\/p>\n<\/div>\"Image\"

    Alle bovenstaande elementen zijn een duidelijke verklaring waarom het voorspellen van de verkoop van innovaties moeilijk is en waarom we daarom een specifiek model voor deze producten moesten ontwikkelen.<\/p>\n<\/div>

    Evaluatiecriteria<\/h2><\/div>

    We hadden dezelfde evaluatiecijfers als voor gewone producten (W+1 en W+2 prognosenauwkeurigheden op nationaal\/wekelijks niveau). Ter herinnering volgt hier de formule van een prognosenauwkeurigheid:<\/p>\n<\/div>\"Image\"

    Wij hebben nog een dimensie aan dit probleem toegevoegd. We berekenden deze metriek voor elke\u00a0voorspellingsdatum<\/em>\u00a0(de datum waarop we onze voorspelling doen) met betrekking tot de lanceerdatum.
    \nWe controleerden de W+1 en W+2 voorspellingsnauwkeurigheden voor voorspellingsdata van D+7 tot D+49, wat betekent dat onze scorekaart er als volgt uit zou zien:<\/p>\n<\/div>\"Image\"

    De reden dat we deze dimensie hebben toegevoegd, is dat het voor vraagplanners heel belangrijk is om de prestaties van hun voorspellingen tijdens de eerste weken van de lancering te controleren. Een model dat prognoses van goede kwaliteit levert tijdens de eerste weken, stelt hen in staat om grote aanvulproblemen (die vaak voorkomen na de lancering als gevolg van onzekerheid) te voorkomen en uiteindelijk te slagen in hun lancering.<\/p>\n<\/div>

    Voorgestelde benadering<\/h1><\/div>

    Waarom leverde klassieke ML slechte resultaten op?<\/h2><\/div>

    Zoals eerder gezegd hebben we een \u201cklein data\u201d probleem. De kleine omvang van onze trainings data en de zeer grillige aard ervan maakt het ongeschikt voor een machine-learningmodel.
    \nMeestal hebben boostingmodellen 2-3 jaar historische verkoop data nodig om algemene trends\/seizoensinvloeden te detecteren en minstens 2-3 maanden tijdreeksen data voor \u00e9\u00e9n product om \u201caccurate voorspellingen\u201d te doen. Dit was voor ons niet het geval; ons XGBoost-model zag slechts een paar weken historische verkoop voor elk product.
    \nWe trainden een XGBoost-model op innovatieproducten met de volgende logica<\/p>\n<\/div>

    • <\/i><\/span>
      We hebben een model getraind op productniveau\/nationaal niveau\/dagelijks niveau. Het idee was om de prognoses vervolgens op te splitsen op product-\/dagelijks-\/retailerniveau met behulp van enkele bedrijfsregels.<\/div><\/li>
    • <\/i><\/span>
      We hebben het model gevoed met dezelfde functies als het kernmodel, met uitzondering van \u00e9\u00e9n extra functie, namelijk de lanceerdatum van het product.<\/div><\/li>
    • <\/i><\/span>
      We hebben de train\/test uitgevoerd op basis van producten<\/div><\/li>
    • <\/i><\/span>
      Alle producten die v\u00f3\u00f3r 2019 werden gelanceerd, zaten in de trainingsset, bijv. we hebben hun verkoop tijdens de eerste 2 maanden in de trainingsset gezet.<\/div><\/li>
    • <\/i><\/span>
      Alle producten die na 2019 werden gelanceerd, zaten in de testset.<\/div><\/li>
    • <\/i><\/span>
      Het model wordt verschillende keren getraind, telkens tot de dag voor de voorspellingsdatum (D+7, D+14, enz.)<\/div><\/li><\/ul>

      En de resultaten waren helemaal niet goed! Daarom besloten we onze aanpak voor deze producten volledig te veranderen.<\/p>\n<\/div>\"Image\"

      Klassieke tijdreeksmodellen redden de dag ook niet<\/h2><\/div>

      Aangezien onze eerste poging met XGBoost een totale mislukking was, besloten we ons geluk te beproeven met een paar ouderwetse tijdreeksmodellen (VARMA, SARIMAX, Prophet, enz.). Tijdreeksmodellen hebben het voordeel dat ze eenvoudiger en gemakkelijker te interpreteren zijn dan boostingmodellen. Omdat ze getraind worden op \u00e9\u00e9n product, kunnen ze zich ook gemakkelijker aanpassen aan abrupte trendveranderingen.
      \nHet idee was om per product een model te trainen (bijvoorbeeld een Prophet-model) dat voorspellingen zou doen op nationaal\/dagelijks niveau. Net als hierboven zou het model ook meerdere keren worden getraind, telkens tot de dag voor de voorspellingsdatum (D+7, D+14, enz.) en voorspellingen doen voor de horizon van 14 weken.
      \nMaar hier waren de resultaten, net als hierboven, nog steeds niet bevredigend en de reden was vrijwel hetzelfde: niet genoeg historische data! De geschiedenis was te ondiep en de data was te rommelig voor het model om een duidelijk patroon te begrijpen en nauwkeurige voorspellingen te doen.<\/p>\n<\/div>\"Image\"

      Productclustering op basis van look-alikes: de Messias<\/h2><\/div>

      Omdat onze twee eerste pogingen om voorspellingen te doen geen uitsluitsel gaven, besloten we om het helemaal over een andere boeg te gooien.
      \nWe analyseerden de verkoopcijfers van alle innovaties van 2017 tot 2019 en realiseerden ons dat veel innovaties een vergelijkbare verkoopcurve hadden tijdens de eerste maanden van hun respectievelijke lanceringen, wat ons op het idee bracht om voorspellingen te doen op basis van productovereenkomsten met oude innovaties. Onze intu\u00eftie werd versterkt doordat we enkele onderzoekspapers van andere collega data-wetenschappers vonden die een soortgelijke aanpak voorstelden (1).
      \nOnze aanpak bestond uit 3 fundamentele stappen<\/p>\n<\/div>

      Clustering van oude innovaties op basis van verkoop - Data bereik : Innovaties gelanceerd van 2017 tot 2018 inbegrepen<\/h3><\/div>

      Het idee is om oude innovaties op basis van hun tijdreekscurve te clusteren in groepen van vergelijkbare producten. Producten in dezelfde cluster hebben vergelijkbare verkooppatronen en daarom kan de verkoop van een enkele innovatie worden afgeleid uit de verkoopcijfers van oudere innovaties.
      \nOnze ingang data was de\u00a0MinMax genormaliseerde cumulatieve verkoop van oude innovaties tijdens hun eerste 5 maanden<\/strong>. We keken naar de cumulatieve verkoop omdat we ons clustermodel een idee wilden geven van wanneer elk product zijn normale verkooptempo zou bereiken. We hebben de cumulatieve verkoop genormaliseerd omdat sommige producten dezelfde curvevorm hadden maar verschillende verkoopvolumes en we wilden ze in hetzelfde cluster plaatsen omdat we ons hier richten op gelijkenis.
      \nWe hebben onze producten geclusterd met een\u00a0K-Means model<\/strong>\u00a0waarbij de K-parameter automatisch wordt gekozen via een benchmark met de\u00a0Silhouet index<\/em>.Het optimale aantal was K=4.<\/strong>We hebben ook verschillende afstandsmetingen tussen\u00a0euclidisch<\/em>\u00a0en\u00a0DTW,\u00a0<\/em>waarbij euclidean meer bevredigende resultaten gaf tijdens onze tests.<\/p>\n<\/div>\"Image\"\"Image\"

      Classificatiemodel dat de productcluster voorspelt op basis van zijn attributen - Data bereik : Innovaties gelanceerd van 2017 tot 2018 inbegrepen<\/h3><\/div>

      Het idee hier is om een verband te vinden tussen de cluster waartoe het product behoort en de attributen ervan, zoals dimensie, merk, smaak, enzovoort, evenals enkele contextuele data zoals de introductieperiode, mediacampagnes, enzovoort. Dat verband wordt gevonden met behulp van een classificatiemodel.
      \nHet model wordt gevoed met productkenmerken en contextuele data en probeert op basis daarvan het innovatiecluster te voorspellen. De intu\u00eftie achter deze aanpak is om te kijken of we de volgende vraag kunnen beantwoorden:
      \nAls we de kenmerken + contextuele data van een innovatie van tevoren kennen, kunnen we dan voorspellen welk verkoopgedrag dit product zal vertonen na de lancering?<\/em><\/strong>
      \nAangezien we zeer beperkte data hadden (ruwweg 100 producten), trainden we een eenvoudige BaggingClassifier op onze producten met een 75%-25% train\/test opsplitsing. We eindigden met een\u00a0F1 score van 84%<\/strong>\u00a0op de testset.
      \nWe hebben wat analyses uitgevoerd op productkenmerken om te zien of we een zakelijke verklaring voor elk cluster kunnen vinden en dit zijn onze bevindingen:<\/p>\n<\/div>