Es gibt verschiedene m\u00f6gliche Strategien, um mit dem Problem der intermittierenden Werte umzugehen. Einige Teilnehmer haben sich daf\u00fcr entschieden, 2 getrennte Modelle zu erstellen: eines, um vorherzusagen, ob das Produkt an einem bestimmten Tag verf\u00fcgbar sein wird oder nicht, und ein zweites, um die Verk\u00e4ufe zu prognostizieren. Wie viele andere haben auch wir uns f\u00fcr eine andere Option entschieden, n\u00e4mlich die Verwendung einer an das Problem angepassten Zielfunktion: die\u00a0Tweedie Verlust<\/strong>.<\/p>\nOhne auf die mathematischen Details einzugehen, lassen Sie uns versuchen zu verstehen, warum diese Verlustfunktion f\u00fcr unser Problem geeignet ist, indem wir die Umsatzverteilung im Training data und die Tweedie-Verteilung vergleichen:<\/p>\n<\/div>
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/03\/image-3-.png\" "\\"Bild-3-\\"")
<\/span><\/div>Sie sehen recht \u00e4hnlich aus und haben beide Werte, die sich um 0 herum konzentrieren. Wenn Sie den Tweedie-Verlust als Zielfunktion festlegen, wird das Modell im Grunde dazu gezwungen\u00a0maximieren Sie die Wahrscheinlichkeit dieser Verteilung<\/strong>\u00a0und damit die richtige Anzahl von 0s vorhersagen. Au\u00dferdem verf\u00fcgt diese Verlustfunktion \u00fcber einen Parameter - dessen Werte zwischen 1 und 2 liegen -, der an die Verteilung des vorliegenden Problems angepasst werden kann:<\/p>\n<\/div>![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/03\/image-4-.png\" "\\"image-4-\\"")
<\/span><\/div>Ausgehend von unserer dataset-Verteilung k\u00f6nnen wir davon ausgehen, dass der optimale Wert zwischen 1 und 1,5 liegt, aber um genauer zu sein, werden wir diesen Parameter sp\u00e4ter mit einer Kreuzvalidierung abstimmen. Diese Zielfunktion ist auch f\u00fcr andere Gradient-Boosting-Modelle wie XGBoost oder CatBoost verf\u00fcgbar, so dass es sich auf jeden Fall lohnt, sie auszuprobieren, wenn Sie mit intermittierenden Werten zu tun haben.<\/p>\n<\/div>
Wie kann man 28 Tage im Voraus prognostizieren? Das Beste aus den Lag-Funktionen machen<\/h2><\/div>Wie oben erl\u00e4utert, sind die Verz\u00f6gerungsmerkmale um einen bestimmten Zeitraum verschobene Ums\u00e4tze. Ihre Werte h\u00e4ngen also davon ab, wo Sie im Prognosehorizont stehen. Die an einem bestimmten Tag D get\u00e4tigten Verk\u00e4ufe k\u00f6nnen als 1-Tages-Verz\u00f6gerung betrachtet werden, wenn Sie einen Tag im Voraus prognostizieren, oder als 28-Tages-Verz\u00f6gerung, wenn Sie 28 Tage im Voraus prognostizieren. Das folgende Diagramm veranschaulicht diesen Punkt:<\/p>\n<\/div>
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/03\/image-5.png\" "\\"Bild-5\\"")
<\/span><\/div>Dieses Konzept ist wichtig, um zu verstehen, welche Funktionen\u00a0zum Zeitpunkt der Vorhersage verf\u00fcgbar<\/strong>. Hier befinden wir uns am Tag D und m\u00f6chten den Umsatz f\u00fcr die n\u00e4chsten 28 Tage prognostizieren. Wenn wir dasselbe Modell - und damit dieselben Merkmale - f\u00fcr Vorhersagen f\u00fcr den gesamten Prognosehorizont verwenden m\u00f6chten, k\u00f6nnen wir nur Lags verwenden, die f\u00fcr die Vorhersage aller Tage zwischen D+1 und D+28 zur Verf\u00fcgung stehen. Das bedeutet, wenn wir das Merkmal 1-Tages-Lag verwenden, um das Modell zu trainieren, muss diese Variable auch f\u00fcr Vorhersagen an D+2, D+3, ... und D+28 gef\u00fcllt werden, w\u00e4hrend sie sich auf Daten in der Zukunft bezieht.<\/p>\nDennoch sind Verz\u00f6gerungen wahrscheinlich die\u00a0Merkmale mit der gr\u00f6\u00dften Vorhersagekraft<\/strong>, Daher ist es wichtig, einen Weg zu finden, diese Informationen optimal zu nutzen. Wir haben 3 Optionen in Betracht gezogen, um dieses Problem zu umgehen. Lassen Sie uns sehen, wie sie abgeschnitten haben.<\/p>\n<\/div>Option 1: Ein Modell f\u00fcr alle Wochen<\/h2><\/div>![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/03\/image-6.png\" "\\"image-6\\"")
<\/span><\/div>Die erste Option ist die offensichtlichste. Sie besteht darin, dasselbe Modell zu verwenden, um Vorhersagen f\u00fcr alle Wochen des Prognosehorizonts zu treffen. Wie wir soeben erl\u00e4utert haben, ist dies mit einer gro\u00dfen Einschr\u00e4nkung verbunden: Es k\u00f6nnen nur die Merkmale verwendet werden, die f\u00fcr die Vorhersage von T+28 verf\u00fcgbar sind. Daher m\u00fcssen wir\u00a0alle Informationen aus den 27 letzten Lags loswerden<\/strong>. Das ist schade, denn die j\u00fcngsten Lags sind auch die informativsten, so dass wir eine andere Option in Betracht gezogen haben.<\/p>\n<\/div>Option 2: W\u00f6chentliche Modelle<\/h2><\/div>![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/03\/image-7-.png\" "\\"Bild-7-\\"")
<\/span><\/div>Diese Alternative besteht darin, f\u00fcr jede Woche ein anderes LightGBM-Modell zu trainieren. Im obigen Diagramm lernt jedes Modell von den j\u00fcngsten m\u00f6glichen Lags in Bezug auf die Einschr\u00e4nkung, die durch seinen Vorhersagehorizont auferlegt wird. Nach der gleichen Logik wie bei der vorherigen Option bedeutet dies, dass jedes Modell alle Lags nutzen kann, mit Ausnahme derer, die neuer sind als der am weitesten entfernte Tag, den es vorherzusagen gilt.<\/p>\n
Genauer gesagt:<\/p>\n<\/div>
- <\/i><\/span>
Modell 1 erstellt Vorhersagen f\u00fcr die Tage 1-7 und st\u00fctzt sich dabei auf alle Verz\u00f6gerungen au\u00dfer den 6 j\u00fcngsten.<\/div><\/li>
- <\/i><\/span>
Modell 2 erstellt Vorhersagen f\u00fcr die Tage 8-14 und st\u00fctzt sich dabei auf alle Verz\u00f6gerungen au\u00dfer den 13 j\u00fcngsten.<\/div><\/li>
- <\/i><\/span>
Modell 3 macht Vorhersagen f\u00fcr die Tage 15-21 und st\u00fctzt sich dabei auf alle Verz\u00f6gerungen au\u00dfer den 20 j\u00fcngsten.<\/div><\/li>
- <\/i><\/span>
Modell 4 erstellt Vorhersagen f\u00fcr die Tage 22-28 und st\u00fctzt sich dabei auf alle Verz\u00f6gerungen au\u00dfer den 27 j\u00fcngsten, genau wie bei Option 1.<\/div><\/li><\/ul>
Mit dieser Methode k\u00f6nnen wir\u00a0die Verz\u00f6gerungsinformationen f\u00fcr die ersten 3 Wochen besser zu nutzen und damit die Prognosegenauigkeit unserer L\u00f6sung zu verbessern<\/strong>. Es hat sich gelohnt, weil es ein Kaggle-Wettbewerb war, aber\u00a0f\u00fcr ein industrialisiertes Projekt sollten auch Fragen der Komplexit\u00e4t, der Wartung und der Interpretierbarkeit in Betracht gezogen werden<\/strong>.<\/p>\nDiese Option k\u00f6nnte in der Tat sehr rechenintensiv sein, und wenn wir eine landesweite Einf\u00fchrung anstreben, m\u00fcssten wir Hunderte von Modellen in Echtzeit pflegen. In diesem Fall w\u00e4re zu pr\u00fcfen, ob der Leistungszuwachs gro\u00df genug ist, um diese komplexere Implementierung zu rechtfertigen.<\/p>\n<\/div>
Option 3: Rekursive Modellierung<\/h2><\/div>![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/03\/image-8.png\" "\\"image-8\\"")
<\/span><\/div>Die letzte Option verwendet ebenfalls Wochenmodelle, aber diesmal auf rekursive Weise.\u00a0Rekursive Modellierung<\/strong>\u00a0bedeutet, dass Vorhersagen, die f\u00fcr eine bestimmte Woche erstellt wurden, als Verz\u00f6gerungsmerkmale f\u00fcr die folgenden Wochen verwendet werden. Dies geschieht\u00a0sequentiell<\/strong>: Wir machen zun\u00e4chst Prognosen f\u00fcr die erste Woche, indem wir alle Verz\u00f6gerungen au\u00dfer den 6 j\u00fcngsten verwenden. Dann prognostizieren wir Woche 2, indem wir unsere vorherigen Prognosen als 1-w\u00f6chige Lags verwenden, anstatt weitere Lags wie in Option 2 auszuschlie\u00dfen. Indem wir den gleichen Prozess wiederholen, erhalten wir immer die j\u00fcngsten Lags, auch f\u00fcr die Wochen 3 und 4, was uns erlaubt, diese Informationen zum Trainieren der Modelle zu nutzen.<\/p>\nEs lohnt sich, diese Methode zu testen, aber bedenken Sie, dass sie ziemlich\u00a0instabil, da sich die Fehler von Woche zu Woche ausbreiten<\/strong>. Wenn das Modell der ersten Woche gro\u00dfe Fehler macht, werden diese Fehler vom n\u00e4chsten Modell als Wahrheit angenommen, das dann unweigerlich schlecht abschneidet, und so weiter. Deshalb haben wir beschlossen\u00a0bleiben Sie bei Option 2<\/strong>, das scheint zuverl\u00e4ssiger zu sein.<\/p>\n<\/div>Sicherstellung der Robustheit von Modellen mit einer geeigneten Kreuzvalidierung: Warum die Kreuzvalidierung f\u00fcr Zeitreihen entscheidend ist<\/h2><\/div>Bei jedem Projekt zum maschinellen Lernen ist die Anwendung einer geeigneten Kreuzvalidierungsstrategie von entscheidender Bedeutung, um die Genauigkeit au\u00dferhalb der Stichprobe korrekt zu simulieren, Hyperparameter sorgf\u00e4ltig auszuw\u00e4hlen und eine \u00dcberanpassung zu vermeiden. Bei der Vorhersage muss dies sorgf\u00e4ltig geschehen, denn es besteht eine zeitliche Abh\u00e4ngigkeit zwischen den Beobachtungen, die erhalten bleiben muss. Mit anderen Worten, wir wollen verhindern, dass das Modell in die Zukunft schaut, wenn wir es trainieren<\/strong>.<\/p>\nDer Validierungszeitraum, in dem das Modell getestet wird, ist ebenfalls von gro\u00dfer Bedeutung, wenn es um Zeitreihen geht. Die Leistung des Modells und der optimale Satz von Hyperparametern k\u00f6nnen je nach dem Zeitraum, in dem das Modell trainiert und getestet wird, stark variieren. Unser Ziel ist es daher, die Parameter zu finden, die am ehesten die Leistung maximieren, und zwar nicht \u00fcber einen zuf\u00e4lligen Zeitraum, sondern \u00fcber den Zeitraum, den wir prognostizieren wollen<\/strong>, d.h. die n\u00e4chsten 4 Wochen.<\/p>\n<\/div>Anpassen des Validierungsprozesses an das jeweilige Problem<\/h2><\/div>Um dieses Ziel zu erreichen, haben wir 5 Validierungssets ausgew\u00e4hlt, die\u00a0die f\u00fcr den Vorhersagezeitraum relevant sind<\/strong>. Das Diagramm unten zeigt, wie sie \u00fcber die Zeit verteilt sind. F\u00fcr jede Kreuzvalidierung wird das Modell mit verschiedenen Parameterkombinationen auf dem Trainingssatz trainiert und auf dem Validierungssatz anhand des mittleren quadratischen Fehlers bewertet.<\/p>\n<\/div>![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/03\/Image-9-.png\" "\\"Bild-9-\\"")
<\/span><\/div>Die Folds 1, 2 und 3 zielen darauf ab, die Parameter zu identifizieren, die die Performance in den letzten Perioden, d.h. in den letzten 3 Monaten, maximiert haben. Das Problem ist, dass diese 3 Monate m\u00f6glicherweise andere Besonderheiten aufweisen als der kommende Zeitraum, den wir prognostizieren m\u00f6chten. Nehmen wir zum Beispiel an, dass die Gesch\u00e4fte in den letzten Monaten eine riesige Werbesaison gestartet haben, die erst heute zu Ende geht.<\/p>\n
Diese Aktionen w\u00fcrden sich wahrscheinlich auf das Verhalten des Modells auswirken, aber es w\u00e4re riskant, sich nur auf diese j\u00fcngsten Zeitr\u00e4ume zu verlassen, um das Modell abzustimmen, da dies nicht repr\u00e4sentativ f\u00fcr die n\u00e4chsten Ereignisse ist.<\/p>\n
Um dieses Risiko abzuschw\u00e4chen, haben wir auch die Falten 4 und 5 einbezogen, die dem um 1 bzw. 2 Jahre verschobenen Prognosezeitraum entsprechen. Diese Zeitr\u00e4ume sind wahrscheinlich \u00e4hnlich, da das Problem eine starke j\u00e4hrliche Saisonalit\u00e4t aufweist, was im Einzelhandel h\u00e4ufig der Fall ist. H\u00e4tten wir eine andere Periodizit\u00e4t, k\u00f6nnten wir eine beliebige Kreuzvalidierungsstrategie w\u00e4hlen, die wirtschaftlich sinnvoller ist. Am Ende haben wir die Hyperparameterkombination mit dem geringsten Fehler \u00fcber die 5 Foldings ausgew\u00e4hlt, um das endg\u00fcltige Modell zu trainieren.<\/p>\n<\/div>
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/04\/Medium-Blog.png\" "\\"Mittel")
<\/span><\/div><\/div><\/div><\/div><\/div>![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/03\/Image-1-.png\" "\\"Bild-1-\\"")
<\/span><\/div>![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/03\/image-2-.png\" "\\"Bild-2-\\"")
<\/span><\/div>![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/03\/Image-10.png\" "\\"Bild-10\\"")
<\/span><\/div>