![\"Image\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2023\/07\/Youssef-Oudghiri.jpeg\")
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/04\/Medium-Blog.png\" "\\"Moyen")
<\/span><\/div>Introduction<\/h2><\/div>Ce travail a \u00e9t\u00e9 motiv\u00e9 par de nombreux projets de pr\u00e9vision de clients au Artefact, pour lesquels nos mod\u00e8les de stimulation pr\u00e9sentaient un biais important au moment de la pr\u00e9diction. Gr\u00e2ce \u00e0 une phase de diagnostic, nous avons identifi\u00e9 que l'une des principales sources de biais dans les mod\u00e8les d'apprentissage ensembliste provenait de leurs difficult\u00e9s \u00e0 mod\u00e9liser avec pr\u00e9cision les tendances et les niveaux fluctuants.<\/p>\n
Dans ce qui suit, nous allons d\u00e9montrer\u00a0pourquoi<\/strong>\u00a0et\u00a0comment<\/strong>\u00a0nous avons utilis\u00e9 une nouvelle approche pour coder les caract\u00e9ristiques cat\u00e9gorielles. Sur la base de nos exp\u00e9riences portant sur un projet de pr\u00e9vision du commerce de d\u00e9tail d'un client et sur divers ensembles data publics, nous prouvons que cette technique peut effectivement att\u00e9nuer les biais et am\u00e9liorer la pr\u00e9cision.<\/p>\n<\/div>Boosting et tendances, pourquoi est-ce complexe ?<\/h2><\/div>Les algorithmes de boosting ont du mal \u00e0 extrapoler<\/h3><\/div>Les algorithmes de boosting ont du mal \u00e0 mod\u00e9liser et \u00e0 extrapoler les tendances car ils ne peuvent pas pr\u00e9dire de nouvelles valeurs qui n'ont pas \u00e9t\u00e9 observ\u00e9es dans l'ensemble d'apprentissage ou qui sont absentes des feuilles. \u201cArbre lin\u00e9aire<\/a>\u201dLes mod\u00e8les de la s\u00e9rie \" C \" tentent de rem\u00e9dier \u00e0 ce probl\u00e8me, mais nos tests n'ont pas donn\u00e9 de r\u00e9sultats concluants avec cette m\u00e9thode.<\/p>\n<\/div>Les encodages classiques favorisent les pr\u00e9dictions statiques<\/h3><\/div>Les m\u00e9thodes d'encodage les plus courantes employ\u00e9es dans le cadre du boosting favorisent les relations statiques entre les variables ind\u00e9pendantes et d\u00e9pendantes, ce qui contribue \u00e0 accro\u00eetre le biais en pr\u00e9sence de tendances. Le diagramme ci-dessous illustre ce ph\u00e9nom\u00e8ne :<\/p>\n<\/div>
![\"Classical](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2023\/07\/Classical-encodings-push-towards-static-predictions.webp\" "\\"Les")
<\/span><\/div>Repr\u00e9sentation visuelle simplifi\u00e9e mettant en \u00e9vidence la nature statique de l'encodage des caract\u00e9ristiques cat\u00e9gorielles utilis\u00e9 dans les algorithmes de boosting.<\/em><\/p>\n<\/div>Nous reconnaissons que la repr\u00e9sentation ci-dessus est une simplification excessive, car les arbres de d\u00e9cision sont plus complexes et capables d'identifier des relations non lin\u00e9aires bas\u00e9es sur des facteurs multiples. En effet, la condition \u201cla couleur est noire\u201d pourrait \u00eatre associ\u00e9e \u00e0 \u201cle mois de juin\u201d. Dans ce cas, la couleur noire n'aurait pas le m\u00eame impact \u00e0 tout moment. Mais regardons la situation dans son ensemble :<\/p>\n<\/div>
- <\/i><\/span>\n
L'attribution d'un impact unique pour la couleur noire en juin n'est toujours pas id\u00e9ale, car l'impact en juin 2021 peut diff\u00e9rer de l'impact en juin 2022. M\u00eame si nous incluons l'ann\u00e9e, la fronti\u00e8re d\u00e9cisionnelle deviendrait trop complexe \u00e0 construire et \u00e0 identifier, mais aussi, que se passerait-il si la formation data se termine en 2022 et que des pr\u00e9visions doivent \u00eatre faites pour 2023 ?<\/p>\n<\/div><\/li>
- <\/i><\/span>\n
L'ing\u00e9nierie des caract\u00e9ristiques a pour but d'aider le mod\u00e8le \u00e0 identifier plus facilement les relations.<\/strong>. Si nous pouvons aider le mod\u00e8le \u00e0 associer l'impact de la couleur noire \u00e0 un moment donn\u00e9 sans n\u00e9cessiter l'identification de relations complexes, cela serait tr\u00e8s avantageux pour le mod\u00e8le. D'o\u00f9 ...<\/p>\n<\/div><\/li><\/ul>Notre nouvelle approche : Encodage dynamique des caract\u00e9ristiques cat\u00e9gorielles<\/h2><\/div>Base de l'encodage dynamique (v1 sans niveau de l'item)<\/h3><\/div>En une phrase, notre m\u00e9thode d'encodage des caract\u00e9ristiques cat\u00e9gorielles pourrait \u00eatre d\u00e9crite comme suit :\u00a0nous mod\u00e9lisons la composante tendancielle de chaque cat\u00e9gorie et utilisons ces valeurs tendancielles pour coder cette caract\u00e9ristique cat\u00e9gorielle<\/strong>.<\/p>\nLe diagramme ci-dessous illustre la diff\u00e9rence entre l'encodage d'une moyenne statique et l'encodage d'une tendance pour deux cat\u00e9gories de couleurs : le noir et l'or.<\/p>\n<\/div>
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2023\/07\/Basis-of-dynamic-encoding-v1-without-item-level.webp\" "\\"Base")
<\/span><\/div>Illustration du principe d'encodage dynamique, qui implique une mod\u00e9lisation des tendances pour chaque cat\u00e9gorie.<\/em><\/p>\n<\/div>Dans nos exp\u00e9riences, nous avons choisi d'utiliser Prophet pour extraire la composante de tendance. Naturellement, il est possible d'envisager d'autres mod\u00e8les de pr\u00e9vision des s\u00e9ries temporelles.<\/p>\n
Notez que l'encodage moyen statique implique que les ventes d'articles noirs se situent \u00e0 un niveau moyen de 100 unit\u00e9s\/mois \u00e0 tout moment. L'encodage dynamique, en revanche, permet de tenir compte de la tendance \u00e0 la hausse observ\u00e9e pour les articles noirs et de l'extrapoler \u00e0 l'avenir. Une constatation similaire peut \u00eatre faite en ce qui concerne les articles en or. Ainsi, notre approche sera particuli\u00e8rement utile dans les ensembles data o\u00f9 la variable cible \u00e0 pr\u00e9voir suit des tendances marqu\u00e9es dans les diff\u00e9rentes cat\u00e9gories disponibles.<\/p>\n
Notre objectif principal est de permettre au mod\u00e8le de s'adapter plus facilement aux relations changeantes entre les variables ind\u00e9pendantes et la variable d\u00e9pendante \u00e0 pr\u00e9voir. Par cons\u00e9quent, cette m\u00e9thode d'encodage dynamique pourrait \u00e9galement \u00eatre appliqu\u00e9e aux caract\u00e9ristiques num\u00e9riques. Prenons l'exemple du prix. Bien que le prix soit num\u00e9rique et que le mod\u00e8le puisse directement construire des r\u00e8gles bas\u00e9es sur lui, les pr\u00e9f\u00e9rences des gens pour les articles bon march\u00e9 ou co\u00fbteux peuvent encore \u00e9voluer dans le temps et suivre une tendance de vente sp\u00e9cifique. Dans le contexte d'une crise \u00e9conomique, par exemple, les produits abordables peuvent suivre une tendance \u00e0 la hausse des ventes, tandis que les produits on\u00e9reux peuvent suivre une tendance \u00e0 la baisse. En consid\u00e9rant \u2018abordable\u2019 comme une cat\u00e9gorie et \u2018cher\u2019 comme une autre, nous pourrions proposer un codage dynamique pour la caract\u00e9ristique du prix, comme nous l'avons fait pour les couleurs.<\/p>\n
Il est important de noter que pour les caract\u00e9ristiques num\u00e9riques, les variables de base et les variables cod\u00e9es dynamiquement peuvent \u00eatre utilis\u00e9es dans le mod\u00e8le, car elles fourniront diff\u00e9rents types d'informations.<\/p>\n<\/div>
Accorder plus d'importance aux caract\u00e9ristiques dynamiques (v2 avec niveau de l'\u00e9l\u00e9ment)<\/h3><\/div>Bien que cette nouvelle m\u00e9thode d'encodage constitue une am\u00e9lioration, il arrive souvent que l'importance des caract\u00e9ristiques cat\u00e9gorielles ne soit pas suffisamment \u00e9lev\u00e9e pour avoir un impact significatif sur les pr\u00e9dictions lors de l'examen de l'importance des caract\u00e9ristiques. Pour donner plus d'importance aux caract\u00e9ristiques dynamiques et favoriser ainsi une meilleure mod\u00e9lisation et extrapolation des tendances, nous adaptons les valeurs d'encodage \u00e0 chaque s\u00e9rie chronologique\/\u00e9l\u00e9ment individuellement.<\/p>\n<\/div>
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2023\/07\/Giving-more-importance-to-dynamic-features-v2-with-item-level.webp\" "\\"Accorder")
<\/span><\/div>Formule repr\u00e9sentant les deux composantes de l'encodage dynamique : le niveau de la cat\u00e9gorie et le niveau de l'\u00e9l\u00e9ment.<\/em><\/p>\n<\/div>Pour en revenir \u00e0 notre exemple de couleur, si l'on consid\u00e8re deux articles noirs diff\u00e9rents, l'encodage dynamique de la cat\u00e9gorie \u201cnoir\u201d pour chaque article peut \u00eatre diff\u00e9rent en fonction de ses ventes ant\u00e9rieures.<\/p>\n<\/div>
![\"Table](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2023\/07\/Table-illustrating-the-calculation-of-dynamic-encoding-through-a-simple-example.webp\" "\\"Tableau")
<\/span><\/div>Tableau illustrant le calcul de l'encodage dynamique \u00e0 travers un exemple simple<\/em><\/p>\n<\/div>Exp\u00e9riences et r\u00e9sultats<\/h2><\/div>Client dataset<\/h3><\/div>Nous avons utilis\u00e9 notre approche pour pr\u00e9voir les ventes de l'un de nos clients du secteur de la vente au d\u00e9tail. Nous avons valid\u00e9 notre m\u00e9thode sur un large \u00e9ventail de champs d'application afin de nous assurer de son efficacit\u00e9. Voici quelques points data concernant le contexte exp\u00e9rimental :<\/p>\n<\/div>
- <\/i><\/span>Les exp\u00e9riences ont \u00e9t\u00e9 men\u00e9es sur 9 produits diff\u00e9rents, avec un mod\u00e8le de renforcement (LightGBM) pour chaque produit.<\/div><\/li>
- <\/i><\/span>\n
Pour chaque champ d'application, une validation crois\u00e9e k-fold avec une fen\u00eatre d'expansion a \u00e9t\u00e9 r\u00e9alis\u00e9e (k=5).<\/p>\n<\/div><\/li>
- <\/i><\/span>\n
Horizon de pr\u00e9vision : Du jour+1 au jour+180.<\/p>\n<\/div><\/li>
- <\/i><\/span>\n
Les performances ont \u00e9t\u00e9 \u00e9valu\u00e9es \u00e0 l'aide de deux param\u00e8tres :<\/p>\n<\/div><\/li><\/ul>
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2023\/07\/formule.webp\" "\\"formule\\"")
<\/span><\/div>Dans l'ensemble, la m\u00e9thode s'est av\u00e9r\u00e9e tr\u00e8s efficace,\u00a0ce qui se traduit par une diminution absolue moyenne du biais de 9,82% et une augmentation absolue moyenne de la pr\u00e9cision des pr\u00e9visions de 6,29%.<\/strong>\u00a0sur les 9 champs d'application des produits et les 5 plis de validation crois\u00e9e.<\/p>\nLa section suivante valide la pertinence de notre m\u00e9thode en la testant sur un ensemble public de data.<\/p>\n<\/div>
Ventes dans les magasins publics dataset<\/h3><\/div>Dans cette \u00e9tude de cas simplifi\u00e9e, nous utilisons le\u00a0Ventes en magasin - Pr\u00e9vision des s\u00e9ries temporelles<\/a>\u00a0Kaggle dataset. Cet ensemble dataset pr\u00e9sente une tendance abrupte lorsque l'on examine la s\u00e9rie chronologique des ventes moyennes, ce qui rend notre m\u00e9thode particuli\u00e8rement pertinente. En outre, l'horizon de pr\u00e9diction choisi est de trois mois, ce qui est suffisamment \u00e9loign\u00e9 pour b\u00e9n\u00e9ficier des capacit\u00e9s d'extrapolation de l'encodage dynamique. \u00c0 des fins de d\u00e9monstration, nous limitons le dataset au 31 mars 2016, juste avant qu'un tremblement de terre ne se produise, entra\u00eenant l'aplatissement de la courbe des ventes.<\/p>\nAvant tout encodage, notre ensemble initial de data comprend environ 75% de caract\u00e9ristiques num\u00e9riques, englobant les d\u00e9calages, les moyennes mobiles, les caract\u00e9ristiques du calendrier et les \u00e9v\u00e9nements de vacances. Les 25% restantes sont des attributs cat\u00e9goriels tels que la famille de produits, le num\u00e9ro de magasin, la ville, etc.<\/p>\n
Deux mod\u00e8les distincts sont form\u00e9s : l'un utilise les caract\u00e9ristiques cat\u00e9gorielles encod\u00e9es dynamiquement \u00e0 l'aide de notre m\u00e9thode personnalis\u00e9e, tandis que l'autre utilise le traitement natif des caract\u00e9ristiques cat\u00e9gorielles de LightGBM.<\/p>\n
En comparant leurs performances, nous observons une am\u00e9lioration significative de l'approche d'encodage dynamique. Le tableau suivant fournit un r\u00e9sum\u00e9 des r\u00e9sultats :<\/p>\n<\/div>
![\"Comparison](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2023\/07\/image-1.webp\" "\\"image")
<\/span><\/div>Comparaison des valeurs RMSE, FA et %Bias entre la m\u00e9thode d'encodage LightGBM et l'encodage dynamique<\/em><\/p>\n<\/div>![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2023\/07\/image2.webp\" "\\"image2\\"")
<\/span><\/div>Ventes hebdomadaires moyennes + pr\u00e9visions sur 3 mois (encodage dynamique vs m\u00e9thode d'encodage LightGBM)
\n<\/em><\/p>\n<\/div>Comme le montre le graphique ci-dessus, le mod\u00e8le incorporant des encodages dynamiques\u00a0saisit efficacement la tendance et l'extrapole<\/strong>, alors que le mod\u00e8le alternatif peine \u00e0 y parvenir.<\/p>\n<\/div>Utilisation et limites<\/h2><\/div>Notre m\u00e9thode s'av\u00e8re particuli\u00e8rement utile dans les sc\u00e9narios o\u00f9 la s\u00e9rie temporelle affiche\u00a0tendances prononc\u00e9es<\/strong>\u00a0et le\u00a0horizon de pr\u00e9vision<\/strong> est suffisamment \u00e9loign\u00e9e pour b\u00e9n\u00e9ficier de l'extrapolation des tendances. En outre, \u00e0 mesure que nous encodons et incorporons de mani\u00e8re dynamique les donn\u00e9es des\u00a0des caract\u00e9ristiques plus cat\u00e9goriques<\/strong>\u00a0avec\u00a0pr\u00e9dictif significatif<\/strong> pouvoir<\/strong>\u00a0dans le mod\u00e8le,\u00a0l'effet obtenu par notre approche sur les augmentations des pr\u00e9dictions<\/strong>. Cependant, il est important de reconna\u00eetre que d'autres m\u00e9thodes d'encodage ont leurs propres avantages et peuvent \u00eatre plus avantageuses dans diff\u00e9rents contextes. En outre, il est possible de combiner les deux types d'encodage pour obtenir des r\u00e9sultats potentiellement meilleurs.<\/p>\n<\/div>Conclusion<\/h2><\/div>- <\/i><\/span>Les techniques d'encodage conventionnelles pour les caract\u00e9ristiques cat\u00e9gorielles ne sont pas id\u00e9ales pour les pr\u00e9visions, en particulier lorsque les s\u00e9ries temporelles pr\u00e9sentent des tendances marqu\u00e9es et que l'horizon de pr\u00e9vision est lointain.<\/div><\/li>
- <\/i><\/span>\n
Notre m\u00e9thode est une variante de l'empilement de mod\u00e8les, puisque nous utilisons un mod\u00e8le Proph\u00e8te - qui poss\u00e8de des capacit\u00e9s sup\u00e9rieures de mod\u00e9lisation et d'extrapolation des tendances - pour construire l'encodage des caract\u00e9ristiques cat\u00e9gorielles.<\/p>\n<\/div><\/li>
- <\/i><\/span>\n
Nos exp\u00e9riences ont d\u00e9montr\u00e9 les avantages de la r\u00e9duction des biais et de l'am\u00e9lioration de la pr\u00e9cision des pr\u00e9visions.<\/p>\n<\/div><\/li><\/ul>
Nous pr\u00e9voyons de publier un document dans les mois \u00e0 venir, qui contiendra tous les d\u00e9tails de notre approche et de notre mise en \u0153uvre. Restez \u00e0 l'\u00e9coute<\/a> pour des mises \u00e0 jour ult\u00e9rieures !<\/p>\n<\/div><\/div><\/div><\/div><\/article>
Ce travail a \u00e9t\u00e9 motiv\u00e9 par de nombreux projets de pr\u00e9vision de clients au Artefact, pour lesquels nos mod\u00e8les de stimulation pr\u00e9sentaient un biais important au moment de la pr\u00e9diction. Gr\u00e2ce \u00e0 une phase de diagnostic, nous avons identifi\u00e9 que l'une des principales sources de biais dans les mod\u00e8les d'apprentissage ensembliste provenait de leurs difficult\u00e9s \u00e0 mod\u00e9liser avec pr\u00e9cision les tendances et les niveaux fluctuants.<\/p>\n
Dans ce qui suit, nous allons d\u00e9montrer\u00a0pourquoi<\/strong>\u00a0et\u00a0comment<\/strong>\u00a0nous avons utilis\u00e9 une nouvelle approche pour coder les caract\u00e9ristiques cat\u00e9gorielles. Sur la base de nos exp\u00e9riences portant sur un projet de pr\u00e9vision du commerce de d\u00e9tail d'un client et sur divers ensembles data publics, nous prouvons que cette technique peut effectivement att\u00e9nuer les biais et am\u00e9liorer la pr\u00e9cision.<\/p>\n<\/div> Les algorithmes de boosting ont du mal \u00e0 mod\u00e9liser et \u00e0 extrapoler les tendances car ils ne peuvent pas pr\u00e9dire de nouvelles valeurs qui n'ont pas \u00e9t\u00e9 observ\u00e9es dans l'ensemble d'apprentissage ou qui sont absentes des feuilles. \u201cArbre lin\u00e9aire<\/a>\u201dLes mod\u00e8les de la s\u00e9rie \" C \" tentent de rem\u00e9dier \u00e0 ce probl\u00e8me, mais nos tests n'ont pas donn\u00e9 de r\u00e9sultats concluants avec cette m\u00e9thode.<\/p>\n<\/div> Les m\u00e9thodes d'encodage les plus courantes employ\u00e9es dans le cadre du boosting favorisent les relations statiques entre les variables ind\u00e9pendantes et d\u00e9pendantes, ce qui contribue \u00e0 accro\u00eetre le biais en pr\u00e9sence de tendances. Le diagramme ci-dessous illustre ce ph\u00e9nom\u00e8ne :<\/p>\n<\/div> Repr\u00e9sentation visuelle simplifi\u00e9e mettant en \u00e9vidence la nature statique de l'encodage des caract\u00e9ristiques cat\u00e9gorielles utilis\u00e9 dans les algorithmes de boosting.<\/em><\/p>\n<\/div> Nous reconnaissons que la repr\u00e9sentation ci-dessus est une simplification excessive, car les arbres de d\u00e9cision sont plus complexes et capables d'identifier des relations non lin\u00e9aires bas\u00e9es sur des facteurs multiples. En effet, la condition \u201cla couleur est noire\u201d pourrait \u00eatre associ\u00e9e \u00e0 \u201cle mois de juin\u201d. Dans ce cas, la couleur noire n'aurait pas le m\u00eame impact \u00e0 tout moment. Mais regardons la situation dans son ensemble :<\/p>\n<\/div> L'attribution d'un impact unique pour la couleur noire en juin n'est toujours pas id\u00e9ale, car l'impact en juin 2021 peut diff\u00e9rer de l'impact en juin 2022. M\u00eame si nous incluons l'ann\u00e9e, la fronti\u00e8re d\u00e9cisionnelle deviendrait trop complexe \u00e0 construire et \u00e0 identifier, mais aussi, que se passerait-il si la formation data se termine en 2022 et que des pr\u00e9visions doivent \u00eatre faites pour 2023 ?<\/p>\n<\/div><\/li> L'ing\u00e9nierie des caract\u00e9ristiques a pour but d'aider le mod\u00e8le \u00e0 identifier plus facilement les relations.<\/strong>. Si nous pouvons aider le mod\u00e8le \u00e0 associer l'impact de la couleur noire \u00e0 un moment donn\u00e9 sans n\u00e9cessiter l'identification de relations complexes, cela serait tr\u00e8s avantageux pour le mod\u00e8le. D'o\u00f9 ...<\/p>\n<\/div><\/li><\/ul> En une phrase, notre m\u00e9thode d'encodage des caract\u00e9ristiques cat\u00e9gorielles pourrait \u00eatre d\u00e9crite comme suit :\u00a0nous mod\u00e9lisons la composante tendancielle de chaque cat\u00e9gorie et utilisons ces valeurs tendancielles pour coder cette caract\u00e9ristique cat\u00e9gorielle<\/strong>.<\/p>\n Le diagramme ci-dessous illustre la diff\u00e9rence entre l'encodage d'une moyenne statique et l'encodage d'une tendance pour deux cat\u00e9gories de couleurs : le noir et l'or.<\/p>\n<\/div> Illustration du principe d'encodage dynamique, qui implique une mod\u00e9lisation des tendances pour chaque cat\u00e9gorie.<\/em><\/p>\n<\/div> Dans nos exp\u00e9riences, nous avons choisi d'utiliser Prophet pour extraire la composante de tendance. Naturellement, il est possible d'envisager d'autres mod\u00e8les de pr\u00e9vision des s\u00e9ries temporelles.<\/p>\n Notez que l'encodage moyen statique implique que les ventes d'articles noirs se situent \u00e0 un niveau moyen de 100 unit\u00e9s\/mois \u00e0 tout moment. L'encodage dynamique, en revanche, permet de tenir compte de la tendance \u00e0 la hausse observ\u00e9e pour les articles noirs et de l'extrapoler \u00e0 l'avenir. Une constatation similaire peut \u00eatre faite en ce qui concerne les articles en or. Ainsi, notre approche sera particuli\u00e8rement utile dans les ensembles data o\u00f9 la variable cible \u00e0 pr\u00e9voir suit des tendances marqu\u00e9es dans les diff\u00e9rentes cat\u00e9gories disponibles.<\/p>\n Notre objectif principal est de permettre au mod\u00e8le de s'adapter plus facilement aux relations changeantes entre les variables ind\u00e9pendantes et la variable d\u00e9pendante \u00e0 pr\u00e9voir. Par cons\u00e9quent, cette m\u00e9thode d'encodage dynamique pourrait \u00e9galement \u00eatre appliqu\u00e9e aux caract\u00e9ristiques num\u00e9riques. Prenons l'exemple du prix. Bien que le prix soit num\u00e9rique et que le mod\u00e8le puisse directement construire des r\u00e8gles bas\u00e9es sur lui, les pr\u00e9f\u00e9rences des gens pour les articles bon march\u00e9 ou co\u00fbteux peuvent encore \u00e9voluer dans le temps et suivre une tendance de vente sp\u00e9cifique. Dans le contexte d'une crise \u00e9conomique, par exemple, les produits abordables peuvent suivre une tendance \u00e0 la hausse des ventes, tandis que les produits on\u00e9reux peuvent suivre une tendance \u00e0 la baisse. En consid\u00e9rant \u2018abordable\u2019 comme une cat\u00e9gorie et \u2018cher\u2019 comme une autre, nous pourrions proposer un codage dynamique pour la caract\u00e9ristique du prix, comme nous l'avons fait pour les couleurs.<\/p>\n Il est important de noter que pour les caract\u00e9ristiques num\u00e9riques, les variables de base et les variables cod\u00e9es dynamiquement peuvent \u00eatre utilis\u00e9es dans le mod\u00e8le, car elles fourniront diff\u00e9rents types d'informations.<\/p>\n<\/div> Bien que cette nouvelle m\u00e9thode d'encodage constitue une am\u00e9lioration, il arrive souvent que l'importance des caract\u00e9ristiques cat\u00e9gorielles ne soit pas suffisamment \u00e9lev\u00e9e pour avoir un impact significatif sur les pr\u00e9dictions lors de l'examen de l'importance des caract\u00e9ristiques. Pour donner plus d'importance aux caract\u00e9ristiques dynamiques et favoriser ainsi une meilleure mod\u00e9lisation et extrapolation des tendances, nous adaptons les valeurs d'encodage \u00e0 chaque s\u00e9rie chronologique\/\u00e9l\u00e9ment individuellement.<\/p>\n<\/div> Formule repr\u00e9sentant les deux composantes de l'encodage dynamique : le niveau de la cat\u00e9gorie et le niveau de l'\u00e9l\u00e9ment.<\/em><\/p>\n<\/div> Pour en revenir \u00e0 notre exemple de couleur, si l'on consid\u00e8re deux articles noirs diff\u00e9rents, l'encodage dynamique de la cat\u00e9gorie \u201cnoir\u201d pour chaque article peut \u00eatre diff\u00e9rent en fonction de ses ventes ant\u00e9rieures.<\/p>\n<\/div> Tableau illustrant le calcul de l'encodage dynamique \u00e0 travers un exemple simple<\/em><\/p>\n<\/div> Nous avons utilis\u00e9 notre approche pour pr\u00e9voir les ventes de l'un de nos clients du secteur de la vente au d\u00e9tail. Nous avons valid\u00e9 notre m\u00e9thode sur un large \u00e9ventail de champs d'application afin de nous assurer de son efficacit\u00e9. Voici quelques points data concernant le contexte exp\u00e9rimental :<\/p>\n<\/div> Pour chaque champ d'application, une validation crois\u00e9e k-fold avec une fen\u00eatre d'expansion a \u00e9t\u00e9 r\u00e9alis\u00e9e (k=5).<\/p>\n<\/div><\/li> Horizon de pr\u00e9vision : Du jour+1 au jour+180.<\/p>\n<\/div><\/li> Les performances ont \u00e9t\u00e9 \u00e9valu\u00e9es \u00e0 l'aide de deux param\u00e8tres :<\/p>\n<\/div><\/li><\/ul> Dans l'ensemble, la m\u00e9thode s'est av\u00e9r\u00e9e tr\u00e8s efficace,\u00a0ce qui se traduit par une diminution absolue moyenne du biais de 9,82% et une augmentation absolue moyenne de la pr\u00e9cision des pr\u00e9visions de 6,29%.<\/strong>\u00a0sur les 9 champs d'application des produits et les 5 plis de validation crois\u00e9e.<\/p>\n La section suivante valide la pertinence de notre m\u00e9thode en la testant sur un ensemble public de data.<\/p>\n<\/div> Dans cette \u00e9tude de cas simplifi\u00e9e, nous utilisons le\u00a0Ventes en magasin - Pr\u00e9vision des s\u00e9ries temporelles<\/a>\u00a0Kaggle dataset. Cet ensemble dataset pr\u00e9sente une tendance abrupte lorsque l'on examine la s\u00e9rie chronologique des ventes moyennes, ce qui rend notre m\u00e9thode particuli\u00e8rement pertinente. En outre, l'horizon de pr\u00e9diction choisi est de trois mois, ce qui est suffisamment \u00e9loign\u00e9 pour b\u00e9n\u00e9ficier des capacit\u00e9s d'extrapolation de l'encodage dynamique. \u00c0 des fins de d\u00e9monstration, nous limitons le dataset au 31 mars 2016, juste avant qu'un tremblement de terre ne se produise, entra\u00eenant l'aplatissement de la courbe des ventes.<\/p>\n Avant tout encodage, notre ensemble initial de data comprend environ 75% de caract\u00e9ristiques num\u00e9riques, englobant les d\u00e9calages, les moyennes mobiles, les caract\u00e9ristiques du calendrier et les \u00e9v\u00e9nements de vacances. Les 25% restantes sont des attributs cat\u00e9goriels tels que la famille de produits, le num\u00e9ro de magasin, la ville, etc.<\/p>\n Deux mod\u00e8les distincts sont form\u00e9s : l'un utilise les caract\u00e9ristiques cat\u00e9gorielles encod\u00e9es dynamiquement \u00e0 l'aide de notre m\u00e9thode personnalis\u00e9e, tandis que l'autre utilise le traitement natif des caract\u00e9ristiques cat\u00e9gorielles de LightGBM.<\/p>\n En comparant leurs performances, nous observons une am\u00e9lioration significative de l'approche d'encodage dynamique. Le tableau suivant fournit un r\u00e9sum\u00e9 des r\u00e9sultats :<\/p>\n<\/div> Comparaison des valeurs RMSE, FA et %Bias entre la m\u00e9thode d'encodage LightGBM et l'encodage dynamique<\/em><\/p>\n<\/div> Ventes hebdomadaires moyennes + pr\u00e9visions sur 3 mois (encodage dynamique vs m\u00e9thode d'encodage LightGBM) Comme le montre le graphique ci-dessus, le mod\u00e8le incorporant des encodages dynamiques\u00a0saisit efficacement la tendance et l'extrapole<\/strong>, alors que le mod\u00e8le alternatif peine \u00e0 y parvenir.<\/p>\n<\/div> Notre m\u00e9thode s'av\u00e8re particuli\u00e8rement utile dans les sc\u00e9narios o\u00f9 la s\u00e9rie temporelle affiche\u00a0tendances prononc\u00e9es<\/strong>\u00a0et le\u00a0horizon de pr\u00e9vision<\/strong> est suffisamment \u00e9loign\u00e9e pour b\u00e9n\u00e9ficier de l'extrapolation des tendances. En outre, \u00e0 mesure que nous encodons et incorporons de mani\u00e8re dynamique les donn\u00e9es des\u00a0des caract\u00e9ristiques plus cat\u00e9goriques<\/strong>\u00a0avec\u00a0pr\u00e9dictif significatif<\/strong> pouvoir<\/strong>\u00a0dans le mod\u00e8le,\u00a0l'effet obtenu par notre approche sur les augmentations des pr\u00e9dictions<\/strong>. Cependant, il est important de reconna\u00eetre que d'autres m\u00e9thodes d'encodage ont leurs propres avantages et peuvent \u00eatre plus avantageuses dans diff\u00e9rents contextes. En outre, il est possible de combiner les deux types d'encodage pour obtenir des r\u00e9sultats potentiellement meilleurs.<\/p>\n<\/div> Notre m\u00e9thode est une variante de l'empilement de mod\u00e8les, puisque nous utilisons un mod\u00e8le Proph\u00e8te - qui poss\u00e8de des capacit\u00e9s sup\u00e9rieures de mod\u00e9lisation et d'extrapolation des tendances - pour construire l'encodage des caract\u00e9ristiques cat\u00e9gorielles.<\/p>\n<\/div><\/li> Nos exp\u00e9riences ont d\u00e9montr\u00e9 les avantages de la r\u00e9duction des biais et de l'am\u00e9lioration de la pr\u00e9cision des pr\u00e9visions.<\/p>\n<\/div><\/li><\/ul> Nous pr\u00e9voyons de publier un document dans les mois \u00e0 venir, qui contiendra tous les d\u00e9tails de notre approche et de notre mise en \u0153uvre. Restez \u00e0 l'\u00e9coute<\/a> pour des mises \u00e0 jour ult\u00e9rieures !<\/p>\n<\/div><\/div><\/div><\/div><\/article>Boosting et tendances, pourquoi est-ce complexe ?<\/h2><\/div>
Les algorithmes de boosting ont du mal \u00e0 extrapoler<\/h3><\/div>
Les encodages classiques favorisent les pr\u00e9dictions statiques<\/h3><\/div>
<\/span><\/div>Notre nouvelle approche : Encodage dynamique des caract\u00e9ristiques cat\u00e9gorielles<\/h2><\/div>
Base de l'encodage dynamique (v1 sans niveau de l'item)<\/h3><\/div>
<\/span><\/div>Accorder plus d'importance aux caract\u00e9ristiques dynamiques (v2 avec niveau de l'\u00e9l\u00e9ment)<\/h3><\/div>
<\/span><\/div><\/span><\/div>Exp\u00e9riences et r\u00e9sultats<\/h2><\/div>
Client dataset<\/h3><\/div>
<\/span><\/div>Ventes dans les magasins publics dataset<\/h3><\/div>
<\/span><\/div><\/span><\/div>
\n<\/em><\/p>\n<\/div>Utilisation et limites<\/h2><\/div>
Conclusion<\/h2><\/div>
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/03\/medium.png\" "\\"moyen\\"")
<\/span><\/div>