{"id":65478,"date":"2021-11-26T14:35:34","date_gmt":"2021-11-26T14:35:34","guid":{"rendered":"https:\/\/www.artefact.com\/?post_type=news&p=65478"},"modified":"2024-09-20T17:45:47","modified_gmt":"2024-09-20T16:45:47","slug":"the-path-to-developing-a-high-performance-demand-forecasting-model-part-4","status":"publish","type":"blog","link":"https:\/\/www.artefact.com\/br\/blog\/the-path-to-developing-a-high-performance-demand-forecasting-model-part-4\/","title":{"rendered":"O caminho para desenvolver um modelo de previs\u00e3o de demanda de alto desempenho - Parte 4"},"content":{"rendered":"

Autor<\/h2><\/div>\"Image\"

Kasra Mansouri<\/h3><\/div>

Cientista s\u00eanior do Data no Artefact<\/p>\n<\/div><\/div><\/div><\/div><\/div>

<\/span><\/a><\/span>

Leia nosso artigo sobre<\/u><\/p>\n<\/div>

<\/span><\/div>

.<\/p>\n<\/div><\/div><\/div><\/div><\/div>

At\u00e9 agora, falamos principalmente sobre a previs\u00e3o de produtos regulares que j\u00e1 est\u00e3o nas prateleiras h\u00e1 algum tempo. Mas e quanto aos produtos que foram lan\u00e7ados muito recentemente?
\nNeste artigo, mostraremos aos senhores como resolvemos esse problema, propondo uma solu\u00e7\u00e3o alternativa para o nosso modelo de impulsionamento baseado em produtos semelhantes.
\nEle consiste em treinar um modelo de agrupamento em inova\u00e7\u00f5es antigas para detectar semelhan\u00e7as no padr\u00e3o de vendas, mapear isso para as caracter\u00edsticas do produto com um modelo de classifica\u00e7\u00e3o e, em seguida, inferir as vendas da nova inova\u00e7\u00e3o com m\u00e9todos estat\u00edsticos simples baseados nos resultados dos modelos 1 e 2.<\/p>\n<\/div>

Por que a previs\u00e3o de produtos lan\u00e7ados \u00e9 t\u00e3o dif\u00edcil?<\/h1><\/div>

Um pouco de contexto<\/h2><\/div>

O lan\u00e7amento de produtos \u00e9 muito comum no varejo. \u00c9 da natureza das empresas de CPG diversificar seus produtos. Elas querem atrair seus clientes e adaptar seus produtos \u00e0s mudan\u00e7as de comportamento. E a empresa para a qual realizamos o projeto n\u00e3o foi exce\u00e7\u00e3o: eles lan\u00e7am cerca de 50 a 60 inova\u00e7\u00f5es (novos produtos) todos os anos.
\nDefinimos uma inova\u00e7\u00e3o como sendo uma nova marca de produto que est\u00e1 sendo lan\u00e7ada ou um novo produto com um novo sabor que est\u00e1 sendo introduzido em uma marca j\u00e1 existente. Depois de um certo tempo (por exemplo, em nosso caso, 2 meses), uma inova\u00e7\u00e3o se torna um produto regular.
\nH\u00e1 outros casos em que um novo c\u00f3digo de produto pode ser gerado, como<\/p>\n<\/div>

  • <\/i><\/span>
    Pequena altera\u00e7\u00e3o no peso de um produto existente<\/div><\/li>
  • <\/i><\/span>
    Pequena altera\u00e7\u00e3o na f\u00f3rmula de um produto existente<\/div><\/li>
  • <\/i><\/span>
    Mudan\u00e7a da f\u00e1brica que produz o produto<\/div><\/li><\/ul>

    N\u00e3o consideramos esses casos como inova\u00e7\u00f5es, mas como renova\u00e7\u00f5es e, portanto, est\u00e3o fora de nosso escopo. Tivemos acesso a lan\u00e7amentos de produtos com vendas de data de 2017 a 2019, ou seja, aproximadamente 150 produtos inovadores.<\/p>\n<\/div>

    O principal desafio<\/h2><\/div>

    Nosso trabalho era fazer previs\u00f5es semanais para as 14 semanas seguintes no\u00a0warehouse\/daily\/product<\/strong>\u00a0n\u00edvel.
    \nA primeira vez que o modelo teve de ser aplicado foi\u00a07 dias ap\u00f3s seu lan\u00e7amento<\/strong>, O senhor n\u00e3o tinha um modelo de vendas para o data, o que significa que ele teria apenas 7 dias de hist\u00f3rico do data e teria de prever as vendas para os pr\u00f3ximos 14 x 7 = 98 dias! A \u00faltima vez que tivemos que aplicar o modelo foi\u00a060 dias ap\u00f3s o lan\u00e7amento<\/strong>. Isso significa que um produto lan\u00e7ado seria considerado um \u201cproduto regular\u201d ap\u00f3s dois meses, uma vez que teria alcan\u00e7ado certa \u201cestabilidade\u201d em seus ciclos de vendas, mas \u00e9 claro que isso depender\u00e1 da atividade de sua empresa e da natureza do produto. Ap\u00f3s essa fase de 2 meses, o modelo principal (modelo desenvolvido para produtos regulares) assumiria o modelo de inova\u00e7\u00e3o e faria previs\u00f5es para o lan\u00e7amento em quest\u00e3o. Essa decis\u00e3o foi validada pelas equipes de neg\u00f3cios que tinham algum conhecimento sobre os ciclos de vendas de inova\u00e7\u00f5es.<\/p>\n<\/div>

    Hist\u00f3rico muito limitado data<\/h3><\/div>

    A quantidade de data hist\u00f3rico \u00e0 nossa disposi\u00e7\u00e3o \u00e9 extremamente baixa para fazer previs\u00f5es precisas. Temos um conjunto de data de treinamento que \u00e9 muito menor do que o nosso conjunto de data de previs\u00e3o\/teste, o que geralmente resulta em uma precis\u00e3o de previs\u00e3o muito baixa. Estamos falando de ter algumas semanas no data de treinamento e ter de fazer previs\u00f5es para 98 dias.<\/p>\n<\/div>

    Os produtos lan\u00e7ados t\u00eam vendas muito inst\u00e1veis no in\u00edcio<\/h3><\/div>

    Al\u00e9m disso,\u00a0As vendas data costumam ser muito confusas durante as primeiras semanas de lan\u00e7amento, pois as tend\u00eancias podem mudar drasticamente<\/strong>. Na verdade, os varejistas encomendam grandes quantidades da inova\u00e7\u00e3o nas primeiras duas semanas para encher suas prateleiras, o que eles chamam de\u00a0fase de realiza\u00e7\u00e3o.\u00a0<\/em>Depois disso, os pedidos caem geralmente em W3 e W4 e depois aumentam um pouco.
    \nNovamente, aqui muita coisa pode acontecer: alguns varejistas podem perceber que o novo produto n\u00e3o est\u00e1 vendendo muito bem durante as primeiras semanas em suas lojas e, portanto, reduzir drasticamente seus pedidos como uma rea\u00e7\u00e3o r\u00e1pida. Ou um produto pode ter grandes volumes de pedidos de alguns varejistas que o fabricante pode n\u00e3o conseguir atender totalmente porque n\u00e3o previu esse n\u00edvel de demanda. Os varejistas continuar\u00e3o fazendo pedidos de grandes volumes nas semanas seguintes para compensar os volumes que n\u00e3o foram totalmente atendidos.<\/p>\n<\/div>\"Image\"

    Todos os elementos listados acima s\u00e3o uma explica\u00e7\u00e3o clara de por que \u00e9 dif\u00edcil prever as vendas de inova\u00e7\u00f5es e, portanto, por que tivemos de desenvolver um modelo espec\u00edfico para esses produtos.<\/p>\n<\/div>

    Crit\u00e9rios de avalia\u00e7\u00e3o<\/h2><\/div>

    Tivemos as mesmas m\u00e9tricas de avalia\u00e7\u00e3o dos produtos regulares (W+1 e W+2 Forecast Accuracies em n\u00edvel nacional\/semanal). Como lembrete, aqui est\u00e1 a f\u00f3rmula de uma precis\u00e3o de previs\u00e3o:<\/p>\n<\/div>\"Image\"

    Adicionamos outra dimens\u00e3o a esse problema. Calculamos essas m\u00e9tricas para cada\u00a0data da previs\u00e3o<\/em>\u00a0(a data em que fazemos nossa previs\u00e3o) com rela\u00e7\u00e3o \u00e0 data de lan\u00e7amento.
    \nMonitoramos as precis\u00f5es de previs\u00e3o de W+1 e W+2 para datas de previs\u00e3o que v\u00e3o de D+7 at\u00e9 D+49, o que significa que nosso scorecard ficaria assim:<\/p>\n<\/div>\"Image\"

    O motivo pelo qual acrescentamos essa dimens\u00e3o \u00e9 que \u00e9 realmente importante para os planejadores de demanda monitorar o desempenho de suas previs\u00f5es durante as primeiras semanas de lan\u00e7amento. Um modelo que forne\u00e7a previs\u00f5es de boa qualidade durante as primeiras semanas permite que eles evitem grandes problemas de reabastecimento (que s\u00e3o comuns ap\u00f3s o lan\u00e7amento devido \u00e0 incerteza) e, por fim, tenham sucesso em seu lan\u00e7amento.<\/p>\n<\/div>

    Abordagem proposta<\/h1><\/div>

    Por que o ML cl\u00e1ssico apresentou resultados ruins?<\/h2><\/div>

    Como dito anteriormente, temos um problema de \u201cdata pequeno\u201d. O tamanho pequeno do nosso data de treinamento e sua natureza muito err\u00e1tica o tornam inadequado para um modelo de aprendizado de m\u00e1quina.
    \nNa maioria das vezes, os modelos de boosting exigem de 2 a 3 anos de hist\u00f3rico de vendas data para detectar tend\u00eancias gerais\/efeitos de sazonalidade e pelo menos 2 a 3 meses de s\u00e9ries temporais data de um produto para fazer \u201cprevis\u00f5es precisas\u201d. Esse n\u00e3o era o nosso caso; nosso modelo XGBoost via apenas algumas semanas de hist\u00f3rico de vendas para cada produto.
    \nTreinamos um modelo XGBoost em produtos de inova\u00e7\u00e3o com a seguinte l\u00f3gica<\/p>\n<\/div>

    • <\/i><\/span>
      Treinamos um modelo em n\u00edvel de produto\/nacional\/di\u00e1rio. A ideia era desagregar as previs\u00f5es em n\u00edvel de produto\/di\u00e1rio\/varejista com algumas regras de neg\u00f3cios.<\/div><\/li>
    • <\/i><\/span>
      Alimentamos o modelo com os mesmos recursos do modelo principal, com exce\u00e7\u00e3o de um recurso adicional, que \u00e9 a data de lan\u00e7amento do produto.<\/div><\/li>
    • <\/i><\/span>
      Realizamos o treinamento\/teste com base nos produtos<\/div><\/li>
    • <\/i><\/span>
      Todos os produtos lan\u00e7ados antes de 2019 estavam no conjunto de treinamento, por exemplo, colocamos suas vendas durante os dois primeiros meses no conjunto de treinamento<\/div><\/li>
    • <\/i><\/span>
      Todos os produtos lan\u00e7ados ap\u00f3s 2019 estavam no conjunto de teste.<\/div><\/li>
    • <\/i><\/span>
      O modelo seria treinado v\u00e1rias vezes, cada vez at\u00e9 o dia anterior \u00e0 data da previs\u00e3o (D+7, D+14, etc.)<\/div><\/li><\/ul>

      E os resultados n\u00e3o foram nada bons! Por isso, decidimos mudar completamente nossa abordagem para esses produtos.<\/p>\n<\/div>\"Image\"

      Os modelos cl\u00e1ssicos de s\u00e9ries temporais tamb\u00e9m n\u00e3o salvaram o dia<\/h2><\/div>

      Como nossa primeira itera\u00e7\u00e3o com o XGBoost foi um fracasso total, decidimos tentar a sorte com alguns bons e velhos modelos de s\u00e9ries temporais (VARMA, SARIMAX, Prophet etc.). Os modelos de s\u00e9ries temporais t\u00eam a virtude de serem mais simples e f\u00e1ceis de interpretar do que os modelos de refor\u00e7o. Al\u00e9m disso, como s\u00e3o treinados em um produto, podem se adaptar mais facilmente a mudan\u00e7as abruptas de tend\u00eancia.
      \nA ideia era treinar um modelo (um modelo Prophet, por exemplo) por produto que faria previs\u00f5es em n\u00edvel nacional\/di\u00e1rio. Como acima, o modelo tamb\u00e9m seria treinado v\u00e1rias vezes, cada vez at\u00e9 o dia anterior \u00e0 data de previs\u00e3o (D+7, D+14, etc.) e faria previs\u00f5es para o horizonte de 14 semanas.
      \nMas aqui, como acima, os resultados ainda n\u00e3o eram satisfat\u00f3rios e o motivo era praticamente o mesmo: n\u00e3o havia hist\u00f3rico suficiente de data! O hist\u00f3rico era muito superficial e o data era muito confuso para que o modelo pudesse entender um padr\u00e3o claro e fazer previs\u00f5es precisas.<\/p>\n<\/div>\"Image\"

      Agrupamento de produtos com base em s\u00f3sias: o Messias<\/h2><\/div>

      Como nossas duas primeiras tentativas de fazer previs\u00f5es foram inconclusivas, decidimos seguir uma dire\u00e7\u00e3o completamente diferente.
      \nAnalisamos as vendas de todas as inova\u00e7\u00f5es de 2017 a 2019 e percebemos que muitas tinham curvas de vendas semelhantes durante os primeiros meses de seus respectivos lan\u00e7amentos, o que nos deu a ideia de fazer previs\u00f5es com base em semelhan\u00e7as de produtos com inova\u00e7\u00f5es antigas. Nossa intui\u00e7\u00e3o foi refor\u00e7ada porque encontramos alguns trabalhos de pesquisa de outros colegas cientistas do data que sugeriam uma abordagem semelhante (1).
      \nNossa abordagem consistiu em tr\u00eas etapas fundamentais<\/p>\n<\/div>

      Agrupamento de inova\u00e7\u00f5es antigas com base nas vendas - escopo Data: as inova\u00e7\u00f5es lan\u00e7adas de 2017 a 2018 inclu\u00edam<\/h3><\/div>

      A ideia \u00e9 agrupar inova\u00e7\u00f5es antigas com base em sua curva de s\u00e9rie temporal em grupos de produtos semelhantes. Os produtos que est\u00e3o no mesmo cluster t\u00eam padr\u00f5es de vendas semelhantes e, portanto, as vendas de uma \u00fanica inova\u00e7\u00e3o podem ser deduzidas a partir do conhecimento das vendas de inova\u00e7\u00f5es mais antigas.
      \nNosso data de entrada foi o\u00a0Vendas cumulativas normalizadas MinMax de inova\u00e7\u00f5es antigas durante seus 5 primeiros meses<\/strong>. Analisamos as vendas cumulativas porque quer\u00edamos que nosso modelo de agrupamento tivesse uma no\u00e7\u00e3o de quando cada produto atingiria seu ritmo regular de vendas. Normalizamos as vendas cumulativas porque alguns produtos tinham a mesma forma de curva, mas um volume de vendas diferente, e quer\u00edamos coloc\u00e1-los no mesmo cluster, j\u00e1 que nosso foco aqui \u00e9 a similaridade.
      \nAgrupamos nossos produtos com um\u00a0Modelo K-Means<\/strong>\u00a0com o par\u00e2metro K sendo escolhido automaticamente por meio de um benchmark usando o\u00a0\u00cdndice de silhuetas<\/em>.O n\u00famero ideal foi K=4.<\/strong>Tamb\u00e9m tentamos diferentes m\u00e9tricas de dist\u00e2ncia entre os\u00a0euclidiano<\/em>\u00a0e\u00a0DTW,\u00a0<\/em>com o euclidean apresentando resultados mais satisfat\u00f3rios durante nossos testes.<\/p>\n<\/div>\"Image\"\"Image\"

      Modelo de classifica\u00e7\u00e3o que prev\u00ea o cluster de um produto com base em seus atributos - Escopo do Data: As inova\u00e7\u00f5es lan\u00e7adas de 2017 a 2018 inclu\u00edram<\/h3><\/div>

      A ideia aqui \u00e9 encontrar um v\u00ednculo entre o cluster ao qual o produto pertence e seus atributos, como dimens\u00e3o, marca, sabor, etc., bem como alguns data contextuais, como per\u00edodo de lan\u00e7amento, campanhas de m\u00eddia, etc. Essa liga\u00e7\u00e3o seria encontrada com a ajuda de um modelo de classifica\u00e7\u00e3o.
      \nO modelo seria alimentado com atributos do produto juntamente com o contexto data e tentaria prever o cluster de uma inova\u00e7\u00e3o com base nisso. A intui\u00e7\u00e3o por tr\u00e1s dessa abordagem \u00e9 ver se podemos responder \u00e0 seguinte pergunta:
      \nSe conhecermos antecipadamente os atributos de uma inova\u00e7\u00e3o + data contextual, podemos prever o tipo de comportamento de vendas que esse produto ter\u00e1 ap\u00f3s seu lan\u00e7amento?<\/em><\/strong>
      \nComo t\u00ednhamos um data muito limitado (cerca de 100 produtos), treinamos um BaggingClassifier simples em nossos produtos com uma divis\u00e3o de treinamento\/teste de 75%-25%. Acabamos com um\u00a0Pontua\u00e7\u00e3o F1 do 84%<\/strong>\u00a0no conjunto de teste.
      \nRealizamos algumas an\u00e1lises sobre os atributos do produto para ver se conseguimos encontrar alguma explica\u00e7\u00e3o comercial para cada cluster e aqui est\u00e3o nossas descobertas:<\/p>\n<\/div>