{"id":63668,"date":"2021-10-22T11:15:55","date_gmt":"2021-10-22T10:15:55","guid":{"rendered":"https:\/\/www.artefact.com\/?post_type=news&p=63668"},"modified":"2024-09-20T17:45:46","modified_gmt":"2024-09-20T16:45:46","slug":"serving-ml-models-at-scale-using-mlflow-on-kubernetes-part-1","status":"publish","type":"blog","link":"https:\/\/www.artefact.com\/br\/blog\/serving-ml-models-at-scale-using-mlflow-on-kubernetes-part-1\/","title":{"rendered":"Servindo modelos de ML em escala usando o Mlflow no Kubernetes - Parte 1"},"content":{"rendered":"

Autor<\/h2><\/div>\"Image\"

Kais LARIBI<\/h3><\/div>

Cientista s\u00eanior do Data no Artefact<\/p>\n<\/div><\/div><\/div><\/div><\/div>

<\/span><\/a><\/span>

Leia nosso artigo sobre<\/u><\/p>\n<\/div>

<\/span><\/div>

.<\/p>\n<\/div><\/div><\/div><\/div><\/div>

O MLflow \u00e9 uma ferramenta comumente usada para rastreamento de experimentos de aprendizado de m\u00e1quina, controle de vers\u00e3o de modelos e fornecimento. Em nosso primeiro artigo da s\u00e9rie \u201cServindo modelos de ML em escala\u201d, explicamos como implantar a inst\u00e2ncia de rastreamento no Kubernetes e us\u00e1-la para registrar experimentos e armazenar modelos.<\/p>\n<\/div><\/div><\/div><\/div><\/div>

Parte 1 - Como implantar a inst\u00e2ncia de rastreamento do Mlflow no Kubernetes?<\/h1><\/div>

Introdu\u00e7\u00e3o<\/h2><\/div>

O Mlflow \u00e9 uma ferramenta amplamente usada na comunidade cient\u00edfica\/ML do data para rastrear experimentos e gerenciar modelos de aprendizado de m\u00e1quina em diferentes est\u00e1gios. Com ela, podemos armazenar m\u00e9tricas, modelos e artefatos para comparar facilmente o desempenho dos modelos e lidar com seus ciclos de vida. Al\u00e9m disso, o Mlflow fornece um m\u00f3dulo para servir modelos como um endpoint de API que facilita sua integra\u00e7\u00e3o a qualquer produto ou aplicativo da Web.<\/p>\n<\/div>

Dito isso, usar o aprendizado de m\u00e1quina em produtos on-line \u00e9 legal, mas dependendo do tamanho do modelo, da natureza (ML, aprendizado profundo,...) e da carga (solicita\u00e7\u00f5es dos usu\u00e1rios), pode ser um desafio dimensionar os recursos necess\u00e1rios e garantir um tempo de resposta razo\u00e1vel. Portanto, usar uma infraestrutura dimension\u00e1vel, como clusters Kubernetes, \u00e9 fundamental para manter a disponibilidade e o desempenho do servi\u00e7o na fase de infer\u00eancia.<\/p>\n

Nesse contexto, estamos publicando uma s\u00e9rie de tr\u00eas artigos nos quais respondemos \u00e0s seguintes perguntas:<\/p>\n<\/div>