![\"Image\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/10\/kais-laribi.jpeg\")
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/04\/Medium-Blog.png\" "\\"Moyen")
<\/span><\/div>Partie 1 - Comment d\u00e9ployer une instance de suivi Mlflow sur Kubernetes ?<\/h1><\/div>Introduction<\/h2><\/div>Mlflow est un outil largement utilis\u00e9 dans la communaut\u00e9 data science\/ML pour suivre les exp\u00e9riences et g\u00e9rer les mod\u00e8les d'apprentissage automatique \u00e0 diff\u00e9rents stades. Gr\u00e2ce \u00e0 lui, nous pouvons stocker des m\u00e9triques, des mod\u00e8les et des artefacts pour comparer facilement les performances des mod\u00e8les et g\u00e9rer leurs cycles de vie. En outre, Mlflow fournit un module pour servir les mod\u00e8les en tant que point d'extr\u00e9mit\u00e9 d'API, ce qui facilite leur int\u00e9gration dans n'importe quel produit ou application web.<\/p>\n<\/div>
Cela dit, l'utilisation de l'apprentissage automatique dans les produits en ligne est cool, mais en fonction de la taille du mod\u00e8le, de sa nature (ML, deep learning,... ) et de la charge (demandes des utilisateurs), il pourrait \u00eatre difficile de dimensionner les ressources n\u00e9cessaires et de garantir un temps de r\u00e9ponse raisonnable. Par cons\u00e9quent, l'utilisation d'une infrastructure \u00e9volutive telle que les clusters Kubernetes est essentielle pour maintenir la disponibilit\u00e9 et la performance du service dans la phase d'inf\u00e9rence.<\/p>\n
Dans ce contexte, nous publions une s\u00e9rie de trois articles dans lesquels nous r\u00e9pondons aux questions suivantes :<\/p>\n<\/div>
- <\/i><\/span>Comment d\u00e9ployer et utiliser l'instance de suivi Mlflow sur Kubernetes ?<\/div><\/li>
- <\/i><\/span>Comment servir des mod\u00e8les d'apprentissage automatique en tant qu'API en utilisant Mlflow ?<\/div><\/li>
- <\/i><\/span>Comment g\u00e9rer un grand nombre de requ\u00eates et rendre notre t\u00e2che d'inf\u00e9rence \u00e9volutive pour des produits industrialis\u00e9s ?<\/div><\/li><\/ul>
Commen\u00e7ons donc ce premier article par une pr\u00e9sentation de Kubernetes et de ses composants et passons par le d\u00e9ploiement d'une instance de suivi vers des mod\u00e8les de logs.<\/p>\n<\/div>
Vue d'ensemble de Kubernetes<\/h2><\/div>Kubernetes est un projet open-source lanc\u00e9 par Google en 2014. Il s'agit d'un syst\u00e8me de contr\u00f4le et d'orchestration de conteneurs qui permet le d\u00e9ploiement, la mise \u00e0 l'\u00e9chelle et la planification automatiques d'applications. Son architecture est la suivante :<\/p>\n<\/div>![\"Image\"](\"data:image\/svg+xml,%3Csvg%20xmlns%3D%27http%3A%2F%2Fwww.w3.org%2F2000%2Fsvg%27%20width%3D%27705%27%20height%3D%270%27%20viewBox%3D%270%200%20705%200%27%3E%3Crect%20width%3D%27705%27%20height%3D%270%27%20fill-opacity%3D%220%22%2F%3E%3C%2Fsvg%3E\")
Ma\u00eetre<\/strong>: Il g\u00e8re les configurations d'entr\u00e9e, planifie les applications conteneuris\u00e9es sur les diff\u00e9rents n\u0153uds et surveille leurs \u00e9tats. Le ma\u00eetre est compos\u00e9 de :<\/p>\n<\/div>- <\/i><\/span>Serveur API :\u00a0<\/strong>permet l'interaction avec le cluster et valide les commandes envoy\u00e9es par le d\u00e9veloppeur pour mettre \u00e0 jour le cluster ou l'\u00e9tat de l'application.<\/div><\/li>
- <\/i><\/span>Planificateur<\/strong>: d\u00e9cide\u00a0<\/strong>les n\u0153uds sur lesquels les nouveaux objets doivent \u00eatre ex\u00e9cut\u00e9s pour garantir la stabilit\u00e9 et l'\u00e9quilibrage de la charge.<\/div><\/li>
- <\/i><\/span>Etcd :<\/strong>\u00a0une base de donn\u00e9es cl\u00e9-valeur database qui stocke les diff\u00e9rentes configurations et \u00e9tats des ressources<\/div><\/li>
- <\/i><\/span>Responsable du contr\u00f4le :<\/strong>surveille l'\u00e9tat de la grappe et les diff\u00e9rentes ressources et s'assure que l'\u00e9tat actuel correspond \u00e0 l'\u00e9tat souhait\u00e9.<\/div><\/li><\/ul>
N\u0153uds :<\/strong> ce sont les n\u0153uds d'ex\u00e9cution dans lesquels vivent les conteneurs d\u00e9ploy\u00e9s. Leurs principaux composants sont les suivants<\/p>\n<\/div>- <\/i><\/span>Cosse :\u00a0<\/strong>sont l'unit\u00e9 d'ex\u00e9cution fondamentale de base dans Kubernetes. Un pod encapsule une application sous la forme d'un conteneur unique ou de plusieurs conteneurs qui fonctionnent ensemble avec des volumes de stockage et des r\u00e9seaux partag\u00e9s.<\/div><\/li>
- <\/i><\/span>\n
Kubelet :<\/strong>est\u00a0<\/strong>un\u00a0<\/strong>pour inspecter l'\u00e9tat des conteneurs et communiquer avec le ma\u00eetre Kubernetes.<\/p>\n<\/div><\/li><\/ul>C'est le choix id\u00e9al lorsqu'une application comporte plusieurs services qui communiquent entre eux, car il garantit que chaque service dispose de son propre environnement conteneuris\u00e9 avec un ensemble de r\u00e8gles pour interagir avec les autres. En outre, il offre la possibilit\u00e9 int\u00e9ressante de faire \u00e9voluer une application sans se soucier de la gestion ou de la synchronisation de nouveaux services et d'\u00e9quilibrer les ressources entre diff\u00e9rentes machines.<\/p>\n
D'un point de vue de haut niveau, en tant que scientifiques data ou ing\u00e9nieurs ML, nous interagirons avec Kubernetes via son API serveur en utilisant des commandes CLI ou des fichiers de configuration YAML, soit pour d\u00e9ployer et exposer des applications, soit pour obtenir les \u00e9tats de nos ressources.<\/p>\n<\/div>
Pr\u00e9-requis pratiques<\/h2><\/div>Pour ce travail pratique, nous utiliserons GCP comme fournisseur cloud. Tout d'abord, nous devons :<\/p>\n<\/div>
1. Cr\u00e9er les \u00e9l\u00e9ments d'infrastructure<\/h3><\/div>- <\/i><\/span>mlflow_gke :<\/strong> un seau pour stocker les fichiers, datasets...<\/div><\/li>
- <\/i><\/span>\n
mlflow-k8s<\/strong>: un cluster GKE \u00e0 trois n\u0153uds (e2-highcpu-4) pour d\u00e9ployer \u00e0 la fois le module de suivi et le mod\u00e8le d'apprentissage automatique.<\/p>\n<\/div><\/li>- <\/i><\/span>\n
test de charge :\u00a0<\/strong>un cluster GKE \u00e0 trois n\u0153uds (e2-standard-2) pour effectuer des tests de charge. Il sera utilis\u00e9 dans le troisi\u00e8me article de cette s\u00e9rie.<\/p>\n<\/div><\/li><\/ul>![\"Image\"](\"data:image\/svg+xml,%3Csvg%20xmlns%3D%27http%3A%2F%2Fwww.w3.org%2F2000%2Fsvg%27%20width%3D%27659%27%20height%3D%270%27%20viewBox%3D%270%200%20659%200%27%3E%3Crect%20width%3D%27659%27%20height%3D%270%27%20fill-opacity%3D%220%22%2F%3E%3C%2Fsvg%3E\")
2. Configurez le poste de travail local<\/h3><\/div>- <\/i><\/span>\n
Installez les exigences python pour interagir avec GCP et mlflow cli<\/p>\n
pip install mlflow gcsfs google-cloud google-cloud-storage kubernetes<\/span><\/pre>\n<\/div><\/li>- <\/i><\/span>Avoir\u00a0gcloud<\/a>\u00a0et\u00a0kubectl<\/a>\u00a0configur\u00e9 avec les identifiants pour acc\u00e9der au projet GCP et aux clusters<\/div><\/li>
- <\/i><\/span>Le CLI Helm est install\u00e9 et initialis\u00e9. S'il vous pla\u00eet\u00a0trouvez ici les instructions<\/a>\u00a0au cas o\u00f9 vous n'auriez pas encore le client.<\/div><\/li><\/ul>
3. Clonez le d\u00e9p\u00f4t du projet hands-on pour obtenir le code.<\/h3><\/div>git clone https:\/\/github.com\/artefactory-global\/mlflow-serving-example<\/a><\/p>\n<\/div>D\u00e9ploiement de l'instance de suivi Mlflow<\/h2><\/div>1. Configurez l'environnement du cluster<\/h3><\/div>- <\/i><\/span>Cr\u00e9ez un compte de service pour permettre l'interaction avec les GCS.
\n<\/strong>Cela peut se faire via la console google cloud, sous la rubrique\u00a0section iam<\/a>. Nous devons cr\u00e9er un compte de service avec les droits d'administration de l'objet de stockage, g\u00e9n\u00e9rer une cl\u00e9 d'authentification et la t\u00e9l\u00e9charger sous la forme keyfile.json.<\/div><\/li>- <\/i><\/span>Monter le fichier d'authentification en tant que secret<\/strong>
\n<\/strong>Les secrets nous permettent de traiter les informations d'identification de mani\u00e8re s\u00e9curis\u00e9e, de sorte qu'elles ne soient visibles que par les ressources concern\u00e9es.\u00a0<\/strong>Pour cela, nous allons cr\u00e9er un volume secret et exposer le fichier d'authentification uniquement aux conteneurs n\u00e9cessaires.
\nkubectl create secret generic gcsfs-creds -from-file=.\/keyfile.json<\/span><\/div><\/li><\/ul>![\"Image\"](\"data:image\/svg+xml,%3Csvg%20xmlns%3D%27http%3A%2F%2Fwww.w3.org%2F2000%2Fsvg%27%20width%3D%27634%27%20height%3D%270%27%20viewBox%3D%270%200%20634%200%27%3E%3Crect%20width%3D%27634%27%20height%3D%270%27%20fill-opacity%3D%220%22%2F%3E%3C%2Fsvg%3E\")
2. Suivi du d\u00e9ploiement du serveur<\/h3><\/div>- <\/i><\/span>Magasin Postgres<\/strong>
\n<\/strong>Postgre sert d'\u00e9l\u00e9ment de stockage dorsal pour mlflow afin de sauvegarder les mod\u00e8les metadata et les m\u00e9triques.
\nPour le d\u00e9ployer, nous utiliserons Helm : un gestionnaire de ressources pour Kubernetes o\u00f9 de nombreuses applications sont disponibles sous forme de tableaux ou de mod\u00e8les qui pourraient \u00eatre configur\u00e9s avec de simples commandes.<\/p>\n#docs : https:\/\/artifacthub.io\/packages\/helm\/bitnami\/postgresql<\/span>helm repo add bitnami https:\/\/charts.bitnami.com\/bitnami<\/span>helm install mlf-db bitnami\/postgresql --set postgresqlDatabase=mlflow_db --set postgresqlPassword=mlflow --set service.type=NodePort<\/span><\/pre>\n<\/div><\/li>- <\/i><\/span>Instance de suivi<\/strong>
\n<\/strong>Nous utiliserons \u00e9galement les graphiques Helm pour d\u00e9ployer le serveur de suivi, mais d'abord, nous devons construire une image docker avec la version que nous voulons afin qu'elle puisse \u00eatre t\u00e9l\u00e9charg\u00e9e et d\u00e9ploy\u00e9e par Helm. Notez que pour Postgres, l'image \u00e9tait d\u00e9j\u00e0 sur un d\u00e9p\u00f4t public, cependant ici nous allons cr\u00e9er notre propre image.<\/p>\ncd mlflow-serving-example<\/span>docker build --tag $\/mlflow-tracking-server:v1 --file dockerfile_mlflow_tracking .<\/span>docker push $\/mlflow-tracking-server:v1<\/span><\/pre>\n<\/div><\/li><\/ul>Une fois l'image pouss\u00e9e dans le registre d'images, nous pouvons la d\u00e9ployer sur le cluster via helm en utilisant les commandes ci-dessous.<\/p>\n
helm repo add mlflow-tracking https:\/\/artefactory-global.github.io\/mlflow-tracking-server\/<\/a><\/span>helm install mlf-ts mlflow-tracking\/mlflow-tracking-server\n--set env.mlflowArtifactPath=$\n--set env.mlflowDBAddr=mlf-db-postgresql\n--set env.mlflowUser=postgres\n--set env.mlflowPass=mlflow\n--set env.mlflowDBName=mlflow_db\n--set env.mlflowDBPort=5432\n--set service.type=LoadBalancer\n--set image.repository=$\/mlflow-tracking-server\n--set image.tag=v1<\/span><\/pre>\nMaintenant, Mlflow devrait \u00eatre op\u00e9rationnel et l'interface utilisateur devrait \u00eatre accessible via l'IP de l'\u00e9quilibreur de charge. Nous pouvons v\u00e9rifier l'IP assign\u00e9e en utilisant\u00a0k<\/em>ubectl get services<\/em>.<\/em><\/strong>A<\/em>Nous pouvons \u00e9galement d\u00e9boguer le d\u00e9ploiement en acc\u00e9dant aux journaux.\u00a0via\u00a0<\/em>kubectl describe pods<\/strong>.<\/em>
Jusqu'\u00e0 pr\u00e9sent, notre architecture actuelle ressemble \u00e0 ce qui suit :<\/p>\n<\/div>![\"Image\"](\"data:image\/svg+xml,%3Csvg%20xmlns%3D%27http%3A%2F%2Fwww.w3.org%2F2000%2Fsvg%27%20width%3D%27621%27%20height%3D%270%27%20viewBox%3D%270%200%20621%200%27%3E%3Crect%20width%3D%27621%27%20height%3D%270%27%20fill-opacity%3D%220%22%2F%3E%3C%2Fsvg%3E\")
Veuillez noter que les \u00e9quilibreurs de charge sont accessibles \u00e0 n'importe qui sur internet, il est donc essentiel de penser \u00e0 s\u00e9curiser notre instance de suivi en ajoutant une couche d'authentification. Cela peut \u00eatre fait avec l'option\u00a0proxy tenant compte de l'identit\u00e9<\/a>\u00a0sur GCP mais ne sera pas abord\u00e9 dans cet article.<\/p>\n<\/div>3. Cr\u00e9ation d'un mod\u00e8le de base<\/h3><\/div>Maintenant que notre infrastructure et notre instance Mlflow sont pr\u00eates, nous pouvons essayer d'ex\u00e9cuter un mod\u00e8le ML simple et l'enregistrer dans le registre des mod\u00e8les pour une utilisation ult\u00e9rieure.
\nNous utiliserons l'ensemble dataset sur la qualit\u00e9 du vin, qui est compos\u00e9 d'environ 4900 \u00e9chantillons et de 11 caract\u00e9ristiques refl\u00e9tant les caract\u00e9ristiques du vin. Les \u00e9tiquettes vont de 3 \u00e0 9 et peuvent \u00eatre consid\u00e9r\u00e9es comme des notes.
\nIl s'agit d'un exemple classique, dans lequel nous formons un mod\u00e8le de r\u00e9gression Xgboost et le stockons avec ses param\u00e8tres et m\u00e9triques. Le code complet peut \u00eatre trouv\u00e9 dans ce document\u00a0carnet de notes<\/a>.
\nVous avez peut-\u00eatre remarqu\u00e9 que l'int\u00e9gration de Mlflow est simple et qu'elle peut \u00eatre r\u00e9sum\u00e9e dans l'extrait de code ci-dessous qui invoque\u00a0mlflow.start_run(), mlflow.log_param(), mlflow.log_metric() et mlflow.xgboost.log_model()<\/strong><\/em>pour respectivement cr\u00e9er une nouvelle exp\u00e9rience, stocker les param\u00e8tres d'entra\u00eenement, les mesures d'\u00e9valuation et le mod\u00e8le entra\u00een\u00e9 lui-m\u00eame.<\/p>\n<\/div>avec mlflow.start_run() comme run :\n \n # D\u00e9marrer la session mlflow\n mlflow.log_param(\"max_depth\", max_depth)\n mlflow.log_param(\"min_child_weight\", min_child_weight)\n mlflow.log_param(\"estimators\", estimators)\n\n # Cr\u00e9er et ajuster le mod\u00e8le\n model = xgb.XGBRegressor(\n max_depth=max_depth,\n min_child_weight=min_child_weight,\n n_estimateurs=estimateurs\n random_state=42)\n model.fit(X_train, y_train)\n\n M\u00e9triques MLflow #\n predictions = model.predict(X_test)\n rmse = np.sqrt(mean_squared_error(y_test, predictions))\n mlflow.log_metric(\"rmse\", rmse)\n\n Mod\u00e8le logarithmique #\n mlflow.xgboost.log_model(model, \"xgboost-model\", registered_model_name = model_name)\nEn ex\u00e9cutant le carnet fourni, une nouvelle ligne sera ajout\u00e9e dans l'interface de l'instance de suivi qui correspond \u00e0 la nouvelle exp\u00e9rience.<\/p>\n<\/div>![\"Image\"](\"data:image\/svg+xml,%3Csvg%20xmlns%3D%27http%3A%2F%2Fwww.w3.org%2F2000%2Fsvg%27%20width%3D%27642%27%20height%3D%270%27%20viewBox%3D%270%200%20642%200%27%3E%3Crect%20width%3D%27642%27%20height%3D%270%27%20fill-opacity%3D%220%22%2F%3E%3C%2Fsvg%3E\")
Enfin, en supposant que nous soyons satisfaits des performances du mod\u00e8le, nous pouvons le charger \u00e0 partir de l'instance de suivi et l'utiliser pour l'inf\u00e9rence en Python. Ceci pourrait \u00eatre fait \u00e9galement avec le notebook partag\u00e9 pr\u00e9c\u00e9demment. Notez que dans cet exemple, nous avons charg\u00e9 le mod\u00e8le en utilisant le run ID mais gardez \u00e0 l'esprit que Mlflow offre \u00e9galement d'autres fa\u00e7ons int\u00e9ressantes d'identifier les mod\u00e8les par des tags, des versions, ou des \u00e9tapes. Pour plus de d\u00e9tails, veuillez vous r\u00e9f\u00e9rer \u00e0 la documentation du registre des mod\u00e8les.\u00a0ici<\/a>.<\/p>\n<\/div>Conclusion<\/h2><\/div>Tout au long de cet article, nous avons r\u00e9ussi \u00e0 d\u00e9ployer une instance de suivi Mlflow pour g\u00e9rer nos exp\u00e9riences scientifiques data et nous avons pass\u00e9 en revue un exemple rapide montrant comment enregistrer un mod\u00e8le et le sauvegarder pour une inf\u00e9rence future sur python. Dans le prochain article de cette s\u00e9rie, nous apprendrons comment servir ce mod\u00e8le en tant qu'API. Cela a une grande importance car cela facilite l'interaction avec le mod\u00e8le et son int\u00e9gration dans un produit ou une application. De plus, le fait de le faire sur Kubernetes garantit qu'il reste facilement \u00e9volutif et capable de g\u00e9rer diff\u00e9rents niveaux de charge.<\/p>\n<\/div><\/div><\/div><\/div><\/article>
Introduction<\/h2><\/div>Mlflow est un outil largement utilis\u00e9 dans la communaut\u00e9 data science\/ML pour suivre les exp\u00e9riences et g\u00e9rer les mod\u00e8les d'apprentissage automatique \u00e0 diff\u00e9rents stades. Gr\u00e2ce \u00e0 lui, nous pouvons stocker des m\u00e9triques, des mod\u00e8les et des artefacts pour comparer facilement les performances des mod\u00e8les et g\u00e9rer leurs cycles de vie. En outre, Mlflow fournit un module pour servir les mod\u00e8les en tant que point d'extr\u00e9mit\u00e9 d'API, ce qui facilite leur int\u00e9gration dans n'importe quel produit ou application web.<\/p>\n<\/div>
Cela dit, l'utilisation de l'apprentissage automatique dans les produits en ligne est cool, mais en fonction de la taille du mod\u00e8le, de sa nature (ML, deep learning,... ) et de la charge (demandes des utilisateurs), il pourrait \u00eatre difficile de dimensionner les ressources n\u00e9cessaires et de garantir un temps de r\u00e9ponse raisonnable. Par cons\u00e9quent, l'utilisation d'une infrastructure \u00e9volutive telle que les clusters Kubernetes est essentielle pour maintenir la disponibilit\u00e9 et la performance du service dans la phase d'inf\u00e9rence.<\/p>\n
Dans ce contexte, nous publions une s\u00e9rie de trois articles dans lesquels nous r\u00e9pondons aux questions suivantes :<\/p>\n<\/div>
- <\/i><\/span>Comment d\u00e9ployer et utiliser l'instance de suivi Mlflow sur Kubernetes ?<\/div><\/li>
- <\/i><\/span>Comment servir des mod\u00e8les d'apprentissage automatique en tant qu'API en utilisant Mlflow ?<\/div><\/li>
- <\/i><\/span>Comment g\u00e9rer un grand nombre de requ\u00eates et rendre notre t\u00e2che d'inf\u00e9rence \u00e9volutive pour des produits industrialis\u00e9s ?<\/div><\/li><\/ul>
Commen\u00e7ons donc ce premier article par une pr\u00e9sentation de Kubernetes et de ses composants et passons par le d\u00e9ploiement d'une instance de suivi vers des mod\u00e8les de logs.<\/p>\n<\/div>
Vue d'ensemble de Kubernetes<\/h2><\/div>Kubernetes est un projet open-source lanc\u00e9 par Google en 2014. Il s'agit d'un syst\u00e8me de contr\u00f4le et d'orchestration de conteneurs qui permet le d\u00e9ploiement, la mise \u00e0 l'\u00e9chelle et la planification automatiques d'applications. Son architecture est la suivante :<\/p>\n<\/div>
Ma\u00eetre<\/strong>: Il g\u00e8re les configurations d'entr\u00e9e, planifie les applications conteneuris\u00e9es sur les diff\u00e9rents n\u0153uds et surveille leurs \u00e9tats. Le ma\u00eetre est compos\u00e9 de :<\/p>\n<\/div>- <\/i><\/span>Serveur API :\u00a0<\/strong>permet l'interaction avec le cluster et valide les commandes envoy\u00e9es par le d\u00e9veloppeur pour mettre \u00e0 jour le cluster ou l'\u00e9tat de l'application.<\/div><\/li>
- <\/i><\/span>Planificateur<\/strong>: d\u00e9cide\u00a0<\/strong>les n\u0153uds sur lesquels les nouveaux objets doivent \u00eatre ex\u00e9cut\u00e9s pour garantir la stabilit\u00e9 et l'\u00e9quilibrage de la charge.<\/div><\/li>
- <\/i><\/span>Etcd :<\/strong>\u00a0une base de donn\u00e9es cl\u00e9-valeur database qui stocke les diff\u00e9rentes configurations et \u00e9tats des ressources<\/div><\/li>
- <\/i><\/span>Responsable du contr\u00f4le :<\/strong>surveille l'\u00e9tat de la grappe et les diff\u00e9rentes ressources et s'assure que l'\u00e9tat actuel correspond \u00e0 l'\u00e9tat souhait\u00e9.<\/div><\/li><\/ul>
N\u0153uds :<\/strong> ce sont les n\u0153uds d'ex\u00e9cution dans lesquels vivent les conteneurs d\u00e9ploy\u00e9s. Leurs principaux composants sont les suivants<\/p>\n<\/div>- <\/i><\/span>Cosse :\u00a0<\/strong>sont l'unit\u00e9 d'ex\u00e9cution fondamentale de base dans Kubernetes. Un pod encapsule une application sous la forme d'un conteneur unique ou de plusieurs conteneurs qui fonctionnent ensemble avec des volumes de stockage et des r\u00e9seaux partag\u00e9s.<\/div><\/li>
- <\/i><\/span>\n
Kubelet :<\/strong>est\u00a0<\/strong>un\u00a0<\/strong>pour inspecter l'\u00e9tat des conteneurs et communiquer avec le ma\u00eetre Kubernetes.<\/p>\n<\/div><\/li><\/ul>C'est le choix id\u00e9al lorsqu'une application comporte plusieurs services qui communiquent entre eux, car il garantit que chaque service dispose de son propre environnement conteneuris\u00e9 avec un ensemble de r\u00e8gles pour interagir avec les autres. En outre, il offre la possibilit\u00e9 int\u00e9ressante de faire \u00e9voluer une application sans se soucier de la gestion ou de la synchronisation de nouveaux services et d'\u00e9quilibrer les ressources entre diff\u00e9rentes machines.<\/p>\n
D'un point de vue de haut niveau, en tant que scientifiques data ou ing\u00e9nieurs ML, nous interagirons avec Kubernetes via son API serveur en utilisant des commandes CLI ou des fichiers de configuration YAML, soit pour d\u00e9ployer et exposer des applications, soit pour obtenir les \u00e9tats de nos ressources.<\/p>\n<\/div>
Pr\u00e9-requis pratiques<\/h2><\/div>Pour ce travail pratique, nous utiliserons GCP comme fournisseur cloud. Tout d'abord, nous devons :<\/p>\n<\/div>
1. Cr\u00e9er les \u00e9l\u00e9ments d'infrastructure<\/h3><\/div>- <\/i><\/span>mlflow_gke :<\/strong> un seau pour stocker les fichiers, datasets...<\/div><\/li>
- <\/i><\/span>\n
mlflow-k8s<\/strong>: un cluster GKE \u00e0 trois n\u0153uds (e2-highcpu-4) pour d\u00e9ployer \u00e0 la fois le module de suivi et le mod\u00e8le d'apprentissage automatique.<\/p>\n<\/div><\/li>- <\/i><\/span>\n
test de charge :\u00a0<\/strong>un cluster GKE \u00e0 trois n\u0153uds (e2-standard-2) pour effectuer des tests de charge. Il sera utilis\u00e9 dans le troisi\u00e8me article de cette s\u00e9rie.<\/p>\n<\/div><\/li><\/ul>2. Configurez le poste de travail local<\/h3><\/div>- <\/i><\/span>\n
Installez les exigences python pour interagir avec GCP et mlflow cli<\/p>\n
pip install mlflow gcsfs google-cloud google-cloud-storage kubernetes<\/span><\/pre>\n<\/div><\/li>- <\/i><\/span>Avoir\u00a0gcloud<\/a>\u00a0et\u00a0kubectl<\/a>\u00a0configur\u00e9 avec les identifiants pour acc\u00e9der au projet GCP et aux clusters<\/div><\/li>
- <\/i><\/span>Le CLI Helm est install\u00e9 et initialis\u00e9. S'il vous pla\u00eet\u00a0trouvez ici les instructions<\/a>\u00a0au cas o\u00f9 vous n'auriez pas encore le client.<\/div><\/li><\/ul>
3. Clonez le d\u00e9p\u00f4t du projet hands-on pour obtenir le code.<\/h3><\/div>git clone https:\/\/github.com\/artefactory-global\/mlflow-serving-example<\/a><\/p>\n<\/div>D\u00e9ploiement de l'instance de suivi Mlflow<\/h2><\/div>1. Configurez l'environnement du cluster<\/h3><\/div>- <\/i><\/span>Cr\u00e9ez un compte de service pour permettre l'interaction avec les GCS.
\n<\/strong>Cela peut se faire via la console google cloud, sous la rubrique\u00a0section iam<\/a>. Nous devons cr\u00e9er un compte de service avec les droits d'administration de l'objet de stockage, g\u00e9n\u00e9rer une cl\u00e9 d'authentification et la t\u00e9l\u00e9charger sous la forme keyfile.json.<\/div><\/li>- <\/i><\/span>Monter le fichier d'authentification en tant que secret<\/strong>
\n<\/strong>Les secrets nous permettent de traiter les informations d'identification de mani\u00e8re s\u00e9curis\u00e9e, de sorte qu'elles ne soient visibles que par les ressources concern\u00e9es.\u00a0<\/strong>Pour cela, nous allons cr\u00e9er un volume secret et exposer le fichier d'authentification uniquement aux conteneurs n\u00e9cessaires.
\nkubectl create secret generic gcsfs-creds -from-file=.\/keyfile.json<\/span><\/div><\/li><\/ul>2. Suivi du d\u00e9ploiement du serveur<\/h3><\/div>- <\/i><\/span>Magasin Postgres<\/strong>
\n<\/strong>Postgre sert d'\u00e9l\u00e9ment de stockage dorsal pour mlflow afin de sauvegarder les mod\u00e8les metadata et les m\u00e9triques.
\nPour le d\u00e9ployer, nous utiliserons Helm : un gestionnaire de ressources pour Kubernetes o\u00f9 de nombreuses applications sont disponibles sous forme de tableaux ou de mod\u00e8les qui pourraient \u00eatre configur\u00e9s avec de simples commandes.<\/p>\n#docs : https:\/\/artifacthub.io\/packages\/helm\/bitnami\/postgresql<\/span>helm repo add bitnami https:\/\/charts.bitnami.com\/bitnami<\/span>helm install mlf-db bitnami\/postgresql --set postgresqlDatabase=mlflow_db --set postgresqlPassword=mlflow --set service.type=NodePort<\/span><\/pre>\n<\/div><\/li>- <\/i><\/span>Instance de suivi<\/strong>
\n<\/strong>Nous utiliserons \u00e9galement les graphiques Helm pour d\u00e9ployer le serveur de suivi, mais d'abord, nous devons construire une image docker avec la version que nous voulons afin qu'elle puisse \u00eatre t\u00e9l\u00e9charg\u00e9e et d\u00e9ploy\u00e9e par Helm. Notez que pour Postgres, l'image \u00e9tait d\u00e9j\u00e0 sur un d\u00e9p\u00f4t public, cependant ici nous allons cr\u00e9er notre propre image.<\/p>\ncd mlflow-serving-example<\/span>docker build --tag $\/mlflow-tracking-server:v1 --file dockerfile_mlflow_tracking .<\/span>docker push $\/mlflow-tracking-server:v1<\/span><\/pre>\n<\/div><\/li><\/ul>Une fois l'image pouss\u00e9e dans le registre d'images, nous pouvons la d\u00e9ployer sur le cluster via helm en utilisant les commandes ci-dessous.<\/p>\n
helm repo add mlflow-tracking https:\/\/artefactory-global.github.io\/mlflow-tracking-server\/<\/a><\/span>helm install mlf-ts mlflow-tracking\/mlflow-tracking-server\n--set env.mlflowArtifactPath=$\n--set env.mlflowDBAddr=mlf-db-postgresql\n--set env.mlflowUser=postgres\n--set env.mlflowPass=mlflow\n--set env.mlflowDBName=mlflow_db\n--set env.mlflowDBPort=5432\n--set service.type=LoadBalancer\n--set image.repository=$\/mlflow-tracking-server\n--set image.tag=v1<\/span><\/pre>\nMaintenant, Mlflow devrait \u00eatre op\u00e9rationnel et l'interface utilisateur devrait \u00eatre accessible via l'IP de l'\u00e9quilibreur de charge. Nous pouvons v\u00e9rifier l'IP assign\u00e9e en utilisant\u00a0k<\/em>ubectl get services<\/em>.<\/em><\/strong>A<\/em>Nous pouvons \u00e9galement d\u00e9boguer le d\u00e9ploiement en acc\u00e9dant aux journaux.\u00a0via\u00a0<\/em>kubectl describe pods<\/strong>.<\/em>
Jusqu'\u00e0 pr\u00e9sent, notre architecture actuelle ressemble \u00e0 ce qui suit :<\/p>\n<\/div>Veuillez noter que les \u00e9quilibreurs de charge sont accessibles \u00e0 n'importe qui sur internet, il est donc essentiel de penser \u00e0 s\u00e9curiser notre instance de suivi en ajoutant une couche d'authentification. Cela peut \u00eatre fait avec l'option\u00a0proxy tenant compte de l'identit\u00e9<\/a>\u00a0sur GCP mais ne sera pas abord\u00e9 dans cet article.<\/p>\n<\/div>3. Cr\u00e9ation d'un mod\u00e8le de base<\/h3><\/div>Maintenant que notre infrastructure et notre instance Mlflow sont pr\u00eates, nous pouvons essayer d'ex\u00e9cuter un mod\u00e8le ML simple et l'enregistrer dans le registre des mod\u00e8les pour une utilisation ult\u00e9rieure.
\nNous utiliserons l'ensemble dataset sur la qualit\u00e9 du vin, qui est compos\u00e9 d'environ 4900 \u00e9chantillons et de 11 caract\u00e9ristiques refl\u00e9tant les caract\u00e9ristiques du vin. Les \u00e9tiquettes vont de 3 \u00e0 9 et peuvent \u00eatre consid\u00e9r\u00e9es comme des notes.
\nIl s'agit d'un exemple classique, dans lequel nous formons un mod\u00e8le de r\u00e9gression Xgboost et le stockons avec ses param\u00e8tres et m\u00e9triques. Le code complet peut \u00eatre trouv\u00e9 dans ce document\u00a0carnet de notes<\/a>.
\nVous avez peut-\u00eatre remarqu\u00e9 que l'int\u00e9gration de Mlflow est simple et qu'elle peut \u00eatre r\u00e9sum\u00e9e dans l'extrait de code ci-dessous qui invoque\u00a0mlflow.start_run(), mlflow.log_param(), mlflow.log_metric() et mlflow.xgboost.log_model()<\/strong><\/em>pour respectivement cr\u00e9er une nouvelle exp\u00e9rience, stocker les param\u00e8tres d'entra\u00eenement, les mesures d'\u00e9valuation et le mod\u00e8le entra\u00een\u00e9 lui-m\u00eame.<\/p>\n<\/div>avec mlflow.start_run() comme run :\n \n # D\u00e9marrer la session mlflow\n mlflow.log_param(\"max_depth\", max_depth)\n mlflow.log_param(\"min_child_weight\", min_child_weight)\n mlflow.log_param(\"estimators\", estimators)\n\n # Cr\u00e9er et ajuster le mod\u00e8le\n model = xgb.XGBRegressor(\n max_depth=max_depth,\n min_child_weight=min_child_weight,\n n_estimateurs=estimateurs\n random_state=42)\n model.fit(X_train, y_train)\n\n M\u00e9triques MLflow #\n predictions = model.predict(X_test)\n rmse = np.sqrt(mean_squared_error(y_test, predictions))\n mlflow.log_metric(\"rmse\", rmse)\n\n Mod\u00e8le logarithmique #\n mlflow.xgboost.log_model(model, \"xgboost-model\", registered_model_name = model_name)\nEn ex\u00e9cutant le carnet fourni, une nouvelle ligne sera ajout\u00e9e dans l'interface de l'instance de suivi qui correspond \u00e0 la nouvelle exp\u00e9rience.<\/p>\n<\/div>
Enfin, en supposant que nous soyons satisfaits des performances du mod\u00e8le, nous pouvons le charger \u00e0 partir de l'instance de suivi et l'utiliser pour l'inf\u00e9rence en Python. Ceci pourrait \u00eatre fait \u00e9galement avec le notebook partag\u00e9 pr\u00e9c\u00e9demment. Notez que dans cet exemple, nous avons charg\u00e9 le mod\u00e8le en utilisant le run ID mais gardez \u00e0 l'esprit que Mlflow offre \u00e9galement d'autres fa\u00e7ons int\u00e9ressantes d'identifier les mod\u00e8les par des tags, des versions, ou des \u00e9tapes. Pour plus de d\u00e9tails, veuillez vous r\u00e9f\u00e9rer \u00e0 la documentation du registre des mod\u00e8les.\u00a0ici<\/a>.<\/p>\n<\/div>Conclusion<\/h2><\/div>Tout au long de cet article, nous avons r\u00e9ussi \u00e0 d\u00e9ployer une instance de suivi Mlflow pour g\u00e9rer nos exp\u00e9riences scientifiques data et nous avons pass\u00e9 en revue un exemple rapide montrant comment enregistrer un mod\u00e8le et le sauvegarder pour une inf\u00e9rence future sur python. Dans le prochain article de cette s\u00e9rie, nous apprendrons comment servir ce mod\u00e8le en tant qu'API. Cela a une grande importance car cela facilite l'interaction avec le mod\u00e8le et son int\u00e9gration dans un produit ou une application. De plus, le fait de le faire sur Kubernetes garantit qu'il reste facilement \u00e9volutif et capable de g\u00e9rer diff\u00e9rents niveaux de charge.<\/p>\n<\/div><\/div><\/div><\/div><\/article>
Mlflow est un outil largement utilis\u00e9 dans la communaut\u00e9 data science\/ML pour suivre les exp\u00e9riences et g\u00e9rer les mod\u00e8les d'apprentissage automatique \u00e0 diff\u00e9rents stades. Gr\u00e2ce \u00e0 lui, nous pouvons stocker des m\u00e9triques, des mod\u00e8les et des artefacts pour comparer facilement les performances des mod\u00e8les et g\u00e9rer leurs cycles de vie. En outre, Mlflow fournit un module pour servir les mod\u00e8les en tant que point d'extr\u00e9mit\u00e9 d'API, ce qui facilite leur int\u00e9gration dans n'importe quel produit ou application web.<\/p>\n<\/div>
Cela dit, l'utilisation de l'apprentissage automatique dans les produits en ligne est cool, mais en fonction de la taille du mod\u00e8le, de sa nature (ML, deep learning,... ) et de la charge (demandes des utilisateurs), il pourrait \u00eatre difficile de dimensionner les ressources n\u00e9cessaires et de garantir un temps de r\u00e9ponse raisonnable. Par cons\u00e9quent, l'utilisation d'une infrastructure \u00e9volutive telle que les clusters Kubernetes est essentielle pour maintenir la disponibilit\u00e9 et la performance du service dans la phase d'inf\u00e9rence.<\/p>\n
Dans ce contexte, nous publions une s\u00e9rie de trois articles dans lesquels nous r\u00e9pondons aux questions suivantes :<\/p>\n<\/div>
- <\/i><\/span>Comment d\u00e9ployer et utiliser l'instance de suivi Mlflow sur Kubernetes ?<\/div><\/li>
- <\/i><\/span>
Comment servir des mod\u00e8les d'apprentissage automatique en tant qu'API en utilisant Mlflow ?<\/div><\/li>- <\/i><\/span>
Comment g\u00e9rer un grand nombre de requ\u00eates et rendre notre t\u00e2che d'inf\u00e9rence \u00e9volutive pour des produits industrialis\u00e9s ?<\/div><\/li><\/ul>Commen\u00e7ons donc ce premier article par une pr\u00e9sentation de Kubernetes et de ses composants et passons par le d\u00e9ploiement d'une instance de suivi vers des mod\u00e8les de logs.<\/p>\n<\/div>
Vue d'ensemble de Kubernetes<\/h2><\/div>
Kubernetes est un projet open-source lanc\u00e9 par Google en 2014. Il s'agit d'un syst\u00e8me de contr\u00f4le et d'orchestration de conteneurs qui permet le d\u00e9ploiement, la mise \u00e0 l'\u00e9chelle et la planification automatiques d'applications. Son architecture est la suivante :<\/p>\n<\/div>
Ma\u00eetre<\/strong>: Il g\u00e8re les configurations d'entr\u00e9e, planifie les applications conteneuris\u00e9es sur les diff\u00e9rents n\u0153uds et surveille leurs \u00e9tats. Le ma\u00eetre est compos\u00e9 de :<\/p>\n<\/div>
- <\/i><\/span>Serveur API :\u00a0<\/strong>permet l'interaction avec le cluster et valide les commandes envoy\u00e9es par le d\u00e9veloppeur pour mettre \u00e0 jour le cluster ou l'\u00e9tat de l'application.<\/div><\/li>
- <\/i><\/span>
Planificateur<\/strong>: d\u00e9cide\u00a0<\/strong>les n\u0153uds sur lesquels les nouveaux objets doivent \u00eatre ex\u00e9cut\u00e9s pour garantir la stabilit\u00e9 et l'\u00e9quilibrage de la charge.<\/div><\/li>- <\/i><\/span>
Etcd :<\/strong>\u00a0une base de donn\u00e9es cl\u00e9-valeur database qui stocke les diff\u00e9rentes configurations et \u00e9tats des ressources<\/div><\/li>- <\/i><\/span>
Responsable du contr\u00f4le :<\/strong>surveille l'\u00e9tat de la grappe et les diff\u00e9rentes ressources et s'assure que l'\u00e9tat actuel correspond \u00e0 l'\u00e9tat souhait\u00e9.<\/div><\/li><\/ul>N\u0153uds :<\/strong> ce sont les n\u0153uds d'ex\u00e9cution dans lesquels vivent les conteneurs d\u00e9ploy\u00e9s. Leurs principaux composants sont les suivants<\/p>\n<\/div>
- <\/i><\/span>Cosse :\u00a0<\/strong>sont l'unit\u00e9 d'ex\u00e9cution fondamentale de base dans Kubernetes. Un pod encapsule une application sous la forme d'un conteneur unique ou de plusieurs conteneurs qui fonctionnent ensemble avec des volumes de stockage et des r\u00e9seaux partag\u00e9s.<\/div><\/li>
- <\/i><\/span>
\nKubelet :<\/strong>est\u00a0<\/strong>un\u00a0<\/strong>pour inspecter l'\u00e9tat des conteneurs et communiquer avec le ma\u00eetre Kubernetes.<\/p>\n<\/div><\/li><\/ul>
C'est le choix id\u00e9al lorsqu'une application comporte plusieurs services qui communiquent entre eux, car il garantit que chaque service dispose de son propre environnement conteneuris\u00e9 avec un ensemble de r\u00e8gles pour interagir avec les autres. En outre, il offre la possibilit\u00e9 int\u00e9ressante de faire \u00e9voluer une application sans se soucier de la gestion ou de la synchronisation de nouveaux services et d'\u00e9quilibrer les ressources entre diff\u00e9rentes machines.<\/p>\n
D'un point de vue de haut niveau, en tant que scientifiques data ou ing\u00e9nieurs ML, nous interagirons avec Kubernetes via son API serveur en utilisant des commandes CLI ou des fichiers de configuration YAML, soit pour d\u00e9ployer et exposer des applications, soit pour obtenir les \u00e9tats de nos ressources.<\/p>\n<\/div>
Pr\u00e9-requis pratiques<\/h2><\/div>
Pour ce travail pratique, nous utiliserons GCP comme fournisseur cloud. Tout d'abord, nous devons :<\/p>\n<\/div>
1. Cr\u00e9er les \u00e9l\u00e9ments d'infrastructure<\/h3><\/div>
- <\/i><\/span>mlflow_gke :<\/strong> un seau pour stocker les fichiers, datasets...<\/div><\/li>
- <\/i><\/span>
\nmlflow-k8s<\/strong>: un cluster GKE \u00e0 trois n\u0153uds (e2-highcpu-4) pour d\u00e9ployer \u00e0 la fois le module de suivi et le mod\u00e8le d'apprentissage automatique.<\/p>\n<\/div><\/li>
- <\/i><\/span>
\ntest de charge :\u00a0<\/strong>un cluster GKE \u00e0 trois n\u0153uds (e2-standard-2) pour effectuer des tests de charge. Il sera utilis\u00e9 dans le troisi\u00e8me article de cette s\u00e9rie.<\/p>\n<\/div><\/li><\/ul>
2. Configurez le poste de travail local<\/h3><\/div>
- <\/i><\/span>\n
Installez les exigences python pour interagir avec GCP et mlflow cli<\/p>\n
pip install mlflow gcsfs google-cloud google-cloud-storage kubernetes<\/span><\/pre>\n<\/div><\/li>- <\/i><\/span>
Avoir\u00a0gcloud<\/a>\u00a0et\u00a0kubectl<\/a>\u00a0configur\u00e9 avec les identifiants pour acc\u00e9der au projet GCP et aux clusters<\/div><\/li>- <\/i><\/span>
Le CLI Helm est install\u00e9 et initialis\u00e9. S'il vous pla\u00eet\u00a0trouvez ici les instructions<\/a>\u00a0au cas o\u00f9 vous n'auriez pas encore le client.<\/div><\/li><\/ul>3. Clonez le d\u00e9p\u00f4t du projet hands-on pour obtenir le code.<\/h3><\/div>
git clone https:\/\/github.com\/artefactory-global\/mlflow-serving-example<\/a><\/p>\n<\/div>
D\u00e9ploiement de l'instance de suivi Mlflow<\/h2><\/div>
1. Configurez l'environnement du cluster<\/h3><\/div>
- <\/i><\/span>Cr\u00e9ez un compte de service pour permettre l'interaction avec les GCS.
\n<\/strong>Cela peut se faire via la console google cloud, sous la rubrique\u00a0section iam<\/a>. Nous devons cr\u00e9er un compte de service avec les droits d'administration de l'objet de stockage, g\u00e9n\u00e9rer une cl\u00e9 d'authentification et la t\u00e9l\u00e9charger sous la forme keyfile.json.<\/div><\/li>- <\/i><\/span>
Monter le fichier d'authentification en tant que secret<\/strong>
\n<\/strong>Les secrets nous permettent de traiter les informations d'identification de mani\u00e8re s\u00e9curis\u00e9e, de sorte qu'elles ne soient visibles que par les ressources concern\u00e9es.\u00a0<\/strong>Pour cela, nous allons cr\u00e9er un volume secret et exposer le fichier d'authentification uniquement aux conteneurs n\u00e9cessaires.
\nkubectl create secret generic gcsfs-creds -from-file=.\/keyfile.json<\/span><\/div><\/li><\/ul>2. Suivi du d\u00e9ploiement du serveur<\/h3><\/div>
- <\/i><\/span>Magasin Postgres<\/strong>
\n<\/strong>Postgre sert d'\u00e9l\u00e9ment de stockage dorsal pour mlflow afin de sauvegarder les mod\u00e8les metadata et les m\u00e9triques.
\nPour le d\u00e9ployer, nous utiliserons Helm : un gestionnaire de ressources pour Kubernetes o\u00f9 de nombreuses applications sont disponibles sous forme de tableaux ou de mod\u00e8les qui pourraient \u00eatre configur\u00e9s avec de simples commandes.<\/p>\n#docs : https:\/\/artifacthub.io\/packages\/helm\/bitnami\/postgresql<\/span>helm repo add bitnami https:\/\/charts.bitnami.com\/bitnami<\/span>helm install mlf-db bitnami\/postgresql --set postgresqlDatabase=mlflow_db --set postgresqlPassword=mlflow --set service.type=NodePort<\/span><\/pre>\n<\/div><\/li>- <\/i><\/span>
Instance de suivi<\/strong>
\n<\/strong>Nous utiliserons \u00e9galement les graphiques Helm pour d\u00e9ployer le serveur de suivi, mais d'abord, nous devons construire une image docker avec la version que nous voulons afin qu'elle puisse \u00eatre t\u00e9l\u00e9charg\u00e9e et d\u00e9ploy\u00e9e par Helm. Notez que pour Postgres, l'image \u00e9tait d\u00e9j\u00e0 sur un d\u00e9p\u00f4t public, cependant ici nous allons cr\u00e9er notre propre image.<\/p>\ncd mlflow-serving-example<\/span>docker build --tag $\/mlflow-tracking-server:v1 --file dockerfile_mlflow_tracking .<\/span>docker push $\/mlflow-tracking-server:v1<\/span><\/pre>\n<\/div><\/li><\/ul>Une fois l'image pouss\u00e9e dans le registre d'images, nous pouvons la d\u00e9ployer sur le cluster via helm en utilisant les commandes ci-dessous.<\/p>\n
helm repo add mlflow-tracking https:\/\/artefactory-global.github.io\/mlflow-tracking-server\/<\/a><\/span>helm install mlf-ts mlflow-tracking\/mlflow-tracking-server\n--set env.mlflowArtifactPath=$\n--set env.mlflowDBAddr=mlf-db-postgresql\n--set env.mlflowUser=postgres\n--set env.mlflowPass=mlflow\n--set env.mlflowDBName=mlflow_db\n--set env.mlflowDBPort=5432\n--set service.type=LoadBalancer\n--set image.repository=$\/mlflow-tracking-server\n--set image.tag=v1<\/span><\/pre>\nMaintenant, Mlflow devrait \u00eatre op\u00e9rationnel et l'interface utilisateur devrait \u00eatre accessible via l'IP de l'\u00e9quilibreur de charge. Nous pouvons v\u00e9rifier l'IP assign\u00e9e en utilisant\u00a0k<\/em>ubectl get services<\/em>.<\/em><\/strong>A<\/em>Nous pouvons \u00e9galement d\u00e9boguer le d\u00e9ploiement en acc\u00e9dant aux journaux.\u00a0via\u00a0<\/em>kubectl describe pods<\/strong>.<\/em>
Jusqu'\u00e0 pr\u00e9sent, notre architecture actuelle ressemble \u00e0 ce qui suit :<\/p>\n<\/div>Veuillez noter que les \u00e9quilibreurs de charge sont accessibles \u00e0 n'importe qui sur internet, il est donc essentiel de penser \u00e0 s\u00e9curiser notre instance de suivi en ajoutant une couche d'authentification. Cela peut \u00eatre fait avec l'option\u00a0proxy tenant compte de l'identit\u00e9<\/a>\u00a0sur GCP mais ne sera pas abord\u00e9 dans cet article.<\/p>\n<\/div>
3. Cr\u00e9ation d'un mod\u00e8le de base<\/h3><\/div>
Maintenant que notre infrastructure et notre instance Mlflow sont pr\u00eates, nous pouvons essayer d'ex\u00e9cuter un mod\u00e8le ML simple et l'enregistrer dans le registre des mod\u00e8les pour une utilisation ult\u00e9rieure.
\nNous utiliserons l'ensemble dataset sur la qualit\u00e9 du vin, qui est compos\u00e9 d'environ 4900 \u00e9chantillons et de 11 caract\u00e9ristiques refl\u00e9tant les caract\u00e9ristiques du vin. Les \u00e9tiquettes vont de 3 \u00e0 9 et peuvent \u00eatre consid\u00e9r\u00e9es comme des notes.
\nIl s'agit d'un exemple classique, dans lequel nous formons un mod\u00e8le de r\u00e9gression Xgboost et le stockons avec ses param\u00e8tres et m\u00e9triques. Le code complet peut \u00eatre trouv\u00e9 dans ce document\u00a0carnet de notes<\/a>.
\nVous avez peut-\u00eatre remarqu\u00e9 que l'int\u00e9gration de Mlflow est simple et qu'elle peut \u00eatre r\u00e9sum\u00e9e dans l'extrait de code ci-dessous qui invoque\u00a0mlflow.start_run(), mlflow.log_param(), mlflow.log_metric() et mlflow.xgboost.log_model()<\/strong><\/em>pour respectivement cr\u00e9er une nouvelle exp\u00e9rience, stocker les param\u00e8tres d'entra\u00eenement, les mesures d'\u00e9valuation et le mod\u00e8le entra\u00een\u00e9 lui-m\u00eame.<\/p>\n<\/div>avec mlflow.start_run() comme run :\n \n # D\u00e9marrer la session mlflow\n mlflow.log_param(\"max_depth\", max_depth)\n mlflow.log_param(\"min_child_weight\", min_child_weight)\n mlflow.log_param(\"estimators\", estimators)\n\n # Cr\u00e9er et ajuster le mod\u00e8le\n model = xgb.XGBRegressor(\n max_depth=max_depth,\n min_child_weight=min_child_weight,\n n_estimateurs=estimateurs\n random_state=42)\n model.fit(X_train, y_train)\n\n M\u00e9triques MLflow #\n predictions = model.predict(X_test)\n rmse = np.sqrt(mean_squared_error(y_test, predictions))\n mlflow.log_metric(\"rmse\", rmse)\n\n Mod\u00e8le logarithmique #\n mlflow.xgboost.log_model(model, \"xgboost-model\", registered_model_name = model_name)\nEn ex\u00e9cutant le carnet fourni, une nouvelle ligne sera ajout\u00e9e dans l'interface de l'instance de suivi qui correspond \u00e0 la nouvelle exp\u00e9rience.<\/p>\n<\/div>
Enfin, en supposant que nous soyons satisfaits des performances du mod\u00e8le, nous pouvons le charger \u00e0 partir de l'instance de suivi et l'utiliser pour l'inf\u00e9rence en Python. Ceci pourrait \u00eatre fait \u00e9galement avec le notebook partag\u00e9 pr\u00e9c\u00e9demment. Notez que dans cet exemple, nous avons charg\u00e9 le mod\u00e8le en utilisant le run ID mais gardez \u00e0 l'esprit que Mlflow offre \u00e9galement d'autres fa\u00e7ons int\u00e9ressantes d'identifier les mod\u00e8les par des tags, des versions, ou des \u00e9tapes. Pour plus de d\u00e9tails, veuillez vous r\u00e9f\u00e9rer \u00e0 la documentation du registre des mod\u00e8les.\u00a0ici<\/a>.<\/p>\n<\/div>
Conclusion<\/h2><\/div>
Tout au long de cet article, nous avons r\u00e9ussi \u00e0 d\u00e9ployer une instance de suivi Mlflow pour g\u00e9rer nos exp\u00e9riences scientifiques data et nous avons pass\u00e9 en revue un exemple rapide montrant comment enregistrer un mod\u00e8le et le sauvegarder pour une inf\u00e9rence future sur python. Dans le prochain article de cette s\u00e9rie, nous apprendrons comment servir ce mod\u00e8le en tant qu'API. Cela a une grande importance car cela facilite l'interaction avec le mod\u00e8le et son int\u00e9gration dans un produit ou une application. De plus, le fait de le faire sur Kubernetes garantit qu'il reste facilement \u00e9volutif et capable de g\u00e9rer diff\u00e9rents niveaux de charge.<\/p>\n<\/div><\/div><\/div><\/div><\/article>
- <\/i><\/span>
- <\/i><\/span>
- <\/i><\/span>
- <\/i><\/span>
- <\/i><\/span>
- <\/i><\/span>
- <\/i><\/span>
![\"Image\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/10\/article-kais.png\")
![\"Image\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/10\/kais-article2.png\")
![\"Image\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/10\/kais-article3.png\")
![\"Image\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/10\/article-kais-4.png\")
![\"Image\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/10\/article-kais5.png\")
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/03\/medium.png\" "\\"moyen\\"")
<\/span><\/div>