{"id":67163,"date":"2022-05-24T13:58:03","date_gmt":"2022-05-24T12:58:03","guid":{"rendered":"https:\/\/www.artefact.com\/?post_type=blog&p=67163"},"modified":"2024-09-20T17:45:49","modified_gmt":"2024-09-20T16:45:49","slug":"a-manifesto-to-include-ml-engineer-in-your-data-science-projects-from-day-1","status":"publish","type":"blog","link":"https:\/\/www.artefact.com\/br\/blog\/a-manifesto-to-include-ml-engineer-in-your-data-science-projects-from-day-1\/","title":{"rendered":"Um manifesto para incluir engenheiros de ML em seus projetos cient\u00edficos data desde o primeiro dia"},"content":{"rendered":"

Autor<\/h2><\/div>\"Image\"

Jeff Kayne<\/h3><\/div>

Cientista s\u00eanior do Data no Artefact<\/p>\n<\/div><\/div><\/div><\/div><\/div>

<\/span><\/a><\/span>

Leia nosso artigo sobre<\/u><\/p>\n<\/div>

<\/span><\/div>

.<\/p>\n<\/div><\/div><\/div><\/div><\/div>

Neste artigo de opini\u00e3o, Jeffery explica que os cientistas de data devem se concentrar na precis\u00e3o de seus modelos, enquanto os engenheiros de ML devem priorizar a garantia de que os modelos possam ser usados por toda a empresa. <\/p>\n<\/div><\/div><\/div><\/div><\/div>

Muitos de n\u00f3s, desenvolvedores, conhecemos a sensa\u00e7\u00e3o de lutar para equilibrar o tempo gasto com os usu\u00e1rios tentando entender suas necessidades e o tempo gasto com o desenvolvimento de software. Isso \u00e9 ainda mais evidente na ci\u00eancia data, pois, para criar um sistema eficaz, \u00e9 necess\u00e1rio muito conhecimento do dom\u00ednio desse sistema. Nos \u00faltimos dois anos, trabalhando como engenheiro de ML com diferentes Ci\u00eancia data<\/a> equipes, muitas vezes me pergunto como posso separar as responsabilidades de otimizar a precis\u00e3o do modelo e criar todo o software necess\u00e1rio para tornar esse modelo funcional. Minha humilde opini\u00e3o \u00e9 que os cientistas de data devem priorizar a precis\u00e3o de seus modelos, enquanto os engenheiros de ML devem priorizar a garantia de que esses modelos possam ser usados pela empresa como um todo.<\/p>\n<\/div>

Como regra geral em projetos cient\u00edficos data, quanto mais itera\u00e7\u00f5es o senhor concluir, melhor. Ent\u00e3o, vamos ver por que incluir um engenheiro de ML desde o primeiro dia ajudar\u00e1 o senhor a iterar e, portanto, aumentar\u00e1 suas chances de criar um sistema bem-sucedido. Para abranger todos os aspectos, dividiremos cada motivo em tr\u00eas t\u00f3picos principais dos projetos cient\u00edficos do data:\u00a0data, modelos\u00a0<\/strong>e\u00a0infraestrutura<\/strong>.<\/p>\n

Antes de entrar no assunto, deixe-me definir o que quero dizer com\u00a0itera\u00e7\u00e3o<\/strong>. Neste artigo, estou me referindo a itera\u00e7\u00f5es de ponta a ponta do produto completo, muitas vezes incluindo etapas de: Ingest\u00e3o de data, pr\u00e9-processamento, treinamento e avalia\u00e7\u00e3o de modelos, infraestrutura de provisionamento, etc. O que eu\u00a0n\u00e3o significa\u00a0<\/em>\u00e9 uma itera\u00e7\u00e3o r\u00e1pida do modelo em um notebook com o ajuste de um hiperpar\u00e2metro. Se estiver acostumado a trabalhar em uma estrutura \u00e1gil, o senhor tamb\u00e9m pode pensar nessas itera\u00e7\u00f5es como sprints de projeto.<\/p>\n<\/div>

Motivo 1: Acelerar a entrega do POC inicial<\/h2><\/div>
\"Reason<\/span><\/div>

Construir um esqueleto sobre o qual o senhor possa iterar \u00e9 a primeira prioridade e pode ser um processo demorado. Esse esqueleto geralmente \u00e9 um POC que cont\u00e9m seu modelo de linha de base inicial e uma demonstra\u00e7\u00e3o de um aplicativo ou forma de explorar o resultado do modelo.<\/p>\n<\/div>

Um engenheiro de ML ajudar\u00e1 com:<\/h3><\/div>

Infraestrutura:\u00a0<\/strong>A sele\u00e7\u00e3o de recursos compat\u00edveis do cloud (VMs, conex\u00f5es com v\u00e1rias fontes do data) e o projeto da arquitetura do cloud s\u00e3o algumas das considera\u00e7\u00f5es iniciais do engenheiro de ML.<\/p>\n

Data:\u00a0<\/strong>obter o data necess\u00e1rio para iniciar a constru\u00e7\u00e3o de um modelo e garantir a disponibilidade de data de v\u00e1rias fontes com a op\u00e7\u00e3o de desenvolver novos fluxos, se necess\u00e1rio.<\/p>\n

Modelos:<\/strong>\u00a0garantir que os modelos que est\u00e3o sendo testados sejam de fato compat\u00edveis com a arquitetura cloud proposta para a implanta\u00e7\u00e3o de modelos e requisitos t\u00e9cnicos (por exemplo, lat\u00eancia, computa\u00e7\u00e3o necess\u00e1ria, requisitos do ambiente de produ\u00e7\u00e3o).<\/p>\n

O engenheiro de ML tamb\u00e9m pode ajudar nessa fase, definindo as pr\u00e1ticas recomendadas de engenharia de software com controle de vers\u00e3o, linting, arquitetura de c\u00f3digo, testes etc.<\/p>\n<\/div>

Raz\u00e3o 2: Acelerar cada itera\u00e7\u00e3o<\/h2><\/div>
\"Reason<\/span><\/div>

Depois que o senhor consegue essa constru\u00e7\u00e3o inicial, as primeiras itera\u00e7\u00f5es costumam ser dif\u00edceis e lentas. Acelerar as itera\u00e7\u00f5es permitir\u00e1 itera\u00e7\u00f5es menores com uma \u00fanica altera\u00e7\u00e3o de recurso - uma maneira muito mais eficaz de desenvolver do que alterar muitas coisas em um modelo antes de obter feedback.<\/p>\n

Infraestrutura:<\/strong>\u00a0O tempo pode ser economizado otimizando a infraestrutura de armazenamento e computa\u00e7\u00e3o. Durante essas itera\u00e7\u00f5es, um engenheiro de ML pode procurar versionar a pr\u00f3pria infraestrutura, com ferramentas de Infraestrutura como C\u00f3digo (IaC), como\u00a0Terraform<\/a>. O uso do IaC permite a automa\u00e7\u00e3o da implementa\u00e7\u00e3o da infraestrutura diretamente com pipelines de CI\/CD, acelerando a integra\u00e7\u00e3o de quaisquer altera\u00e7\u00f5es que precisem ser feitas na infraestrutura existente e a cria\u00e7\u00e3o de diferentes ambientes cloud (desenvolvimento, prepara\u00e7\u00e3o, produ\u00e7\u00e3o). Al\u00e9m disso, o uso de componentes espec\u00edficos do cloud pode acelerar seu fluxo de trabalho, por exemplo, a cria\u00e7\u00e3o de imagens remotamente usando o GCP's\u00a0Constru\u00e7\u00e3o na nuvem<\/a>.<\/p>\n<\/div>

Data:\u00a0<\/strong>Os pipelines de pr\u00e9-processamento podem ser criados rapidamente pelas equipes cient\u00edficas do data para que a modelagem seja feita rapidamente. Um engenheiro de ML pode ajudar nessa fase a simplificar suas consultas de processamento, sejam elas em sql, pandas, pyspark etc. Fazer isso logo no in\u00edcio pode economizar muito tempo em itera\u00e7\u00f5es a longo prazo, pois esse c\u00f3digo \u00e9 executado\u00a0muito<\/em>.<\/p>\n

Modelos:\u00a0<\/strong>arquiteturas complexas de modelos podem tornar o processo de treinamento demorado. Al\u00e9m disso, quando um cientista do data se refere a um \u201cmodelo\u201d, ele pode, na verdade, estar se referindo a um grupo de 100 modelos treinados em diferentes fatias do data, cada um com um explicador SHAP para derivar a import\u00e2ncia do recurso. Um engenheiro de ML pode se concentrar em como paralelizar o pipeline de treinamento, seja em uma VM com multiprocessamento em python ou distribuindo sua carga de trabalho em v\u00e1rios n\u00f3s no cloud. Isso pode ser repetido, mas \u00e9 poss\u00edvel obter grandes ganhos aqui com um esfor\u00e7o surpreendentemente pequeno. Automatizar a implementa\u00e7\u00e3o do seu modelo com um\u00a0CI\/CD\/CT<\/a>\u00a0O pipeline tamb\u00e9m acelera muito as itera\u00e7\u00f5es e garante a repetibilidade.<\/p>\n<\/div>

Raz\u00e3o 3: Reduzir o custo de cada itera\u00e7\u00e3o<\/h2><\/div>
\"Reason<\/span><\/div>

Ter um engenheiro para monitorar o or\u00e7amento do seu projeto cloud \u00e9 fundamental, especialmente para aplicativos data intensivos.<\/p>\n

Infraestrutura:\u00a0<\/strong>O custo \u00e9 uma vari\u00e1vel importante na equa\u00e7\u00e3o de sele\u00e7\u00e3o da infraestrutura. Depois que a infraestrutura \u00e9 escolhida, alertas or\u00e7ament\u00e1rios podem ser implementados para garantir que os componentes caros sejam monitorados de perto.<\/p>\n

Data:\u00a0<\/strong>As consultas inteligentes e o armazenamento do data tamb\u00e9m podem reduzir significativamente os custos de cada itera\u00e7\u00e3o. Por exemplo, a agrega\u00e7\u00e3o do data deve ser feita com parcim\u00f4nia durante as itera\u00e7\u00f5es do modelo.<\/p>\n

Modelos:\u00a0<\/strong>A paraleliza\u00e7\u00e3o do pipeline de treinamento tamb\u00e9m pode economizar o tempo de atividade de m\u00e1quinas caras ou o tempo de execu\u00e7\u00e3o de componentes sem servidor.<\/p>\n<\/div>

Raz\u00e3o 4: Garantir a repetibilidade e a interpretabilidade de cada itera\u00e7\u00e3o<\/h1><\/div>
\"Reason<\/span><\/div>

Conseguir itera\u00e7\u00f5es r\u00e1pidas com um loop de feedback de qualidade em seu projeto \u00e9 \u00f3timo, mas se o senhor n\u00e3o puder replay cada um desses cen\u00e1rios, n\u00e3o ter\u00e1 muita utilidade. Ter um pipeline repet\u00edvel significa implicitamente que o senhor deve ter alguma forma de monitorar as execu\u00e7\u00f5es do pipeline para identificar as execu\u00e7\u00f5es com base em par\u00e2metros espec\u00edficos ou m\u00e9tricas de desempenho para as quais reverter, se necess\u00e1rio. Configurar isso de forma robusta durante o desenvolvimento ajuda os cientistas data a fazer experimentos livremente (sem a necessidade do infame Untitled12.ipynb) e prepara o pipeline para o monitoramento da produ\u00e7\u00e3o.<\/p>\n<\/div>

Infraestrutura:\u00a0<\/strong>Vincular a vers\u00e3o do c\u00f3digo de treinamento \u00e0 vers\u00e3o do c\u00f3digo de infraestrutura \u00e9 a \u201cmilha extra\u201d aqui, mas \u00e9 necess\u00e1rio para fornecer recursos completos de revers\u00e3o para uma execu\u00e7\u00e3o anterior. Garantir a repetibilidade e o monitoramento com base em uma execu\u00e7\u00e3o de pipeline \u00e9, para mim, o primeiro n\u00edvel essencial de ML Ops que as equipes devem buscar. As plataformas de nuvem t\u00eam servi\u00e7os (GCP's\u00a0Vertex AI<\/a>\u00a0por exemplo), que pode ser r\u00e1pido de configurar, mas o senhor tamb\u00e9m pode considerar adotar a abordagem \u201cmelhor da categoria\u201d usando ferramentas de c\u00f3digo aberto. A troca aqui \u00e9 equilibrar a maior funcionalidade de ferramentas espec\u00edficas de c\u00f3digo aberto com o aumento da complexidade da infraestrutura geral do sistema.<\/p>\n

Data:\u00a0<\/strong>salvar todos os objetos data em cada est\u00e1gio do pipeline. Dependendo dos volumes, a prioridade \u00e9 salvar os conjuntos de treinamento\/teste de cada execu\u00e7\u00e3o.<\/p>\n

Modelos:\u00a0<\/strong>como acima, salvando todos os modelos para cada execu\u00e7\u00e3o com todos os par\u00e2metros e m\u00e9tricas necess\u00e1rios. Outra dica \u00e9 registrar um coment\u00e1rio em cada execu\u00e7\u00e3o com o que foi alterado para essa execu\u00e7\u00e3o espec\u00edfica para registrar todos os experimentos durante o desenvolvimento, como faria com um\u00a0git commit<\/em>\u00a0mensagem.<\/p>\n<\/div>

Raz\u00e3o 5: Evitar a todo custo as agitadas itera\u00e7\u00f5es de \u201cindustrializa\u00e7\u00e3o\u201d<\/h1><\/div>
\"Reason<\/span><\/div>

Quando a ci\u00eancia do data surgiu, ela era muito explorat\u00f3ria e exigia um grande esfor\u00e7o de um grupo de engenheiros de software para implantar qualquer modelo, uma vez que ele tivesse demonstrado bom desempenho no data hist\u00f3rico. Essa fase de \u201cindustrializa\u00e7\u00e3o\u201d \u00e9 uma experi\u00eancia muito dolorosa, pois o ambiente de desenvolvimento (arquivos simples e notebook python) \u00e9 muito diferente do ambiente de produ\u00e7\u00e3o (fluxos automatizados de data com data de produ\u00e7\u00e3o e ambiente de codifica\u00e7\u00e3o de produ\u00e7\u00e3o). Os projetos mais bem-sucedidos em que trabalhei foram aqueles em que conseguimos copiar o ambiente de produ\u00e7\u00e3o o mais pr\u00f3ximo poss\u00edvel no desenvolvimento desde o in\u00edcio. Isso reduzir\u00e1 o tempo at\u00e9 a produ\u00e7\u00e3o e permitir\u00e1 que o senhor fa\u00e7a itera\u00e7\u00f5es com seguran\u00e7a no desenvolvimento, implementando na produ\u00e7\u00e3o quando estiver satisfeito com uma itera\u00e7\u00e3o.<\/p>\n

Infraestrutura:\u00a0<\/strong>Emular a infraestrutura de produ\u00e7\u00e3o necess\u00e1ria no desenvolvimento nem sempre \u00e9 f\u00e1cil e pode ser caro. \u00c9 nesse ponto que a infraestrutura como c\u00f3digo \u00e9 \u00fatil e pode permitir que o senhor alterne facilmente entre ambientes.<\/p>\n<\/div>

Data: <\/strong>Algo que separa o desenvolvimento cient\u00edfico do data da engenharia de software tradicional ou mesmo da engenharia de data \u00e9 que os cientistas do data exigem o data de produ\u00e7\u00e3o no desenvolvimento. O data de sandbox (excluindo alguns data ou incluindo alguns data de teste sint\u00e9tico) para a engenharia regular do data \u00e9 uma boa pr\u00e1tica durante o desenvolvimento, mas pode ser uma grande perda de tempo para a ci\u00eancia do data e pode ter grandes impactos em todo o pipeline cient\u00edfico do data. Portanto, ter acesso somente de leitura \u00e0s tabelas de produ\u00e7\u00e3o \u00e9 algo que deve ser negociado com a sua equipe de data desde o primeiro dia.<\/p>\n

Modelos:\u00a0<\/strong>Desde o in\u00edcio do projeto, apenas um modelo (ou abordagem de modelagem) deve estar presente em seu c\u00f3digo de produ\u00e7\u00e3o. Todos os experimentos devem ficar em notebooks ou em scripts tempor\u00e1rios separados em outra pasta. Isso evita que o senhor acumule c\u00f3digo morto em sua base de c\u00f3digo de produ\u00e7\u00e3o e facilita a manuten\u00e7\u00e3o ou a integra\u00e7\u00e3o de outros desenvolvedores.<\/p>\n<\/div>

Conclus\u00e3o<\/h2><\/div>

Em resumo, a cria\u00e7\u00e3o de modelos e a cria\u00e7\u00e3o do software que envolve esses modelos devem ser duas prioridades desde o in\u00edcio de cada projeto. Portanto, ter fluxos separados com responsabilidades diferentes pode ajudar as equipes a se concentrarem em ambos em paralelo. A fun\u00e7\u00e3o do engenheiro de ML est\u00e1 evoluindo a cada dia, e eu gostaria de ouvir a opini\u00e3o dos senhores sobre qualquer coisa que eu tenha deixado passar!<\/p>\n<\/div><\/div><\/div><\/div><\/article>

<\/span><\/div>

M\u00e9dia Blog por Artefact.<\/h3><\/div>

Este artigo foi publicado inicialmente no Medium.com<\/strong>.
\nSiga-nos em nosso Medium Blog !<\/p>\n<\/div>

Leia nosso artigo<\/span><\/a><\/div><\/div><\/div><\/div><\/div><\/p>","protected":false},"excerpt":{"rendered":"

Jeffrey Kane, cientista s\u00eanior do Data, explica por que o engenheiro de ML deve estar em seus projetos cient\u00edficos do data desde o primeiro dia.<\/p>","protected":false},"featured_media":68674,"parent":0,"template":"","meta":{"_acf_changed":false,"ep_exclude_from_search":false},"blog-category":[21939],"blog-language":[2991],"class_list":["post-67163","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-medium","blog-language-en"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/blog\/67163","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/types\/blog"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/media\/68674"}],"wp:attachment":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/media?parent=67163"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/blog-category?post=67163"},{"taxonomy":"blog-language","embeddable":true,"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/blog-language?post=67163"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}