Um cliente com quem trabalhamos no ano passado desenvolveu um agente de IA para solicita\u00e7\u00f5es de compras. Ele analisava documentos de fornecedores, comparava pre\u00e7os, identificava riscos de conformidade e elaborava recomenda\u00e7\u00f5es. Funcionou bem. Por\u00e9m, alguns meses ap\u00f3s o in\u00edcio da opera\u00e7\u00e3o, a equipe se deparou com uma quest\u00e3o para a qual n\u00e3o tinha uma boa resposta: como podemos avaliar se os resultados s\u00e3o consistentemente bons?<\/p>\n
Eles realizavam verifica\u00e7\u00f5es pontuais manuais em alguns casos por semana. Os alertas de conformidade eram acionados em algumas solicita\u00e7\u00f5es, mas n\u00e3o em outras que pareciam semelhantes. As compara\u00e7\u00f5es de pre\u00e7os eram, em sua maioria, precisas, mas, ocasionalmente, apresentavam desvios significativos. O agente estava agregando valor, mas a equipe n\u00e3o dispunha de uma maneira sistem\u00e1tica de quantificar o quanto, nem de acompanhar se a qualidade estava melhorando ou se deteriorando.<\/p>\n
Este \u00e9 um momento comum na ado\u00e7\u00e3o da IA ag\u00eanica. O sistema funciona bem o suficiente para tarefas reais, e a organiza\u00e7\u00e3o est\u00e1 pronta para passar de \u201cisso funciona\u201d para \u201cpodemos provar que funciona\u201d. Essa transi\u00e7\u00e3o exige um tipo de avalia\u00e7\u00e3o diferente daquele a que a maioria das equipes est\u00e1 acostumada, e \u00e9 uma das capacidades mais importantes que as organiza\u00e7\u00f5es est\u00e3o desenvolvendo neste momento.<\/p>\n
O aprendizado de m\u00e1quina tradicional contava com m\u00e9tricas bem definidas: precis\u00e3o, recall e AUC. Mesmo as primeiras vers\u00f5es da IA generativa podiam se basear em avalia\u00e7\u00f5es de prefer\u00eancia feitas por humanos e em conjuntos de dados de refer\u00eancia data. Os agentes s\u00e3o suficientemente diferentes para que essas abordagens n\u00e3o sejam diretamente aplic\u00e1veis.<\/p>\n
A principal raz\u00e3o \u00e9 que os agentes atuam em v\u00e1rias etapas. Eles tomam decis\u00f5es de ramifica\u00e7\u00e3o, acionam ferramentas, recuperam-se de erros e produzem resultados que dependem do caminho que seguiram. Execute o mesmo agente com a mesma entrada duas vezes e poder\u00e1 obter sequ\u00eancias diferentes de chamadas de ferramentas, racioc\u00ednios intermedi\u00e1rios distintos e resultados finais diferentes \u2014 todos eles perfeitamente v\u00e1lidos. Um agente que resolve um problema por meio de uma sequ\u00eancia de etapas diferente da esperada n\u00e3o est\u00e1 errado. Pode at\u00e9 ser melhor.<\/p>\n
Isso significa que a avalia\u00e7\u00e3o precisa evoluir. Na Artefact, temos trabalhado em abordagens pr\u00e1ticas para isso em todos os nossos projetos de ag\u00eancia, e est\u00e1 surgindo um conjunto claro de padr\u00f5es que funciona bem em produ\u00e7\u00e3o.<\/p>\n
H\u00e1 tr\u00eas aspectos que diferenciam a avalia\u00e7\u00e3o de agentes da avalia\u00e7\u00e3o de modelos.<\/p>\n
O primeiro \u00e9 n\u00e3o determinismo<\/strong>. No aprendizado de m\u00e1quina cl\u00e1ssico, avalia-se um modelo em rela\u00e7\u00e3o a um conjunto de teste e obt\u00e9m-se um valor est\u00e1vel. Com agentes, a sa\u00edda depende de uma cadeia de chamadas a LLMs, invoca\u00e7\u00f5es de ferramentas e decis\u00f5es de ramifica\u00e7\u00e3o. Afirmar que \u201co agente deve chamar a fun\u00e7\u00e3o X antes da fun\u00e7\u00e3o Y\u201d n\u00e3o funciona quando h\u00e1 m\u00faltiplas ordena\u00e7\u00f5es v\u00e1lidas. A avalia\u00e7\u00e3o precisa levar em conta m\u00faltiplos caminhos corretos que conduzem ao mesmo resultado.<\/p>\n O segundo \u00e9 depend\u00eancia de trajet\u00f3ria<\/strong>. A resposta final de um agente \u00e9 o resultado de uma cadeia de decis\u00f5es, em que cada uma influencia a seguinte. Dois agentes podem produzir o mesmo resultado correto, mas um deles se recuperou de uma falha na ferramenta ao longo do processo, enquanto o outro simplesmente conseguiu evit\u00e1-la. Analisar apenas o resultado final faz com que essa diferen\u00e7a passe despercebida. Compreender o caminho do racioc\u00ednio oferece uma vis\u00e3o muito mais abrangente da robustez do sistema.<\/p>\n O terceiro \u00e9 corre\u00e7\u00e3o dependente do contexto<\/strong>. Em muitos casos de uso corporativo, a qualidade se situa em um espectro. Um agente de compras que negocia um desconto de 12% \u00e9 considerado bom.<\/p>\n Aquele que negocia 15% \u00e9 melhor. Aquele que negocia 10%, mas preserva um relacionamento cr\u00edtico com o fornecedor, pode ser a melhor op\u00e7\u00e3o de todas. Uma avalia\u00e7\u00e3o \u00fatil precisa refletir o contexto empresarial, e n\u00e3o apenas se o resultado est\u00e1 certo ou errado.<\/p>\n Algumas abordagens j\u00e1 est\u00e3o dando bons resultados, e o tra\u00e7o comum \u00e9 tratar os agentes mais como sistemas do que como modelos.<\/p>\n Avalia\u00e7\u00e3o no n\u00edvel da trajet\u00f3ria<\/strong> Essa \u00e9, provavelmente, a mudan\u00e7a de maior impacto. Em vez de avaliar apenas o resultado final, as equipes analisam toda a sequ\u00eancia de a\u00e7\u00f5es do agente. O agente identificou as subtarefas corretas? Utilizou as ferramentas adequadas? Conseguiu se recuperar dos erros? Recorreu a inst\u00e2ncias superiores quando deveria? Isso requer um registro estruturado de cada etapa do agente e crit\u00e9rios de avalia\u00e7\u00e3o que pontuem a trajet\u00f3ria como um todo. Isso proporciona \u00e0s equipes uma vis\u00e3o muito mais completa da qualidade do agente do que apenas analisar os resultados finais.<\/p>\n LLM como avaliador com crit\u00e9rios de avalia\u00e7\u00e3o calibrados<\/strong> tamb\u00e9m amadureceu rapidamente. O uso de um LLM separado para avaliar os resultados dos agentes est\u00e1 se tornando padr\u00e3o, e a chave para torn\u00e1-lo confi\u00e1vel \u00e9 a rubrica. Defina crit\u00e9rios expl\u00edcitos, forne\u00e7a exemplos classificados de bom e mau desempenho e calibre regularmente o sistema de avalia\u00e7\u00e3o com base em avalia\u00e7\u00f5es humanas. As equipes que definem a rubrica corretamente observam uma forte correla\u00e7\u00e3o com o julgamento humano.<\/p>\n Testes baseados em cen\u00e1rios<\/strong> Essa \u00e9 outra abordagem que traz bons resultados. As equipes mais eficazes com as quais trabalho mant\u00eam bibliotecas de 50 a 200 cen\u00e1rios que abrangem caminhos normais, casos extremos, entradas adversas e modos de falha conhecidos. Essas bibliotecas crescem a cada incidente de produ\u00e7\u00e3o e se tornam um dos ativos mais valiosos em um programa de IA aut\u00f4noma.<\/p>\n E avalia\u00e7\u00e3o cont\u00ednua na produ\u00e7\u00e3o<\/strong> \u00c9 isso que une tudo. Os testes pr\u00e9-implanta\u00e7\u00e3o proporcionam confian\u00e7a no momento do lan\u00e7amento. A avalia\u00e7\u00e3o cont\u00ednua proporciona confian\u00e7a todos os dias a partir de ent\u00e3o. A coleta de amostras das intera\u00e7\u00f5es em produ\u00e7\u00e3o, a execu\u00e7\u00e3o dessas amostras por meio de pipelines de avalia\u00e7\u00e3o e o acompanhamento das m\u00e9tricas de qualidade ao longo do tempo permitem que as equipes aprimorem os agentes de forma sistem\u00e1tica, em vez de reativa.<\/p>\n \u201cA avalia\u00e7\u00e3o n\u00e3o \u00e9 algo que se faz antes do lan\u00e7amento e depois se deixa para tr\u00e1s. \u00c9 uma pr\u00e1tica cont\u00ednua, e as equipes que a tratam dessa forma s\u00e3o as que lan\u00e7am produtos com confian\u00e7a.\u201d<\/em> \u2013 Abhishek Singh, Diretor Cient\u00edfico da Data, Artefact<\/p><\/blockquote>\n H\u00e1 um aspecto organizacional nessa quest\u00e3o que merece ser abordado.<\/p>\n No aprendizado de m\u00e1quina tradicional, o cientista de dados data respons\u00e1vel pela constru\u00e7\u00e3o do modelo geralmente era o respons\u00e1vel por sua avalia\u00e7\u00e3o. Nos sistemas baseados em agentes, o escopo \u00e9 mais amplo. O agente atua em v\u00e1rios processos de neg\u00f3cios, utiliza ferramentas mantidas por diferentes equipes e produz resultados que afetam as partes interessadas em toda a organiza\u00e7\u00e3o. Os modelos de responsabilidade pela avalia\u00e7\u00e3o de agentes ainda est\u00e3o se desenvolvendo em todo o setor, e acertar isso desde o in\u00edcio faz uma diferen\u00e7a significativa.<\/p>\n As equipes que observamos atuando bem nessa \u00e1rea definem claramente um respons\u00e1vel pela avalia\u00e7\u00e3o \u2014 n\u00e3o necessariamente uma equipe dedicada, mas uma pessoa ou fun\u00e7\u00e3o encarregada de definir padr\u00f5es de qualidade, construir a infraestrutura de avalia\u00e7\u00e3o e garantir que o desenvolvimento cumpra crit\u00e9rios mensur\u00e1veis. Tornar essa responsabilidade expl\u00edcita desde o in\u00edcio evita que todos presumam que outra pessoa est\u00e1 cuidando disso.<\/p>\n Com base no que observamos ao longo de nossos projetos, eis o que eu recomendaria \u00e0s equipes que est\u00e3o investindo em IA aut\u00f4noma.<\/p>\n Comece pelo quadro de avalia\u00e7\u00e3o, e n\u00e3o pelo agente. Antes de escrever o c\u00f3digo do agente, defina o que constitui sucesso. Quais s\u00e3o os resultados mensur\u00e1veis? Como seria uma boa trajet\u00f3ria? Quais modos de falha voc\u00ea deseja detectar antecipadamente? Esse trabalho inicial evita a situa\u00e7\u00e3o comum em que as equipes desenvolvem um agente capaz e, em seguida, passam meses tentando descobrir como valid\u00e1-lo.<\/p>\n Invista em registro estruturado desde o primeiro dia. Cada chamada de ferramenta, cada ponto de decis\u00e3o, cada intera\u00e7\u00e3o com o LLM deve ser registrada em um formato estruturado e pesquis\u00e1vel. Sem isso, voc\u00ea s\u00f3 poder\u00e1 avaliar os resultados sem compreender como o agente chegou a eles. Implementar a observabilidade posteriormente \u00e9 mais oneroso do que incorpor\u00e1-la desde o in\u00edcio.<\/p>\n Crie uma biblioteca de cen\u00e1rios e trate-a como um ativo de primeira import\u00e2ncia. Controle suas vers\u00f5es, analise-a e amplie-a a cada incidente de produ\u00e7\u00e3o.<\/p>\n Planeje uma avalia\u00e7\u00e3o cont\u00ednua desde o in\u00edcio. E designe desde cedo um respons\u00e1vel claro pela avalia\u00e7\u00e3o \u2014 as equipes que avan\u00e7am mais rapidamente da fase piloto para a produ\u00e7\u00e3o s\u00e3o aquelas em que h\u00e1 algu\u00e9m explicitamente respons\u00e1vel pela qualidade dos agentes.<\/p>\n Na Artefact, a avalia\u00e7\u00e3o est\u00e1 integrada \u00e0 nossa metodologia AI Factory como um fluxo de trabalho central. Cada projeto envolvendo um agente inclui uma fase de concep\u00e7\u00e3o de uma estrutura de avalia\u00e7\u00e3o que ocorre paralelamente ao desenvolvimento do agente. Definimos crit\u00e9rios de avalia\u00e7\u00e3o no n\u00edvel da trajet\u00f3ria, criamos bibliotecas de cen\u00e1rios adaptadas ao caso de uso e configuramos o monitoramento cont\u00ednuo antes que o agente entre em opera\u00e7\u00e3o.<\/p>\n O racioc\u00ednio por tr\u00e1s disso \u00e9 simples: um agente que pode ser avaliado \u00e9 um agente no qual se pode confiar, que pode ser aprimorado e escalonado. As organiza\u00e7\u00f5es com as quais trabalhamos e que adotam essa disciplina desde o in\u00edcio alcan\u00e7am a produ\u00e7\u00e3o de forma mais r\u00e1pida e com maior confian\u00e7a das partes interessadas.<\/p>\n A IA ag\u00eanica est\u00e1 amadurecendo rapidamente. As estruturas est\u00e3o melhores, os modelos s\u00e3o mais capazes e os casos de uso s\u00e3o reais. A avalia\u00e7\u00e3o est\u00e1 se atualizando, e as organiza\u00e7\u00f5es que investem nela agora est\u00e3o construindo uma vantagem genu\u00edna.<\/p>\n Quando bem conduzida, a avalia\u00e7\u00e3o \u00e9 o que permite que voc\u00ea implemente agentes com confian\u00e7a, aprimore-os ao longo do tempo e apresente evid\u00eancias \u00e0s partes interessadas, em vez de apenas demonstra\u00e7\u00f5es. A disciplina \u00e9 relativamente nova, mas as abordagens est\u00e3o se tornando cada vez mais bem compreendidas, e as equipes que as adotarem desde o in\u00edcio estar\u00e3o bem posicionadas \u00e0 medida que a IA agentiva se tornar parte integrante do modo de opera\u00e7\u00e3o das empresas.<\/p>","protected":false},"excerpt":{"rendered":" Um cliente com quem trabalhamos no ano passado desenvolveu um agente de IA para solicita\u00e7\u00f5es de compras. Ele analisava documentos de fornecedores, comparava pre\u00e7os, identificava riscos de conformidade e elaborava recomenda\u00e7\u00f5es. Funcionou bem. Por\u00e9m, alguns meses ap\u00f3s o in\u00edcio da opera\u00e7\u00e3o, a equipe se deparou com uma quest\u00e3o para a qual n\u00e3o tinha uma boa resposta: como podemos avaliar se os resultados s\u00e3o consistentemente bons?<\/p>","protected":false},"featured_media":1402298,"parent":0,"template":"","meta":{"_acf_changed":false,"ep_exclude_from_search":false},"blog-category":[2995],"blog-language":[2991],"class_list":["post-1402297","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-ai-technology","blog-language-en"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/blog\/1402297","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/types\/blog"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/media\/1402298"}],"wp:attachment":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/media?parent=1402297"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/blog-category?post=1402297"},{"taxonomy":"blog-language","embeddable":true,"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/blog-language?post=1402297"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Abordagens que est\u00e3o funcionando em produ\u00e7\u00e3o<\/h2>\n
Definir corretamente o modelo de propriedade<\/h2>\n
Recomenda\u00e7\u00f5es pr\u00e1ticas<\/h2>\n
Como abordamos essa quest\u00e3o na Artefact<\/h2>\n
A avalia\u00e7\u00e3o como vantagem competitiva<\/h2>\n