![\"Jaune](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2022\/10\/LOGOJR_fav.jpeg\" "\\"Logotipo")
<\/span><\/div>A fic\u00e7\u00e3o cient\u00edfica est\u00e1 repleta de hist\u00f3rias de IAs rebeldes, em que as m\u00e1quinas agem de acordo com seus pr\u00f3prios sistemas de valores nefastos. O senhor se lembra do HAL 9000 em Space Odyssey ou da Skynet em Terminator? Mas na vida real, os sistemas e algoritmos de IA foram amplamente integrados \u00e0s atividades cotidianas, como compras on-line, solicita\u00e7\u00e3o de empr\u00e9stimos ou consulta a redes sociais. Embora os casos de IA renegada permane\u00e7am, felizmente, na fantasia dos autores, os desvios e o mau funcionamento da IA se tornaram comuns e, com frequ\u00eancia, t\u00eam consequ\u00eancias muito reais.\u00a0 Todos n\u00f3s j\u00e1 vimos as imagens geradas por IAs como Dall-E 2. \u00c9 uma divers\u00e3o inocente criar uma imagem de um ursinho de pel\u00facia ouvindo m\u00fasica embaixo d'\u00e1gua. Mas o senhor sabe que a algoritmos <\/a>usado para perpetuar estere\u00f3tipos de g\u00eanero, super-representando homens em imagens de m\u00e9dicos, pilotos e CEOs, enquanto super-representa women em imagens de enfermeiras, comiss\u00e1rias de bordo e secret\u00e1rias?<\/p>\n Dado o grande n\u00famero de decis\u00f5es cotidianas delegadas \u00e0 IA, n\u00e3o podemos ignorar as quest\u00f5es \u00e9ticas levantadas por seu uso. A IA continua sendo um mercado e uma tecnologia que ainda \u00e9 pouco legislada (embora a Comiss\u00e3o Europeia esteja trabalhando ativamente em regulamenta\u00e7\u00f5es futuras). Portanto, \u00e9 responsabilidade de cada indiv\u00edduo proteger os usu\u00e1rios.<\/p>\n O desafio da IA \u00e9 criar sistemas confi\u00e1veis por projeto<\/em> que atendam \u00e0s expectativas \u00e9ticas de nossa sociedade. \u00c9 imperativo que nos preparemos, come\u00e7ando agora, para projetar e manter sistemas de IA confi\u00e1veis. Trata-se de um grande empreendimento: a \u00e9tica \u00e9 um assunto que \u00e9 constru\u00eddo ao longo de todo o ciclo de vida de um produto.<\/p>\n<\/div> A Intelig\u00eancia Artificial \u00e9 um conjunto de teorias e t\u00e9cnicas que permitem que uma m\u00e1quina tome decis\u00f5es diante de uma situa\u00e7\u00e3o predefinida. Em outras palavras, ela simula a intelig\u00eancia humana. Esses programas podem ser determin\u00edstico<\/strong>, onde regras sucessivas s\u00e3o aplicadas de acordo com um esquema de tomada de decis\u00e3o, ou probabil\u00edstico<\/strong>, O programa \u00e9 um sistema de gerenciamento de dados em que, depois de aprender com situa\u00e7\u00f5es anteriores semelhantes, o programa pode inferir como deve ser a decis\u00e3o \u2018certa\u2019. Isso tamb\u00e9m \u00e9 chamado de aprendizado de m\u00e1quina.<\/strong><\/p>\n Independentemente do tipo de programa, a IA \u00e9 a automatiza\u00e7\u00e3o da tomada de decis\u00f5es. Os riscos \u00e9ticos n\u00e3o residem no fato de que a IA pode automatizar mal, mas, ao contr\u00e1rio, que ela imita perfeitamente as decis\u00f5es humanas, com sua carga de erros e vieses. Muitas dessas disfun\u00e7\u00f5es decorrem do contexto cultural em que a IA foi desenvolvida, quando ela replica os sistemas de valores hist\u00f3ricos de uma sociedade (desigualdade de g\u00eanero ou \u00e9tnica, por exemplo) ou os de seus projetistas (educa\u00e7\u00e3o, sensibilidade pol\u00edtica, pr\u00e1ticas religiosas etc.).<\/p>\n Esses vieses s\u00e3o particularmente predominantes nos algoritmos de aprendizado de m\u00e1quina, pois eles s\u00e3o treinados em bases data herdadas, inferindo o futuro a partir do passado.<\/p>\n As quest\u00f5es essenciais relacionadas \u00e0 concep\u00e7\u00e3o e ao desenvolvimento de um ciclo de vida de IA confi\u00e1vel dizem respeito a quest\u00f5es t\u00e9cnicas e \u00e9ticas, como, por exemplo, como detectar de forma confi\u00e1vel poss\u00edveis vieses em uma IA? Como interpretar os resultados de um modelo? Podemos medir a evolu\u00e7\u00e3o do desempenho de uma IA? Que garantias de seguran\u00e7a podemos oferecer? Podemos reagir a um desvio? Essa lista n\u00e3o exaustiva reflete a diversidade dos desafios a serem enfrentados durante a produ\u00e7\u00e3o de uma IA.<\/p>\n<\/div> Como os modelos de IA evolu\u00edram de conceitos para produtos, muitas solu\u00e7\u00f5es t\u00e9cnicas foram criadas para facilitar a automa\u00e7\u00e3o e a implanta\u00e7\u00e3o de sistemas de IA. Recentemente, o n\u00famero de solu\u00e7\u00f5es t\u00e9cnicas dispon\u00edveis explodiu, criando um rico ecossistema alimentado pela inova\u00e7\u00e3o constante de start-ups e l\u00edderes do setor. Exemplos not\u00e1veis s\u00e3o o Alian\u00e7a de Infraestrutura de IA<\/a> e o Comunidade MLOps<\/a>, da qual a Artefact \u00e9 membro. Portanto, encontrar a ferramenta certa para a tarefa certa est\u00e1 se tornando mais importante e mais dif\u00edcil.<\/p>\n Ao mesmo tempo, desenvolveu-se um ecossistema igualmente vibrante de empresas de consultoria para apoiar seus clientes na realiza\u00e7\u00e3o dessas escolhas estrat\u00e9gicas.<\/p>\n Muitas dessas solu\u00e7\u00f5es t\u00e9cnicas existem em c\u00f3digo aberto e est\u00e3o dispon\u00edveis gratuitamente para todos. Esses kits de ferramentas podem detectar e medir vieses em toda a cadeia de processamento do data: da coleta \u00e0 explora\u00e7\u00e3o, incluindo transforma\u00e7\u00e3o e modelagem. Essas solu\u00e7\u00f5es devem ser implementadas em todo o ciclo de vida do produto, tanto no est\u00e1gio de projeto e desenvolvimento quanto na produ\u00e7\u00e3o, a fim de garantir a corre\u00e7\u00e3o permanente. H\u00e1 tr\u00eas \u00e1reas espec\u00edficas que podem ser abordadas com solu\u00e7\u00f5es t\u00e9cnicas.<\/p>\n<\/div> Os preconceitos n\u00e3o se originam nos cientistas do data, mas nos conjuntos de data. \u00c9 por isso que \u00e9 necess\u00e1rio explorar e pensar profundamente sobre os datasets primeiro. Os vieses podem ser tanto t\u00e9cnicos (vari\u00e1veis omitidas, database ou problemas de sele\u00e7\u00e3o) quanto sociais (econ\u00f4micos, cognitivos, emocionais).<\/p>\n Para retificar os conjuntos de treinamento, pode parecer l\u00f3gico apagar todos os tra\u00e7os do data sens\u00edvel. No entanto, isso seria t\u00e3o in\u00fatil quanto perigoso: por um lado, porque o data n\u00e3o sens\u00edvel pode ser insidiosamente correlacionado com o data sens\u00edvel e, por outro, porque esse tipo de atalho incentiva a limita\u00e7\u00e3o de verifica\u00e7\u00f5es regulares do data e dos processos.<\/p>\n Para detectar esses vieses, \u00e9 preciso estar ciente de que eles existem e saber o que procurar. \u00c9 importante entender o contexto do data para interpret\u00e1-lo corretamente. Um \u00fanico programa n\u00e3o \u00e9 capaz de identificar tend\u00eancias, da\u00ed a import\u00e2ncia de equipes diversificadas de cientistas do data.<\/p>\n \u00c9 pensando criticamente sobre as diferentes m\u00e9tricas associadas a um modelo de IA que podemos identificar e corrigir problemas. Considere um modelo que precisa detectar uma doen\u00e7a presente em 1% da popula\u00e7\u00e3o. Se o modelo sempre prev\u00ea que a pessoa \u00e9 saud\u00e1vel, ele ter\u00e1 uma taxa de precis\u00e3o de 99%. Sem contexto, essa \u00e9 uma pontua\u00e7\u00e3o excelente. No entanto, esse modelo \u00e9 in\u00fatil.<\/p>\n O uso de estat\u00edsticas b\u00e1sicas, univariadas e bivariadas do dataset pode identificar alguns vieses. Por exemplo, cada faixa et\u00e1ria est\u00e1 representada de forma suficientemente igual? Uma solu\u00e7\u00e3o pode ser transformar o data cont\u00ednuo em data categ\u00f3rico. As matrizes de correla\u00e7\u00e3o tamb\u00e9m podem validar os v\u00ednculos entre duas vari\u00e1veis relacionadas. Todo esse trabalho inicial \u00e9 crucial para garantir que os modelos sejam treinados em conjuntos de data de qualidade. Em poucas palavras: \u201cGarbage in, garbage out\u201d.<\/span><\/p>\n<\/div> Os sistemas de IA de alto desempenho, como as redes neurais artificiais, s\u00e3o muito eficientes e usados em v\u00e1rios casos de uso. No entanto, eles s\u00e3o dif\u00edceis de interpretar, raz\u00e3o pela qual s\u00e3o frequentemente chamados de \u201cmodelos de caixa preta\u201d. O grande desafio do aprendizado de m\u00e1quina \u00e9 identificar e explicar a causa do vi\u00e9s em vez de descartar suas consequ\u00eancias. H\u00e1 um equil\u00edbrio entre explicabilidade e precis\u00e3o. Alguns algoritmos, como as \u00e1rvores de decis\u00e3o, s\u00e3o muito explic\u00e1veis, mas menos \u00fateis para previs\u00f5es mais complexas.<\/p>\n O campo da IA explic\u00e1vel (Ex-AI) tenta resolver esse problema desenvolvendo m\u00e9todos e algoritmos que aumentam a explicabilidade dos sistemas. \u00c9 poss\u00edvel explorar a compreens\u00e3o global, que explica como uma IA funciona na popula\u00e7\u00e3o global, ou a compreens\u00e3o local, que explica como o algoritmo funciona em um exemplo espec\u00edfico. Esse \u00faltimo \u00e9 exigido pelo GDPR porque, para ser transparente, uma IA deve ser capaz de explicar por que o modelo tomou determinada decis\u00e3o para uma pessoa\/objeto\/data linha espec\u00edfica. \u00c9 importante observar a compreens\u00e3o global e local para entender como o modelo se comporta.<\/p>\n Para fazer isso, os cientistas do data podem analisar as vari\u00e1veis de import\u00e2ncia do modelo. Por exemplo, n\u00e3o \u00e9 normal que um modelo de recrutamento tenha o g\u00eanero como uma vari\u00e1vel importante. Eles tamb\u00e9m podem verificar m\u00e9tricas como precis\u00e3o<\/em> (n\u00famero de positivos bem previstos = verdadeiro positivo dividido por todos os positivos previstos = verdadeiro positivo + falso positivo), pontua\u00e7\u00e3o F1 (resume os valores de precis\u00e3o e recall<\/em> em uma \u00fanica m\u00e9trica), ou recall<\/em> (n\u00famero de positivos bem previstos = verdadeiro positivo dividido por todos os positivos = verdadeiro positivo + falso negativo), em rela\u00e7\u00e3o a uma vari\u00e1vel (por exemplo, precis\u00e3o para women vs. homens).<\/p>\n<\/div> As fontes de mau funcionamento dos modelos de Intelig\u00eancia Artificial podem ser acidentais, quando o data \u00e9 corrompido, ou intencionais, quando causadas por hackers, por exemplo. Ambas as fontes de vi\u00e9s levam os modelos de IA ao erro, fornecendo previs\u00f5es ou resultados incorretos. Algumas solu\u00e7\u00f5es permitem a avalia\u00e7\u00e3o, a defesa e a verifica\u00e7\u00e3o de modelos e aplicativos de aprendizado de m\u00e1quina contra amea\u00e7as conflitantes que podem ter como alvo o data (envenenamento do data), o modelo (vazamento do modelo) ou a infraestrutura subjacente, tanto de hardware quanto de software.<\/p>\n<\/div> Fonte da foto: https:\/\/arxiv.org\/pdf\/1412.6572.pdf<\/a><\/em><\/p>\n \u00a0<\/span><\/p>\n<\/div> Simplesmente sobrepondo uma imagem de \u2018ru\u00eddo\u2019 em uma imagem normal, um classificador pode ser levado a classificar erroneamente um panda como um gib\u00e3o. A diferen\u00e7a \u00e9 impercept\u00edvel para o olho humano, mas essa t\u00e9cnica est\u00e1 bem documentada como capaz de enganar os modelos de IA. A no\u00e7\u00e3o de IA confi\u00e1vel n\u00e3o pode ser reduzida \u00e0 sua concep\u00e7\u00e3o legal e t\u00e9cnica. Os aspectos humanos e organizacionais s\u00e3o fundamentais para o sucesso de uma abordagem \u00e9tica da IA. As cartas \u00e9ticas e as solu\u00e7\u00f5es de aprimoramento devem ser conhecidas por todas as partes interessadas, aplicadas durante todo o processo de cria\u00e7\u00e3o e seguidas ao longo do tempo. Isso exige uma transforma\u00e7\u00e3o da cultura da organiza\u00e7\u00e3o para integrar profundamente as quest\u00f5es e abordagens \u00e9ticas, garantir a sustentabilidade das solu\u00e7\u00f5es e contribuir para uma IA \u00e9tica por projeto<\/em>.<\/p>\n A IA em si n\u00e3o \u00e9 \u00e9tica nem anti\u00e9tica. Somente a forma como o sistema \u00e9 treinado ou como \u00e9 usado \u00e9 que \u00e9 \u00e9tica ou n\u00e3o. O verdadeiro risco \u00e9tico associado ao uso maci\u00e7o da IA n\u00e3o \u00e9, portanto, a possibilidade de os algoritmos se revoltarem. Pelo contr\u00e1rio, o risco surge justamente quando a IA se comporta exatamente como pedimos, imitando nossos preconceitos, repetindo nossos erros e refor\u00e7ando nossas incertezas e imprecis\u00f5es.<\/p>\n Esse assunto \u00e9 muito importante para n\u00f3s da A Artefact<\/a>, Por isso, dedicamos equipes a ele e desenvolvemos suporte espec\u00edfico para o desenvolvimento de governan\u00e7a, implementa\u00e7\u00e3o de solu\u00e7\u00f5es t\u00e9cnicas e consultoria de estrat\u00e9gia de IA.<\/p>\n Trabalhamos em estreita colabora\u00e7\u00e3o com o mundo acad\u00eamico, como um parceiro da Bom em tecnologia<\/a> cofundada pelo Institut Mines-T\u00e9l\u00e9com e pela Sciences Po, para reduzir a lacuna entre a pesquisa e a pr\u00e1tica. O Artefact tamb\u00e9m recebeu o selo Responsible and Trusted AI, concedido pela associa\u00e7\u00e3o independente Laborat\u00f3rios Labelia<\/a>, que garante um alto n\u00edvel de maturidade na quest\u00e3o da IA respons\u00e1vel e confi\u00e1vel.<\/p>\n A quest\u00e3o da \u00e9tica diz respeito a todos n\u00f3s, e \u00e9 essencial ser proativo em rela\u00e7\u00e3o ao assunto; a ado\u00e7\u00e3o de um comportamento \u00e9tico n\u00e3o deve ser apenas uma rea\u00e7\u00e3o. A intelig\u00eancia artificial est\u00e1 passando por um per\u00edodo evolutivo, em que seus processos e ethos est\u00e3o em processo de defini\u00e7\u00e3o. Em um campo que ainda n\u00e3o \u00e9 regulamentado, cabe \u00e0queles que est\u00e3o desempenhando um papel ativo assumir a lideran\u00e7a. Como desenvolvedores, consultores e gerentes, \u00e9 nossa responsabilidade atender \u00e0s expectativas de todos os envolvidos - n\u00e3o apenas dos clientes e usu\u00e1rios de servi\u00e7os, mas da sociedade em geral - e usar o poder da IA para criar um mundo melhor.<\/p>\n<\/div><\/div><\/div><\/div><\/article><\/p>","protected":false},"excerpt":{"rendered":" Para criar uma IA \u00e9tica, os desenvolvedores devem criar solu\u00e7\u00f5es de IA confi\u00e1veis data-driven por meio de um design t\u00e9cnico, legal e human\u00edstico.<\/p>","protected":false},"author":[],"featured_media":68983,"template":"","meta":{"_acf_changed":false,"ep_exclude_from_search":false},"news-category":[2819],"news-language":[311],"class_list":["post-68976","news","type-news","status-publish","has-post-thumbnail","hentry","news-category-news-france","news-language-en"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/news\/68976","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/news"}],"about":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/types\/news"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/media\/68983"}],"wp:attachment":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/media?parent=68976"}],"wp:term":[{"taxonomy":"author","embeddable":true,"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/author?post=68976"},{"taxonomy":"news-category","embeddable":true,"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/news-category?post=68976"},{"taxonomy":"news-language","embeddable":true,"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/news-language?post=68976"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
\n<\/span><\/p>\n<\/div>Combate aos estere\u00f3tipos com \u00e9tica<\/h2><\/div>
Intelig\u00eancia artificial que reproduz erros humanos<\/h2><\/div>
Usando a IA para corrigir os vieses da IA<\/h2><\/div>
\n
Corre\u00e7\u00e3o de preconceitos do passado na IA<\/h2><\/div>
Explica\u00e7\u00e3o dos resultados de um modelo<\/h2><\/div>
\n
Aprimoramento da robustez de um modelo<\/h2><\/div>
![\"both](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2023\/02\/both-hardware-and-software.png\" "\\"hardware")
<\/span><\/div>
\n<\/span><\/p>\n<\/div>Desenvolvimento de sistemas menos humanos, mas mais human\u00edsticos<\/h2><\/div>
\n
Ser proativo na IA \u00e9tica<\/h2><\/div>