O AI ACT: A importância da conformidade regulatória - e o que está em jogo para empresas de todos os tipos e tamanhos

Assista ao vídeo do Data Leader 

Ouça o podcast 

Nathalie Beslay é CEO e cofundadora da Naaia, Nathalie, uma fornecedora de soluções de conformidade e gerenciamento de riscos para o setor de artificial intelligence. Advogada desde 2004, a prática de Nathalie é dedicada ao setor de saúde e beleza. Ela é eminentemente qualificada para discutir questões regulatórias, tendo liderado um projeto para o Instituto de Estudos Tecnológicos Prospectivos de Sevilha sobre os desafios e riscos da introdução de novas tecnologias no setor de saúde. Ela também foi consultora técnica da Secretaria de Estado da Saúde da França em questões bioéticas e consultora jurídica geral de uma operadora de soluções de saúde eletrônica.

Seja no setor de saúde ou de IA, as pessoas lutam contra as restrições regulatórias. O segredo é converter as restrições em oportunidades. Compreender a estrutura regulatória para produtos de saúde me ajudou a entender os riscos e as apostas da nova estrutura regulatória de IA, porque ela é construída exatamente da mesma forma que as estruturas para produtos de saúde: os objetivos subjacentes são basicamente a segurança dos usuários e beneficiários do produto.

A Lei de IA foi concebida como um regulamentação horizontal de produtos. Isso significa que ela se aplica a qualquer tipo de empresa, independentemente de seu tamanho, pública ou privada. Há exceções para determinados setores, como o militar, mas é uma regulamentação de produtos, semelhante em conceito e tipo de obrigação a outras regulamentações de produtos. 

Por trás de suas 400 páginas de complexidade, a Lei de IA é essencialmente um sistema de gerenciamento de riscos, um sistema de garantia de qualidade, documentação, documentação técnica e instruções de uso. Muito tem sido dito sobre o limite regulatório - quando uma regulamentação é tão restritiva que impõe um ônus em vez de levar a objetivos favoráveis. Mas estudos demonstraram que se as empresas forem muito digitais, a regulamentação as ajudará a desenvolver.

Para que isso aconteça, as empresas devem abraçar a Lei de IA, assumi-la e integrar suas obrigações em seus processos desde a concepção. A melhor maneira é dizer, “Vou fazer uma conformidade baseada em valor, vou analisar o que a conformidade pode trazer para o meu produto e, portanto, para os meus clientes.”

Como a Lei de IA é uma regulamentação de produto, ela imporá diferentes obrigações à cadeia de suprimentos artificial intelligence, dependendo se o senhor é um fornecedor, distribuidor ou implantador. Diferentes estágios serão justapostos, dependendo se o senhor fabrica ou compra de prateleira, ou se usa um modelo e depois o transforma em um sistema de IA. Os fornecedores precisarão demonstrar conformidade e fornecer documentação técnica, os jogadores que personalizarem terão que demonstrar respeito pelo que os fornecedores lhes deram, mas também que qualquer camada adicionada é compatível, imparcial, respeita os direitos autorais, é qualitativo e usa data.

O texto original da Lei de IA evoluiu, em parte devido às vozes daqueles que eram vocalmente contrários à regulamentação. Hoje, o período de P&D é uma pausa para os controles, e os modelos de código aberto são isentos, exceto quando apresentam o chamado risco sistêmico, ou seja, quando o nível de risco é muito alto para se beneficiar da isenção. Gostaria de dizer aos céticos que a IA europeia significa levar em conta essas questões e integrar essas regras em seus processos de marketing. Acima de tudo, quero dizer a eles que Quando o senhor tem a capacidade, o poder, a inteligência e a visão que nossos participantes franceses e europeus têm, criar e integrar a conformidade não é nada complicado.

É importante lembrar que a legislação americana e chinesa sobre IA também está em desenvolvimento e que o Todos têm o mesmo objetivo: preservar e reorientar o elemento humano no uso dessas novas tecnologias - ou, pelo menos, tentar fazer isso da melhor forma possível.

A melhor resposta é revisar a linha do tempo. A Lei de IA será oficialmente votada em 22 de abril no Parlamento Europeu. Em maio, a lei será publicada no Diário Oficial, e então o cronograma terá início. Dentro de seis meses, a IA proibida deverá ser removida das plataformas ou colocada em conformidade. Em um ano, os editores de modelos artificial intelligence de uso geral terão que cumprir os regulamentos. Em dois anos, todos os outros sistemas de IA terão que cumprir todas as obrigações, com prazos um pouco mais longos para as IAs cuja conformidade será mais complexa. Em outras palavras, toda vez que uma IA envolver um produto ou equipamento que esteja sujeito a regulamentação - dispositivos médicos, transporte de gás, determinadas máquinas-ferramentas, por exemplo - o legislador concederá 36 meses para a conformidade, pois essas regulamentações precisam ser acumuladas e ordenadas.

Então, A primeira prioridade é mapear, identificar e rastrear as IAs proibidas, para retirá-las ou colocá-las em conformidade. O objetivo é alcançar a conformidade por meio do valor, perguntando a nós mesmos para que serve a conformidade, fabricando produtos de qualidade que sejam seguros, compreensíveis e explicáveis, que sirvam a um propósito e que tentem consumir o mínimo de energia possível.

A Lei de IA adota uma abordagem baseada em riscos. Certos sistemas de IA foram considerados como apresentando um risco “inaceitável”, portanto, o legislador os listou como proibidos. Há oito deles, um dos quais é o sistema artificial intelligence, que poderia permitir a manipulação subliminar. A lista também inclui sistemas generalizados de classificação social, ou seja, qualificação e categorização de indivíduos de acordo com o nível econômico ou a posição social, mas em grande escala. Os sistemas de reconhecimento emocional baseados em biometria também são proibidos no local de trabalho e em ambientes educacionais, exceto por motivos de segurança. Por exemplo, em instalações de produção, talvez seja necessário tentar medir os estados emocionais das pessoas para manter a segurança delas em uma linha de produção ou para garantir a segurança contra possíveis intrusos. Outro AIS proibido são os sistemas de reconhecimento facial usados para combater o crime. Esse tipo de vigilância por vídeo é reservado a determinadas autoridades e para determinados delitos. Quando é permitido para organizações privadas, é para determinados delitos considerados muito graves, como terrorismo, crime, assalto e estupro, e é tão específico quanto isso na Lei de IA.

Nesse caso, sim, as pessoas teriam que parar de usá-lo, e a OpenAI estaria sujeita a uma penalidade substancial. Mas eu não acredito nesse cenário. Acho que os jogadores cumprirão os regulamentos. Não será fácil, será caro e exigirá muito planejamento. Conformidade significa definir um orçamento para atender aos requisitos, ficar em dia, mobilizar especialistas, treinar equipes e incluir a conformidade no roteiro da empresa. Não é fácil, mas é viável e, considerando os riscos envolvidos, tem que ser feito.

Quando aplicamos as regras, observamos a extensão em que a regra pode servir ao produto. Por exemplo, quando o senhor tem uma obrigação de rastreabilidade, de explicabilidade em toda a cadeia e usa subcontratados, recorrer a esses subcontratados para obter qualidade pode significar melhorar o custo ou instalar padrões, e isso obviamente beneficia o produto. Então, como transformamos essa restrição em uma oportunidade? Analisamos até que ponto a regra terá a resposta necessária de qualidade e segurança.

Alguns setores entenderam isso, como o de alimentos. O Nutri-Score é uma regra que ajuda os produtos que jogam o jogo. Ele aumenta a confiança do consumidor. É claro que o Nutri-Score tem sido uma restrição na cadeia de valor, mas quem pode reclamar dele hoje? Todos concordam com esse tipo de regra. A aeronáutica é outro setor que sabe que a conformidade e as regras são boas para seus produtos. Em setores para os quais a segurança é fundamental, eles transformaram as restrições em um ativo de confiança, uma oportunidade de criar lealdade, compreensão e um vínculo com seus clientes. O mesmo acontece com o artificial intelligence: é bom ter essas regulamentações... e talvez até uma oportunidade de questionar se realmente precisamos de uma determinada IA, se o esforço for muito grande em relação ao benefício.

O General MacArthur disse a famosa frase: “As batalhas perdidas podem ser resumidas em duas palavras: tarde demais”. Pode ser tarde demais porque o legislador europeu estabeleceu um sistema coercitivo com autoridades e sanções. Além do medo de repercussões legais, pode ser tarde demais na cadeia de acesso ao mercado. Em termos de IA, há poucos participantes hoje que não falam em “confiança”, “IA responsável” ou “IA alinhada”, como se isso fosse intrínseco. O senhor não pode criar IA sem confiança, portanto, ela certamente fará a diferença no mercado. Se o senhor não tiver um processo de conformidade incorporado desde o início, certamente perderá toda a cadeia de valor. 

A Naaia ajuda as empresas a se concentrarem em seu negócio principal, na inovação e em suas equipes. Nossa ferramenta fornece as chaves para alcançar a conformidade da forma mais rápida e eficaz possível. Ela inclui um algoritmo de qualificação que cria um repositório dentro da empresa para identificar e qualificar todos os sistemas artificial intelligence e, em seguida, gera um plano de ação. Esse plano de ação será elaborado dentro do perímetro de cada AIS, mas também reunirá esforços em todas as regulamentações para ajudar as empresas a alcançar a conformidade de forma rápida e eficaz, fornecendo a elas listas de ações concretas com modelos de documentação e ferramentas de treinamento para que as equipes possam começar a trabalhar. Fazemos isso limitando as restrições e os custos, limitando o uso de qualquer especialista que não esteja suficientemente próximo das equipes e dos produtos, e tentando internalizar essa função para que ela seja digerida e metabolizada. A palavra certa para conformidade é “metabolizar”, para que, quando colocarmos o produto no mercado, estejamos o mais despreocupados e desimpedidos possível.

Hoje, são principalmente os primeiros a adotar e os que adotam maciçamente a IA, os grupos C40 que têm um grande canal e muita IA já implantada. E participantes mais especializados, cujo negócio principal é a IA, que são absolutamente obrigados a adotar práticas de conformidade imediatamente, porque é uma questão de vida ou morte: eles não poderão entrar no mercado se não estiverem em conformidade. Posteriormente, incluiremos gradualmente as empresas menores. Elas têm menos recursos para lidar com questões de conformidade, mas terão menos opções no futuro. Assim como existe um CRM para gerenciar as relações com os clientes, um ERP para gerenciar a produção e um HRIS para gerenciar o RH, acreditamos que precisamos de uma ferramenta para gerenciar a IA de forma centralizada, e para ajudar todos a fazer uso adequado da IA e gerenciar responsabilidades. Nesse sentido, o Naaia é um AIMS, um Sistema de Gerenciamento de Inteligência Artificial que se tornará uma commodity - essa é a nossa visão para o futuro.