A AI : A importância da conformidade regulatória – e o que está em jogo para empresas de todos os tipos e tamanhos

Assista ao vídeo do Data 

Ouça o podcast 

Nathalie Beslay é a CEO e cofundadora da Naaia, uma empresa que oferece soluções de conformidade e gestão de riscos para o artificial intelligence . Advogada desde 2004, a prática de Nathalie é dedicada ao setor de saúde e beleza. Ela é altamente qualificada para discutir questões regulatórias, tendo liderado um projeto para o Instituto de Estudos Tecnológicos Prospectivos de Sevilha sobre os desafios e riscos da introdução de novas tecnologias no setor da saúde. Ela também atuou como consultora técnica do Secretário de Estado da Saúde da França em questões de bioética e como diretora jurídica de uma operadora de soluções de saúde digital.

Seja na área da saúde ou AI, as pessoas enfrentam dificuldades com as restrições regulatórias. O segredo está em transformar essas restrições em oportunidades. Compreender o quadro regulatório dos produtos de saúde me ajudou a entender o que está em jogo e os riscos do novo quadro AI , pois ele é estruturado exatamente da mesma forma que o quadro regulatório dos produtos de saúde: os objetivos fundamentais são, basicamente, a segurança dos usuários e dos beneficiários dos produtos.

AI foi concebida como uma regulamentação horizontal de produtos. Isso significa que ela se aplica a qualquer tipo de empresa, independentemente do seu tamanho, seja privada ou pública. Existem exceções para determinados setores, como o militar, mas trata-se de uma regulamentação de produtos, semelhante em conceito e tipo de obrigação a outras regulamentações de produtos. 

Por trás de suas 400 páginas de complexidade, a AI é, essencialmente, um sistema de gestão de riscos, um sistema de garantia de qualidade, documentação, documentação técnica e instruções de uso. Muito se tem falado sobre o limiar regulatório — quando uma regulamentação é tão restritiva que impõe um fardo em vez de conduzir a objetivos favoráveis. Mas estudos demonstraram que se as empresas forem altamente digitais, a regulamentação as ajudará a se desenvolver.

Para que isso aconteça, as empresas devem adotar a AI , incorporá-la e integrar suas obrigações em seus processos desde o início. A melhor maneira é dizer: “Vou adotar uma conformidade baseada em valores, vou analisar o que a conformidade pode trazer para o meu produto e, consequentemente, para os meus clientes.”

Como a AI é uma regulamentação de produtos, ela imporá obrigações diferentes à cadeia artificial intelligence , dependendo se você é um fornecedor, distribuidor ou implementador. Diferentes etapas serão justapostas, dependendo se você fabrica por conta própria ou compra produtos prontos para uso, ou se utiliza um modelo e depois o transforma em um AI . Os fornecedores precisarão demonstrar conformidade e fornecer documentação técnica; os participantes que personalizam terão que demonstrar respeito pelo que os fornecedores lhes forneceram, mas também que qualquer camada adicionada seja conforme, imparcial, respeita os direitos autorais, é de qualidade e utiliza data representativos.

O texto original da AI sofreu alterações, em parte devido às vozes daqueles que se opunham abertamente à regulamentação. Hoje, o período de P&D constitui uma pausa nos controles, e os modelos de código aberto estão isentos, exceto quando apresentam o chamado risco sistêmico, ou seja, quando o nível de risco é alto demais para se beneficiar da isenção. Gostaria de dizer aos céticos que AI europeia AI levar essas questões em consideração e integrar essas regras aos seus processos de marketing. Acima de tudo, quero dizer a eles que quando se tem tanta capacidade, poder, inteligência e visão quanto nossos atores franceses e europeus têm, então construir e integrar a conformidade não é nada complicado.

É importante lembrar que AI nos Estados Unidos e na China também está em desenvolvimento e que todos têm o mesmo objetivo: preservar e redirecionar o elemento humano no uso dessas novas tecnologias – ou, pelo menos, tentar fazê-lo da melhor maneira possível.

A melhor resposta é revisar o cronograma. AI será votada oficialmente em 22 de abril no Parlamento Europeu. Em maio, a lei será publicada no Jornal Oficial, e então o cronograma terá início. Em seis meses, AI proibidas AI ser removidas das plataformas ou colocadas em conformidade. Em um ano, os editores de artificial intelligence de uso geral terão que cumprir os regulamentos. Em dois anos, todos AI outros AI terão que cumprir todas as obrigações, com prazos ligeiramente mais longos para as IAs cuja conformidade for mais complexa. Em outras palavras, sempre que uma AI um produto ou equipamento que seja, por si só, sujeito a regulamentação – dispositivos médicos, transporte de gás, certas máquinas-ferramentas, por exemplo –, o legislador concederá 36 meses para a conformidade, pois essas regulamentações precisam ser acumuladas e ordenadas.

Portanto, a primeira prioridade é mapear, identificar e filtrar as IA proibidas, para eliminá-las ou colocá-las em conformidade. O objetivo é alcançar a conformidade por meio do valor, perguntando a nós mesmos para que serve a conformidade, criando produtos de qualidade que sejam seguros, compreensíveis e explicáveis, que tenham uma finalidade e que procurem consumir o mínimo de energia possível.

AI adota uma abordagem baseada no risco. Considerou-se que certos AI apresentavam um risco “inaceitável”, pelo que o legislador os incluiu na lista de sistemas proibidos. São oito no total, um dos quais são artificial intelligence que poderiam permitir a manipulação subliminar. A lista também inclui sistemas generalizados de classificação social, ou seja, a qualificação e categorização de indivíduos de acordo com o nível econômico ou posição social, mas em escala massiva. Sistemas de reconhecimento emocional baseados em biometria também são proibidos no local de trabalho e em ambientes educacionais, exceto por motivos de segurança. Por exemplo, em instalações de produção, pode ser necessário tentar medir os estados emocionais das pessoas para manter sua segurança na linha de produção ou para garantir a proteção contra possíveis intrusos. Outro AIS proibido são os sistemas de reconhecimento facial usados para combater o crime. Esse tipo de vigilância por vídeo é reservado a determinadas autoridades e para certos delitos. Quando é permitido para organizações privadas, é para certos delitos considerados muito graves, como terrorismo, crime, agressão e estupro, e é tão específico quanto isso na AI .

Nesse caso, sim, as pessoas teriam que parar de usá-lo, e a OpenAI estaria sujeita a uma multa substancial. Mas não acredito nesse cenário. Acho que os participantes vão cumprir as regulamentações. Não será fácil – vai custar caro e exigir muito planejamento. Conformidade significa definir um orçamento para atender aos requisitos, se atualizar, mobilizar especialistas, treinar equipes e incluir a conformidade no plano de ação da empresa. Não é fácil, mas é viável e, considerando o que está em jogo, precisa ser feito.

Ao aplicarmos as regras, analisamos até que ponto a regra pode beneficiar o produto. Por exemplo, quando você tem uma obrigação de rastreabilidade, de explicabilidade ao longo de toda a cadeia, e utiliza subcontratados, recorrer a esses subcontratados para garantir a qualidade pode significar melhorar o custo ou implementar padrões, e isso é obviamente benéfico para o produto. Então, como transformamos essa restrição em uma oportunidade? Analisamos até que ponto a regra terá a resposta necessária em termos de qualidade e segurança.

Certos setores compreenderam isso, como o de alimentos. O Nutri-Score é uma norma que beneficia os produtos que cumprem as regras. Ele gera confiança no consumidor. É claro que o Nutri-Score representou uma restrição na cadeia de valor, mas quem pode reclamar disso hoje? Todos concordam com esse tipo de norma. A aeronáutica é outro setor que sabe que a conformidade e as normas são benéficas para seus produtos. Em setores onde a segurança é fundamental, eles transformaram as restrições em um ativo de confiança, uma oportunidade de construir lealdade, compreensão e um vínculo com seus clientes. O mesmo vale para artificial intelligence: é bom ter essas regulamentações… e talvez até uma oportunidade para questionar se realmente precisamos de uma determinada AI, caso o esforço seja muito alto em relação ao benefício.

O general MacArthur disse a famosa frase: “As batalhas perdidas podem ser resumidas em duas palavras: tarde demais”. Pode ser tarde demais porque o legislador europeu criou um sistema coercitivo com autoridades e sanções. Além do medo das repercussões legais, pode ser tarde demais na cadeia de acesso ao mercado. No que diz respeito AI, hoje em dia são poucos os participantes que não falam em “confiança”, AIou AI, como se isso fosse algo intrínseco. Não é possível desenvolver AI confiança, por isso isso certamente fará diferença no mercado. Se você não tiver um processo de conformidade integrado desde o início, certamente perderá toda a cadeia de valor. 

A Naaia ajuda as empresas a se concentrarem em seu negócio principal, na inovação e em suas equipes. Nossa ferramenta fornece as chaves para alcançar a conformidade da maneira mais rápida e eficaz possível. Ela inclui um algoritmo de qualificação que cria um repositório dentro da empresa para identificar e qualificar todos artificial intelligence , gerando, em seguida, um plano de ação. Esse plano de ação será elaborado dentro do perímetro de cada SIA, mas também reunirá esforços em todas as regulamentações para ajudar as empresas a alcançar a conformidade de forma rápida e eficaz, fornecendo-lhes listas de ações concretas com modelos de documentação e ferramentas de treinamento para que as equipes possam começar a agir. Fazemos isso limitando restrições e custos, restringindo o uso de qualquer especialista que não esteja suficientemente próximo das equipes e dos produtos e tentando internalizar essa função para que ela seja assimilada e metabolizada. A palavra certa para conformidade é “metabolizar”, para que, quando colocarmos o produto no mercado, estejamos o mais despreocupados e desimpedidos possível.

Hoje, são principalmente os pioneiros e os grandes usuários da AI, os grupos C40 que AI possuem uma infraestrutura robusta e grande quantidade de AI implantada. E também os atores mais especializados cujo negócio principal é AI, que são absolutamente obrigados a adotar práticas de conformidade imediatamente, pois é uma questão de vida ou morte: eles não poderão entrar no mercado se não estiverem em conformidade. Mais tarde, incluiremos gradualmente empresas menores. Elas têm menos recursos para lidar com questões de conformidade, mas terão menos opções no futuro. Assim como existe um CRM para gerenciar as relações com os clientes, um ERP para gerenciar a produção e um HRIS para gerenciar os recursos humanos, acreditamos que precisamos de uma ferramenta para gerenciar AI e para ajudar todos a fazer uso adequado da AI gerenciar responsabilidades. Nesse sentido, a Naaia é um AIMS, um Sistema Artificial Intelligence que se tornará um produto de uso comum – essa é a nossa visão para o futuro.