A Lei da IA: um marco regulatório com uma abordagem baseada no risco para garantir o uso confiável dos modelos de IA
Fonte: Comissão Europeia
A Lei de IA é o primeiro marco jurídico abrangente sobre IA em todo o mundo. Seu objetivo é proteger direitos fundamentais, democracia, Estado de Direito e sustentabilidade ambiental da IA de alto risco, enquanto impulsionar a inovação e consolidar a Europa como líder nesse campo. O regulamento estabelece obrigações para a IA com base em seus riscos potenciais e no nível de impacto.
As novas regras irão:
Abordar os riscos gerados especificamente pelas aplicações de IA;
Proibir práticas de IA que representem riscos inaceitáveis;
Estabelecer requisitos claros para sistemas de IA destinados a aplicações de alto risco;
Definir obrigações específicas para os implementadores e provedores de aplicações de IA de alto risco;
Exigir avaliações de conformidade antes da implementação ou comercialização de sistemas de IA;
Estabelecer medidas de fiscalização após a colocação de um determinado sistema de IA no mercado;
Estabelecer uma estrutura de governança nos âmbitos europeu e nacional.
Todos os sistemas de IA considerados uma ameaça clara à segurança, aos meios de subsistência e aos direitos das pessoas serão proibidos, desde a pontuação social realizada por governos até brinquedos que utilizam assistência por voz e incentivam comportamentos perigosos.
A Lei de IA: Transformando a percepção de uma regulamentação em uma oportunidade de reinvenção
ASSISTA AO VÍDEO
(Para vídeos, você pode ativar as legendas no seu idioma diretamente no YouTube – verifique as configurações.)
Agora que a Lei de IA foi aprovada, É hora de as empresas colaborarem com os órgãos reguladores no que diz respeito a normas e melhores práticas. A vasta experiência da Artefact no apoio a grandes empresas em matéria de data e transformação digital demonstrou que, ao aproveitar as restrições regulatórias, como o GDPR, as empresas têm conseguido repensar seus processos e aprimorar seu conhecimento sobre os clientes. Como resultado, reforçaram a eficiência de seus negócios e de seu marketing, personalizaram a experiência do consumidor e muito mais.
Para ajudar nossos clientes a integrar as regulamentações da Lei de IA ao desenvolvimento de modelos de IA corporativos desde o início, inspirados pelo princípio de “privacidade desde a concepção”, a Artefact utiliza plataformas para seus clientes, como naaia, que transformar regulamentos em processos operacionais concretos e fornecer listas de tarefas que garantam a conformidade dos projetos de IA.
Nathalie Beslay, CEO e cofundadora da naaia, compartilha da nossa filosofia e da nossa abordagem. Ela detalha o cronograma das novas regulamentações que as empresas terão de cumprir. A Lei de IA é uma “regulamentação horizontal de produtos” que adota uma abordagem de ponta a ponta em todas as etapas da produção e se aplica a qualquer tipo de empresa, independentemente do porte, seja ela privada ou pública.
Nathalie explora diversos aspectos da conformidade em IA: tecnologia e ferramentas, conformidade e aspectos jurídicos, IAs proibidas, riscos e benefícios, tendências futuras e escalabilidade, custo e ROI.
IA confiável: novos desafios e soluções data-driven
A reprodução de preconceitos e estereótipos humanos é o maior risco associado ao uso em massa do artificial intelligence. O desafio para a IA é criar
que atendam às expectativas éticas da nossa sociedade. Trata-se de um empreendimento de grande envergadura: a ética é uma disciplina que se constrói ao longo de todo o ciclo de vida de
A IA é a automatização da tomada de decisões. Os riscos éticos não residem no fato de que a IA possa automatizar de forma inadequada, mas, pelo contrário, no fato de que ela imite perfeitamente as decisões humanas, com todo o seu fardo de erros e preconceitos. Muitas dessas disfunções decorrem do contexto cultural em que a IA foi desenvolvida, quando ela reproduz os sistemas de valores históricos de uma sociedade (desigualdade de gênero ou étnica, por exemplo) ou os de seus criadores (formação acadêmica, sensibilidade política, práticas religiosas, etc.).
À medida que os modelos de IA evoluíram de conceitos para produtos, muitos foram criadas soluções técnicas para facilitar a automação e a implantação de sistemas de IA. Os vieses podem ser tanto técnicos (variáveis omitidas, database ou problemas de seleção) quanto sociais (econômicos, cognitivos, emocionais). É por meio de uma reflexão crítica sobre as diferentes métricas associadas a um modelo de IA que podemos identificar e corrigir os problemas. Existe um equilíbrio entre explicabilidade e precisão. Alguns algoritmos, como as árvores de decisão, são muito explicáveis, mas menos úteis para previsões mais complexas.
“No entanto, a noção de IA confiável não pode ser reduzida à sua concepção jurídica e técnica. Isso requer uma transformação da cultura da organização ”a fim de integrar profundamente as questões e abordagens éticas, garantir a sustentabilidade das soluções e contribuir para uma IA ética desde a concepção,”
Vincent Luciani, CEO e cofundador da Artefact
Cumprindo a promessa da IA: O papel da ética no desenvolvimento de modelos responsáveis e imparciais.
A evolução da IA e do aprendizado de máquina tem revolucionou os métodos tradicionais de classificação de pessoas e conteúdos. Em vez de se basearem em atributos demográficos estáticos, os modelos de IA agora utilizam vastos conjuntos de dados comportamentais data para orientar os processos de tomada de decisão. Essa mudança de paradigma não apenas apresenta desafios técnicos, mas também suscita profundos debates filosóficos sobre a construção e o impacto das categorias na sociedade.
Em uma entrevista recente concedida ao Artefact, Jean-Marie John-Mathews, Doutor, cofundador de Giskard AI, explica como o uso da classificação data, tais como idade, gênero, raça e condição socioeconômica, em um banco, por exemplo, é problemático e até mesmo antiético, mas substituindo-o por comportamental data como o histórico de transações contribui para reduzir o preconceito ou a discriminação.
Ao adotar esses novos tipos de categorização e promover o diálogo entre todas as partes interessadas, as empresas podem se orientar com sucesso no novo panorama ético. É por meio de previsão e supervisão colaborativas que as empresas possam aproveitar o potencial transformador da IA e, ao mesmo tempo, mitigar consequências indesejadas.
Artefact International Adopt AI Summit, 5 de junho de 2024, na Station F, em Paris
REGISTRE-SE AGORA
A Adopt AI será a maior cúpula sobre IA, a Adopt AI, com 100 palestrantes de nível internacional e a expectativa de participação de 2.000 líderes empresariais e do setor de tecnologia. Participe das conferências e debates sobre o impacto positivo da data e da IA na economia, na sociedade e no planeta! .
Sob o alto patrocínio de Sr. Emmanuel Macron, Presidente da República Francesa, este dia inteiro de conferências, único em seu gênero, será estruturado em torno de três palcos principais, com o objetivo de transmitir inspiração positiva e insights práticos sobre o data e a IA:
A Etapa da Visão – “Forjando visões: onde os negócios se encontram com a IA no futuro.”
O Palco da Tecnologia – “Tecnologias inovadoras: as novas fronteiras da IA generativa.”
O Palco da Sociedade – “IA para a sociedade: moldando um futuro ético e sustentável.”
Conheça todos os nossos palestrantes já anunciados: CEOs e CDOs de grandes empresas, fundadores de startups e scaleups inovadoras na área de IA de Geração (GenAI) e muitos outros que ainda serão anunciados!
Verifique regularmente
O dia culminará em o lançamento oficial do Festival de Cinema de IA Artefact, que é um concurso internacional de curtas-metragens aberto a todos, que premia a criatividade dos artistas que utilizam o artificial intelligence, em parceria com a mk2, um dos principais grupos de cinemas de arte e experimentais da Europa.
Será uma honra para nós contar com a presença de Jean-Pierre Jeunet, diretor de “Amélie Poulain” e “Delicatessen”, entre outros filmes famosos na qualidade de presidente do júri.
Visite o site oficial do Festival de Cinema Artefact: artefact-ai-film-festival.com
PROGRAMAS DE ACELERAÇÃO DE DADOS | SOLUÇÕES DE IA | MARKETING DE DADOS
