AIR LIQUIDE, RENAULT GROUP & SAFRAN na AI for Industry by Artefact - Setting up and adopting trusted AI

Fabien Mangeant explicou que a confiança nos sistemas de IA é crucial, especialmente em ambientes críticos para a segurança, como a produção de gás. A Air Liquide usa IA em várias aplicações, desde o controle operacional até o planejamento. A empresa está adotando a abordagem baseada em risco da Lei de IA para categorizar os sistemas de IA com base em sua criticidade. Essa estrutura ajuda a gerenciar a segurança e a confiabilidade dos sistemas de IA que são implantados para clientes e trabalhadores. A Air Liquide vinha trabalhando na confiança em IA antes das regulamentações formais, e as novas leis ajudam a esclarecer e formalizar suas práticas.

Rodolphe Gelin discutiu como a IA otimiza os recursos de segurança dos veículos e os processos de produção. Os sistemas orientados por IA, como a frenagem autônoma de emergência, foram implementados antes da Lei de IA. Após a análise, a Renault descobriu que seus processos já atendiam a muitos requisitos regulatórios. A Renault agora usa o AI Act para validar ainda mais a segurança de seus sistemas de IA, garantindo que a IA funcione de forma confiável quando assume o controle de um veículo. A confiança na IA é vital tanto para os usuários quanto para os engenheiros, especialmente porque a IA desempenha um papel cada vez maior na segurança dos veículos.

Daniel Duclos, da Safran, destacou os longos ciclos de desenvolvimento no setor aeronáutico, que podem durar décadas para motores e materiais. A Safran participa de grandes programas europeus, como a iniciativa Aviation, para incorporar a IA à aeronáutica. Esses programas facilitam a colaboração com startups e fornecedores de tecnologia. A Safran tem uma forte cultura regulatória e trabalha em estreita colaboração com a Agência de Segurança da Aviação da União Europeia para adaptar os padrões de segurança existentes à IA. O objetivo da Safran é garantir que os sistemas de IA sejam seguros tanto para o desenvolvimento de produtos quanto para os processos operacionais.

Fabian Mangeant explicou como a Air Liquide desenvolveu uma metodologia transversal para garantir transparência, robustez e explicabilidade em IA. A empresa integrou ferramentas específicas de IA em seu pipeline de operações de aprendizado de máquina (MLOps) para avaliar e testar a confiabilidade dos modelos de IA antes da implantação. A governança de IA faz parte de uma estratégia mais ampla para dimensionar a IA confiável em toda a organização, garantindo a conformidade com os regulamentos e aprimorando os processos internos para o desenvolvimento de IA.

A Safran discutiu a importância de promover boas práticas para o desenvolvimento de IA. Eles garantem que os engenheiros usem as melhores práticas para arquitetura de IA, gerenciamento de database e treinamento de modelos para projetar sistemas de IA melhores. Essas práticas ajudam a garantir que os produtos de IA atendam aos padrões de desempenho e sejam confiáveis. A Safran também está incorporando tópicos relacionados à IA em auditorias técnicas para garantir que os sistemas de IA sejam completamente avaliados durante o desenvolvimento.

Rodolphe Gelin explicou como a empresa integrou a engenharia de IA em seus processos de desenvolvimento. O Centro de Excelência em IA centralizado da Renault desenvolve aplicativos industriais usando componentes de IA. A equipe usa ferramentas como as da Confiance.ai para validar a robustez e a precisão dos sistemas de IA. A Renault pretende reduzir a necessidade de testes no mundo real usando ferramentas para avaliar a qualidade do data, eliminar vieses e validar modelos de IA com mais eficiência. Essa abordagem permite que a Renault desenvolva sistemas de IA mais rapidamente e a um custo menor, mantendo os padrões de segurança.