Autor

Image

Robbert Bregman

Data Diretor de Consultoria da Artefact NL

Autor

Image

Nawras Akroush

Data Strategy Consultant at Artefact NL

Com o aumento do interesse e da integração das soluções de IA, há uma necessidade premente de as empresas adotarem iniciativas que garantam a governança adequada do design e do uso da IA.

A governança inadequada da IA coloca as organizações em risco de não conformidade com os requisitos regulamentares, comprometendo seu processo de tomada de decisão e deixando de atender às expectativas dos clientes.

Por exemplo, a falta de compreensão da legislação que rege a IA pode resultar em violações não intencionais que podem resultar em multas significativas para as empresas. Além disso, o data mal gerenciado compromete a qualidade do data, o que afeta negativamente os resultados dos modelos de IA e, consequentemente, a tomada de decisões e a eficiência operacional, causando, em última instância, perdas financeiras.

Por fim, o uso da IA em situações sem fortes considerações éticas pode prejudicar a credibilidade de uma empresa e criar uma lacuna de confiança com os clientes, O senhor deve se preocupar com os desafios da governança, como o uso de algoritmos que discriminam involuntariamente com base em dados demográficos data. As empresas devem enfrentar esses desafios de governança para garantir o uso responsável e ético da IA, protegendo assim suas operações e mantendo a confiança das partes interessadas.

“A Lei de IA define regras para a qualidade, transparência, supervisão humana e responsabilidade da data IA. Na Artefact, aconselhamos os clientes a seguir sete imperativos para projetar soluções de IA em conformidade.”
Nawras Akroush, consultor de estratégia do Data no Artefact NL

Legislação emergente sobre IA: Regulamentação do uso e adoção de IA para empresas

Um dos aspectos mais desafiadores da governança de IA é a capacidade das empresas de cumprir as normas que regem seu uso e implementação. A mais notável dessas regulamentações é a Lei de IA da UE proposta pela Comissão Europeia em 2021. Essa lei visa a estabelecer requisitos e obrigações claros para desenvolvedores, implementadores e usuários de IA e, ao mesmo tempo, aliviar os encargos administrativos e financeiros, especialmente para as pequenas e médias empresas (PMEs). Embora esteja aguardando a adoção formal pelos legisladores da UE, chegou-se a um acordo provisório, sinalizando a expectativa de sua aprovação como lei. Os especialistas esperam que a adoção total ocorra em meados de 2024, com a aplicação planejada para o início de 2026.

A Lei de IA estabelece regras para a qualidade, a transparência, a supervisão humana e a responsabilidade dos sistemas de IA. Ela também estabelece uma estrutura para classificar o risco dos sistemas de IA com base em seu impacto potencial sobre a saúde, a segurança e os direitos humanos fundamentais. A lei define quatro categorias de risco para soluções de IA:

  • Risco inaceitável: Isso diz respeito a soluções de IA que representam uma clara ameaça à segurança, aos meios de subsistência e aos direitos das pessoas, resultando em uma proibição total de seu uso.

  • Alto risco: Essa categoria abrange soluções de IA de alto risco implantadas em áreas críticas, como infraestrutura, educação ou treinamento, gerenciamento de controle de fronteiras, etc. Essas soluções estarão sujeitas a obrigações rigorosas antes da implantação.

  • Risco limitado: Essa categoria inclui sistemas de IA que têm obrigações específicas de transparência, mas não representam um alto risco para seus usuários. Por exemplo, ao interagir com sistemas de IA, como chatbots, os usuários devem estar cientes de que estão se envolvendo com uma máquina para que possam tomar decisões informadas sobre a continuidade ou o desligamento. Isso será permitido mediante a conformidade com a lei.

  • Risco mínimo: Refere-se a sistemas de IA com riscos insignificantes, como videogames habilitados para IA, que podem ser usados livremente.

Os imperativos do Artefact: Características de uma solução de IA compatível

Com base nos requisitos da Lei de IA da UE e em nossa experiência em governança e conformidade de data e IA, aconselhamos nossos clientes a considerar sete imperativos inegociáveis em qualquer projeto ou implementação de soluções de IA:

Desenvolver e implantar com eficácia soluções de IA de acordo com esses imperativos de design e garantir a governança adequada da IA para evitar riscos legais, de desempenho e de reputação, muitas empresas precisarão fazer mudanças organizacionais significativas. Isso inclui:

  • Apresentando funções e responsabilidades para a governança da IA;

  • Definição de uma governança de IA adequada modelo operacional dentro da estrutura organizacional;

  • Delineamento necessário políticas e procedimentos para a implementação da governança de IA;

  • Determinação do ferramentas e tecnologias necessárias para apoiar a governança de IA;

  • Estabelecimento de um protocolos de monitoramento para conformidade com o sistema de IA.

A implementação de mudanças em todos esses pilares organizacionais pode ser um processo difícil e demorado, portanto Artefact incentiva as empresas a começarem a desenvolver e integrar estruturas de governança de IA. Isso garantirá a conformidade com futuras regulamentações e ajudará a atender às expectativas dos clientes.

Necessidade urgente: A importância de adotar proativamente soluções de IA compatíveis

No mundo dinâmico da tecnologia de IA, os líderes empresariais devem adotar uma postura proativa para posicionar suas organizações como líderes em adoção responsável de IA. Isso permitirá que elas promovam a inovação e, ao mesmo tempo, mantenham as obrigações éticas e a conformidade regulamentar. Nesta era de rápido desenvolvimento tecnológico e regulamentações em evolução, uma abordagem estratégica e comprometida com a governança de IA será um elemento fundamental para o sucesso sustentável.

Quer saber mais sobre como lidar com essa questão? Fique atento à segunda parte desta série, na qual nos aprofundaremos em uma estrutura que as empresas podem usar para estabelecer uma governança de IA adequada em suas organizações.