Autor

Robbert Bregman

Data Diretor de Consultoria em Artefact NL

Autor

Nawras Akroush

Data Consultor de estratégia em Artefact NL

Com o aumento do interesse e da integração das soluções AI , há uma necessidade premente de que as empresas adotem iniciativas que garantam a governança adequada do design e do uso do AI .

A governança inadequada do AI coloca as organizações em risco de não conformidade com os requisitos regulamentares, comprometendo seu processo de tomada de decisão e deixando de atender às expectativas dos clientes.

class="img-responsive

Por exemplo, a falta de compreensão da legislação que rege o AI pode resultar em violações não intencionais que podem resultar em multas significativas para as empresas. Além disso, a má gestão do data compromete a qualidade do data , o que afeta negativamente os resultados dos modelos do AI e, consequentemente, a eficiência operacional e a tomada de decisões, causando, em última análise, perdas financeiras.

Por fim, o uso do AI em situações sem considerações éticas sólidas pode prejudicar a credibilidade de uma empresa e criar uma lacuna de confiança com os clientes, como o uso de algoritmos que discriminam involuntariamente com base em dados demográficos data. As empresas devem enfrentar esses desafios de governança para garantir o uso responsável e ético do AI, protegendo assim suas operações e mantendo a confiança das partes interessadas.

"A Lei AI define regras para data qualidade, transparência, supervisão humana e AI responsabilidade. Na Artefact, aconselhamos os clientes a seguir sete imperativos para projetar soluções em conformidade com a AI ."
Nawras Akroush, Data Consultor de estratégia em Artefact NL

Legislação emergente do AI : Regulamentação do uso e adoção do AI para empresas

Um dos aspectos mais desafiadores da governança do AI é a capacidade das empresas de cumprir os regulamentos que regem seu uso e implementação. A mais notável dessas regulamentações é a Lei AI da UE proposta pela Comissão Europeia em 2021. Essa lei tem como objetivo estabelecer requisitos e obrigações claros para desenvolvedores, implementadores e usuários da AI e, ao mesmo tempo, aliviar os encargos administrativos e financeiros, especialmente para pequenas e médias empresas (PMEs). Embora esteja aguardando a adoção formal pelos legisladores da UE, chegou-se a um acordo provisório, sinalizando a expectativa de sua aprovação como lei. Os especialistas esperam que a adoção total ocorra em meados de 2024, com a aplicação planejada para o início de 2026.

data A Lei AI estabelece regras para a qualidade, transparência, supervisão humana e responsabilidade dos sistemas AI . Ela também estabelece uma estrutura para classificar o risco dos sistemas AI com base em seu possível impacto sobre a saúde, a segurança e os direitos humanos fundamentais. A lei define quatro categorias de risco para as soluções AI :

  • Risco inaceitável: Refere-se a soluções AI que representam uma clara ameaça à segurança, aos meios de subsistência e aos direitos das pessoas, resultando em uma proibição total de seu uso.

  • Alto risco: Esta categoria abrange soluções de alto risco AI implantadas em áreas críticas, como infraestrutura, educação ou treinamento, gerenciamento de controle de fronteiras, etc. Essas soluções estarão sujeitas a obrigações rigorosas antes da implantação.

  • Risco limitado: Essa categoria inclui sistemas AI que têm obrigações específicas de transparência, mas não representam um alto risco para seus usuários. Por exemplo, ao interagir com sistemas AI , como chatbots, os usuários devem estar cientes de que estão se envolvendo com uma máquina para que possam tomar decisões informadas sobre continuar ou desistir. Isso será permitido mediante a conformidade com a lei.

  • Risco mínimo: Refere-se a sistemas AI com riscos insignificantes, como videogames habilitados para AI, que podem ser usados livremente.

Artefact: Características de uma solução em conformidade AI

Com base nos requisitos da Lei AI da UE e em nossa experiência em governança e conformidade com data e AI , aconselhamos nossos clientes a considerar sete imperativos inegociáveis em qualquer projeto ou implementação de soluções AI :

class="img-responsive

Para desenvolver e implementar com eficácia as soluções AI de acordo com esses imperativos de design e garantir a governança AI adequada para evitar riscos legais, de desempenho e de reputação, muitas empresas precisarão fazer mudanças organizacionais significativas. Essas mudanças incluem:

  • Introdução de funções e responsabilidades para a governança de AI ;

  • Definir um modelo operacional de governança AI adequado dentro da estrutura organizacional;

  • Definição das políticas e procedimentos necessários para a implementação da governança AI ;

  • Determinar as ferramentas e tecnologias necessárias para dar suporte à governança de AI ;

  • Estabelecer protocolos de monitoramento adequados para a conformidade do sistema AI .

A implementação de mudanças em todos esses pilares organizacionais pode ser um processo difícil e demorado, portanto, o siteArtefact incentiva as empresas a começarem a desenvolver e integrar as estruturas de governança do AI . Isso garantirá a conformidade com futuras regulamentações e ajudará a atender às expectativas dos clientes.

Necessidade urgente: A importância de adotar proativamente soluções em conformidade com o site AI

No mundo dinâmico da tecnologia AI , os líderes empresariais devem adotar uma postura proativa para posicionar suas organizações como líderes na adoção responsável da AI . Isso permitirá que eles promovam a inovação e, ao mesmo tempo, mantenham as obrigações éticas e a conformidade regulamentar. Nesta era de rápido desenvolvimento tecnológico e regulamentações em evolução, uma abordagem estratégica e comprometida com a governança da AI será um elemento fundamental para o sucesso sustentável.

Quer saber mais sobre como lidar com esse problema? Fique atento à segunda parte desta série, na qual nos aprofundaremos em uma estrutura que as empresas podem usar para estabelecer a governança adequada de AI em suas organizações.