O papel das categorias na IA ontem e hoje
A chegada da IA e do aprendizado de máquina desafiou as formas tradicionais de categorizar pessoas e conteúdos, levando a novas maneiras de pensar sobre os problemas e, potencialmente, a novas questões de preconceito ou discriminação.
Os sistemas tradicionais de IA foram criados com base em regras e conhecimentos especializados. Por exemplo, se um banco estivesse pensando em conceder um empréstimo a alguém, ele poderia categorizar os candidatos com base em atributos como gênero, profissão ou outros dados demográficos data. Porém, com os modelos atuais de IA de aprendizado de máquina e aprendizado profundo, há um distanciamento das categorias rígidas. Em vez de aplicar categorias como “mulher de uma determinada idade e formação socioeconômica”, o foco passou a ser a coleta de grandes quantidades de data comportamental. Esse data pode incluir coisas como transações bancárias ou histórico de navegação. A ideia é que, ao analisar esse data granular, as decisões podem ser tomadas sem depender de categorias predefinidas que podem reforçar a discriminação.
Essa mudança não é apenas técnica: ela também levanta questões filosóficas sobre como as categorias são construídas, como elas afetam a sociedade e as considerações éticas ao usá-las nos sistemas de IA.
A Lei de IA: data pessoal e responsabilidade
O cenário atual da legislação de IA, exemplificado pela Lei de IA, revela uma tensão fundamental entre as categorias legislativas tradicionais e a natureza evolutiva das ferramentas técnicas. A Lei de IA legisla sobre sistemas de IA com base no uso, em vez de classificá-los em categorias rígidas, reconhecendo que os riscos e as implicações da IA estão intimamente ligados ao contexto de uso. Por exemplo, a lei introduz IAs versáteis capazes de aplicações multifacetadas. O desafio é estimar seu risco, mas como avaliar o risco de algo quando seus usos ainda não estão claramente definidos?
A mudança do aprendizado de máquina tradicional para a IA generativa mais avançada torna ainda mais confusas as linhas entre uso e responsabilidade. Por exemplo, um chatbot de varejo que usa IA generativa pode usar ferramentas internas e informações sobre produtos para oferecer recomendações ou responder a perguntas frequentes. Mas ele também pode enfrentar o uso indevido, como perguntas ofensivas destinadas a obter respostas tóxicas para publicações em mídias sociais. Isso levanta questões críticas para as empresas: onde está a responsabilidade pelo gerenciamento desses riscos? A responsabilidade é exclusivamente do invasor, caso ele explore o sistema, ou o ônus também recai sobre os criadores e implementadores da IA?
À medida que o número de participantes no ecossistema de IA aumenta, a responsabilidade se torna cada vez mais dispersa. Não é apenas o implantador do sistema de IA que pode ser responsabilizado; pode ser também a entidade que produz o modelo básico. Quando ocorrem incidentes, determinar quem arca com o ônus da responsabilidade torna-se uma tarefa complexa, especialmente quando os participantes estão espalhados por diferentes organizações e até mesmo localizações geográficas.
Regulamentação de IA e aplicativos comerciais éticos
Estruturas como o AI Act devem abordar a tensão entre os paradigmas regulatórios convencionais e o cenário dinâmico da IA de hoje. Estratégias regulatórias adaptativas são essenciais para acomodar a natureza multifacetada dos sistemas de IA e suas implicações.
As empresas podem aproveitar as lições da categorização para refinar as estratégias de segmentação de clientes, adaptar as campanhas de marketing e personalizar as experiências dos clientes. Além disso, ao incorporar considerações éticas nos processos de desenvolvimento de IA, as empresas podem reduzir os riscos de preconceito e discriminação, promovendo a confiança e a transparência com as partes interessadas.
A importância das categorias está em seu papel como nossa estrutura social para entender e avaliar o mundo. Categorias bem ajustadas são essenciais para representar diversas vozes, especialmente aquelas afetadas por preconceitos de IA. É fundamental o envolvimento de uma ampla gama de partes interessadas, incluindo usuários de IA e indivíduos afetados.
“As categorias funcionam como uma lente por meio da qual podemos avaliar e abordar as nuances e os possíveis vieses dos sistemas de IA. Elas são cruciais para fornecer uma linguagem e um entendimento comuns entre as partes interessadas e garantir que a IA continue a ser desenvolvida e implantada de forma responsável e ética.”Jean-Marie John-Mathews
