O papel das categorias em AI ontem e hoje

A chegada do AI e do aprendizado de máquina desafiou as formas tradicionais de categorizar pessoas e conteúdos, levando a novas maneiras de pensar sobre problemas e, possivelmente, a novas questões de preconceito ou discriminação.

Os sistemas AI tradicionais foram criados com base em regras e conhecimentos especializados. Por exemplo, se um banco estivesse pensando em conceder um empréstimo a alguém, ele poderia categorizar os candidatos com base em atributos como gênero, profissão ou outros dados demográficos data. Mas com os modelos atuais de aprendizado de máquina e aprendizado profundo AI , há um distanciamento das categorias rígidas. Em vez de aplicar categorias como "mulher de determinada idade e histórico socioeconômico", o foco passou a ser a coleta de grandes quantidades de dados comportamentais data. Esse data pode incluir itens como transações bancárias ou histórico de navegação. A ideia é que, ao analisar esse data granular, as decisões podem ser tomadas sem depender de categorias predefinidas que podem reforçar a discriminação.

Essa mudança não é apenas técnica: ela também levanta questões filosóficas sobre como as categorias são construídas, como elas afetam a sociedade e as considerações éticas ao usá-las nos sistemas AI .

A Lei AI : Pessoal data e responsabilidade

O cenário atual da legislação AI , exemplificado pela Lei AI , revela uma tensão fundamental entre as categorias legislativas tradicionais e a natureza evolutiva das ferramentas técnicas. A Lei AI legisla sobre os sistemas AI com base no uso, em vez de classificá-los em categorias rígidas, reconhecendo que os riscos e as implicações do AI estão intimamente ligados ao contexto de uso. Por exemplo, a lei introduz IAs versáteis capazes de aplicações multifacetadas. O desafio é estimar seu risco, mas como avaliar o risco de algo quando seus usos ainda não estão claramente definidos?

A mudança do aprendizado de máquina tradicional para o generativo mais avançado AI torna ainda mais confusas as linhas entre uso e responsabilidade. Por exemplo, um chatbot de varejo que usa a tecnologia generativa AI pode usar ferramentas internas e informações sobre produtos para oferecer recomendações ou responder a perguntas frequentes. Mas ele também pode enfrentar o uso indevido, como perguntas ofensivas com o objetivo de obter respostas tóxicas para publicações em mídias sociais. Isso levanta questões críticas para as empresas: onde está a responsabilidade pelo gerenciamento desses riscos? A responsabilidade é exclusivamente do invasor que explora o sistema ou o ônus também recai sobre os criadores e implementadores do site AI?

À medida que o número de participantes no ecossistema AI aumenta, a responsabilidade se torna cada vez mais dispersa. Não é apenas o implantador do sistema AI que pode ser responsabilizado; pode ser também a entidade que produz o modelo básico. Quando ocorrem incidentes, determinar quem arca com o ônus da responsabilidade torna-se uma tarefa complexa, especialmente quando os participantes estão espalhados por diferentes organizações e até mesmo localizações geográficas.

AI regulamentação e aplicativos comerciais éticos

AI Estruturas como a Lei AI devem abordar a tensão entre os paradigmas regulatórios convencionais e o dinâmico cenário atual. Estratégias regulatórias adaptativas são essenciais para acomodar a natureza multifacetada dos sistemas AI e suas implicações. 

As empresas podem aproveitar as lições da categorização para refinar as estratégias de segmentação de clientes, adaptar as campanhas de marketing e personalizar as experiências dos clientes. Além disso, ao incorporar considerações éticas aos processos de desenvolvimento do AI , as empresas podem reduzir os riscos de preconceito e discriminação, promovendo a confiança e a transparência com as partes interessadas.

A importância das categorias está em seu papel como nossa estrutura social para entender e avaliar o mundo. Categorias bem ajustadas são essenciais para representar diversas vozes, especialmente aquelas afetadas pelos preconceitos do AI . É fundamental o envolvimento de uma ampla gama de partes interessadas, incluindo usuários do AI e indivíduos afetados.

"As categorias funcionam como uma lente por meio da qual podemos avaliar e abordar as nuances e os possíveis vieses dos sistemas AI . Elas são cruciais para fornecer uma linguagem e um entendimento comuns entre as partes interessadas e garantir que o AI continue a ser desenvolvido e implantado de forma responsável e ética."
Jean-Marie John-Mathews

Visite thebridge.artefact.com, a plataforma de mídia que democratiza o conhecimento data & AI , em vídeos e podcasts.