NOTÍCIAS / TECNOLOGIA AI

Artefactrês coisas para lembrar sobre a realidade da IA:

Artefactrês coisas para lembrar sobre a realidade da IA:

1. A IA não é mágica

A “inteligência” da IA não permite que ela questione o data que representa seu “alimento”. Ela “trabalha” com o que é fornecido. Se a qualidade do data não for relevante, completa e confiável, o algoritmo não conseguirá atender às expectativas e sua resposta ao problema em questão não será confiável.

A qualidade do modelo, por si só, não determina a qualidade dos resultados de saída. Eles estão diretamente correlacionados com a qualidade da entrada data. A qualidade por design é um dos requisitos para qualquer projeto de IA.

Garantir e manter a qualidade do data é uma das principais responsabilidades dos principais projetos de IA.

2. Uma “arte” necessária do artificial

Fornecer o modelo com data de qualidade não é suficiente. O Data não é diretamente utilizável e o processo exige que os seres humanos executem algumas etapas manuais.

Os modelos de aprendizado de máquina são estruturas matemáticas com potencial. Assim como os músculos humanos, eles precisam ser treinados para se adaptar ao esforço necessário.

Os algoritmos de IA também precisam “treinar” em uma base data. É assim que eles “aprendem” a ser mais eficientes.

Para treinar algoritmos, são necessárias três etapas manuais:

  1. Fornecer data de qualidade: seleção, validação, importação, avaliação de qualidade etc.
  2. Preparar a base de aprendizado: selecionar, transformar e rotular o data para torná-lo utilizável. Esse último é necessário para algoritmos supervisionados e semissupervisionados, em que o data é explorado, analisado e, em seguida, “etiquetado” pelo metadata*. Se tomarmos o reconhecimento de imagens como exemplo, o processo de rotulagem fornece um banco de imagens e uma descrição para cada uma delas. Essa é uma etapa manual e demorada, que exige a descrição do conteúdo de vários milhares de fotos.
  3. Trem: metodologia repetitiva de seleção de modelos e treinamento baseada no aprendizado até que o modelo correto seja obtido. Ao contrário da crença popular, a IA não é mágica. Não se trata de uma máquina inteligente que simplesmente se alimenta de informações e aprende sozinha - não existe plug and play.

Essas etapas manuais se traduzem em regras e metodologias comerciais importantes que devem ser usadas para que possamos explorar adequadamente os algoritmos e integrá-los às infraestruturas existentes.

3. A IA eleva os seres humanos, mas não substitui sua inteligência

A IA ainda é programada por humanos, embora alguns algoritmos ajustem seus parâmetros de forma automatizada. Se houver vieses cognitivos durante a programação ou se houver vieses na entrada data, a IA não os detectará e produzirá um resultado tendencioso que não está de acordo com os objetivos originais ou que tem intenções antiéticas.

Em 2016, a Microsoft projetou uma IA chamada Tay “para interagir com as pessoas e entretê-las”. Tay se expressou no Twitter, um canal que enriqueceu a IA por meio de interações com os usuários da Internet. Quando ‘livre’, Tay coletava todas as informações que a Twittersfera queria compartilhar, para o bem ou para o mal...

...Após 24 horas de existência e 96.000 tweets, a IA foi desconectada. O tom de Tay, sincero e entusiasmado quando ficou on-line pela primeira vez, mudou rapidamente. Confrontada com opiniões extremas, Tay começou a fazer comentários racistas.

O Motherboard*, um dos sites de referência da imprensa americana de tecnologia, comentou o evento: “Rousseau estava certo: os seres humanos nascem bons, a sociedade os corrompe. O que ele não sabia é que o postulado funciona igualmente bem com a máquina.”

Embora o exemplo de Tay tenha tido pouco impacto, uma IA tendenciosa pode ser usada como uma arma de discriminação em massa. Por exemplo, um sistema de pontuação de candidatos que uma empresa usa pode aumentar a probabilidade de exclusão de perfis com base em parâmetros como gênero ou origem geográfica para corresponder aos perfis atuais, sem que isso seja percebido pelas equipes de recrutamento. A IA deve ser refinada para eliminar parâmetros indesejados que possam influenciar negativamente o modelo.

O uso de algoritmos complexos, como redes neurais, não identifica possíveis vieses. O modelo é validado com base em sua capacidade de reproduzir exemplos, que devem ser usados com cautela. A natureza exploratória do modelo também possibilita a detecção de parâmetros que seriam intuitivamente descartados por humanos, mas que têm impacto no resultado desejado.