Artefact Research Center

Uma família de modelos de aprendizado de máquina amplamente utilizada é baseada em árvores de decisão: florestas aleatórias, boosting. Embora sua precisão seja frequentemente a mais avançada, esses modelos sofrem de uma sensação de caixa preta, oferecendo controle limitado ao usuário. Nosso objetivo é aumentar sua explicabilidade e transparência, geralmente melhorando a estimativa dos valores de SHAP no caso de conjuntos de dados desequilibrados. Também pretendemos fornecer algumas garantias para esses modelos, por exemplo, para amostras fora do treinamento ou permitindo melhores restrições monotônicas.

O desafio de uma melhor adoção do AI nas empresas é, por um lado, aprimorar os modelos do AI e, por outro, entender os aspectos humanos e organizacionais. No cruzamento da pesquisa de gestão qualitativa e da pesquisa social, este eixo procura explorar onde as empresas enfrentam dificuldades ao adotar as ferramentas AI . As estruturas existentes sobre a adoção de inovações não são totalmente adequadas para inovações de aprendizado de máquina, pois há diferenças típicas de regulamentação, treinamento de pessoas ou vieses quando se trata de AI, e mais ainda com AI geradores.

O projeto mobilizará métodos de pesquisa qualitativos e quantitativos e abordará duas questões-chave: Como as empresas podem medir com eficácia o desempenho da sustentabilidade social e ambiental? Por que as medidas de sustentabilidade muitas vezes não provocam mudanças significativas nas práticas organizacionais?

Por um lado, o projeto visa explorar métricas orientadas pelo data e identificar indicadores para alinhar os procedimentos organizacionais aos objetivos de sustentabilidade social e ambiental. Por outro lado, o projeto se concentrará na transformação dessas medidas de sustentabilidade em ações concretas dentro das empresas.

Quando um modelo faz uma previsão com base em uma imagem, por exemplo, mostrando um rosto, ele tem acesso a informações confidenciais, como etnia, gênero ou idade, que podem influenciar seu raciocínio. Nosso objetivo é desenvolver uma estrutura para medir matematicamente esse viés e propor metodologias para reduzir esse viés durante o treinamento do modelo. Além disso, nossa abordagem detectaria estatisticamente zonas de forte viés para explicar, entender e controlar onde esses modelos reforçam o viés presente no site data.

Uma das principais aplicações dos LLMs é quando associados a um corpus de documentos, que representam algum conhecimento ou informação industrial. Nesse caso, há uma etapa de recuperação de informações, para a qual os LLMs apresentam algumas limitações, como o tamanho do texto de entrada, que é muito pequeno para indexar documentos. Da mesma forma, o efeito de alucinação também pode ocorrer na resposta final, que pretendemos detectar usando o documento recuperado e modelar a incerteza no momento da inferência.

Além da nossa equipe dedicada à pesquisa, temos vários colaboradores que dedicam algum tempo à pesquisa científica e à publicação de artigos. O fato de trabalharem também como consultores os inspira com problemas do mundo real encontrados por nossos clientes.