Artefact Research Center

Una familia muy utilizada de modelos de aprendizaje automático se basa en árboles de decisión: bosques aleatorios, boosting. Aunque su precisión suele ser la más avanzada, estos modelos tienen una sensación de "caja negra", lo que limita el control del usuario. Nuestro objetivo es aumentar su explicabilidad y transparencia, por ejemplo mejorando la estimación de los valores SHAP en el caso de conjuntos de datos desequilibrados. También pretendemos ofrecer algunas garantías para estos modelos, por ejemplo, para muestras fuera de entrenamiento o permitiendo mejores restricciones monotónicas.

El reto de una mejor adopción de AI en las empresas consiste, por un lado, en mejorar los modelos AI y, por otro, en comprender los aspectos humanos y organizativos. En la encrucijada de la investigación cualitativa sobre gestión y la investigación social, este eje pretende explorar dónde encuentran dificultades las empresas a la hora de adoptar las herramientas de AI . Los marcos existentes sobre la adopción de innovaciones no son del todo adecuados para las innovaciones del aprendizaje automático, ya que existen diferencias típicas con la normativa, la formación de las personas o los prejuicios cuando se trata de AI, y más aún con AI generativo.

El proyecto movilizará métodos de investigación cualitativos y cuantitativos y abordará dos cuestiones clave: ¿Cómo pueden medir eficazmente las empresas sus resultados en materia de sostenibilidad social y medioambiental? ¿Por qué las medidas de sostenibilidad no suelen producir cambios significativos en las prácticas organizativas?

Por un lado, el proyecto pretende explorar las métricas basadas en data e identificar indicadores para alinear los procedimientos organizativos con los objetivos de sostenibilidad social y medioambiental. Por otro, el proyecto se centrará en transformar estas medidas de sostenibilidad en acciones concretas dentro de las empresas.

Cuando un modelo realiza una predicción basándose en una imagen, por ejemplo de un rostro, tiene acceso a información sensible, como la etnia, el sexo o la edad, que puede sesgar su razonamiento. Nuestro objetivo es desarrollar un marco para medir matemáticamente ese sesgo y proponer metodologías para reducirlo durante el entrenamiento del modelo. Además, nuestro enfoque detectaría estadísticamente las zonas de fuerte sesgo para explicar y comprender y controlar dónde tales modelos refuerzan el sesgo presente en la data.

Una de las principales aplicaciones de los LLM es cuando se combinan con un corpus de documentos que representan algún tipo de conocimiento o información industrial. En tal caso, hay un paso de recuperación de información, para el que los LLM muestran algunas limitaciones, como el tamaño del texto de entrada, que es demasiado pequeño para indexar documentos. Del mismo modo, el efecto de alucinación también puede producirse en la respuesta final, que pretendemos detectar utilizando el documento recuperado y la incertidumbre del modelo en el momento de la inferencia.

Además de nuestro equipo dedicado a la investigación, contamos con varios colaboradores que dedican parte de su tiempo a la investigación científica y a la publicación de artículos. Al trabajar también como consultores, se inspiran en los problemas del mundo real con los que se encuentran nuestros clientes.