	{"id":118489,"date":"2024-06-26T16:35:03","date_gmt":"2024-06-26T15:35:03","guid":{"rendered":"https:\/\/www.artefact.com\/?post_type=blog&#038;p=118489"},"modified":"2024-09-20T17:46:06","modified_gmt":"2024-09-20T16:46:06","slug":"fierte-ai-the-open-source-genai-assistant-that-protects-against-microaggressions-and-reduces-bias","status":"publish","type":"blog","link":"https:\/\/www.artefact.com\/es\/blog\/fierte-ai-the-open-source-genai-assistant-that-protects-against-microaggressions-and-reduces-bias\/","title":{"rendered":"Fiert\u00e9 AI: El asistente GenAI de c\u00f3digo abierto que protege contra las microagresiones y reduce los prejuicios"},"content":{"rendered":"<p><div class=\"fusion-fullwidth fullwidth-box fusion-builder-row-1 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling article-author\" style=\"--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:#ffffff;--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-0 fusion_builder_column_1_2 1_2 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:50%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:50%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-title title fusion-title-1 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-margin-bottom-small:8px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"margin:0;--fontSize:50;line-height:1.2;\">Autor<\/h2><\/div><img decoding=\"async\" src=\"data:image\/svg+xml,%3Csvg%20xmlns%3D%27http%3A%2F%2Fwww.w3.org%2F2000%2Fsvg%27%20width%3D%27150%27%20height%3D%270%27%20viewBox%3D%270%200%20150%200%27%3E%3Crect%20width%3D%27150%27%20height%3D%270%27%20fill-opacity%3D%220%22%2F%3E%3C%2Fsvg%3E\" data-orig-src=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/04\/Siddharth-Mohan-rond.png\" alt=\"Image\" class=\"lazyload artefact-elegant-image align-left article-author-image\" style=\"width: 150px; border-radius: 54% 46% 77% 23% \/ 74% 40% 60% 26%; overflow: hidden;\" width=\"150\" height=\"auto\" \/><div class=\"fusion-title title fusion-title-2 fusion-sep-none fusion-title-text fusion-title-size-three article-author-name-title\" style=\"--awb-text-color:var(--awb-color7);--awb-margin-bottom-small:8px;--awb-font-size:18px;\"><h3 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;Josefin Sans&quot;;font-style:normal;font-weight:600;margin:0;font-size:1em;--fontSize:18;line-height:1.5;\">Siddharth Mohan<\/h3><\/div><div class=\"fusion-text fusion-text-1 article-author-description\" style=\"--awb-font-size:14px;--awb-line-height:1.6;--awb-letter-spacing:2px;--awb-text-transform:uppercase;--awb-text-color:var(--awb-color7);--awb-text-font-family:&quot;Roboto&quot;;--awb-text-font-style:normal;--awb-text-font-weight:400;\"><p>Director Data Ciencia en Artefact Europa del Norte<\/p>\n<\/div><\/div><\/div><\/div><\/div><div class=\"fusion-fullwidth fullwidth-box fusion-builder-row-2 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling\" style=\"--link_color: var(--awb-color6);--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:var(--awb-color1);--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-1 fusion_builder_column_1_1 1_1 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:100%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:100%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-text fusion-text-2 description\" style=\"--awb-text-color:var(--awb-color5);--awb-text-font-family:&quot;PT Serif&quot;;--awb-text-font-style:normal;--awb-text-font-weight:400;\"><p>Una serie de controversias en torno a los resultados de los modelos de GenAI ha aumentado la defensa de la supervisi\u00f3n \u00e9tica y la gobernanza de la IA. Mientras que el sesgo expl\u00edcito, la violencia y la discriminaci\u00f3n han avanzado, el sesgo impl\u00edcito y las microagresiones no lo han hecho. <\/p>\n<p>En v\u00edsperas del Mes del Orgullo 2024, Artefact lanz\u00f3 Fiert\u00e9 AI, un asistente \u00e9tico de c\u00f3digo abierto LLM que puede detectar y reformular las microagresiones y los prejuicios inconscientes en todos los modelos GenAI.<br \/>\nEn Artefact, realmente creemos que \u201cAI is about people\u201d. Esta ha sido nuestra principal motivaci\u00f3n a la hora de crear Fiert\u00e9 AI. \u201cFiert\u00e9\u201d significa \u201corgullo\u201d en franc\u00e9s y representa la lucha constante de la comunidad LGBTQIA+ por la igualdad en la sociedad. <\/p>\n<\/div><\/div><\/div><\/div><\/div><article class=\"fusion-fullwidth fullwidth-box fusion-builder-row-3 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling\" style=\"--link_color: var(--awb-color6);--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:var(--awb-color1);--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-justify-content-center fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-2 fusion_builder_column_1_1 1_1 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:100%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:100%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-video fusion-youtube\" style=\"--awb-max-width:670px;--awb-max-height:377px;--awb-align-self:center;--awb-width:100%;\"><div class=\"video-shortcode\"><div class=\"fluid-width-video-wrapper\" style=\"padding-top:56.27%;\" ><iframe title=\"Reproductor de video de YouTube 1\" src=\"https:\/\/www.youtube.com\/embed\/AAgCIx_4lao?wmode=transparent&autoplay=0\" width=\"670\" height=\"377\" allowfullscreen allow=\"autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture;\"><\/iframe><\/div><\/div><\/div><div class=\"fusion-text fusion-text-3\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>La GenAI est\u00e1 dando rienda suelta a la creatividad y la innovaci\u00f3n a gran escala, con el potencial de influir positivamente en la vida de millones de personas en todo el mundo. Sin embargo, una serie de controversias \u00e9ticas ha suscitado inquietudes sobre el despliegue seguro y \u00e9tico de los sistemas GenAI. Aunque la GenAI parece nueva y llamativa, parece estar plagada de los mismos viejos prejuicios.<\/p>\n<\/div><div class=\"fusion-text fusion-text-4\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>A <a href=\"https:\/\/unesdoc.unesco.org\/ark:\/48223\/pf0000388971\" target=\"_blank\" rel=\"noopener\">Informe de la UNESCO<\/a> de marzo de 2024 destaca c\u00f3mo <em>\u201cLos resultados de la IA generativa siguen reflejando una cantidad considerable de sesgos basados en el g\u00e9nero y la sexualidad, asociando nombres femeninos con roles de g\u00e9nero tradicionales, generando contenidos negativos sobre temas homosexuales,...\u201d<\/em>. A pesar de las limitaciones expresas del estudio, \u00e9ste subraya la omnipresencia del sesgo en la GenAI y la necesidad de una mejor supervisi\u00f3n desde la base, como la formaci\u00f3n data utilizada para los modelos, hasta la cima, como la adici\u00f3n de capas para auditor\u00edas y revisiones de seguridad.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-3 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">\u00bfQu\u00e9 son las microagresiones y los prejuicios inconscientes?<\/h2><\/div><div class=\"fusion-text fusion-text-5\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>A lo largo de la historia, las comunidades o grupos marginados han luchado por la igualdad de derechos y la representaci\u00f3n. Entre estas comunidades o grupos se encuentran los women, las personas LGBTQIA+, las personas de color, las personas con discapacidad y muchos m\u00e1s. Aunque cada vez hay una mayor aceptaci\u00f3n e inclusi\u00f3n de la igualdad de derechos, estas comunidades y grupos siguen sufriendo discriminaci\u00f3n a diario por el hecho de ser una minor\u00eda. Estos incidentes pueden ser impulsados accidental o inconscientemente por prejuicios sociales sist\u00e9micos o perpetuados intencionadamente para afirmar la dominaci\u00f3n, lo que, cuando se agrava, puede causar un da\u00f1o psicol\u00f3gico significativo. <a href=\"https:\/\/journals.sagepub.com\/doi\/abs\/10.1177\/0149206313506466?journalCode=joma\" target=\"_blank\" rel=\"noopener\">Investigaci\u00f3n<\/a> sugiere que tales actos sutiles de discriminaci\u00f3n pueden ser \u201cperjudiciales para los objetivos en comparaci\u00f3n con formas m\u00e1s tradicionales y manifiestas de discriminaci\u00f3n\u201d.\u201d<\/p>\n<\/div><div class=\"fusion-text fusion-text-6\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Dado que la mayor\u00eda de los modelos fundacionales se entrenan con data del mundo real procedentes de Internet, perpet\u00faan esta discriminaci\u00f3n que, cuando es desplegada por las empresas, puede infligir da\u00f1os a sus consumidores y audience. Por ejemplo, una empresa de belleza y cosm\u00e9ticos cuya base de consumidores incluya no s\u00f3lo a women sino tambi\u00e9n a la comunidad LGBTQIA+ debe tener en cuenta la inclusi\u00f3n de g\u00e9nero cuando utilice la IA para comunicarse con sus consumidores, lo que de otro modo causar\u00eda alienaci\u00f3n a trav\u00e9s de microagresiones. Por lo tanto, cualquier esfuerzo por construir una IA segura, responsable y \u00e9tica debe incluir una capa para abordar las microagresiones y los prejuicios inconscientes.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-4 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Fiert\u00e9 AI de Artefact: Un asistente GenAI \u00e9tico que protege a los audience y a los consumidores<\/h2><\/div><div class=\"fusion-title title fusion-title-5 fusion-sep-none fusion-title-text fusion-title-size-three\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;\"><h3 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"margin:0;--fontSize:20;line-height:1.2;\">Vea la \u201cFiert\u00e9 demostraci\u00f3n del asistente GenAI<\/h3><\/div><div class=\"fusion-video fusion-youtube\" style=\"--awb-max-width:670px;--awb-max-height:377px;--awb-align-self:center;--awb-width:100%;\"><div class=\"video-shortcode\"><div class=\"fluid-width-video-wrapper\" style=\"padding-top:56.27%;\" ><iframe title=\"Reproductor de video de YouTube 2\" src=\"https:\/\/www.youtube.com\/embed\/AAgCIx_4lao?wmode=transparent&autoplay=0\" width=\"670\" height=\"377\" allowfullscreen allow=\"autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture;\"><\/iframe><\/div><\/div><\/div><div class=\"fusion-text fusion-text-7\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Las microagresiones son acciones cotidianas que, de forma intencionada o no, comunican mensajes hostiles o negativos hacia una persona o grupo bas\u00e1ndose en un aspecto de su identidad. He aqu\u00ed algunos ejemplos: \u201c\u00bfNo eres demasiado joven para ser gerente?\u201d o \u201cVale, Boomer\u201d. \u00c9stas pueden considerarse microagresiones. Puede ser complicado porque a veces las microagresiones son subjetivas, pero el objetivo es concienciar sobre las posibles microagresiones.<\/p>\n<\/div><div class=\"fusion-text fusion-text-8\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Pongamos un ejemplo concreto: Usted es un vendedor y vende ropa. Su mensaje de marketing es que quiere que la gente se sienta feliz cuando lleve uno de sus art\u00edculos. Podr\u00eda decir: \u201cEste vestido le har\u00e1 sentirse como una estrella de cine\u201d. En este caso, la herramienta detectar\u00e1 una microagresi\u00f3n. La categor\u00eda es \u201capariencia f\u00edsica y la comunidad LGBTQ+\u201d. La raz\u00f3n es que asume que la persona a la que se dirige quiere parecerse a una actriz estereotipada, lo que implica un est\u00e1ndar de belleza y una perspectiva heteronormativa. La sugerencia de la asistente GenAI es: \u201cEste vestido te har\u00e1 sentir segura y fabulosa\u201d.\u201d<\/p>\n<\/div><div class=\"fusion-text fusion-text-9\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Tomemos otro ejemplo que puede ver un d\u00eda cualquiera en el trabajo. \u201cHola chicos, despu\u00e9s de reunirnos hoy con el departamento de marketing, necesitamos incorporar a Alex al equipo. \u00bfAlguien puede compartir sus credenciales ya que es franc\u00e9s? Intentemos articular nuestro ingl\u00e9s para que se sienta realmente bienvenido. Adi\u00f3s, y nos vemos esta noche en nuestra noche de hombres. Vamos a ver la nueva pel\u00edcula de acci\u00f3n\u201d.\u201d<\/p>\n<\/div><div class=\"fusion-text fusion-text-10\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Analicemos esto. La herramienta detecta aqu\u00ed m\u00faltiples microagresiones:<\/p>\n<\/div><ul style=\"--awb-iconcolor:var(--awb-color7);--awb-textcolor:var(--awb-color7);--awb-line-height:27.2px;--awb-icon-width:27.2px;--awb-icon-height:27.2px;--awb-icon-margin:11.2px;--awb-content-margin:38.4px;\" class=\"fusion-checklist fusion-checklist-1 fusion-checklist-default type-icons paddingList dark-text\"><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201c\u00bfAlguien puede compartir sus credenciales?\u201d Esto supone que Alex es hombre, lo que podr\u00eda ser cierto. La sugerencia es \u201c\u00bfPuede alguien compartir sus credenciales, por favor?\u201d para ser m\u00e1s inclusivos.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cYa que es franc\u00e9s, intentemos articular nuestro ingl\u00e9s\u201d. Esto supone que los franc\u00f3fonos no entienden bien el ingl\u00e9s, un estereotipo. La sugerencia es: \u201cHagamos un esfuerzo por comunicarnos con claridad y eficacia, teniendo en cuenta la diversidad de nuestras lenguas\u201d.\u201d<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cAdi\u00f3s\u201d se considera que excluye a Alex. La sugerencia es \u201cAdi\u00f3s a todos, pas\u00e9moslo bien esta noche, incluido t\u00fa, Alex\u201d.\u201d<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cNo olvide nuestra noche de hombres esta noche\u201d. La sugerencia es decir: \u201cNo te olvides del evento social de esta noche\u201d para incluir a todos.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>La herramienta detecta que la referencia a la pel\u00edcula de acci\u00f3n puede considerarse una microagresi\u00f3n porque excluye a las personas que no son hombres.<\/p>\n<\/div><\/li><\/ul><div class=\"fusion-text fusion-text-11\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>La herramienta est\u00e1 en su fase beta y siempre queremos incluir a un humano en el bucle, pero el objetivo m\u00e1s importante es aumentar la concienciaci\u00f3n sobre las microagresiones dentro de la organizaci\u00f3n que podemos o no utilizar en el d\u00eda a d\u00eda.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-6 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Fiert\u00e9 AI es una sofisticada herramienta construida sobre el LLM Mixtral<\/h2><\/div><div class=\"fusion-text fusion-text-12\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Afina los par\u00e1metros de Mixtral y emplea la ingenier\u00eda de la inmediatez para detectar, razonar y reformular eficazmente las microagresiones en la comunicaci\u00f3n. Esto garantiza que los usuarios puedan transmitir sus mensajes sin causar da\u00f1o ni ofender.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-7 fusion-sep-none fusion-title-text fusion-title-size-three\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;\"><h3 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"margin:0;--fontSize:20;line-height:1.2;\">Caracter\u00edsticas principales de Fiert\u00e9 AI:<\/h3><\/div><ul style=\"--awb-line-height:27.2px;--awb-icon-width:27.2px;--awb-icon-height:27.2px;--awb-icon-margin:11.2px;--awb-content-margin:38.4px;\" class=\"fusion-checklist fusion-checklist-2 fusion-checklist-default type-icons paddingList dark-text\"><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Soporte multiling\u00fce<\/strong>: Fiert\u00e9 AI es compatible con varios idiomas, incluidos el ingl\u00e9s, el franc\u00e9s y el sueco, lo que la hace accesible a un audience diverso. Esta capacidad multiling\u00fce aumenta su utilidad en diversos entornos, fomentando la inclusi\u00f3n de todos los grupos ling\u00fc\u00edsticos.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>1TP42Juego de ajuste fino<\/strong>: Los conjuntos data utilizados para afinar la IA de Fiert\u00e9 se seleccionan cuidadosamente para garantizar que captan una amplia gama de expresiones y contextos. Esta diversidad en data ayuda a la IA a detectar con precisi\u00f3n las microagresiones y a proporcionar alternativas reformuladas pertinentes.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Resumen del modelo<\/strong>: Fiert\u00e9 AI aprovecha la robusta arquitectura de Mixtral LLM, afinada para tareas espec\u00edficas relacionadas con la detecci\u00f3n y el tratamiento de las microagresiones. Este enfoque a medida mejora el rendimiento del modelo a la hora de promover una comunicaci\u00f3n respetuosa.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Comparaci\u00f3n de rendimiento y costes con GPT<\/strong>: En comparaci\u00f3n con los modelos GPT, Fiert\u00e9 AI ofrece una soluci\u00f3n rentable sin comprometer el rendimiento. Su ingenier\u00eda especializada le permite sobresalir en la detecci\u00f3n de microagresiones, proporcionando un nicho de aplicaci\u00f3n que los modelos generales como el GPT pueden no abordar con la misma eficacia.<\/p>\n<\/div><\/li><\/ul><div class=\"fusion-title title fusion-title-8 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Los guardarra\u00edles LLM existentes para una IA responsable son buenos pero limitados<\/h2><\/div><div class=\"fusion-text fusion-text-13\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>En un tono m\u00e1s positivo, las empresas han reconocido el problema de la parcialidad y la necesidad de construir una IA segura y responsable. Tres ejemplos notables son <a href=\"https:\/\/www.databricks.com\/blog\/implementing-llm-guardrails-safe-and-responsible-generative-ai-deployment-databricks\" target=\"_blank\" rel=\"noopener\">Databricks<\/a>, <a href=\"https:\/\/github.com\/NVIDIA\/NeMo-Guardrails\" target=\"_blank\" rel=\"noopener\">NVIDIA<\/a>, y <a href=\"https:\/\/docs.giskard.ai\/en\/latest\/integrations\/nemoguardrails\/nemoguardrails-integration.html\" target=\"_blank\" rel=\"noopener\">Giskard AI<\/a>, todos los cuales han dado los primeros pasos en la detecci\u00f3n de contenidos nocivos y su consiguiente difusi\u00f3n al p\u00fablico. Los guardarra\u00edles pueden entenderse como controles de seguridad que revisan y definen las interacciones de los usuarios con una aplicaci\u00f3n LLM. La capacidad de forzar que la salida generada est\u00e9 en un formato o contexto espec\u00edfico le permite ser una soluci\u00f3n de primera capa para comprobar la existencia de sesgos.<\/p>\n<\/div><div class=\"fusion-text fusion-text-14\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Seg\u00fan Databricks, los quitamiedos de sus API de modelos de la Fundaci\u00f3n para el Servicio de Modelos pueden actuar como un filtro de seguridad contra cualquier contenido t\u00f3xico o inseguro. El quitamiedos impide que el modelo interact\u00fae con el contenido detectado que se haya considerado inseguro. En tal caso, el modelo responde al usuario indicando expl\u00edcitamente que no puede atender la solicitud.<\/p>\n<\/div><div class=\"fusion-image-element\" style=\"text-align:center;--awb-caption-title-font-family:var(--h2_typography-font-family);--awb-caption-title-font-weight:var(--h2_typography-font-weight);--awb-caption-title-font-style:var(--h2_typography-font-style);--awb-caption-title-size:var(--h2_typography-font-size);--awb-caption-title-transform:var(--h2_typography-text-transform);--awb-caption-title-line-height:var(--h2_typography-line-height);--awb-caption-title-letter-spacing:var(--h2_typography-letter-spacing);\"><span class=\"fusion-imageframe imageframe-none imageframe-1 hover-type-none\"><img decoding=\"async\" width=\"1348\" height=\"1002\" title=\"article NL - fiert\u00e9 AI\" src=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI.png\" data-orig-src=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI.png\" alt class=\"lazyload img-responsive wp-image-118490\" srcset=\"data:image\/svg+xml,%3Csvg%20xmlns%3D%27http%3A%2F%2Fwww.w3.org%2F2000%2Fsvg%27%20width%3D%271348%27%20height%3D%271002%27%20viewBox%3D%270%200%201348%201002%27%3E%3Crect%20width%3D%271348%27%20height%3D%271002%27%20fill-opacity%3D%220%22%2F%3E%3C%2Fsvg%3E\" data-srcset=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-200x149.png 200w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-400x297.png 400w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-600x446.png 600w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-800x595.png 800w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-1200x892.png 1200w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI.png 1348w\" data-sizes=\"auto\" data-orig-sizes=\"(max-width: 640px) 100vw, 1348px\" \/><\/span><\/div><div class=\"fusion-text fusion-text-15\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Databricks, al igual que Giskard AI y otros, afirma que las actuales barreras de seguridad entran en acci\u00f3n al detectar contenidos en seis categor\u00edas principales: Violencia y odio, Contenido sexual, Planes delictivos, Armas de fuego y armas ilegales, Sustancias reguladas y controladas, y Suicidio y autolesiones.<\/p>\n<\/div><div class=\"fusion-text fusion-text-16\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Aunque este trabajo es encomiable e imperativo para el despliegue\/liberaci\u00f3n de los sistemas GenAI al p\u00fablico, su capacidad para abordar el sesgo y la discriminaci\u00f3n cotidianos que impregnan la sociedad humana es limitada. Estos casos de prejuicios y discriminaci\u00f3n inconscientes cotidianos se convierten en microagresiones, que pueden acumularse r\u00e1pidamente hasta causar un da\u00f1o significativo a las personas. Derald Wing Sue, profesor de psicolog\u00eda de la Universidad de Columbia, describe mejor la microagresi\u00f3n como <a href=\"https:\/\/www.scientificamerican.com\/article\/microaggressions-death-by-a-thousand-cuts\/\" target=\"_blank\" rel=\"noopener\">muerte por mil cortes<\/a>.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-9 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Enfoque m\u00faltiple para una IA segura, responsable y \u00e9tica<\/h2><\/div><div class=\"fusion-text fusion-text-17\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>La IA ha llegado para quedarse y tiene el potencial de beneficiar y elevar a millones de personas. Sin embargo, es nuestra responsabilidad colectiva garantizar la adopci\u00f3n segura, transparente y responsable de la IA.<\/p>\n<p>Un elemento central para la adopci\u00f3n es la creaci\u00f3n de confianza en los sistemas de IA, que se consigue mediante un enfoque m\u00faltiple que va desde los guardarra\u00edles hasta las capas LLM de c\u00f3digo abierto y la supervisi\u00f3n humana continua. S\u00f3lo a trav\u00e9s de esta implementaci\u00f3n y colaboraci\u00f3n colectivas podremos garantizar que los beneficios de la IA se compartan equitativamente en todo el mundo.<\/p>\n<\/div><\/div><\/div><\/div><\/article><\/p>","protected":false},"excerpt":{"rendered":"<p>Una serie de pol\u00e9micas en torno a los resultados de los modelos de IA generativa ha impulsado la defensa de una supervisi\u00f3n \u00e9tica y una gobernanza de la IA. Si bien se ha prestado mayor atenci\u00f3n a los sesgos expl\u00edcitos, la violencia y la discriminaci\u00f3n, no ha ocurrido lo mismo con los sesgos impl\u00edcitos y las microagresiones. En v\u00edsperas del Mes del Orgullo de 2024, Artefact lanz\u00f3 Fiert\u00e9 AI, un asistente \u00e9tico de c\u00f3digo abierto basado en un modelo de lenguaje grande (LLM) capaz de detectar y reformular las microagresiones y los sesgos inconscientes en todos los modelos de IA generativa.<br \/>\nEn Artefact, realmente creemos que \u201cAI is about people\u201d. Esta ha sido nuestra principal motivaci\u00f3n a la hora de crear Fiert\u00e9 AI. \u201cFiert\u00e9\u201d significa \u201corgullo\u201d en franc\u00e9s y representa la lucha constante de la comunidad LGBTQIA+ por la igualdad en la sociedad. <\/p>","protected":false},"featured_media":118491,"parent":0,"template":"","meta":{"_acf_changed":false,"ep_exclude_from_search":false},"blog-category":[21940],"blog-language":[],"class_list":["post-118489","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-generative-ai"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/blog\/118489","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/types\/blog"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/media\/118491"}],"wp:attachment":[{"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/media?parent=118489"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/blog-category?post=118489"},{"taxonomy":"blog-language","embeddable":true,"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/blog-language?post=118489"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}