	{"id":118489,"date":"2024-06-26T16:35:03","date_gmt":"2024-06-26T15:35:03","guid":{"rendered":"https:\/\/www.artefact.com\/?post_type=blog&#038;p=118489"},"modified":"2024-09-20T17:46:06","modified_gmt":"2024-09-20T16:46:06","slug":"fierte-ai-the-open-source-genai-assistant-that-protects-against-microaggressions-and-reduces-bias","status":"publish","type":"blog","link":"https:\/\/www.artefact.com\/br\/blog\/fierte-ai-the-open-source-genai-assistant-that-protects-against-microaggressions-and-reduces-bias\/","title":{"rendered":"Fiert\u00e9 AI: o assistente GenAI de c\u00f3digo aberto que protege contra microagress\u00f5es e reduz preconceitos"},"content":{"rendered":"<p><div class=\"fusion-fullwidth fullwidth-box fusion-builder-row-1 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling article-author\" style=\"--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:#ffffff;--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-0 fusion_builder_column_1_2 1_2 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:50%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:50%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-title title fusion-title-1 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-margin-bottom-small:8px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"margin:0;--fontSize:50;line-height:1.2;\">Autor<\/h2><\/div><img decoding=\"async\" src=\"data:image\/svg+xml,%3Csvg%20xmlns%3D%27http%3A%2F%2Fwww.w3.org%2F2000%2Fsvg%27%20width%3D%27150%27%20height%3D%270%27%20viewBox%3D%270%200%20150%200%27%3E%3Crect%20width%3D%27150%27%20height%3D%270%27%20fill-opacity%3D%220%22%2F%3E%3C%2Fsvg%3E\" data-orig-src=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/04\/Siddharth-Mohan-rond.png\" alt=\"Image\" class=\"lazyload artefact-elegant-image align-left article-author-image\" style=\"width: 150px; border-radius: 54% 46% 77% 23% \/ 74% 40% 60% 26%; overflow: hidden;\" width=\"150\" height=\"auto\" \/><div class=\"fusion-title title fusion-title-2 fusion-sep-none fusion-title-text fusion-title-size-three article-author-name-title\" style=\"--awb-text-color:var(--awb-color7);--awb-margin-bottom-small:8px;--awb-font-size:18px;\"><h3 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;Josefin Sans&quot;;font-style:normal;font-weight:600;margin:0;font-size:1em;--fontSize:18;line-height:1.5;\">Siddharth Mohan<\/h3><\/div><div class=\"fusion-text fusion-text-1 article-author-description\" style=\"--awb-font-size:14px;--awb-line-height:1.6;--awb-letter-spacing:2px;--awb-text-transform:uppercase;--awb-text-color:var(--awb-color7);--awb-text-font-family:&quot;Roboto&quot;;--awb-text-font-style:normal;--awb-text-font-weight:400;\"><p>Diretor Data Ci\u00eancia no Artefact Norte da Europa<\/p>\n<\/div><\/div><\/div><\/div><\/div><div class=\"fusion-fullwidth fullwidth-box fusion-builder-row-2 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling\" style=\"--link_color: var(--awb-color6);--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:var(--awb-color1);--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-1 fusion_builder_column_1_1 1_1 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:100%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:100%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-text fusion-text-2 description\" style=\"--awb-text-color:var(--awb-color5);--awb-text-font-family:&quot;PT Serif&quot;;--awb-text-font-style:normal;--awb-text-font-weight:400;\"><p>Uma s\u00e9rie de controv\u00e9rsias em torno dos resultados dos modelos de GenAI aumentou a defesa da supervis\u00e3o \u00e9tica e da governan\u00e7a da IA. Embora o preconceito expl\u00edcito, a viol\u00eancia e a discrimina\u00e7\u00e3o tenham avan\u00e7ado, o preconceito impl\u00edcito e as microagress\u00f5es n\u00e3o avan\u00e7aram. <\/p>\n<p>Na v\u00e9spera do Pride Month 2024, o Artefact lan\u00e7ou o Fiert\u00e9 AI, um assistente \u00e9tico de LLM de c\u00f3digo aberto que pode detectar e reformular microagress\u00f5es e preconceitos inconscientes em todos os modelos GenAI.<br \/>\nNa Artefact, acreditamos verdadeiramente que \u201cAI is about people\u201d. Essa foi a nossa principal motiva\u00e7\u00e3o para criar a Fiert\u00e9 AI. \u201cFiert\u00e9\u201d significa \u201corgulho\u201d em franc\u00eas e representa a luta cont\u00ednua da comunidade LGBTQIA+ pela igualdade na sociedade. <\/p>\n<\/div><\/div><\/div><\/div><\/div><article class=\"fusion-fullwidth fullwidth-box fusion-builder-row-3 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling\" style=\"--link_color: var(--awb-color6);--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:var(--awb-color1);--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-justify-content-center fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-2 fusion_builder_column_1_1 1_1 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:100%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:100%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-video fusion-youtube\" style=\"--awb-max-width:670px;--awb-max-height:377px;--awb-align-self:center;--awb-width:100%;\"><div class=\"video-shortcode\"><div class=\"fluid-width-video-wrapper\" style=\"padding-top:56.27%;\" ><iframe title=\"Reprodutor de v\u00eddeo do YouTube 1\" src=\"https:\/\/www.youtube.com\/embed\/AAgCIx_4lao?wmode=transparent&autoplay=0\" width=\"670\" height=\"377\" allowfullscreen allow=\"autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture;\"><\/iframe><\/div><\/div><\/div><div class=\"fusion-text fusion-text-3\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>A GenAI est\u00e1 liberando a criatividade e a inova\u00e7\u00e3o em grande escala, com o potencial de impactar positivamente a vida de milh\u00f5es de pessoas em todo o mundo. No entanto, uma s\u00e9rie de controv\u00e9rsias \u00e9ticas levantou preocupa\u00e7\u00f5es sobre a implanta\u00e7\u00e3o segura e \u00e9tica dos sistemas GenAI. Embora a GenAI pare\u00e7a nova e chamativa, ela parece estar repleta dos mesmos velhos preconceitos.<\/p>\n<\/div><div class=\"fusion-text fusion-text-4\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>A <a href=\"https:\/\/unesdoc.unesco.org\/ark:\/48223\/pf0000388971\" target=\"_blank\" rel=\"noopener\">Relat\u00f3rio da UNESCO<\/a> de mar\u00e7o de 2024 destaca como <em>\u201cOs resultados da IA generativa ainda refletem uma quantidade consider\u00e1vel de preconceitos baseados em g\u00eanero e sexualidade, associando nomes femininos a pap\u00e9is tradicionais de g\u00eanero, gerando conte\u00fado negativo sobre assuntos gays,...\u201d<\/em>. Apesar das limita\u00e7\u00f5es expressas no estudo, ele ressalta a abrang\u00eancia do vi\u00e9s na GenAI e a necessidade de uma melhor supervis\u00e3o desde o n\u00edvel b\u00e1sico, como o treinamento data usado para os modelos, at\u00e9 o n\u00edvel superior, como a adi\u00e7\u00e3o de camadas para auditorias e revis\u00f5es de seguran\u00e7a.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-3 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">O que s\u00e3o microagress\u00f5es e preconceitos inconscientes?<\/h2><\/div><div class=\"fusion-text fusion-text-5\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Ao longo da hist\u00f3ria, comunidades ou grupos marginalizados t\u00eam lutado por direitos iguais e representa\u00e7\u00e3o. Essas comunidades ou grupos representam women, pessoas LGBTQIA+, pessoas de cor, pessoas com defici\u00eancia e muitos outros. Embora haja uma crescente aceita\u00e7\u00e3o e inclus\u00e3o de direitos iguais, essas comunidades e grupos ainda enfrentam discrimina\u00e7\u00e3o cotidiana por serem minoria. Esses incidentes podem ser acidentalmente\/inconscientemente motivados por preconceitos sist\u00eamicos da sociedade ou intencionalmente perpetuados para afirmar o dom\u00ednio, o que, quando combinado, pode causar danos psicol\u00f3gicos significativos. <a href=\"https:\/\/journals.sagepub.com\/doi\/abs\/10.1177\/0149206313506466?journalCode=joma\" target=\"_blank\" rel=\"noopener\">Pesquisa<\/a> sugere que esses atos sutis de discrimina\u00e7\u00e3o podem ser \u201cprejudiciais aos alvos em compara\u00e7\u00e3o com formas mais tradicionais e evidentes de discrimina\u00e7\u00e3o\u201d.\u201d<\/p>\n<\/div><div class=\"fusion-text fusion-text-6\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Como a maioria dos modelos fundamentais \u00e9 treinada em data do mundo real da Internet, eles perpetuam essa discrimina\u00e7\u00e3o que, quando implantada por empresas, pode causar danos a seus consumidores e audiences. Por exemplo, uma empresa de beleza e cosm\u00e9ticos cuja base de consumidores inclui n\u00e3o apenas women, mas tamb\u00e9m a comunidade LGBTQIA+, deve estar atenta \u00e0 inclus\u00e3o de g\u00eanero ao usar IA para se comunicar com seus consumidores, o que, de outra forma, causaria aliena\u00e7\u00e3o por meio de microagress\u00f5es. Portanto, qualquer esfor\u00e7o para criar uma IA segura, respons\u00e1vel e \u00e9tica deve incluir uma camada para lidar com microagress\u00f5es e preconceitos inconscientes.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-4 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Fiert\u00e9 AI by Artefact: um assistente GenAI \u00e9tico que protege os audiences e os consumidores<\/h2><\/div><div class=\"fusion-title title fusion-title-5 fusion-sep-none fusion-title-text fusion-title-size-three\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;\"><h3 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"margin:0;--fontSize:20;line-height:1.2;\">Assista \u00e0 demonstra\u00e7\u00e3o do assistente \u201cFiert\u00e9\u201d Demonstra\u00e7\u00e3o do assistente GenAI<\/h3><\/div><div class=\"fusion-video fusion-youtube\" style=\"--awb-max-width:670px;--awb-max-height:377px;--awb-align-self:center;--awb-width:100%;\"><div class=\"video-shortcode\"><div class=\"fluid-width-video-wrapper\" style=\"padding-top:56.27%;\" ><iframe title=\"Reprodutor de v\u00eddeo do YouTube 2\" src=\"https:\/\/www.youtube.com\/embed\/AAgCIx_4lao?wmode=transparent&autoplay=0\" width=\"670\" height=\"377\" allowfullscreen allow=\"autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture;\"><\/iframe><\/div><\/div><\/div><div class=\"fusion-text fusion-text-7\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Microagress\u00f5es s\u00e3o a\u00e7\u00f5es cotidianas que, intencionalmente ou n\u00e3o, comunicam mensagens hostis ou negativas a uma pessoa ou grupo com base em um aspecto de sua identidade. Aqui est\u00e3o alguns exemplos: \u201cO senhor n\u00e3o \u00e9 muito jovem para ser gerente?\u201d ou \u201cOk, Boomer\u201d. Essas podem ser consideradas microagress\u00f5es. Pode ser complicado porque \u00e0s vezes as microagress\u00f5es s\u00e3o subjetivas, mas o objetivo \u00e9 aumentar a conscientiza\u00e7\u00e3o sobre poss\u00edveis microagress\u00f5es.<\/p>\n<\/div><div class=\"fusion-text fusion-text-8\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Vamos dar um exemplo concreto: O senhor \u00e9 um profissional de marketing e vende roupas. Sua mensagem de marketing \u00e9 que o senhor quer fazer com que as pessoas se sintam felizes quando usam um de seus itens. O senhor poderia dizer: \u201cEste vestido far\u00e1 com que a senhora se sinta como uma estrela de cinema\u201d. Nesse caso, a ferramenta detectar\u00e1 uma microagress\u00e3o. A categoria \u00e9 \u201capar\u00eancia f\u00edsica e a comunidade LGBTQ+\u201d. O motivo \u00e9 que ela sup\u00f5e que a pessoa a quem se dirige quer se parecer com uma atriz estereotipada, o que implica um padr\u00e3o de beleza e uma perspectiva heteronormativa. A sugest\u00e3o do assistente do GenAI \u00e9: \u201cEsse vestido far\u00e1 com que a senhora se sinta confiante e fabulosa\u201d.\u201d<\/p>\n<\/div><div class=\"fusion-text fusion-text-9\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Vejamos outro exemplo que o senhor pode ver em qualquer dia de trabalho. \u201cPessoal, depois de nos reunirmos com o departamento de marketing hoje, precisamos adicionar o Alex \u00e0 equipe. Algu\u00e9m pode compartilhar suas credenciais, j\u00e1 que ele \u00e9 franc\u00eas? Vamos tentar articular nosso ingl\u00eas para que ele realmente se sinta bem-vindo. Adeus, e vejo o senhor na nossa noite masculina hoje. Vamos ver o novo filme de a\u00e7\u00e3o\u201d.\u201d<\/p>\n<\/div><div class=\"fusion-text fusion-text-10\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Vamos analisar isso. A ferramenta detecta v\u00e1rias microagress\u00f5es aqui:<\/p>\n<\/div><ul style=\"--awb-iconcolor:var(--awb-color7);--awb-textcolor:var(--awb-color7);--awb-line-height:27.2px;--awb-icon-width:27.2px;--awb-icon-height:27.2px;--awb-icon-margin:11.2px;--awb-content-margin:38.4px;\" class=\"fusion-checklist fusion-checklist-1 fusion-checklist-default type-icons paddingList dark-text\"><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cAlgu\u00e9m pode compartilhar suas credenciais?\u201d Isso pressup\u00f5e que Alex seja homem, o que pode ser verdade. A sugest\u00e3o \u00e9 \u201cCan anyone share their credentials, please?\u201d (Algu\u00e9m pode compartilhar suas credenciais, por favor?) para ser mais inclusivo.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cJ\u00e1 que ele \u00e9 franc\u00eas, vamos tentar articular nosso ingl\u00eas\u201d. Isso pressup\u00f5e que os falantes de franc\u00eas n\u00e3o entendem bem o ingl\u00eas, o que \u00e9 um estere\u00f3tipo. A sugest\u00e3o \u00e9: \u201cVamos nos esfor\u00e7ar para nos comunicar de forma clara e eficaz, considerando nosso grupo diversificado de idiomas\u201d.\u201d<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cBye-bye\u201d \u00e9 visto como uma exclus\u00e3o de Alex. A sugest\u00e3o \u00e9 \u201cGoodbye everyone, let's all have a great time tonight, including you, Alex\u201d.\u201d<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cO senhor n\u00e3o se esque\u00e7a da nossa noite dos homens hoje \u00e0 noite\u201d. A sugest\u00e3o \u00e9 dizer: \u201cN\u00e3o se esque\u00e7a do evento social de hoje \u00e0 noite\u201d para incluir todos.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>A ferramenta detecta que a refer\u00eancia ao filme de a\u00e7\u00e3o pode ser vista como uma microagress\u00e3o porque exclui pessoas que n\u00e3o s\u00e3o homens.<\/p>\n<\/div><\/li><\/ul><div class=\"fusion-text fusion-text-11\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>A ferramenta est\u00e1 em sua fase beta e sempre queremos incluir um ser humano no circuito, mas o objetivo mais importante \u00e9 aumentar a conscientiza\u00e7\u00e3o sobre as microagress\u00f5es dentro da organiza\u00e7\u00e3o que podemos ou n\u00e3o usar no dia a dia.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-6 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">O Fiert\u00e9 AI \u00e9 uma ferramenta sofisticada criada com base no LLM Mixtral<\/h2><\/div><div class=\"fusion-text fusion-text-12\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Ele ajusta os par\u00e2metros do Mixtral e emprega engenharia imediata para detectar, raciocinar e reformular com efic\u00e1cia as microagress\u00f5es na comunica\u00e7\u00e3o. Isso garante que os usu\u00e1rios possam transmitir suas mensagens sem causar danos ou ofensas.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-7 fusion-sep-none fusion-title-text fusion-title-size-three\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;\"><h3 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"margin:0;--fontSize:20;line-height:1.2;\">Principais recursos do Fiert\u00e9 AI:<\/h3><\/div><ul style=\"--awb-line-height:27.2px;--awb-icon-width:27.2px;--awb-icon-height:27.2px;--awb-icon-margin:11.2px;--awb-content-margin:38.4px;\" class=\"fusion-checklist fusion-checklist-2 fusion-checklist-default type-icons paddingList dark-text\"><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Suporte multil\u00edngue<\/strong>: O Fiert\u00e9 AI \u00e9 compat\u00edvel com v\u00e1rios idiomas, incluindo ingl\u00eas, franc\u00eas e sueco, o que o torna acess\u00edvel a um p\u00fablico diversificado audience. Esse recurso multil\u00edngue aumenta sua utilidade em diversos ambientes, promovendo a inclus\u00e3o de grupos lingu\u00edsticos.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Dataset para ajuste fino<\/strong>: Os conjuntos de data usados para o ajuste fino da IA da Fiert\u00e9 s\u00e3o cuidadosamente selecionados para garantir que capturem uma ampla variedade de express\u00f5es e contextos. Essa diversidade no data ajuda a IA a detectar microagress\u00f5es com precis\u00e3o e a fornecer alternativas reformuladas relevantes.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Vis\u00e3o geral do modelo<\/strong>: O Fiert\u00e9 AI aproveita a arquitetura robusta do Mixtral LLM, ajustada para tarefas espec\u00edficas relacionadas \u00e0 detec\u00e7\u00e3o e ao tratamento de microagress\u00f5es. Essa abordagem personalizada aprimora o desempenho do modelo na promo\u00e7\u00e3o de uma comunica\u00e7\u00e3o respeitosa.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Compara\u00e7\u00e3o de desempenho e custo com a GPT<\/strong>: Em compara\u00e7\u00e3o com os modelos GPT, o Fiert\u00e9 AI oferece uma solu\u00e7\u00e3o econ\u00f4mica sem comprometer o desempenho. Sua engenharia especializada permite que ele se sobressaia na detec\u00e7\u00e3o de microagress\u00f5es, fornecendo uma aplica\u00e7\u00e3o de nicho que os modelos gerais, como o GPT, podem n\u00e3o abordar com a mesma efic\u00e1cia.<\/p>\n<\/div><\/li><\/ul><div class=\"fusion-title title fusion-title-8 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">As prote\u00e7\u00f5es existentes no LLM para a IA respons\u00e1vel s\u00e3o boas, mas limitadas<\/h2><\/div><div class=\"fusion-text fusion-text-13\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Em uma nota mais positiva, as empresas reconheceram o problema do preconceito e a necessidade de criar uma IA segura e respons\u00e1vel. Tr\u00eas men\u00e7\u00f5es not\u00e1veis v\u00e3o para <a href=\"https:\/\/www.databricks.com\/blog\/implementing-llm-guardrails-safe-and-responsible-generative-ai-deployment-databricks\" target=\"_blank\" rel=\"noopener\">Databricks<\/a>, <a href=\"https:\/\/github.com\/NVIDIA\/NeMo-Guardrails\" target=\"_blank\" rel=\"noopener\">NVIDIA<\/a>, e <a href=\"https:\/\/docs.giskard.ai\/en\/latest\/integrations\/nemoguardrails\/nemoguardrails-integration.html\" target=\"_blank\" rel=\"noopener\">Giskard AI<\/a>, que deram os primeiros passos na detec\u00e7\u00e3o de conte\u00fado nocivo e sua consequente difus\u00e3o para o p\u00fablico. Os guardrails podem ser entendidos como controles de seguran\u00e7a que analisam e definem as intera\u00e7\u00f5es do usu\u00e1rio com um aplicativo LLM. A capacidade de for\u00e7ar a sa\u00edda gerada a estar em um formato ou contexto espec\u00edfico permite que ele seja uma solu\u00e7\u00e3o de primeira camada para verificar a exist\u00eancia de vieses.<\/p>\n<\/div><div class=\"fusion-text fusion-text-14\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>De acordo com a Databricks, os guardrails em suas APIs Model Serving Foundation Model podem atuar como um filtro de seguran\u00e7a contra qualquer conte\u00fado t\u00f3xico ou inseguro. O guardrail impede que o modelo interaja com o conte\u00fado detectado que foi considerado inseguro. Nesse caso, o modelo responde ao usu\u00e1rio declarando explicitamente que n\u00e3o pode ajudar com a solicita\u00e7\u00e3o.<\/p>\n<\/div><div class=\"fusion-image-element\" style=\"text-align:center;--awb-caption-title-font-family:var(--h2_typography-font-family);--awb-caption-title-font-weight:var(--h2_typography-font-weight);--awb-caption-title-font-style:var(--h2_typography-font-style);--awb-caption-title-size:var(--h2_typography-font-size);--awb-caption-title-transform:var(--h2_typography-text-transform);--awb-caption-title-line-height:var(--h2_typography-line-height);--awb-caption-title-letter-spacing:var(--h2_typography-letter-spacing);\"><span class=\"fusion-imageframe imageframe-none imageframe-1 hover-type-none\"><img decoding=\"async\" width=\"1348\" height=\"1002\" title=\"article NL - fiert\u00e9 AI\" src=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI.png\" data-orig-src=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI.png\" alt class=\"lazyload img-responsive wp-image-118490\" srcset=\"data:image\/svg+xml,%3Csvg%20xmlns%3D%27http%3A%2F%2Fwww.w3.org%2F2000%2Fsvg%27%20width%3D%271348%27%20height%3D%271002%27%20viewBox%3D%270%200%201348%201002%27%3E%3Crect%20width%3D%271348%27%20height%3D%271002%27%20fill-opacity%3D%220%22%2F%3E%3C%2Fsvg%3E\" data-srcset=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-200x149.png 200w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-400x297.png 400w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-600x446.png 600w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-800x595.png 800w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-1200x892.png 1200w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI.png 1348w\" data-sizes=\"auto\" data-orig-sizes=\"(max-width: 640px) 100vw, 1348px\" \/><\/span><\/div><div class=\"fusion-text fusion-text-15\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Databricks, assim como a Giskard AI e outros, afirma que as grades de prote\u00e7\u00e3o atuais entram em a\u00e7\u00e3o ao detectar conte\u00fado em seis categorias principais: Viol\u00eancia e \u00d3dio, Conte\u00fado Sexual, Planejamento Criminal, Armas e Armas Ilegais, Subst\u00e2ncias Regulamentadas e Controladas e Suic\u00eddio e Autoagress\u00e3o.<\/p>\n<\/div><div class=\"fusion-text fusion-text-16\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Embora esse trabalho seja louv\u00e1vel e imperativo para a implanta\u00e7\u00e3o\/libera\u00e7\u00e3o de sistemas GenAI para o p\u00fablico, eles s\u00e3o limitados em sua capacidade de lidar com o preconceito e a discrimina\u00e7\u00e3o cotidianos que permeiam a sociedade humana. Essas inst\u00e2ncias de preconceito e discrimina\u00e7\u00e3o inconscientes cotidianos tornam-se microagress\u00f5es, que podem se acumular rapidamente e causar danos significativos aos indiv\u00edduos. Derald Wing Sue, professor de psicologia da Universidade de Columbia, descreve melhor a microagress\u00e3o como <a href=\"https:\/\/www.scientificamerican.com\/article\/microaggressions-death-by-a-thousand-cuts\/\" target=\"_blank\" rel=\"noopener\">morte por mil cortes<\/a>.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-9 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Abordagem multifacetada para uma IA segura, respons\u00e1vel e \u00e9tica<\/h2><\/div><div class=\"fusion-text fusion-text-17\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>A IA veio para ficar e tem o potencial de beneficiar e elevar milh\u00f5es de pessoas. No entanto, \u00e9 nossa responsabilidade coletiva garantir a ado\u00e7\u00e3o segura, transparente e respons\u00e1vel da IA.<\/p>\n<p>O ponto central para a ado\u00e7\u00e3o \u00e9 criar confian\u00e7a nos sistemas de IA, o que \u00e9 alcan\u00e7ado por meio de uma abordagem multifacetada que vai desde prote\u00e7\u00f5es at\u00e9 camadas de LLM de c\u00f3digo aberto e supervis\u00e3o humana cont\u00ednua. Somente por meio dessa implementa\u00e7\u00e3o e colabora\u00e7\u00e3o coletivas poderemos garantir que os benef\u00edcios da IA sejam compartilhados de forma equitativa em todo o mundo.<\/p>\n<\/div><\/div><\/div><\/div><\/article><\/p>","protected":false},"excerpt":{"rendered":"<p>Uma s\u00e9rie de controv\u00e9rsias em torno dos resultados dos modelos de IA de Gera\u00e7\u00e3o (GenAI) tem intensificado a defesa da supervis\u00e3o \u00e9tica e da governan\u00e7a da IA. Embora o preconceito expl\u00edcito, a viol\u00eancia e a discrimina\u00e7\u00e3o tenham ganhado destaque, o mesmo n\u00e3o ocorreu com o preconceito impl\u00edcito e as microagress\u00f5es. Na v\u00e9spera do M\u00eas do Orgulho de 2024, a Artefact lan\u00e7ou o Fiert\u00e9 AI, um assistente LLM \u00e9tico de c\u00f3digo aberto capaz de detectar e reformular microagress\u00f5es e preconceitos inconscientes em todos os modelos de IA de Gera\u00e7\u00e3o (GenAI).<br \/>\nNa Artefact, acreditamos verdadeiramente que \u201cAI is about people\u201d. Essa foi a nossa principal motiva\u00e7\u00e3o para criar a Fiert\u00e9 AI. \u201cFiert\u00e9\u201d significa \u201corgulho\u201d em franc\u00eas e representa a luta cont\u00ednua da comunidade LGBTQIA+ pela igualdade na sociedade. <\/p>","protected":false},"featured_media":118491,"parent":0,"template":"","meta":{"_acf_changed":false,"ep_exclude_from_search":false},"blog-category":[21940],"blog-language":[],"class_list":["post-118489","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-generative-ai"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/blog\/118489","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/types\/blog"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/media\/118491"}],"wp:attachment":[{"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/media?parent=118489"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/blog-category?post=118489"},{"taxonomy":"blog-language","embeddable":true,"href":"https:\/\/www.artefact.com\/br\/wp-json\/wp\/v2\/blog-language?post=118489"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}