{"id":118489,"date":"2024-06-26T16:35:03","date_gmt":"2024-06-26T15:35:03","guid":{"rendered":"https:\/\/www.artefact.com\/?post_type=blog&#038;p=118489"},"modified":"2024-09-20T17:46:06","modified_gmt":"2024-09-20T16:46:06","slug":"fierte-ai-the-open-source-genai-assistant-that-protects-against-microaggressions-and-reduces-bias","status":"publish","type":"blog","link":"https:\/\/www.artefact.com\/de\/blog\/fierte-ai-the-open-source-genai-assistant-that-protects-against-microaggressions-and-reduces-bias\/","title":{"rendered":"Fiert\u00e9 AI: Der Open-Source GenAI-Assistent, der vor Mikroaggressionen sch\u00fctzt und Vorurteile abbaut"},"content":{"rendered":"<p><div class=\"fusion-fullwidth fullwidth-box fusion-builder-row-1 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling article-author\" style=\"--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:#ffffff;--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-0 fusion_builder_column_1_2 1_2 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:50%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:50%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-title title fusion-title-1 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-margin-bottom-small:8px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"margin:0;--fontSize:50;line-height:1.2;\">Autor<\/h2><\/div><img decoding=\"async\" src=\"data:image\/svg+xml,%3Csvg%20xmlns%3D%27http%3A%2F%2Fwww.w3.org%2F2000%2Fsvg%27%20width%3D%27150%27%20height%3D%270%27%20viewBox%3D%270%200%20150%200%27%3E%3Crect%20width%3D%27150%27%20height%3D%270%27%20fill-opacity%3D%220%22%2F%3E%3C%2Fsvg%3E\" data-orig-src=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/04\/Siddharth-Mohan-rond.png\" alt=\"Image\" class=\"lazyload artefact-elegant-image align-left article-author-image\" style=\"width: 150px; border-radius: 54% 46% 77% 23% \/ 74% 40% 60% 26%; overflow: hidden;\" width=\"150\" height=\"auto\" \/><div class=\"fusion-title title fusion-title-2 fusion-sep-none fusion-title-text fusion-title-size-three article-author-name-title\" style=\"--awb-text-color:var(--awb-color7);--awb-margin-bottom-small:8px;--awb-font-size:18px;\"><h3 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;Josefin Sans&quot;;font-style:normal;font-weight:600;margin:0;font-size:1em;--fontSize:18;line-height:1.5;\">Siddharth Mohan<\/h3><\/div><div class=\"fusion-text fusion-text-1 article-author-description\" style=\"--awb-font-size:14px;--awb-line-height:1.6;--awb-letter-spacing:2px;--awb-text-transform:uppercase;--awb-text-color:var(--awb-color7);--awb-text-font-family:&quot;Roboto&quot;;--awb-text-font-style:normal;--awb-text-font-weight:400;\"><p>Direktor Data Wissenschaft bei Artefact Nordeuropa<\/p>\n<\/div><\/div><\/div><\/div><\/div><div class=\"fusion-fullwidth fullwidth-box fusion-builder-row-2 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling\" style=\"--link_color: var(--awb-color6);--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:var(--awb-color1);--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-1 fusion_builder_column_1_1 1_1 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:100%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:100%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-text fusion-text-2 description\" style=\"--awb-text-color:var(--awb-color5);--awb-text-font-family:&quot;PT Serif&quot;;--awb-text-font-style:normal;--awb-text-font-weight:400;\"><p>Eine Reihe von Kontroversen um die Ergebnisse von GenAI-Modellen hat die Forderung nach einer ethischen \u00dcberwachung und Steuerung von KI verst\u00e4rkt. W\u00e4hrend explizite Voreingenommenheit, Gewalt und Diskriminierung Fortschritte gemacht haben, sind implizite Voreingenommenheit und Mikroaggressionen noch nicht so weit. <\/p>\n<p>Am Vorabend des Pride Month 2024 ver\u00f6ffentlichte Artefact Fiert\u00e9 AI, einen ethischen Open Source LLM-Assistenten, der Mikroaggressionen und unbewusste Voreingenommenheit in allen GenAI-Modellen erkennen und umformulieren kann.<br \/>\nWir bei Artefact glauben fest daran, dass \u201cAI is about people\u201d. Das war unsere Hauptmotivation bei der Entwicklung von Fiert\u00e9 AI. \u201cFiert\u00e9\u201d bedeutet auf Franz\u00f6sisch \u201cStolz\u201d und steht f\u00fcr den st\u00e4ndigen Kampf der LGBTQIA+-Gemeinschaft um Gleichberechtigung in der Gesellschaft. <\/p>\n<\/div><\/div><\/div><\/div><\/div><article class=\"fusion-fullwidth fullwidth-box fusion-builder-row-3 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling\" style=\"--link_color: var(--awb-color6);--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:var(--awb-color1);--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-justify-content-center fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-2 fusion_builder_column_1_1 1_1 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:100%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:100%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-video fusion-youtube\" style=\"--awb-max-width:670px;--awb-max-height:377px;--awb-align-self:center;--awb-width:100%;\"><div class=\"video-shortcode\"><div class=\"fluid-width-video-wrapper\" style=\"padding-top:56.27%;\" ><iframe title=\"YouTube-Videoplayer 1\" src=\"https:\/\/www.youtube.com\/embed\/AAgCIx_4lao?wmode=transparent&autoplay=0\" width=\"670\" height=\"377\" allowfullscreen allow=\"autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture;\"><\/iframe><\/div><\/div><\/div><div class=\"fusion-text fusion-text-3\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>GenAI setzt Kreativit\u00e4t und Innovation in gro\u00dfem Umfang frei und hat das Potenzial, das Leben von Millionen Menschen auf der ganzen Welt positiv zu beeinflussen. Eine Reihe von ethischen Kontroversen hat jedoch Bedenken hinsichtlich des sicheren und ethischen Einsatzes von GenAI-Systemen aufgeworfen. W\u00e4hrend GenAI neu und auff\u00e4llig erscheint, scheint sie mit den gleichen alten Vorurteilen behaftet zu sein.<\/p>\n<\/div><div class=\"fusion-text fusion-text-4\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>A <a href=\"https:\/\/unesdoc.unesco.org\/ark:\/48223\/pf0000388971\" target=\"_blank\" rel=\"noopener\">UNESCO-Bericht<\/a> vom M\u00e4rz 2024 zeigt, wie <em>\u201cDie Ergebnisse der generativen KI spiegeln immer noch ein betr\u00e4chtliches Ma\u00df an geschlechts- und sexualit\u00e4tsbezogener Voreingenommenheit wider, indem sie weibliche Namen mit traditionellen Geschlechterrollen assoziieren, negative Inhalte \u00fcber homosexuelle Themen generieren,...\u201d<\/em>. Trotz der ausdr\u00fccklichen Einschr\u00e4nkungen der Studie unterstreicht sie die Allgegenw\u00e4rtigkeit von Verzerrungen in GenAI und die Notwendigkeit einer besseren \u00dcberwachung von der Basis, wie z.B. das Training data, das f\u00fcr die Modelle verwendet wird, bis hin zur Spitze, wie z.B. zus\u00e4tzliche Ebenen f\u00fcr Audits und Sicherheits\u00fcberpr\u00fcfungen.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-3 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Was sind Mikroaggressionen und unbewusste Vorurteile?<\/h2><\/div><div class=\"fusion-text fusion-text-5\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Im Laufe der Geschichte haben marginalisierte Gemeinschaften oder Gruppen f\u00fcr gleiche Rechte und Vertretung gek\u00e4mpft. Zu diesen Gemeinschaften oder Gruppen geh\u00f6ren women, LGBTQIA+ Menschen, People of Color, Menschen mit Behinderungen und viele mehr. Auch wenn die Akzeptanz und Einbeziehung gleicher Rechte zunimmt, sind diese Gemeinschaften und Gruppen immer noch t\u00e4glich mit Diskriminierung konfrontiert, weil sie eine Minderheit sind. Diese Vorf\u00e4lle k\u00f6nnen versehentlich\/unbewusst durch systemische gesellschaftliche Voreingenommenheit ausgel\u00f6st oder absichtlich aufrechterhalten werden, um Dominanz durchzusetzen, was in der Summe zu erheblichen psychologischen Sch\u00e4den f\u00fchren kann. <a href=\"https:\/\/journals.sagepub.com\/doi\/abs\/10.1177\/0149206313506466?journalCode=joma\" target=\"_blank\" rel=\"noopener\">Forschung<\/a> weist darauf hin, dass solche subtilen Handlungen der Diskriminierung \u201cim Vergleich zu traditionelleren, offenen Formen der Diskriminierung nachteilig f\u00fcr die Zielpersonen sein k\u00f6nnen.\u201d<\/p>\n<\/div><div class=\"fusion-text fusion-text-6\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Da die meisten grundlegenden Modelle an realen data aus dem Internet trainiert werden, halten sie diese Diskriminierung aufrecht, die, wenn sie von Unternehmen eingesetzt werden, ihren Verbrauchern und audience Schaden zuf\u00fcgen kann. Ein Kosmetikunternehmen beispielsweise, zu dessen Kundenstamm nicht nur women, sondern auch die LGBTQIA+-Gemeinschaft geh\u00f6rt, muss bei der Verwendung von KI zur Kommunikation mit seinen Kunden auf geschlechtsspezifische Inklusion achten, was andernfalls zu Entfremdung durch Mikroaggressionen f\u00fchren w\u00fcrde. Daher muss jede Bem\u00fchung, sichere, verantwortungsvolle und ethische KI zu entwickeln, eine Ebene beinhalten, die Mikroaggressionen und unbewusste Vorurteile anspricht.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-4 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Fiert\u00e9 AI von Artefact: Ein ethischer GenAI-Assistent, der audiences und Verbraucher sch\u00fctzt<\/h2><\/div><div class=\"fusion-title title fusion-title-5 fusion-sep-none fusion-title-text fusion-title-size-three\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;\"><h3 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"margin:0;--fontSize:20;line-height:1.2;\">Sehen Sie sich die \u201cFiert\u00e9\u201d GenAI Assistent Demo<\/h3><\/div><div class=\"fusion-video fusion-youtube\" style=\"--awb-max-width:670px;--awb-max-height:377px;--awb-align-self:center;--awb-width:100%;\"><div class=\"video-shortcode\"><div class=\"fluid-width-video-wrapper\" style=\"padding-top:56.27%;\" ><iframe title=\"YouTube-Videoplayer 2\" src=\"https:\/\/www.youtube.com\/embed\/AAgCIx_4lao?wmode=transparent&autoplay=0\" width=\"670\" height=\"377\" allowfullscreen allow=\"autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture;\"><\/iframe><\/div><\/div><\/div><div class=\"fusion-text fusion-text-7\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Mikroaggressionen sind allt\u00e4gliche Handlungen, die absichtlich oder unabsichtlich feindselige oder negative Botschaften gegen\u00fcber einer Person oder Gruppe auf der Grundlage eines Aspekts ihrer Identit\u00e4t vermitteln. Hier sind ein paar Beispiele: \u201cSind Sie nicht zu jung, um Manager zu sein?\u201d oder \u201cOkay, Boomer.\u201d Diese Aussagen k\u00f6nnen als Mikroaggressionen betrachtet werden. Es kann schwierig sein, weil Mikroaggressionen manchmal subjektiv sind, aber das Ziel ist es, das Bewusstsein f\u00fcr m\u00f6gliche Mikroaggressionen zu sch\u00e4rfen.<\/p>\n<\/div><div class=\"fusion-text fusion-text-8\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Lassen Sie uns ein konkretes Beispiel nehmen: Sie sind ein Vermarkter und Sie verkaufen Kleidung. Ihre Marketingbotschaft lautet, dass Sie die Menschen gl\u00fccklich machen wollen, wenn sie eines Ihrer Produkte tragen. Sie k\u00f6nnten sagen: \u201cIn diesem Kleid werden Sie sich wie ein Filmstar f\u00fchlen.\u201d In diesem Fall wird das Tool eine Mikroaggression erkennen. Die Kategorie ist \u201cK\u00f6rperliches Aussehen und die LGBTQ+ Gemeinschaft\u201d. Der Grund daf\u00fcr ist, dass es davon ausgeht, dass die angesprochene Person wie eine stereotype Schauspielerin aussehen m\u00f6chte, was einen Sch\u00f6nheitsstandard und eine heteronormative Perspektive impliziert. Der Vorschlag der GenAI-Assistentin lautet: \u201cIn diesem Kleid werden Sie sich selbstbewusst und fabelhaft f\u00fchlen.\u201d<\/p>\n<\/div><div class=\"fusion-text fusion-text-9\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Nehmen wir ein anderes Beispiel, das Sie an einem beliebigen Tag bei der Arbeit sehen k\u00f6nnten. \u201cHey Leute, nachdem wir uns heute mit der Marketingabteilung getroffen haben, m\u00fcssen wir Alex in unser Team aufnehmen. Kann uns jemand seine Qualifikationen mitteilen, da er Franzose ist? Lassen Sie uns versuchen, unser Englisch zu artikulieren, damit er sich wirklich willkommen f\u00fchlt. Auf Wiedersehen, und wir sehen uns heute Abend bei unserem M\u00e4nnerabend. Wir sehen uns den neuen Action-Film an.\u201d<\/p>\n<\/div><div class=\"fusion-text fusion-text-10\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Lassen Sie uns das analysieren. Das Tool erkennt hier mehrere Mikroaggressionen:<\/p>\n<\/div><ul style=\"--awb-iconcolor:var(--awb-color7);--awb-textcolor:var(--awb-color7);--awb-line-height:27.2px;--awb-icon-width:27.2px;--awb-icon-height:27.2px;--awb-icon-margin:11.2px;--awb-content-margin:38.4px;\" class=\"fusion-checklist fusion-checklist-1 fusion-checklist-default type-icons paddingList dark-text\"><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cKann mir jemand seine Referenzen nennen?\u201d Das setzt voraus, dass Alex m\u00e4nnlich ist, was vielleicht stimmt. Der Vorschlag lautet: \u201cKann mir jemand seine Referenzen nennen?\u201d, um mehr zu bieten.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cDa er Franzose ist, sollten wir versuchen, unser Englisch zu artikulieren.\u201d Dies unterstellt, dass franz\u00f6sischsprachige Menschen nicht gut Englisch verstehen, ein Klischee. Der Vorschlag lautet: \u201cLassen Sie uns versuchen, klar und effektiv zu kommunizieren, in Anbetracht unserer vielf\u00e4ltigen Sprachgruppen.\u201d<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cAuf Wiedersehen\u201d wird als Ausschluss von Alex verstanden. Der Vorschlag lautet: \u201cAuf Wiedersehen, wir wollen uns heute Abend alle am\u00fcsieren, auch du, Alex.\u201d<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cVergessen Sie nicht unseren M\u00e4nnerabend heute Abend.\u201d Der Vorschlag ist, zu sagen: \u201cVergessen Sie das gesellschaftliche Ereignis heute Abend nicht\u201d, um alle einzubeziehen.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>Das Tool erkennt, dass der Verweis auf den Actionfilm als Mikroagression angesehen werden kann, weil er Menschen ausschlie\u00dft, die keine M\u00e4nner sind.<\/p>\n<\/div><\/li><\/ul><div class=\"fusion-text fusion-text-11\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Das Tool befindet sich noch in der Beta-Phase und wir wollen immer einen Menschen in die Schleife einbeziehen, aber das wichtigste Ziel ist es, das Bewusstsein f\u00fcr Mikroaggressionen innerhalb der Organisation zu sch\u00e4rfen, die wir im t\u00e4glichen Leben verwenden k\u00f6nnen oder auch nicht.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-6 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Fiert\u00e9 AI ist ein hochentwickeltes Tool, das auf dem Mixtral LLM<\/h2><\/div><div class=\"fusion-text fusion-text-12\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Es stimmt die Parameter von Mixtral fein ab und setzt Prompt-Engineering ein, um Mikroaggressionen in der Kommunikation effektiv zu erkennen, zu begr\u00fcnden und umzuformulieren. So wird sichergestellt, dass Benutzer ihre Botschaften \u00fcbermitteln k\u00f6nnen, ohne Schaden anzurichten oder zu beleidigen.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-7 fusion-sep-none fusion-title-text fusion-title-size-three\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;\"><h3 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"margin:0;--fontSize:20;line-height:1.2;\">Hauptmerkmale von Fiert\u00e9 AI:<\/h3><\/div><ul style=\"--awb-line-height:27.2px;--awb-icon-width:27.2px;--awb-icon-height:27.2px;--awb-icon-margin:11.2px;--awb-content-margin:38.4px;\" class=\"fusion-checklist fusion-checklist-2 fusion-checklist-default type-icons paddingList dark-text\"><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Mehrsprachige Unterst\u00fctzung<\/strong>: Fiert\u00e9 AI unterst\u00fctzt mehrere Sprachen, darunter Englisch, Franz\u00f6sisch und Schwedisch, so dass die Software f\u00fcr eine Vielzahl von audience zug\u00e4nglich ist. Diese Mehrsprachigkeit erh\u00f6ht die N\u00fctzlichkeit in verschiedenen Umgebungen und f\u00f6rdert die Inklusion aller Sprachgruppen.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Dataset f\u00fcr die Feinabstimmung<\/strong>: Die data-Sets, die f\u00fcr die Feinabstimmung der Fiert\u00e9 KI verwendet werden, wurden sorgf\u00e4ltig ausgew\u00e4hlt, um sicherzustellen, dass sie eine breite Palette von Ausdr\u00fccken und Kontexten erfassen. Diese Vielfalt an data hilft der KI dabei, Mikroausdr\u00fccke genau zu erkennen und entsprechende umformulierte Alternativen anzubieten.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Modell \u00dcbersicht<\/strong>: Fiert\u00e9 AI nutzt die robuste Architektur von Mixtral LLM, die f\u00fcr spezielle Aufgaben im Zusammenhang mit der Erkennung und Behandlung von Mikroagressionen optimiert wurde. Dieser ma\u00dfgeschneiderte Ansatz verbessert die Leistung des Modells bei der F\u00f6rderung einer respektvollen Kommunikation.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Leistungs- und Kostenvergleich mit GPT<\/strong>: Im Vergleich zu den GPT-Modellen bietet Fiert\u00e9 AI eine kosteng\u00fcnstige L\u00f6sung ohne Leistungseinbu\u00dfen. Dank seiner spezialisierten Technik ist es in der Lage, Mikroaggressionen zu erkennen. Dies ist eine Nischenanwendung, die allgemeine Modelle wie GPT m\u00f6glicherweise nicht so effektiv abdecken.<\/p>\n<\/div><\/li><\/ul><div class=\"fusion-title title fusion-title-8 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Bestehende LLM-Leitplanken f\u00fcr verantwortungsvolle KI sind gut, aber begrenzt<\/h2><\/div><div class=\"fusion-text fusion-text-13\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Die Unternehmen haben das Problem der Voreingenommenheit und die Notwendigkeit der Entwicklung einer sicheren und verantwortungsvollen KI erkannt. Drei bemerkenswerte Stimmen gehen an <a href=\"https:\/\/www.databricks.com\/blog\/implementing-llm-guardrails-safe-and-responsible-generative-ai-deployment-databricks\" target=\"_blank\" rel=\"noopener\">Databricks<\/a>, <a href=\"https:\/\/github.com\/NVIDIA\/NeMo-Guardrails\" target=\"_blank\" rel=\"noopener\">NVIDIA<\/a>, und <a href=\"https:\/\/docs.giskard.ai\/en\/latest\/integrations\/nemoguardrails\/nemoguardrails-integration.html\" target=\"_blank\" rel=\"noopener\">Giskard AI<\/a>, die alle erste Fortschritte bei der Erkennung sch\u00e4dlicher Inhalte und deren konsequenter Verbreitung in der \u00d6ffentlichkeit gemacht haben. Guardrails k\u00f6nnen als Sicherheitskontrollen verstanden werden, die die Benutzerinteraktionen mit einer LLM-Anwendung \u00fcberpr\u00fcfen und definieren. Die M\u00f6glichkeit, die generierte Ausgabe in einem bestimmten Format oder Kontext zu erzwingen, macht sie zu einer First-Layer-L\u00f6sung zur \u00dcberpr\u00fcfung auf Verzerrungen.<\/p>\n<\/div><div class=\"fusion-text fusion-text-14\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Laut Databricks k\u00f6nnen die Leitplanken in den Model Serving Foundation Model APIs als Sicherheitsfilter gegen toxische oder unsichere Inhalte dienen. Die Leitplanke verhindert, dass das Modell mit dem erkannten Inhalt interagiert, der als unsicher eingestuft wurde. In einem solchen Fall antwortet das Modell dem Benutzer mit dem ausdr\u00fccklichen Hinweis, dass es nicht in der Lage ist, die Anfrage zu bearbeiten.<\/p>\n<\/div><div class=\"fusion-image-element\" style=\"text-align:center;--awb-caption-title-font-family:var(--h2_typography-font-family);--awb-caption-title-font-weight:var(--h2_typography-font-weight);--awb-caption-title-font-style:var(--h2_typography-font-style);--awb-caption-title-size:var(--h2_typography-font-size);--awb-caption-title-transform:var(--h2_typography-text-transform);--awb-caption-title-line-height:var(--h2_typography-line-height);--awb-caption-title-letter-spacing:var(--h2_typography-letter-spacing);\"><span class=\"fusion-imageframe imageframe-none imageframe-1 hover-type-none\"><img decoding=\"async\" width=\"1348\" height=\"1002\" title=\"Artikel NL - fiert\u00e9 AI\" src=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI.png\" data-orig-src=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI.png\" alt class=\"lazyload img-responsive wp-image-118490\" srcset=\"data:image\/svg+xml,%3Csvg%20xmlns%3D%27http%3A%2F%2Fwww.w3.org%2F2000%2Fsvg%27%20width%3D%271348%27%20height%3D%271002%27%20viewBox%3D%270%200%201348%201002%27%3E%3Crect%20width%3D%271348%27%20height%3D%271002%27%20fill-opacity%3D%220%22%2F%3E%3C%2Fsvg%3E\" data-srcset=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-200x149.png 200w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-400x297.png 400w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-600x446.png 600w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-800x595.png 800w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-1200x892.png 1200w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI.png 1348w\" data-sizes=\"auto\" data-orig-sizes=\"(max-width: 640px) 100vw, 1348px\" \/><\/span><\/div><div class=\"fusion-text fusion-text-15\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Databricks erkl\u00e4rt wie Giskard AI und andere, dass die derzeitigen Leitplanken bei der Entdeckung von Inhalten in sechs Hauptkategorien in Aktion treten: Gewalt und Hass, sexuelle Inhalte, kriminelle Pl\u00e4ne, Waffen und illegale Waffen, regulierte und kontrollierte Substanzen sowie Selbstmord und Selbstverletzung.<\/p>\n<\/div><div class=\"fusion-text fusion-text-16\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Diese Arbeit ist zwar lobenswert und f\u00fcr die Einf\u00fchrung\/Freigabe von GenAI-Systemen f\u00fcr die \u00d6ffentlichkeit unerl\u00e4sslich, aber sie ist nur begrenzt in der Lage, die allt\u00e4glichen Vorurteile und Diskriminierungen zu bek\u00e4mpfen, die die menschliche Gesellschaft durchdringen. Diese allt\u00e4glichen unbewussten Vorurteile und Diskriminierungen werden zu Mikroaggressionen, die sich schnell auft\u00fcrmen und dem Einzelnen erheblichen Schaden zuf\u00fcgen k\u00f6nnen. Derald Wing Sue, Professor f\u00fcr Psychologie an der Columbia University, beschreibt Mikroaggression am besten als <a href=\"https:\/\/www.scientificamerican.com\/article\/microaggressions-death-by-a-thousand-cuts\/\" target=\"_blank\" rel=\"noopener\">Tod durch tausend Schnitte<\/a>.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-9 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Mehrgleisiger Ansatz f\u00fcr sichere, verantwortungsvolle und ethische KI<\/h2><\/div><div class=\"fusion-text fusion-text-17\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>KI wird sich durchsetzen und hat das Potenzial, Millionen von Menschen zu nutzen und zu verbessern. Es liegt jedoch in unserer gemeinsamen Verantwortung, die sichere, transparente und verantwortungsvolle Einf\u00fchrung von KI zu gew\u00e4hrleisten.<\/p>\n<p>Entscheidend f\u00fcr die Akzeptanz ist der Aufbau von Vertrauen in KI-Systeme, was durch einen mehrgleisigen Ansatz erreicht wird, der von Leitplanken \u00fcber Open-Source-LLM-Schichten bis hin zu kontinuierlicher menschlicher Aufsicht reicht. Nur durch eine solche kollektive Umsetzung und Zusammenarbeit k\u00f6nnen wir sicherstellen, dass die Vorteile der KI auf der ganzen Welt gerecht verteilt werden.<\/p>\n<\/div><\/div><\/div><\/div><\/article><\/p>","protected":false},"excerpt":{"rendered":"<p>Eine Reihe von Kontroversen rund um die Ergebnisse von GenAI-Modellen hat die Forderung nach ethischer Aufsicht und Steuerung der KI verst\u00e4rkt. W\u00e4hrend explizite Voreingenommenheit, Gewalt und Diskriminierung zugenommen haben, ist dies bei impliziter Voreingenommenheit und Mikroaggressionen nicht der Fall. Am Vorabend des Pride-Monats 2024 ver\u00f6ffentlichte Artefact \u201eFiert\u00e9 AI\u201c, einen ethischen Open-Source-LLM-Assistenten, der Mikroaggressionen und unbewusste Voreingenommenheit in allen GenAI-Modellen erkennen und umformulieren kann.<br \/>\nWir bei Artefact glauben fest daran, dass \u201cAI is about people\u201d. Das war unsere Hauptmotivation bei der Entwicklung von Fiert\u00e9 AI. \u201cFiert\u00e9\u201d bedeutet auf Franz\u00f6sisch \u201cStolz\u201d und steht f\u00fcr den st\u00e4ndigen Kampf der LGBTQIA+-Gemeinschaft um Gleichberechtigung in der Gesellschaft. <\/p>","protected":false},"featured_media":118491,"parent":0,"template":"","meta":{"_acf_changed":false,"ep_exclude_from_search":false},"blog-category":[21940],"blog-language":[],"class_list":["post-118489","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-generative-ai"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/blog\/118489","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/types\/blog"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/media\/118491"}],"wp:attachment":[{"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/media?parent=118489"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/blog-category?post=118489"},{"taxonomy":"blog-language","embeddable":true,"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/blog-language?post=118489"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}