	{"id":126669,"date":"2024-04-29T10:49:55","date_gmt":"2024-04-29T09:49:55","guid":{"rendered":"https:\/\/www.artefact.com\/blog\/keeping-the-promise-of-ai-the-role-of-ethics-in-developing-responsible-unbiased-models\/"},"modified":"2024-04-29T10:49:55","modified_gmt":"2024-04-29T09:49:55","slug":"keeping-the-promise-of-ai-the-role-of-ethics-in-developing-responsible-unbiased-models","status":"publish","type":"blog","link":"https:\/\/www.artefact.com\/es\/blog\/keeping-the-promise-of-ai-the-role-of-ethics-in-developing-responsible-unbiased-models\/","title":{"rendered":"Mantener la promesa de la IA: el papel de la \u00e9tica en el desarrollo de modelos responsables e imparciales"},"content":{"rendered":"<p><div class=\"fusion-fullwidth fullwidth-box fusion-builder-row-1 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling article-author\" style=\"--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:#ffffff;--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><\/div><\/div><div class=\"fusion-fullwidth fullwidth-box fusion-builder-row-2 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling\" style=\"--link_color: var(--awb-color6);--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:var(--awb-color1);--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-0 fusion_builder_column_1_1 1_1 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:100%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:100%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-text fusion-text-1 description\" style=\"--awb-text-color:var(--awb-color5);--awb-text-font-family:&quot;PT Serif&quot;;--awb-text-font-style:normal;--awb-text-font-weight:400;\"><\/div><\/div><\/div><\/div><\/div><article class=\"fusion-fullwidth fullwidth-box fusion-builder-row-3 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling\" style=\"--link_color: var(--awb-color6);--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:var(--awb-color1);--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-justify-content-center fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-1 fusion_builder_column_1_1 1_1 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:100%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:100%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-video fusion-youtube\" style=\"--awb-max-width:670px;--awb-max-height:377px;--awb-align-self:center;--awb-width:100%;\"><div class=\"video-shortcode\"><div class=\"fluid-width-video-wrapper\" style=\"padding-top:56.27%;\" ><iframe title=\"Reproductor de video de YouTube 1\" src=\"https:\/\/www.youtube.com\/embed\/MWizp6Vlk1c?wmode=transparent&autoplay=0\" width=\"670\" height=\"377\" allowfullscreen allow=\"autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture;\"><\/iframe><\/div><\/div><\/div><div class=\"fusion-text fusion-text-2\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p style=\"text-align: center;\"><a href=\"https:\/\/www.youtube.com\/watch?v=hXHhbkOor9I\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">Vea el v\u00eddeo del l\u00edder Data\u00a0<\/span><\/a><\/p>\n<p style=\"text-align: center;\"><a href=\"https:\/\/smartlink.ausha.co\/the-bridge-by-artefact\/entretien-the-bridge-avec-jean-marie-john-mathews-phd-cofondateur-et-directeur-scientifique-de-giskard-ai-data\" target=\"_blank\" rel=\"noopener\"><em>Escuchar el podcast<\/em><\/a><\/p>\n<\/div><div class=\"fusion-title title fusion-title-1 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">El papel de las categor\u00edas en la IA ayer y hoy<\/h2><\/div><div class=\"fusion-text fusion-text-3\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p><span style=\"font-weight: 400;\">La llegada de la IA y el aprendizaje autom\u00e1tico ha puesto en tela de juicio las formas tradicionales de categorizar a las personas y los contenidos, lo que ha dado lugar a nuevas formas de concebir los problemas y, potencialmente, a nuevos problemas de parcialidad o discriminaci\u00f3n. <\/span><\/p>\n<\/div><div class=\"fusion-text fusion-text-4\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p><span style=\"font-weight: 400;\">Los sistemas tradicionales de IA se basaban en conocimientos y reglas de expertos. Por ejemplo, si un banco se planteaba conceder un pr\u00e9stamo a alguien, pod\u00eda categorizar a los candidatos en funci\u00f3n de atributos como el sexo, la profesi\u00f3n u otros data demogr\u00e1ficos. Pero con los modelos actuales de IA de aprendizaje autom\u00e1tico y aprendizaje profundo, se est\u00e1 produciendo un alejamiento de las categor\u00edas r\u00edgidas. En lugar de aplicar categor\u00edas como \u201cmujer de una determinada edad y nivel socioecon\u00f3mico\u201d, el enfoque se ha desplazado hacia la recopilaci\u00f3n de grandes cantidades de data conductual. Este data puede incluir cosas como transacciones bancarias o historial de navegaci\u00f3n. La idea es que al examinar esta data granular, se pueden tomar decisiones sin basarse en categor\u00edas predefinidas que pueden reforzar la discriminaci\u00f3n.<\/span><\/p>\n<\/div><div class=\"fusion-text fusion-text-5\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p><span style=\"font-weight: 400;\">Este cambio no es s\u00f3lo t\u00e9cnico: tambi\u00e9n plantea cuestiones filos\u00f3ficas sobre c\u00f3mo se construyen las categor\u00edas, c\u00f3mo repercuten en la sociedad y las consideraciones \u00e9ticas al utilizarlas en los sistemas de IA.<\/span><\/p>\n<\/div><div class=\"fusion-title title fusion-title-2 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">La Ley de AI: Personal data y responsabilidad<\/h2><\/div><div class=\"fusion-text fusion-text-6\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p><span style=\"font-weight: 400;\">El panorama actual de la legislaci\u00f3n sobre IA, ejemplificado por la Ley de IA, revela una tensi\u00f3n fundamental entre las categor\u00edas legislativas tradicionales y la naturaleza evolutiva de las herramientas t\u00e9cnicas.\u00a0<\/span><span style=\"font-weight: 400;\">La Ley de la IA legisla los sistemas de IA en funci\u00f3n de su uso en lugar de clasificarlos en categor\u00edas r\u00edgidas, reconociendo que los riesgos y las implicaciones de la IA est\u00e1n estrechamente ligados al contexto de uso. Por ejemplo, la Ley introduce IA vers\u00e1tiles capaces de aplicaciones polifac\u00e9ticas. El reto consiste en estimar su riesgo, pero \u00bfc\u00f3mo puede evaluarse el riesgo de algo cuando sus usos a\u00fan no est\u00e1n claramente definidos?<\/span><\/p>\n<\/div><div class=\"fusion-text fusion-text-7\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p><span style=\"font-weight: 400;\">El paso del aprendizaje autom\u00e1tico tradicional a una IA generativa m\u00e1s avanzada difumina a\u00fan m\u00e1s las l\u00edneas entre uso y responsabilidad. Por ejemplo, un chatbot de comercio minorista que utilice IA generativa podr\u00eda utilizar herramientas internas e informaci\u00f3n sobre productos para ofrecer recomendaciones o responder a preguntas frecuentes. Pero tambi\u00e9n podr\u00eda enfrentarse a un uso indebido, como consultas ofensivas destinadas a suscitar respuestas t\u00f3xicas para publicaciones en las redes sociales. Esto plantea cuestiones cr\u00edticas para las empresas: \u00bfd\u00f3nde reside la responsabilidad de gestionar estos riesgos? \u00bfEs \u00fanicamente responsabilidad del atacante si explota el sistema, o la responsabilidad recae tambi\u00e9n en los creadores y los que despliegan la IA? <\/span><\/p>\n<\/div><div class=\"fusion-text fusion-text-8\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p><span style=\"font-weight: 400;\">A medida que aumenta el n\u00famero de actores dentro del ecosistema de la IA, la responsabilidad se dispersa cada vez m\u00e1s. No s\u00f3lo el que despliega el sistema de IA puede ser responsable; tambi\u00e9n puede serlo la entidad que produce el modelo fundacional. Cuando se producen incidentes, determinar qui\u00e9n se lleva la peor parte de la responsabilidad se convierte en una tarea compleja, especialmente cuando los actores est\u00e1n dispersos por diferentes organizaciones e incluso ubicaciones geogr\u00e1ficas.<\/span><\/p>\n<\/div><div class=\"fusion-title title fusion-title-3 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Regulaci\u00f3n de la IA y aplicaciones empresariales \u00e9ticas<\/h2><\/div><div class=\"fusion-text fusion-text-9\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p><span style=\"font-weight: 400;\">Marcos como la Ley de la IA deben abordar la tensi\u00f3n entre los paradigmas reguladores convencionales y el din\u00e1mico panorama actual de la IA. Las estrategias reguladoras adaptables son esenciales para acomodar la naturaleza polifac\u00e9tica de los sistemas de IA y sus implicaciones.\u00a0<\/span><\/p>\n<\/div><div class=\"fusion-text fusion-text-10\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p><span style=\"font-weight: 400;\">Las empresas pueden aprovechar las lecciones de la categorizaci\u00f3n para perfeccionar las estrategias de segmentaci\u00f3n de clientes, adaptar las campa\u00f1as de marketing y personalizar las experiencias de los clientes. Adem\u00e1s, al incorporar consideraciones \u00e9ticas en los procesos de desarrollo de la IA, las empresas pueden mitigar los riesgos de parcialidad y discriminaci\u00f3n, fomentando la confianza y la transparencia con las partes interesadas.<\/span><\/p>\n<\/div><div class=\"fusion-text fusion-text-11\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p><span style=\"font-weight: 400;\">La importancia de las categor\u00edas radica en su papel como nuestro marco social para comprender y evaluar el mundo. Unas categor\u00edas bien afinadas son esenciales para representar diversas voces, especialmente las afectadas por los prejuicios de la IA. Es fundamental involucrar a una amplia gama de partes interesadas, incluidos los usuarios de la IA y las personas afectadas. <\/span><\/p>\n<\/div><div class=\"fusion-text fusion-text-12\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><blockquote>\n<div class=\"quote\">\u201cLas categor\u00edas act\u00faan como una lente a trav\u00e9s de la cual podemos evaluar y abordar los matices y los sesgos potenciales de los sistemas de IA. Son cruciales para proporcionar un lenguaje com\u00fan y un entendimiento entre las partes interesadas, y garantizar que la IA siga desarroll\u00e1ndose y despleg\u00e1ndose de forma responsable y \u00e9tica.\u201d<\/div>\n<div class=\"quote-baseline\">Jean-Marie John-Mathews<\/div>\n<\/blockquote>\n<\/div><\/div><\/div><\/div><\/article><div class=\"fusion-fullwidth fullwidth-box fusion-builder-row-4 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling\" style=\"--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:var(--awb-color1);--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-2 fusion_builder_column_1_1 1_1 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:100%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:100%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-text fusion-text-13\" style=\"--awb-text-color:var(--awb-color5);\"><p>Visite thebridge.artefact.com, la plataforma medi\u00e1tica que democratiza los conocimientos sobre data e IA, en v\u00eddeos y podcasts.<\/p>\n<\/div><div style=\"text-align:center;\"><a class=\"fusion-button button-flat fusion-button-default-size button-default fusion-button-default button-1 fusion-button-default-span fusion-button-default-type button-primary-medium\" style=\"--button_text_transform:var(--awb-custom_typography_2-text-transform);--button_font_size:var(--awb-custom_typography_2-font-size);--button_line_height:var(--awb-custom_typography_2-line-height);--button_typography-letter-spacing:var(--awb-custom_typography_2-letter-spacing);--button_typography-font-family:var(--awb-custom_typography_2-font-family);--button_typography-font-weight:var(--awb-custom_typography_2-font-weight);--button_typography-font-style:var(--awb-custom_typography_2-font-style);\" target=\"_self\" data-hover=\"text_slide_down\" href=\"https:\/\/thebridge.artefact.com\/\" rel=\"noopener\"><div class=\"awb-button-text-transition  awb-button__hover-content--centered\"><span class=\"fusion-button-text awb-button__text awb-button__text--default\">elpuente.artefacto.com<\/span><span class=\"fusion-button-text awb-button__text awb-button__text--default\">elpuente.artefacto.com<\/span><\/div><\/a><\/div><\/div><\/div><\/div><\/div><\/p>","protected":false},"excerpt":{"rendered":"<p> El doctor Jean-Marie John-Mathews, cofundador y director cient\u00edfico de Giskard AI, y Caroline Goulard, periodista y directora general de las empresas de visualizaci\u00f3n dataveyes y Modality, debaten sobre los retos \u00e9ticos y pol\u00edticos del desarrollo de la IA. Exploran c\u00f3mo se construyen las categor\u00edas en una sociedad, c\u00f3mo se politizan los temas y c\u00f3mo la IA puso patas arriba la categorizaci\u00f3n.<\/p>","protected":false},"featured_media":108744,"parent":0,"template":"","meta":{"_acf_changed":false,"ep_exclude_from_search":false},"blog-category":[22035],"blog-language":[2991],"class_list":["post-126669","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-data-ai-consulting","blog-language-en"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/blog\/126669","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/types\/blog"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/media\/108744"}],"wp:attachment":[{"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/media?parent=126669"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/blog-category?post=126669"},{"taxonomy":"blog-language","embeddable":true,"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/blog-language?post=126669"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}