Cómo afectan los sesgos en la IA a la comunidad LGBTQ+: misgendering y discriminación algorítmica
Compartir artículo
Vivimos con una presencia constante de la inteligencia artificial (IA) en nuestras vidas. Los algoritmos controlan y nos dirigen en nuestra vida digital: desde lo que vemos en redes sociales hasta cómo se organizan nuestras búsquedas en internet. Pero pasamos por alto los efectos negativos de esta tecnología, sobre todo cuando se trata de diversidad.
Pero ¿puede un algoritmo de IA ser prejuicioso? La respuesta es sí. No es ciencia ficción, la discriminación algorítmica es una realidad que ya está afectando a miles de personas en su día a día. Los sesgos en la IA no son solo errores de programación, son reflejos de los prejuicios de la sociedad.
¿Puede una IA equivocarse con tu identidad?
La respuesta es clara: la IA puede equivocarse y lo está haciendo. Los sesgos de la IA no son un comportamiento innato, sino que suceden por cómo ha sido entrenada. Si una IA ha aprendido a partir de datos sesgados o incompletos, difícilmente sabrá actuar con precisión y justicia.
Ahí aparece el concepto de misgendering IA que ocurre cuando un sistema de inteligencia artificial asigna erróneamente el género de una persona, ignorando o no reconociendo su identidad real. Cuando la tecnología “se equivoca” al identificar el género de alguien.
La principal razón detrás del misgendering IA son los sesgos IA en los datos de entrenamiento. Las IA aprenden de enormes cantidades de información que les son proporcionadas. Imagina, por ejemplo:
- Un sistema de reconocimiento facial que clasifica de manera errónea a una persona porque no encaja en sus parámetros tradicionales de género.
- un asistente virtual que no sabe cómo responder a un usuario que le pide que se dirija a él con pronombres neutros.
- Una IA que asocia profesiones con un género específico sin que nadie se lo indique como por ejemplo médico con el género masculino al dirigirse a una persona.
Todo esto forma parte de algo mucho más amplio: la discriminación algorítmica, donde la exclusión no es intencional, pero ocurre porque el diseño no contempló a todo el mundo.
IA y censura: lo que no se muestra también importa
Otro problema con el que nos encontramos en la actualidad se conoce como IA y censura. Muchas plataformas utilizan inteligencia artificial para moderar el contenido que compartimos. la intención inicial de este uso puede ser buena como el evitar abusos o discursos de odio. pero los resultados que pueden realizar no siempre lo son.
Nos encontramos con filtros automáticos que no están preparados para interpretar el contexto y que terminan bloqueando contenido que es legítimo. Por ejemplo, censuran publicaciones que celebran el Orgullo Gay, testimonios personales o experiencias lgbtq+ que pueden desaparecer de los feeds sin que nadie lo note, sin advertencias. Solo una caída en el alcance o una pérdida de visibilidad.
Este tipo de censura es especialmente problemática porque no es evidente. Pero sus consecuencias son claras: menos representación, menos apoyo, menos espacio para que la comunidad se exprese libremente.
¿Quién está detrás de todo esto?
Como comentamos, el factor principal de esta problemática es humano ya que muchos sistemas de IA son diseñados por equipos donde no hay representación LGBTQ+. Si quienes crean estas tecnologías no tienen contacto con distintas realidades de género u orientación sexual, difícilmente sabrán cómo incluirlas o protegerlas al desarrollar nueva tecnología.
Ahí es donde entra en juego la discriminación algorítmica: no como un acto intencionado, sino como el resultado de una mirada limitada. Una herramienta tecnológica que se supone neutra termina reforzando las mismas barreras sociales que decimos querer superar.
¿Cómo se puede evitar el misgendering en la IA?
Si hablamos tanto de innovación, es hora de aplicar ese mismo espíritu a la inclusión. No basta con cambiar avatares por banderas arcoíris en junio. Lo que hace falta es:
- Diversificar los datos de entrenamiento: asegurar que los conjuntos de datos sean inclusivos y que eviten los sesgos históricos.
- Diseño inclusivo y sensible al género: desarrollar la IA con conciencia de la diversidad de género desde el principio.
- Equipos de desarrollo diversos: fomentar la diversidad en los equipos de IA para garantizar una variedad de perspectivas que ayuden a identificar y corregir sesgos.
- Auditorías éticas y pruebas rigurosas: realizar evaluaciones continuas de los sistemas de IA para detectar y corregir el sesgo o comportamiento de misgendering IA.
La tecnología puede ser un puente o una barrera. Y la diferencia está en cómo y para quién se construye.
¿Qué significa misgendering IA?
Es cuando un sistema automatizado asigna a alguien un género incorrecto. Pasa, por ejemplo, cuando una voz femenina es registrada como masculina por una app, ignorando la identidad real de esa persona.
Es cuando un sistema automatizado asigna a alguien un género incorrecto. Pasa, por ejemplo, cuando una voz femenina es registrada como masculina por una app, ignorando la identidad real de esa persona.
¿Por qué se habla de censura de contenido LGBTQ+?
Porque muchos algoritmos clasifican como “inapropiado” contenido relacionado con diversidad sexual o de género, incluso si no rompe ninguna norma de uso.
Porque muchos algoritmos clasifican como “inapropiado” contenido relacionado con diversidad sexual o de género, incluso si no rompe ninguna norma de uso.
¿Qué son los sesgos en la IA?
Errores o limitaciones que surgen porque los datos o quienes diseñan la IA no contemplan todas las realidades sociales. Eso puede llevar a resultados injustos o excluyentes.
Errores o limitaciones que surgen porque los datos o quienes diseñan la IA no contemplan todas las realidades sociales. Eso puede llevar a resultados injustos o excluyentes.
¿Qué papel tiene el Orgullo Gay en este debate?
El Orgullo Gay no solo celebra logros, también es una oportunidad para señalar lo que aún falta. En este caso, hay que asegurar que la tecnología no borre ni distorsione la diversidad.
El Orgullo Gay no solo celebra logros, también es una oportunidad para señalar lo que aún falta. En este caso, hay que asegurar que la tecnología no borre ni distorsione la diversidad.
¿Se puede hacer una IA inclusiva?
Sí, pero requiere intención, diversidad en los equipos y una revisión constante de los resultados que produce.
Sí, pero requiere intención, diversidad en los equipos y una revisión constante de los resultados que produce.
Paid and Own Media Lead Telefónica Innovación Digital. Especialista en campañas publicidad online, con experiencia de 10 años en ejecución, optimización y análisis en todos los canales digitales.
