La sociedad actual se encuentra en constante adaptación a los cambios e inmersa en un gran desarrollo tecnológico. Por su parte, la inteligencia artificial (IA) está trayendo un impacto muy positivo gracias al enriquecimiento de capacidades que aporta al ser humano. Sin embargo, debemos tener en cuenta los retos que plantea.
La actualidad del debate social sobre la regulación del uso de la tecnología por los menores, las consecuencias de su abuso y las posibles vulnerabilidades que este colectivo pueda presentar, invitan a la reflexión. Desde el equipo de Human Experience Hub de Telefónica se han planteado varias sesiones con el objetivo de concienciar y despertar el espíritu crítico de los productos digitales que consumen los menores, especialmente qué papel tiene la inteligencia artificial en los adolescentes.
¿En qué consiste el estudio de IA y adolescentes?
Se llevó a cabo un estudio de divulgación, experimentación y exploración sobre IA con adolescentes de 12 y 13 años, de la cual se extrajeron interesantes conclusiones sobre cómo afecta esta tecnología en los jóvenes. La sesión se desarrolló en el Experience Design Lab, un escenario perfecto para poner a los adolescentes en situaciones domésticas y poder analizar los comportamientos y hábitos de estos.
Durante esta experiencia, los estudiantes han participado en diferentes actividades relacionadas con la IA:
- Aprendieron sobre la IA: en la sesión se habló sobre los riesgos y beneficios que ofrece, con el objetivo de promover su uso responsable.
- Contribuyeron a dar forma a nuevos casos de uso de IA responsable: pudieron probar innovadores artículos que han sido diseñados para el reconocimiento de voz y elaboraron conceptos relacionados con la accesibilidad a una experiencia de TV mediante LLMs (modelo de largo lenguaje).
- Exploraron un entorno de innovación tecnológica: visitaron el Experience Design Lab de Telefónica y experimentaron una metodología de innovación en primera persona dando sus opiniones, impresiones e ideas.
Las personas en el centro del estudio
Uno de los temas clave en esta investigación con adolescentes, fue el uso ético de la IA. Desde el diseño de la investigación quisimos ser ejemplo para que este pilar sostuviera cada parte de las actividades. En consecuencia, se realizó un esfuerzo para garantizar que la investigación fuera respetuosa y beneficiosa para todos los participantes.
Durante las actividades planteadas se estableció el objetivo de plasmar el compromiso ético desde dos vertientes: por un lado, se trasladaron los beneficios y riesgos de la Inteligencia Artificial a los adolescentes, y por otro lado, se habló sobre cómo hacer un uso responsable de la IA.
Desde el equipo de Discovery de Telefónica Innovación Digital, observamos durante las dinámicas que, ante la necesidad de construir sistemas de IA, el proceso de creación deberá siempre garantizar el cumplimiento de los siguientes principios éticos de la compañía:
- Justicia y libertad de sesgos.
- Transparencia y explicabilidad de los sistemas.
- Las personas como prioridad.
- Privacidad y seguridad desde el diseño de los sistemas.
También, cabe destacar el surgimiento de nuevas problemáticas relacionadas con los nuevos reglamentos éticos, seguridad y privacidad, por lo que sería conveniente disponer de un equipo especializado en atender estas cuestiones, con el fin de construir sistemas más justos y libres de discriminación alguna.
¿Cómo humanizar la tecnología?
La sesión teórico-práctica sirvió de comparación con la que nos ayudó a la extracción de nuevas conclusiones. Aquí puedes ver la presentación que usamos para trabajar el estudio.
Para comenzar, se hizo una presentación teórica sobre IA con el objetivo de informar y hacer consciente de su presencia en el mundo, para que sirviera de ayuda a identificar el uso de esta tecnología en el día a día. También se presentaron ejemplos de los diferentes problemas que en la actualidad se pueden resolver con este avance, así como la proyección de otras ideas sobre campos más alejados de sus realidades como pueden ser la robótica o sistemas expertos.
Posteriormente, el grupo trabajó en la mejora de un de un sistema de Deep Learning que tenía como misión la detección vocal de adolescentes en la misma franja de edad. En este trabajo se señaló la importancia que los datos juegan en la construcción y expansión de la IA y también se vio la facilidad de extracción de sus propios datos.
Cómo elaborar un modelo de aprendizaje de datos
Durante la sesión los adolescentes usaron el mecanismo de detección de palabras clave (“OK Aura”) para iniciar la comunicación con dispositivos. Estos modelos deben ser robustos a la diversidad, concretamente, accesibles para adolescentes.
Los modelos se construyen con conjuntos de datos, los cuales se emplean durante los procesos de entrenamiento y para evaluación. Hay muchos factores que juegan un rol fundamental en el comportamiento del modelo, como las variaciones en dispositivos, entornos y características del hablante. Todo ello afecta al audio que se produce y, por lo tanto, al comportamiento del modelo. La forma más común para dotar de robustez frente a la diversidad de estímulos es tener datos diversos.
Para la construcción de un modelo accesible para todos, incluyendo a adolescentes, se necesita la recogida de datos. De esta forma, se podría entrenar y evaluar los modelos para minimizar los sesgos hacia cualquier colectivo. Los datos deberían incluir audio y metadatos. Estos últimos, acompañan al audio y describen de forma mínima sus características. Concretamente, se debería almacenar edad, sexo, acento y un identificador unívoco del hablante.
Se trata de información fundamental para medir los propios sesgos y trabajar sobre ellos. El identificador de hablante debería ser anonimizado para que permitiera saber cuántos hablantes diferentes hay, así como para garantizar la estratificación de hablantes distintos en entrenamiento y en evaluación.
Por un lado, se deberían almacenar de forma paralela los nombres de los usuarios y sus identificadores anónimos. Por otro lado, se deberían guardar los datos de los usuarios anonimizados, es decir solo con su identificador anónimo. Esto permitiría garantizar, primero, la seguridad y la privacidad de los datos recogidos, además que los usuarios puedan ejercer su derecho al olvido. Asimismo, con este tipo de ordenamiento se podrían generar versiones nuevas de los modelos con diferentes versiones de los datos.
Principales conclusiones del estudio del uso de inteligencia artificial entre adolescentes
Teniendo en cuenta la investigación con inteligencia artificial y adolescentes llevada a cabo hace unos meses, se pueden observar diferencias respecto al número de herramientas de IA que los adolescentes han sido capaces de identificar, así como en las principales preocupaciones declaradas alrededor de la tecnología.
Herramientas de IA
Por un lado, en el estudio más reciente, los adolescentes han sido capaces de reconocer un mayor número de herramientas y funciones de IA entre las que se incluyen los filtros de algunas RRSS.
Por otro lado, la suplantación de identidad junto con la creación y difusión de información y videos falsos parecen alzarse como las principales preocupaciones de este colectivo, probablemente influido por los casos de manipulación de imágenes mediante IA de los que se han hecho eco las noticias.
Asistentes de voz
En lo referente al uso de asistentes de voz, se observa cómo los adolescentes parecen tener una predisposición para hacer uso de ellos cuando se encuentran en situaciones de emergencia o discapacidad temporal que les limite la movilidad o acceso manual a sus dispositivos móviles. En estos casos, los asistentes de voz mencionados son mayoritariamente los integrados en smartphones, probablemente debido a asociar de estos dispositivos con acciones comunicativas como las llamadas.
Además, mediante el análisis de las declaraciones e interacciones con los asistentes de voz y otras aplicaciones, se observa como la preocupación por la privacidad de la voz viene dada por el contenido que se expresa con ella y no tanto por los datos biométricos que se pueden obtener de la misma.
Detección de contenido generado por IA
En cuanto a la detección de contenido generado por IA, se muestran indicios que dejan ver la existencia de cierta desconfianza hacia la tecnología e imponerse el criterio humano como el principal método para la identificación.
El reconocimiento de contenido generado con IA, mediante otra herramienta entrenada para ello, no se encuentra a priori entre las principales opciones para los adolescentes. En este punto y siendo consciente de que es un problema actual de la sociedad, desde Telefónica, hemos trabajado en una herramienta capaz de detectar si las imágenes, vídeos o audios han sido manipuladas y con qué programa, VerifAI.
En definitiva, las sesiones fueron de gran valor para todos los implicados ayudando a formar a los jóvenes para afrontar el reto que supone la IA hoy en nuestros días, a la vez que se humaniza la tecnología reduciendo los sesgos y haciéndola más accesible.
Asimismo, los resultados de la investigación han ayudado a tener más y mejor información para el diseño de experiencias más humanas. Este post ha sido escrito en colaboración con Pablo Gómez Guerrero y William Fernando López Gavilánez del área de Discovery de Telefónica.
