La herramienta del siglo, aquella que tiene el potencial de influir en el desarrollo moderno, promover la educación, la ciencia, la tecnología o mejor aún, aquella que te puede hacer la vida más sencilla. La Inteligencia Artificial (IA), la tecnología que puede llegar a ser tan sorprendente que asusta y que ha revolucionado nuestra interacción con ella misma, pero también han expuesto problemas relacionados con los sesgos de género; estos sesgos, provienen de los datos utilizados para entrenar los modelos de IA, que a menudo reflejan estereotipos tradicionales de género, con los que las mujeres hemos vivido toda nuestras vidas. 

Regresemos un poco en el tiempo, a nuestros primeros toques conscientes con la IA, hace poco más de diez años Apple Inc. adquirió a “Siri” y fue lanzada como parte integral de su sistema operativo iOS en el año 2011. Creada para proporcionar respuestas a preguntas generales, utilizando datos de la web o bien, realizar tareas como: enviar mensajes, hacer llamadas, establecer recordatorios y alarmas; en resumen lanzaron una asistente virtual con voz femenina y con la capacidad de interactuar con aplicaciones de tu teléfono. Tres años más tarde, Amazon lanzó a “Alexa” junto con el dispositivo Amazon Echo; poco a poco ambas asistentes han evolucionado a lo largo de estos años, al grado de poder mantener una conversación cotidiana con ellas. Sin embargo, no nos hemos preguntado por qué muchas de estas herramientas utilizan voces femeninas, lo cual refuerza la idea de que las mujeres estamos destinadas a roles de servicio; no solo eso, los asistentes de voz pueden mostrar respuestas estereotípicas o tener dificultades para reconocer voces femeninas con la misma precisión que las masculinas. Ambas asistentes de voz y en general todas estas herramientas como Google Assistant, Bixby, etc. utilizan tecnologías de reconocimiento de voz y procesamiento de lenguaje natural (PLN) para entender lo que les decimos, y aprendizaje automático (Machine Learning) para mejorar con el tiempo. A medida que interactúas con ellas, el sistema aprende sobre tus preferencias, roles, el contexto de tus preguntas y tus patrones de uso. Esto se hace mediante el análisis de enormes cantidades de datos, que los usuarios les proporcionamos, es decir, es la base de datos con la que se nutre y hace más inteligente para atender nuestras consultas en cuestión de segundos. 

Fei-Fei Li, profesora de Ciencias de la Computación en la Universidad de Stanford y co-directora del Instituto de IA Centrada en el Ser Humano de Stanford; conocida por su trabajo en visión por computadora y como co-creadora del conjunto de datos ImageNet, que ha sido fundamental para el desarrollo de modelos de aprendizaje profundo. Con su enfoque en la IA human-centered (centrada en el ser humano) han tenido un gran impacto en la forma en que se desarrollan y evalúan las tecnologías de inteligencia artificial, incluyendo los asistentes de voz y otras aplicaciones de IA. Fei-Fei Li, ha hablado abiertamente sobre los sesgos en la IA, reconociendo que es un problema que surge cuando los sistemas de la IA aprenden de datos que reflejan las desigualdades y prejuicios presentes en la sociedad. Estos sesgos, si no se corrigen, pueden perpetuar problemas como discriminación de género, racismo o desigualdad social.

Margaret Mitchell, fundadora y ex directora de la unidad de ética de IA de Google, en su publicación "Modeling and Understanding the Dynamics of Human-AI Interaction", explora cómo los asistentes de voz y otros sistemas de IA interactúan con sus usuarios y cómo estas interacciones pueden verse afectadas por los sesgos presentes en los datos y los modelos de IA. Mitchell, ha destacado que la IA no es neutral, ya que los modelos que desarrollamos reflejan los prejuicios y estereotipos de género presentes en la sociedad. Además, señala que los sistemas de IA deben ser diseñados para reconocer y corregir estos sesgos, buscando interacciones más inclusivas y equitativas. Este enfoque es crucial para crear herramientas que no solo sean funcionales, sino también justas y respetuosas con todas las identidades de género.

Cabe destacar que hay grandes exponentes e investigadoras de IA y temas relacionados a esta tecnología, que invitó a leer como lo son: Dina Katabi con "Magnetic Sensing of Human Breathing", Yoshua Bengio colaboradora clave, que ha trabajado con muchas mujeres investigadoras y colaborado en proyectos de IA aplicados a la voz y al lenguaje, Ruth Howes con "Speech Processing: A Dynamic and Evolving Discipline", entre muchas otras. 

La IA tiene el potencial de ser una herramienta poderosa para la equidad de género, pero para lograrlo, es necesario abordar los desafíos de sesgo y representación en su desarrollo y aplicación. Además, es esencial abordar tanto el desarrollo de la tecnología, como su aplicación; debemos ser mujeres quienes nutran su información con datos y necesidades reales de mujeres reales (humanas). Debemos asegurarnos de que estos datos sean utilizados para entrenar algoritmos de forma equilibrada de todos los géneros, esto se traduce en recolectar datos de manera inclusiva y consciente de la diversidad que existe en nuestro mundo actualmente. A medida que concienticemos el uso de la IA y su recolección de datos de manera consciente e inclusiva, se podrán establecer normas y regulaciones que promuevan la equidad de género en el desarrollo y uso de la misma. 

*El contenido de este artículo es publicado bajo la responsabilidad de su autora y no necesariamente refleja la posición de Abogadas MX.

Referencias:

Fei-Fei Li. (2018). How to Humanize AI. Charla TED. https://www.ted.com/talks/fei_fei_li_how_to_humanize_ai 

Lopatka, K. (2021). The Role of AI in Virtual Assistants: Siri, Alexa, and Google Assistant. Journal of Technology in Society, 2021.

Mitchell, M. (2021). Modeling and Understanding the Dynamics of Human-AI Interaction. In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2021.

Apple Inc. (2023). Siri: How Siri Works. Soporte de Apple (Sitio Oficial). 

Amazon (2023). Alexa: How Alexa Works. Sitio Oficial Amazon.