Alexa, por qué es necesario que haya más mujeres detrás del desarrollo de la inteligencia artificial

«Más que motomani, voy a ser una metamami, intentando aprender y probar que en el metaverso las metamamis tenemos mucho que decir, porque la digitalización es lo que más empodera a una mujer hoy en día», afirma Àurea Rodríguez, directora interina del EIT Cultura y Creatividad y autora del libro Antes muerta que analógica (Horsori Editorial).

La experta en transferencia de tecnología de la Comisión Europea explica en el libro cómo creó un avatar para testear las inteligencias artificiales detrás de diversos metaversos. «Me he dado cuenta de que el rol dominante del mundo digital sigue siendo masculino y el rol femenino, de apoyo. Siri y Alexa son asistentes con voz de mujer mientras que los algoritmos los definen mayoritariamente hombres; a este paso, seremos cuidadoras en el metaverso».

Como ha avanzado Rodríguez, la mayor parte de los asistentes de voz, de Siri a Alexa o Cortana, tienen nombre y voz de mujer. La plataforma digital de coaching CoachHub ha presentado recientemente una versión beta de un coach basado en inteligencia artificial generativa optimizada para guiar a los usuarios en su camino hacia el crecimiento personal y profesional. Su nombre, AIMY. Entabla conversaciones dinámicas con los usuarios gracias a la última versión de ChatGTP, de OpenAI.

La inteligencia artificial es una red neuronal o sistema matemático que aprende buscando modelos estadísticos en una gran cantidad de datos existente en internet y es lo que permite a Siri o Alexa entender lo que estás diciendo, identificar gente y objetos en Google Fotos o traducir instantáneamente decenas de lenguajes.

Desde el principio, las voces femeninas han dominado los asistentes. La explicación habitual de las empresas de tecnología que las diseñan y comercializan es que los usuarios perciben las voces femeninas como más amables y serviciales mientras que las masculinas se asocian con la autoridad. También hay estudios que aseguran que percibimos a los bots femeninos más humanos y los masculinos, como máquinas. «Las IA tienen rostro, voz y nombre de mujer porque las que se han diseñado están a nuestro servicio», admite Àurea Rodríguez.

La ficción también refleja esta concepción. Hal 2000, el ordenador central de 2001: Una odisea en el espacio resultó ser demasiado siniestro para su bien. Más recientemente, Jarvis, el asistente de Tony Stark en Ironman se transformó en un individuo independiente y consciente en La era de Ultrón, por lo que su sustituto en las siguientes películas de Los vengadores, Friday, era femenino y más complaciente, Friday.

Según Bernard Marr, experto en big data, algunos estudios sugieren que las voces femeninas tienden a articular de forma más clara los sonidos vocales, lo que las hace más fáciles de entender. El gerente de ingeniería global de texto a voz en Google Brant Ward lo ha confirmado: «He trabajado en muchos sistemas y siempre ha sido más difícil obtener calidad en una voz masculina, probablemente porque estos sistemas, independientemente de su origen, fueron entrenados con más [datos] femeninos que datos masculinos».

No obstante, otras voces (femeninas) avisan del peligro de asumir que los asistentes deben ser femeninos, teniendo en cuenta que les damos órdenes sin ningún tipo de cortesía. Debido a que la inteligencia artificial está creada por humanos no es neutral; puede estar mediatizada por sesgos o prejuicios preexistentes y hemos de ser consciente de ello. Por ejemplo, el sofisticado sistema de inteligencia artificial desarrollado por IBM se llama Watson, un nombre masculino, debido a que, según la empresa, «es más que un asistente de voz».

Bill Gates, el fundador de Microsoft, ha publicado esta semana en la web del Foro Económico Mundial que «los avances en IA permitirán la creación de un agente personal digital, que leerá tus últimos correos electrónicos, conocerá las reuniones a las que asistes, leerá lo que lees y lo que no quiere molestarte en leer. Esto mejorará tu trabajo en las tareas que quieres hacer y te liberará de las que no quieres hacer».

Los algoritmos no se auditan, recuerda Àurea Rodríguez. La mayoría de los desarrollos son privados y se desconoce si los datos no están sesgados o si los algoritmos tienen presente la perspectiva de género o la diversidad. «El control de los datos permite optimizar todo tipo de procesos y tomar decisiones con más conocimiento y seguridad. Por eseo, la IA se utiliza hoy en día en positivo para tomar decisiones semiautomáticas en el mundo de los seguros, finanzas, producción, transporte o salud, incluyendo la mejora de diagnósticos. Pero ¿qué pasa si estos dados son incompletos o están sesgados? ¿Qué pasa si los algoritmos no tienen en cuenta la diversidad o se utilizan para usos no beneficiosos?«

Más de cien expertos en tecnología, desde el CEO de Tesla y Twitter, Elon Musk, al cofundador de Apple, Steve Wozniak, han firmado una petición llamada Pause Giant AI Experiments: An Open Letter. Instan a los laboratorios a pausar el desarrollo de inteligencia artificial durante al menos seis meses para implementar una adecuada planificación y gestión de la tecnología.

Las IAs generativas, como ChatGPT, han hecho visible la potencialidad de la tecnología y los que entiendan y controlen la inteligencia artificial dominarán el mundo en la era de la IA. De momento, las mujeres están infrarrepresentadas en la tecnoeconomía. «Programar es poder», advierte la experta.