¿Son machistas los algoritmos? Pregúntaselo a Google (o a Rosalía)

Ixone Díaz

Haz una prueba rápida. Entra en el traductor de Google y teclea "Ondo gidatzen du". El famoso buscador traducirá del euskera al español: "Él conduce bien" . Ahora, prueba con "Ondo josten du". "Ella cose bien" , te contestará Google sin despeinarse. Con idiomas que utilizan pronombres neutros ,   como el euskera o el húngaro, el traductor del buscador sigue utilizando estereotipos machistas a la hora de resolver la duda sobre quién hace qué, atribuyendo las tareas domésticas o el cuidado de los hijos a las mujeres y otras actividades o profesiones, a los hombres. Ante el revuelo que este sesgo sexista ha despertado en las redes sociales, Google ha explicado que está trabajando para corregir el problema.  Sin embargo, este caso solo es la punta del iceberg de un problema que afecta a  celebridades como Rosalía , pero también a mujeres en busca de su próximo trabajo .

El año pasado, el laboratorio Bikolabs, de la consultora Biko, hizo un experimento con los principales algoritmos de reconocimiento de imágenes , como IA, de Amazon, o Google Imágenes. Y demostró que la inteligencia artificial aplicaba, una vez más, un sesgo machista en la clasificación de la fotos. Utilizando FaceApp para cambiar el género de los protagonistas, comprobaron que no se aplicaban los mismos criterios para clasificar las imágenes de hombres y de mujeres. Así, las etiquetas de las imágenes con protagonista femenina tendían a estar relacionadas con temas como la ropa o la apariencia. Y algunos algorimos no eran capaces de reconocer un taladro en la mano de una mujer o lo confundían con un secador .

Estos experimentos visibilizan un problema cada vez más recurrente con implicaciones muy serias . En los últimos años, el goteo de casos ha sido incesante. En 2014, Amazon puso en marcha un sistema basado en inteligencia artificial para contratar a su personal . Pero el algoritmo resultó penalizar a las mujeres que aspiraban a puestos típicamente desarrollados por hombres, como los desarrolladores de software. La plataforma trató de solventar el problema, pero terminó abandonando el proyecto. LinkedIn también ha hecho frente a acusaciones similares y en 2019, la tarjeta bancaria de Apple protagonizó titulares cuando se descubrió que concedía hasta diez veces más crédito al hombre que a la mujer de una misma pareja con la misma renta .

Incluso Rosalía ha denunciado sesgos machistas en las plataformas de streaming como Spotify, Apple Music o Pandora . "Me llama la atención cómo cuando una mujer hace una colaboración, aunque su participación dure más tiempo en la canción, su nombre aparezca en el segundo o tercer lugar. Esto hace que el algoritmo no la tome en cuenta y que sea más difícil que nuevos oyentes la descubran".

La famosa matemática del MIT Cathy O'Neil ya advirtió en su ensayo 'Armas de destrucción matemática', publicado en 2016, que los sesgos sexistas de los programadores (todavía hoy mayoritariamente hombres) se trasladan a los algoritmos y al software que diseñan . En España, por ejemplo,  solo el 13 por ciento de las programadoras son mujeres.

Y aunque los fallos del traductor de Google pueden parecer anecdóticos, un algoritmo machista también puede costarte tu siguiente puesto de trabajo . En Estados Unidos, la mayoría de las grandes empresas ya utilizan sistemas de inteligencia artificial para gestionar sus procesos de selección de personal , una tendencia que está llegando, poco a poco, a nuestro país y que podría ahondar en la brecha de género si no se hace nada por evitar el sesgo machista de los todopoderosos y ominipresentes algoritmos.