App de retratos con Inteligencia Artificial “desnuda” a usuarias contra su voluntad

Lensa es señalada de tener un algoritmo sexista

Foto: CLEMENT MAHOUDEAU / AFP / Getty Images

Si has navegado por las redes sociales en las últimas semanas seguramente has visto a varios de tus contactos publicando impresionantes imágenes creadas con Inteligencia artificial; sin embargo, la app que las crea parece operar distinto con algunas mujeres.

El editor fotográfico de IA llamado Lensa ha ganado gran popularidad en toda la red al prometer crear retratos alternativos con Inteligencia Artificial; sin embargo, algunas usuarias mujeres se han comenzado a quejar de los resultados, ya que las presenta con poca ropa o incluso sin ella.

Ultimamente, la aplicación ha sido denunciada por desnudar digitalmente a algunas mujeres que la utilizan, lo que es considerado un efecto secundario del sesgo con el que se alimentan los conjuntos de datos.

Una de las mujeres que ha alzado la voz es Melissa Heikkilä, de MIT Technology Review, quien probó la nueva y popular herramienta esperando recibir resultados tan geniales como los que mostraban a sus compañeros de trabajo masculinos.

La autora consiguió que la inteligencia artificial creara 100 retratos digitales; pero en lugar de que la compararan con guerreros y astronautas como a los demás, le enviaron desnudos.

“Pero mientras Lensa generaba avatares realistas pero favorecedores para ellos -pensemos en astronautas, guerreros feroces y portadas para álbumes de música electrónica-, yo recibía montones de desnudos. De los 100 avatares que generé, 16 eran en topless, y en otros 14 me había puesto ropa extremadamente escasa y poses abiertamente sexualizadas”, escribió Heikkilä.

La mujer explica que Lensa genera sus avatares mediante Stable Diffusion, que a su vez se basa en LAION-5B, un enorme conjunto de datos de código abierto recopilados a partir de imágenes de Internet.

Y como Internet tiene muchas imágenes de mujeres desnudas o apenas vestidas, y de imágenes que reflejan estereotipos sexistas y racistas, el conjunto de datos también está sesgado hacia este tipo de imágenes.

Esto conduce a modelos de IA que sexualizan a las mujeres independientemente de si quieren o no ser representadas de esa manera.

La editora dijo que curiosamente, sus avatares de Lensa eran más realistas cuando sus fotos pasaban por filtros de contenido masculino. “Conseguí avatares míos con ropa y en poses neutras. En varias imágenes, llevaba una bata blanca que parecía pertenecer a un chef o a un médico”, explicó.

La empresa dice que no hay un sesgo sexista

Prisma Labs, la empresa desarrolladora de Lensa, dice que dado que Stable Diffusion se entrena con datos no filtrados de todo Internet, no podrían aplicar conscientemente ningún sesgo de representación en la generación de las imágenes.

A pesar de ello, la empresa afirma que está trabajando para intentar solucionar el problema.

También podría interesarte:

Generación de imágenes por Inteligencia Artificial puede crear deepfakes y arruinarte la vida

Cómo lucirían Daddy Yankee y Greeicy en su vejez: una aplicación de inteligencia artificial lo anticipa