La app que desnuda mujeres con algoritmos cierra su sitio de descargas

Esta semana hacíamos referencia de una aplicación que, basada en algoritmos de inteligencia artificial, permitía desnudar a cualquier mujer dentro de una fotografía. “DeepNude”, el site que promocionaba este producto, decidió cerrar el site y cancelar la distribución de descargas en Windows y Linux, tras una enorme ola de críticas, pero también por un inusitado incremento del tráfico hacia el sitio web.

Parte del “encanto” de la aplicación era representar una fantasía futurista que permitiera usar “rayos X” en cualquier persona para ver debajo de sus ropas. Sin embargo, desde su gestación, el sesgo era evidente. La app solo se aplicaba a mujeres, pues los hombres añadidos al sistema eran representados con senos y vulva.

Hasta el último jueves, el tráfico que soportaban sus servidores sobrepasó la capacidad, y tuvieron que emitir un tuit para explicar el problema de carga en la página:

Horas después, tras las críticas recibidas en redes sociales, el desarrollador confirmó que finalizaban el proyecto, mencionando una alta probabilidad de mal intención en el uso de la app.

“Existe una probabilidad demasiado alta de que la gente haga mal uso. No queremos hacer dinero de esta manera. Seguramente se compartan copias de “DeepNude” en la web, pero no queremos ser los que las vendan”.

El riesgo expuesto con este programa, basado con algoritmos pix2pix y desarrollado por la Universidad de Berkeley en 2017, es el preocupante resultado conseguido tras el proceso. Como mencionamos en un momento, es preocupante el ritmo tan veloz en el crecimiento de los “Deep Fake”.

Hasta hace un año, el proceso de rendering en video demoraba días, y requería un alto nivel de proceso en las computadoras encargadas del producto Hoy, la misma nube gestiona procesos veloces, y hasta son capaces de crear personas que no existen desde un sitio web.