¿El algoritmo de Twitter es racista? Usuarios reportan que la red social selecciona rostros sobre otros

La red social Twitter está siendo criticada por sus propios usuarios luego de que varios de ellos pongan en evidencia que el sistema de recorte de imágenes por inteligencia artificial seleccione rostros blancos sobre el de afrodescendientes en su previsualización.

Este problema empezó el día sábado, en el que distintas personas empezaron a subir distintas fotografías de tamaños distintos y con ambos tipos de rostros. Durante sus pruebas, el algoritmo de recorte privilegiaba los rostros blancos sin importar el orden de ellos.

Abre las imágenes para poder apreciarlas mejor:

Sin importar la importancia de los personajes en imágenes, la ubicación, o sus detalles como la corbata roja en el segundo ejemplo, la IA ponía en relieve al político Mitch McConnell sobre Barack Obama. 

Más ejemplos llegaron:

Algunos usuarios afirmaron que la inteligencia artificial funciona de esta manera debido a los datos incorporados a ella por sus desarrolladores (los cuales son tomados de los usuarios de la red social), por lo que realiza este tipo de selecciones ya que las personas -en su mayoría- interactúan en redes de la misma manera, algo que el algoritmo ha ido asimilando como natural.

Sin embargo, el director de diseño de Twitter, Dantley Davis, se mostró en desacuerdo con esta interpretación e insistió en que su empresa realmente era la culpable. “Es 100% culpa nuestra. Nadie debería decir lo contrario. Ahora el siguiente paso es arreglarlo”, escribió. 

Te recomendamos METADATA, el podcast de tecnología de RPP. Noticias, análisis, reseñas, recomendaciones y todo lo que debes saber sobre el mundo tecnológico. Para escucharlo mejor, #QuedateEnCasa.