Twitter concluye que su algoritmo de recorte de imágenes “no es racista” tras investigación

El algoritmo de Twitter que corta las imágenes de forma automática se encuentra dentro de lo que se considera equidad en términos de aprendizaje automático, si bien muestra un ligero sesgo a favor de las personas blancas y las mujeres, según las conclusiones del estudio realizado por la plataforma.

Twitter introdujo en 2018 el conocido como 'algoritmo de prominencia' para recortar automáticamente en la vista previa las imágenes grandes previa que los usuarios comparten en sus 'tuits'.

Según explican desde Twitter, este algoritmo se basa en la forma en que ve el ojo humano, priorizando lo que puede ser más importante, y estima lo que "una persona podría querer ver primero dentro de una imagen".

El septiembre del año pasado un experimento realizado por el ingeniero de criptografía e infraestructura Tony Arcieri mostró que el algoritmo estaba sesgado, y que en su recorte automático perjudicaba a las personas afroamericanas y a las mujeres, cuando se enfrentaban dos imágenes.

La compañía tecnológica anunció entonces que investigaría el problema de los posibles sesgos que pudiera tener su algoritmo, y este miércoles ha compartido las conclusiones de dicho trabajo en su blog. "Consideramos cualitativamente el algoritmo de prominencia dentro de la equidad en la literatura de aprendizaje automático, incluidos aquellos sobre daños tecnológicos a la sociedad", expresa la compañía.

El estudio

Para la investigación, Twitter ha realizado un experimento con "imágenes vinculadas aleatoriamente de individuos de diferentes razas y géneros". Con él buscaban comprobar si el algoritmo era demográficamente igual, si "no había ninguna diferencia en la cantidad de veces que cada imagen era elegida por el algoritmo de prominencia". Es decir, si "cada imagen tiene un 50% de posibilidades de ser destacada". Según los resultados que ha compartido, en las comparaciones de hombres y mujeres detectaron una diferencia del 8% con respecto a la paridad demográfica a favor de las mujeres. En las que comparaban personas blancas y negras la diferencia fue del 4%, a favor de los individuos blancos.

En la comparación de imágenes de mujeres blancas y afrodescendientes, la compañía refiere una diferencia del 7% a favor de las mujeres blancas. Y una diferencia del 2% a favor de los hombres blancos en las comparaciones de hombres blancos y negros.

Twitter también analizó lo que se conoce como 'mirada masculina', ya que algunas personas también detectaron que, en el caso de fotografías de mujeres, el algoritmo elegía para destacar en el recorte partes de su cuerpo como el pecho o las piernas.

Tras el análisis de este caso, la compañía señala que no han encontrado evidencia de sesgo de objetivación, es decir, "el algoritmo no recortó imágenes de hombres o mujeres en áreas distintas de sus caras a un ritmo significativo".

La compañía señala que "no todo en Twitter es un buen candidato para un algoritmo, y en este caso, cómo recortar una imagen es una decisión que mejor la toman las personas". A principios de este mes introdujo un cambio en el formato de la vista previa de las imágenes: ya no se mostrarían recortadas, sino enteras. (Europa Press)

Te recomendamos METADATA, el podcast de tecnología de RPP. Noticias, análisis, reseñas, recomendaciones y todo lo que debes saber sobre el mundo tecnológico. Para escucharlo mejor, #QuedateEnCasa.