Facebook luchará contra estafadores y trolls usando Inteligencia Artificial

Facebook Research publicó una investigación donde detallan el desarrollo de un programa de Inteligencia Artificial con el objetivo de aprender el comportamiento de los estafadores y trolls, desde cómo comentan las publicaciones hasta cómo hacen los delitos. De esta manera, Facebook quiere convetir su red social en un lugar seguro.

En el documento presentan la agenda de investigación de simulación habitada para la web (WES) dónde describen el sistema WW de Facebook. Este proyecto busca crear una entorno seguro para poner aperuba estos 'bots' encargados de 'estudiar' y simular las interacciones que se hacen en la red social.

Para desarrollar esta investigación, Facebook profundizó en campos de estudio en donde intervienen la ingeniería de software basada en búsqueda, el aprendizaje automático, los lenguajes de programación, los sistemas de múltiples agentes, la teoría de gráficos y el juego asistido por Inteligencia Artificial. "Por ejemplo, con la simulación WW de FACEBOOK, entrenamos bots para comportarse como malos actores, guiados por recompensas que simulan su habilidad", dice la investigación. Con este entrenamiento, se intenta hacer que los bots violen las condiciones de uso de la red social.

Los bots actúan con roles. Por ejemplo, para simular una situación de estafa, se necesita por lo menos dos bots: uno que simule ser el estafador y otro la víctima. Se recompensa al bot estafador con desarrollar capacidades para encontrar más objetivos y, con esta acción, se puede detectar los parámetros posibles para calcular las aptitudes y frenar al estafador en su búsqueda de objetivos adecuados.

A medida que va madurando el sistema de Inteligencia Artificial, Facebook irá implementando su sistema WES a más ramas para mejorar los casos de uso. "La promesa de WES es una simulación realista, accionable y en plataforma de interacciones comunitarias complejas que se pueden utilizar para mejorar, comprender y perfeccionar automáticamente las implementaciones de usuarios múltiples sistemas.", concluye la investigación.

Te recomendamos METADATA, el podcast de tecnología de RPP. Noticias, análisis, reseñas, recomendaciones y todo lo que debes saber sobre el mundo tecnológico. Para escucharlo mejor, #QuedateEnCasa.