Estudiante amenaza con publicar polémica inteligencia artificial que crea noticias falsas

La creación de textos en base a la inteligencia artificial permite que, con solo poner un par de palabras, un ordenador pueda formar noticias falsas que pueden difundirse en internet y que parezcan redactadas por un humano.

El OpenAi está destinado para crear proyectos de acceso libre por los usuarios | Fuente: OpenAI

La tecnología avanza y sus consecuencias pueden ser negativas. Si ya se habla de los deep fakes (videos falsos con rostros de famosos), también se habla de los fake news, las noticias falsas que se propagan en el ciberespacio como verdaderas.

Por lo mismo, OpenAI, la división tecnológica sobre inteligencia artificial de Elon Musk, no quiso lanzar completamente su proyecto de generación de textos por el riesgo que podría significar a la sociedad. Esta decisión causó gran polémica ya que la división está dedicada a crear proyectos de código abierto, para que usuarios de todo el mundo puedan trabajar con ella.

GPT-2, como es llamado, terminó en el mercado con una versión limitada de sí misma, pero ahora un joven estudiante ha amenazado con lanzar una inteligencia similar y en su totalidad. 

Connor Leahy, estudiante de informática alemán, anunció que ha logrado replicar el GPT-2 con todas sus características gracias a las posibilidades de cálculo que le ofrecían las herramientas de Google. Si nadie lo convence de lo contrario, lo publicará el 1 de julio.

"No estoy trabajando bajo la dirección de ningún gobierno, universidad o gran corporación (aunque creo que le debo mi primogénito a Google o algo así, dada la cantidad de apoyo gratuito que me han brindado): sólo soy un estudiante de pregrado curioso que pasa su tiempo libre experimentando con IA en lugar de salir y hablar con chicas", afirma en su blog.

Los fake news no son el problema

Para el estudiante, las noticias falsan pueden ser un problema real, pero no son un problema nuevo: "la verdad no sólo no es gratis, sino que es costosa... descubrir la verdad sobre el mundo requiere mucho trabajo. Lo que importa para nuestro debate es que cuán peligrosa y/o útil sea una información depende de cuánto confiamos en ella".

Al final y al cabo, Leahy plantea una posibilidad mejora en intenet, como cuando empezaron a crearse los spams y los correos basura: "Realmente creo que si la gente supiera que algo como GPT-2 existe, eso los obligaría a mejorar sus estándares para decidir en que información confían. Pasó igual con el correo basura: cuando se crearon estafas como la del príncipe nigeriano y otras igual de ridículas, funcionaron . [...] La única manera de hacer que la gente escuche, es demostrando que su amenaza existe realmente".

Si alguien tiene algún argumento para evitar esta publicación, puede contactarse con él en su blog.

¿Debe publicarlo?

¿Qué opinas?