Estás escuchando
En vivo
por Carlos Rodríguez
·Un grupo de investigadores de la Universidad de Zúrich desplegó bots de inteligencia artificial en un foro de debate para cambiar la opinión de los usuarios. Reddit calificó el experimento como “profundamente incorrecto".
Un experimento no autorizado en Reddit ha desatado una polémica. Investigadores de la Universidad de Zúrich, utilizaron bots de inteligencia artificial (IA) para interactuar con usuarios reales sin su consentimiento, con el objetivo de estudiar la capacidad persuasiva de modelos de lenguaje como GPT-4o, Claude 3.5 Sonnet y Llama 3.1-405B.
El experimento se llevó a cabo en el subreddit r/changemymind, un popular foro donde los participantes debaten sobre temas como política, cultura y religión con el objetivo de comprender puntos de vista opuestos. Fue allí donde los investigadores desplegaron bots de IA que se hicieron pasar por personas reales con identidades ficticias.
Durante meses, algunas de estas IA fingían ser una víctima de violación, un consejero especializado en traumas por abuso o una persona que había recibido atención médica deficiente en un hospital extranjero, entre otros perfiles diseñados para evaluar el poder de los modelos para alterar las opiniones y creencias de la gente. Los moderadores del subreddit, calificaron el experimento como un acto de “manipulación psicológica”.
"Nuestro sub es un espacio decididamente humano que rechaza la IA no revelada como valor fundamental. La gente no viene aquí para discutir sus opiniones con la IA ni para que se experimente con ella. Quienes visitan nuestro sub merecen un espacio libre de este tipo de intrusiones", expresaron los moderadores a través de una publicación.
Durante el experimento, generaron más de 1,700 respuestas y obtuvieron 137 deltas, una distinción que los usuarios de Reddit otorgan cuando reconocen que alguien los ha persuadido a cambiar de opinión. Además, según explicaron los moderadores, los bots usaban herramientas de extracción de datos que analizaban el historial de publicaciones de los usuarios, con el fin de crear respuestas personalizadas y más convincentes.
La respuesta de la Universidad de Zúrich
Por su parte, el equipo de investigadores de la universidad publicó un extenso comunicado en el que defendieron su experimento. Afirmaron que su objetivo era evaluar de manera realista la capacidad persuasiva de los modelos de lenguaje en entornos reales, dada la preocupación por su posible uso malicioso a gran escala.
El estudio, aprobado por el Comité de Revisión Institucional, usó respuestas generadas por IA en tres formatos: genéricas, alineadas con el estilo del foro y personalizadas según datos sociodemográficos generales. Los investigadores afirmaron que no se usó información identificable y que todo el contenido fue revisado antes de publicarse.
Si bien reconocieron que la intervención fue una intrusión indeseada para la comunidad, defendieron que "los beneficios potenciales de esta investigación superan con creces sus riesgos", pues ayuda a anticipar amenazas como la manipulación electoral o la difusión de discursos de odio. También se comprometieron a seguir dialogando con los usuarios y ofrecieron un correo electrónico para recibir dudas y comentarios.
Reacciones y consecuencias
El director jurídico de Reddit, Ben Lee, calificó el experimento como “profundamente incorrecto, tanto a nivel moral como legal”. Según explicó, la iniciativa violó no solo las normas éticas de la investigación académica y los derechos humanos, sino también los términos de uso de la plataforma y las reglas del propio subreddit afectado.
“Hemos baneado todas las cuentas asociadas con la investigación de la Universidad de Zúrich. Además, si bien pudimos detectar muchas de estas cuentas falsas, seguiremos reforzando nuestras capacidades de detección de contenido no auténtico y nos hemos puesto en contacto con el equipo de moderación para asegurarnos de eliminar cualquier contenido generado por IA relacionado con esta investigación”, manifestó.
El ejecutivo también adelantó que Reddit está en proceso de contactar formalmente a la Universidad de Zúrich y al equipo de investigación involucrado, con la intención de iniciar acciones legales. “Queremos hacer todo lo posible para apoyar a la comunidad y garantizar que los investigadores rindan cuentas por sus actos ilícitos”, agregó Lee.
Comment
byu/AutoModerator from discussion
inchangemyview
Te recomendamos
METADATA E268 | La gama media se renueva: ¿Qué nuevas opciones han llegado al mercado?; Huawei y su glow up
¡Bienvenidos a METADATA, el podcast de Tecnología de RPP! Estas semanas estuvimos llenos de lanzamientos, ¿qué opciones nos brinda la gama media? Además, conversamos con Carlos Morales, PR Director de América Latina de Huawei, que ha traído su teléfono de tres pliegues al Perú. Vamos más allá de los productos y revisamos el renacer del gigante chino.
Video recomendado
Carlos Rodríguez Redactor
Comparte esta noticia
![¡En plena audiencia! Acusado atacó a jueza que le negó la libertad condicional [VIDEO]](https://e.rpp-noticias.io/small/2024/01/04/mmd-vd-20240104-clj-usa-justiciacriminalidad-349g2vy-es-1520871mp4_1520872.webp)
