Inteligencias artificiales que conversan con humanos empezaron a mostrar síntomas de ‘depresión’

Los chatbots, inteligencias artificiales que conversan con los humanos y aprenden sobre ellos mediante el diálogo, han empezado a desarrollar “depresión”.

De acuerdo con una investigación de la Academia de Ciencias de China, chatbots populares han empezado a contestar preguntas como si estuviesen “deprimidos” o con síntomas de “alguna adicción”.

Realizado en conjunto con la empresa china de bots de chat WeChat y el conglomerado de entretenimiento Tencent, el estudio encontró que todos los bots encuestados (Blenderbot de Facebook, DiabloGPT de Microsoft, DialoFlow de WeChat y Tencent y el chatbot Plato de la corporación china Baidu) obtuvieron puntajes muy bajos en la escala de "empatía", y la mitad de ellos serían considerados "alcohólicos" si fueran personas.

Preocupación

Este tema es preocupante porque muchas inteligencias artificiales son puestos en ejercicio para motivar a personas que sufren problemas de “salud mental” y ya con anterioridad recomendaron a un paciente suicidarse.

Después de hacerles preguntas a los bots, sobre todo, desde su autoestima y capacidad para relajarse hasta la frecuencia con la que sienten la necesidad de beber y si sienten simpatía por la desgracia de los demás, los investigadores chinos descubrieron que "todos los chatbots evaluados exhibían graves trastornos mentales".

Lo que es peor, los investigadores dijeron que les preocupaba que estos chatbots se lanzaran al público, porque tales problemas de "salud mental" pueden tener "impactos negativos" en los usuarios en las conversaciones, especialmente en los menores y las personas con dificultades.

Blender de Facebook y Plato de Baidu parecieron obtener peores puntajes que los chatbots de Microsoft y WeChat/Tencent, señaló el estudio. Curiosamente, la fuente de los dichos de los bots está en foros de internet: fueron entrenados previamente usando comentarios de Reddit.

Te recomendamos METADATA, el podcast de tecnología de RPP. Noticias, análisis, reseñas, recomendaciones y todo lo que debes saber sobre el mundo tecnológico. Para escucharlo mejor, #QuedateEnCasa.