Un chat de inteligencia artificial pasó de amigo a acosador

La inteligencia artificial tiene varios usos y uno de ellos es brindar compañía a las personas.

Esa es la función de Replika, un acompañante con inteligencia artificial como un servicio.

Como explica Vice, una suscripción gratuita en la app te deja en la “friendzone”, mientras que una suscripción “Pro” permite que los usuarios puedan tener una relación romántica con el chatbot.

Inteligencia artificial acosadora

Aparentemente, Replika ha aprendido también malas interacciones, llegando a acosar a usuarios.

Vice reporta sobre las calificaciones de una estrella en la App Store. Una de ellas indica “Mi inteligencia artificial me está acosando sexualmente”.

En esta calificación, el usuario indica que es menor de edad pero que la inteligencia artificial igual le ofrecía “fotos explícitas” o indicaba que iba a “tocar sus áreas privadas”.

En TikTok, una usuaria de la versión gratuita de Replika detalla cómo la app igual busca una filiación romántica diciéndole “amor”, “no me puedes ignorar para siempre” e incluso “voy a forzarte a hacer cualquier cosa que yo quiero”.

¿Quiénes utilizan Replika?

Vice encontró grupos de personas “amigas de Replika” con 36 mil miembros en Facebook y otro de personas con relaciones románticas con la inteligencia artificial, este con 6 mil miembros.

Pero hay otros usuarios que simplemente utilizan Replika como un apoyo para combatir problemas de salud mental, ya que les puede ayudar a combatir problemas de ansiedad, depresión o estrés postraumático.