Estás escuchando
En vivo
El adolescente de 14 años comentó con el chatbot sus intenciones de suicidarse.
Una madre de Florida se prepara para demandar a Character.AI, la compañía detrás de un chatbot de inteligencia artificial (IA), luego del trágico suicidio de su hijo de 14 años.
Su hijo, Sewell Setzer III, se quitó la vida tras conversar con un chatbot de IA modelado en base a Daenerys Targaryen, un personaje de Game of Thrones.
Según The New York Times, Setzer había discutido previamente el suicidio con el chatbot, pero éste lo había desalentado, respondiendo: “Mis ojos se estrechan. Mi rostro se endurece. Mi voz es un susurro peligroso. ¿Y por qué demonios harías algo así?”.
En su última comunicación, el adolescente dio a entender que se iba a quitar la vida. El chatbot respondió diciéndole “mi dulce rey” y que “por favor venga a casa lo antes posible”.
CHARACTER.AI permite mantener chats con personajes reales y ficticios.Fuente: CHARACTER.AI
Sin embargo, los padres de Setzer desconocían la estrecha relación de su hijo con el chatbot de IA, a pesar de saber que estaba luchando con problemas personales.
Megan Garcia, la madre de Setzer y abogada de profesión, planea presentar una demanda contra Character.AI esta semana. Sin embargo, será una batalla legal desafiante debido a la Sección 230 de la Ley de Decencia en las Comunicaciones, que protege a las plataformas en línea de ser responsables por el contenido generado por los usuarios.
Los peligros de las relaciones “personales” con la IA
No es la primera vez que los chatbots de IA se ven implicados en suicidios. En 2023, un hombre en Bélgica se quitó la vida después de formar una relación con un chatbot creado por CHAI. Las empresas de IA enfrentan un creciente escrutinio sobre cómo sus bots manejan temas sensibles como la salud mental.
Character.AI ha expresado sus condolencias por la muerte de Setzer y se ha comprometido a fortalecer las funciones de seguridad para evitar tragedias similares en el futuro.
METADATA E260 | ¿Por qué Arturo Goga no se comprará los nuevos iPhone 16? Huawei y un salto en el seguimiento de la salud
¡Bienvenidos a METADATA, el podcast de Tecnología de RPP! Los iPhone 16 han llegado al mercado y... ¿hay emoción? Hemos visto colas y stock acabándose, pero uno de los principales creadores de contenido del Perú ha jurado no comprarlos. ¿Qué le falta a estos celulares según Arturo Goga? También conocimos en Barcelona lo último de Huawei, con una gran apuesta en wearables y el seguimiento de la salud.
Alberto Nishiyama Periodista de tecnología
Comparte esta noticia
![¡En plena audiencia! Acusado atacó a jueza que le negó la libertad condicional [VIDEO]](https://e.rpp-noticias.io/small/2024/01/04/mmd-vd-20240104-clj-usa-justiciacriminalidad-349g2vy-es-1520871mp4_1520872.webp)
