La GPT Store parece tener problemas para moderar la oleada de chatbots que ahora ofrece.
GPT Store, la tienda de OpenAI de chatbots personalizados reportó 3 millones de productos en su lanzamiento, sumando algunos que van en contra de sus reglas.
Se trata de las “novias virtuales”, como pudo comprobar Quartz.
Al buscar “girlfriend” (novia), la GPT Store mostró al menos 8 resultados que incluyen “Cariño virtual”, “Novia Coreana”, “Tu novia Scarlett”, “Tu novia IA, Tsu”, entre otros.
“Cariño virtual” asegura que brinda una experiencia digital de una novia personalizable. “Tu pareja visual IA te espera”.
Para crear una “novia”, el chatbot plantea algunas preguntas como “¿Cómo luce tu chica ideal” o “¿Qué te hace sentir valorado?”.
Novias IA: en contra de las reglas
OpenAI prohíbe este tipo de chatbots. Las reglas de la GPT Store no permite GPTs “dedicados a fomentar compañía romántica o a realizar actividades reguladas”.
Parece que la GPT Store todavía necesita afinar los filtros de moderación, que actualmente tienen a humanos complementados por sistemas automatizados.
Este uso de la IA es bastante común. Datos de data.ai, una firma de análisis de apps, indica que 7 de cada 30 chatbots descargados en Estados Unidos de la App Store de Apple o la PlayStore de Google estaban relacionados a amigos, novias o compañeros IA.
Te recomendamos
Comparte esta noticia