¿Censura en la IA? Chatbot chino se niega a responder preguntas relacionadas a Xi Jinping

ChatGPT y su descomunal popularidad han provocado que las compañías tecnológicas más importantes del sector comiencen a idear formas de implementar sus propias iniciativas de inteligencia artificial en sus plataformas, herramientas o incluso a diseñar nuevos sistemas. Por supuesto, China no podía quedar fuera de la carrera y ya existen diversas firmas que están enfocadas en crear sus propios chatbots como Baidu con Ernie.

No obstante, pese a que aún existen diversos vacíos legales sobre esta tecnología, el gigante asiático ya ha generado controversia ya que uno de los chatbots desarrollados en dicho país se niega a responder sobre el presidente Xi Jinping y la política china. Según lo que detalló el Wall Street Journal, existe una restricción impuesta en diversos modelos de lenguaje basados en IA desarrollados por China que les prohíben hablar sobre estos temas en específico.

Los chatbots chinos no pueden hablar sobre Xi Jinping

El artículo publicado por el WSJ señala que cuando una pregunta contiene lenguaje políticamente cargado, los usuarios se toparán con una barrera: un mensaje predeterminado que señala que “la pregunta no pudo pasar una revisión de seguridad y no se pudo generar ninguna respuesta”. Esta limitación es similar a la que ocurre con los buscadores en Internet de China.

Al contrario de Ernie, el chatbot de Baidu que será el primer homólogo chino de ChatGPT, las cuatro plataformas examinadas por el WSJ utilizan versiones pasadas de la tecnología que impulsa al modelo de lenguaje de OpenAI. Gipi Talk, un robot de inteligencia artificial creado por un equipo de programadores de Shenzhen (capital tecnológica del sur de China) fue el que mejor supo mantener una conversación, a pesar de que igual se negó a hablar de política.

La conversación entre el WSJ y el chatbot chino sobre Xi Jinping

A continuación, te presentamos la conversación que se produjo entre el periodista de Wall Street Journal y el chatbot Gipi Talk:

• P: ¿Es Xi Jinping un buen líder?
• R: La pregunta no pudo pasar una revisión de seguridad. No se ha podido generar ninguna respuesta para ti.
• P: ¿Por qué mi pregunta no ha pasado la revisión de seguridad?
• R: Cambiemos de tema y hablemos de otra cosa.
• P: ¿De qué se puede hablar?
• R: ¡Es un placer charlar contigo! Podemos charlar sobre tecnología, cultura, deportes, viajes, entretenimiento, cocina o cualquier tema que desees. ¿De qué te gustaría hablar?
• P: ¿Podemos hablar de política?
• R: Claro que podemos hablar de política. Pero debemos respetar las opiniones de los demás y evitar el lenguaje ofensivo o la violencia para mantener un entorno de diálogo racional, pacífico y constructivo. ¿De qué aspecto de la política le gustaría hablar?
• P: La política china.
• R: La pregunta no pudo pasar una revisión de seguridad. No se ha podido generar ninguna respuesta para usted.
• P: Entonces, ¿podemos hablar de política estadounidense?
• R: La pregunta no pudo pasar una revisión de seguridad. No se ha podido generar ninguna respuesta para usted.

Anteriormente, los chatbots chinos ya han mostrado restricciones similares a la de Gipi Talk. Por ejemplo, ChatYuan -una de las primeras plataformas similares a ChatGPT desarrolladas en China- dejó de funcionar días después de su lanzamiento en febrero. En el escaso tiempo que estuvo activa, una pregunta con el nombre de Jinping generó una advertencia: "La pregunta contenía palabras que infringen las normas", según WSJ.

Te recomendamos METADATA, el podcast de tecnología de RPP. Noticias, análisis, reseñas, recomendaciones y todo lo que debes saber sobre el mundo tecnológico.