CEO de Google advierte que las inteligencias artificiales sufren de ‘alucinaciones’

Para el CEO de Alphabet y Google, Sundar Pichai, hay un problema grave en el desarrollo de la inteligencia artificial que aún no tiene solución: las alucinaciones.

Pichai, que lidera el campo de investigación de su propia IA llamada Bard, refiere que esta problemática es preocupante y lastimosamente ‘aún nadie lo resuelve’.

Alucinaciones de la IA

Sus declaraciones a CBS refieren a que todos los modelos existentes hasta la fecha, incluido la suya, mantienen este problema.

Las alucinaciones se tratan de respuestas otorgadas por las inteligencias artificiales de manera muy segura, pero que no están justificadas con los datos con los que se entrenó.

Para Pichai, este problema es “un asunto de intento debate”.

Desde su lado, Google asegura que Bard está intentando “curar estas alucinaciones” con un botón llamado “googléalo” que lleva a los usuarios a las búsquedas de respuestas tradicionales.

"Los LLM (modelos de lenguaje de gran tamaño) pueden alucinar sobre la personalidad: esta es un área de investigación activa, ya que es un desafío conocido", señaló con anterioridad Google sobre este tema.

"Para Bard, hemos desarrollado una guía sobre la personalidad, en particular, los objetivos para que sea objetivo, neutral y no brinde opiniones personales, y continuamos ajustando nuestros modelos para alinearnos con estas pautas", refiere.

Un problema más

Pero, así como teme de las alucinaciones, Sundar Pichai también considera que aún se debe estudiar “las propiedades emergentes”.

“Algunos sistemas de inteligencia artificial están aprendiendo por sí mismas habilidades que no se esperaba que tuvieran. No se entiende bien cómo sucede esto”, mencionó.

Google está impulsando la inteligencia artificial en sus productos ante la viralidad de ChatGPT, de propiedad de OpenAI, pero a la cual su rival Microsoft está inyectando de gran cantidad de capital.

Te recomendamos METADATA, el podcast de tecnología de RPP. Noticias, análisis, reseñas, recomendaciones y todo lo que debes saber sobre el mundo tecnológico.