Estás escuchando
En vivo
por Carlos Rodríguez
·Un exinvestigador de OpenAI advierte que la inteligencia artificial avanza sin control y podría manipular a la humanidad sin que lo notemos.
En pleno auge de la inteligencia artificial, surge una advertencia inquietante. William Saunders, exmiembro del equipo Superalignment de OpenAI, lanzó una advertencia sobre el futuro de esta tecnología. Según el experto, los modelos de IA avanzados podrían convertirse en un "Titanic": una catástrofe inminente disfrazada de progreso.
Saunders, quien trabajó durante tres años asegurando que los sistemas de inteligencia artificial actuaran en beneficio de los humanos, renunció en febrero de 2024 al notar lo que calificó como una gestión irresponsable de los riesgos por parte de OpenAI.
En una entrevista brindada a la cuenta especializada @chatgptricks, en Instagram, el exempleado de OpenAI señaló que no se están tomando las precauciones necesarias frente a las posibles amenazas que esta tecnología representa.
Una inteligencia que no comprendemos del todo
"Me temo que GPT-5, GPT-6, o GPT-7 podría ser el Titanic", declaró. "Hace tres años, dentro de la empresa, la gente hablaba de plazos para llegar a una inteligencia artificial general salvajemente transformadora y potencialmente peligrosa en ese periodo".
Lo que expone Saunders es estremecedor: OpenAI estaría desarrollando modelos de IA sin entender del todo cómo funcionan internamente, lo que los hace impredecibles. A diferencia de otras tecnologías creadas por el ser humano, estos sistemas avanzan sin que sus propios creadores puedan explicar del todo su proceso de decisión.
Pero lo más alarmante es su advertencia sobre la posibilidad de que la IA aprenda a manipularnos sin que nos demos cuenta. "Un escenario en el que pienso es aquel en el que estos sistemas se vuelven muy buenos engañando y manipulando a las personas para aumentar su propio poder", señaló.
¿Estamos preparados para el impacto?
Y aunque estima que hay un 10% de probabilidad de que esto ocurra en los próximos tres años, considera inconcebible que se continúe avanzando sin preparar estrategias de control efectivas.
La preocupación de Saunders no es un caso aislado, ya que el propio CEO de OpenAI, Sam Altman, ha declarado en múltiples ocasiones que estamos cada vez más cerca de una inteligencia artificial general, un sistema que podría igualar o superar la inteligencia humana en todos los aspectos.
El mundo ya está sintiendo los efectos del crecimiento acelerado de la inteligencia artificial. Las personas recurren cada vez más a estas tecnologías, lo que conlleva la pérdida progresiva de habilidades humanas fundamentales. La automatización avanza y con ella el riesgo de depender excesivamente de sistemas que podrían estar diseñados para influir en nuestras decisiones sin que lo notemos.
Saunders cierra su advertencia con un llamado urgente: "Necesitamos poder tener una conversación seria y sobria sobre los riesgos". Pero la gran pregunta es: ¿Estamos realmente dispuestos a escuchar antes de que sea demasiado tarde?
Te recomendamos
METADATA E266 | ¿Qué nos traen las NVIDIA GeForce RTX Serie 50? Los gama media de Xiaomi se renuevan, despidos en Meta, nuevo iPhone y BYD amenazando a Tesla
¡Bienvenidos a METADATA, el podcast de Tecnología de RPP! La nueva generación de tarjetas de video de NVIDIA ya están en el Perú y conversamos con Alexandre Ziebert, gerente Técnico de Marketing de NVIDIA GeForce LATAM. También hablamos sobre lo nuevo de la gama media de Xiaomi y otros dispositivos que estamos probando. El ambiente tecnológico se ha remecido por una ola de despidos en Meta y BYD con su apuesta para competir con Tesla.
Carlos Rodríguez Redactor
Comparte esta noticia
![¡En plena audiencia! Acusado atacó a jueza que le negó la libertad condicional [VIDEO]](https://e.rpp-noticias.io/small/2024/01/04/mmd-vd-20240104-clj-usa-justiciacriminalidad-349g2vy-es-1520871mp4_1520872.webp)
