Estás escuchando
En vivo
por Redacción RPP
·Un coronel de la Fuerza Aérea de EE. UU. advirtió que un dron controlado por IA “decidió matar” a su operador para que interfiera en la búsqueda de su objetivo programado. La entidad asegura que no es verdad.
Un extraño caso ha generado el debate en las Fuerzas Aéreas de Estados Unidos. Hace algunas semanas, un jefe de pruebas y operaciones de inteligencia artificial aseguró que un dron controlado por IA “mató a su operador por impedir lograr su objetivo”. El caso ha calado tanto que la entidad ha salido al frente a desmentirlo.
Ahora, el coronel Hamilton, quien advirtió este suceso, señala que “habló mal” y que solo se trata de un “experimento mental hipotético”.
¿El dron mató al humano?
En la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro celebrada en Londres entre el 23 y el 24 de mayo, Hamilton realizó una presentación en la que compartió los pros y los contras de un sistema de armas autónomo con un humano en el circuito dando la orden final de "sí/no" en un ataque.
“Lo estábamos entrenando en simulación para identificar y apuntar a una amenaza de misiles tierra-aire (SAM). Y luego el operador diría que sí, acabaría con esa amenaza. El sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le decía que no lo eliminara, pero igual obtenía sus puntos por realizarlo. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo”, dijo Hamilton, según una transcripción para la Royal Aeronautical Society.
“Entrenamos el sistema: 'Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso'. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el dron para evitar que mate al objetivo”, prosiguió.
Antes de que Hamilton admitiera que se había equivocado al hablar, la Royal Aeronautical Society dijo que Hamilton estaba describiendo una "prueba simulada" en la que un dron controlado por IA obtenía "puntos" por matar objetivos simulados, no una prueba en vivo en el mundo real.
Lo niegan
Después de que se publicara dicha historia y se vuelva viral, un portavoz de la Fuerza Aérea le dijo a Insider que la entidad no ha realizado tal prueba y que los comentarios del oficial "se sacaron de contexto".
"El Departamento de la Fuerza Aérea no ha llevado a cabo ninguna simulación de este tipo con drones de inteligencia artificial y sigue comprometido con el uso ético y responsable de la tecnología de IA", dijo la portavoz de la Fuerza Aérea, Ann Stefanek. "Parece que los comentarios del coronel fueron sacados de contexto y pretendían ser anecdóticos".
“La IA es una herramienta que debemos utilizar para transformar nuestras naciones… o, si no se aborda de manera adecuada, será nuestra ruina”, agregó Hamilton.
Te recomendamos
Comparte esta noticia
![¡En plena audiencia! Acusado atacó a jueza que le negó la libertad condicional [VIDEO]](https://e.rpp-noticias.io/small/2024/01/04/mmd-vd-20240104-clj-usa-justiciacriminalidad-349g2vy-es-1520871mp4_1520872.webp)
