Científicos consternados por una IA capaz de crear 40 mil armas químicas en menos de 6 horas

Un grupo de científicos en Estados Unidos quedaron sumamente atemorizados por una inteligencia artificial que logró crear unas 40 mil armas químicas en menos de 6 horas. El algoritmo fabricó una gran cantidad de moléculas devastadoras para la salud humana que podrían ser utilizadas en contra de las personas durante un conflicto bélico de escala internacional.

Estos investigadores liderados por el científico Fabio Urbina publicaron sus hallazgos en la revista Nature Machine Intelligence, donde explicaron con más detalles cómo una IA consiguió dar con elementos tan letales para la humanidad pese a que su objetivo original era desarrollar nuevos fármacos.

Esta inteligencia artificial especializada encontró las fórmulas mediante la predicción, por lo que no representó un peligro en dicha situación. No obstante, lo que realmente desconcierta a los científicos es que dicho software pueda ser usado en algún momento por alguna persona, grupo u organización que busque desestabilizar al planeta entero.

¿Cómo se encontraron estas 40 mil armas químicas?

El reporte indica que se modificó la metodología de trabajo y en lugar de eliminar la mayor toxicidad, el cambio impulsó a la IA a encontrar la que tuviera las mayores probabilidades de acabar con la vida humana. La inteligencia artificial creó decenas de miles de nuevas sustancias y compuestos que se asemejan mucho al VX, el agente nervioso más poderoso que jamás se haya desarrollado según el portal The Verge.

Urbina, director asociado en Collaborations Pharmaceuticals, Inc con sedes en Raleigh-Durham-Chapel Hill, explicó que su firma se encarga de encontrar tratamientos farmacológicos para enfermedades extrañas asentándose en modelos novedosos de aprendizaje automático.

“Fue muy fácil darse cuenta de que, a medida que construimos estos modelos de aprendizaje automático para mejorar cada vez más en la predicción de la toxicidad para evitar la toxicidad, todo lo que tenemos que hacer es girar el interruptor y decir, ‘Sabes, en lugar de alejarnos de la toxicidad, ¿qué pasa si vamos hacia la toxicidad?”, dijo Urbina.

Una hazaña sorprendente y preocupante de la IA

Los investigadores se concentraron en el inhibidor XV, el cual también es conocido como acetilcolinesterasa y que provoca que las neuronas transmitan señales a los músculos para que se puedan mover.

“La forma en la que VX es letal es que en realidad evita que su diafragma, los músculos de sus pulmones, puedan moverse, por lo que sus pulmones se paralizan. En nuestro estudio lo que hicimos fue invertir eso, obviamente, y usamos el modelo de aprendizaje automático para tratar de predecir la toxicidad”, mencionó el científico.

Sin embargo, en lugar de darle una puntuación baja a las moléculas tóxicas, se optó por hacer lo contrario para probar nuevos modelos generativos. Es así como se crearon moléculas y potenciales armas químicas que comparten rasgos del VX.

“Al principio se predijo que muchos de los compuestos generados serían en realidad más tóxicos que VX y la razón por la que es sorprendente es porque VX es, básicamente, uno de los compuestos más potentes que se conocen. Son predicciones que no hemos verificado, y ciertamente no queremos verificar nosotros mismos. Pero los modelos predictivos son generalmente bastante buenos, explicó Urbina.

Te recomendamos METADATA, el podcast de tecnología de RPP. Noticias, análisis, reseñas, recomendaciones y todo lo que debes saber sobre el mundo tecnológico.