El papa León XIV alerta de una IA usada como "oráculo" y urge a guiar la revolución digital

León XIV alega que
León XIV alega que "hay múltiples pruebas" de que los algoritmos diseñados para animar el uso de las redes "premian las emociones rápidas y penalizan" la reflexión. | Fuente: EFE

El pontífice estadounidense ha publicado este sábado su primer mensaje por la Jornada Mundial de las Comunicaciones Sociales, que se celebra cada 17 de mayo, y en el mismo ha avisado de los riesgos que los algoritmos, las redes y una tecnología descontrolada pueden acarrear en la vida y la interacción de los seres humanos.

El papa León XIV ha alertado este sábado de que la inteligencia artificial (IA), usada incluso como "oráculo", amenaza con "erosionar" las capacidades humanas y el debate público y ha urgido a "guiar" la revolución digital en defensa de las personas.

El pontífice estadounidense ha publicado este sábado su primer mensaje por la Jornada Mundial de las Comunicaciones Sociales, que se celebra cada 17 de mayo, y en el mismo ha avisado de los riesgos que los algoritmos, las redes y una tecnología descontrolada pueden acarrear en la vida y la interacción de los seres humanos.

León XIV, atento siempre a este ámbito, alega que "hay múltiples pruebas" de que los algoritmos diseñados para animar el uso de las redes "premian las emociones rápidas y penalizan" la reflexión.

A este fenómeno se ha sumado una confianza "ingenua y acrítica" en la IA como "una 'amiga' omnisciente, dispensadora de toda información, archivo de toda memoria, 'oráculo' de todo consejo".

"Si bien la IA puede proporcionar apoyo y asistencia en la gestión de tareas comunicativas, eludir el esfuerzo del propio pensamiento, conformándonos con una compilación estadística artificial, corre el riesgo, a largo plazo, de erosionar nuestras capacidades cognitivas, emocionales y comunicativas", sostiene.

En este sentido, el papa ha señalado que en los últimos años la IA está tomando "cada vez más" el control de la producción de cultura, de textos, música o vídeo, por lo que, a su juicio, "gran parte de la industria creativa humana corre el riesgo de ser desmantelada".

Realidades "simuladas" por redes sociales

León XIV también reflexiona sobre un mundo en el que la realidad y las relaciones son "simuladas" por las redes sociales.

"Cuando ojeamos nuestro flujo de información (feed), es cada vez más difícil comprender si estamos interactuando con otros seres humanos o con 'bots' o 'influencers' virtuales", lamenta.

Esto representa otro peligro para la sociedad, ya que las posturas de estos "agentes automatizados" influyen en los debates públicos y en las decisiones de las personas.

"Los 'chatbots' basados en grandes modelos lingüísticos (LLM) están resultando sorprendentemente eficaces en la persuasión encubierta mediante una optimización continua de la interacción personalizada (...) Estos 'chatbots' excesivamente afectuosos, además de estar siempre presentes y disponibles, pueden convertirse en arquitectos ocultos de nuestros estados emocionales", sostiene.

El pontífice, que eligió su nombre pontificio para suceder a León XIII, el papa de la Revolución Industrial, consciente de la era de cambios digitales de su pontificado, ha arremetido así contra una tecnología que "explota nuestra necesidad de relacionarnos".

Esto, ha denunciado, "puede conllevar, no solo consecuencias dolorosas en el destino de los individuos, sino que puede dañar el tejido social, cultural y político de las sociedades".

"Esto se da cuando sustituimos las relaciones con los otros con una IA adiestrada para catalogar nuestros pensamientos y construir a nuestro alrededor un mundo de espejos", aseveró.

El papa recordó que, tras esta "enorme fuerza invisible", solo hay un reducido grupo de empresas, lo cual suscita "preocupación" por el control de los algoritmos y la IA como un "oligopolio".

El desafío, por lo tanto, "no consiste en detener la innovación digital" sino en "guiarla" siendo conscientes del fenómeno

Por eso, pidió "transparencia" a los desarrolladores de estas tecnologías y una "regulación adecuada" a los legisladores de todo el mundo para contener "la difusión de contenidos falsos".

Te recomendamos
Informes RPP

Papa León: La elección que tocó el corazón de la fe chiclayana

Este año 2025 la elección del Papa León XIV fue el hecho que más destacó en la región Lambayeque. Desde mayo pasado, Chiclayo, la Ciudad de la Amistad, ha brillado por todo lo alto en estos más de siete meses del pontidicado de Robert Prevost. En el siguiente informe, vamos a conocer qé tanto se ha fortalecido la fe de la feligresía católica y el reto que enfrenta la ciudad designada como cuna espiritual del Papa, ante la posibilidad de la llegada del Sumo Pontífice en el año 2026.

Informes RPP
Informes RPP
00:00 · 00:00
Video recomendado
Tags

Lo más leído

Contenido Sugerido

SIGUIENTE NOTA