Estás escuchando
En vivo
Frente a la constante difusión de fake news y otras prácticas de desinformación en las redes sociales durante procesos electorales, existe el riesgo de un posible mal uso de la Inteligencia Artificial para distorsionar el debate público, sobre todo durante una próxima campaña electoral. Acerca del tema, que se abre paso en la región, le consultamos a expertos en la materia.
Elecciones
Esto opinan los expertos sobre el impacto de la Inteligencia Artificial en los futuros procesos electorales
El desarrollo de nuevas tecnologías en la comunicación y su fácil acceso a bajo costo pueden ser un arma de doble filo, sobre todo en contextos de alta polarización. Y es que en una era en la que abunda la difusión de información falsa o sesgada, como lo son los procesos electorales, un mal uso de la Inteligencia Artificial (IA) podría generar que el debate público se distorsione aún más. No sorprendería, que así como el TikTok fue una de las redes sociales más usadas por los candidatos en las últimas elecciones, en las próximo sea la IA la que cobre protagonismo, para bien o para mal.
La Inteligencia Artificial (IA) es un software que imita aspectos del comportamiento humano y sus patrones de aprendizaje. En los últimos meses se han desarrollado herramientas con la IA que se han popularizado mucho (Chat GPT es uno de ellos). Pero, ¿qué efecto puede tener la llegada de la IA en el discurso político y cómo afecta la democracia?
Al respecto, el abogado experto en tecnología Miguel Morachimo considera que el desarrollo de nuevas tecnologías pueden tener efectos a favor y en contra de la democracia. Por un lado, puede contribuir a acercar a los políticos con la ciudadanía, pero también puede generar espacios de discusión exacerbada ante la difusión de mensajes que promuevan la polarización entre distintos grupos sociales.
“Algunas [herramientas] pueden tener un impacto muy positivo, la posibilidad de poder explicar mejor un tema, de poder comunicarlo en otra lengua, etc. La traducción automatizada es una forma de Inteligencia Artificial también, pero también es cierto que puede tener impactos negativos”, señala.
¿A qué riesgos estamos expuestos?
El uso de la Inteligencia Artificial en Latinoamérica y el Perú aún es incipiente. No obstante, en opinión de los expertos, es el momento adecuado para empezar a preguntarnos sobre los riesgos que puede traer consigo -sobre todo en periodo electoral- un mal uso de la Inteligencia Artificial Generada, un modelo que puede ser “entrenado” a partir de datos proporcionados por el usuario para crear nuevos textos, imágenes, audios y videos.
Sobre esto comenta el abogado experto en Derecho Digital Erick Iriarte: “La Inteligencia Artificial no es automática, no es mágica, no va a sentar a decir 'hoy vamos a hablar en contra del gobierno de fulano'. No, lo que van a hacer es que alguien programa el código. (...) Vamos a hacer un ejemplo bastante simple: un candidato dice, como parte de su plataforma de campaña, que hay que cuidar a los animales; entonces, yo estoy en contra de esta persona y le digo a la IA ‘prodúceme un video con el rostro de esta persona donde se le vea maltratando un animal' y lo filtro”.
“Mientras terminas de desbaratar el elemento, tuviste un impacto real político”, sentencia Iriarte.
En esa misma línea, el director ejecutivo de Hiperderecho, Dilmar Villena, sostiene que la IA Generada “ha dado pasos escalonados y evolucionado de manera amplia”, sobre todo en el último año. Ello, al tener la capacidad de generar contenido nuevo y con acabados “sofisticados” ante el ojo humano, una vez que cuentan con información extensa del personaje al que se quiere hacer alusión.
“Se genera un riesgo de que puedan manipularse o trucarse o generarse videos donde políticos o contendientes políticos se les hace hacer decir lo que efectivamente no dicen y para esto es que se requiere un nivel de discernimiento muy alto”, indica.
Y agrega: “Por ejemplo, los políticos que son que están públicamente expuestos la disposición de información que hay sobre su voz es amplia. Tú puedes, con esa información, entrenar la IA Generativa para crear voz o discursos clonando la voz de estas personas”.
Los expertos consultados para este informe coinciden en que no existen estudios que indiquen que las redes sociales influyan en el voto ciudadano. No obstante, señalan que la difusión de contenidos sesgados podrían reforzar la postura política del usuario y que este sea menos cuidadoso al verificar la veracidad de la información que comparte, sobre todo, si puede perjudicar al adversario político en campaña.
Te recomendamos
¿Es posible hablar de una regulación?
Al respecto, Erick Iriarte sostiene que si bien no existe en el Perú un marco normativo claro y específico sobre la Inteligencia Artificial, existen reglas generales que se pueden aplicar respecto al uso y vulneración de datos personales.
No obstante recalca que, ante los nuevos desafíos que implica el uso de la IA en contextos complejos, los esfuerzos deben estar centrados en desarrollar una capacidad crítica y de discernimiento en la ciudadanía.
“Lo más importante de entender es que la tecnología no es buena ni mala, tiene la carga del usuario. Si yo formo a la gente en un adecuado respeto de la libertad de los derechos, en una cultura de ciberseguridad, protección de datos (...) Cuando encuentren un contenido vejatorio, que no es real, lo van a denunciar”, expresa Iriarte.
“Va a ser muy difícil que exista un control de las importaciones de estas tecnologías. Solo podemos fijarnos en sus consecuencias, en lo que pasa en la última milla del uso de estas tecnologías, y es ahí donde tienen que estar nuestros esfuerzos (...) El componente legal es uno, pero diría que hasta el menos importante y menos efectivo es mucho más importante desarrollar capacidad crítica en la ciudadanía”, sostiene por su parte Morachimo.
Por su parte, Villena destaca que la norma actual también prevé aspectos básicos para la realización de una campaña política, por lo que, ante el incumplimiento a ciertos principios de la Ley de Organizaciones Política o la Ley Orgánica de Elecciones, el Jurado Nacional de Elecciones (JNE) podría sancionar las faltas que comentan las agrupaciones políticas.
Los expertos consideran que, en medio del furor de una campaña electoral, la difusión de contenido generado a partir de Inteligencia Artificial podría reforzar la postura política del usuario de una red social, produciendo que esta sea menos cuidadoso con la información que comparte o generando promoviendo la polarización.
Las próximas elecciones en Estados Unidos serán el escenario perfecto para dar un primer alcance sobre el impacto que tendrán los contenidos creados por Inteligencia Artificial. Mientras tanto, en Perú, estamos a tiempo para empezar a discutir los riesgos que puede traer consigo este sistema y estar preparados para ello.
Karina Valencia Pantoja Periodista
Comparte esta noticia
![¡En plena audiencia! Acusado atacó a jueza que le negó la libertad condicional [VIDEO]](https://e.rpp-noticias.io/small/2024/01/04/mmd-vd-20240104-clj-usa-justiciacriminalidad-349g2vy-es-1520871mp4_1520872.webp)
