Ciudad del Vaticano, 24 ene (EFE).- El papa León XIV ha alertado este sábado de que la Inteligencia Artificial (IA), usada incluso como “oráculo”, amenaza con “erosionar” las capacidades humanas y el debate público y ha urgido a “guiar” la revolución digital en defensa de las personas.
El pontífice estadounidense ha publicado este sábado su primer mensaje por la Jornada Mundial de las Comunicaciones Sociales, que se celebra cada 17 de mayo, y en el mismo ha avisado de los riesgos que los algoritmos, las redes y una tecnología descontrolada pueden acarrear en la vida y la interacción de los seres humanos.
León XIV, atento siempre a este ámbito, alega que “hay múltiples pruebas” de que los algoritmos diseñados para animar el uso de las redes “premian las emociones rápidas y penalizan” la reflexión.
A este fenómeno, se ha sumado una confianza “ingenua y acrítica” en la IA como “una ‘amiga’ omnisciente, dispensadora de toda información, archivo de toda memoria, ‘oráculo’ de todo consejo”.
“Si bien la IA puede proporcionar apoyo y asistencia en la gestión de tareas comunicativas, eludir el esfuerzo del propio pensamiento, conformándonos con una compilación estadística artificial, corre el riesgo, a largo plazo, de erosionar nuestras capacidades cognitivas, emocionales y comunicativas”, sostiene.
En este sentido, el papa ha señalado que en los últimos años la IA está tomando “cada vez más” el control de la producción de cultura, de textos música o vídeo, por lo que, a su juicio, “gran parte de la industria creativa humana corre el riesgo de ser desmantelada”.
León XIV también reflexiona sobre un mundo en el que la realidad y las relaciones son “simuladas” por las redes sociales.
“Cuando ojeamos nuestro flujo de información (feed) es cada vez más difícil comprender si estamos interactuando con otros seres humanos o con ‘bot’ o ‘influencers’ virtuales”, lamenta.
Esto representa otro peligro para la sociedad ya que las posturas de estos “agentes automatizados” influyen en los debates públicos y en las decisiones de las personas.
“Los ‘chatbots’ basados engrandes modelos lingüísticos (LLM) están resultando sorprendentemente eficaces en la persuasión encubierta mediante una optimización continua de la interacción personalizada (…) Estos ‘chatbots’ excesivamente afectuosos, además de estar siempre presentes y disponibles, pueden convertirse en arquitectos ocultos de nuestros estados emocionales”, sostiene.
El pontífice, que eligió su nombre pontificio para suceder a León XIII, el papa de la Revolución Industrial, consciente de la era de cambios digitales de su pontificado, ha arremetido así contra una tecnología que “explota nuestra necesidad de relacionarnos”.
Esto, ha denunciado, “puede conllevar, no solo consecuencias dolorosas en el destino de los individuos, sino que puede dañar el tejido social, cultural y político de las sociedades”.
“Esto se da cuando sustituimos las relaciones con los otros con una IA adiestrada para catalogar nuestros pensamientos y construir a nuestro alrededor un mundo de espejos”, aseveró.
El papa recordó que, tras esta “enorme fuerza invisible”, solo hay un reducido grupo de empresas, lo cual suscita “preocupación” por el control de los algoritmos y la IA como un “oligopolio”.
El desafío, por lo tanto, “no consiste en detener la innovación digital” sino en “guiarla” siendo conscientes del fenómeno.
Por eso, pidió “transparencia” a los desarrolladores de estas tecnologías y una “regulación adecuada” a los legisladores de todo el mundo para contener “la difusión de contenidos falsos”.
El papa avisa a medios del poder de los algoritmos: “la información es un bien público”
Ciudad del Vaticano, 24 ene (EFE).- El papa León XIV ha advertido este sábado a los medios de comunicación del poder y los riesgos de los algoritmos y les ha emplazado a dar prioridad a la búsqueda de la verdad sobre la necesidad de atrapar la atención de su público.
“Las empresas mediáticas y de la comunicación no pueden permitir algoritmos orientados a ganar a toda costa una batalla según la cual la atención prevalece sobre la fidelidad a sus valores profesionales y la búsqueda de la verdad”, ha avisado el pontífice.
León XIV ha publicado este sábado un largo mensaje por la Jornada Mundial de las Comunicaciones Sociales, celebrado el próximo 17 de mayo, y ha avisado de los riesgos que los algoritmos, las redes y una tecnología descontrolada pueden acarrear en la vida y la interacción de los seres humanos.
Un apartado de esta reflexión alude a los medios, a los que el papa convoca para hacer frente a una revolución digital en la que la Inteligencia Artificial (IA) y unos algoritmos controlados por unas pocas empresas amenazan con “erosionar” a la sociedad mundial.
“La confianza del público se conquista con precisión y transparencia, no persiguiendo cualquier forma de implicación”, sostuvo el papa, aludiendo al fenómeno del ‘clickbait’.
A su juicio, todo contenido generado o manipulado por la IA debe ser “señalado y distinguido claramente” de los creados por las personas y, además, los medios deben “proteger” la autoría del trabajo de los periodistas y demás creadores de contenido.
“La información es un bien público. Un servicio público constructivo y significativo no se basa en la opacidad sino en la transparencia de las fuentes, la inclusión de los sujetos implicados y un estándar elevado de calidad”, aseveró.
León XIV,consideró “cada vez más urgente” educar a la gente sobre medios, información e IA.
“Todas las partes interesadas —la industria tecnológica, los legisladores, las empresas creativas, el mundo académico, los artistas, los periodistas y los educadores— deben estar implicadas en la construcción y en la puesta en práctica de una ciudadanía digital consciente y responsable”, emplazó.
Esta instrucción, dijo, “ayudará a todos a no plegarse a la deriva antropomorfizante de estos sistemas” sino a usarlos como “herramientas” y a confirmarlos siempre con fuentes externas.
“Del mismo modo que la Revolución Industrial requería una alfabetización básica para permitir que las personas reaccionaran a la novedad, también la revolución digital exige una alfabetización digital, junto con una formación humanística y cultural, para comprender cómo los algoritmos modelan nuestra percepción de la realidad”, defendió el pontífice.