El Papa León XIV advirtió sobre los peligros de la inteligencia artificial y el poder tecnológico desenfrenado en su primer documento papal importante publicado el lunes. Maravillosa humanidad Es la declaración del Papa sobre “La protección humana en la era de la inteligencia artificial”, en la que analiza los peligros de la guerra impulsada por la IA, los efectos de la IA en el trabajo y la necesidad de nuevos marcos legales y éticos que gobiernen esta tecnología.
En su encíclica –una carta abierta de la Iglesia Católica– el Papa León destacó las perturbaciones económicas y sociales causadas por la rápida adopción de la inteligencia artificial, a la luz de la protección insuficiente de las personas que amenazan la dignidad humana. Comparó la era actual de la inteligencia artificial con la Torre de Babel y dijo que la sociedad debe «evitar el ‘síndrome de Babel'», que define como «el culto al beneficio que sacrifica a los débiles, la uniformidad que neutraliza las diferencias y la pretensión de que un solo lenguaje, incluso el digital, puede traducirlo todo, incluido el secreto de una persona, en datos y rendimiento».
El mensaje del Papa León aborda áreas clave de la vida moderna en las que la IA se ha arraigado profundamente: la pérdida de empleos y del trabajo en general, las guerras impulsadas por la IA y la exposición de los niños a herramientas y contenidos de la IA, entre otros temas. Por encima de todo, la encíclica pide que la dignidad humana sea una parte esencial de la toma de decisiones y la gobernanza. La carta es un llamado al “discernimiento moral y social que proteja la primacía humana, a fin de garantizar que la inteligencia humana, con su conciencia y libertad, guíe las innovaciones técnicas y determine responsablemente su uso y límites”, escribió Liu.
La carta, que consta de más de 42.000 palabras, enmarca el llamado a “prudencia, evaluación rigurosa e incluso, en ocasiones, un ritmo más lento en la adopción de la IA” como “una práctica de cuidado responsable de la familia humana”. Entre algunas sugerencias:
Los efectos de la inteligencia artificial en la humanidad han sido un tema crucial para el Papa León: eligió su nombre papal en referencia a la Revolución Industrial, durante la cual su predecesor, el Papa León XIII, Publicó su propio periódico. De la protección de los trabajadores ante el progreso tecnológico. El Papa Leo también ha estado involucrado en la industria de la inteligencia artificial, y el cofundador de Anthropic, Christopher Olah, estuvo presente cuando el Papa pronunció su encíclica el lunes. POLITICO mencioné Representantes de Amazon, Meta y Google se reunieron con funcionarios del Vaticano antes de la publicación de la encíclica papal el lunes, mientras la industria tecnológica intenta influir en las posiciones de la iglesia. (También hay un subgrupo que intenta «tomar pastillas AGI» para el Papa; Maravillosa humanidad No menciona explícitamente la inteligencia artificial general).
La encíclica no es una objeción general a la IA. En cambio, el Papa León pide el “desarme” de la tecnología, tanto en el sentido militar como en el económico y social. Dice que la IA no debería utilizarse en una carrera para acumular poder o monopolizar la sociedad.
«El desarme significa refutar la suposición de que el poder técnico confiere automáticamente el derecho a gobernar. El desarme no significa rechazar la tecnología, sino más bien impedir que controle a la humanidad».