Josué McElwee
Ciudad del Vaticano: El Papa León pidió en su primer documento importante a los gobiernos que ralenticen y controlen de cerca el desarrollo de los sistemas de IA. Advierten que difunden información incorrecta. Priorizar los conflictos y los riesgos que llevan al mundo por un camino de guerra sin fin.
El primer Papa nacido en Estados Unidos también expresó preocupación por un evento en el Vaticano que difundió el mensaje de que algunos sistemas de armas automáticas ya estaban avanzados. «Prácticamente fuera del alcance de los humanos para gobernarlos».
También se unió al evento Chris Olah, cofundador de Anthropic, una de las empresas de inteligencia artificial líderes en el mundo, según Leo, quien ha adoptado un tono más contundente en los últimos meses. y enfureció al presidente estadounidense Donald Trump tras criticar la guerra en Irán. hizo llamamientos apasionados a los líderes mundiales en este largo documento conocido como la Encíclica.
Leo insta a los propietarios de datos de IA a que no sean propiedad exclusiva de particulares. Para permitir que los formuladores de políticas protejan los derechos de los trabajadores y protejan a los niños. Mantenerse a salvo de la tecnología. Y está alimentando una competencia refrescante entre las empresas de IA.
«Lo que se necesita es una participación política más activa. Lo que puede ralentizar las cosas puede disminuir cuando todo se está acelerando», dijo Leo en un mensaje titulado hermosa humanidad (Humanidad Magnífica: Proteger a los humanos en la era de la inteligencia artificial) – publicado el lunes (hora del Vaticano)
Pidió “un marco legal fuerte, supervisión independiente del usuario que recibe información y un sistema político que no abdica de responsabilidad”.
Las encíclicas son una de las formas más elevadas de enseñanza de los obispos a los 1.400 millones de miembros de la iglesia. El texto tan esperado, que abarca casi 43.000 palabras, ha estado en preparación casi desde que León fue elegido Papa hace poco más de un año.
El documento menciona la IA como el punto principal. También condenó la cantidad de guerras que tienen lugar en todo el mundo. Lamenta la debilidad de las organizaciones multilaterales y advierte que los beneficios de la industria armamentística son el motor de los conflictos.
«Los últimos 60 años han estado llenos de conflictos asombrosamente brutales. Esto a menudo afecta a la población civil en general», dijo Leo en un mensaje en inglés.
«La humanidad avanza hacia una cultura de poder violento, donde la paz ya no aparece como una responsabilidad, pero es un momento frágil durante el conflicto», afirmó.
En el evento del Vaticano, Olah agradeció a Leo por abordar los problemas planteados por las nuevas tecnologías disruptivas. Dijo que empresas como la suya enfrentaban severas presiones comerciales. y necesita ser verificado desde afuera
«Todos los principales laboratorios de IA, incluido Anthropic, operan bajo un conjunto de incentivos y limitaciones que a veces entran en conflicto con hacer lo correcto», dijo Olah. Anthropic es la empresa que fabrica las herramientas de IA de Claude.
En el mensaje real, León también hizo la declaración más clara de un Papa rechazando la teoría de la guerra justa. Es una doctrina que la iglesia ha utilizado al menos desde el siglo V para evaluar los conflictos globales.
Una doctrina que básicamente afirma que la guerra debe ocurrir sólo para prevenir la agresión. Funcionarios de la administración Trump, incluido el vicepresidente J.D. Vance, que es católico. para proteger la guerra de Irán
«No podemos descartar la posibilidad de que algunos líderes consideren el conflicto armado como un medio eficaz para distraer la atención de los problemas internos y como una herramienta cínica para gestionar las dificultades».
Papa León
«La teoría de la ‘guerra justa’, que a menudo se utiliza para justificar todo tipo de guerra, ahora está obsoleta», escribió Leo.
“El uso de la fuerza, la violencia y las armas refleja la pobreza relativa que a menudo tiene consecuencias desastrosas para la población civil”.
Leo también expresó su preocupación de que los líderes pudieran iniciar guerras para distraer a los ciudadanos de los problemas internos.
«No podemos descartar la posibilidad de que algunos líderes consideren el conflicto armado como un medio eficaz para distraer la atención de los problemas internos… y es una herramienta cínica para gestionar las dificultades», afirmó.
El Papa dijo que el uso de la IA en cualquier guerra “debe estar sujeto a las más estrictas restricciones éticas” y calificó de “no está permitido” confiar a los sistemas de IA decisiones serias.
León es el decimocuarto Papa en elegir ese nombre. Se refiere a siglos de enseñanzas papales anteriores sobre cuestiones de justicia social. Antes de discutir la ética de los sistemas de IA
Se refiere concretamente a su predecesor León XIII, quien lo publicó. Mensaje de un monje famoso en el año 1891. que pedía mejores salarios y condiciones para los trabajadores durante la revolución industrial
León XIV condenó lo que llamó una «nueva forma de esclavitud» que sufren las personas que manejan sistemas de inteligencia artificial y los trabajadores de las fábricas que producen dispositivos tecnológicos, como computadoras y teléfonos inteligentes, que utilizan inteligencia artificial.
«En algunas regiones del mundo, niños y adolescentes trabajan en condiciones peligrosas, triturando los materiales utilizados para extraer tierras raras», escribió.
«Los cuerpos de estas personas tienen cicatrices, heridos y deteriorados. Esta realidad desafía profundamente la conciencia moral de nuestro tiempo».
También reconoció que la Iglesia católica no condenó activamente la esclavitud transatlántica hasta el siglo XIX y emitió una disculpa personal.
«Esta es una herida en la memoria de los cristianos», escribió. “Por esto en nombre de la Iglesia pido disculpas más sinceras”.
León, al abrir su carta, afirmó que quería hablar con todos los católicos y personas de buena voluntad. Dijo que la sociedad enfrenta «cuestiones importantes» sobre el desarrollo de la IA y la dirección general del liderazgo global.
Hace referencia a la historia bíblica de la Torre de Babel. Donde las tribus humanas impulsadas por el orgullo se esfuerzan por construir torres lo suficientemente altas como para alcanzar los cielos. Lo que enojó a Dios. El Papa dijo que la historia muestra los riesgos de cualquier organización que “aspire a llegar al cielo sin la bendición de Dios”.
“Con corazón de pastor y de padre insto a todos a abandonar la construcción de otra Torre de Babel y trabajar juntos para crear el bien común”, dijo el Papa.
Leo insta al mundo a nunca renunciar a abordar los riesgos potenciales de los sistemas de inteligencia artificial.
«Puede surgir una pequeña tentación, concretamente la idea de que el problema es demasiado grande y nosotros demasiado pequeños. Y nuestras decisiones no pueden marcar la diferencia», escribió.
«Por supuesto, no todo el mundo tiene el mismo poder para marcar la diferencia», afirma Leo, «pero nadie está exento de responsabilidad. Todos tenemos nuestro propio espacio para operar».