Más de 200 líderes mundiales firmaron el pasado 16 de julio la Declaración de Roma en el marco de la Asamblea Global de Premios Nobel sobre Inteligencia Artificial y Guerra Nuclear, que se celebró en Castel Gandolfo los días 14 y 15 de julio. El evento se desarrolló a partir de la Encíclica Magnifica Humanitas, del Papa León XIV.
Entre los firmantes había científicos, Premios Nobel, líderes religiosos y antiguos jefes de Estado y de Gobierno.
Durante el encuentro, el vicario general del Papa para la diócesis de Roma, Baldo Reina manifestó que “el progreso científico y tecnológico ofrece oportunidades extraordinarias para la atención sanitaria, la educación, la salud pública, la protección del medio ambiente, la lucha contra la pobreza y la construcción de la paz. Sin embargo, ese mismo progreso, si se desvincula de la ética, la responsabilidad y el respeto por la dignidad de la persona humana, puede convertirse en un instrumento de dominación, exclusión e incluso destrucción”.
“La Declaración presentada hoy nos recuerda con gran claridad que ninguna máquina, ningún algoritmo y ningún sistema autónomo puede situarse en el centro de decisiones de las que depende la supervivencia de la humanidad”.
Reina concluyó diciendo que “las decisiones relativas a la vida y la muerte, a la paz y la guerra, y al futuro de los pueblos y de las generaciones venideras deben permanecer bajo un control humano pleno, responsable y significativo”.
También intervino en el encuentro Andrea Ciucci, canciller de la Pontificia Academia para la Vida y secretario general de la Fundación Vaticana RenAIssance para la ética de la Inteligencia Artificial, que advirtió que “la IA puede impulsar a los seres humanos a construir o destruir”.
Ciucci participó en el congreso organizado por el Observatorio de Bioética en 2025 sobre inteligencia artificial, con una ponencia sobre “la interpretación cultural del fenómeno de la Inteligencia Artificial”.
Asimismo, la actriz Sharon Stone, que fue premiada por su trabajo a favor de la paz, dijo que debemos tener por objetivo el bien común y el respeto a cada persona humana y que a medida que aumentan las capacidades de las máquinas también deben aumentar los esfuerzos morales de quienes las construyen. Y añadió que “la dignidad humana no es un algoritmo”.
Sus contenidos
Las conclusiones principales de la Declaración de Roma, pueden sintetizarse en siete grandes ejes.
- La humanidad atraviesa un momento decisivo
La Declaración afirma que el mundo se encuentra ante un desafío histórico sin precedentes: la convergencia entre el desarrollo acelerado de la inteligencia artificial y el agravamiento de la carrera nuclear. Esta combinación genera riesgos profundos para la estabilidad global, la dignidad humana y la paz.
- Llamamiento a una “paz desarmada y desarmante”
Inspirada en la encíclica Magnifica humanitas del Papa León XIV, la Declaración rechaza la idea de que la seguridad pueda basarse en la disuasión, el miedo o la amenaza de destrucción mutua. Propone en cambio una paz fundada en la cooperación, la transparencia y la responsabilidad compartida entre Estados, corporaciones y organismos internacionales.
- Frenar la carrera armamentista en IA y en armas nucleares
Los firmantes advierten que el mundo está entrando simultáneamente en una nueva carrera nuclear y en una carrera de inteligencia artificial igualmente peligrosa. Se pide a gobiernos y empresas tanto desacelerar el desarrollo de la IA de vanguardia, especialmente en aplicaciones militares como detener la expansión de los arsenales nucleares y avanzar hacia su eliminación total.
- Garantizar el control humano sobre las armas nucleares
Una de las conclusiones más contundentes es la exigencia de negociar un tratado internacional que prohíba integrar sistemas de IA en los mecanismos de mando, control y lanzamiento de armas nucleares sin supervisión humana efectiva. La decisión de emplear un arma nuclear no debe ser nunca automatizada.
- Riesgos sistémicos de la IA: empleo, economía, ciberseguridad y desinformación
La Declaración subraya que la IA puede provocar pérdida masiva de empleos y tensiones económicas entre potencias, aumentar la vulnerabilidad a ciberataques contra infraestructuras críticas, facilitar la guerra informativa, erosionando la verdad, la confianza y la capacidad de verificación entre naciones, y generar asimetrías de poder por estar concentrada en pocas corporaciones y Estados.
- Gobernanza ética y responsabilidad de los desarrolladores
Se pide que los desarrolladores de IA que publiquen de forma transparente los principios que guían el comportamiento de sus modelos, asumiendo su responsabilidad por los efectos de sus sistemas, promoviendo aplicaciones de IA que sirvan al bienestar humano y evitando usos desestabilizadores.
- Renovar el multilateralismo y la cooperación internacional
La Declaración concluye que solo una cooperación global renovada puede enfrentar los riesgos combinados de la IA y las armas nucleares. Se exhorta a gobiernos, instituciones científicas, líderes religiosos y sociedad civil a actuar de manera coordinada.
Conclusión
En síntesis, la Declaración de Roma formula una llamada urgente a desarmar simultáneamente la carrera nuclear y la carrera de la inteligencia artificial, preservar el control humano sobre las decisiones existenciales, y construir una paz basada en la cooperación y la responsabilidad ética en el desarrollo tecnológico.
Los principios expuestos en ella necesitan de instrumentos concretos que permitan su traslado a las decisiones políticas y la confección de marcos regulatorios eficaces, así como la creación de mecanismos de control sobre su ámbito de aplicación. Y esto parece que hoy puede suponer el principal obstáculo para que las orientaciones que se incluyen en este y otros documentos previos, como el “Libro Blanco” publicado por la Comisión Europea en 2020 o la iniciativa “Rome Call for IA Ethics” de la Fundación Renaissance auspiciada por la Pontificia Academia para la Vida en 2025, logren sus verdaderos propósitos, que no son otros que promover que el progreso tecnológico se sitúe en todo caso en favor del verdadero progreso humano, el que contribuye al respeto de la dignidad y la conquista de la libertad para todos, sin sometimientos, manipulaciones ni desigualdades.
Julio Tudela
Ester Bosch
Observatorio de Bioética
Instituto Ciencias de la Vida
Universidad Católica de Valencia
