Roma está en medio de un aguacero torrencial. Turistas con ponchos de lluvia de 2€ se refugian en los cafés que bordean la Via Cavour, cuyas aceras se han convertido en afluentes improvisados del Tíber. El agua cae por las empinadas escaleras de la Via Magnanapoli, donde un restaurante emprendedor muestra imágenes de IA del Papa Francisco que come en un cuenco de espaguetis de la casa. Quienes se refugien dentro del local, verán más e improbables avalaciones fotográficas de Charlie Chaplin, Marilyn Monroe y una serie de caballeros medievales que disfrutan de una buena carbonara.
Mientras tanto, un poco más abajo en la calle, en un rincón tranquilo de un monasterio franciscano, estamos acogidos, secos y discutimos algunos usos menos frívolos de la inteligencia artificial. Mi anfitrión es Paolo Benanti, sacerdote, autor, profesor de teología moral, asesor técnico del Vaticano y una de las fuerzas impulsoras detrás de la influyente Llamada de Roma a la Ética en IA. Sin embargo, antes de encontrar su vocación, comenzó a formarse como ingeniero. «Estudié al otro lado de la calle de aquí, en la Universidad La Sapienza», dice. «Hice las clases, pero no terminé porque encontré lo que buscaba en el orden. Dije: ‘Vale, ingeniería, máquinas, ordenadores, todo eso es cosa de mi pasado.'»
Pero la tecnología resultó ser más difícil de patear de lo que pensaba. Tras completar sus seis años de educación religiosa para unirse a la orden, los demás frailes ofrecieron a Benanti la oportunidad de continuar sus estudios. Para entonces ya se había dado cuenta de qué asignatura le entusiasmaba más. «Quería reconciliar ambos lados, mezclar filosofía y tecnología», dice. Esta idea novedosa no fue muy bien recibida al principio. «¿Te imaginas las caras de la gente en la iglesia, mirándome en 2007 y preguntándome ‘¿Por qué querrías hacer esto?'» pregunta. Benanti logró convencerles y comenzó un doctorado centrado en la ética de la neurotecnología, los implantes cerebrales y la inteligencia artificial. «La idea de que 18 años después lo primero que haría el nuevo Papa [León XIV] sería identificar la IA como un tema clave para la iglesia… digamos que hubo un poco de transformación en ese tiempo», dice con una sonrisa. «La IA no solo transforma la sociedad, también ha transformado la percepción de la iglesia.»
En 2017, tras completar su doctorado y comenzar a dar clases en la universidad junto a sus devociones religiosas, Benanti conoció a Pier Luigi Dal Pino, director regional senior de asuntos gubernamentales para Europa Occidental de Microsoft. «Empezamos a hablar sobre el avance de la IA, y encontramos mucha coincidencia entre la perspectiva de Microsoft, mi perspectiva filosófica y ética y los intereses de la Santa Sede», dice. «Nos miramos y dijimos: ‘¡Intentemos hacer algo juntos!’ Y aquí fue donde Microsoft, la academia y el Vaticano empezaron a trabajar en algo que se convirtió en el llamado de Roma para la ética en IA.»
La Convocatoria consagra seis principios diseñados para promover un enfoque ético en el desarrollo de sistemas de IA de vanguardia: transparencia, inclusión, responsabilidad, imparcialidad, fiabilidad y seguridad y privacidad. Fue firmado por representantes de la Academia Pontificia para la Vida, Microsoft, IBM, la Organización de las Naciones Unidas para la Alimentación y la Agricultura y el Ministerio de Innovación italiano el 28 de febrero de 2020. «Fue un evento enorme con 2.000 personas», dice Benanti. Gracias a la pandemia, sería la última reunión de este tipo ese año. «Firmamos y solo unos días después, Roma entró en confinamiento.
El Covid-19 puso en pausa los planes para ganar más seguidores durante un par de años. «Pero tras un diálogo con [el vicepresidente y presidente de Microsoft] Brad Smith, volvimos a empezar en 2022», dice Benanti. «El poder de esta Llamada es que es para todos. Su verdadero éxito sería llegar al día en el que es [aceptada de manera tan amplia que] ya no es necesario.» Como siguiente paso, el grupo se propuso obtener un amplio apoyo cultural y religioso. «Pudimos obtener comentarios positivos de líderes del judaísmo y el islam», dice Benanti. «En enero de 2023, el Rome Call se convirtió en el primer documento de la historia en el que las tres religiones monoteístas estuvieron de acuerdo.»
En la firma de líderes judíos y musulmanes, Benanti pronunció un discurso principal. «En la relación hombre-máquina, el verdadero experto y portador de valores es el hombre», dijo a los dignatarios reunidos. «La dignidad y los derechos humanos señalan que el hombre debe ser protegido en la relación hombre-máquina.»
Sus comentarios fueron respaldados por Brad Smith. «Debemos asegurarnos de que la IA siga como una herramienta creada por la humanidad para la humanidad», afirmó. «Es imprescindible que guiemos este trabajo con un fuerte compromiso con altos estándares éticos y un amplio sentido de responsabilidad social.»
El siguiente paso de Benanti, en 2024, fue un viaje a Hiroshima, donde representantes de 21 religiones del mundo firmaron la Llamada, y Amandeep Singh Gill, enviado del Secretario General de la ONU para Tecnología, expresó su aprobación. «Dijo: ‘¡Habéis construido algo que queríamos construir!'», dice Benanti con orgullo.
A pesar de todo el apoyo que se recibió, no existe una fuerza legal para la Llamada a Roma. «No es una lista de cumplimiento; no comprobamos ni marcamos lo que la gente hace o no hace», dice Benanti. «Mi perspectiva es la de un ético, así que de alguna manera puedo hacer preguntas y huir antes de dar respuestas. Pero la idea de abrir el debate es, en esencia, preguntar a la gente: ‘¿Por qué te gustaría que te recordaran?’ Así que, a cada ingeniero que ahora trabaja en una empresa tecnológica, nos preguntamos cuál de dos modelos prefiere: IA frente a humanos o IA como mejora. Queremos esta relación simbiótica en la que las herramientas son un copiloto, no un piloto automático.»
Existen ventajas prácticas claras para las organizaciones que se inscriben. «Queremos que los CEOs vean la ética no como enemiga de los negocios, sino como algo que puede darles valor», dice Benanti. «Hoy en día, la gente quiere ver un compromiso ético por parte de su empresa para sentir que su trabajo tiene verdadero mérito. Firmar el Rome Call puede ser un gran imán para que las empresas atraigan al mejor talento.»
Benanti suele llevar un Apple Watch y un anillo inteligente y se entusiasma con la fuerza democratizadora de la tecnología. «Somos ocho mil millones de personas en la Tierra», dice. «Unos seis mil millones de nosotros tenemos un smartphone. Pero solo 27 millones de personas saben programar. Eso significa que el 99,65 por ciento de las personas están excluidas. Pero ahora puedo usar lenguaje natural, y la IA puede traducirlo a código – y puedo tomar posesión de la máquina.»
El fraile ha experimentado él mismo con código generado por IA. Señala con deleite un nuevo conjunto de ventanas en su despacho. «¡Bienvenidos a las ganancias de mi vibe-coding!» dice. «Diseñé cuatro aplicaciones, que se vendieron en el mercado y nos dieron el dinero para cambiar las ventanas.» Las aplicaciones, que incluyen una que ayuda a la gente a usar el método del cerebro Zettelkasten para memorizar notas y otra para crear folletos para celebraciones religiosas, «me dan la propiedad de la máquina para no depender del software de otra persona», dice Benanti. «Imagina que nos dirigimos hacia un futuro en el que devolvemos silicio a la gente. Ya no serán clientes del silicio, sino sus propietarios. Eso podría suponer una gran evolución, al pasar del 0,35 por ciento de la población capaz de programar al 25 por ciento, muy parecido a la revolución que tuvimos con la invención de la imprenta durante el Renacimiento, cuando la gente empezó a saber leer y estudiar.»
Además, Benanti dice: «Un compañero IA podría ser el mejor servidor para cualquiera; podría ser una forma de democratizar el privilegio, incluida la educación, que antes estaba reservado para un pequeño número de personas. Podría ser la herramienta que nos permita expresar una mejor humanidad para un número mucho mayor de personas.» Sin embargo, muestra un tono de cautela. «También tenemos que ser realistas, que esto no siempre ha ocurrido con grandes cambios en la historia y que no es una calle de sentido único. En Europa, alcanzamos un nivel superior de comprensión de lo que significa ser humano con la Revolución Francesa. Teníamos estos principios: Liberté, Egalité, Fraternité (Libertad, Igualdad, Fraternidad). Pero luego se puede ver lo que pasó con el nazismo y el fascismo. El hecho de que no sea una calle de sentido único es justo la razón por la que es tan importante tener un debate ético sobre esta tecnología. Porque la IA podría ser la mejor herramienta para dar a la humanidad la mejor calidad de vida de la historia, o podría ser la peor pesadilla que permita que unas pocas élites dominen a los demás.»
Al igual que con los avances tecnológicos del Renacimiento y posteriores, Benanti puede ver cómo la IA desata nueva creatividad. «Si fuéramos a París en el siglo XIX, verías a algunos artistas que pintan lo que vieron, punto por punto, y trabajan durante un mes. Entonces apareció un hombre extraño con una caja y una capa, hizo un clic y en cinco segundos había capturado el mismo sujeto de las imágenes que la pintura. ¿La fotografía mató la pintura? ¡No! Democratizó la creación de imágenes.»
Benanti prevé un papel en distinguir los productos de IA de la creación humana. «Tenemos que desarrollar herramientas que nos permitan conectar un activo digital con su productor», afirma. «Si hago una foto, debería poder poner un plano criptográfico que la conecte con mi nombre, para hacerme responsable de ella. Las empresas que fabrican modelos de IA también pueden hacer planos de cualquier imagen generada por IA, de modo que tengamos dos barreras de seguridad: producida por humanos y producida por IA. Será como el pequeño candado que ves en una página web. No te garantiza que el contenido de la web sea perfecto, pero ¿pondrías tu número de tarjeta de crédito en una web que no tenga ese bloqueo? ¡No! La gente tiene derecho a saber si hay una máquina o un ser humano detrás del contenido.»
Benanti establece un paralelismo adicional, esta vez con el periodismo, basándose en su experiencia como presidente de la Comisión de Inteligencia Artificial para la Información del gobierno italiano. «Puedes escribir algo que no es verdad como periodista, pero si puedes relacionar tu nombre con ello, creas una cadena de responsabilidad. ¿Cuál es tu nombre profesional? ¿Cuál es tu área de especialización? ¿Tu reputación? Tenemos que hacer lo mismo para todas las creaciones digitales.»
¿Existe la preocupación, sin embargo, de que la gente, en especial las futuras generaciones, deje de preocuparse por si los artefactos culturales —música, cine, fotografía, escritura— han sido creados por la IA o no? «Creo que habrá creatividad procesada y será como la comida procesada», dice Benanti. «Hoy has comido muchas Pringles, pero no saben a comida hecha por la mamá!»
La mañana que volé a Roma para reunirme con el padre Benanti, empecé a hablar con el taxista camino al aeropuerto. Cuando supo que iba a reunirme con el experto vaticano en IA, me dijo lo alterado que estaba por los titulares recientes sobre la tecnología que socava los empleos de cuello blanco, y me pidió que planteara la pregunta de qué deberían aspirar sus hijas adolescentes en su educación y carreras.
Benanti considera el asunto con cuidado. «Estamos en un momento de transición y no podemos dar garantías a nadie», afirma. Sin embargo, advierte contra proyectar hacia adelante basándose en algunos de los primeros indicadores de pérdidas de empleo relacionadas con la IA. «Por razones evolutivas, nuestro cerebro piensa de forma lineal y puedes tener procesos no lineales en la IA, así que no es tan fácil hacer predicciones y puedes tomar decisiones en verdad malas si solo extrapolas tendencias recientes en dirección al mañana.»
«El punto clave es que no tenemos otra opción que apostar por la próxima generación y permitir que sean la mejor versión de la humanidad que puedan, lo que significa equiparlos con las mejores capacidades de razonamiento. El pensamiento humano será tal vez el recurso más necesario en los próximos años. Por eso es vital permitirles desarrollar el pensamiento crítico, incluida la ética.»
En los últimos años de su reinado, el Papa Francisco se pronunció a favor de un enfoque ético hacia la IA, al enviar un mensaje contundente a los delegados en la conferencia de Hiroshima. «Les pido que demuestren al mundo que estamos unidos en pedir un compromiso proactivo para proteger la dignidad humana en esta nueva era de máquinas», dijo. El nuevo Papa, León XIV, también ha intervenido sobre la tecnología, al elogiar su potencial en la sanidad y la ciencia, pero también al decir a los escolares en Estados Unidos que «Usar la IA de forma responsable significa usarla de manera que te ayude a crecer, nunca de formas que te distraigan de tu dignidad o de tu llamado a la santidad.»
«Este Papa es en verdad de mente abierta», dice Benanti. «Sabe que la IA es una de las cosas más transformadoras que tenemos ahora. Dice que adoptó el nombre de León XIV porque fue él quien abrió la doctrina social de la iglesia con la Rerum Novarum [una carta encíclica de 1891 que abordaba cuestiones de la era industrial producidas por la adopción de nuevas tecnologías].» Aunque Benanti dice que tendremos que «esperar y ver» qué políticas finales sobre IA llevará a cabo el nuevo Papa, espera y cree que continuarán en una dirección de apertura a todos en lugar de centrarse de manera estrecha en la comunidad católica. «Queremos tener una alianza de todas las personas diferentes en IA», dice. «Queremos empujar las cosas hacia el mayor bien para todos.»
Esta es una versión digital de un artículo de muestra del número 3 de la revista Signal. Para explorar el número completo, consulten el flipbook completo aquí.