El Papa Francisco llamó el jueves a la creación de un tratado internacional que regule el desarrollo y el uso de la inteligencia artificial, y advirtió específicamente contra su uso como arma, sumándose a las voces de líderes mundiales y tecnológicos que califican de necesaria una mayor regulación gubernamental de esta tecnología. tecnología.
Datos claves
La presentación de la regulación forma parte del mensaje anual del Papa para la Jornada Mundial de la Paz titulado "Inteligencia Artificial y Paz", aunque este día se celebra el 1 de enero.
El Papa dijo que insta a "la comunidad mundial de naciones a trabajar juntos" y "adoptar un tratado internacional vinculante" para regular el desarrollo y uso de la IA, y que la regulación no sólo debe ser para prevenir el daño, sino fomentar las "mejores prácticas."
El Papa Francisco dijo que el progreso de la tecnología y la ciencia "conduce a la mejora de la humanidad", pero también da a los seres humanos "un control sin precedentes sobre la realidad", que puede incluir riesgos "para nuestra supervivencia y poner en peligro nuestra casa común."
Debido a su influencia global, el Papa Francisco dijo que el uso y despliegue de la IA debe ser responsabilidad de los gobiernos y las organizaciones internacionales, días después de que la Unión Europea alcanzara un acuerdo sobre el proyecto de ley de regulación de la IA más extenso del mundo.
También hizo hincapié en el uso de la IA en los Sistemas de Armas Autónomas Letales, llamándolo una "grave preocupación ética" e instando a la supervisión humana sobre los algoritmos que no tienen “juicio moral y la toma de decisiones éticas”.
En medio de las guerras en curso en Ucrania y entre Israel y Hamás, el Papa dijo que la capacidad de llevar a cabo operaciones militares a distancia ha "llevado a una menor percepción de la devastación causada por esos sistemas de armas y la carga de la responsabilidad por su uso."
El Papa dijo que aunque los chatbots de IA como ChatGPT pueden producir textos coherentes, "no es garantía de su fiabilidad" y dijo que la capacidad de los chatbots para "alucinar", o hacer declaraciones que no son ciertas o tendenciosas, “plantea un grave problema cuando la inteligencia artificial se despliega en campañas de desinformación que difunden noticias falsas y conducen a una creciente desconfianza en los medios de comunicación”.
También señaló otros riesgos, como la interferencia electoral y el uso de la IA para crear un estado de vigilancia.
Antecedentes
En agosto, el Papa Francisco emitió una advertencia contra la inteligencia artificial como parte del anuncio de la Jornada Mundial de la Paz de la Iglesia Católica del próximo año, diciendo que debería usarse como un "servicio de la humanidad." El Papa también dijo que la gente debería ser consciente del "impacto rápidamente creciente" de la IA en la sociedad. El Papa subrayó la importancia de utilizar la IA de forma ética en determinados campos profesionales, como la educación y el derecho, y afirmó que el desarrollo de la IA no debería producirse "a expensas de los más frágiles y excluidos" de la sociedad.
En marzo, se hizo viral en las redes sociales una imagen generada por inteligencia artificial del Papa Francisco con una gran chaqueta blanca, bautizada como "el Papa de Balenciaga". La foto fue generada por Midjourney y compartida en Reddit antes de propagarse a otros sitios.
Expertos religiosos explicaron al New York Times que el Papa Francisco es un objetivo privilegiado para las imágenes generadas por IA por muchas razones, entre ellas su reconocimiento como líder de la Iglesia Católica y porque "es conocido por su sencillez" y su papel de apoyo a los miembros más desfavorecidos de la sociedad, lo que hace que las imágenes sean más divertidas.
Ese mismo mes, líderes tecnológicos como Elon Musk y Steve Wozniak firmaron una carta en la que se llamaba a los laboratorios de IA a pausar el trabajo en potentes sistemas de IA para dar tiempo a evaluar los riesgos de la tecnología.
También en marzo, el Papa Francisco se dirigió a científicos y expertos para advertirles contra los usos poco éticos e irresponsables de la IA, y en febrero subrayó la necesidad de que la ciencia y los avances tecnológicos se centren en servir a la humanidad.