APUNTE.COM.DO.- El papa León XIV alertó este miércoles sobre el riesgo de acostumbrarse a "delegar en los algoritmos decisiones que corresponden solo a la conciencia humana", durante su catequesis en la audiencia general celebrada en la plaza de San Pedro.

El pontífice señaló que es urgente reconocer que "el desarrollo tecnológico, la difusión de los medios de comunicación y de las redes sociales, el siempre creciente recurso a la inteligencia artificial, abren nuevas posibilidades, derribando barreras y distancias". Sin embargo, advirtió que, por otro lado, "las relaciones tienden a convertirse en cada vez menos personales, más virtuales, y se corre el riesgo de acostumbrar a delegar en los algoritmos decisiones que corresponden solo a la conciencia humana".

"Hacer que las relaciones sociales tengan sustancia real y profundidad personal es, en este sentido, la contribución que la comunidad cristiana se propone ofrecer", afirmó el pontífice estadounidense, quien ha dedicado su primera encíclica, 'Magnifica humanitas', a la inteligencia artificial.

Durante su reflexión sobre el documento 'Gaudium et spes', fruto del Concilio Vaticano II, que aborda la relación de la Iglesia con el mundo actual, el papa recordó que en ese texto se subrayó que "el principio, el sujeto y el fin de todas las instituciones sociales es y debe ser la persona humana, la cual, por su misma naturaleza, tiene absoluta necesidad de la vida social".

Explicó que en 'Gaudium et spes' se afirma "que la diversidad de las personas y de los pueblos en el mundo no debe ser considerada como un peligro o una amenaza, sino como potencialidad de enriquecimiento y de crecimiento". También recordó que el documento resalta que "toda forma de discriminación en los derechos fundamentales de la persona, ya sea social o cultural, por motivos de sexo, raza, color, condición social, lengua o religión, debe ser vencida y eliminada por ser contraria al plan divino".

Añadió que esta visión de la humanidad como "comunidad de personas" constituye "un legado valioso que nos ha dejado el Concilio Vaticano II". "Nos ayuda a todos nosotros a realizar un discernimiento personal y comunitario, para valorar con responsabilidad los proyectos sociales y políticos de hoy, en base a los criterios de la dignidad de la persona humana, de la justicia social y de la libre participación en la construcción del bien común", agregó.

Asimismo, destacó: "El futuro de la humanidad depende del compromiso de cada uno para colaborar con Dios y con los hermanos a construir un mundo más humano".

Por su parte, el secretario general de la ONU, António Guterres, pidió este miércoles a los gobiernos que asuman sus responsabilidades y que impulsen una visión "global y coordinada" para enfrentar la amenaza de una inteligencia artificial "desbocada".

"No podemos permitirnos ignorar las preocupaciones que se han planteado, especialmente por quienes están en primera línea del desarrollo de la IA", aseguró Guterres en una rueda de prensa en la sede de la ONU, en relación con las advertencias de los principales líderes del sector sobre el avance de la tecnología.

Hace unos días, Dario Amodei, consejero delegado de Anthropic, reclamó una mayor regulación de la IA para contener los riesgos de un avance sin límites y evitar perder el control de sistemas cada vez más potentes, propuesta que recibió el respaldo del director ejecutivo de OpenAI, Sam Altman, y del magnate Elon Musk.

El secretario general, que reconoció el "enorme potencial" de la tecnología, exigió "salvaguardias" que hagan que sea "segura, transparente y responsable". En primer lugar, Guterres apostó a que los gobiernos asuman su responsabilidad para proteger a sus ciudadanos, pero reconoció que no será suficiente si esto no se traduce también en una estrategia mundial.

"La IA no se detiene en las fronteras, tampoco sus riesgos. Las pausas voluntarias, aisladas, imposibles de verificar y aplicadas de manera desigual no resolverán el problema", declaró.

Por eso, indicó, la IA será uno de los temas centrales en sus conversaciones con los líderes internacionales que acudan al debate general de la próxima Asamblea General de la ONU, que tendrá lugar entre el 22 y el 28 de septiembre.

"Necesitamos un entendimiento compartido sobre cómo avanzar en un desarrollo seguro, protegido y responsable de la IA, al tiempo que identificamos cuándo sistemas cada vez más potentes pueden requerir salvaguardias más firmes o medidas adicionales para gestionar los riesgos potenciales", apuntó.

El diplomático portugués reconoció que las divisiones geopolíticas podrían generar tentaciones en la carrera por el desarrollo de la IA, pero, a su juicio, el mundo no puede permitirse una competencia en la que se sacrifique la seguridad para ganar ventaja.

El director ejecutivo de Meta, Mark Zuckerberg, ha defendido que cada empresa debe asumir por su cuenta "la responsabilidad" de garantizar que sus modelos de inteligencia artificial sean seguros, con lo que se desmarca de las propuestas para coordinar una desaceleración en el desarrollo de esta tecnología.

El fundador de Facebook usó sus redes sociales para opinar en medio del debate sobre los peligros de la inteligencia artificial y los llamados de varios líderes del sector que advierten sobre la necesidad de establecer una regulación.

"Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, así como la capacidad de tomar sus propias medidas para garantizar que esto suceda", escribió.

Zuckerberg se refirió directamente al "gran debate" sobre la conveniencia de ralentizar el avance de las capacidades de la IA hasta asegurar que cumpla con los estándares de alineación, como ha propuesto Dario Amodei, director ejecutivo de Anthropic, y otros líderes tecnológicos como Sam Altman, de OpenAI, y Elon Musk, de SpaceX y xAI.