APUNTE.COM.DO.- Los máximos responsables de las principales empresas de inteligencia artificial del mundo advirtieron al Consejo de Seguridad de las Naciones Unidas que esta tecnología exige una vigilancia reforzada y solicitaron a los gobiernos crear mecanismos de control compartidos. La sesión, convocada por Francia en el marco de la Asamblea General de la ONU, reunió a directivos de OpenAI, Anthropic y Hugging Face en un encuentro sin precedentes ante el organismo encargado de mantener la paz y la seguridad internacionales.
El director ejecutivo de Anthropic, Dario Amodei, sintetizó la dimensión de la advertencia ante los 15 miembros del Consejo: “Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”. Su homólogo de OpenAI, Sam Altman, coincidió en la gravedad del momento: “Podríamos perder el control del futuro frente a la IA”. Ambos concordaron en que ningún país, empresa o laboratorio puede gestionar en solitario los riesgos que plantea la tecnología, y reclamaron la creación de salvaguardas internacionales para evitar que su poder quede concentrado en muy pocas manos.
Amodei explicó que, a medida que los modelos de IA se vuelven más poderosos, “se requerirán estándares de seguridad aún más estrictos”. Según indicó en una intervención por videollamada, Anthropic buscará mejorar su capacidad para impedir usos indebidos de la tecnología y aseguró: “Reduciremos el ritmo tanto como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea realmente segura”.
El directivo pidió además que las naciones acuerden no permitir que la IA fabrique armas biológicas, que se establezcan mecanismos para verificar qué capacidades tienen realmente los modelos y que se definan estándares comunes de evaluación frente a la pérdida de control y el mal uso de la tecnología.
El director de OpenAI afirmó que las decisiones principales sobre la inteligencia artificial no deben ser tomadas únicamente por los laboratorios de San Francisco. Altman advirtió que a medida que los sistemas de IA se vuelven más capaces y autónomos podrían avanzar más rápido que las instituciones encargadas de regularlos. “Esta industria no debe aceptar demasiado riesgo tecnológico solo porque los beneficios son demasiado grandes e importantes para frenar el desarrollo”, sostuvo ante el organismo. El ejecutivo defendió también que las decisiones sobre el futuro de la tecnología no pueden depender exclusivamente de las empresas: “Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarlas laboratorios en San Francisco por sí solos. Deben moldearse a través de procesos democráticos y por gobiernos responsables ante las personas a las que sirven”.
Con estas declaraciones, los directivos de las dos compañías que lideran la carrera de la inteligencia artificial generativa reconocieron públicamente ante el máximo organismo de seguridad global que el ritmo de desarrollo de sus propios productos puede representar una amenaza que ellos mismos no están en condiciones de contener sin intervención estatal.
El científico canadiense Yoshua Bengio, considerado uno de los “padrinos” de la IA y copresidente del Panel Científico Internacional Independiente creado por la Asamblea General de la ONU, coincidió en el diagnóstico: “Los peligros son reales e inminentes”. Y agregó ante el Consejo: “Este organismo enfrenta una amenaza sin precedentes, una que ninguno de sus miembros elegiría, que ninguno puede contener por sí solo y que no respeta las fronteras que defendemos”.
Las advertencias de la industria chocaron con la posición del gobierno estadounidense. El presidente Donald Trump había rechazado el martes, en su discurso ante la Asamblea General, cualquier intento de regulación internacional de la IA, al que calificó de “esquema globalista”. El asesor de Ciencia y Tecnología de la Casa Blanca, Michael Kratsios, reforzó esa postura ante el Consejo de Seguridad: “No se puede gobernar una tecnología que no se comprende. Este organismo y otros similares deberían centrarse en compartir mejores prácticas para construir capacidad doméstica, no en establecer un esquema de regulación global”.
Kratsios sostuvo además que el rápido avance de la IA no es motivo para pausar su desarrollo ni para condicionarlo con nuevas estructuras de gobernanza global, y llamó a los aliados de Washington a “compartir los beneficios de esta tecnología”.
La posición estadounidense contrastó con la de otros gobiernos. El canciller francés Jean-Noël Barrot, cuyo país convocó la reunión, comparó el estado actual de la IA con la computadora HAL9000 de la película 2001: Odisea del espacio y con los inicios de la era atómica: “Tal como ocurrió entonces con el átomo, la comunidad internacional debe ahora regular la IA para aprovechar su potencial y evitar lo peor”.
El secretario de Relaciones Exteriores del Reino Unido, Ed Miliband, fue más allá al respaldar directamente las advertencias de los ejecutivos: “Nos están diciendo en términos categóricos que no puede dejarse en sus manos evitar que el desastre caiga sobre el mundo. No podemos ignorarlos porque tienen razón”. Miliband anunció que, cuando el Reino Unido asuma la presidencia del G20 en 2027, ubicará el control de la IA en el centro de las discusiones, con el objetivo de establecer un conjunto único de estándares.
