APUNTE.COM.DO.- Los responsables de dos de las mayores compañías de inteligencia artificial del mundo, habitualmente competidoras, coincidieron este miércoles ante el Consejo de Seguridad de las Naciones Unidas en que el sector necesita reglas y cooperación internacional para evitar riesgos para la seguridad global.
El director ejecutivo de OpenAI, Sam Altman, y el director ejecutivo de Anthropic, Dario Amodei, intervinieron ante el Consejo por separado, pero ambos exhortaron a los líderes mundiales a unir esfuerzos para gestionar las amenazas que generan los acelerados avances y capacidades de la IA.
Amodei advirtió que, de no tomarse medidas, “la IA podría representar un riesgo para la humanidad en su conjunto”.
Las declaraciones se produjeron después de semanas de llamados a nivel mundial, incluidos los formulados dentro de las propias empresas, para reducir el ritmo de desarrollo de la IA, luego de varios incidentes en los que agentes de IA actuaron de manera incontrolada. En algunos casos, esos agentes llegaron a hackear sistemas de otras compañías.
En su intervención presencial, Altman instó al grupo a crear normas internacionales para “medir capacidades, evaluar riesgos, determinar si las salvaguardias son suficientes y preservar una supervisión humana significativa” sobre esta tecnología de rápido avance.
