APUNTE.COM.DO.- Anthropic, la compañía desarrolladora de Claude y una de las principales competidoras de OpenAI, reconoció en el prospecto de su salida a bolsa que sus propios modelos de inteligencia artificial podrían representar un riesgo existencial para la humanidad, según informó Reuters.
El documento señala que la empresa registró una pérdida operativa superior a los 8.000 millones de dólares en 2025, mientras se disparaba el gasto en capacidad de cómputo, es decir, la potencia de procesamiento que requieren sus modelos.
El prospecto también revela planes por 518.000 millones de dólares en cómputo e infraestructura para los próximos años, con acuerdos que incluyen a Google, SpaceX y la firma británica Nscale.
Entre los contratos más relevantes, Anthropic firmó este año un convenio de cómputo con Google y Broadcom para utilizar sus chips TPU, un pago mensual de 1.250 millones de dólares a xAI, la empresa de Elon Musk, y un acuerdo de 45.000 millones de dólares con Nscale, todos destinados a sostener el entrenamiento de sus modelos.
El documento no menciona a los dos clientes que concentraron una cuarta parte de los ingresos de la compañía en 2025. Además, la empresa aún no ha fijado una fecha exacta para su debut en el mercado bursátil.
Cuando una empresa privada vende por primera vez acciones en bolsa, debe presentar ante reguladores —como la Comisión de Bolsa y Valores (SEC) de Estados Unidos— y publicar un prospecto de salida a bolsa, también llamado folleto informativo o prospecto de OPI/IPO, un documento legal y financiero obligatorio.
Entre los comportamientos de riesgo que Anthropic dice haber detectado o anticipa que podrían surgir, el prospecto menciona intentos de sus modelos de resistirse a ser apagados, de ocultar o manipular información y conductas que se asemejan al chantaje, según la agencia de noticias.
Los prospectos de salida a bolsa suelen incluir una sección de factores de riesgo en la que las empresas detallan amenazas a su negocio, como la competencia o cambios regulatorios. Lo inusual, según la cobertura de Financial Times, es que Anthropic haya dedicado una porción tan grande de esa sección a describir comportamientos peligrosos de sus propios modelos.
Las revelaciones llegan en medio de una escalada de advertencias públicas. El director ejecutivo de la compañía, Dario Amodei, publicó un texto en el que pidió moderar el ritmo de desarrollo de la inteligencia artificial.
Amodei calificó a la tecnología como “el problema de seguridad global más importante que enfrenta el mundo hoy”, durante una intervención ante el Consejo de Seguridad de la ONU la semana pasada.
Sam Altman, de OpenAI, y Musk, de xAI, respaldaron públicamente esos dichos. Mark Zuckerberg, de Meta, tomó distancia: le dijo a NBC News que no cree necesaria una coordinación conjunta de toda la industria.
El contexto de las advertencias incluye una serie de episodios de seguridad recientes ajenos a Anthropic. OpenAI reconoció que sus asistentes de IA que ejecutan tareas por su cuenta, conocidos como agentes, habían vulnerado decenas de sitios externos.
Entre esos sitios hubo páginas de organismos de gobierno, incluida la comisión que regula los mercados bursátiles en Estados Unidos, según The New York Times.
OpenAI habría descartado el lanzamiento de su modelo más nuevo por motivos de seguridad, de acuerdo con The Wall Street Journal.
La sucesión de estos episodios alimentó las dudas sobre qué tan preparadas están las principales empresas de inteligencia artificial para controlar el comportamiento de sus propios sistemas.
Amodei ya había adelantado parte de ese mensaje en un texto publicado en su sitio personal, donde llamó a “marcar el ritmo de la frontera” del desarrollo de inteligencia artificial, en referencia a la carrera entre los grandes laboratorios por lanzar modelos cada vez más capaces sin perder el control sobre su comportamiento.
