APUNTE.COM.DO.- Dario Amodei, director ejecutivo de Anthropic, concedió una entrevista a la periodista Jo Ling Kent del programa CBS Sunday Morning en la sede de la compañía en San Francisco. Cuando Kent le pidió un mensaje para alguien que usa Claude o ChatGPT en su casa y siente miedo, Amodei respondió: “No te voy a mentir. Hay peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgos”.
Añadió que la intención era presentarla “lo más positiva posible”, que Anthropic nunca actuó así pero “demasiada parte de la industria sí”, y que “todo empieza por decir la verdad”. Según el artículo, es la primera vez que el jefe de un laboratorio de frontera emplea la palabra “mintió” para referirse a su propio sector.
Amodei explicó por qué escribió el ensayo en el que pide frenar. “Desde antes de fundar Anthropic digo que esta tecnología está en una exponencial: uno, dos, cuatro, ocho, dieciséis, treinta y dos. Pero aun diciéndomelo a mí mismo, no creo que apreciara del todo lo que sería cuando el progreso fuera tan rápido como es”. Sobre el punto actual de esa curva, fue gráfico: “Estamos en la parte donde empieza a ponerse empinada”.
Kent le preguntó dos veces si eso equivale a un incendio de cinco alarmas. “No significa que haya que entrar en pánico hoy. No significa que haya que apagarlo todo. Es una señal de advertencia de que tenemos que frenar”, contestó.
El directivo advirtió que la inteligencia artificial entró en la parte más empinada de una curva de progreso exponencial y explicó por qué considera necesario reducir el ritmo.
¿Anthropic dejará de lanzar modelos más avanzados? “No significa eso”, dijo. La idea, precisó, es que cada nueva generación sea evaluada exhaustivamente antes de su lanzamiento.
Respecto a los evaluadores externos que su plan propone incorporar dentro de cada empresa, ofreció una imagen: “Es como un inspector de alimentos”. Cuando Kent objetó que ningún inspector puede seguir el ritmo de esta tecnología, Amodei convirtió la objeción en mecanismo: los evaluadores podrán indicar a qué velocidad logran seguirla, “y eso puede ser uno de los factores que fije el límite de velocidad”.
Le preguntaron por Jacob Coxon, el investigador que renunció alegando que Anthropic y OpenAI “apuestan con nuestras vidas”. Amodei repitió lo que ya había dicho en CNN: que Coxon también calificó a Anthropic como “la más responsable de las grandes” y que “señalaba honestamente lo mismo que yo señalo: la dificultad estructural de la situación en la que estamos todos”.
La pregunta sobre su responsabilidad personal produjo la respuesta más inesperada de la entrevista. “Siempre fue muy raro que esta tecnología la construya una empresa privada. La gente me pregunta todo el tiempo por qué no la construye un gobierno. Y lo más raro es que estoy de acuerdo con ellos. No estoy cómodo con eso”, reconoció Amodei. Kent fue directa: ¿entregaría la empresa? “A la combinación correcta de gobiernos”, respondió. Le preocupa que un solo gobierno abuse de la tecnología “tan fácilmente como una sola empresa”, pero mencionó “una combinación de gobiernos elegidos democráticamente, no sé si entregarla, pero algún tipo de supervisión, algún tipo de gobernanza conjunta”.
Dario Amodei reconoció que no se siente cómodo con que una empresa privada concentre una tecnología de ese alcance y planteó algún tipo de gobernanza conjunta entre gobiernos democráticos.
Asimismo, dijo que habla “todos los días” con funcionarios de Comercio, del Tesoro y de la comunidad de inteligencia de Estados Unidos. Cuando Kent le señaló que la gente siente que “unas pocas empresas hacen lo que quieren”, contestó: “Lo sé. Sé que así se sienten. Nunca quise eso. Tenemos que encontrar la forma de que deje de ser cierto”.
Sobre la idea de un interruptor para apagar la IA, dijo que “podría ser una buena idea”, con una advertencia: “Si un modelo es lo bastante poderoso, puede eludir los intentos de apagarlo, y lo hemos visto en simulaciones”.
Su modelo de defensa es el del queso suizo: cada capa de seguridad tiene agujeros, pero cinco capas juntas los tienen en lugares distintos y es muy difícil atravesarlas todas. “No hay una sola cosa que nos proteja”, afirmó.
En cuanto a un límite de velocidad global a la IA, admitió: “Va a ser muy difícil, porque los incentivos para adelantarse y la ventaja militar son enormes. Honestamente, no sé si es posible. Pero deberíamos intentarlo”.
Amodei contó que su padre murió de hepatitis C cuando la enfermedad era curable en un 40% de los casos, y que pocos años después un medicamento la llevó al 95%. El propio Amodei sobrevivió a un cáncer temprano que “en 1950 probablemente me habría matado”. “Siento el peso de traer los beneficios. También siento los riesgos”, reconoció.
Dos días antes, Anthropic había publicado un informe sobre intentos de usar sus modelos para aumentar la infecciosidad de virus. “Casi todos los días se burlan de mí en redes porque las salvaguardas de biología de nuestro modelo son demasiado fuertes. Los estudiantes de biología se quejan. Prefiero que se burlen de mí antes que despertarme un día y descubrir que alguien usó Claude para matar a un montón de gente”, manifestó.
El plan es el mismo que publicó el sábado. Lo que cambió es la confesión: el CEO de la empresa que se presenta como la más prudente dice que su industria mintió, y que él no quiere cargar solo con este poder.
