CEO de Anthropic admite que la industria ocultó durante años los riesgos de la IA

Dario Amodei advierte sobre los riesgos del avance acelerado de la IA y propone mayor supervisión externa y coordinación entre gobiernos y empresas.

Estados Unidos
El director ejecutivo de Anthropic, Dario Amodei, llamó a desacelerar el ritmo de desarrollo de la inteligencia artificial (IA) y advirtió que el avance de esta tecnología podría superar la capacidad de las empresas y gobiernos para comprenderla y controlarla.
En una reflexión publicada en su sitio web y posteriormente en una entrevista con un medio, Amodei reconoció que existen riesgos reales asociados con el desarrollo de modelos cada vez más avanzados y consideró necesario establecer mayores controles antes de lanzar nuevas generaciones de IA.

“No te voy a mentir. Hay peligros reales”, afirmó el CEO, quien también sostuvo que durante demasiado tiempo parte de la industria presentó la tecnología de manera excesivamente positiva y minimizó sus riesgos.

 

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
 
Dario Amodei advierte sobre el avance acelerado de la IA
Amodei explicó que el desarrollo de la inteligencia artificial avanza de manera exponencial y reconoció que incluso él subestimó la velocidad con la que se producirían los avances.
El CEO de Anthropic señaló que la industria se encuentra en una etapa en la que la curva de progreso comienza a hacerse más pronunciada, por lo que consideró necesario reducir el ritmo de mejora de los modelos.
Sin embargo, aclaró que esto no significa detener el desarrollo de la IA ni dejar de lanzar modelos más avanzados. Su propuesta consiste en que cada nueva generación sea sometida a evaluaciones exhaustivas antes de llegar al público.
Una de sus principales propuestas es incorporar evaluadores externos de seguridad, a quienes comparó con inspectores de alimentos. Estos especialistas podrían determinar hasta qué punto son capaces de seguir el ritmo de evolución de la tecnología y utilizar esa capacidad como uno de los factores para establecer límites al desarrollo.
Anthropic propone controles ante los riesgos de la inteligencia artificial
Amodei también alertó sobre la llamada automejora recursiva, proceso mediante el cual los sistemas de IA comienzan a contribuir al desarrollo de nuevas generaciones de modelos.
 

We’re publishing our most detailed threat intelligence report to date.
It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.
We disrupted every operation in the report,…
— Anthropic (@AnthropicAI) September 10, 2026
 
De acuerdo con el CEO, esta dinámica ya empieza a observarse en diferentes empresas del sector. Si continúa sin controles adecuados, advirtió, podría superar la capacidad humana para comprender y supervisar los sistemas.
Otro de los riesgos señalados está relacionado con los agentes de inteligencia artificial capaces de actuar de manera coordinada. Amodei advirtió que un sistema con mayores capacidades y un nivel similar de desalineación podría provocar daños de gran escala.
En este escenario, estimó que en un periodo de entre seis y 12 meses un enjambre de agentes de IA podría llegar a afectar grandes partes de internet y provocar pérdidas económicas de cientos de miles de millones de dólares si su desarrollo no cuenta con suficientes barreras de seguridad.
El CEO de Anthropic plantea supervisión de gobiernos
Amodei propuso tres líneas de acción para establecer límites al desarrollo de la inteligencia artificial: evaluaciones externas de seguridad, coordinación entre empresas de IA y cooperación internacional.
La coordinación entre compañías permitiría establecer estándares comunes y discutir límites a la velocidad con la que avanzan las capacidades de los modelos.
A nivel internacional, planteó una mayor participación de los gobiernos, incluidos Estados Unidos y otros países democráticos, con mecanismos de supervisión y coordinación.
El ejecutivo incluso cuestionó que una tecnología con este nivel de impacto sea desarrollada exclusivamente por empresas privadas.

“Siempre fue muy raro que esta tecnología la construya una empresa privada”, reconoció Amodei, quien dijo estar de acuerdo con quienes consideran que los gobiernos deberían tener una participación mayor en su desarrollo y supervisión.

También señaló que mantiene conversaciones frecuentes con funcionarios estadounidenses de áreas como Comercio, Tesoro y la comunidad de inteligencia.
Altman y Musk respaldan la propuesta de Amodei
Las advertencias del CEO de Anthropic recibieron respaldo de otros líderes de la industria tecnológica.
El director ejecutivo de OpenAI, Sam Altman, expresó su acuerdo con Amodei y señaló que su empresa seguirá el ejemplo de Anthropic en materia de evaluaciones externas de seguridad.
Por su parte, Elon Musk, director de xAI, también respaldó las advertencias del ejecutivo de Anthropic al señalar que tenía razón sobre la necesidad de actuar ante los riesgos de la inteligencia artificial.
 

I think this is worth doing https://t.co/xyopPMi7En
— Elon Musk (@elonmusk) September 13, 2026
 
Amodei, sin embargo, reconoció que establecer un límite global a la velocidad de desarrollo de la IA será complicado debido a los incentivos económicos y a la ventaja militar que puede representar esta tecnología.
Aunque dijo no saber si ese objetivo es posible, sostuvo que debería intentarse.
Datos:
¿Por qué Dario Amodei pidió desacelerar el desarrollo de la IA?Porque advirtió que el avance podría superar la capacidad de empresas y gobiernos para comprender y controlar la tecnología.
¿Qué riesgos de la inteligencia artificial señaló Amodei?Alertó sobre la automejora recursiva y agentes capaces de actuar coordinadamente y causar daños a gran escala.
¿Qué medidas propuso para controlar el desarrollo de la IA?Planteó evaluaciones externas de seguridad, coordinación entre empresas y cooperación internacional.
CIA alertó años antes sobre ataques con aviones; documentos revelan advertencias previas al 11-S

#xAI #OpenAI #inteligencia_artificial #Dario_Amodei