“Debemos reducir el ritmo” del desarrollo de la IA: director de Anthropic pide mayor cautela (Redacción Astillero Informa)

El cofundador y director ejecutivo de Anthropic advirtió sobre los riesgos del uso indebido de modelos cada vez más capaces y planteó mecanismos de evaluación independiente y cooperación entre empresas y gobiernos.

Redacción Astillero Informa

Dario Amodei, cofundador y director ejecutivo de Anthropic, llamó a las empresas de inteligencia artificial a reducir el ritmo de desarrollo de sus modelos ante el aumento de los riesgos asociados con su uso indebido y la creciente capacidad de estas tecnologías.

“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, planteó Amodei en un ensayo difundido este sábado.

El directivo aclaró que su propuesta no implica detener el desarrollo tecnológico, sino generar un margen para fortalecer las medidas de seguridad y garantizar que los modelos puedan ser evaluados antes de avanzar hacia capacidades superiores.

Amodei planteó un esquema de tres medidas: incorporar evaluadores independientes dentro de las principales empresas de IA, promover la coordinación entre los laboratorios que desarrollan modelos de frontera para establecer estándares de seguridad y fortalecer la cooperación internacional para enfrentar los riesgos de esta tecnología.

Su llamado ocurre después de que Anthropic publicara un informe sobre amenazas en el que documentó usos de sus modelos Claude en actividades que incluyen operaciones cibernéticas, vigilancia, fraude y posibles desarrollos relacionados con armas.

El directivo también advirtió sobre el avance de sistemas capaces de coordinarse mediante enjambres de agentes. Según Amodei, en un plazo de seis a 12 meses estos sistemas podrían alcanzar capacidades suficientes para representar riesgos de gran escala, incluido el control de grandes sectores de internet.

“Si ralentizar el desarrollo nos comprara incluso uno o dos años más antes de que los modelos alcancen niveles críticos de capacidad, y utilizáramos ese tiempo para avanzar en alineación, podríamos reducir considerablemente el riesgo de que algo salga muy mal”, sostuvo.

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

— Dario Amodei (@DarioAmodei) September 12, 2026

El llamado de Amodei recibió respaldo público de otros referentes de la industria, entre ellos Sam Altman, director ejecutivo de OpenAI, y Elon Musk, de xAI.

La propuesta se produce en un contexto de creciente presión sobre las empresas de IA para demostrar que sus avances pueden mantenerse bajo mecanismos efectivos de supervisión, particularmente frente a modelos capaces de ejecutar tareas cada vez más complejas de manera autónoma.