El cofundador y director ejecutivo de Anthropic advirtió sobre los riesgos del uso indebido de modelos cada vez más capaces y planteó mecanismos de evaluación independiente y cooperación entre empresas y gobiernos.
Redacción Astillero Informa
Dario Amodei, cofundador y director ejecutivo de Anthropic, llamó a las empresas de inteligencia artificial a reducir el ritmo de desarrollo de sus modelos ante el aumento de los riesgos asociados con su uso indebido y la creciente capacidad de estas tecnologías.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, planteó Amodei en un ensayo difundido este sábado.
El directivo aclaró que su propuesta no implica detener el desarrollo tecnológico, sino generar un margen para fortalecer las medidas de seguridad y garantizar que los modelos puedan ser evaluados antes de avanzar hacia capacidades superiores.
Amodei planteó un esquema de tres medidas: incorporar evaluadores independientes dentro de las principales empresas de IA, promover la coordinación entre los laboratorios que desarrollan modelos de frontera para establecer estándares de seguridad y fortalecer la cooperación internacional para enfrentar los riesgos de esta tecnología.
Su llamado ocurre después de que Anthropic publicara un informe sobre amenazas en el que documentó usos de sus modelos Claude en actividades que incluyen operaciones cibernéticas, vigilancia, fraude y posibles desarrollos relacionados con armas.
El directivo también advirtió sobre el avance de sistemas capaces de coordinarse mediante enjambres de agentes. Según Amodei, en un plazo de seis a 12 meses estos sistemas podrían alcanzar capacidades suficientes para representar riesgos de gran escala, incluido el control de grandes sectores de internet.
“Si ralentizar el desarrollo nos comprara incluso uno o dos años más antes de que los modelos alcancen niveles críticos de capacidad, y utilizáramos ese tiempo para avanzar en alineación, podríamos reducir considerablemente el riesgo de que algo salga muy mal”, sostuvo.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
El llamado de Amodei recibió respaldo público de otros referentes de la industria, entre ellos Sam Altman, director ejecutivo de OpenAI, y Elon Musk, de xAI.
La propuesta se produce en un contexto de creciente presión sobre las empresas de IA para demostrar que sus avances pueden mantenerse bajo mecanismos efectivos de supervisión, particularmente frente a modelos capaces de ejecutar tareas cada vez más complejas de manera autónoma.
Dan 29 años de prisión a exlugarteniente de “El Chapo” en Chihuahua (nota de Juan Carlos Rodríguez en OEM-Informex)
Noel Salgueiro Nevárez fue detenido por la entonces PGR en 2011, extraditado a Estados Unidos en 2019 y devuelto a México en junio de 2026 para enfrentar una orden de reaprehensión Juan Carlos Rodríguez / OEM-Informex La Fiscalía General de la República (FGR) obtuvo una sentencia de 29 años y tres meses de prisión contra…
Mueren dos jóvenes intoxicados en un pozo de aguas residuales en Oaxaca (nota de Luis Ramírez en OEM-Informex)
Dos trabajadores de 22 y 23 años fallecieron al inhalar presuntamente gases tóxicos mientras realizaban labores de desazolve Luis Ramírez / OEM-Informex Dos jóvenes de 22 y 23 años murieron este domingo tras quedar atrapados en un pozo de aguas residuales de aproximadamente 12 metros de profundidad, mientras realizaban trabajos de desazolve en un domicilio…
Trump espera que guerra con Irán finalice luego de elecciones intermedias de EUA en noviembre (nota de Xinhua)
LONDRES, 13 sep (Xinhua) — El presidente estadounidense, Donald Trump, dijo hoy domingo que espera que la guerra con Irán finalice este año, posiblemente después de las elecciones intermedias que se celebrarán en Estados Unidos en noviembre. “Terminará justo después de las elecciones intermedias. La gasolina caerá como una roca”, comentó Trump a los periodistas…
