Los máximos responsables de dos de las principales compañías de inteligencia artificial coincidieron en alertar sobre la velocidad con que avanzan los desarrollos tecnológicos sin suficientes controles de seguridad.
Dario Amodei, CEO de Anthropic, publicó un ensayo proponiendo desacelerar deliberadamente la carrera por sistemas cada vez más potentes. Su argumento central: los mecanismos de seguridad no logran mantenerse al ritmo de las nuevas capacidades que emergen.
Sam Altman, líder de OpenAI y competidor directo de Amodei en esta carrera global, respaldó públicamente la propuesta. Ambos anunciaron que permitirán a evaluadores externos acceso a sus sistemas para verificar medidas de seguridad e identificar riesgos durante el desarrollo.
El llamado de atención fue amplificado por Elon Musk, dueño de SpaceX y fundador de xAI, quien respaldó la posición de Amodei en redes sociales.
La advertencia surge después de que Jacob Coxon, investigador que trabajó en ambas compañías, denunció públicamente los riesgos de una competencia sin supervisión suficiente. Coxon advirtió que un puñado de empresas privadas desarrollan tecnología potencialmente superior a capacidades humanas sin mecanismos externos que controlen el avance.
El dilema es claro: cada empresa tiene incentivos comerciales para lanzar modelos más avanzados antes que sus rivales, pero los sistemas de evaluación y regulación requieren tiempo para identificar riesgos. Esta paradoja pone en el centro del debate cómo se controla una tecnología cuyo desarrollo la propia competencia acelera constantemente.
