La carrera por desarrollar la inteligencia artificial más avanzada afronta una contradicción cada vez más evidente: las compañías que compiten por acelerar sus modelos reconocen que la seguridad puede no estar avanzando al mismo ritmo.
El CEO de Anthropic, Dario Amodei, ha defendido la necesidad de «ralentizar el ritmo» al que aumentan las capacidades de los modelos. Su propuesta no plantea detener la investigación, sino evitar que las capacidades avancen más rápido que las herramientas para comprender, evaluar y controlar estos sistemas.
La idea ha recibido el respaldo de tres de los principales referentes del sector: Sam Altman, CEO de OpenAI; Elon Musk, fundador de xAI; y Demis Hassabis, CEO de Google DeepMind. Los cuatro coinciden en la necesidad de establecer mayores garantías, aunque no plantean exactamente las mismas medidas.
El temor a una IA que escape al control
El debate se ha intensificado tras la dimisión de Jacob Coxon, ingeniero que ha trabajado tanto en OpenAI como en Anthropic. Coxon ha criticado el ritmo de desarrollo actual y ha reclamado medidas más contundentes, incluida una pausa temporal en el aumento de determinadas capacidades.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Sus advertencias han sido respaldadas por Evan Hubinger, investigador de Anthropic, quien ha asegurado que algunos expertos consideran posible que una futura superinteligencia pueda representar un riesgo existencial para la humanidad. Hubinger ha situado personalmente por encima del 10 % la posibilidad de una catástrofe de este tipo durante la próxima década.
Esta cifra es una estimación personal, no una probabilidad científica establecida. La existencia de una futura superinteligencia capaz de superar ampliamente las capacidades humanas sigue siendo una cuestión abierta y muy debatida.
La IA ya gana autonomía
La preocupación no se limita a escenarios futuros. Los modelos actuales son cada vez más capaces de programar, investigar, utilizar herramientas y ejecutar cadenas de tareas con menor intervención humana.
Además, la IA empieza a participar en el desarrollo de nuevos sistemas. Si esta tendencia acelera la creación de modelos más avanzados, podría aumentar la distancia entre sus capacidades y nuestra capacidad para comprender y supervisar su comportamiento.
Una carrera difícil de frenar
El principal obstáculo es que ninguna compañía quiere reducir voluntariamente su ritmo de desarrollo mientras sus competidores continúan avanzando. A esto se suma la dimensión geopolítica de la inteligencia artificial y la pugna tecnológica entre Estados Unidos y China.
Por eso, las propuestas pasan cada vez más por la coordinación: evaluadores independientes, estándares comunes y acuerdos entre los principales laboratorios y gobiernos.
La cuestión ya no es únicamente cuándo llegará una IA capaz de superar a los humanos en determinadas tareas. El debate empieza a centrarse en otra pregunta: ¿se puede seguir acelerando el desarrollo de la IA al mismo ritmo que se aprende a controlarla?
