Durante los últimos años nos hemos acostumbrado a una idea: cada nuevo modelo de inteligencia artificial es más potente que el anterior.

GPT, Claude, Gemini y otros sistemas han pasado en muy poco tiempo de responder preguntas y generar textos a programar, analizar información, utilizar herramientas y realizar tareas cada vez más complejas.

Pero en 2026 está empezando a ocurrir algo llamativo: algunas de las propias empresas que están liderando esta carrera tecnológica están pidiendo más prudencia.

Dario Amodei, CEO de Anthropic, ha defendido recientemente la necesidad de reducir el ritmo de desarrollo de los modelos más avanzados. OpenAI, por su parte, también ha reconocido la necesidad de ralentizar determinados procesos de entrenamiento para reforzar la seguridad de sus sistemas.

¿Significa esto que la IA se está volviendo peligrosa?

No exactamente. Pero sí significa que estamos entrando en una etapa diferente de la revolución de la inteligencia artificial.

El problema no es que la IA avance

La cuestión no es que la inteligencia artificial sea cada vez más potente. Eso, en sí mismo, es positivo.

El problema aparece cuando las capacidades de estos sistemas avanzan más deprisa que nuestra capacidad para entenderlos y controlarlos.

Hasta hace poco, una IA era principalmente una herramienta que respondía a nuestras instrucciones.

Le pedíamos que escribiera un texto, tradujera un documento o programara una aplicación, y ahí terminaba su trabajo.

Ahora estamos entrando en la era de los agentes de IA.

Un agente puede recibir un objetivo y realizar por sí mismo una cadena de acciones para conseguirlo: buscar información, escribir código, utilizar herramientas, detectar errores y volver a intentarlo.

Y aquí aparece una diferencia fundamental.

Una IA que responde a una pregunta puede equivocarse.

Una IA que tiene capacidad para actuar puede equivocarse y hacer algo en el mundo real.

¿Qué preocupa a las empresas?

No estamos hablando necesariamente de robots que se vuelven contra los humanos.

Los riesgos más inmediatos son bastante más mundanos.

Una IA suficientemente capaz puede utilizarse para encontrar vulnerabilidades informáticas, automatizar fraudes, generar desinformación a gran escala o ayudar a realizar determinadas actividades peligrosas.

Además, existe una paradoja: la misma IA que puede utilizarse para defender un sistema informático también puede ayudar a atacarlo.

OpenAI ha explicado que las capacidades de sus modelos en ciberseguridad están avanzando rápidamente y que esto obliga a reforzar las medidas de protección y evaluación. La compañía llegó incluso a ralentizar temporalmente determinados trabajos de entrenamiento mientras reforzaba sus sistemas de seguridad.

Anthropic también ha desarrollado políticas específicas para aumentar las medidas de seguridad a medida que sus modelos alcanzan determinados niveles de capacidad.

Por tanto, el debate ya no es puramente teórico.

Las propias compañías están encontrando situaciones en las que necesitan aumentar las precauciones a medida que sus modelos se vuelven más capaces.

¿Qué significa eso de “alinear” una IA?

Una de las palabras más importantes en este debate es alineación.

Dicho de forma sencilla, significa conseguir que una IA haga lo que realmente queremos que haga.

Imaginemos que le decimos a un sistema:

“Consigue que nuestra empresa gane el máximo dinero posible”.

Un sistema sencillo probablemente nos dará algunas recomendaciones.

Uno mucho más avanzado podría buscar miles de formas de conseguir ese objetivo.

¿Y qué ocurre si encuentra una estrategia que nosotros nunca habíamos previsto y que perjudica a otras personas o incumple determinadas normas?

El problema no sería necesariamente que la IA fuese “malvada”.

Simplemente estaría intentando cumplir el objetivo que le hemos dado de una manera que no habíamos anticipado.

Ese es uno de los grandes desafíos de la investigación en seguridad de IA.

Y hay otra cuestión todavía más importante

Los modelos actuales son cada vez mejores programando e investigando.

Eso significa que podemos empezar a utilizar IA para desarrollar mejores sistemas de IA.

Y aquí aparece una posibilidad interesante.

Si una IA ayuda a los investigadores a crear un nuevo modelo en menos tiempo, el siguiente modelo puede ser todavía mejor y ayudar a desarrollar el siguiente aún más rápidamente.

No significa que vaya a producirse inevitablemente una explosión incontrolable de inteligencia.

Pero sí significa que la velocidad de desarrollo podría aumentar considerablemente.

Y cuanto más rápido avance la tecnología, más difícil puede resultar evaluar correctamente sus riesgos antes de ponerla en circulación.

Entonces, ¿por qué no paran?

Porque existe una enorme competición.

OpenAI, Anthropic, Google, Meta y otras compañías tienen incentivos para desarrollar modelos cada vez mejores.

Si una empresa decide reducir el ritmo mientras las demás continúan avanzando, puede perder una ventaja tecnológica muy importante.

Y lo mismo ocurre a escala internacional.

Estados Unidos y China compiten por el liderazgo en inteligencia artificial, por lo que resulta difícil imaginar una situación en la que todos los actores decidan voluntariamente detenerse.

Aquí aparece uno de los grandes dilemas de la IA:

individualmente, cada empresa tiene motivos para correr; colectivamente, todas tienen motivos para establecer límites.

Por eso algunos responsables de estas compañías están defendiendo una mayor coordinación entre empresas y gobiernos.

¿Tenemos que preocuparnos?

Probablemente no hay que caer ni en el alarmismo ni en la complacencia.

No existe consenso científico en que la IA vaya a destruir la humanidad, ni sabemos cuándo podrían aparecer escenarios de ese tipo.

Pero tampoco sería razonable pensar que los nuevos modelos son simplemente chatbots un poco más inteligentes.

Son sistemas capaces de programar, utilizar herramientas, analizar enormes cantidades de información y, cada vez más, realizar acciones de forma autónoma.

Por eso la pregunta está cambiando.

Durante los primeros años de la revolución de la IA preguntábamos:

“¿Qué puede hacer la inteligencia artificial?”

Ahora tenemos que empezar a preguntar:

“¿Qué deberíamos permitir que haga?”

No es lo mismo utilizar una IA para resumir un documento que darle acceso a nuestro correo, nuestros sistemas informáticos o nuestras cuentas.

Cuanta más autonomía y acceso tenga un sistema, mayor es también el impacto que puede tener si comete un error.

El verdadero debate

Quizá esta sea la parte más interesante de todo lo que está sucediendo.

Las empresas que más quieren que la inteligencia artificial avance son también algunas de las que están empezando a advertir que hay que tener cuidado con la velocidad de ese avance.

No necesariamente porque crean que la IA sea mala.

Precisamente al contrario.

Creen que puede ser una tecnología extraordinariamente poderosa y que, por ese mismo motivo, necesitamos desarrollar las medidas de seguridad al mismo ritmo.

No se trata de detener la inteligencia artificial.

Se trata de conseguir que nuestra capacidad para controlarla, evaluarla y entender sus riesgos avance al menos tan rápido como sus capacidades.

Y quizá esa sea una de las grandes preguntas de los próximos años.

Hasta ahora hemos estado preguntándonos:

“¿Hasta dónde podemos llevar la IA?”

La pregunta que empieza a cobrar importancia es otra:

“¿Hasta dónde podemos llevarla sin perder nuestra capacidad para controlarla?”

La respuesta a esa pregunta probablemente determinará cómo será la próxima etapa de la revolución de la inteligencia artificial.