El extraño pacto para «frenar» la Inteligencia Artificial: ¿precaución, monopolio o miedo real?

Igor Carrasco N.

Antropólogo, Magíster en Gestión de Gobierno, académico e investigador científico.

Imagínate que los dueños de las cadenas de comida rápida más grandes del mundo se reúnen de repente con los gobiernos y piden, con cara de preocupación, que se prohíba comer comida rápida porque es peligrosa para la salud. Suena raro, ¿verdad?

Pues algo muy parecido está ocurriendo en el mundo de la tecnología. En cuestión de días, los hombres más poderosos de la Inteligencia Artificial (IA) han salido a hablar al unísono. Dario Amodei (CEO de Anthropic), Sam Altman (OpenAI), Elon Musk (xAI), Demis Hassabis (Google DeepMind) y hasta el considerado «padrino de la IA», Yoshua Bengio, han coincidido en algo: hay que ralentizar el desarrollo de la Inteligencia Artificial.

A esto se suma la resonante renuncia hace unos días del ingeniero Jacob Coxon, quien dejó su puesto en Anthropic advirtiendo que en 10 años la IA podría acabar con la humanidad, todo esto mientras Altman promete que para fin de año tendremos una IA casi humana (AGI).

Cuando los creadores de una tecnología valorada en billones de dólares piden frenarla, hay que preguntarse: ¿qué hay detrás de la cortina? La respuesta es un juego de ajedrez a varias bandas, donde se mezclan los negocios, la política y el miedo genuino.

«El muro técnico: Se están quedando sin material»

Para entender esto, hay que saber cómo aprende la IA actual. Modelos como ChatGPT, Claude o Grok se entrenan «leyendo» casi todo el internet. Cuanta más información leen, más inteligentes parecen.

El problema es que se están quedando sin internet por leer. Los nuevos modelos que están probando en secreto estos laboratorios ya no muestran el salto espectacular que hubo hace un par de años. Han chocado contra un muro técnico.

Cuando los CEOs piden una «pausa para reflexionar sobre la seguridad», en el fondo le están comprando tiempo a sus ingenieros para inventar la próxima gran tecnología, porque la actual está llegando a su límite. Es más fácil decir «nos detenemos por el bien de la humanidad» que admitir «no sabemos cómo hacer que esto sea mucho mejor».

La estrategia de «sacar la escalera» (o cómo matar a la competencia)

Existe un concepto en economía llamado «captura regulatoria». Ocurre cuando las grandes empresas piden al gobierno que regule estrictamente su industria. Suena a responsabilidad social, pero la realidad es mucho más fría: quieren reglas que sólo ellos puedan permitirse pagar.

Si se aprueban leyes que exigen millones de dólares en pruebas de seguridad para lanzar una IA, las grandes corporaciones lo pagarán sin problema. Pero las pequeñas startups, los programadores independientes y las opciones gratuitas quedarán fuera del juego.

Un ejemplo perfecto de esta estrategia es Elon Musk. Mientras firma manifiestos pidiendo pausas por seguridad y advierte del peligro existencial de la IA, está invirtiendo miles de millones en su empresa xAI para desarrollar Grok, su propio modelo de inteligencia artificial. Pidiendo el freno para los demás, se compra el tiempo necesario para construir la infraestructura que le permita alcanzar a sus rivales en la misma carrera que él califica de peligrosa.

Al pedir que se ralentice el desarrollo, los gigantes buscan que el gobierno «quite la escalera» ahora que ellos ya están arriba, evitando que nuevos competidores les quiten su negocio.

El circo de las inversiones y la AGI

Sam Altman, líder de OpenAI, hizo una afirmación audaz: señaló que para fin de año tendrán lista la AGI (Inteligencia Artificial General, es decir, una máquina tan lista o más que un humano promedio en cualquier tarea). Sin embargo, en la semana siguirnte pidió ralentizar el avance. ¿Cómo se entiende esto?

Es una jugada para mantener felices a sus inversores. OpenAI está valorada en más de 150.000 millones de dólares. Para que la gente siga metiendo dinero, Altman necesita vender la ilusión de que la revolución total está a la vuelta de la esquina (la AGI este año). Pero, si por algún motivo no logran cumplir esa promesa, la narrativa de «estamos siendo cuidadosos y nos estamos frenando por seguridad» es la excusa perfecta para justificar el retraso.

El miedo de verdad: La carrera sin frenos

No todo es cinismo y estrategia corporativa. Hay personas en esta industria genuinamente aterrorizadas. El ingeniero Jacob Coxon, o expertos veteranos como Yoshua Bengio, no están vendiendo acciones; están viendo el código fuente.

Su temor es real por una razón simple: la carrera armamentística. Si OpenAI da un paso, Google tiene que dar dos para no quedarse atrás, y Anthropic y xAI tienen que dar tres. Nadie quiere detenerse por miedo a que el competidor logre primero la máquina definitiva y se lleve todo el poder.

Estos científicos nos están advirtiendo que aún no sabemos cómo asegurar que una IA súper inteligente vaya a querer lo mismo que nosotros. Están pidiendo a gritos a los gobiernos que intervengan como árbitros, porque las empresas, por sí solas, son incapaces de dejar de correr hacia el precipicio si eso significa ganarle al rival.

¿Y por qué el plazo de «10 años»?

Tanto Coxon como Bengio coinciden en una cifra: 10 años. Es un plazo calculado.

Es el tiempo que los expertos calculan que tardará en llegar la verdadera AGI (no la de la promesa comercial de fin de año, sino la real, que pueda actuar por sí sola en el mundo). Es un tiempo suficiente para crear organismos internacionales de control, similar a cómo se regula la energía nuclear. Es la forma de decir: «No pasa nada mañana, pero tenemos una década para ponernos los cinturones de seguridad antes de que el coche se conduzca solo».

Lo que estamos viendo no es una simple preocupación filantrópica. Es la convergencia de intereses:

• Las empresas quieren tiempo técnico y matar a sus competidores.
• Los inversores necesitan mantener la ilusión.
• Los científicos intentan evitar que la humanidad pierda el control.

La próxima vez que veas a un magnate de la tecnología pidiendo a lágrima viva que se regule su propia invención, recuerda: puede que realmente tengan miedo de lo que han creado, pero también se están asegurando de que nadie más pueda crearlo.