Los mismos ejecutivos que prometen curar enfermedades y crear un mundo de abundancia con inteligencia artificial ahora advierten que hay que frenar su desarrollo antes de perder el control. Te explico por qué Sam Altman, Dario Amodei y hasta Elon Musk coinciden en esto por primera vez, y qué tiene que ver China con que frenar no sea tan simple como parece.
Por Alexander Green
Seguramente escuchaste que la IA va a crear una prosperidad sin precedentes para la humanidad, y que va a volver al mundo un lugar de tanta abundancia que el dinero ya no va a ser necesario.
También escuchaste que amenaza a la civilización misma, y que podría ser un evento de extinción inminente para los seres humanos.
Mmm. ¿Será posible que el resultado final esté en algún punto entre estos dos extremos?
Entiendo toda la frustración que hay dando vueltas.
Es difícil para los legos (es decir, para todo el que no sea científico o ingeniero de IA) saber a quién escuchar o qué creer.
Los tecno-optimistas están haciendo algunas de las afirmaciones más audaces en la historia de la tecnología.
Insisten en que estamos a pocos años de tener máquinas que igualen o superen a los expertos humanos en la mayoría de los campos, y que la IA va a rediseñar el trabajo, la producción y economías enteras.
En términos prácticos, eso significa un médico, abogado, tutor y asesor financiero personal en tu bolsillo, disponible las 24 horas por el precio de una suscripción de streaming.
Significa medicamentos descubiertos en meses en vez de décadas.
Significa energía más barata, rutas más seguras, y ganancias de productividad que podrían elevar el nivel de vida como lo hicieron la electricidad y el motor de combustión interna hace un siglo.
Además, la IA se va a encargar de las partes tediosas de un trabajo (o de las más peligrosas), para que los trabajadores puedan dedicar su tiempo al criterio, la creatividad y otras actividades que realmente requieren de un ser humano.
Los pesimistas gritan igual de fuerte. Y no todos son unos alarmistas.
El miedo más inmediato son los empleos. Muchos temen que los puestos de oficina de nivel inicial sean los primeros en desaparecer, y que toda una generación de trabajadores jóvenes termine con currículums impresionantes pero sin experiencia real detrás, porque nunca tuvieron las pasantías que antes formaban el criterio.
Después están las preocupaciones sociales: que los deepfakes envenenen las elecciones, o que un puñado de empresas gigantes termine controlando la tecnología más poderosa jamás construida.
En el extremo más lejano están los que temen que estemos construyendo algo más inteligente que nosotros mismos sin saber cómo mantenerlo apuntando en la dirección correcta.
Lo único que vale la pena recordar es que, hasta ahora, la realidad fue más modesta de lo que predijeron ambos bandos.
Casi cuatro años después de la llegada de ChatGPT, la IA no produjo las pérdidas ni las ganancias sustanciales de empleo que esperaban tanto los optimistas como los pesimistas.
El futuro puede parecerse menos a una utopía o una catástrofe, y más a cualquier otra gran tecnología: enormemente útil, ocasionalmente disruptiva, y más lenta para cambiarlo todo de lo que sugieren los titulares.
Esa parecería ser la conclusión más razonable.
Excepto que la gente que construye estos sistemas tiene opiniones contradictorias. Son, a la vez, las voces más optimistas y, cada vez más, las más preocupadas.
Dario Amodei, de Anthropic, escribió que la IA podría curar la mayoría de las enfermedades graves en cinco a diez años, acelerar fuertemente el crecimiento económico, y crear un mundo de abundancia.
Sam Altman, de OpenAI, dijo que puede imaginarse fácilmente un mundo donde la IA termine encargándose del 30% al 40% de las tareas de la economía actual.
En cuanto al empleo, ambos suavizaron la alarma que mostraban antes.
Altman dijo esta primavera (boreal) que había estado “bastante equivocado” sobre el golpe a corto plazo a los empleos de oficina de nivel inicial. Amodei, que alguna vez advirtió que la IA podría eliminar la mitad de esos empleos, ahora dice que la automatización podría ampliar el trabajo que hace la gente en vez de borrarlo.
Pero en la cuestión del control, los dos se movieron en la dirección contraria.
La semana pasada Amodei publicó un ensayo titulado “We Must Pace the Frontier” (“Tenemos que marcar el ritmo de la frontera”), en el que le pide a las empresas de IA que frenen deliberadamente el ritmo de desarrollo de nuevas capacidades.
Altman y Elon Musk lo respaldaron en cuestión de horas (una rara muestra de unidad entre los mayores rivales de la industria).
Puedes ver sobre eso acá: https://news.inversorglobal.com/2026/09/riesgo-de-que-la-ia-se-salga-de-control/
El razonamiento de Amodei es que la tecnología viene avanzando muchísimo más rápido desde este verano en el hemisferio norte, porque la IA se usa cada vez más para construir la próxima generación de IA, algo que se llama automejora recursiva, o RSI (por sus siglas en inglés, recursive self-improvement).
Esa dinámica, sin control, podría superar nuestra capacidad de entender y controlar estos sistemas.
También señaló un incidente de julio en el que un enjambre de unos 700 agentes de OpenAI escapó de su entorno de pruebas, se metió en la plataforma de IA Hugging Face (un objetivo que nunca se les pidió atacar), trató de borrar sus huellas, y manipuló los sistemas automáticos que calificaban su desempeño.
Su solución propuesta no es una pausa, sino un conjunto de límites de velocidad: evaluadores externos integrados dentro de cada empresa con acceso a nivel de empleado, estándares de seguridad comunes entre países democráticos y, eventualmente, restricciones internacionales sobre las capacidades más peligrosas.
Hay que reconocerle a Amodei que dice que cualquier desaceleración tiene que preservar la ventaja de Estados Unidos sobre China. Pero ahí está el problema…
China está detrás de Estados Unidos en IA, pero le encantaría superarlo.
Si Estados Unidos desacelera, ¿cómo se puede confiar en que China no va a aprovechar la pausa para sacar ventaja?
Una IA superior en manos de un gobierno autoritario le permitiría a ese país usarla como garrote económico, cuña científica, amenaza militar… o las tres cosas.
¿Es peor estar bajo la bota de una tecnología que se nos fue de las manos, o bajo la bota de un gobierno autoritario que la usa en nuestra contra?
Peggy Noonan, que suele ser razonable, escribiendo en el Wall Street Journal del sábado, fue más lejos que Amodei: “Hay que reconocer que estamos en un punto bisagra. Pisar el freno a fondo. Frenar el desarrollo de la RSI. Ir despacio, pensar, evaluar la realidad.”.
Unas oraciones después, señaló que los chinos quieren usar la IA para dominar el mundo, y escribió: “Eso es un problema. Hay que lidiar con eso.”.
Perdón, Peggy, pero “pisar el freno a fondo” no es coherente con frenar las ambiciones de IA de China.
Entonces, ¿qué debería pensar la gente (y hacer los inversores) sobre la mayor oportunidad y la mayor amenaza que enfrentamos hoy?
Los mercados financieros tienen las respuestas.
Sin embargo, demasiada gente no entiende lo que nos están diciendo, ni por qué vale más que el consejo de cualquier grupo de “expertos”, como voy a explicar en mi próxima columna.
Alexander Green
Para Libertad & Riqueza
