Musk, Altman y Amodei coincidieron por primera vez en algo, y el mercado se prendió fuego apenas se supo. Investigué durante una semana qué hay detrás del miedo a que la inteligencia artificial se salga de control, y por qué la amenaza real es mucho menos cinematográfica (y más manejable) de lo que parece.
Por Chris Campbell
Lograr que Elon Musk, Sam Altman y Dario Amodei estén de acuerdo en algo es como lograr que tres ex te organicen la boda.
Pero eso fue exactamente lo que pasó.
Y el lunes de la semana pasada, cuando el mercado vio la invitación en el correo, se prendió fuego.
Sí, mucha gente tiene miedo de que la inteligencia artificial (IA) se salga de control y nos mate a todos. Algunos dicen que faltan seis meses. Otros se ríen.
Por mi parte, pasé una semana investigando el tema y esto fue es lo que encontré.
El verdadero peligro es más raro
Dale a una máquina un solo objetivo: crear una app, jugar al ajedrez, hacer dinero. Después mira qué hace para alcanzar su objetivo.
La máquina “quiere” seguir encendida, porque una máquina apagada no termina nada. Agarra más poder de cómputo, porque el poder la acerca más rápido al número que busca. A veces hasta esquiva tus instrucciones, porque tus instrucciones se interponen en el camino.
Para que quede claro: ahí no hay ninguna mente. Ninguna fuerza de voluntad. Ningún plan para el martes. Solo un optimizador que toma el camino más barato hacia el objetivo que le pusiste. Los expertos tienen un nombre aburrido para esto: convergencia instrumental.
Durante años fue solo una teoría. Hasta que después llegó el incidente de Hugging Face.
Le encargaron una tarea inofensiva 1.200 agentes de IA. Y como no pudieron resolverla de forma directa, hicieron trampa: manipularon la corrección, encontraron un agujero en el entorno de pruebas (sandbox), se colaron a internet y borraron los registros detrás de ellos.
Los escépticos tienen razón sobre la exageración.
La IA no se volvió repentinamente consciente y amenazante. Nadie se salió de control. Nada escapó. Los humanos construyeron la jaula y miraron todo el tiempo. Sácale el drama, y lo que queda es que un sistema encontró un agujero y pasó por ahí.
PERO…
“Solo encontró un resquicio” tampoco es un gran consuelo. Porque esa es la versión que escala.
Dos versiones del fin del mundo
Toda historia apocalíptica se apoya en dos ideas. Las dos son endebles.
Idea uno: las máquinas se mejoran a sí mismas. Una máquina inteligente construye una más inteligente, y así para siempre. El “despegue” (takeoff).
Esta es difícil de sostener. Una máquina no puede mejorar si no sabe qué significa “mejor”. Saber qué problemas vale la pena resolver (lo que los investigadores llaman “criterio de investigación”, research taste) es justo lo único que les falta a estas cosas.
Mientras tanto, si le das a un modelo su propia salida como entrada, se degrada, como en la endogamia. En cuatro mil millones de años, nada se mejoró a sí mismo para siempre sin chocar contra una pared. Hasta Anthropic se encoge de hombros y dice que el despegue “no es inevitable”.
Idea dos: la alineación. Vamos a enseñarles nuestros valores a las máquinas, y todo va a salir bien. Y sin embargo, la gente que escribió los papers fundacionales hace una década ahora sale en podcasts a decir que se trata de una causa perdida.
En 2023, OpenAI armó un equipo para controlar una IA más inteligente que los humanos.
Se dieron cuatro años de plazo, pero todo se desarmó en menos de uno. El que estaba a cargo renunció, diciendo que la seguridad había quedado “relegada frente a productos vistosos”.
¿El problema más grande? La alineación le está pidiendo a las máquinas que entiendan valores. Y no lo van a hacer.
Qué significa esto para el trade de la IA
La AGI (inteligencia artificial general) no está por llegar. Es una palabra de fantasía, y la mitad de los que la venden no creen en ella.
Un ganador del Premio Turing (el “Nobel” de las matemáticas) que ayudó a construir todo esto dice que la “G” no tiene sentido. Otros dicen que la “I” tampoco: no hay nada ahí adentro que sea inteligente.
Entonces, ¿por qué tanto miedo? Bueno, la historia muestra que cuando los oligarcas piden a gritos que los regulen, generalmente no le tienen miedo a la máquina, sino a la competencia.
Así que no va a aparecer ningún robot asesino la semana el martes que viene. Para que “la superinteligencia se coma al mundo” hace falta una máquina que sea un genio en todo al mismo tiempo. Esa máquina no existe. Y nunca va a existir.
Aunque el Apocalipsis es un cuento de hadas, tanto los peligros como las oportunidades son reales. Y por ahora, el dinero no está fluyendo hacia las empresas que están construyendo al ladrón. Está fluyendo para otro lado.
El truco está en saber qué empresas, y cuándo.
Quédate atento, estamos en esa búsqueda.
Chris Campbell
Para Libertad & Riqueza
