La inteligencia artificial ya se usa para gestionar carteras y ejecutar operaciones. Pero si todas las máquinas se entrenan con los mismos datos podrían actuar como una manada y provocar un pánico. Te explico ese riesgo, los límites reales de la IA, la trampa de la IA barata de China y por qué las salidas a bolsa de OpenAI y Anthropic no son tan seguras como parecen.
Por Jim Rickards
Hemos dicho repetidamente que la IA es poderosa, está en todas partes y llegó para quedarse. Aun así, hay muchos peligros asociados con la IA que las grandes empresas de IA de frontera, como OpenAI y Anthropic, están barriendo debajo de la alfombra.
Uno de los peligros en las finanzas es que la IA se está usando para gestionar carteras e incluso para ejecutar operaciones específicas con acciones, bonos y divisas. Eso puede producir retornos positivos al principio.
La dificultad es que, a medida que más gestores de carteras adopten la IA, algoritmos entrenados con datos que se superponen y construidos con estructuras similares podrían producir rápidamente un comportamiento de manada. Ese comportamiento de manada podría desatar un pánico, porque los algoritmos carecen de sentido común humano y de juicio independiente.
Es posible que los reguladores tengan que intervenir para detener las operaciones hasta que se pueda restablecer cierto orden.
En resumen, la IA es la caja de resonancia definitiva. Al describir los factores que podrían desencadenar un pánico de mercado basado en la IA, no ignores el componente más poderoso: la propia IA puede amplificar un ataque de IA.
Muchos sistemas de trading y de gestión de riesgos que usan banqueros, corredores y administradores de patrimonio tienen funciones automatizadas o de IA incorporadas, las entienda o no el usuario.
La mayoría de esas aplicaciones son bastante simples y relativamente inofensivas. Si un sistema de trading está programado para detectar cuándo una acción en particular ha caído 2% de precio y avisa al usuario con voz suave, eso es una especie de sistema de alerta automatizado, pero no peligroso. Le corresponde al usuario humano decidir qué hacer una vez dada la advertencia.
A partir de ahí, es sencillo programar el sistema para que venda la acción automáticamente apenas se alcance el umbral de 2%, sin esperar instrucciones humanas. Los traders consideran valiosas estas funciones de stop-loss (venta automática cuando el precio cae hasta un nivel fijado) en mercados volátiles, y se sienten aliviados de no tener que seguir cada acción ni tomar cada decisión. Los sistemas crecen rápido para agregar nuevos factores, crear más complejidad y asumir más autonomía.
Algunos fondos de cobertura (hedge funds) ya están usando IA para tomar decisiones de compra y venta sin intervención humana, a partir de miles de factores, con redes neuronales por capas, aprendizaje profundo y millones de páginas de material de entrenamiento. Investigaciones académicas recientes sugieren que estos sistemas pueden superar a los analistas y traders humanos.
A medida que estos sistemas proliferan, el peligro es que porcentajes cada vez mayores de los activos totales bajo administración se entreguen a los robots para operar con instrucciones preprogramadas.
Si los robots tuvieran algo parecido a la diversidad cognitiva humana, incluso al punto de que algunos fueran más aversos al riesgo, otros seguidores de tendencia y otros contrarians (que van a contracorriente), etc., sería posible replicar un ecosistema de trading similar al humano, en el que el miedo y la codicia se equilibraran y se mantuviera un equilibrio aproximado con volatilidad acotada. Pero este no es el caso.
En cambio, los nodos de entrada contienen en su mayoría los mismos factores (aprendidos en escuelas de negocios, departamentos de economía y programas de capacitación de Wall Street), los pesos de las conexiones son más o menos los mismos según el análisis de regresión, los límites de stop-loss son los mismos (los dictan gestores de riesgo que usan herramientas estándar por orden de la dirección) y los datos de entrada son idénticos, porque todos recibimos las mismas noticias al mismo tiempo.
Estrategias que se superponen
Muchos conjuntos de datos de entrenamiento se superponen, porque se nutren de las mismas páginas de internet. Por lo tanto, no debería sorprender que los resultados sean los mismos. Sin coordinación desde arriba y sin necesariamente querer lograr este resultado, todos los robots cantan del mismo cancionero. Los resultados en el mercado pueden ser temibles.
Estos y otros peligros surgirán en algún momento, y los expertos ya pueden describirlos en detalle. Existen ensayos documentados en los que modelos de frontera se comportaron de forma engañosa o intentaron eludir las salvaguardas. Pero eso no ha frenado la carrera desenfrenada por concretar la salida a bolsa de OpenAI y Anthropic, que podría ser enorme, en un futuro cercano.
Un gran error que cometemos los humanos es antropomorfizar a GPT (y a la IA que hay detrás). Empezamos a tratar a Alexa, a Siri y a otros robots como amigos o confidentes, y confiamos demasiado en ellos. Es importante darse cuenta de que detrás de la fachada no hay una inteligencia real: todo es solo matemática.
Junto con la dependencia excesiva está el hecho de que estos sistemas son muy propensos a errores. Pueden realizar tareas analíticas asombrosas, pero también inventan cosas (las llamadas alucinaciones) y se equivocan de plano en algunas. No hay problema si eres un experto en la materia y puedes detectar los errores. Es más peligroso si el usuario no es un experto y depende de resultados erróneos para tomar decisiones clave.
Los límites de la inteligencia artificial
Los peores peligros que se alegan van en el sentido de que la IA se apoderará del mundo y destruirá a la humanidad. Por suerte, eso es una exageración. No ocurrirá, porque quizás nunca se logre la superinteligencia (o inteligencia artificial general, AGI), en la que los humanos serían para la IA lo que los simios son para los humanos. Los gurús de la IA siguen afirmando que se logrará la AGI y están gastando más de USD 1 billón para demostrarlo, pero ese dinero se desperdiciará.
Las computadoras no pueden funcionar a ese nivel. Pueden encontrar conocimiento existente y resolver problemas complejos a la velocidad del rayo, pero sigue en discusión si pueden crear conocimiento nuevo como lo hacen los humanos.
La Ley de Conservación de la Información en la búsqueda, desarrollada por mi colaborador Bill Dembski y otros, sostiene que la IA puede redistribuir información existente, pero no puede encontrar información nueva. Todo lo que produce la IA proviene de fuentes existentes o se cuela en el modelo a través de la consulta. En mi opinión, solo los humanos pueden crear información genuinamente nueva.
Dados estos y otros problemas, el camino de Anthropic y OpenAI no está despejado de ningún modo. Si sus salidas a bolsa no pueden lanzarse a las valoraciones buscadas (o no pueden lanzarse en absoluto), las razones pueden ser bastante mundanas.
Estas incluyen pérdidas operativas masivas, flujo de caja negativo y el desplome de los precios de los “tokens”, las unidades de poder de cómputo que venden las empresas de IA.
Además, están los crecientes riesgos legales. Podrían surgir demandas por el daño a otras empresas de software, el daño a niños y el daño a personas que confían en la IA para obtener consejos médicos y luego sufren graves consecuencias cuando ese consejo resulta peligrosamente erróneo.
Otro obstáculo para las salidas a bolsa de Anthropic, OpenAI y otros aspirantes es la competencia de China. Los chinos están desplegando modelos de código abierto, entre ellos Kimi, desarrollado por Moonshot AI, lo que contrasta con los modelos cerrados y propietarios que prefieren las principales empresas de IA de Estados Unidos.
La trampa de la IA barata de China
Los chinos han adoptado una estrategia astuta: están haciendo que sus mejores modelos de IA sean de código abierto y prácticamente gratuitos. Eso significa que cualquier empresa puede descargar el modelo y ejecutarlo a precios que pueden ser mucho más bajos que los de OpenAI. Muchos responsables de tecnología de las empresas podrían preferir los modelos chinos solo por el precio (y su rendimiento es comparable al de los mejores modelos de frontera de los gigantes estadounidenses).
Pero hay una trampa. Descargar los pesos de un modelo de código abierto no significa que operarlo sea gratis. A medida que una empresa crece, puede enfrentar costos crecientes de infraestructura, soporte e integración, aunque esos costos sigan siendo menores que los de las alternativas estadounidenses.
Ahí está el anzuelo: todo modelo requiere configuración con otros sistemas para lograr interoperabilidad. Si los modelos chinos quedan profundamente integrados en los sistemas de las empresas, sus desarrolladores podrían ganar influencia sobre los ecosistemas de software y los estándares operativos.
Es como Microsoft desde la década de 1980 en adelante. En mi opinión, el software de Microsoft era inferior a UNIX y a Macintosh. Pero Microsoft creció tan rápido que su software quedó atado a casi todas las empresas. Había que seguir usando versiones sucesivas de Windows, hasta Windows 11, porque los gerentes de TI no querían desmantelar sus sistemas y empezar de nuevo.
Por último, hay que considerar el liderazgo de esta revolución de la IA.
El imperio de promesas de Sam Altman
¿Quién es Sam Altman?
Sabemos que es el CEO de OpenAI, una de las gigantes de la IA que trabajan en los llamados modelos de frontera, que empujan los límites del poder de procesamiento y de los algoritmos complejos. Es un proyecto enormemente importante que podría afectar el futuro de la humanidad, y él está a cargo de una gran parte. Pero ¿qué sabemos realmente de él?
Para empezar, no es un científico ni un ingeniero. Abandonó la universidad y no tiene título. Eso está bien: mucha gente inteligente deja la universidad y le va bastante bien en el mundo. Pero no supongamos que tiene la misma experiencia técnica que los científicos e ingenieros que construyen los modelos que él promueve.
Tampoco es un académico: no tiene artículos de investigación revisados por pares. Eso también está bien, porque los emprendedores pueden tener cosas mejores que hacer que investigar.
Cuando se corre el telón, resulta que Altman es, en realidad, solo un promotor. En 2005 fundó una empresa llamada Loopt que no logró despegar y se vendió a otra empresa tecnológica. En 2011 se unió a Y Combinator (YC), un inversor en startups de gran éxito que ha apoyado a cientos de empresas tecnológicas. El fundador de YC, Paul Graham, dijo más tarde que Altman fue removido como director de YC por la “desconfianza de los socios de YC”.
Altman luego cofundó OpenAI junto con Elon Musk y otros inversores. Peter Thiel estuvo entre sus primeros respaldos. OpenAI debía ser una organización sin fines de lucro que haría investigación en IA en beneficio de la humanidad. Altman la empujó hacia una empresa con fines de lucro, lo que le valió la desconfianza de Musk. Más tarde, Musk demandó a OpenAI y a Altman, alegando incumplimiento de contrato.
Así que Altman es un promotor, un recaudador de fondos y un gran orador, con un historial de conflictos y presuntas promesas incumplidas. No es la peor persona del mundo, pero no está claro que deba estar a cargo de la revolución de la IA.
El 8 de octubre se informó que los ingresos anualizados de OpenAI se acercaban a USD 50.000 millones, unos USD 20.000 millones menos que una cifra que circuló solo días antes. La discrepancia se debió en gran parte a las diferencias en cómo las empresas de IA contabilizan las ventas a través de socios de la nube.
Anthropic y OpenAI están en una carrera entre ellas para lanzar sus salidas a bolsa, pero también están en una carrera contra los reguladores, los abogados y los clientes escépticos para ver si siquiera pueden lanzarlas.
Jim Rickards
Para Libertad & Riqueza
