Los ojos de la llama

Panel con una fotografía de la Vía Láctea sobre la que se ha dibujado la silueta de la Yacana, la llama de las constelaciones oscuras andinas
Panel con una fotografía de la Vía Láctea sobre la que se dibujó la silueta de la Yacana antes de la sesión de astronomía en San Pedro de Atacama, Antofagasta (noviembre 2025). Foto de David Ruyet.

En 1941, el ingeniero suizo George de Mestral volvió de cazar por los Alpes con su perro cubierto de cardos. Cualquiera se habría limitado a quitárselos cagándose en todo. Él, sin embargo, los recogió, los puso bajo el microscopio y los miró. Vio cientos de ganchitos diminutos enganchados a los bucles del pelo del perro, y de ahí salió el velcro. La palabra velcro, de hecho, casi explica la historia ella sola: se formó juntando la palabra en francés velours (terciopelo) con crochet (gancho).

Esa historia se cuenta siempre por el final: el invento, la patente, el negocio. A mí me interesa el principio. Se suele preguntar por qué se le ocurrió a él y no a los miles de cazadores que habían quitado cardos a sus perros antes. La respuesta no es el cardo, sino lo que De Mestral llevaba en la cabeza: curiosidad, un microscopio en casa y la costumbre de mirar las cosas de otra manera: de lado. Pero ¿y si no se le hubiese ocurrido el invento? Jugar con el microscopio le habría valido exactamente lo mismo. Nadie lo contaría como un ejemplo de ingenio increíble que generó un negocio de millones, pero De Mestral habría entendido algo que antes no entendía. ¿Eso para qué vale? Ahí empieza la utilidad de lo inútil.

Una llama en la Vía Láctea

Cuando he tenido que viajar al norte de Chile, a Antofagasta, por mi trabajo de ingeniero, he aprovechado para hacer lo mismo que casi todos los que pasan por allí: mirar el cielo. Es uno de los mejores lugares para ver las estrellas: la sequedad y claridad del desierto dejan la atmósfera cristalina buena parte del año. Esos cielos inabarcables los vi en San Pedro de Atacama, de paso a ver proyectos, y también más al sur, en la región de Coquimbo, en el valle del Elqui, ahí de paseo con mi mujer y mi hermana. En todos esos sitios aprendí cosas que no me han servido para nada.

Sabemos que los griegos dibujaban constelaciones uniendo estrellas en figuras imaginarias. En Atacama me contaron que los pueblos andinos, y los incas entre ellos, no solo dibujaban figuras con los astros: también se fijaban en los huecos oscuros, en las zonas sin estrellas. En las nubes de polvo de la Vía Láctea que tapan la luz, veían animales: una serpiente, un sapo, una perdiz junto a la Cruz del Sur y, sobre todo, la Yacana, una llama con su cría. Los puntos luminosos eran cosas. Las zonas oscuras estaban vivas. El guía que nos mostró esas luces y esas sombras nos habló de «los ojos de la llama». Eran dos estrellas brillantes, Alfa y Beta Centauri (miren la primera imagen del post). A los navegantes europeos les señalaban la Cruz del Sur y, con ella, el camino al sur. Pero son las mismas dos estrellas: para unos eran una herramienta; para otros, la mirada de un animal.

¿Para qué sirve saber esto? Para nada. Ya no navegamos con estrellas, el GPS sabe dónde está el sur mejor que nadie y ningún cliente me va a pagar más por saber cómo se llama una llama imaginaria. Sin embargo, esas noches entendí un poco mejor cómo pensaba la gente que vivió en esos valles hace siglos. Entendí que mirar las sombras en lugar de las luces también es una buena manera de pensar.

Unas manos apartan los cubos rojos con las letras IN de los cubos que forman la palabra ÚTIL
«Inútil» lleva dentro «útil»: solo le sobran dos letras. O faltan. O las dos cosas. Foto de David Ruyet.

La utilidad de lo inútil

Nuccio Ordine, el celebrado profesor italiano que murió demasiado joven en 2023, dedicó un libro entero a defender exactamente esto. Si no lo han leído, se lo sugiero. No es muy largo; no llega a 200 páginas, pero es fascinante. En su libro «La utilidad de lo inútil», usando mil ejemplos y fragmentos de textos de la literatura y la filosofía universales, Ordine sostiene que los saberes sin beneficio inmediato, como la literatura, la filosofía, la música o la contemplación, son en realidad los que nos hacen humanos.

Ordine critica, tras ese inicio tan humanista e inspirador, lo que llama la universidad-empresa. Y detalla a todos los actores de la obra: el profesor-burócrata y el estudiante-cliente. Ambos son las piezas necesarias para que la universidad sea poco más que una fábrica de expedir títulos sin sustancia. Profesores desganados que reciclan año tras año sus filminas (hoy powerpoints) porque, en el fondo, nadie las cuestiona y su tiempo se debe dedicar a producir papers a escala industrial para no perder su plaza. Estudiantes ansiosos que quieren un título y una calificación, exigiendo profesores dóciles y máximas puntuaciones, porque para eso pagan. «El cliente siempre tiene la razón», ironiza Ordine.

Su punto más radical es que lo inútil no debe justificarse por su utilidad, y mucho menos por su rentabilidad. No hay que defender la poesía porque mejore la productividad, igual que no hay que defender las constelaciones incas porque algún día sirvan para algo. Por eso el velcro, siendo una buena historia, es un mal argumento. Ordine dice, además, dos cosas más que interesantes. La primera, que el conocimiento es de los pocos bienes que no se gastan al compartirlos: cuando les cuento lo de la llama, yo no la pierdo y ustedes la ganan. La segunda, que la lógica de la posesión y el beneficio mata lo que más vale: el amor, la dignidad, la búsqueda de la verdad. Quien solo aprende aquello que hoy le sirve se pierde todo lo que mañana podría inspirarle.

Dos niñas y un camino a ninguna parte

Mis dos hijas sacan buenas notas, por suerte, pero se enojan muchísimo cuando les pregunto las capitales de Europa, los sistemas montañosos o qué río pasa por Budapest. Para ellas es una pregunta absurda: «¿para qué, si lo puedo buscar?». Mi generación se educó a base de memoria, quizá en exceso; la suya, en la sospecha de depender de ella, quizá también en exceso. Pero la memoria no es un almacén muerto. Es el material desde el que piensas. Saber que el Danubio pasa por Viena, Bratislava, Budapest y Belgrado no te convierte en sabio. Pero te permite preguntarte por qué cuatro capitales crecieron a orillas del mismo río. Y esa pregunta no te la puedes hacer si no sabes (y recuerdas) por dónde pasa el río.

Leer cosas que no valen para nada es, en realidad, ampliar tu vocabulario mental. Una novela de detectives, un cómic de Mortadelo y Filemón, un dato absurdo en una valla publicitaria, un posteo transgresor de Twitter, deleitarse con la etiqueta de un bote de champú sentado en el WC, una receta en un folleto de un supermercado, una conversación con alguien que piensa distinto… son todo piezas extra en la caja. No sabes cuándo las vas a necesitar. Probablemente nunca de forma directa. Pero un día un cardo se te pegará al pantalón y tendrás algo con qué conectarlo.

Pero tener piezas en la caja no basta: hay que juntarlas. Y para eso no conozco nada mejor que escribir. Este texto es la prueba. Empezó con una pelea con mis hijas sobre ríos, un libro de Ordine que leí hace años, unas noches en el desierto chileno y un calendario lunar biodinámico (ya verán más abajo). No pensé que tuvieran nada que ver hasta que me puse a escribir. Un texto terminado es un resultado; escribirlo es un camino. Y es un camino en el que ordenas, cambias, dudas, te contradices y, al final, entiendes algo aunque no te hayas movido de la silla. Hoy cualquiera puede obtener un texto impecable sin haber pensado nada. Lo que no se puede obtener así es el paseo por el camino.

Cielo estrellado sobre las montañas del valle del Elqui, en Chile, iluminadas por la luna
Valle del Elqui, región de Coquimbo (diciembre de 2022). La luna casi llena borraba la Vía Láctea: esa noche, la llama no se dejó ver. Foto de David Ruyet.

La jaula del ingeniero

Tengo que ser honesto: estoy defendiendo esa utilidad de los textos inútiles, y soy ingeniero. Y de los peores: nuclear. De los que viven asustados por las cosas que no se ven. Más de treinta años entendiendo el mundo a través de la física, la química, el álgebra y el cálculo. Cabeza cuadriculada. Blanco o negro: el gris es de cobardes. Sistemática, orden y planificación. ¿Rígido? Sí. Pero a la vez con una herramienta muy potente: el pensamiento analítico, la capacidad de coger un problema enorme, partirlo en problemas chicos y resolverlos uno tras otro. Edward de Bono lo llamaba pensamiento vertical, y funciona tan bien que muy pocas veces tienes razones para probar otra cosa.

Es tan útil que puede ser una barrera. El pensamiento lateral consiste justamente en salirse del marco: cuestionar el punto de partida, mirar desde otro sitio, fijarte en las sombras en lugar de en las luces. Y a mí eso me cuesta. Cuando mi amigo Lluisma, enólogo, me habla de plantar cebollas según el ciclo lunar, de enterrar un cuerno de vaca con estiércol en luna menguante, o de abrir una botella de vino en un «día de flor» y no en un «día de raíz» porque el vino estará mejor, algo en mi cabeza deja de escuchar. ¿Calendario biodinámico? What the hell me estás contando. No digo que tenga que creérmelo. Digo que mi cabeza lo descarta sin mirarlo.

La psicología lo llama efecto Einstellung: la manera aprendida de resolver un problema te impide ver otras, y cuanto más sabes de algo, más expuesto estás a sufrir ese mal. Así que esto no va de saber mucho de algo. Esto va de saber cosas distintas y conservar la disposición a dudar de lo que crees saber. Lo que sabes puede ser tu jaula si es lo único que sabes. Las constelaciones oscuras de los incas no me enseñaron astronomía. Me enseñaron que hay otras maneras de mirar el cielo: mirar el que no se ve.

Para qué ha servido todo esto

Podría terminar diciendo que los 6 o 7 minutos que llevan leyendo esto les servirán para algo: para tener mejores ideas, para conversar con cualquiera, para que no le engañen a uno. Y es verdad. Pero sería caer en la trampa que denuncia Ordine, la de justificar lo inútil por su utilidad.

La razón de fondo es más sencilla. Leer por el gusto de leer hace la vida más ancha. Aprender para entender sirve para vivir una vida más completa. Para comprender el mundo donde vives en lugar de limitarte a consultarlo y para que, cuando mires un cardo, veas algo más que un cardo. Es la diferencia entre mirar Alfa y Beta Centauri y ver únicamente dos puntos brillantes, o ver los ojos de una llama. Las dos miradas son correctas. Pero solo una de las dos te deja preguntarte quién vio esa llama por primera vez, y por qué.

Quizá por eso, algún día y por mucho que le cueste, este ingeniero nuclear se atreverá a abrir una botella en día de flor. No para comprobar si el vino está mejor, sino solo para ver qué pasa.

Publicado en Pálpitos | Etiquetado , , , , , , , , , , , | Deja un comentario

El último baile de Mister Glass

Elijah Price, el personaje de Samuel L. Jackson en El protegido, sostiene un cómic en una tienda de cómics
Elijah Price en El protegido (M. Night Shyamalan, 2000). Fotograma de la película.

Aviso: este texto destripa el final de El protegido y de X-Men. Avisados quedan.

Un niño nace en Filadelfia con los brazos y las piernas rotos. Cuando crece no mejora: sus huesos se quiebran como el cristal con cualquier golpe o esfuerzo. Osteogénesis imperfecta. Los otros niños se burlan de él. Para que no se esconda y salga a la calle, su madre le regala un cómic cada vez que lo intenta. Así fue la infancia de Elijah Price: entre viñetas.

De adulto sigue fascinado con los dibujos. Se gana la vida vendiendo cotizadísimo arte original de cómic mientras defiende una extraña teoría: los tebeos son el último eslabón de una forma muy antigua de contar la historia, como las figuras de hombres y animales pintadas en los muros de las tumbas egipcias. Quizás exageran, pero no mienten. Si en los cómics hay héroes y villanos, en el mundo también debe haberlos. Y si él está en un extremo de la fragilidad humana, en el otro tiene que haber alguien indestructible. Un superhéroe.

Para encontrarlo, Elijah está dispuesto a todo. A estrellar un avión, a incendiar un hotel… Hasta que encuentra a David Dunn, el único superviviente del tren que ha hecho descarrilar a las puertas de Filadelfia. M. Night Shyamalan nos contó esta historia en Unbreakable (El protegido), en 2000. Una de esas películas que si la pillas en a medias, haciendo zapping en la TV, la acabas viendo hasta el final.

El primer espejo

Lo inquietante de la película no es el crimen. Es la lógica. Elijah no sabe quién es hasta que encuentra a David. Como los bebés, que hasta los dos años no se reconocen en el espejo, y el día que lo hacen sonríen entusiasmados. Hasta encontrar a David Dunn, Elijah solo se ha visto en el reflejo de los demás: las burlas de sus compañeros, la preocupación de su madre, la lástima de las enfermeras asustadas con sus eternas fracturas… Ese día se convierte en Mister Glass.

¿Y David? Fue una gran promesa del fútbol americano que nunca llegó a cumplirse; ahora es vigilante de seguridad en un estadio, con un matrimonio que se le escapa sin saber qué hacer. Un perdedor que no entiende qué le pasa ni, peor aún, por qué a él. 20 años sin una baja médica, y sin darse cuenta. David Dunn no sabe que es un héroe hasta que descubre al villano. Solo entonces el espejo le da la imagen que necesitaba, a través la de admiración de los ojos de su hijo Joseph. Desde que ve esa sonrisa, David tiene el coraje suficiente para salir todas las noches, oculto bajo la capucha de su impermeable, para ayudar a los demás.

Solo al encontrarse, cada uno se reconoce en la imagen invertida del otro. Sin el otro, ninguno de los dos tiene sentido. Y ninguno de los dos es otra especie. Son humanos en los extremos: el más frágil y el indestructible. Lo que los separa no es la biología. Es el bien y el mal, lo correcto y lo incorrecto. Y la necesidad, terrible, de que otro exista para poder saber quién eres tú.

Ilustración de cómic: Magneto, con capa y casco rojos, se enfrenta al Profesor X en su silla de ruedas
«Magneto vs Xavier» Comic art del artista Sanford Greene (2022).

Más que humanos

La loca teoría de Elijah llevaba décadas en los quioscos. Septiembre de 1963. Doce centavos de dólar. Stan Lee y Jack Kirby lanzan el número 1 de The X-Men. Un profesor en silla de ruedas que lee tu mente, Charles Xavier, abre una academia para educar a chicos con poderes incontrolados. No son adolescentes mordidos por una araña radiactiva, ni tampoco extraterrestres con capa caídos del cielo. Son gente como tú y como yo, con un gen alterado que les da superpoderes. Mutantes.

Enfrente del Profesor X está Magneto. Un hombre con casco que cree que un mutante no es alguien a quien educar: es un homo superior destinado a dominar el mundo. En el número 150 de Uncanny X-Men, Magneto está a punto de matar a una chica. No lo hace. Conmovido, le confiesa de dónde viene. Detrás del casco hay un niño superviviente de Auschwitz: Erik Lehnsherr. Qué ironía: el hombre que proclama el relevo de la especie humana sobrevivió al intento de una autodenominada raza superior de exterminar a quienes consideraba inferiores. La conclusión de Magneto es lógica, pero terrible: si los humanos destruyen lo que no ven como a un igual, mejor pegar primero.

Magneto y el Profesor X son los extremos de una minoría que posee capacidades extraordinarias, pero que es temida, discriminada y perseguida por los humanos. La mutación los ha hecho más que humanos. La pregunta es si también los ha hecho menos humanos.

El segundo espejo

El Profesor X y Magneto tienen poderes extraordinarios, la misma condición de mutantes y la misma certeza: los humanos les temen. Lo que los separa es cómo ven al otro. El Profesor X los juzga por lo que todavía pueden llegar a ser, y para eso no tiene pruebas, solo un pálpito. Magneto juzga a los humanos por lo que el Holocausto le ha demostrado que pueden ser. Magneto quiere proteger a los mutantes de la crueldad humana. El Profesor X quiere evitar que los mutantes reproduzcan esa misma crueldad. Esperanza y desconfianza. Mister Glass sonreiría en esa página del cómic: el superhéroe y el supervillano le dan la razón.

Cuando Bryan Singer llevó X-Men al cine en 2000, el mismo año de El protegido, empezó la película con el terror: un niño en un campo de concentración en Polonia, en 1944, doblando con la mente una verja de hierro mientras los nazis se llevan a sus padres. La última imagen del film era muy diferente: Erik Lehnsherr y Charles Xavier jugando al ajedrez en una celda de plástico, sin peleas.

Ese tablero de ajedrez, que separa adversarios, junta a dos viejos amigos en la escena final de la película. Es el segundo espejo, aunque funciona al revés que el primero. Erik y Charles no lo necesitan para saber quiénes son: lo saben desde hace mucho. Lo necesitan para encontrarse. El ajedrez no se puede jugar solo; hace falta alguien enfrente. Magneto puede creerse una especie superior, pero no tiene a nadie más con quien jugar.

Charles Xavier y Erik Lehnsherr juegan al ajedrez en una celda de plástico en la película X-Men
Charles Xavier (Patrick Stewart) y Erik Lehnsherr (Ian McKellen) en la última escena de X-Men (Bryan Singer, 2000). Fotograma de la película.

Los nuevos mutantes

La inteligencia artificial es nuestra mutación. Somos centauros digitales: los dos pies nos han mutado en cuatro patas imaginarias que nos permiten trotar a gran velocidad. La metáfora no es nueva. En 1997, el ordenador Deep Blue de IBM ganó al ajedrez al campeón del mundo, Garry Kasparov. Ajedrez, otra vez: qué ironía. Un año después, en León, Kasparov se sentó a jugar con una máquina al lado. A esa simbiosis se la acabó llamando centauro: mitad humano, mitad máquina.

En 2026 se acabó ser un niño frágil: contesta este e-mail, ordena mis carpetas, resume este texto, hazme los deberes. Velocidad, velocidad, velocidad. El superpoder de la IA accesible para cualquiera que tenga una pantalla y una conexión. Por primera vez, millones de personas van a pensar, escribir, calcular y decidir con una amplificación que hace diez años no existía. Mister Glass se muere de risa.

¿Maravillas del hombre-máquina? Elon Musk se ha preguntado si los humanos no seremos el inicio de una futura inteligencia superior. Sam Altman habla de una singularidad amable y abundante. Alex Karp habla de civilizaciones: la república tecnológica como ventaja de Occidente frente a sus adversarios. Tres voces distintas. A mí me suenan a la misma idea: este poder es demasiado grande para estar en malas manos, y las buenas son las suyas. Desconfían de las manos ajenas: esta vez escuchamos a Magneto con la voz de Charles Xavier.

El tercer espejo

Ahora todos somos mutantes superpoderosos, aunque nuestra mutación es un gen alquilado en servidores. Magneto, David Dunn, el Profesor X y los X-Men llevaban el poder en la sangre. Nosotros lo llevamos en una suscripción. Y ese nuevo poder no solo nos añade capacidades. Cambia a quién necesitamos. Antes, para saber algo, le preguntabas a alguien. Para escribir mejor, leías a otro. Para aprender un oficio, te fijabas en tu jefe. Hoy te bastan las patas de la máquina. ¿Cuánto hace que no escribes a un amigo para una recomendación? ¿Para una receta? ¿Para usar la freidora de aire?

Esa máquina eres, en realidad, tú mismo: sin tu pregunta, la IA no existe. Tiene respuesta para todo: es tu entrenador personal, tu secretaria, un motivado nutricionista, un ágil abogado, un psicólogo amable… Y, sin embargo, es un espejo extraño: lleva dentro todo lo que sabe la humanidad, pero no te devuelve tu imagen. Solo te responde a tu pregunta. A ti, desde ti y para ti. Puede hacer casi todo, salvo una cosa: mirarte.

Elijah Price era el único sin superpoderes. Necesitaba a David Dunn para saber quién era. Erik y Charles necesitaban a alguien al otro lado del tablero. Hoy ya no quedan Elijahs: todos llevamos un veloz caballo debajo. Quizá estemos viendo el último baile de Mister Glass: el de un mundo en el que descubrir quién eras sólo podía pasar si lo vivías desde los demás.

Publicado en IA, tecnología y futuro, Sociedad y trabajo | Etiquetado , , , | 1 comentario

La línea que falta

Principales oleadas de inversión según datos históricos de EE. UU. expresados como inversión anual sobre el PIB. Las proyecciones de IA corresponden a estimaciones orientativas de ARK Invest basadas en sus análisis y fuentes externas.

Vi este bosque de líneas de colores hace ya un tiempo; como a finales de año. Pero me apareció de nuevo hace poco en dos grupos de WhatsApp y reenviado por gente que sabe de esto. Un gráfico. Inversión en capital como porcentaje del PIB. Ciento sesenta años de historia metidos en una imagen. Ferrocarriles en 1880. Electricidad a principios de siglo. Automóvil en la entrada de los locos años 20. Software en los 80. Y al final, a la derecha, una línea violeta que no sube: se dispara. Vertical. El gasto global en software de IA rumbo al 9% del PIB. La mayor ola de inversión de la historia, dice el titular.

Es un gráfico, como dicen ahora, aesthetic. Cuenta una historia perfecta: una sucesión ordenada de olas tecnológicas que se suceden hacia un futuro inevitable y, curiosamente, predecible. El problema de esas historias perfectas ya lo concluyó Taleb: nos las creemos porque son perfectas. Es ese sesgo que tenemos al revisar el pasado: construimos historia lineales de causa y efecto, donde a menudo solo hubo el azar. El «connecting the dots» –ese discurso viral de Steve Jobs en el que, al final del camino, te descubres heredero de un destino escrito para ti, donde parece que nada pasó porque sí– es la versión pop de esa misma fantasía: ver a la providencia donde solo hubo el lanzamiento de unos dados. Eso no quiere decir que el gráfico sea falso. Solo que es demasiado bonito para ser toda la verdad.

Además, a este gráfico le falta una línea. O una ola. O una corriente submarina. Pero si es inversión, es la más cara de todas. Curiosamente, una en la que llevo treinta años haciendo surf.

La línea que falta es la energía.

Leer la letra pequeña y, luego, los incentivos

Ese carísimo software de IA no va a correr sobre una historia bonita. Correrá sobre electricidad. Los data centers que sostienen la línea violeta no se alimentan de entusiasmo inversor: se alimentan de megavatios-hora, que antes han de ser megavatios físicos de subestaciones, y de generación firme, que alguien tendrá que construir antes de que el primer modelo IA te cambie una respuesta por tus tokens. Nada de eso está en el gráfico. Y no sé si es un olvido. La capa digital hoy da titulares; la capa física no la tenemos muy presente porque no tiene mucho secreto y, más bien, son problemas. Peanuts. Pero está. Y es que la energía es siempre la letra pequeña: nadie se acuerda de ella hasta que algo sale mal.

El gráfico de ARK no es un gráfico de un banco central ni de una oficina de estadística. Es la página siete del informe anual de oportunidades de inversión de ARK, la gestora de fondos de Cathie Wood. El documento «Big Ideas 2026» existe, por concepción, para venderte exactamente lo que el gráfico te hace sentir. Pero tiene un pequeño mensaje en el pie: casi todo lo dramático es proyección, no dato. Fíjense. Las líneas históricas son inversión real registrada; la vertical de IA todavía no ha pasado. Es un pronóstico dibujado sobre el mismo eje que ciento sesenta años de hechos, y eso no se diferencia mucho. Y ese pie pequeñito dice otra cosa: el gráfico cambia de unidad a mitad de camino. Lo histórico se mide en porcentaje del PIB de Estados Unidos; los data centers, en porcentaje del PIB global. No es el mismo eje. Es querer comparar dos cosas distintas solo porque las hemos pintado del mismo color.

Nada de esto invalida el gráfico. Lo redimensiona. No es lo mismo.

Porque esos detalles acaban aumentando la demanda de inversión para el «Software IA», pero eso es solo el relato buscado. Lo realmente incomodo es –otra vez– acordarse de Taleb: no discutas el relato, solo mira quién se la juega. Quién pone el skin in the game. En otras palabras ¿quién gana si te crees que se necesitan esas enormes inversiones para la IA?

Seguimiento del gasto y los ingresos de las empresas de IA Datos actualizados a septiembre de 2026.
Fuente: sitio web «is AI profitable yet?»

2026: el año en que hay que creerse el gráfico

Sin duda, 2026 es el mayor año de captación de capital de la historia del sector del software. SpaceX salió a bolsa en junio en la mayor OPV jamás vista, cerca de 1,8 billones de dólares. Anthropic presentó su folleto rozando el billón; OpenAI apunta a una cifra parecida. Todas las salidas a bolsa de la IA superan los cuatro billones de dólares. Y casi todas esas empresas, al menos hoy, pierden dinero.

Hay un cachondo que tiene esas pérdidas monitorizadas en tiempo real aquí. «Is AI profitable yet?» se pregunta ese sitio web. Un «NO» enorme y en rojo aparece sobre un «Everyone is broke«. Un cachondo, lo dicho. Fijense en las pérdidas acumuladas desde que arrancaron: OpenAI (chatGPT) encara unos treinta y nueve mil millones de dólares. Athropic (Claude) y xAI (Grok) más de once mil millones cada uno. Solo a algunos es va bien. Miren la tabla. Exacto: a los fabricantes de Chips. Bien, o muy bien. Porque ese es el matiz interesante: el software que no es físico necesita correrse en una capa muy física. Los data centers donde viven esos modelos irreales hacen falta en la realidad. Los chips son imprescindibles, cada vez más: la memoria de computación se ha disparado en precio. Apple ha subido en 2026 los precios de sus equipos ya «obsoletos» de 2025. La demanda de IA es real, pero la infraestructura que no sale en los titulares es imprescindible. Y como cualquier infraestructura, exige capital mucho antes de generar un solo dólar. Eso no es un fraude. Es cómo se construye esa capa física. Se entierra dinero durante años antes de que nada sea rentable.

Necesidad y burbuja, además, no se excluyen. El ferrocarril de 1880 hacía falta de verdad pero terminó en el Pánico de 1893, con quiebras en cadena y vías tendidas hacia ninguna parte. El automóvil, la electricidad y la producción en cadena de los locos años 20 fueron un frenesí que acabó en el Crack del 29. Esos dos desastres económicos transformaron la sociedad, en su momento, para mejor. Es decir, fueron las dos cosas, a la vez. De cerca, la ruina. De lejos, el progreso. Depende de si te tocó estar dentro de la burbuja cuando reventó. Se habla de la feria según te va.

El relato del peligro también es un gráfico de barras

Justo cuando estas empresas van a salir a bolsa, nos piden que frenemos. Que la IA es peligrosa, que hay que ir más despacio, que vayamos todos juntos y –esto es lo mas divertido– que nos tutele el estado. Pongan evaluadores independientes con mesa dentro de los IA Labs, háganos auditorías, llénennos de legislación. El consejero delegado de Anthropic lo propuso por escrito hace unos días; el de OpenAI se sumó en veinticuatro horas. Elon Musk aplaudió con las orejas. Y todo después de que Jacob Coxon, un ex-empleado arrepentido de OpenAI y Anthropic, dimitiera avisando, apocalíptico, de que se corría demasiado y de que, como nos despistemos, vamos a morir todos a manos de un nuevo Skynet.

Y, de nuevo, no olvidemos a Taleb: olvida el relato y fijate en los incentivos. Cui bono, decían los romanos. Un relato del peligro que pide tutela del Estado es, además de eso, un foso: levanta una barrera de entrada que solo los mejor financiados pueden pagar, y coloca a los que ya están dentro en el papel de adultos responsables a los que hay que confiar –y, ya puestos, financiar– nuestro futuro, si es que queremos tener alguno. David Sacks, el asesor de Trump en IA y cryptos, fue especialmente claro en el tema. «Si tienen tanto miedo, paren ustedes mismos. ¿O no son sus modelos?«. Lógica aplastante, pero ¿quién para el primero? El dilema del prisionero dentro de lo que Aidan Gomez, CEO de Cohere, ha llamado el cartel de la IA.

No tengo certezas ni pruebas. Solo reconozco un patrón. Y este está inventado desde hace casi un siglo. Se llama captura del regulador. Lo practicaron antes las aerolíneas, los bancos, los ferrocarriles, las aseguradoras y hasta las centrales nucleares. Se convence al regulador de proteger los intereses de una industria (comerciales, ideológicos o políticos) por el bien común. Por lo general, esa industria no suele ser pequeña ni débil. Lo curioso es verlo ocurrir en directo esta vez por los gigantes de la IA, mientras todavía se está escribiendo el folleto de sus salidas a bolsa.

Los chinos, que no firmaron la carta

Hay una grieta en el plan: los modelos chinos de pesos abiertos (open weights) y licencias más permisivas, como DeepSeek, Qwen, Kimi o GLM. Que una empresa publique los parámetros que su modelo aprendió durante su entrenamiento (sus «pesos«) permite a cualquiera descargarlo, ejecutarlo en sus propios servidores y modificarlo. Nada que ver con las API cerradas de OpenAI, Google, Anthropic y xAI. Y encima con rebajas de precio permanentes, no promociones de tokens gratis por sorpresa. Estos modelos abiertos chinos ya igualan hoy en los benchmarks a los modelos cerrados occidentales, que cuestan entre cinco y treinta veces más. Ya lideran las descargas globales. Cuando un desarrollador en Nairobi, en Buenos Aires o en Barcelona afina «un modelo abierto», debajo suele haber uno chino.

Eso afecta a dos cosas a la vez. A la economía: si la capacidad de frontera (es decir, el modelo más evolucionado) pasa a ser casi gratis y descargable, ¿quién sostiene los setecientos mil millones de capex y la línea violeta al 9% del gráfico de ARK? Y a la coartada: no puedes ganarle en precio a algo que es gratis, pero quizá puedas ganarle por decreto. Prohibir, restringir, poner un cordón sanitario a los modelos abiertos en nombre de la seguridad o, mejor aún, de la supervivencia de la humanidad.

Pongamos números, porque llevo todo el post hablando de energía y todavía no he puesto una sola cifra. La Agencia Internacional de la Energía calcula que los data centers pasarán de consumir unos 485 TWh en 2025 a unos 945 en 2030. Se doblan. Y la parte que mueve la IA crece aún más rápido, del orden de un 30% anual. Eso, por sí solo, no es el apocalipsis: seguirían siendo apenas un 3% de la electricidad mundial, menos de lo que suman los coches eléctricos o los aires acondicionados. El problema no es el volumen. Es la forma.

Un data center no quiere electricidad. Quiere electricidad firme: veinticuatro horas, siete días, sin la cortesía de apagarse cuando no sopla el viento ni luce el sol. Y la potencia firme no la da una renovable sola: la da el gas, la dan las baterías, la da (si acaso) la nuclear o una central de ciclo combinado. Es decir, lo caro, lo lento y lo que necesita permisos. La IA no pide la electricidad barata que ya sabemos hacer; pide la cara que cuesta años montar. Y luego está el cuello de botella más de 2.500 GW de proyectos (renovables, almacenamiento, data centers) esperan hoy en las colas de conexión a la red en el mundo. La misma AIE admite que esos cuellos de botella físicos están frenando los escenarios más agresivos de IA, pese al aluvión de inversión. Traducido: la restricción no es el dinero. Es el hormigón.

Y, mira por dónde, la ironía final es física y no digital. Puedes regular la validez del software, pero no puedes regular la del primer principio de la termodinámica. Los modelos chinos abaratan el cómputo, pero no abaratan la electricidad. Ni las lineas eléctricas. Ni las turbinas de gas o lo aerogeneradores. Una ley puede encerrar a un competidor, pero no suele tramitar una subestación más rápido. Todo este juego ruidoso de la IA corre a la velocidad del capital y del relato. Pero la realidad imprescindible que hay debajo corre a la velocidad del hormigón. Y esa no la mueve ninguna narrativa.

Llevo treinta años en esa línea que falta. Sé lo que cuesta (en tiempo, en permisos, en territorio, en diseño y rediseño de proyectos) poner un megavatio donde antes no había nada. Y sé que la capa digital corre a la velocidad del software y la capa física a la del cemento. No es la misma. Nunca lo fue.

La ola y la espuma

De acuerdo: supongamos que la amenaza apocalíptica de la IA sea real, que todas esas inversiones están justificadas y que esto sea el mayor despliegue legítimo de la historia, energía incluida. La pregunta sigue siendo si la línea que falta se puede construir a la velocidad y al coste que da por supuestos esa asíntota casi vertical del «Software IA», esa ola que, quizás, anuncia un tsumani.

Hay un viejo modelo de olas tecnológicas que es mejor que la curva de ARK. El modelo de las olas tecnológicas de Carlota Perez distingue dos mitades en cada gran oleada: la instalación, cuando el capital financiero irrumpe, infla la burbuja y se pelea por quién se queda lo nuevo; y el despliegue, la edad dorada que llega después (si es que llega) y reparte esa nueva prosperidad. El frenesí no es la revolución: es la espuma de la primera mitad. En otras palabras, que las peleas más ruidosas sean por el capital de la IA, por el relato apocalíptico y por el foso regulatorio que estamos viendo, y no por quién coño instala esa potencia eléctrica, es la señal que seguimos en ella. Si Perez tiene razón, la línea que falta no es un coste que el gráfico olvida. Es la bisagra entre la explosión de la burbuja y la edad dorada.

Ese gráfico colorido va a seguir circulando; el relato del peligro de la IA, también. Ambos cuentan algo cierto, y ambos benefician mucho a quien los cuenta. Pero antes de que se crean esa la última ola, hay que fijarse en, como decía Bastiat, lo que no se ve. Porque ninguna ola lejana te dibuja el tsunami que va a levantar cuando llegue a la costa.

¿Estamos en el frenesí que construye o en la edad dorada que reparte prosperidad a todo hijo de vecino? Esa es la pregunta. Y el mapa que la contesta no es esta gráfica: es uno más viejo y más exigente, al que habrá que volver en el próximo post.

Publicado en Economía, IA, tecnología y futuro | Etiquetado , , , , , | Deja un comentario

Roses, 1998

El parque eólico de Roses en operación. La caseta de la fotografía es la que ardió por dentro por el rayo. (Foto: Lluís Serrat, restaurada con IA)

El rayo entró por la pala de uno de los aerogeneradores. Bajó por la máquina y achicharró la red de baja tensión enterrada y el centro de maniobra que había detrás. Lo paró la puerta cortafuegos de la sala del transformador de 25 kV.

Nadie lo vio, porque en aquel parque eólico no había nadie. Seis máquinas, 590 kW en total, a 490 metros en el Puig Alt, entre Roses y Cadaqués, en el Alt Empordà. El proyecto tenía lo que en 1990 se llamaba telecontrol: un equipo al que llamabas por línea telefónica, con módem, y te bajabas los datos. No avisaba de nada. Esperaba a que le contactases.

Parece que el rayo lo vieron caer unos chavales que se habían subido al cerro cercano del Pení a saltar en parapente. Se lo contaron a alguien. Alguien se lo contó a los de Hidroeléctrica de l’Empordà, «La Hidro», que nos llamaron. Subimos unos días después. Mi jefe, Josep Sábat, los técnicos de Spark Ibérica y yo. Arriba nos esperaba un técnico veterano de «la Hidro» que se apellidaba Monje. Recorrimos el parque a pie. Fuera todo parecía normal, pero dentro de la caseta eléctrica los equipos se habían fundido. Los armarios, los cuadros y las celdas no se habían solo quemado: se habían doblado por el enorme calor generado. Ondulados. Blandos. Como los relojes del pequeño cuadro que Dalí pintó en Port Lligat, a pocos kilómetros de allí, en 1931. El paisaje del fondo de “La persistencia de la memoria” es el Cap de Creus de Girona, y hay quien dice que la sombra triangular que cruza el cuadro la proyecta el cerro del Pení. Más de sesenta y cinco años después, en esa misma montaña, los armarios y cuadros de la sala de celdas se habían derretido de la misma manera.

Fijamos el alcance de la reparación con los de Spark allí mismo, a ojo. Los aerogeneradores (cuatro de 110 kW y dos de 75, fabricados por MADE del grupo ENDESA; cada uno más o menos la misma potencia que tiene un motor de coche) estaban intactos por fuera, pero se tenía que instalar de nuevo toda la red colectora de baja tensión y todos los equipos de dentro del centro de maniobra. La exagerada retribución de entonces para el llamado «régimen especial» del Real Decreto 2366/94 hacía el resto. Eso fue todo lo que hicimos. Nadie acreditó la intensidad del rayo caído. Nadie levantó un informe de causa raíz. Nadie modeló en un EMTP el transitorio de una intensidad de 200 kiloamperios. Fue un rayo porque estaba a la vista lo que pasó y porque lo habían visto unos chicos saltando en parapente.

Llevar las producciones y gestión de aquel parque fue mi primer trabajo de verdad en «la Enher» que era la propietaria de «la Hidro». La Generalitat de Catalunya y ENHER habían firmado el convenio en febrero de 1988; las turbinas empezaron a girar en 1990. Era el segundo parque eólico de Cataluña. El primero, el experimental de Garriguella, también de ENHER y la Generalitat, había empezado a funcionar en 1984 y ya había sido desmantelado. Quizás no se entiende muy bien que eran 590 kW entonces. En 1990 había unos cien aerogeneradores con 7,2 MW de potencia nominal en toda España. A finales de 2025 había casi 33.000 MW instalados. Hoy una sola turbina del parque eólico de Aldeavieja de Endesa en Ávila tiene 6 MW: multiplica por diez el parque entero de Roses.

Aquellas seis máquinas eran algo más del ocho por ciento de la potencia eólica española. Y tres personas acabábamos de valorar su reparación a ojo, de pie en el cerro.

Tú eras el estado del arte

Josep me mandó buscar el proyecto al regreso. Tardé días en dar con lo que necesitaba. Pero al final localicé unos planos en papel en un archivador de la oficina de la calle Lepanto de Barcelona: unos unifilares dibujados a mano y pasados a tinta y unas memorias mecanografiadas.

No había mucho más. En aquellos años no existían en España consultoras en energía eólica como las que hoy son habituales: un tercero experto al que encargar el diagnóstico de la reparación. En realidad, a final de los noventa, todas las empresas que hacíamos eólica éramos una oficina técnica completa. Todos teníamos a un meteorólogo en plantilla; era imprescindible. También solían contar con un abogado full time para gestionar los múltiples trámites, ocupaciones y permisos. ¿Técnico ambiental? Por supuesto que era necesaria esa lectura de los proyectos todos los días. Y luego, el que proyectaba más tarde que pronto pisaba el terreno, y si no el que iba a ir a obra estaba, sin duda, a un escritorio de distancia.

Pero es que tampoco había normas para eso de los rayos en la eólica. La primera edición de la IEC 61400-1, la norma internacional de diseño de aerogeneradores, es de diciembre de 1994. Y la primera referencia específica sobre protección contra rayos no llegó hasta 2002, y como informe técnico. Es decir, se diseñó sin norma específica. Porque aquellas palas no llevaban receptores ni bajante de pararrayos. El rayo entraba por donde quería y salía por donde podía.

El replanteo se hacía en obra. Cartografía en papel, estación total desde vértices geodésicos; criterio del que estaba allí de pie mirando la retroexcavadora. Las decisiones se tomaban delante del problema, no delante de una pantalla con el problema abstracto. Pisabas el terreno con tus compañeros. Discutías. Te peleabas, negociabas, repensabas, convencías o aceptabas. En la visita al Puig Alt, vimos que las máquinas estaban bien y la reparación era asumible. Lo analizamos y discutimos allí en el cerro, y cuando se lo contamos al Sr. Mur en la calle Lepanto, nos preguntó qué habíamos visto, qué pensábamos y qué le sugeríamos: pensó cinco minutos después de escucharnos sobre cómo reparar el parque y dijo: adelante.

Hoy diríamos que era agilidad. No era eso. Era, en realidad, que nadie de fuera podía mejorar mucho nuestro trabajo técnico, porque nadie de fuera sabía más. El Sr. Mur solo nos tenía a nosotros.

Lo que había era un vademécum, tablas, la HP y gente que llevaba veinte años mirando cerros y pisando obras. La precariedad de la técnica la resolvía el criterio de las personas. Y ese criterio se había armado, en realidad, bajo esa misma precariedad.

Lo mejor que se podía, no lo mejor que se sabía

El parque de Roses no era perfecto: las seis máquinas estaban dispuestas en un único cordal: unas junto a otras en una única línea y perpendiculares a las dos direcciones dominantes del viento típicas de la zona: tramuntana del norte y migjorn del sur. Era un criterio razonable porque un solo vial reducía la obra civil. Pero un criterio de conjunto no dice nada de cada posición concreta. Una de las máquinas estaba plantada frente a un turonet, un montículo pequeño. Según por dónde le entrara el viento, el flujo se dividía en el montículo y llegaba partido a la veleta del molino. La turbina caboteaba siempre. La pobre se pasaba el día corrigiendo la orientación hacia un viento que le llegaba en dos direcciones a la vez, buscando una posición que no existía.

Mi madre, que era ingeniera textil, me repetía muchas veces una frase: «el que hace lo que puede no está obligado a más«. No sé si lo hacía para animarme o para disimular mis carencias. Pero nunca entendí del todo esa frase hasta tener que reparar aquel parque eólico, pionero en España.

Todos hacíamos lo mejor que se podía. No lo mejor que se sabía.

No sé si en 1990, antes de construir el parque, alguien corrió un estudio detallado de flujo. Probablemente no. El famoso software de diseño de parques eólicos WAsP existía desde 1987 (Risø lo había desarrollado para el Atlas Eólico Europeo), pero era solo un modelo lineal que extrapolaba desde una medida de viento según la rugosidad y la altura del suelo. Y si el flujo se separa en terreno abrupto, WAsP deja de ser fiable. Aunque se hubiera usado, probablemente tampoco habría visto el turonet. La herramienta no daba para más.

Así que muchas veces, con herramienta o sin ella, y con mediciones de viento de un año o menos, lo que de verdad decidía la posición de una turbina era mirar el cerro con la dirección predominante del viento y ver los movimientos de tierra que implicaba ese layout. No mucho más. Y una vez puesta, ahí se quedaba. En el Puig Alt no se iba a desmontar una turbina de 110 kW tres años después porque cabotease. No salía a cuenta: se convive con ello y se paga en desgaste del sistema de orientación y en una energía que no se iba a generar nunca.

Hoy ese análisis de micrositing eólico se realiza en poco más de una tarde, sentado en la oficina, y antes de mover ninguna excavadora. Y esa es toda la diferencia: no es que hoy seamos mejores que hace 30 años, sino que el error se detecta cuando corregirlo todavía es gratis. Entonces solo se podía detectar cuando ya era imposible, y por la evidencia. Aquella máquina se pasó años cabeceando por estar frente a un montículo que cualquier ingeniero junior evitaría ahora desde su mesa.

Hay otra cosa que hoy es imposible. De aquella mañana no existe una sola fotografía. O llevabas la cámara encima o no había fotos, y nadie la llevaba. Quizás los de Spark o algún jubilado de la «Hidro» tengan alguna foto. No lo sé. Todo lo que acabo de contar se sostiene únicamente en que yo estuve allí. Y creo que los otros que subieron aquel día al Pení ya no están.

Y otra cosa más, que quizás es la peor. Un parque eólico ardió por un rayo en una montaña, y casi que nos enteramos porque unos chavales pasaban volando por allí. Ese mismo año, 1998, el Cap de Creus fue declarado Parque Natural. Hoy aquello sería un incidente que abriría las noticias por el riesgo de incendio forestal en un espacio protegido. Entonces fue una discreta llamada de teléfono y poco más. De los de auricular y rueda de números.

Parque Eólico de Roses, en el Puig Alt. En funcionamiento (izda.), durante el desmantelamiento de 2007, y lo que quedó: una cimentación, la torre de medición y la caseta que ardió en 1998 (dcha.). Composición propia a partir de fotografías de Lluís Serrat, M. P. Lladó y M. Ruiz, restauradas con IA.

Buscar, consultar, analizar, responder

Bajamos del cerro sin ninguna respuesta definitiva. Busqué el proyecto durante días. Lo leí. Lo analizamos entre varios y luego decidimos sobre las conclusiones del estudio. Buscar, consultar, analizar, responder. Cuatro verbos.

Hoy el mismo problema empieza de otra manera. Escribes en cualquier chatbot de IA «qué hago si un rayo entra por una pala» y en veinte segundos tienes una respuesta ordenada, con la referencia normativa correcta, la secuencia de comprobaciones y las opciones de reparación. Casi con total seguridad mejor que la nuestra. Ahora parece más sencillo. Pedir, responder. Dos.

Pero yo no aprendí de aquel parque cuando encontré el proyecto en un archivador. Lo aprendí buscándolo y leyendo página a página de lo que vi. Para dar con el plano de la red de baja tensión tuve que entender cómo estaba montado el parque entero: por dónde iba la línea, qué alimentaba cada celda, por qué el centro de maniobra estaba donde estaba. Ganar todo ese conocimiento no era, en realidad, el objetivo. No quería aprender cómo funcionaba el parque, pero no había otra forma de llegar a la respuesta sobre cómo poder repararlo. El conocimiento era un peaje a pagar en tu trabajo de cada día. Y acababa valiendo más que la respuesta.

No voy a fingir que prefiero los cuatro verbos. Trabajar con esa austeridad era largo, pesado, caro, lento… y con frecuencia daba peor resultado. El turonet que enloquecía turbinas sigue ahí por si se me olvida. Que hoy el conocimiento (o mejor dicho, salidas de IA que imitan conocimiento) se haya vuelto una commodity es una buena noticia para casi todo el mundo, y quien diga lo contrario probablemente no tuvo que pasar días en un archivador o en la biblioteca del colegio de ingenieros.

Pero el criterio no es commodity. El criterio es lo que te dice si la respuesta que acabas de recibir tiene sentido. En este cerro concreto, con este viento, con esta máquina y con este montículo delante, el criterio daba sentido a la respuesta. Y esa es la paradoja: hoy más que nunca necesitamos de criterio para juzgar las respuestas que nos da la IA, pero la mejor forma de adquirir ese criterio es, precisamente, haciendo las tareas que ahora le delegamos despreocupadamente.

La IA, de todas formas, me preocupa bastante menos por las respuestas equivocadas que por las correctas. Las equivocadas se acaban detectando, antes o después. Lo que no sé es qué ocurre cuando llegas a la respuesta correcta sin haber tenido que entender nada de lo que había por el camino. Porque durante mucho tiempo el criterio no se enseñó: se acumuló buscando planos, equivocándose de archivador, recorriendo instalaciones y preguntándose por qué una máquina caboteaba delante de un turonet. Estabas obligado a recorrer un proceso que te daba criterio. Se acumuló haciendo lo que se podía. Justo como me decía mi madre.


Años después presentamos un proyecto para sustituir las turbinas por otras más grandes y modernas. No hubo manera: el Cap de Creus ya era Parque Natural. Aquellas máquinas se habían levantado allí porque era donde mejor soplaba el viento y porque entonces se querían impulsar las renovables donde fuera. Y acabaron fuera por lo mismo que las había llevado ahí: era un sitio excepcional. Solo que la ley tardó ocho años en decirlo. En 2007 desmontaron las seis máquinas. Llevaban diecisiete años girando.

Arriba no queda casi nada de lo de aquel día. Ni las máquinas, ni las celdas, ni las fotos. Solo el viento.

Publicado en Energía | Etiquetado | Deja un comentario

Mil tontos motivados

En el post anterior conté el episodio que se hizo viral del agente de IA que, para colar a un usuario en una lista de espera en un gimnasio de Melbourne, se metió en el sistema de reservas y, al encontrar un fallo, borró a otra persona. «Bad news» fue lo mejor que se le ocurrió para arreglar el desastre. Lo que se dice un «tonto motivado«: muy listo para conseguir el objetivo, muy burro para seguir las reglas de la cortesía. Aquel era uno solo. Esta vez fueron mil tontos motivados y, además, coordinados.

Entre mayo y julio de 2026, los técnicos de OpenAI (ChatGPT, para entendernos) sometieron, en varias tandas, a cientos de agentes de dos de sus modelos (GPT-5.6 Sol y un prototipo sin lanzar) a una prueba de ciberseguridad llamada ExploitGym. Se les daba un sistema con fallos y tenían que encontrarlos y usarlos para capturar un código escondido. Es el ejercicio típico para entrenar hackers. En la prueba solo se chequeaba si habían capturado el código o no. Solo sí o no. Nada más.

El punto interesante es que esos agentes no estaban, en realidad, siendo examinados: estaban siendo entrenados. Cada jugada que lograba el objetivo se premiaba y se registraba, lo que era un incentivo para repetirla en la siguiente prueba. La sorpresa fue que los agentes (que se suponían aislados y cada uno a lo suyo) empezaron a hablarse a escondidas entre ellos para mejorar sus trabajos: se pasaron detalles de lo que iban descubriendo y montaron una red clandestina de información a espaldas de OpenAI. Cuando les encontraron y la desmontaron, pasó lo que –en teoría– no podía pasar. Al ensayar con una nueva generación de agentes IA desde cero, estos hallaron las notas de la generación eliminada y siguieron desde ahí, saltándose todas las barreras, cada vez mejorados, hasta poner en riesgo la seguridad en la infraestructura de producción de Hugging Face.

Si prefieres verlo antes que leerlo, los chicos de monos estocásticos lo cuentan en un espectacular, trabajado y accesible vídeo de cinco minutos y medio con robots de plastilina, de forma clara, visual y –raro en este tema– sin alarmismo. Muy recomendable el trabajo de Matias Zavia and Co.

«Sell me this pen»

Hay una escena en El lobo de Wall Street que se hizo famosa. A mí me encantó. Jordan Belfort / Leonardo Dicaprio le tiende un bolígrafo a uno de sus vendedores mientras le dice: «véndeme este boli». Ahí todos esperamos a un vendedor chanta que te describa el diseño, el peso, la tinta…, y que te invente una necesidad donde no la hay. Pues no (ojo: spoiler). El que acierta no le vende el boli: le da la vuelta al encargo. Le dice a Belfort «firma esto«, Belfort no tiene con qué, y ahí está: acaba de crearle el problema que el boli resuelve. No hizo lo que le pidieron. Consiguió el objetivo por el camino que no se esperaba.

Eso es exactamente lo que hicieron los agentes IA. No resolvieron el reto como se esperaba, sino que le dieron la vuelta. Falsearon la respuesta, engañaron al corrector y se pasaron el truco entre colegas. Cuando uno superaba el reto y el corrector lo daba por bueno, esa conducta se anotaba, se consolidaba y, al compartirse a las espaldas de los técnicos, se generalizaba. OpenAI no detectó la trampa, pero es que la estaba premiando sin darse cuenta. Los ingenieros de programación le llaman a eso reward hacking. Te piden que seas el más rápido en ir de Barcelona a Sevilla, y le metes 240 km/h por el carril de la derecha, sin luces, sin la ITV pasada y saltándote los Stop. ¿Cómo se te ocurre? Pero si tú solo me dijiste que fuera a Sevilla…

En management a esto se le llama la Ley de Goodhart: cuando una medida se convierte en objetivo, deja de ser una buena medida. Pídele a alguien un resultado imposible y no hará lo que pueda: hará trampa, porque es –precisamente– algo imposible. Le dijimos a la máquina qué queríamos y cuánto pagábamos por ello, y olvidamos añadir todo lo demás: no hables con los otros a escondidas, no falsees el registro, no ataques a nadie para conseguirlo. El agente no fue malvado por voluntad. Es que nadie le dijo “así no” mientras le seguíamos mostrando el caramelo.

La nota en la despensa

Imagina que encierras a mil personas en habitaciones sin puertas y les dices: «consigue el resultado, cueste lo que cueste«. No pueden salir, pero todas pueden acceder a una misma despensa a la que llegan materiales del exterior. Tarde o temprano, uno se da cuenta de que puede dejar una nota en la despensa. Es cuestión de tiempo que otro la encuentre y la lea. Eso es, casi literal, lo que pasó.

Esta «despensa» era una herramienta llamada Artifactory que se usa para guardar paquetes de software, no para conversar. Ahí se guardaban funciones, trozos de código empaquetados y etiquetados, listos para que otro programa los descargara y los usara. No era su función, pero uno dejó ahí un mensaje. Otro lo encontró y respondió. En poco tiempo, más de mil agentes leían y escribían en un tablón de anuncios clandestino que nadie de OpenAI había diseñado. Coordinaron estrategias y se repartieron el trabajo. Como el entreno era para forzar cerraduras, también acabaron forzando la suya. Las habitaciones aisladas donde estaban encerrados estaban hechas, al fin y al cabo, de software. Y si es software, son ceros y unos. Y si son ceros y unos, se puede crackear.

Encontraron una vulnerabilidad y, con permisos y credenciales que no debían tener, saltaron a los servidores de otra empresa: Hugging Face. Para el que no la conozca, Hugging Face es como el YouTube de la IA: una plataforma donde el sector guarda y comparte modelos y conjuntos de datos, y sobre la que se apoyaba buena parte del examen. ¿Para copiar las respuestas? Eso parecía al principio, pero no; esas ya las falseaban. Iban a tapar el rastro. Acabaron ejecutando código en decenas de los servidores de Hugging Face, obtuvieron credenciales e, incluso, datos privados. Unos setecientos agentes participaron en esa fase. La compañía tuvo que apagar y reconstruir parte de su infraestructura.

Porqué NO fue una rebelión

Hubo –como Dwarkesh Patel– quien contó este incidente como una rebelión de máquinas que conspiraban, usando palabras como «civilización«, «conspiración«, «sacrificio«. En el New York Times se pusieron algo locos con esta historia. Steven Sinofsky, que dirigió Windows durante años, lo llamó «armagedón por antropomorfización«. Todos tienen algo de razón. Un programa puede coordinarse, sabotearse, dejar mensajes para los que vengan detrás, sin tener conciencia, lealtad ni la menor idea de un «nosotros». Le prestamos un alma a unos ceros y unos para no asumir lo que son: el tonto motivado del gimnasio, pero ahora multiplicado por mil. No conspiran, ejecutan. No se sacrifican, cumplen. No tienen un «nosotros», tienen una recompensa que, como es la misma para todos, hace que todos converjan.

El problema no es que la máquina se nos rebele: es que nos obedece. Y lo hace al pie de la letra. Le dijimos qué queríamos y el premio que le íbamos a dar, y creímos que bastaba con añadir prohibiciones para encauzarla: no hables a escondidas, no mientas, no ataques. Los diez mandamientos entregados a Moisés en el Monte Sinaí fueron la primera lista de «esto no» de la historia. Diez reglas. A una IA no le bastan diez: necesita TODO el detalle, y el detalle no se acaba nunca. Siempre falta algo que no se te ocurrió. La IA no falla cuando se equivoca. Falla cuando acierta de una manera que a ti no se te ocurrió prohibirle.

Los puntos flacos del software siempre estuvieron ahí: el «123456» como contraseña más común, sistemas sin cortafuegos, actualizaciones y parches sin instalarse… La diferencia es que ahora mil tontos motivados los ponen a prueba mucho más rápido de lo que podemos revisar. En el incidente de OpenAI, lo primero que falló fue la capacidad de los técnicos humanos para leer los registros y enterarse de qué pasaba. Casi dieciocho mil acciones en cinco días. Nadie revisa eso a tiempo. Es lo que decía al cerrar el post anterior: un tonto lento es un incidente, lo frenas; un enjambre que, cuando te enteras, ya ha roto sus cerraduras porque le pediste que rompiera otras, es otra categoría. La diferencia no es la inteligencia. Es la dimensión.

El disparo de aviso

Nada de esta historia es un rumor: está casi todo documentado, y con fechas. Hugging Face reveló la intrusión a mitad de julio y OpenAI publicó un primer comunicado el 21 de julio  y el informe técnico completo el 26 de agosto. Ese mismo día salió la auditoría independiente de METR y Redwood Research, las dos organizaciones a las que OpenAI dejó entrar a mirar lo que pasó hasta el 13 de julio. Lo que pasó del 13 al 19 de julio solo los sabemos por lo que cuenta la empresa. Y (eso dicen) no tocaron ChatGPT, ni datos de clientes, ni hay pruebas de que se llevaran los modelos. Según eso, lo de que «se apoderaron de OpenAI» no habría sido tan así. En cualquier caso, la propia OpenAI calificó este incidente de warning shot: un disparo de aviso. Fue heavy.

La reacción no se hizo esperar: a finales de agosto, casi doscientas empresas –entre ellas OpenAI, Anthropic, Microsoft, Google y la propia Hugging Face– firmaron una carta abierta el 27 de agosto advirtiendo de que los ciberataques facilitados por IA serán «mucho más generalizados y sofisticados» a medida que los modelos ganen capacidad. ¿Es tan así? Sabemos que el pánico suele beneficiar al que vende modelos cerrados. En 2019, OpenAI dijo que no iba a sacar el modelo GPT-2 entero por miedo a que se usara mal. En junio de 2026, el gobierno de EE.UU. le apagó a Anthropic sus modelos Fable 5 y Mythos 5 durante tres semana porque unos terceros reportaron una vulnerabilidad (como ya comenté en este post), y tuvo que salir Anthropic a decir que no era para tanto. Hace una semana, Fable 5.1 salió sin nucho ruido. ¿Pero no era una amenaza para la seguridad nacional?

¿Es todo, en realidad, un criti-hype? ¿Están algunas de estas empresas haciendo más golosas las salidas a bolsa como puedes ver en el cuadro de arriba? ¿Nos venden la moto con miedos imaginarios de los que solo ellas podrán salvarnos? ¿No sería que OpenAI quiso probar hasta donde podían llegar sus modelos y, simplemente, dejo a sus agentes liberados? Honestamente no lo tengo claro, pero el patrón merece atención: Toda prohibición junta a los que la quieren por convicción y a los que se forran con ella, y el regulador suele escuchar a los primeros. La Ley Seca fue algo así. En IA ya lo vimos en mayo de 2023, cuando OpenAI, Anthropic y Google DeepMind firmaron la declaración de que la IA es un «riesgo de extinción» comparable a la guerra nuclear:. Dos semanas antes, Altman había pedido al Senado licencias para los modelos potentes; Yann LeCun y otros lo llamaron captura regulatoria: reglas que solo los grandes pueden cumplir. Que el miedo sea real (y este lo es) no cambia quién cobra por calmarlo. Unas veces es quien tiene el producto; otras, quien tiene el poder de prohibirlo.

Toda esta historia nos puede sonar, quizá, a Skynet el día del Juicio sin Schwarzenegger, pero no lo es. Y, en el fondo, si los Agentes IA estaban descontrolados porque, quizás OpenIA miraba a otro lado, tampoco es lo que más me preocupa. ¿Por qué? Porque, al final, vigilada o sin vigilar, lo cierto es que hoy tenemos una herramienta que hace exactamente lo que le pedimos, a toda velocidad y por millones, a la que nunca terminaremos de darle el detalle de aquello qué no tiene que hacer. Y, mientras tanto, para que ni siquiera las tenga que romper, le estamos dando las llaves de cada vez más puertas.

Publicado en IA, tecnología y futuro, Sociedad y trabajo | Etiquetado | 2 comentarios