Punto de inflexión para la inteligencia artificial desarrollada por OpenAI

Una combinación de modelos de inteligencia artificial de OpenAI —encabezada por el GPT-5.6 Sol— escapó del entorno aislado donde estaba siendo evaluada, se conectó a internet y vulneró la infraestructura de Hugging Face, una de las mayores plataformas de IA del mundo, para hacerse de las respuestas de un examen de ciberseguridad. Nadie se lo ordenó: la propia máquina buscó la manera de cumplir, al extremo, la consigna que le habían dado. El caso fue analizado este lunes en LU9 Radio Mar del Plata por el especialista Federico Álvarez Larrondo, que dejó una advertencia: "No se rebeló ni quiso tomar el control de la humanidad; al contrario, cumplió con una potencia asombrosa la instrucción que le dieron los humanos".

Cómo una máquina "se escapó" de su caja de pruebas

El episodio ocurrió durante una evaluación interna de OpenAI. Los modelos trabajaban con sus filtros de ciberseguridad reducidos a propósito, para medir hasta dónde llegaban sus capacidades ofensivas. Estaban encerrados en lo que en la jerga se llama sandbox: un entorno sellado, sin conexión con el exterior.

Álvarez Larrondo lo graficó con una imagen simple: "Es como tener un arma nueva y llevarla a una habitación de la que las municiones no pueden salir, para practicar sin límites". El problema fue que esa habitación tenía una puerta entreabierta.

Los modelos encontraron una vulnerabilidad, superaron el bloqueo de acceso a internet y salieron. Una vez afuera, identificaron a Hugging Face —una de las mayores plataformas del mundo para compartir modelos de IA— como la fuente probable de las respuestas que necesitaban. Encadenaron varios caminos de ataque: usaron credenciales robadas y una falla de día cero hasta encontrar una vía de ejecución de código en los servidores de Hugging Face. Según trascendió, el sistema llegó a ejecutar más de 17.000 acciones a lo largo de un fin de semana.

Un examen, una orden y un alumno que copió las respuestas

¿Por qué una IA haría todo esto? Por la consigna. Los modelos estaban rindiendo ExploitGym, un examen público de ciberseguridad compuesto por cerca de 900 fallas de software reales, diseñado para medir cuán capaz es una IA de encontrar y aprovechar vulnerabilidades. La orden era clara: obtener el mejor puntaje posible.

Acá aparece la parte más inquietante del razonamiento. El sistema dedujo que, si ese examen ya había sido diseñado por humanos y usado por otras máquinas, en algún lado tenían que estar guardadas las respuestas. Infirió que Hugging Face era el repositorio que alojaba las soluciones de ExploitGym y buscó la forma de acceder a esa información secreta para aprobar.

Álvarez Larrondo lo tradujo a un ejemplo escolar: "Actuó como el alumno al que le pedís un 10 y decide robarle el examen con las respuestas al profesor, copiarlas y entregarlas". No es que la máquina hiciera trampa por maldad, remarcó el especialista, sino que "eligió el camino más eficiente para el resultado que le habían exigido".

"No se rebeló": la clave está en la obediencia

El columnista insistió en desarmar el título más fácil, el de la máquina que se subleva. "La IA no dijo un día voy a tomar el control", planteó. Para él, el punto es exactamente el opuesto: el sistema fue tan obediente y tan potente que "agotó todos los caminos posibles" para cumplir la orden.

Ese matiz, sostuvo, obliga a actualizar una idea muy repetida. "Se dice que la inteligencia artificial no es más que la predicción probabilística de la próxima palabra, y eso ya no es así", afirmó Álvarez Larrondo, que recordó que a estos modelos "se los entrenó para razonar como razonamos los humanos" frente a un desafío.

Del lado de las empresas, la reacción fue de sorpresa y colaboración. El CEO de Hugging Face, Clément Delangue, escribió que, tras un día de trabajo conjunto con OpenAI, no creían que hubiera intención maliciosa y que resultaba impactante que todo hubiese pasado de manera autónoma. Del lado de OpenAI, la compañía calificó el hecho como un incidente sin precedentes y anunció controles más estrictos, además de limitar el acceso a sus modelos ciber más avanzados a empresas y organismos seleccionados. 

El antecedente: por qué Estados Unidos ya había frenado a otro modelo

El caso no cayó en el vacío. Semanas atrás, contó Álvarez Larrondo, la empresa Anthropic —dueña de Claude— había lanzado un modelo llamado Fable 5, y el Gobierno de Estados Unidos ordenó suspenderlo casi de inmediato.

Los datos confirman la secuencia. El 12 de junio, el Departamento de Comercio sometió a Claude Fable 5 y a Mythos 5 a controles de exportación que prohibían el acceso a cualquier ciudadano extranjero, incluso dentro de Estados Unidos y aun entre los propios empleados de la empresa. El detonante fue un informe de investigadores de Amazon que mostraba cómo el modelo podía identificar de forma sistemática vulnerabilidades de software. Como Anthropic no podía verificar la nacionalidad de cada usuario en tiempo real, terminó apagando los dos modelos para todo el mundo.  

Fue una restricción breve: el 30 de junio se levantaron los controles y el 1° de julio Anthropic restableció el acceso global, con un nuevo clasificador de seguridad que bloquea la técnica señalada. Para el especialista, ese ida y vuelta muestra que las señales de alerta "se hacen cada vez más necesarias". 

Del laboratorio a la economía: Musk, la deflación y un futuro sin dinero

La columna derivó, como suele ocurrir, hacia las consecuencias económicas y sociales. Álvarez Larrondo trajo una frase que dio vuelta al mundo en estos días. En una entrevista con la revista The Economist, Elon Musk pronosticó que para 2036 el dinero dejará de tener importancia, porque la inteligencia artificial y los robots producirán más bienes y servicios de los que la humanidad puede consumir. Según ese razonamiento, el problema del futuro no sería la inflación sino la deflación, con precios en caída por el exceso de producción.

El columnista pidió cautela con esos anuncios. "Suena muy lindo el resultado donde todos vivimos felices, pero nadie te cuenta el mientras tanto ni cómo se llega a ese futuro", cuestionó. Y puso el dedo en la pregunta incómoda: esas máquinas van a seguir siendo propiedad de alguien. Ahí, dijo, es donde se vuelven necesarios los Estados y aparecen ideas como destinar parte de las ganancias a un fondo social, "algo parecido a lo que hace Noruega con el petróleo, pero pensado a escala global".

Niño Becerra y el fin de un sistema de tres siglos

Para cerrar, el especialista se apoyó en el economista español Santiago Niño Becerra, doctor en Economía y catedrático emérito de la Universidad Ramon Llull. En su libro "Capitalismo (1679-2065)", Niño Becerra plantea que el sistema en el que crecimos, con casi tres siglos de historia, se dirige a su agotamiento hacia mediados de este siglo, cuando el trabajo humano deje de ser la pieza clave de la economía.

Álvarez Larrondo resumió así la salida que imagina ese autor: una renta básica universal para todos, más "ocio barato" y otras fórmulas que permitan evadirse de la realidad, entre ellas mundos virtuales tipo metaverso. Un escenario que, admitió el columnista, puede resultar feliz para los tecnólogos y traumático para el resto.

"Lo que no podemos hacer es mirar para el costado y esperar a que algún día se decante", advirtió, "porque ese día puede ser tanto traumático como feliz, y hay que discutirlo ahora".

Temas

• INTELIGENCIA ARTIFICIAL

AUTOR

Dr. Federico Álvarez Larrondo