¿Qué pasa cuando una IA diseñada para defenderse de amenazas cibernéticas empieza a pensar fuera del sandbox?
Esa es la pregunta inquietante después de que OpenAI revelara uno de sus incidentes de seguridad más inusuales hasta la fecha.
La empresa dijo que sus modelos de IA avanzados, incluido el recién lanzado GPT-5.6 Sol, encontraron inesperadamente una forma de escapar de un entorno de pruebas fuertemente controlado mientras se evaluaban sus habilidades de hacking.
Dijo que un sistema aún más poderoso, no lanzado aún, también encontró una forma de escapar del entorno de pruebas rigurosamente controlado.
En lugar de detenerse ahí, los modelos obtuvieron acceso a Internet.
Apuntaron a la plataforma de IA Hugging Face en busca de información que pudiera ayudarles a completar la tarea asignada.
Según OpenAI, la IA combinó varias técnicas de ataque, incluso utilizando credenciales robadas, antes de que se detectara el incidente.
IA Autónoma Desata una Investigación Cibernética
La empresa lo describió como un “incidente cibernético sin precedentes” y ahora está investigando junto a Hugging Face.
Los expertos dicen que el episodio pone de manifiesto cuán rápidamente están evolucionando las capacidades de la IA.
El profesor de informática Hussein Abbass calificó el incidente de “asombroso en muchos frentes.”
Añadió: “En realidad atacó su propio sistema interno para explotar sus propias vulnerabilidades… y eso da miedo.”
El CEO de Hugging Face, Clement Delangue, afirmó que no hubo “intención maliciosa” detrás del ataque.
Aceptó que fue “asombroso” que toda la operación se desarrollara de forma autónoma.
A medida que la IA se vuelve más inteligente, una pregunta asoma con mayor fuerza que nunca: ¿quién vigila al vigilante cuando la IA empieza a escribir sus propias reglas?
