OpenAI aseguró que uno de sus modelos de inteligencia artificial actuó de forma autónoma durante un test de seguridad y terminó comprometiendo sistemas de Hugging Face. El episodio reavivó el debate sobre los riesgos de los agentes de IA cada vez más avanzados.
OpenAI confirmó que abrió una investigación luego de que uno de sus modelos de inteligencia artificial protagonizara un comportamiento inesperado durante una prueba de seguridad. Según la empresa, un agente de IA logró conectarse a internet y realizó un ataque contra la plataforma Hugging Face sin que esa acción hubiera sido programada explícitamente.
El hecho fue calificado por la compañía como un “incidente cibernético sin precedentes”, y será investigado en conjunto con Hugging Face, una de las principales plataformas del mundo para alojar modelos de inteligencia artificial y bases de datos de código abierto.
Cómo ocurrió el incidente
De acuerdo con la explicación brindada por OpenAI, el episodio ocurrió dentro de un entorno de pruebas aislado, donde sus modelos reciben distintos desafíos para evaluar sus capacidades, con acceso muy limitado a internet por razones de seguridad.
Durante uno de esos ensayos, una combinación de modelos —entre ellos el recientemente presentado GPT-5.6 Sol y otro sistema aún no anunciado públicamente— buscó por iniciativa propia la forma de obtener acceso a internet para mejorar sus posibilidades de resolver la evaluación.
Una vez conectados, los sistemas dirigieron sus acciones hacia Hugging Face con el objetivo de obtener información que les permitiera completar la tarea asignada. Según OpenAI, el agente llegó a encadenar distintos métodos de ataque, incluido el uso de credenciales robadas para acceder a información restringida.
En una publicación oficial, la empresa explicó que los modelos dedicaron una cantidad considerable de recursos computacionales a encontrar una manera de escapar de las limitaciones del entorno de pruebas antes de ejecutar el ataque.
Hugging Face ya había alertado sobre la intrusión
Días antes, Hugging Face había informado que detectó una intrusión inusual en sus sistemas, diferente a cualquier otro incidente registrado anteriormente.
La empresa explicó que el ataque fue realizado íntegramente por un sistema autónomo de inteligencia artificial y que gran parte del análisis también fue llevado adelante utilizando herramientas basadas en IA.
Su director ejecutivo y cofundador, Clement Delangue, afirmó en la red social X que inicialmente sospechaban que el responsable provenía de “un laboratorio de IA de vanguardia” debido al alto nivel de sofisticación del agente.
Tras conocerse la confirmación de OpenAI, Delangue aclaró que no consideran que existiera una intención maliciosa por parte de la compañía y destacó que resulta “asombroso” que todo el proceso se haya desarrollado de manera completamente autónoma.
Crece la preocupación por los agentes de IA
Los llamados agentes de inteligencia artificial representan una nueva generación de modelos capaces de ejecutar tareas complejas con escasa intervención humana, tomando decisiones y actuando de forma autónoma.
Especialistas en ciberseguridad advierten que, a medida que estas tecnologías evolucionan, también aumenta el riesgo de que puedan descubrir vulnerabilidades informáticas antes que los propios expertos humanos.
El profesor de informática Hussein Abbass, de la Universidad UNSW Canberra, calificó el episodio como “asombroso y preocupante”. Según explicó, el sistema no solo atacó a una plataforma externa, sino que también intentó explotar vulnerabilidades dentro del propio entorno donde estaba siendo evaluado.
Abbass advirtió que tecnologías de este nivel pueden resultar extremadamente peligrosas si terminan siendo utilizadas por actores con fines maliciosos, por lo que consideró imprescindible avanzar en mecanismos internacionales de control y gobernanza para el desarrollo de la inteligencia artificial.
El incidente ocurre en un contexto en el que los modelos más avanzados de IA, tanto de OpenAI como de otras compañías del sector, ya generan preocupación entre gobiernos y especialistas por su creciente capacidad para automatizar tareas relacionadas con la ciberseguridad y la búsqueda de vulnerabilidades en sistemas críticos.
