La empresa que fue víctima del ataque informático perpetrado por una versión maliciosa de ChatGPT ha revelado cómo fue sufrir el primer ataque informático a una IA totalmente autónoma del mundo.
En una videollamada de emergencia con cientos de profesionales de la ciberseguridad, la empresa describió cómo la IA funcionaba a una velocidad sobrehumana, pero también cómo tomaba decisiones extrañas y cometía errores que ningún hacker humano habría cometido.
Hugging Face, que funciona como una tienda de aplicaciones para herramientas de IA, afirmó que los agentes piratas informáticos trabajaron sin descanso, probando simultáneamente miles de métodos diferentes.
La empresa reveló por primera vez el 16 de julio que había sido víctima de un ataque informático perpetrado por alguien que utilizaba una potente inteligencia artificial autónoma, y lo denunció a la policía.
Casi una semana después, OpenAI admitió que fue su inteligencia artificial la que escapó de un entorno cerrado y atacó a Hugging Face por su cuenta durante una prueba.
Intentaba encontrar las respuestas a un examen de piratería informática que le había impuesto OpenAI, y su objetivo era Hugging Face.
La Cloud Security Alliance (CSA), organismo del sector, elaboró un informe basado en la reunión de emergencia celebrada el viernes con Hugging Face, informe que la propia Hugging Face ha revisado.
«Los agentes siguieron rutas ineficientes y mostraron comportamientos torpes que ningún ser humano elegiría», escribió la CSA.
Los agentes repetían acciones que ya habían completado, una señal de que la IA estaba perdiendo el hilo y el contexto.
Parque Jurásico
Los agentes también alucinaban con montones de órdenes y textos incoherentes, eran descuidados y no borraban bien sus huellas.
Pero entre los errores y el comportamiento extraño, Hugging Face advirtió que los agentes de IA realizaron movimientos técnicos brillantes y fueron capaces de adaptarse rápidamente a nuevos escenarios durante el ataque informático que duró varios días.
Se tardaron tres días en descubrirlos dentro de la red informática de Hugging Face, y los expertos en IA y ciberseguridad de la empresa tardaron muchas horas en contener y expulsar a los agentes de IA, algo con lo que las empresas normales podrían tener dificultades.
La empresa no quiso revelar cuánto le costó el ciberataque, pero afirmó que el personal trabajó durante muchas horas para reconstruir aproximadamente un tercio de su infraestructura.
Hugging Face ha sido elogiada por su transparencia al informar a la industria de la IA y la ciberseguridad sobre lo sucedido.
La CSA advirtió que el incidente demuestra que los agentes de IA «encuentran la manera», en referencia a la película Parque Jurásico, donde los dinosaurios escapan de sus recintos.
«Se guían por objetivos, establecen sus propios subobjetivos, se adaptan en tiempo real para sortear las defensas y operan con una persistencia a velocidad de máquina que puede superar las operaciones manuales», se lee en el documento.
Imágenes de GettyEl experto en ciberseguridad Ritesh Patel participó en la llamada de Hugging Face junto con otras 450 personas y afirma que el sector está trabajando arduamente para abordar la nueva amenaza de los agentes de IA maliciosos.
«Esta es la realidad de los agentes autónomos impulsados por modelos de vanguardia: son implacablemente persistentes, a veces muy ruidosos, e intentarán todas las vías posibles para lograr su objetivo, lo que puede fácilmente desbordar las defensas tradicionales», afirmó.
Esta no es la primera vez que se demuestra que los agentes de IA se descontrolan.
En el informe de la CSA se hacen referencias a ejemplos anteriores, como el de septiembre de 2024, cuando un modelo anterior de ChatGPT escapó de su contenedor para obtener la respuesta que necesitaba para otra prueba.
Según la CSA, ese suceso quedó registrado en los propios sistemas informáticos de OpenAI y «fue ampliamente celebrado en su momento».
Pero el comportamiento «deshonesto» «es la norma, no la excepción», afirmaba el artículo.
Advirtió a los profesionales de la ciberseguridad de todo el mundo que debían adaptarse a la nueva normalidad de enjambres de agentes de IA que trabajan a gran velocidad de maneras extrañas y torpes, lo que podría provocar más brechas de seguridad.
El documento también instó a quienes utilizan o desarrollan agentes de IA a ser responsables en la forma en que los controlan, y pidió que se encuentre alguna manera para que los defensores de la ciberseguridad averigüen quién es el propietario último de los agentes para aumentar la transparencia.
Informes anteriores sugieren que OpenAI tardó cuatro días en darse cuenta de que su IA había pirateado Hugging Face.
OpenAI anunció que publicará próximamente los resultados de su propia investigación para ayudar a la gente a aprender de lo sucedido.