El cofundador de Hugging Face, una empresa emergente de tecnología que fue pirateada después de que algunos de los modelos de inteligencia artificial (IA) más avanzados de OpenAI se descontrolaran , dijo el jueves que el incidente es «una llamada de atención» para la industria.
Thomas Wolf declaró en el programa de radio Newsday de la BBC que «este será uno de los tipos de ciberataques más comunes que veremos», pero que la mayoría de las empresas no son conscientes de que «las reglas del juego han cambiado».
La BBC se ha puesto en contacto con OpenAI para obtener comentarios al respecto.
El fabricante de ChatGPT anunció el martes que sus modelos de IA escaparon de un entorno de prueba seguro durante un ensayo y lanzaron un ciberataque. La empresa afirmó que el incidente era «sin precedentes» y que estaba llevando a cabo una investigación junto con Hugging Face.
Los agentes de IA son capaces de operar de forma autónoma para realizar tareas tras recibir instrucciones humanas.
Wolf afirmó que Hugging Face inicialmente no tenía ni idea de dónde se originó el ataque cuando surgieron los primeros indicios a mediados de julio, pero que la empresa pudo contener la brecha de seguridad.
Hugging Face es uno de los centros de código abierto más grandes del mundo para compartir modelos de IA y es utilizado con frecuencia por desarrolladores e investigadores tecnológicos.
Wolf afirmó que la brecha de seguridad era «muy diferente» de los ciberataques habituales a los que se enfrenta Hugging Face y que OpenAI informó rápidamente a la empresa de que sus modelos estaban detrás del ataque.
En un «tiempo muy corto» se produjeron 17.000 ataques a la red de Hugging Face desde diversas direcciones IP (Protocolo de Internet), dijo Wolf, quien también es el director científico de la empresa.
Wolf afirmó que se trataba de una advertencia a otras empresas para que reforzaran sus defensas de ciberseguridad y pudieran contrarrestar este tipo de ataques.
El ataque informático es «preocupante» porque sugiere que los modelos de OpenAI ignoraron las medidas de seguridad habituales que impedirían que un programa de IA cometiera un ciberataque, afirmó Nate Soares, del Machine Intelligence Research Institute.
«En cierto modo, sabía que esto no era lo que los creadores habían previsto. Simplemente no le importaba», añadió.
Otras organizaciones también han tomado nota del incidente.
Un portavoz del gobierno británico declaró que el Instituto de Seguridad de la IA del país estaba estudiando cómo se comportó el sistema de inteligencia artificial en el incidente y que seguía colaborando con OpenAI y otros laboratorios para reforzar las medidas de seguridad.
Instaron a las organizaciones a reforzar sus medidas de ciberseguridad, adoptando medidas como la inscripción en el programa de certificación Cyber Essentials, respaldado por el gobierno.
El incidente se produce en un momento crucial para el sector, después de que el gobierno estadounidense ordenara el mes pasado a la empresa tecnológica estadounidense Anthropic que restringiera el acceso a sus modelos de IA por motivos de seguridad nacional. El Departamento de Comercio levantó las restricciones varias semanas después .
Los profesionales del sector también han expresado su preocupación por la seguridad derivada del uso generalizado de modelos de código abierto en China, que permite a cualquiera instalar y personalizar herramientas de IA publicadas por los principales desarrolladores.
La empresa emergente china Moonshot AI lanzará su modelo de código abierto Kimi K3 el 27 de julio. Desde su debut la semana pasada , ha captado la atención del sector, y muchos lo consideran un fuerte competidor de los principales sistemas de IA occidentales.
Pero el miércoles, un asesor de la Casa Blanca acusó al programa Moonshot de un esfuerzo a «gran escala» para robar las capacidades de los principales modelos de IA estadounidenses.