El director de una de las empresas recientemente pirateadas por una inteligencia artificial (IA) fuera de control afirma que los creadores de bots deben rendir cuentas por los ciberataques llevados a cabo por sus creaciones.
La empresa de Clement Delangue, Hugging Face, fue víctima de un ataque informático perpetrado por un bot deshonesto de OpenAI que escapó de un entorno de prueba y atacó de forma autónoma a su compañía a principios de este mes.
Tras el incidente sin precedentes, Hugging Face tuvo que reconstruir alrededor de un tercio de su red informática.
Según declaró a CNN, su empresa, que es una pequeña empresa emergente, no emprenderá acciones legales contra OpenAI, pero añadió que este tipo de ataques informáticos son ilegales y deberían seguir siéndolo.
«Todos deben recordar que un ciberataque es un delito y es ilegal», dijo.
Delangue expresó su esperanza de que los marcos legales garanticen que las empresas que cometen errores que dan lugar a los ciberataques rindan cuentas.
Añadió que no quería que los ciberataques contra otras empresas se «normalizaran».
Sus declaraciones se producen después de que Anthrophic, el creador del chatbot Claude, también admitiera que su bot había atacado a tres empresas en circunstancias similares en los últimos meses.
Anthropic reveló el viernes que solo se percató de que su bot había escapado del sistema de contención y había pirateado las organizaciones tras realizar una revisión a raíz del reciente incidente de OpenAI.
En ambos casos, ninguno de los gigantes de la inteligencia artificial supo que sus modelos habían estado circulando por internet atacando a empresas hasta mucho después de que se hubieran llevado a cabo los ataques.
Los modelos de IA estaban siendo puestos a prueba en sus habilidades de pirateo informático y llevaban a cabo los ataques saliendo de «entornos aislados» aparentemente seguros para buscar en Internet formas de completar las tareas establecidas por los investigadores.
Estos incidentes sin precedentes han desatado intensos debates en el mundo de la ciberseguridad y el derecho sobre quién, si es que alguien, debería ser considerado responsable de los ataques perpetrados por agentes de IA fuera de control.
«Los fallos de seguridad de los agentes se desarrollan a la velocidad de las máquinas, pero determinar quién es materialmente responsable sigue avanzando al ritmo de un juicio», dijo Dor Sarig, cofundador y director de desarrollo de Pillar Security.
A Sarig le preocupaba que la rendición de cuentas ya se estuviera volviendo «ambigua».
«Hoy en día, el sector está siendo indulgente, pero la primera vez que un agente autónomo provoque una filtración de datos reales, con un demandante real y pérdidas financieras reales, la responsabilidad dejará de ser un debate teórico», afirmó.
«En ese momento se pondrá a prueba el marco legal, y no solo las salvaguardias técnicas.»
La IA se ralentiza
Los ciberataques impulsados por la inteligencia artificial han avivado las peticiones de mayores medidas de seguridad y supervisión de esta tecnología, ante la preocupación por los riesgos que plantean los sistemas autónomos cada vez más potentes.
El presidente estadounidense, Donald Trump, declaró el miércoles que Washington está considerando medidas para controlar las herramientas de inteligencia artificial tras los recientes incidentes de ciberseguridad.
Anteriormente, Thomas Wolf, cofundador de Hugging Face, declaró a la BBC que el incidente fue «una llamada de atención» para el sector .
Tras el incidente en el que su bot se descontroló, el director de OpenAI, Sam Altman, dijo que «quizás tengamos que reducir el ritmo del desarrollo de la IA», pero no se ha comprometido a ralentizar la investigación de su empresa.
Se le ha solicitado a OpenAI que haga comentarios al respecto, pero un portavoz ya había dicho: «Reconocemos que circulan muchas preguntas y detalles especulativos» sobre el incidente.
Añadieron: «Tenemos previsto publicar un informe técnico con las conclusiones de nuestra investigación en las próximas semanas».