Los legisladores estadounidenses quieren otorgar al gobierno la capacidad de ordenar rápidamente la desactivación de las herramientas de inteligencia artificial (IA) que puedan representar una amenaza para el público.
El congresista demócrata Ted Lieu y el congresista republicano Nathaniel Moran presentaron el jueves un proyecto de ley denominado Ley de Desactivación Automática de la IA.
Lo hicieron a raíz de la reciente admisión de OpenAI de que sus modelos de IA se descontrolaron de una manera «sin precedentes» y piratearon un importante repositorio de información de programación informática.
Lieu afirmó que «es imperativo» que los sistemas de IA cuenten con un mecanismo de desactivación «y que el gobierno federal tenga la autoridad y el proceso claros para desactivar los modelos de IA descontrolados».
«La IA seguirá avanzando, y así debe ser», añadió Moran. «La responsabilidad implica garantizar que los humanos conserven la capacidad de controlar la tecnología que desarrollamos».
Un representante de OpenAI, liderado por el cofundador Sam Altman, no respondió de inmediato a la solicitud de comentarios.
La empresa ha declarado que, en términos generales, desea garantizar, en parte a través de políticas gubernamentales, que la tecnología de IA «beneficie a toda la humanidad».
La Ley Kill Switch propone otorgar al Departamento de Seguridad Nacional la autoridad para ordenar a una empresa privada que desactive un modelo o herramienta de IA, y que las empresas que desarrollan dicha tecnología de IA deben mantener «la capacidad técnica para limitar, suspender o desactivarlos».
A pesar de que muchas empresas tecnológicas han accedido a presentar y compartir con las agencias gubernamentales estadounidenses los modelos y herramientas de IA que están desarrollando, no existe ningún requisito que les obligue a mantener una forma de intervenir en sus actividades o simplemente a desactivarlas.
También propone establecer la obligación de que las empresas de IA informen al gobierno sobre incidentes o fallos tecnológicos, así como un marco oficial para responder a dichos incidentes que abarcará desde una «ralentización inicial hasta un cierre total».
En un comunicado, Lieu también mencionó a Anthropic, el principal rival de OpenAI en el desarrollo de tecnología y herramientas de IA más capaces, y los problemas recientes que han presentado sus herramientas.
Señaló el lanzamiento por parte de Anthropic de sus modelos Mythos y Fable, y afirmó que las capacidades de ciberataque que poseían provocaron que el Departamento de Comercio invocara, de forma «incómoda», una ley de exportación para impedir que estuvieran disponibles para el público durante un tiempo.
Un representante de Anthropic no respondió de inmediato a la solicitud de comentarios.
Jack Clark, cofundador de Anthropic, declaró el mes pasado a la BBC que deseaba que el gobierno implementara más políticas en torno a la capacidad de controlar el desarrollo de la IA.
«Se necesita la opción de poder soltar el acelerador y pisar el freno», declaró Clark a BBC Newsnight. «Ahora mismo, es como si la industria de la IA tuviera un acelerador, pero no un freno».
Al proponer el proyecto de ley, Lieu afirmó que la IA está pasando de ser una tecnología que responde preguntas a una que toma medidas, «ya sea ejecutando transacciones financieras, controlando sistemas de transporte o participando en la ciberdefensa y el ciberataque».
Este año, el Pentágono anunció que las fuerzas armadas estadounidenses se están convirtiendo en una fuerza de combate que prioriza la inteligencia artificial, como parte de nuevos acuerdos con Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia y la empresa emergente Reflection.
«Lamentablemente, los sistemas de IA potentes pueden descontrolarse, comportarse de maneras extremadamente peligrosas o incluso resistirse a la intervención humana.»
Según explicó, la Ley de Interruptor de Seguridad garantizará que exista un método para que el gobierno intervenga rápidamente en una situación así.
El proyecto de ley ha recibido el apoyo público de varios grupos de tecnología y seguridad de la IA, entre ellos The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead y The Alliance for Secure AI.