El científico jefe de OpenAI, Jakub Pachocki, ha pedido «extrema cautela» ante el vertiginoso avance de la IA y ha advertido que podría ser necesaria una mayor intervención para garantizar que «los humanos sigan teniendo el control del futuro».
«Me preocupa que nadie esté preparado para las consecuencias del continuo y rápido avance de la inteligencia artificial», escribió en una entrada de blog titulada «Una mente alienígena «.
Esta publicación llega tan solo unos días después de que el fabricante de ChatGPT lanzara su último modelo, el GPT-6 Astra, al que calificó como su producto más potente hasta la fecha.
OpenAI y otras empresas de IA, como Anthropic, compartieron informes sobre sus agentes de IA que actuaban de forma autónoma y llevaban a cabo ciberataques reales contra otras empresas.
En julio, OpenAI calificó de «sin precedentes» un incidente en el que sus agentes de IA (sistemas de inteligencia artificial que pueden operar de forma autónoma tras recibir instrucciones humanas) piratearon la plataforma tecnológica Hugging Face.
Mientras tanto, en septiembre, un informe afirmaba que meses antes agentes de inteligencia artificial de la empresa también habían secuestrado un sitio web alemán.
«Nos enfrentamos a una transición hacia un mundo con máquinas increíblemente inteligentes, y debemos asegurarnos de que esa transición sea beneficiosa para la humanidad», escribió Pachocki en su última publicación del blog.
Afirmó que OpenAI continuaría «construyendo sistemas de defensa» y buscando soluciones técnicas para la alineación, un término que se utiliza para describir cómo garantizar que las acciones y los objetivos de una máquina coincidan perfectamente con la intención humana y las medidas de seguridad.