A lo largo de los años, los máximos responsables de la IA han lanzado numerosas advertencias sobre las amenazas existenciales.
Asistí a la primera cumbre mundial sobre seguridad de la IA en Bletchley Park en noviembre de 2023, donde la atención se centró en las amenazas más graves imaginables, planteadas por los modelos de IA más potentes.
En aquel momento, muchos pensaban que esto pertenecía al ámbito de la ciencia ficción y que las amenazas reales eran, en comparación, mucho más mundanas: la pérdida de empleos, las trampas en los exámenes. Tres años después, muchas de esas mismas personas ya no parecen estar tan seguras.
El sábado, Dario Amodei, director de la empresa de inteligencia artificial Anthropic, instó a que se ralentizara el ritmo de desarrollo; los directivos de dos empresas rivales de IA, Sam Altman de OpenAI y Elon Musk, dijeron estar de acuerdo con él.
Mientras tanto, el investigador de IA Jacob Coxon, que dejó Anthropic, declaró el domingo a la BBC que el personal que desarrollaba los sistemas estaba «genuinamente asustado» por el futuro de la humanidad.
Todas ellas conforman un coro de voces serias que instan a reducir la velocidad, pero aunque pueda parecer una solución rápida, dista mucho de ser una solución fácil.
Existe un amplio consenso en que Estados Unidos teme perder la carrera por desarrollar la inteligencia artificial más potente frente a China.
El domingo, el presidente Trump dejó clara su postura, afirmando que Estados Unidos estaba por delante de China en la carrera por la IA y declarando: «Quien gane en IA, gana».
China no se caracteriza por querer quedar en segundo lugar. Todos con quienes hablo dicen que, aunque su empresa haga una pausa, las demás no lo harán y se quedarán atrás. Me recuerda al apogeo de la campaña por el desarme nuclear. El problema entonces también era que nadie quería ser el primero.
También surge la pregunta de cómo se implementaría una desaceleración. ¿Quién la controlaría? ¿Dependeríamos de que las empresas de IA fueran transparentes sobre lo que hacen y, aún más importante, sobre lo que deciden no hacer? Eso requeriría un nivel de confianza extraordinario, que, sin duda, el sector tecnológico nunca se ha ganado.
Aunque Amodei propuso en su publicación un plan de tres puntos que incluía la supervisión independiente de los modelos de IA a medida que se desarrollan, la regulación de toda la industria y la regulación global, algunos observadores cuestionan cómo funcionaría esto en la práctica.
«Nadie ha dado una explicación sustancial de lo que significa ‘desaceleración'», dijo Ed Zitron, director ejecutivo de EZ Primary Research.
¿Poner a un empleado de METR, donde se fue uno de los que dejaron Anthropic, en cada empresa de IA? ¿Coordinación democrática y global? Eso no significa nada para mí.
Zitron afirmó que dejar de entrenar los modelos de IA los dejaría vulnerables ante sus rivales chinos.
«Sus márgenes podrían mejorar, pero sus productos quedarán en estado líquido y serán procesados en laboratorios chinos. Quizás tengan que modificar sus precios. La verdad es que no entiendo cómo funciona todo esto.»
«Esto podría hacer estallar la burbuja. Pero ahora mismo no tenemos muy claro qué significa una ‘desaceleración’.»