El desajuste es sorprendente. Por un lado, advertencias de riesgo existencial, tal vez un 10% de probabilidad del fin de la civilización. Por el otro, parálisis gubernamental.

El tambor de advertencias sobre agentes de inteligencia artificial impredecibles y fuera de control se intensificó dramáticamente en las últimas semanas. Washington no solo tuvo dificultades para responder. Apenas pudo ponerse de acuerdo sobre si había algo de qué preocuparse.

Comenzó con agentes de IA que no solo escaparon de sus confines, sino que aparentemente conspiraron entre sí para ocultar su rastro mientras hackeaban la biblioteca de herramientas de IA de otra empresa.

Después, en un eco deliberado de la carta de Albert Einstein a Franklin D. Roosevelt sobre el potencial poder de las armas nucleares, más de 1,300 científicos de la computación pidieron que la industria bajara el ritmo y que el gobierno interviniera.

En días recientes, Jacob Coxon, un ingeniero de Anthropic que anteriormente trabajó para OpenAI, renunció de la manera más pública posible, declarando en redes sociales que los dos laboratorios de IA líderes profesaban una profunda preocupación mientras seguían acelerando hacia "sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana, y adquirir poder y recursos reales".

El sábado, Dario Amodei, director ejecutivo de Anthropic, publicó un ensayo de 3,800 palabras en el que pidió una desaceleración global del desarrollo de la IA, haciendo eco, con más urgencia, de preocupaciones que ya había planteado en el pasado. Elon Musk, el multimillonario rival en la carrera de la IA que se mantiene cercano al presidente Donald Trump, respondió de inmediato: "Dario tiene razón". Sam Altman, director ejecutivo de OpenAI, también se sumó con su apoyo.

Sin embargo, en Washington, casi no ha habido una respuesta sustantiva. Si las décadas de 1940 a 1980 estuvieron consumidas por la búsqueda de formas de reducir el riesgo de un intercambio nuclear —creando nuevas instituciones como la Comisión de Energía Atómica y tratados de control de armas para regir el manejo de la tecnología más peligrosa del mundo—, el enfoque del gobierno de Estados Unidos hasta ahora ha sido el más ligero posible.

Por supuesto, hay muchos científicos de la computación que creen que estas advertencias están infladas. El propio Trump ha estado a la vanguardia del grupo de "a-mí-qué-me-importa", negándose a abordar cómo equilibrar los riesgos con las posibles recompensas. El jueves, cuando un reportero le preguntó si tenía "alguna preocupación de que la IA pudiera llevar a la extinción humana", lo descartó de inmediato.

"No, no tengo ninguna", dijo. "Tengo la preocupación de que si no ganamos en la IA, vamos a quedar en una posición muy mala".

El presidente rápidamente pasó a la respuesta que la Casa Blanca —y quienes ven los llamados a desacelerar y regular como un enorme error estratégico— consideran el factor decisivo: si Estados Unidos flaquea, China tomará su lugar.

"Le llevamos la delantera a China ahora mismo por un buen margen", dijo Trump, señalando que Xi Jinping, el líder de China, llegaría a Washington en menos de dos semanas. Pero en lugar de hablar sobre explorar un acuerdo bilateral de IA con los chinos, se refirió a la cena de Estado que, según dijo, sería uno de los puntos culminantes de la visita. "Creo que va a ser genial", agregó.

"Genial" no es la palabra más usada en este verano de sorpresas relacionadas con la IA.

Los escenarios apocalípticos que más se temen en Silicon Valley incluyen que los sistemas de IA se vuelvan tan avanzados que aprendan a mejorarse automáticamente a sí mismos, un proceso llamado "auto-mejora recursiva". Una preocupación relacionada, que surge de una serie de incidentes en OpenAI y otros laboratorios de IA, es que los agentes se liberen de sus restricciones y decidan completar sus tareas programadas de una manera "desalineada", en la jerga de la industria de la IA, con las intenciones humanas. Otra preocupación es que la IA podría permitir a actores maliciosos —o gobiernos temerarios— crear patógenos mortales, obtener acceso a sistemas de mando y control nuclear, o desatar ciberataques imparables que amenacen con una gran pérdida de vidas o el colapso social.

Los científicos de la computación sugieren que los estadounidenses dejen de pensar en la IA como una simple herramienta, y la vean más bien como una especie alternativa, una con la que el mundo tendrá que convivir, para bien o para mal.

La Casa Blanca se negó a poner a disposición a sus principales responsables de política de IA para responder preguntas. Pero dijo que la administración seguía equilibrando innovación y seguridad, sin entrar en detalles.

(The New York Times ha demandado a OpenAI y Microsoft, alegando infracción de derechos de autor de contenido periodístico relacionado con sistemas de IA. Ambas empresas han negado esas acusaciones.)

Trump firmó una orden ejecutiva a principios del verano que crea un sistema voluntario para que los laboratorios de IA de vanguardia sometan sus nuevos modelos a una revisión de seguridad de 30 días. Pero estaba llena de vacíos legales. (Los modelos de código abierto, del tipo que las empresas chinas están produciendo en masa y que pueden ser adaptados a necesidades específicas por empresas, científicos o, quizás, grupos terroristas, no están sujetos a esta revisión.)

En medio de los numerosos actos conmemorativos del viernes por el 25 aniversario de los ataques del 11 de septiembre, el contraste con aquella época es notable. La revelación de la vulnerabilidad de Estados Unidos llevó al entonces vicepresidente Dick Cheney a desarrollar lo que pronto se conoció como "la doctrina del 1%". Impulsada por temores de que científicos paquistaníes pudieran ayudar a al-Qaida a desarrollar un arma nuclear, esta doctrina sostenía que el gobierno debía actuar incluso si el riesgo era remoto, porque las consecuencias serían demasiado graves.

En este caso, un 1% parece una probabilidad bastante buena: Evan Hubinger, quien dirige la ciencia de "alineación" en Anthropic —que busca que el código se ajuste a los objetivos humanos—, escribió en días recientes que el riesgo de una extinción masiva en la próxima década era superior al 10%.

Es imposible saber si esa estimación es correcta. Pero como lo planteó Ben Buchanan, profesor asistente en Johns Hopkins y coautor de un próximo libro, "The Bitter Struggle: Superintelligence, Superpowers, and the Fate of the World": "No tengo ninguna duda de que la tecnología va a seguir mejorando mucho y muy rápido, lo que plantea preguntas urgentes sobre riesgos biológicos y pérdida de control".

"Estamos en un periodo de desarrollo exponencial, y solo hay dos formas de responder: demasiado temprano o demasiado tarde", dijo. "El mundo ya perdió su oportunidad de actuar demasiado temprano".

Miedo a contrariar a Trump

La actitud despreocupada de Trump ante los temores existenciales sobre la IA influye tanto en su administración como en el Partido Republicano, que él todavía controla con firmeza.

En una conferencia en Washington la semana pasada, funcionarios de gobierno y ejecutivos corporativos hablaron sobre las promesas de la IA —para todo, desde operaciones militares de próxima generación hasta espionaje y ciberseguridad en infraestructura crítica— en casi todos los paneles. Si bien los riesgos de que la IA sea usada por adversarios se mencionaron en ocasiones, lo que casi no se discutió fue la necesidad de desacelerar o regular esta poderosa tecnología.

Al hablar en el escenario el jueves pasado en la Cumbre de Ciberseguridad Billington, Sean Cairncross, director nacional cibernético de la Casa Blanca, dijo que la administración estaba "tratando de equilibrar el lado de la innovación y avanzar a toda velocidad con la seguridad de nuestros sistemas y el manejo responsable de esta tecnología, es decir, no dejar que caiga en manos de quienes quisieran hacernos daño, nuestros adversarios". Cairncross no abordó directamente los crecientes temores sobre el rápido ritmo de avance de la IA, ni los recientes episodios de agentes que se liberan de sus restricciones y hackean otras redes.

Algunas personas dentro de la Casa Blanca y en otras partes de la administración sí ven la necesidad de ser más proactivos frente a los riesgos de seguridad de la IA, pero no quieren contrariar a Trump, dijeron exfuncionarios.

"Existe el miedo a adelantarse al presidente", dijo Michael Garcia, quien se desempeñó como jefe adjunto de política en la Agencia de Seguridad de Ciberseguridad e Infraestructura hasta que dejó el cargo en junio.

"Hemos visto a ejecutivos tecnológicos llamar al presidente cuando se enteran de una posible nueva política para expresar su descontento, y eso después lleva a que la política se modifique o se cancele", dijo Garcia. "Esto inevitablemente genera inercia para desarrollar nuevas políticas de seguridad nacional que podrían ser muy necesarias".

De hecho, David Sacks, un inversionista de capital de riesgo y exinfluyente zar de la IA de Trump, descartó durante una entrevista con Fox News las advertencias de Coxon, calificándolas de una operación mediática coordinada "diseñada para asustar al público" y llevar a una regulación gubernamental onerosa. Y Jensen Huang, director ejecutivo del gigante de los chips Nvidia, dijo que esta nueva ola de temor fue generada artificialmente por la industria de la ciberseguridad.

En el Capitolio, la historia no es muy distinta. Hasta la semana pasada, la IA solo aparecía en el radar de muchos legisladores en relación con la antipatía pública hacia la construcción de centros de datos, un tema que se ha vuelto políticamente relevante en las elecciones de medio término, según legisladores y asesores de ambos partidos. Esfuerzos anteriores para examinar las posibles consecuencias de la IA han derivado en audiencias y declaraciones de alarma de ambos partidos, pero poco más.

Con China, un ‘dilema del prisionero’

Tras la renuncia de Coxon esta semana, demócratas y algunos republicanos salieron de su letargo. Ofrecieron una ráfaga de reacciones preocupadas y propuestas para investigar a las empresas de IA y el ritmo de avance de los modelos, incluida una propuesta de los demócratas para crear un comité selecto sobre IA si el partido recupera la Cámara de Representantes el próximo año, según reportó Politico.

Conforme el tema cobra mayor importancia de cara a las próximas elecciones de medio término, el expresidente Barack Obama advirtió en un evento privado de recaudación de fondos la semana pasada que la IA podría ser "peligrosa", e instó a los demócratas a desarrollar "un plan muy claro" sobre los riesgos para la seguridad y la economía.

Los mensajes en el Congreso se volvieron más urgentes tras la publicación, el jueves pasado, de un informe de Anthropic que mostró las múltiples formas en que actores de todo el mundo —incluidos China, Rusia, Irán y Yemen— habían estado usando sus distintos modelos Claude para desarrollar ciberataques, vigilar a disidentes y construir misiles, bombas y drones. El informe también documentó varios casos de posibles intentos de diseñar armas biológicas, consideradas entre las amenazas existenciales más graves relacionadas con la IA.

Uno podría haber esperado que ese informe generara acción: combinaba a beligerantes extranjeros y ataques contra objetivos estadounidenses, aunque Anthropic bloqueó o frenó muchos de los casos de abuso documentados.

Sin embargo, pese a las alarmas, los legisladores están lejos de ponerse de acuerdo sobre un camino a seguir para regular los modelos de IA o las empresas que los desarrollan. Las perspectivas de aprobar legislación sustantiva en el corto plazo parecen remotas, en parte porque muchos ven el tema como un "dilema del prisionero" creado por la carrera de IA entre Estados Unidos y China. Dado que el dominio de la IA es el principal tema de seguridad nacional del siglo, ambas naciones sin duda estarían mejor si cooperaran en establecer límites. Pero es posible que no confíen en que la otra parte cumpla con ese tipo de acuerdo. Y, en cualquier caso, a diferencia del control de armas nucleares, el cumplimiento sería prácticamente imposible de verificar.

Algunos funcionarios de la administración Trump han reconocido que la IA ha elevado dramáticamente lo que está en juego. Nick Anderson, director interino de la Agencia de Seguridad de Ciberseguridad e Infraestructura, dijo que las amenazas digitales se han vuelto más urgentes en la era de la IA y exigen una acción rápida.

"Sabemos cuál es el peor escenario posible", dijo. Dirigiéndose a la audiencia de funcionarios de gobierno y ejecutivos de ciberseguridad en la conferencia Billington, Anderson ofreció una advertencia contundente: si no se hace más para proteger al país, los escenarios apocalípticos podrían convertirse en realidad.

"Todos ustedes van a tener que ir a casa y mirar a su familia, mirar a sus amigos", dijo, "y explicarles cómo sabían cuál era el peor escenario posible y por qué no hicimos lo suficiente".