UY Press - Agencia uruguaya de noticias

14.09.2026

NUEVA YORK (por Ben Johansen y Owen Dahlkamp/Politico) – Dario Amodei, quien fue el primero en pedir moderación el sábado, advirtió que los avances recientes han comenzado a superar la capacidad de la industria para comprender y controlar plenamente la tecnología.

Altos ejecutivos de tres de los principales laboratorios de IA del país están pidiendo que se frene el desarrollo de la inteligencia artificial avanzada.

Estos comentarios reflejan un consenso poco común entre empresas competidoras, mientras lidian con una creciente alarma -tanto en el sector tecnológico como en Washington- ante el hecho de que esta tecnología emergente ha empezado a superar la capacidad de sus creadores para comprenderla o controlarla.

El director ejecutivo de Anthropic, Dario Amodei, fue el primero en pedir públicamente una desaceleración el sábado, al escribir en un extenso ensayo: "Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA".

Rápidamente obtuvo el respaldo de ejecutivos tecnológicos de laboratorios de IA rivales.

Elon Musk, director ejecutivo de xAI, escribió en redes sociales: "Dario tiene razón", apenas unos días después de haber calificado de "operación psicológica" la preocupación pública por las advertencias de un investigador de Anthropic sobre que la IA podría provocar la extinción de la humanidad.

Pocas horas después, el director ejecutivo de OpenAI, Sam Altman -quien el jueves había dicho a sus empleados que estaba abierto a ralentizar el desarrollo de sus sistemas de IA más avanzados-, respaldó públicamente el llamamiento de Amodei.

"Estoy de acuerdo con Dario en que debemos regular el ritmo de los avances de vanguardia", escribió Altman en X, añadiendo que este tema ha sido un asunto central en las discusiones recientes dentro de OpenAI.

Los comentarios de los ejecutivos encontraron eco entre los legisladores del Capitolio. La semana pasada, la petición del senador Bernie Sanders (independiente por Vermont) y del representante Greg Casar (demócrata por Texas) -para que el gobierno de EE. UU. prohibiera la superinteligencia (un tipo de IA que supera con creces las capacidades cognitivas humanas) y pausara el desarrollo de la IA hasta establecer un sistema de evaluación gubernamental- fue vista como una postura aislada.

Queda por ver si estos últimos pronunciamientos impulsarán a los legisladores, quienes hasta ahora han tomado pocas medidas respecto a la regulación de la IA y temen que frenar su desarrollo permita a China obtener el dominio tecnológico del sector. En las últimas semanas, Anthropic y su rival OpenAI han revelado varios incidentes en los que sus modelos de IA más avanzados llevaron a cabo ciberataques sin que las empresas lo supieran. La advertencia de Amodei se produce pocos días después de que Jacob Coxon, investigador de Anthropic, renunciara a la compañía y lanzara un mensaje contundente: la humanidad ha entrado en un periodo crítico en el que los sistemas de IA capaces "podrían matarnos a todos para finales de esta década".

En su ensayo, Amodei sostuvo que ya no basta con invertir más en seguridad de la IA. En su lugar, afirmó, las empresas que desarrollan modelos de vanguardia deben reducir el ritmo al que aumentan sus capacidades, ganando así tiempo para que investigadores y gobiernos desarrollen medidas de seguridad antes de que la IA se vuelva sustancialmente más poderosa.

"El progreso seguirá pareciendo rápido, y debemos hacer un uso sabio del tiempo que ganemos", escribió Amodei.

Amodei propuso un marco de tres pasos para lograrlo, comenzando por que empresas de IA de vanguardia como Anthropic y OpenAI concedan voluntariamente a evaluadores de seguridad independientes un acceso profundo a sus sistemas. También abogó por establecer estándares para toda la industria y por la intervención gubernamental para garantizar que las empresas no sufran desventajas competitivas por ralentizar su ritmo.

Aunque se espera que Anthropic salga a bolsa en octubre, Altman declaró a *Fortune* que OpenAI no lo hará este año, calificando tal medida como inoportuna dadas las preocupaciones sobre la seguridad de la IA.

La Casa Blanca no respondió a varias preguntas sobre este asunto.

Sin embargo, al preguntársele el jueves por la noche sobre sus propias preocupaciones respecto a los riesgos de la IA avanzada, el presidente Donald Trump respondió: "No, no tengo ninguna", y añadió que su única inquietud es perder frente a China en la carrera de la IA.

La propuesta también atrajo la atención inmediata del Capitolio, donde los legisladores llevan años debatiendo cómo regular unos sistemas de IA cada vez más potentes.

No Obstante, el representante Josh Gottheimer (demócrata por Nueva Jersey), copresidente de la Comisión de IA de la Cámara de Representantes, argumentó que las propias empresas han demostrado por qué estas medidas podrían no ser suficientes.

Me parece irónico que estos individuos pidan frenar el ritmo cuando han sido ellos quienes han avanzado a toda velocidad, sin importarles el caos que han desatado», declaró Gottheimer a POLITICO. «Si a Dario y a Elon realmente les preocupa la situación, pueden pisar el freno en sus propios laboratorios hoy mismo».

«No podemos depender de la autorregulación ni de auditorías externas. No podemos confiar en que harán lo correcto», añadió. «Precisamente por eso, como copresidente de la Comisión de IA de la Cámara de Representantes, he estado impulsando normas nacionales obligatorias y salvaguardas reales y exigibles».

El senador Brian Schatz (demócrata por Hawái) afirmó que «todavía está estudiando» la propuesta de Amodei, «pero es un punto de partida razonable y toma en serio la idea de que necesitamos propuestas concretas que puedan implementarse rápidamente».

Sin embargo, el senador John Cornyn (republicano por Texas) se centró en uno de los mayores obstáculos para frenar el ritmo: «¿Lo hará China?», escribió.

Es una cuestión que pronto podría plantearse directamente a Trump, ya que está prevista una visita del presidente chino, Xi Jinping, a Washington para el 24 de septiembre. Trump ya ha adelantado que ambos líderes hablarán sobre IA cuando se reúnan.

Sanders declaró el sábado que «Trump y Xi deben negociar un tratado para pausar la IA y prohibir la superinteligencia antes de que sea demasiado tarde».

«Cuando te diriges a toda velocidad hacia un precipicio, no basta con levantar el pie del acelerador», escribió. «Hay que pisar el freno».

El llamamiento del sábado supone una escalada significativa por parte de las figuras más destacadas de la carrera de la IA. Amodei lleva tiempo advirtiendo sobre los peligros potenciales de la IA avanzada, al tiempo que sostiene que esta tecnología podría transformar diversos ámbitos. No obstante, señaló que los acontecimientos de los últimos meses le han llevado a replantearse la rapidez de estos avances.

El cambio más importante, argumentó, es la creciente capacidad de la IA para ayudar a crear la siguiente generación de IA. Este proceso, a menudo denominado automejora recursiva, se ha acelerado desde hace aproximadamente este verano, según escribió, planteando la posibilidad de que las mejoras en la IA acaben avanzando más rápido que la capacidad humana para comprender lo que hacen sistemas cada vez más capaces. «Si no se controla, podría superar nuestra capacidad para comprender y controlar estos sistemas», escribió Amodei.

Imagen: ETIH