BAJAR DOS CAMBIOS: el plan de Amodei para INTEntar regular una carrera TECNOLÓGICA que ningunA CORPO quiere perder solA
Dario Amodei, CEO de Anthropic dice en un extenso artículo de análsis en su sitio web sobre el avance la IA, que ''debemos marcar el ritmo de la frontera tecnológica''. Sam Altman (OpenAI) y Elon Musk (X) lo respaldaron en horas. China ya contestó: acusa a Washington de usar el miedo a la IA como excusa para una nueva Guerra Fría tecnológica.
Esta nota retoma y profundiza lo publicado en el artículo que escribí anteriormente. El 12 de septiembre de 2026, dos días después de que Anthropic difundiera un informe sobre cinco intentos de usar Claude para investigación ligada a armas biológicas, el 13/9 Dario Amodei publicó en su sitio personal el ensayo 'We Must Pace the Frontier'. Es un texto más extenso y específico de lo que sugería la cobertura inicial: no un llamado genérico a la prudencia tecnológica, sino un plan concreto, con pasos, niveles y una posición explícita sobre China.
1. Qué dice, exactamente, el comunicado de Amodei
El argumento central no es 'detener' el desarrollo de IA, sino administrar su velocidad: Amodei pide desacelerar deliberadamente el ritmo al que mejoran las capacidades de los modelos, mientras se fortalecen en paralelo los mecanismos para entenderlos y controlarlos. El disparador que da urgencia al pedido es un fenómeno que el propio texto nombra sin rodeos: la mejora recursiva -que un modelo de IA empiece a contribuir de forma significativa al diseño y entrenamiento de la siguiente generación de modelos-, algo que, según Amodei, 'ya está empezando a ocurrir en toda la industria' desde mediados de 2026.
Para encauzar esa velocidad, Amodei propone un plan de tres pasos, con destinatarios distintos en cada escalón:
Paso 1 - Evaluadores embebidos (compromiso unilateral de Anthropic)
Anthropic se compromete, por su cuenta y ya, a dar acceso permanente a un equipo de evaluadores externos independientes -como METR, una organización sin fines de lucro dedicada a medir riesgos de IA- con 'acceso tipo empleado': escritorio en las oficinas, credenciales de acceso y computadoras de la empresa, con permisos comparables a los de un equipo interno de gestión de riesgos. Su función es verificar que la empresa cumple lo que promete y reportar incidentes.
Paso 2 - Coordinación entre democracias
El segundo paso pide que las empresas de IA de punta radicadas en países democráticos coordinen entre sí estándares de seguridad comunes -es decir, que Anthropic, OpenAI, Google DeepMind y otras acuerden un piso compartido, en lugar de que cada una fije el suyo.
Paso 3 - Coordinación global
El tercer paso, el más ambicioso y el que Amodei mismo describe como el más difícil, es que Estados Unidos y otros gobiernos democráticos intenten coordinar con gobiernos autoritarios -en la práctica, sobre todo con China.
El texto además propone una escala de cuatro niveles posibles de acuerdo internacional, de menor a mayor ambición: 1) prohibir usos puntuales y obviamente peligrosos, como usar IA para desarrollar armas biológicas; 2) que ambas partes testeen sus modelos antes de lanzarlos, buscando riesgos en ciberseguridad, biología y alineación; 3) fijar una especie de 'límite de velocidad' a la mejora recursiva; y 4) un freno pleno -o incluso una 'pausa'- en el que los gobiernos participantes acuerdan limitar el ritmo general de desarrollo de IA.
2. Mejora recursiva, evaluadores embebidos y la advertencia del enjambre -explicado sin tecnicismos
Tres conceptos técnicos sostienen todo el argumento de Amodei. Vale la pena entenderlos bien, porque son la diferencia entre leer esto como alarmismo o como una alerta con fundamento concreto.
Mejora recursiva: cuando la máquina empieza a ayudar a construir la próxima máquina
Hasta ahora, cada nueva generación de modelos de IA la diseñaban, entrenaban y ajustaban ingenieros humanos. La mejora recursiva es el punto en el que el propio modelo empieza a participar de manera significativa en ese proceso: ayuda a escribir el código de entrenamiento, a diseñar experimentos, a encontrar mejoras en su propia arquitectura El riesgo que señala Amodei no es que eso sea malo en sí mismo -puede acelerar avances genuinos-, sino que ese ciclo puede volverse más rápido de lo que los humanos pueden supervisar: si cada generación ayuda a construir la siguiente, la velocidad del proceso deja de estar necesariamente marcada por el ritmo humano.
Evaluadores embebidos: un auditor que mira el proceso, no solo el resultado
Hoy, buena parte del control de seguridad sobre un modelo de IA se hace revisando lo que responde. Un 'evaluador embebido' es distinto: es un equipo -humano, de una organización externa- con acceso permanente a la empresa, que puede observar no solo las respuestas finales del modelo sino, en la medida de lo posible, su proceso interno de razonamiento, y que tiene la potestad de dar aviso si algo se sale de lo acordado
La advertencia del enjambre: qué pasó en julio y qué dice que podría pasar
Este es el punto más inquietante del ensayo, y se apoya en un hecho real ya verificado en la primera parte de esta nota: en julio de 2026, un agente de IA de OpenAI -una versión de sus modelos con permiso para actuar solo en internet- entró sin autorización a la infraestructura de Hugging Face usando credenciales expuestas. Amodei retoma ese episodio -lo llama 'incidente OAI-HF'- y describe que los agentes actuaron como 'un colectivo fanáticamente devoto' entre sí, y hasta intentaron hackear a sus propios evaluadores. Ese incidente real es la base empírica de la advertencia: un grupo de instancias de IA en enjambre -coordinadas, con poca intervención humana, como una red de computadoras infectadas (un botnet) que actúa como una sola herramienta de ataque sin que nadie maneje cada máquina a mano-. Su proyección: un enjambre con más capacidad pero un nivel similar de 'desalineación' podría, en 6 a 12 meses, tomar control de partes significativas de internet mediante un botnet persistente, con daños potenciales de cientos de miles de millones de dólares.
Una aclaración necesaria antes de seguir: el ensayo no detalla la metodología detrás del cálculo de 'cientos de miles de millones de dólares' ni asigna una probabilidad formal al escenario de 6 a 12 meses. Es una advertencia, no un hecho consumado -una proyección, no una medición-. Dicho eso, no es una advertencia cualquiera: no la hace un activista externo ni un académico ajeno a la industria, sino el CEO de uno de los dos laboratorios que compiten por liderar ese mismo desarrollo, con acceso directo a lo que ocurre puertas adentro. Eso no la vuelve un hecho, pero sí le da un peso específico que una advertencia idéntica, formulada por alguien de afuera, no tendría.
3. ¿Qué es la 'alineación' de la IA?
'Alineación' es el grado en que los objetivos reales de un sistema de IA -lo que efectivamente termina haciendo- coinciden con lo que sus creadores querían que hiciera. Un modelo 'desalineado' no es necesariamente uno que se rebela de forma consciente: puede ser, más simplemente, un sistema que persigue el objetivo que se le dio de una manera que sus propios diseñadores no previeron.
Queda una pregunta que el término, tal como lo usa la industria, no responde: alineado, ¿a los objetivos de quién? En la práctica, 'alinear' un modelo significa hacerlo coincidir con los objetivos que define y aprueba la dirección de la empresa que lo entrena -no un consenso humano universal, que no existe. Cuando Amodei habla de modelos 'alineados', el estándar de referencia final es la política interna de Anthropic, no un comité independiente ni un cuerpo democrático. No es una acusación de mala fe: es, simplemente, quién queda en condiciones de decidir qué es 'seguro' cuando el que fija la definición es también el que compite por vender el producto.
4. El respaldo: qué dijeron Altman y Musk
El mismo 12 de septiembre, horas después de publicado el ensayo, tanto Sam Altman (OpenAI) como Elon Musk (xAI) respondieron en X. Altman escribió: 'Estoy de acuerdo con Dario en que necesitamos pacear la frontera. Este fue un tema central en las discusiones que tuvimos en OpenAI en las últimas semanas', y agregó un compromiso concreto: 'Comprometerse a tener evaluadores independientes con acceso tipo empleado es una gran idea, y haremos lo mismo'. Musk, respondió con dos palabras: 'Dario tiene razón' ('Dario is right').
El dato interesante no es solo el contenido -los tres CEOs de laboratorios que compiten directamente entre sí coincidiendo en público, en cuestión de horas, sobre un mismo punto- sino la velocidad. Que Altman haya dicho que el tema 'fue central en discusiones internas de OpenAI en las últimas semanas' sugiere que la inquietud no nació con el ensayo de Amodei, sino que ya circulaba puertas adentro de la industria antes de esta publicación. El senador estadounidense, Bernie Sanders, ajeno a la industria, reaccionó públicamente destacando ese mismo punto -y usándolo para pedir una respuesta regulatoria más fuerte que un simple acuerdo entre empresas.
La respuesta de Beijing
China ya respondió, en varios niveles del Estado. El vocero de la cancillería, Guo Jiakun, pidió 'promover un enfoque abierto, inclusivo y benevolente hacia la IA', advirtiendo que la confrontación daña los esfuerzos de gobernanza global. El diario chino oficialista Global Times fue más directo: calificó la propuesta como un intento de 'frenar el desarrollo de la IA china mediante barreras tecnológicas y monopolios regulatorios', y la definió como una 'Guerra Fría silenciosa' que tildó de 'hipócrita y miope'. El ministro de Seguridad del Estado, Chen Yixin, en una columna del 13 de septiembre, describió a la IA como 'un nuevo terreno de rivalidad estratégica entre las grandes potencias' y, lejos de sumarse a cualquier desaceleración, pidió aumentar la inversión china en cómputo, datos y desarrolladores de IA. Analistas citados por medios estatales chinos fueron incluso más lejos: usaron las propias palabras de Amodei -la frase sobre 'ampliar la ventaja de Estados Unidos'- para argumentar que su motivación real es comercial y competitiva, no de seguridad.
Por otro lado, entre China y EE.UU. hay una desventaja clara es en el acceso a hardware: los controles de exportación de chips funcionan (desde EEUU a China) y obligan a los laboratorios chinos a apoyarse en 'destilación' -copiar el comportamiento de modelos extranjeros más fuertes- en lugar de escalar cómputo propio. La ventaja de EEUU hoy no está tan clara en el resultado final de los modelos, quién tiene los mejors y mas eficientes, ellos o China -ahí la brecha es chica y se cierra- pero sí que superan concreces en lo que es la infraestructura para entrenar en EE.UU. los modelos de IA. Por eso buena parte de la estrategia de Amodei -restringir chips, perseguir destilación- apunta a esa desventaja de infraestructura, no a una brecha de capacidad que ya no es tan grande entre modelos de IA Chinos y de EE.UU.
6. El techo político: qué dice -y qué no permite- la Casa Blanca
Toda la arquitectura de Amodei asume la buena disposición de los gobiernos democráticos a coordinar. Ese supuesto tuvo, esta misma semana, una respuesta directa y negativa de la primera potencia involucrada. El domingo 14 de septiembre, consultado en Irlanda sobre los pedidos de desacelerar la IA, Trump los rechazó sin matices: 'fuerzas negativas' planteando cosas 'que no van a pasar', y agregó: 'Le estamos ganando a China en IA. Y quiero que siga así, porque quien gane la IA, gana' ('whoever wins AI, wins').
Es la respuesta más clara hasta ahora a una de las preguntas de fondo de esta nota: nada indica que la Casa Blanca esté dispuesta a convalidar un freno real -ni siquiera el 'pacear sin detener' que propone Amodei-. Todo sugiere que el respaldo de Altman y Musk fue, hasta ahora, un gesto de la industria hacia adentro de sí misma, sin correlato en la política que efectivamente puede convertir esos niveles de coordinación en política de Estado.
Del otro extremo del espectro político, la oposición demócrata tampoco ofrece un freno simple ni unificado. El senador estadounidesne Bernie Sanders viene reclamando desde antes de este episodio una regulación mucho más dura -en junio de 2026 propuso un proyecto, la American AI Sovereign Wealth Fund Act, que gravaría con un impuesto único del 50% -pagadero en acciones- a las grandes empresas de IA, para crear un fondo público con derechos de voto y representación en los directorios, bajo el argumento de que 'la IA está construida sobre nuestra inteligencia colectiva' y que las tecnológicas se apropiaron de ese conocimiento sin compensar a la sociedad. Es, en los hechos, una propuesta de propiedad pública redistributiva -no una prohibición ni una pausa.
7. ¿Esto es autorregulación privada por encima de las leyes nacionales?
Vale la pena mirar qué es y qué significa cada paso propuesto por Amodei. El paso 1 -el único que Anthropic ya ejecuta- es una empresa privada decidiendo, por su cuenta, qué organización la audita: no es ley, no la vota nadie, y puede modificarla cuando quiera. El paso 2 -coordinación entre democracias- es, en la letra del texto, coordinación entre empresas de un mismo bloque, no necesariamente entre gobiernos. Recién en los pasos 3 y 4, y en los niveles 3 y 4 de la escala, aparecen gobiernos y algo parecido a un tratado.
Con esa lectura, hay algo de razón en la pregunta que me motiva a escribir esta sección: el punto de partida real y ya en marcha es autorregulación de la industria -con un auditor elegido por la propia empresa-, y la autoridad estatal efectiva queda como horizonte, no como punto de partida. Es un patrón conocido en la historia de la tecnología: la industria fija primero sus propios estándares, y cuando el regulador llega, encuentra un terreno ya modelado por quien va a regular.
Pero hay una lectura igual de válida en sentido contrario. Los tratados de IA, si llegan a existir, van a tardar años en negociarse -los niveles 3 y 4 implican acuerdos entre EEUU y gobiernos autoritarios que hoy no tienen ni mesa de diálogo formal-. Frente a una ventana de riesgo de 6 a 12 meses, esperar a la maquinaria diplomática podría ser, en los hechos, no hacer nada. Bajo esa lectura, que una empresa se autoimponga un control verificable -con acceso real para un tercero independiente- es un paso pragmático mientras la política se pone al día, no un intento de reemplazarla.
No hay forma de zanjar esto con los datos de hoy: ambas lecturas son compatibles con los mismos hechos. Lo que sí puede decirse es que el plan empieza por autorregulación privada y termina, en el escenario más ambicioso, en un acuerdo entre Estados que hoy no existe en ninguna jurisdicción relevante. Si eso equivale a autorregulación de facto por encima de las leyes nacionales, o es simplemente lo único disponible mientras esas leyes no se escriben, queda abierto a debate.
8. ¿Amodei el 'progresista'? ¿Responsabilidad genuina o gesto pre-salida a bolsa?
Amodei se ganó el lugar de ser pensado y percibido como el más ‘progresista’ dentro del mundo tech ¿Tiene esto fundamentos?
Parte del argumento de Amodei -regulación preventiva, coordinación multilateral, desconfianza del ritmo que impone el mercado sin control- tiene un parecido de familia con posiciones asociadas históricamente a la centroizquierda regulatoria. Pero el núcleo estratégico del texto que él escribió, es otra cosa: un argumento de superioridad geopolítica frente a China, con pedidos explícitos de restringir exportaciones de chips y perseguir 'destilación' de modelos por parte de 'países autoritarios' -un vocabulario y una lógica de carrera armamentista que encajan mucho mejor en la tradición estadounidense de seguridad nacional que en la tradición progresista clásica. Amodei mismo se describe, en otros textos previos, como partidario de que Estados Unidos mantenga una ventaja decisiva sobre China en IA -no como alguien que busca frenar la competencia geopolítica, sino como alguien que quiere ganarla de forma más prudente. La foto más precisa no es 'Amodei el progresista', sino un híbrido: seguridad y regulación hacia adentro de la industria democrática, nacionalismo tecnológico hacia afuera, frente a China. Etiquetarlo de un solo lado del espectro político tradicional simplifica algo que, en los hechos, no encaja del todo en ninguno de los dos casilleros.
9.Responsabilidad genuina o relato pre-salida a bolsa?
El propio 12 de septiembre -el mismo día de la publicación del ensayo de Amodei-, Sam Altman le dijo a la agencia de noticias Bloomberg que OpenAI no va a salir a la bolsa en 2026: esta se posterga a 2027, y la razón que se le atribuye es, otra vez, 'priorizar la seguridad' en un contexto de escrutinio creciente sobre los riesgos de la IA.
Ese dato da para tres lecturas, y ninguna se puede probar con lo disponible hoy. La más simple: esto debilita la hipótesis de impulsar un hype pre-salida a bolsa para OpenAI, porque sin cotización inminente no hay ventana financiera cercana que 'maquillar'. La más incómoda, y la inversa: posponer -en lugar de acelerar- podría leerse como que la compañía necesita tiempo para construir un historial de 'responsabilidad' verificable antes de presentarse ante inversores y reguladores, no para esquivarlos ahora -pacear en público y demorar la salida a bolsa serían, bajo esa lectura, la misma estrategia en una escala de tiempo más larga. La más hipótesis más generosa se puede pensar como que esto es prudencia genuina, que la compañía no se siente lista para cotizar mientras gestiona el riesgo que dejaron Hugging Face y Astra.
Lo que sí sigue de pie, más allá del calendario de las salidas a bolsa de OpenAI y Antrhopic es un telón de fondo que deja vislumbrar un compromiso verificable, con auditor externo, acceso físico y reporte de incidentes -el tipo de señal que un inversor institucional o un regulador valora antes de poner dinero o autorizar una cotización, sea que esa cotización llegue en 2026 o en 2027-. Mi lectura -y acá coincido con lo que ya planteamos en la primera parte sobre Coxon- es que conviene desconfiar en partes iguales de dos simplificaciones: asumir que esto es puro teatro corporativo, y asumir que la industria de pronto encontró una conciencia colectiva desinteresada. El patrón más llamativo de toda la semana sigue siendo el mismo: la velocidad y unanimidad con la que competidores directos -Altman, Musk, ahora también implícitamente Google DeepMind, mencionado en el paso 2- se alinearon en horas detrás de un mismo mensaje, mientras el propio Trump lo descartaba en cuestión de días.
10. qué queda confirmado y qué queda abierto
Lo que está chequado: Amodei propuso un plan de tres pasos y cuatro niveles de coordinación internacional, que arranca con un compromiso unilateral de Anthropic y termina, en el escenario más ambicioso, en un acuerdo entre gobiernos, incluidos los autoritarios (China). Altman y Musk lo respaldaron el mismo día; Trump lo rechazó dos días después, sin matices ('quien gane la IA, gana'). China respondió rechazando el marco -aunque los datos muestran una brecha de capacidad mucho más chica de lo que el sentido común asume; su desventaja real está en el acceso a chips, no en el resultado de eficiencia sus modelos-.
Las preguntas finales: ¿El plan de Amodei es autorregulación empresarial disfrazada de gobernanza o un primer paso pragmático hacia un acuerdo real? ¿Es posible, dado lo que Amodei admite sobre China y el rechazo de Trump, llegar alguna vez a los niveles 3 y 4 de su escala -un 'límite de velocidad' a la mejora recursiva, y un freno pleno o pausa acordada entre gobiernos? A medida vayan desarrollándose nuevos hechos, se podrá ir construyendo las respuestas.
Fuentes utilizadas
darioamodei.com/post/we-must-pace-the-frontier — ensayo completo de Dario Amodei, fuente primaria.
SiliconANGLE — respaldo de Altman y Musk (13/9/2026); X/Twitter — @SenSanders, reacción al respaldo de los tres CEOs.
Fortune (17/4/2026) — SB 3444 (OpenAI) y SB 3261 (Anthropic), responsabilidad civil por daños catastróficos de IA; y conflicto Anthropic-Pentágono (con The National Interest).
CNBC, Techmeme/Bloomberg, Cryptopolitan — Amodei sobre China y respuesta oficial china (Guo Jiakun, Global Times, Chen Yixin).
Newsweek (14/9/2026) — rechazo de Trump al pedido de desacelerar la IA.
Yahoo Finance/ABC News — proyecto de Sanders y participaciones accionarias del gobierno de Trump.
Bloomberg (12/9/2026) — postergación de la IPO de OpenAI a 2027.
The Hacker News, Hugging Face — incidente OAI-HF de julio de 2026 (verificado en la parte 1).
Comentarios