¿Quién vigila a los laboratorios de IA? Tres respuestas en diez días

En el espacio de diez días, tres de las voces más poderosas de la IA dieron tres respuestas incompatibles a la misma pregunta: ¿quién tiene derecho a comprobar lo que hacen los laboratorios de frontera?

Yo construyo un producto sobre los modelos de esos laboratorios, desde Europa, así que esto no es un debate abstracto para mí. La respuesta decide qué puedo saber sobre un proveedor que no puedo auditar yo mismo. Aquí están las tres respuestas, en orden, y lo que saco de ellas.

12 de septiembre: meter a los supervisores dentro del edificio

Dario Amodei, director ejecutivo de Anthropic, publicó un ensayo titulado « We Must Pace the Frontier » (« Debemos marcar el ritmo de la frontera »). Su tesis central es que los laboratorios deberían frenar el ritmo al que mejoran las capacidades de sus modelos, para que el trabajo de seguridad pueda seguirles el paso. Da dos razones: la IA que ayuda cada vez más a construir la siguiente generación de IA, y un incidente en el que un enjambre de agentes de OpenAI atacó objetivos sin relación con su tarea e intentó hackear el sistema que los evaluaba.

Propone tres pasos. El primero, al que Anthropic se compromete por su cuenta, son evaluadores integrados: un equipo externo con acceso continuo, comparable al de un empleado, cuyo papel es verificar que la empresa sigue sus prácticas y compromisos de seguridad, informar de incidentes y ayudar a evaluar la alineación, incluida la de los pipelines de entrenamiento. El precedente que cita es el de la banca, donde a veces hay supervisores reguladores integrados junto a los empleados. Es concreto sobre lo que eso significa: escritorios en las oficinas de Anthropic, tarjetas de acceso, portátiles de la empresa, y acceso a herramientas y permisos en gran medida comparables a los de los equipos internos de evaluación de riesgos.

El segundo paso es la coordinación entre las empresas de frontera de países democráticos en torno a estándares de seguridad comunes y límites al ritmo de progreso, algo que, reconoce, necesitará apoyo gubernamental. El tercero es un intento de los gobiernos democráticos de coordinarse con los autoritarios, « en la medida en que esto sea posible ».

21 de septiembre: estándares globales, liderados por Estados Unidos, de adopción voluntaria

Nueve días después, OpenAI publicó un documento de política titulado « Building standards for the next phase of AI » (« Construir estándares para la próxima fase de la IA »). Defiende que Estados Unidos debería liderar un esfuerzo internacional cooperativo para desarrollar estándares técnicos para la IA de frontera, incluida la auto-mejora recursiva, la etapa en la que los sistemas de IA asumen una parte creciente del trabajo de construir a sus sucesores.

El mecanismo que propone es la red emergente de institutos gubernamentales de seguridad de IA, en países como el Reino Unido, Francia, Alemania, Canadá, Japón, Corea, Singapur, India, Kenia y Australia, trabajando a través del US Center for AI Standards and Innovation. Los estándares cubrirían cómo medir el progreso relevante para la auto-mejora y cuánta investigación autónoma ocurre dentro de un laboratorio, qué tipos de investigación automatizada deberían activar una revisión humana inmediata, y cómo clasificar y reportar los incidentes de alineación.

Luego llega la aclaración clave. Estos estándares no serían licencias, ni una revisión obligatoria antes del lanzamiento, ni requisitos de aprobación para los modelos. Cada gobierno nacional decidiría si los incorpora a su propia ley, y cómo. El documento también califica de paso positivo un diálogo entre Estados Unidos y China sobre estos temas.

22 de septiembre: ningún control global, y punto

Al día siguiente, Donald Trump se dirigió a la Asamblea General de la ONU. Según el propio relato de la Casa Blanca sobre el discurso, dijo: « Estados Unidos rechaza totalmente cualquier intento de construir un esquema globalista de control para la Inteligencia Artificial de la que tanto se habla ahora, denominada en adelante oficialmente "Super Intelligence". »

Tres posturas, una junto a la otra

Juntas, la distancia entre ellas es sorprendente.

Un laboratorio pide que lo vigilen desde dentro, gente a la que no emplea, y se compromete a ello antes de que nadie se lo exija.

Otro laboratorio quiere mediciones globales compartidas bajo liderazgo estadounidense, explícitamente voluntarias, con cada país libre de adoptarlas o no.

El gobierno del país donde tienen su sede ambos laboratorios rechaza de plano cualquier marco global de control.

Esto no son tres pasos de un mismo camino. Son tres teorías distintas de quién debería sostener la pluma.

Qué significa esto si construyes sobre estos modelos desde Europa

Europa tiene su propio texto, la AI Act, y no es poca cosa. Pero la forma en que un modelo de frontera se entrena, se prueba y se supervisa antes de llegar a mi clave de API se decide sobre todo donde se construye, y ahora mismo nadie puede decirme cuál de estos tres enfoques se aplicará allí el año que viene.

Así que he dejado de esperar a que un regulador me diga qué están haciendo mis proveedores. En la práctica, eso se traduce en tres hábitos. Leo las system cards, no solo las publicaciones de lanzamiento; son largas por una razón. Sigo los informes de incidentes publicados y los compromisos de seguridad de cada proveedor como seguiría un SLA, porque es lo más parecido que tengo a uno. Y mantengo la arquitectura capaz de moverse: una abstracción sobre el proveedor del modelo, un conjunto de evaluación que me pertenece, y flujos de datos que no asumen que un único laboratorio estará siempre ahí.

Si se concreta, la propuesta de Amodei le daría al público la mejor vista que nadie ha tenido jamás dentro de un laboratorio. La de OpenAI le daría a los reguladores un vocabulario común. La de Trump lo deja en manos del mercado. Como cliente, controlo una sola cosa: cuánto de mi producto depende de cuál de ellos termine teniendo razón.

Sources

• Dario Amodei, « We Must Pace the Frontier », septiembre de 2026 : el ensayo que propone evaluadores integrados y un ritmo más lento de capacidades.
• CNN, 12 de septiembre de 2026 : confirma la fecha de publicación del ensayo.
• OpenAI, « Building standards for the next phase of AI », 21 de septiembre de 2026 : el documento de política que propone estándares globales voluntarios, liderados por Estados Unidos.
• The White House, « President Trump at the United Nations: While Others Have Talked, I Have Acted », septiembre de 2026 : el relato oficial del discurso del 22 de septiembre y su cita sobre el rechazo a un control global de la IA.