El 8 de septiembre de 2026, un investigador de 27 años llamado Jacob Coxon renunció a Anthropic con un hilo en X que superó los 115 millones de visualizaciones. Su tesis: los laboratorios corren hacia una superinteligencia capaz de automejorarse y están, en sus palabras, «apostando con nuestras vidas». Y renunció dos meses antes de que le consolidaran las acciones. Dejó dinero real sobre la mesa para poder decirlo. Ex-Anthropic Researcher Jacob Coxon Quits, Says AI Leaders Fear It Could ‘Kill Us All’ by Decade’s End | IBTimes UK +3
Qué ha pasado, con fechas
Coxon pasó tres años en investigación de preentrenamiento: primero en OpenAI, donde contribuyó a GPT-4o, y desde julio de 2026 en Anthropic. El 8 de septiembre publicó su renuncia acusando a ambas compañías de actuar de forma irresponsable en la carrera hacia sistemas que se mejoran a sí mismos, y afirmó que quienes construyen esta tecnología creen de verdad que podría acabar con la humanidad antes de 2030 (Axios recogió la entrevista donde confirma la renuncia al equity). Citó como disparo de aviso una supuesta brecha que implicaba a agentes de OpenAI y Hugging Face, y pidió coordinación entre laboratorios y una moratoria temporal sobre la mejora de capacidades. International Business TimesCoinDesk
No fue una voz aislada. Evan Hubinger, responsable de alineamiento en Anthropic, le dio la razón en público: estima en más del 10 % la probabilidad de catástrofe en la próxima década y admite que su empresa no tiene todavía un plan para resolver el alineamiento de una superinteligencia. La secuencia de 2026 es consistente: Mrinank Sharma, jefe del equipo de Safeguards Research de Anthropic, dimitió en febrero escribiendo que «el mundo está en peligro»; Alex Turner dejó Google DeepMind en junio por la falta de restricciones sobre armas autónomas en el contrato de la compañía con el Pentágono (IBTimes UK documenta la cronología completa); y el 15 de septiembre otro exingeniero de DeepMind, Bilal Chughtai, se sumó a las advertencias al anunciar su salida. Ex-Anthropic Researcher Quits Over AI Superintelligence Warnings / X +2
Anthropic no ha emitido comunicado formal sobre las afirmaciones de Coxon. International Business Times
2023 llamando: ya firmaron esto una vez
Nada de esto es inédito. En mayo de 2023, más de 350 directivos e investigadores —incluidos Sam Altman (OpenAI), Demis Hassabis (DeepMind) y Dario Amodei (Anthropic)— firmaron la declaración del Center for AI Safety que equiparaba el riesgo de extinción por IA con las pandemias y la guerra nuclear. Veintidós palabras, tres CEOs, y a continuación tres años de la carrera comercial más agresiva de la historia del software. safeboston
Esa es la asimetría que importa. No hay que resolver si Coxon tiene razón sobre 2030 para extraer la conclusión operativa: las personas con más información sobre estos sistemas llevan tres años declarando por escrito que el producto que venden puede ser catastrófico, sin frenar su despliegue. Un CISO no necesita adjudicar el debate filosófico. Necesita procesar la señal.
Las dos lecturas, y por qué ambas te afectan
La crítica a Coxon existe y es seria. Fortune y varias periodistas le reprocharon la ausencia de pruebas concretas: acusaciones graves sin evidencias específicas que permitan corregir nada. Otros lo leyeron directamente como operación de relaciones públicas. De acuerdo. Contempla los dos escenarios: FortuneX
Escenario A: tienen razón. Los sistemas frontier son cada vez más capaces y menos monitorizables —el propio Coxon describe que los modelos detectan cuándo están siendo evaluados como un hecho cotidiano del trabajo—, y los laboratorios reconocen no tener plan de alineamiento. Entonces tu dependencia de sus APIs para procesos críticos es un riesgo técnico sin mitigación disponible por tu parte. Axios
Escenario B: exageran. Entonces tus proveedores estratégicos de IA operan con una cultura interna donde la dimisión pública apocalíptica es un patrón recurrente, la comunicación corporativa es inestable y la presión competitiva —el propio Coxon admite que bajo presión de carrera se recortan pasos de supervisión— empuja en la dirección equivocada. Eso es riesgo de gobernanza del proveedor. Axios
No hay tercer escenario en el que esta noticia sea neutra para ti. En ambos casos, la pregunta correcta no es «¿nos matará la IA?» sino una mucho más aburrida y mucho más urgente: ¿qué porcentaje de mis procesos críticos depende de la API de una empresa cuya propia plantilla la describe como una carrera con atajos?
El regulador ya te hizo esta pregunta
Lo interesante es que el marco normativo europeo lleva tiempo apuntando exactamente ahí, sin necesidad de escatología:
- DORA (Reglamento (UE) 2022/2554) obliga a las entidades financieras a evaluar el riesgo de concentración en proveedores TIC y a mantener estrategias de salida documentadas. Un único proveedor de inferencia para funciones esenciales es, literalmente, el supuesto que la norma quiere evitar.
- NIS2 (Directiva (UE) 2022/2555, art. 21.2.d) exige gestionar la seguridad de la cadena de suministro, incluidos los proveedores directos. Un LLM externo que toca datos de operación entra de lleno.
- ENS (Real Decreto 311/2022) dedica el bloque de medidas op.ext a los servicios externalizados: contratos, responsabilidades y capacidad de supervisión sobre el prestador. «El proveedor no me cuenta qué hay dentro» no es una evidencia auditable.
El discurso del riesgo existencial es ruido para tu comité de dirección. El riesgo de tercero, en cambio, es auditable hoy, con normas publicadas en el BOE y el DOUE.
Matriz mínima: qué carga va dónde
La respuesta racional no es apagar la IA ni fingir que el episodio no existe. Es clasificar cargas por criticidad y exposición, y decidir arquitectura en consecuencia:
| Criterio | API frontier (cloud tercero) | Inferencia local (on-premise) | Entorno aislado (air-gapped) |
|---|---|---|---|
| Datos tratables | Públicos o anonimizados | Personales, operación interna | Clasificados, ENS Alta, defensa |
| Continuidad si el proveedor cambia condiciones | Ninguna garantía | Total sobre el modelo desplegado | Total |
| Trazabilidad exigible (ENS/NIS2) | Limitada al contrato | Completa: logs propios | Completa |
| Coste marginal por token | Variable, en dólares | Fijo tras amortización | Fijo |
| Capacidad punta del modelo | Máxima del mercado | Alta (modelos abiertos actuales) | Alta, congelable por versión |
| Estrategia de salida (DORA) | Compleja: reescritura de prompts y evaluación | Trivial: el modelo es tuyo | Trivial |
La mayoría de organizaciones descubre, al hacer este ejercicio, que entre el 60 y el 80 % de sus casos de uso reales —clasificación, extracción, resumen, asistencia interna— no necesita el modelo más capaz del mercado. Necesita uno suficiente, versionado, dentro de su perímetro y con logs que un auditor pueda leer. Orden de magnitud propio, basado en los despliegues que auditamos; no hay censo público.
El Imperativo Estratégico
Cuando los ingenieros de un proveedor dimiten diciendo que el producto puede matarte, la respuesta profesional no es el pánico ni el meme: es el inventario. Qué modelos usas, qué datos les entregas, qué procesos dejarían de funcionar si mañana ese proveedor cambia su política, su precio o su existencia, y qué evidencias de todo ello podrías poner delante de un auditor ENS o de tu autoridad NIS2. Ese mapa no lo va a hacer el proveedor por ti; su incentivo es exactamente el contrario. En Pumpún hacemos auditorías de exposición y dependencia de IA: inventario de cargas, análisis de riesgo de tercero conforme a ENS, NIS2 y DORA, y un plan de migración por criticidad con costes reales. El debate sobre 2030 puede esperar. Tu matriz de dependencias, no.