Un ingeniero británico de Anthropic, que también ha trabajado para OpenAI, empresa creadora del popular ChatGPT, dimitió en las últimas horas alegando que ambas compañías “no están actuando con responsabilidad” y considera que están “jugando con nuestras vidas”.
Su nombre es Jacob Coxon, es ingeniero de software, y los medios lo han identificado como uno de los desarrolladores de GPT-4o y GPT-4.5, aunque sin responsabilidades ejecutivas.
Coxon aseguró en un hilo de su cuenta de X que las personas que están tras el desarrollo exponencial de la IA “creen que podrá matarnos a todos al final de esta década”, porque “no hay otra actividad humana que suponga este nivel de amenaza”.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Para el ingeniero, de 27 años, se está subestimando el poder de la tecnología, pero los proyectos de IA “serán pronto sistemas sobrehumanos que podrán jaquear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos”, dijo, según cita de EFE.
Retos civilizacionales
En opinión de este experto, hay una conciencia de esta realidad tanto en OpenAI como en Anthropic, pero ve una diferencia: los primeros “tal vez no han internalizado en profundidad los retos civilizacionales”, mientras que los segundos los comprenden bien pero “están atrapados en la carrera por llegar primero”, aun cuando en el caso más optimista se trate de llegar primero “para actuar con responsabilidad”.
Coxon no ve otra salida que la coordinación entre los distintos proyectos de IA y de las empresas involucradas en ellos, pero siente que no se está produciendo y aboga entonces por “acciones costosas, como una prohibición temporal de mejorar las capacidades del modelo (‘model capabilities’), y pide a los investigadores de la IA que reflexionen profundamente sobre la cuestión.
“¿Queréis potenciar un ‘aprendizaje por refuerzo’ (RL en la jerga técnica) superinteligente sin un entendimiento riguroso de su mente? -pregunta a sus colegas en la IA- ¿Vais a bajar la cabeza porque ‘total, ya está ocurriendo’, o aprovechar este momento para abogar por condiciones diferentes?”, concluye Coxon en un hilo que ha tenido ya una enorme repercusión mediática.
En esta línea, Evan Hubinger, investigador de Anthropic, replicó los comentarios a Coxon en X y matizó el discurso del ingeniero: “Jacob tiene razón aquí; realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es más del 10% dentro de la próxima década”.
Pese a ello, Hubinger consideró que el riesgo de los modelos actuales es bajo, aunque lo preocupante es “la superinteligencia que surge del automejoramiento recursivo (…) que está ocurriendo más rápido de lo que pensábamos”.
“Podría volverse incontrolable”, dice la ONU
Coxon no ha sido el único investigador que se ha retirado del desarrollo de los modelos de IA en los últimos años tras advertir de los peligros de este desarrollo tecnológico. Geoffrey Hinton, ganador del Nobel de Física, renunció en 2023 a su puesto en Google para poder criticar los riesgos de la IA sin las cortapisas corporativas.
UN rights chief Volker Turk warned that artificial intelligence could become powerful enough to threaten humanity, and said he would urge companies in the coming days to reduce the risks https://t.co/uvwcUpZxZw pic.twitter.com/tstnpEcdOW
— Reuters (@Reuters) September 7, 2026
También hay que mencionar la carta abierta mediante la cual en 2024 exempleados de OpenAI mostraron su preocupación por el rápido desarrollo de la IA y la ausencia de leyes que protejan a los denunciantes.
A la vez, desde organismos como la ONU se sigue llamando al control de la inteligencia artificial. El último en levantar su voz ha sido Volker Türk, quien advirtió esta semana que “podría volverse incontrolable”.
El máximo responsable de derechos humanos de la ONU refirió que, “sin normas vinculantes, supervisión independiente y límites claros, la tecnología podría volverse incontrolable”.
A la vez, refirió que “un puñado de hombres tiene un poder casi ilimitado sobre la IA”, señalando la creciente concentración del poder tecnológico y las enormes cantidades de datos que se recopilan y procesan. Insistió en la necesidad de una tecnología “que sirva a la humanidad y no al revés”.
