Jacob Coxon, un investigador británico de 27 años que trabajó durante tres años en el desarrollo de modelos de inteligencia artificial, anunció su salida de Anthropic y lanzó una fuerte advertencia sobre los riesgos asociados a la carrera tecnológica.
Coxon había trabajado primero en OpenAI y este año se incorporó a Anthropic, compañía a la que había considerado más prudente en materia de seguridad. Sin embargo, decidió abandonar la industria y cuestionó la velocidad con la que las principales empresas buscan desarrollar sistemas cada vez más capaces.
“Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”, escribió el investigador en X.
UNA CARRERA QUE, SEGÚN COXON, QUEDÓ EN POCAS MANOS
El investigador sostuvo que el principal problema no es únicamente el potencial de la inteligencia artificial, sino que las decisiones sobre su desarrollo están concentradas en un número reducido de empresas y personas.
Según su análisis, OpenAI y Anthropic conocen los riesgos, pero se encuentran atrapadas en una competencia por avanzar más rápido que sus rivales.
Coxon marcó una diferencia entre ambas compañías: mientras considera que en OpenAI muchos integrantes todavía no dimensionan completamente las consecuencias a escala civilizatoria, sostiene que en Anthropic existe una mayor conciencia sobre el problema, aunque la empresa continúa participando de la carrera tecnológica.
Para el investigador, ningún desarrollo de una inteligencia artificial capaz de superar las capacidades humanas debería avanzar sin intervención de los gobiernos o, al menos, sin una desaceleración coordinada entre las empresas.
EL RESPALDO DE UN REFERENTE DE ANTHROPIC
Las advertencias de Coxon recibieron respaldo de Evan Hubinger, quien fue su jefe en Anthropic y actualmente está vinculado a la investigación en alineación de sistemas de inteligencia artificial.
Hubinger afirmó que también considera posible que la IA llegue a provocar una catástrofe global. En una publicación sostuvo que personalmente estima en más del 10% la probabilidad de que ocurra durante la próxima década.
Sin embargo, diferenció los riesgos actuales de los que podrían aparecer con sistemas de inteligencia artificial mucho más avanzados. Según explicó, el principal temor está relacionado con una eventual superinteligencia surgida mediante procesos de automejora recursiva.
EL TEMOR A LA AUTOMEJORA DE LA IA
La llamada automejora recursiva plantea un escenario en el que los propios sistemas de inteligencia artificial podrían participar en el entrenamiento y desarrollo de nuevas generaciones de modelos, acelerando su evolución con una intervención humana cada vez menor.
Ese escenario es precisamente uno de los principales riesgos señalados por los investigadores que estudian la seguridad y alineación de la inteligencia artificial.
El mensaje de Coxon se volvió viral y, según la publicación, alcanzó cerca de 50 millones de visualizaciones en pocas horas, en un contexto marcado por avances acelerados en modelos de IA y nuevas capacidades que hasta hace poco parecían difíciles de alcanzar.
UNA ADVERTENCIA QUE CRECE DENTRO DE LA INDUSTRIA
Las declaraciones se suman a otras advertencias provenientes del propio sector tecnológico. Dario Amodei, CEO de Anthropic, había señalado previamente que en 2026 la humanidad está “bastante más cerca del peligro real” que en 2023.
El debate plantea así una tensión central en el desarrollo de la inteligencia artificial: mientras las empresas compiten por alcanzar sistemas cada vez más potentes, una parte de la comunidad científica reclama mayores controles, intervención estatal y mecanismos de seguridad capaces de acompañar ese avance.
La salida de Coxon vuelve a poner esa discusión en primer plano, esta vez desde el interior de una de las compañías líderes en el desarrollo de modelos de inteligencia artificial.