Un investigador de Anthropic renunció el martes 8 de septiembre con un mensaje en X que en nueve horas superó los 44 millones de vistas.
Jacob Coxon, 27 años, pasó tres años en preentrenamiento, la etapa en que un modelo aprende de cantidades masivas de datos, primero en OpenAI y desde julio en Anthropic. “Ninguna de las dos empresas actúa con responsabilidad”, escribió. “Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”.
Lo que convirtió un hilo en noticia no fue el hilo. Fue la respuesta de Evan Hubinger, que dirige un equipo de seguridad en Anthropic y sigue en la empresa. “Jacob tiene razón”, contestó en público. “De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”.
Y agregó que Anthropic “todavía no tiene un plan para resolver la alineación de una superinteligencia” y que no está claro que vaya a tenerlo. Alineación es que un sistema comparta los valores de quien lo construyó.
Británico con formación en matemática, Coxon integró, según Business Insider, el equipo técnico de OpenAI desde 2023 hasta julio de 2026, con trabajo en GPT-4o, y se mudó a Anthropic por su reputación en seguridad.
Duró dos meses. Le dijo a The Wall Street Journal que “estamos en camino a muchos de los escenarios más agresivos, donde a fines del año que viene las cosas ya podrían estar fuera de control”, y que sus colegas usan las palabras “crunchtime” (hora límite) y “endgame” (fase final) para describir hacia dónde va la capacidad de los modelos.
Su hilo separa a las dos empresas. En OpenAI, dice, muchos “no internalizaron lo que está en juego para la civilización”. En Anthropic, el riesgo se entiende, pero la empresa “está atrapada en una carrera por llegar primero: cree que nadie más va a actuar con responsabilidad, así que tiene que hacerlo ella, a pesar del riesgo”. No es codicia, es la convicción de que abstenerse deja el tablero a otros.
Su veredicto: entrar en esa fase final “es una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada”.
Al Journal le dio la imagen completa: “Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan”.
Fuente Infobae
