Jacob Coxon, investigador de 27 años, renunció a Anthropic apenas dos meses después de incorporarse y lanzó fuertes cuestionamientos contra la carrera por desarrollar una superinteligencia. El especialista, que anteriormente trabajó en OpenAI, sostuvo que ninguna de las dos compañías está actuando de manera responsable frente a riesgos que considera potencialmente irreversibles.
“Ninguna de las dos empresas actúa con responsabilidad”, afirmó Coxon. Según su planteo, OpenAI y Anthropic avanzan hacia sistemas capaces de mejorarse a sí mismos sin contar todavía con herramientas suficientes para garantizar que permanezcan bajo control.
La advertencia recibió el respaldo de Evan Hubinger, responsable de un equipo de seguridad de Anthropic, quien respondió públicamente que “Jacob tiene razón”. Hubinger estimó en más de 10 por ciento la posibilidad de que sistemas de inteligencia artificial provoquen la muerte de toda la humanidad durante los próximos diez años.
Uno de los ejes centrales de la discusión es la denominada alineación, es decir, lograr que una IA extremadamente avanzada conserve objetivos y límites compatibles con los intereses humanos. Hubinger reconoció que Anthropic todavía no dispone de un plan definitivo para resolver ese problema ante una eventual superinteligencia.
Coxon había trabajado desde 2023 en OpenAI, donde participó en tareas de preentrenamiento y desarrollos vinculados con GPT-4o. En julio se incorporó a Anthropic atraído por su perfil en materia de seguridad, pero decidió marcharse dos meses después.
El investigador advirtió además que algunos desarrollos podrían quedar fuera de control hacia fines de 2027 y cuestionó que decisiones de semejante alcance permanezcan concentradas en empresas privadas y pequeños grupos de ingenieros. Su salida se suma a otras renuncias motivadas por diferencias sobre seguridad, como la de Jan Leike en OpenAI durante 2024.
Las declaraciones no describen un desenlace inevitable, sino estimaciones de riesgo formuladas por especialistas del propio sector. Sin embargo, exponen las diferencias internas que existen alrededor de la velocidad con la que las principales compañías buscan desarrollar modelos cada vez más capaces.
