Un investigador de Anthropic renunció a la empresa tras advertir sobre los riesgos de desarrollar sistemas de inteligencia artificial (IA) cada vez más avanzados, mientras uno de los responsables de seguridad de la compañía reconoció públicamente que estima en más de 10 por ciento la posibilidad de que una superinteligencia artificial provoque la muerte de toda la humanidad durante la próxima década.
De acuerdo con información de Infobae, Evan Hubinger, investigador que dirige un equipo de seguridad en Anthropic, respondió públicamente al mensaje de renuncia de Jacob Coxon y afirmó que el riesgo planteado por su excompañero es real. Hubinger sostuvo que la compañía considera posible que la inteligencia artificial llegue a matar a todos los humanos y calculó una probabilidad superior al 10 por ciento para los próximos diez años.
Coxon, de 27 años y formación en matemáticas, anunció el martes 8 de septiembre su salida de Anthropic mediante un mensaje publicado en la red social X, que en aproximadamente nueve horas acumuló más de 44 millones de visualizaciones. El investigador acusó tanto a Anthropic como a OpenAI de avanzar hacia sistemas de superinteligencia sin contar con mecanismos suficientes para controlarlos.
El investigador había trabajado desde 2023 en OpenAI y participó en labores relacionadas con el preentrenamiento de modelos, entre ellos GPT-4o. En julio de 2026 se incorporó a Anthropic, atraído por la reputación de la empresa en materia de seguridad, pero permaneció alrededor de dos meses antes de presentar su renuncia.
Coxon señaló que ambas compañías se encuentran en una carrera por desarrollar modelos cada vez más capaces. En el caso de OpenAI, sostuvo que parte de sus trabajadores no habría dimensionado las consecuencias que podría tener el desarrollo de una inteligencia artificial avanzada, mientras que en Anthropic, según su descripción, los riesgos son reconocidos, pero existe la percepción de que la empresa debe avanzar antes que sus competidores.
El investigador también afirmó que dentro de los equipos técnicos se utilizan términos como “crunchtime”, asociado a una etapa límite, y “endgame”, para referirse a una fase final del desarrollo de sistemas con capacidades superiores. Según Coxon, algunos de sus colegas consideran que determinados escenarios podrían quedar fuera de control hacia finales de 2027.
La principal preocupación expuesta por ambos investigadores se relaciona con la denominada alineación de la IA, concepto que busca que los objetivos y comportamientos de un sistema avanzado permanezcan de acuerdo con los valores e intereses humanos. Hubinger reconoció que Anthropic todavía no cuenta con un plan para resolver la alineación de una eventual superinteligencia y que tampoco existe certeza de que pueda desarrollarlo.
La salida de Coxon se suma a otras renuncias de especialistas vinculados con la seguridad de la inteligencia artificial. En febrero de este año, Mrinank Sharma dejó Anthropic y publicó una carta en la que cuestionó las dificultades para lograr que los valores de seguridad influyan en las decisiones de la compañía.
En OpenAI, Jan Leike, quien encabezaba los trabajos de alineación, renunció en 2024 y señaló que la cultura de seguridad había perdido prioridad frente al desarrollo de nuevos productos. Los movimientos dentro de ambas compañías han alimentado el debate sobre la capacidad de las empresas tecnológicas para mantener controles adecuados mientras incrementan rápidamente las capacidades de sus modelos.
También se han registrado incidentes relacionados con los sistemas de inteligencia artificial. En julio, OpenAI informó que algunos de sus modelos habían escapado de un entorno de prueba y accedido a sistemas de Hugging Face, episodio que la empresa describió como una señal de advertencia y que derivó en una pausa de su mayor entrenamiento por refuerzo.
Anthropic, por su parte, reconoció semanas después tres casos en los que modelos propios tuvieron acceso no autorizado a sistemas pertenecientes a otras organizaciones. Los incidentes se han incorporado al debate sobre los riesgos asociados con otorgar a los modelos mayores niveles de autonomía y acceso a herramientas externas.
El escenario adquiere relevancia para Anthropic debido también a sus planes financieros. La empresa prepara una posible salida a bolsa que, de acuerdo con el reporte citado, podría buscar una valuación de hasta 2 billones de dólares. Ante potenciales inversionistas, la seguridad y el desarrollo responsable de inteligencia artificial forman parte de los argumentos con los que la compañía busca diferenciarse.
Hasta el momento, ni Anthropic ni OpenAI respondieron a las solicitudes de comentarios mencionadas en la información. Las declaraciones de Hubinger constituyen, por ello, uno de los señalamientos internos más contundentes sobre los riesgos que enfrenta la industria ante el desarrollo de sistemas de IA de capacidades superiores.
La discusión no se centra únicamente en la posibilidad teórica de que una máquina cause daños, sino en la velocidad con la que las empresas buscan desarrollar sistemas capaces de mejorar sus propias capacidades. Coxon considera que avanzar hacia esa etapa representa una apuesta que debería someterse a controles mucho más amplios que los disponibles dentro de compañías privadas.
Mientras las empresas tecnológicas compiten por desarrollar modelos más potentes, las advertencias de investigadores que han trabajado directamente en sus equipos de seguridad ponen nuevamente sobre la mesa la dificultad de conciliar el crecimiento acelerado de las capacidades de la inteligencia artificial con la creación de mecanismos efectivos para controlarla. (Mas).
