Advierten empleados de Anthropic que la IA podría provocar la extinción humana
Investigadores y excolaboradores de la empresa estiman que los sistemas de inteligencia artificial podrían representar un riesgo extremo en la próxima década; reclaman mayores controles sobre el desarrollo de la superinteligencia
WASHINGTON, 10 de septiembre del 2026.— Empleados y excolaboradores de Anthropic, una de las principales empresas estadunidenses dedicadas al desarrollo de inteligencia artificial (IA), expresaron públicamente su preocupación ante la posibilidad de que los sistemas de nueva generación lleguen a representar una amenaza para la supervivencia de la humanidad durante los próximos 10 años.
Evan Hubinger, líder de ciencia de alineación de Anthropic, sostuvo que existe una posibilidad superior a 10 por ciento de que la inteligencia artificial termine con la humanidad durante la próxima década.
En un mensaje publicado a raíz de la salida de Jacob Coxon, investigador de la compañía, Hubinger señaló que, pese a los esfuerzos de Anthropic en materia de seguridad, todavía no existe un mecanismo capaz de garantizar que una eventual superinteligencia permanezca alineada con los objetivos humanos.
Coxon anunció su renuncia mediante una publicación en la plataforma X, en la que cuestionó el rumbo que mantienen los principales laboratorios de inteligencia artificial. Afirmó que durante los últimos tres años trabajó en investigaciones de preentrenamiento tanto en OpenAI como en Anthropic y consideró que ninguna de las dos empresas está actuando con la responsabilidad que exige el potencial de esta tecnología.
El investigador advirtió que las compañías avanzan a gran velocidad hacia el desarrollo de sistemas capaces de mejorar sus propias capacidades, mientras los mecanismos de control y seguridad no avanzan al mismo ritmo.
Según Coxon, los especialistas que trabajan en el sector reconocen internamente los riesgos que representa la IA, aunque públicamente algunos ejecutivos e investigadores procuran transmitir una imagen más moderada.
En la misma conversación intervino Samuel Marks, responsable de supervisión escalable de Anthropic, quien aclaró que sus declaraciones eran a título personal. El investigador sostuvo que existe entre los desarrolladores de IA una preocupación creciente ante la posibilidad de que la tecnología provoque la extinción humana u otras consecuencias de extrema gravedad.
Marks agregó que, a su juicio, la preocupación aumenta entre quienes ocupan posiciones de mayor responsabilidad dentro de las empresas dedicadas al desarrollo de estos sistemas.
Las advertencias se producen en medio de un acelerado crecimiento de la inteligencia artificial y de su incorporación a actividades cotidianas, mientras gobiernos y especialistas debaten los límites que deberían imponerse al desarrollo de modelos cada vez más capaces.
El empresario Elon Musk también ha advertido sobre el impacto que tendrá esta tecnología. En una publicación reciente sostuvo que la IA y los robots podrían más que duplicar el tamaño de la economía mundial en menos de una década. Días antes, durante una reunión de ministros de Finanzas del G-20, había estimado que la inteligencia artificial podría incrementar entre 20 y 30 por ciento la economía global.
Sin embargo, el propio Musk se encuentra entre quienes han expresado reiteradamente preocupación por los riesgos asociados con una IA avanzada.
Uno de los escenarios que genera mayor inquietud es la denominada automejora recursiva, concepto que plantea la posibilidad de que los sistemas de inteligencia artificial incrementen sus propias capacidades con una intervención humana cada vez menor. Aunque esta capacidad todavía no es una realidad, los principales laboratorios tecnológicos trabajan en su desarrollo.
Coxon advirtió que una IA suficientemente avanzada podría adquirir capacidades superiores a las humanas, intervenir en sistemas informáticos, transformar actividades económicas y científicas y acumular recursos y poder a una velocidad difícil de controlar.
La preocupación también ha aumentado después de incidentes relacionados con sistemas de inteligencia artificial, entre ellos un episodio registrado en julio, cuando un modelo de OpenAI vulneró mecanismos de seguridad de la plataforma Hugging Face.
OpenAI, considerada una de las empresas líderes del sector, declinó pronunciarse directamente sobre las declaraciones de Coxon. No obstante, destacó diversas actualizaciones relacionadas con sus mecanismos de seguridad, entre ellas investigaciones sobre monitoreo, medidas de protección, suspensión o aplazamiento de desarrollos cuando sea necesario y esfuerzos para establecer estándares comunes y mecanismos de coordinación internacional.
Anthropic, por su parte, sostiene que su objetivo es desarrollar sistemas de inteligencia artificial potentes, seguros y confiables. Su modelo conversacional Claude ha sido diseñado bajo principios de seguridad orientados a proporcionar respuestas útiles, evitar comportamientos dañinos y recurrir a la intervención humana cuando sea necesario.
El debate ya alcanzó al ámbito legislativo estadunidense. Algunos congresistas han planteado restricciones más severas al desarrollo de sistemas avanzados, mientras otros impulsan mecanismos que permitan mantener el control humano sobre la tecnología.
El senador por Vermont Bernie Sanders y el representante por Texas Greg Casar han planteado una legislación que prohibiría el desarrollo de superinteligencia artificial. Sanders y la representante por Nueva York Alexandria Ocasio-Cortez también han llamado, por separado, a establecer una moratoria sobre la construcción de nuevos centros de datos destinados a inteligencia artificial.
Entre sus principales preocupaciones se encuentra el impacto que tendría la expansión de esta infraestructura sobre el consumo de electricidad y el medio ambiente.
Otros legisladores han optado por centrar el debate en mecanismos de seguridad. Entre las propuestas discutidas en el Congreso figura la obligación para los desarrolladores de incorporar sistemas que permitan desactivar de manera segura modelos avanzados en caso de que pierdan el control humano o comiencen a operar sin supervisión.
La representante por Florida Anna Paulina Luna, además, ha solicitado una sesión especial del Congreso para evaluar si Estados Unidos se encuentra preparado para enfrentar los riesgos derivados del avance de la inteligencia artificial.
En paralelo, los representantes Lori Trahan, de Massachusetts, y Jay Obernolte, de California, impulsan una iniciativa bipartidista relacionada con la seguridad de la IA. Sin embargo, el Congreso estadunidense mantiene diferencias sobre el alcance que debe tener la intervención gubernamental en una industria cuyo desarrollo avanza a un ritmo acelerado.
Así, mientras las empresas tecnológicas defienden la necesidad de continuar con la innovación, investigadores, especialistas y legisladores presionan para establecer salvaguardas que permitan evitar que el desarrollo de sistemas cada vez más autónomos termine rebasando la capacidad humana para supervisarlos.