Anthropic pide frenar el desarrollo mundial de la IA, este es el sorprendente motivo
La compañía ha indicado que existe el riesgo real de que existan sistemas capaces de crear a su propio sucesor.
La compañía Anthropic ha puesto sobre la mesa una advertencia sorprendente respecto a la industria de la inteligencia artificial: el avance de esta tecnología podría acercarse a un punto en el que algunos sistemas empiecen a diseñar y desarrollar a su propio sucesor sin intervención humana completa. La empresa sostiene que esa fase todavía no ha llegado y que, además, no es inevitable, pero también subraya que podría aparecer antes de lo que muchas instituciones están preparadas para asumir.
A partir de esa premisa, la compañía defiende que el mundo debería contar con la opción real de ralentizar -o incluso pausar temporalmente- el desarrollo de los modelos más avanzados. Nada más y nada menos…
Un aviso… inesperado y preocupante
La propuesta de Anthropic no parte de una enmienda al desarrollo de la IA en general, sino de un temor muy concreto: que la velocidad de mejora de los sistemas termine desbordando la capacidad de la sociedad para supervisarlos, regularlos y alinearlos con intereses humanos. En su planteamiento, una inteligencia artificial capaz de contribuir a la creación de versiones más avanzadas de sí misma podría abrir puertas extraordinarias en campos como la ciencia o la sanidad, pero al mismo tiempo elevaría el riesgo de que los humanos perdiesen margen de control sobre herramientas cada vez más complejas. Por eso, la compañía habla de una ralentización significativa o de una pausa temporal que permita a las estructuras sociales y a la investigación en alineamiento seguir el ritmo de la tecnología.
El mensaje resulta especialmente llamativo porque procede de una de las firmas más destacadas de la actual carrera por la IA. El debate, además, no se limita al contenido técnico de la advertencia, sino también a la credibilidad de quien la formula: insistir en los peligros de sus propios avances puede servir a Anthropic para proyectar una imagen de empresa prudente, frente a sus competidores o para reforzar la idea de que sus productos son especialmente avanzados. Hay que recordar que esa misma sospecha ha aparecido también alrededor de Mythos, su modelo de ciberseguridad, cuya distribución se limitó a un grupo reducido de socios con el argumento de que su capacidad para localizar vulnerabilidades podría causar un daño serio en manos equivocadas.
Es importante indicar que esta petición da continuidad a una línea de trabajo asociada al Anthropic Institute, la división de investigación que la compañía lanzó en marzo de 2026. Según la propia compañía, este organismo nació con el objetivo de comunicar a la sociedad lo que vaya aprendiendo sobre los retos que surgen a medida que se construyen sistemas de IA cada vez más avanzados. Entre las cuestiones que el instituto quiere estudiar figuran el impacto de estas herramientas en el empleo, la economía, la seguridad, el sistema legal y la posible aparición de dinámicas de auto-mejora. También se ha marcado como tarea analizar qué haría falta para poner en marcha mecanismos que hicieran creíble una ralentización coordinada.
Una aspiración complicada de conseguir
La clave de la propuesta está en la palabra coordinación. Anthropic admite que una pausa de verdad solo tendría sentido si varias compañías situadas en la frontera tecnológica, y además repartidas en distintos países, aceptasen parar bajo las mismas condiciones. De lo contrario, el escenario podría ser incluso peor: bastaría con que algunos actores continuasen desarrollando modelos en secreto para obtener ventaja sobre el resto. Por eso la empresa no solo habla de detener o reducir el ritmo, sino de verificar de forma efectiva que todos los implicados están cumpliendo. En otras palabras, no bastaría con un compromiso político o empresarial; harían falta reglas compartidas, vigilancia mutua y criterios claros para decidir cuándo se activa y cuándo se levanta esa pausa.
Dentro de ese marco, Anthropic reconoce que una parada unilateral sería mucho más sencilla de ejecutar, pero también bastante menos útil. Si una sola compañía decide bajar el ritmo mientras otras siguen acelerando, el resultado no sería una conversación global más segura, sino un simple traslado del liderazgo tecnológico. Lo que plantea la firma se parece más a un acuerdo internacional difícil de negociar que a una decisión individual de empresa. Y se antoja algo realmente complicado.
Otro detalle a tener en cuenta es que Anthropic ha señalado que, a fecha de mayo, más del 80 % del código incorporado a su base de desarrollo ya había sido escrito por Claude, un dato que la empresa utiliza como prueba de que la inteligencia artificial ya está acelerando la creación de nuevos sistemas.
Finalmente, la compañía ha indicado que prevé abrir conversaciones durante los próximos meses con responsables políticos, investigadores, grupos de la sociedad civil y otras firmas del sector para abordar este problema y publicar después los resultados de esos intercambios. La discusión, por tanto, ya no gira solo en torno a lo que la IA podrá hacer mañana, sino a qué tipo de frenos internacionales podrían activarse antes de que esa mañana llegue demasiado deprisa. Y en ese terreno, la compañía defiende que disponer de la capacidad de frenar no equivale a renunciar al progreso, sino a reservar una medida de seguridad para un escenario que considera plausible, inexplorado y potencialmente peligroso.