Anthropic teme que la IA se salga de control y pide una pausa global en su desarrollo
Por Frank Landymore .Publicado el
2026/06/06 15:35
Anthropic, una de las empresas más influyentes en el campo de la inteligencia artificial, ha lanzado un llamamiento sin precedentes para establecer una "tregua" o moratoria temporal y coordinada a escala mundial en el desarrollo de los modelos de IA más avanzados. La compañía advierte que la tecnología podría acercarse rápidamente a un punto en el que la humanidad pierda la capacidad de supervisarla eficazmente.
La advertencia fue presentada en un extenso informe publicado por el instituto de investigación de la empresa. En él se sostiene que la familia de modelos Claude podría aproximarse a una etapa en la que sea posible la denominada "automejora recursiva" (Recursive Self-Improvement), una capacidad teórica mediante la cual un sistema de IA podría mejorar sus propias capacidades sin intervención humana directa.
Según el documento, este proceso podría acelerar el desarrollo de sistemas cada vez más potentes y autónomos, planteando interrogantes sobre la capacidad de las instituciones humanas para supervisarlos y regularlos adecuadamente.
Anthropic subrayó que el mundo aún no ha alcanzado ese escenario, pero advirtió que podría materializarse antes de que gobiernos y organismos internacionales estén preparados para afrontarlo.
Dominio comercial y acusaciones de oportunismo
La propuesta de Anthropic llega en un momento que algunos observadores consideran especialmente favorable para sus propios intereses comerciales. En los últimos meses, la compañía ha experimentado un fuerte crecimiento y sus modelos se encuentran entre los sistemas de IA más avanzados del mercado, especialmente en tareas de programación.
Por ello, algunos analistas sostienen que una desaceleración coordinada del sector podría contribuir a consolidar la posición de liderazgo de la empresa frente a sus competidores.
Las advertencias de Anthropic tampoco han convencido a todos los expertos. El investigador y crítico de la inteligencia artificial Gary Marcus calificó el informe como una estrategia de «cambio de narrativa de última hora». En su blog escribió que la empresa intenta generar preocupación sobre una eventual pérdida de control humano, cuando lo que realmente ha demostrado es una aceleración en determinados procesos de programación que continúan bajo supervisión humana.
«Una herramienta de programación más rápida no va a acabar con el mundo», resumió Marcus.
La imagen de empresa responsable
Desde su fundación, Anthropic ha intentado proyectarse como una de las compañías más cautelosas y centradas en la seguridad dentro de la industria de la IA. Parte de esa imagen se basa en la narrativa de que su director ejecutivo, Dario Amodei, optó por no lanzar ciertos avances tecnológicos en 2022 debido a preocupaciones relacionadas con la seguridad, mientras OpenAI acaparaba la atención mundial con el lanzamiento de ChatGPT.
Más recientemente, la compañía reforzó ese discurso al anunciar un nuevo modelo denominado Mythos, cuyo acceso fue restringido alegando que sus capacidades podrían representar riesgos significativos si se distribuyera sin controles adecuados.
Brecha de credibilidad y colaboración militar
Sin embargo, algunos críticos consideran que la reputación ética de Anthropic se ha visto cuestionada por determinadas colaboraciones con organismos gubernamentales y de defensa.
A principios de este año surgieron informaciones sobre debates internos relacionados con el posible uso de sistemas de IA en aplicaciones militares y de vigilancia. Posteriormente aparecieron reportes que señalaban que modelos de la compañía estaban siendo utilizados en tareas vinculadas al análisis de objetivos militares.
Asimismo, diversos medios informaron sobre la cooperación de Anthropic con agencias de seguridad estadounidenses en proyectos relacionados con ciberseguridad avanzada.
En declaraciones recogidas por The Guardian, el profesor Steven Murdoch, del University College London, afirmó que la definición de seguridad defendida por la empresa puede resultar demasiado limitada y que su disposición a colaborar con organismos de seguridad nacional plantea interrogantes sobre la coherencia entre su discurso público y algunas de sus actividades.
¿Advertencia sincera o estrategia de comunicación?
Más allá de las motivaciones reales de la compañía, la iniciativa ha reabierto el debate sobre la velocidad a la que avanza la inteligencia artificial y sobre la necesidad de establecer mecanismos internacionales de supervisión.
Anthropic ha anunciado que en los próximos meses organizará encuentros con responsables políticos, investigadores, organizaciones de la sociedad civil y empresas competidoras para debatir los desafíos planteados por la posible aparición de sistemas capaces de mejorarse a sí mismos.
La discusión sobre si la automejora recursiva representa una amenaza real o una posibilidad aún lejana sigue abierta. Lo que parece indiscutible es que la carrera por desarrollar modelos cada vez más potentes ha convertido la seguridad y la gobernanza de la IA en uno de los temas centrales del debate tecnológico mundial.
Califica este tema