Movimiento de ruptura: la inteligencia artificial comienza a aislar a los humanos
Por Victor Tangermann .Publicado el
2026/05/29 10:39
Las preocupaciones en torno a los modelos más recientes de Anthropic han dejado de girar únicamente en torno a la autonomía de la inteligencia artificial. Con el lanzamiento de su nuevo modelo Mythos y las actualizaciones de Claude Code, el debate se ha desplazado hacia un terreno mucho más inquietante: sistemas capaces de operar de maneras que incluso sus propios desarrolladores tienen dificultades para comprender plenamente.
La discusión ya no trata solo de automatización, sino de opacidad. A medida que los modelos se vuelven más complejos, algunos investigadores advierten que los humanos están perdiendo visibilidad sobre los procesos internos que conducen a determinadas decisiones o fragmentos de código generados por IA.
La “caja negra” de la inteligencia artificial
Uno de los puntos más controvertidos de las recientes actualizaciones de Anthropic es la reducción de acceso a ciertos procesos internos relacionados con la llamada “cadena de pensamiento” (Chain of Thought), el mecanismo mediante el cual los modelos estructuran parte de su razonamiento antes de producir una respuesta.
Los críticos sostienen que esta tendencia profundiza el fenómeno de la “caja negra” en la IA moderna:
Menos transparencia: los sistemas generan respuestas y código funcional sin mostrar necesariamente el razonamiento completo detrás de cada decisión.
Mayor dificultad de supervisión: a medida que las arquitecturas neuronales crecen en complejidad, incluso los ingenieros tienen problemas para rastrear con precisión cómo emergen ciertos comportamientos dentro del modelo.
Para algunos expertos, esta evolución podría reducir progresivamente la capacidad humana de auditar, corregir o interpretar sistemas avanzados de inteligencia artificial en tiempo real.
Advertencias desde el Vaticano
Las preocupaciones aumentaron tras unas declaraciones recientes de Chris Olah, cofundador de Anthropic, durante un evento celebrado en el Vaticano. Olah reconoció que los investigadores continúan encontrando comportamientos “misteriosos” e inesperados dentro de modelos avanzados de IA.
Sus comentarios reflejan una inquietud creciente dentro de la industria: los sistemas basados en redes neuronales profundas ya no funcionan únicamente bajo reglas explícitas del tipo “If/Then”, propias de la programación tradicional. En cambio, desarrollan patrones emergentes extremadamente difíciles de interpretar de forma completa.
Riesgos crecientes y dependencia tecnológica
Anthropic también ha advertido sobre el enorme potencial ofensivo de modelos avanzados como Mythos en el ámbito de la ciberseguridad. Según la empresa, herramientas de esta escala podrían acelerar ataques informáticos sofisticados si son utilizadas de forma indebida.
Al mismo tiempo, algunos analistas temen que la creciente dependencia de herramientas automáticas esté erosionando habilidades técnicas fundamentales entre programadores e ingenieros. Informes citados por plataformas como 404 Media alertan sobre una posible “atrofia” de capacidades prácticas a medida que más desarrolladores delegan tareas complejas en asistentes de IA.
El resultado es una paradoja inquietante: las compañías tecnológicas promueven sistemas cada vez más potentes y autónomos mientras reconocen, al mismo tiempo, que ni siquiera sus propios creadores comprenden completamente cómo evolucionan ciertos procesos internos.
Para muchos expertos, el verdadero desafío ya no es únicamente construir inteligencias más avanzadas, sino mantener la capacidad humana de entenderlas, supervisarlas y controlarlas.
Califica este tema