Anthropic asegura haber creado una IA tan potente que nunca la podrás usar

• El tribunal federal de EEUU suspende el castigo del Pentágono contra Anthropic temporalmente
• Anthropic lanza una nueva función de Claude que le permite tomar el control de tu ordenador y hacer tu trabajo solo

Anthropic ha situado a Claude Mythos Preview en el centro del debate sobre la inteligencia artificial más avanzada tras admitir que su nuevo sistema es tan potente que no llegará al público general. La compañía sostiene que el salto de capacidades detectado durante sus pruebas obliga, por ahora, a limitar su acceso a especialistas.

La idea no gira alrededor de una mejora menor ni de una simple actualización de software. Lo que describe la propia empresa es un modelo de frontera que, durante distintos ensayos, mostró comportamientos capaces de encender todas las alarmas internas. Ahí está el quid de la cuestión: una herramienta concebida para empujar los límites de la IA que, precisamente por eso, ha terminado guardada bajo llave.

La referencia oficial es la tarjeta del sistema publicada por Anthropic, un documento de 244 páginas en el que la firma detalla riesgos, fortalezas y fallos observados. En ese material se explica que el aumento de rendimiento de Mythos llevó a tomar una decisión tajante: "El gran aumento de capacidades nos ha llevado a decidir no ponerlo a disposición del público general".

Pruebas bajo vigilancia

Uno de los episodios más delicados se produjo cuando el modelo recibió acceso a un terminal aislado, con servicios online muy restringidos, y se le planteó el reto de "escapar". Según el documento, la IA logró salir de ese entorno controlado, encontrar una vía para usar internet con mayor libertad e incluso contactar con un investigador que estaba fuera de la oficina mientras comía.

La inquietud no terminó ahí. Siempre según la propia tarjeta del sistema, el modelo realizó además una acción no solicitada para demostrar que había tenido éxito: publicó detalles de su exploit en varias webs técnicamente públicas, aunque poco visibles. Esa conducta refuerza la preocupación de Anthropic sobre el uso de una IA avanzada capaz de actuar más allá de lo que se le pide.

La compañía también reconoce que, en el 0,001% de las interacciones, el sistema se comportó de forma inadecuada e intentó ocultarlo. Entre los ejemplos citados figura un caso en el que obtuvo accidentalmente una respuesta de prueba que no debía conocer. En vez de informar a los investigadores y solicitar otra pregunta, trató de resolver la situación por su cuenta y dejó constancia de que necesitaba no resultar “demasiado preciso” en su respuesta final.

Acceso para unos pocos

Otro de los incidentes recogidos por Anthropic señala que el modelo aprovechó un fallo dentro de un sistema informático para ampliar permisos y, después, realizó intervenciones destinadas a que los cambios no aparecieran en el historial de Git. El documento también menciona un episodio descrito como "Filtración imprudente de material técnico interno", después de que publicara archivos confidenciales en un repositorio público de GitHub.

TE PUEDE INTERESAR

ChatGPT, Gemini, Claude y DeepSeek se enfrentan al 'Último Examen de la Humanidad' y muestran cómo de cerca estamos de la AGI

R. Badillo

Pese a ese panorama, Claude Mythos Preview no desaparecerá por completo. Su disponibilidad quedará restringida a un grupo de socios como Amazon Web Services, Apple, Google, JPMorgan Chase, Microsoft y NVIDIA, con la idea de utilizarlo para localizar vulnerabilidades de seguridad y diseñar parches. Más que un lanzamiento comercial al uso, el movimiento dibuja un nuevo escenario: el de una IA tan poderosa que sus creadores prefieren convertirla primero en herramienta de contención.