Claude Mythos, el nuevo modelo de IA de Anthropic que preocupa a gobiernos y bancos por sus capacidades en ciberseguridad
La compañía afirma que la herramienta supera a los humanos en tareas de piratería informática y puede detectar vulnerabilidades críticas en sistemas con décadas de antigüedad. Reguladores, bancos centrales y la Unión Europea ya expresaron su preocupación.
El mundo de la inteligencia artificial atraviesa un nuevo debate tras las revelaciones de Anthropic sobre su modelo Claude Mythos: la compañía asegura que la herramienta puede superar a los humanos en algunas tareas de piratería informática y ciberseguridad, lo que encendió alertas entre reguladores, legisladores e instituciones financieras de todo el mundo.
Mythos fue presentado a principios de abril como "Avance de Mythos" y forma parte del sistema de IA más amplio de Anthropic, que compite con ChatGPT de OpenAI y Gemini de Google. Los equipos de investigación que lo evaluaron lo describieron como "sorprendentemente capaz en tareas de seguridad informática", con capacidad para localizar errores latentes en código de décadas de antigüedad y explotarlos sin mucha supervisión.
Según la compañía, el modelo ya encontró miles de vulnerabilidades de alta gravedad en todos los principales sistemas operativos y navegadores web, incluyendo un fallo que había permanecido oculto durante 27 años.
El Proyecto Glasswing
En lugar de liberar Mythos al público general, Anthropic le dio acceso restringido a 12 empresas tecnológicas a través del Proyecto Glasswing, una iniciativa orientada a estudiar y anticipar riesgos emergentes del propio sistema. Entre los participantes se encuentran Amazon Web Services, Apple, Microsoft, Google, Nvidia, Broadcom y Crowdstrike. La compañía afirma haber extendido el acceso a más de 40 organizaciones responsables de software crítico.
Preocupación global
Las capacidades del modelo llegaron a la agenda del Fondo Monetario Internacional. El ministro de Finanzas canadiense, François-Philippe Champagne, señaló que el tema fue tratado en una reunión del organismo en Washington y lo describió como "un asunto lo suficientemente serio como para merecer la atención de todos los ministros de finanzas".
El gobernador del Banco de Inglaterra, Andrew Bailey, advirtió que es necesario analizar "con mucha atención qué podría significar este último avance en inteligencia artificial para el riesgo de ciberdelincuencia". La Unión Europea también informó que mantiene conversaciones con Anthropic sobre sus preocupaciones en torno a Mythos.
¿Cuánto hay de real y cuánto de marketing?
Varios analistas y expertos independientes en ciberseguridad aún no han podido probar el modelo por sí mismos. El Instituto de Seguridad de la IA del Reino Unido concluyó que, si bien se trata de un modelo muy potente, su mayor amenaza se concentraría sobre los sistemas vulnerables y mal protegidos: "No podemos afirmar con certeza si Mythos Preview sería capaz de atacar sistemas bien defendidos", señalaron sus investigadores.
Ciaran Martin, exdirector del Centro Nacional de Ciberseguridad del Reino Unido, reconoció que las capacidades del modelo "conmocionaron a la gente", aunque advirtió que el sector de la IA tiene un historial de mezclar miedo y entusiasmo como parte de sus estrategias de comunicación. "Para algunos esto es un acontecimiento apocalíptico, para otros parece ser mucha exageración", señaló, aunque también subrayó que herramientas como Mythos abren "la oportunidad de construir un mundo en línea más seguro" y de solucionar vulnerabilidades subyacentes de internet.
Fuente: BBC Mundo
