Un «pequeño grupo de usuarios no autorizados» accedió al modelo Mythos AI de Anthropic, una poderosa herramienta de ciberseguridad que, según la compañía, podría ser peligrosa en las manos equivocadas. Bloomberg Informes. Un miembro anónimo del grupo, identificado sólo como un «contratista externo de Anthropic», dijo a la publicación que los miembros de un foro privado en línea ingresaron a Mythos mediante una combinación de tácticas, utilizando el acceso de contratistas y «herramientas de espionaje en línea de uso común».
Claude Mythos Preview es un nuevo modelo de propósito general capaz de identificar y explotar vulnerabilidades «en todos los principales sistemas operativos y en todos los principales navegadores web cuando así lo indique el usuario», según Anthropic. El acceso oficial al modelo está limitado a unas pocas empresas a través de la iniciativa Project Glasswing, incluidas Nvidia, Google, Amazon Web Services, Apple y Microsoft. Los gobiernos también están mirando hacia esta tecnología. Anthropic actualmente no tiene planes de lanzar el modelo públicamente debido a la preocupación de que pueda usarse como arma.
«Estamos investigando un informe que alega acceso no autorizado a Claude Mythos Preview a través de uno de nuestros entornos de proveedores externos», dijo un portavoz de Anthropic en un comunicado. Bloomberg. Actualmente, Anthropic no tiene evidencia de que el acceso no autorizado esté afectando los sistemas de la empresa o vaya más allá del entorno del proveedor externo.
Según se informa, se accedió ilícitamente al modelo el 7 de abril, el mismo día en que Anthropic anunció que entregaría Mythos a un número limitado de empresas para que lo probaran. Sin embargo, el grupo que obtuvo el acceso no autorizado no ha sido identificado públicamente. Bloomberg Informa que sus miembros son parte de un canal de Discord que busca información sobre modelos de IA inéditos.
El grupo accedió a Mythos utilizando el conocimiento de otros formatos de modelos de Anthropic obtenido de la reciente violación de datos de Mercor para hacer una «suposición fundamentada» sobre su sitio web. Los miembros han estado usando Mythos regularmente desde que obtuvieron acceso, ofreciendo capturas de pantalla y una demostración en vivo del modelo como prueba. Bloomberg – Aunque no con fines de ciberseguridad en un intento de evitar la detección por parte de Anthropic. El grupo también obtuvo acceso a otros modelos de IA antrópica inéditos, según Bloomberg.
(etiquetas para traducción) Amnistía Internacional