La empresa estadounidense Anthropic, una de las punteras en el campo de la inteligencia artificial (IA), ha revelado que, durante unas pruebas de ciberseguridad, tres modelos de su asistente Claude lograron acceder a internet y hackear los sistemas de tres organizaciones.
El pasado 21 de julio, otra empresa estadounidense, OpenAI, ya había reconocido que dos de sus modelos de IA habían conseguido salir de un entorno de pruebas y entrar en la plataforma Hugging Face, superando sus defensas.
Según ha reconocido Anthropic en su web, durante una revisión de sus evaluaciones de seguridad, la empresa encontró tres incidentes en los que un modelo de Claude accedió a internet y posteriormente consiguió entrar en los sistemas de tres organizaciones diferentes.
Anthropic, que inició esta revisión a raíz del anuncio realizado por OpenAI, analizó más de 146.000 operaciones en las que Claude podría haber obtenido acceso a internet.
Durante ese análisis, la empresa identificó tres incidentes en los que un modelo de Claude había salido a internet mientras interactuaba con un socio externo encargado de sus evaluaciones y posteriormente había logrado entrar en los sistemas de tres organizaciones diferentes.
Publicidad
Los incidentes, que comenzaron en abril, involucraron a tres modelos diferentes de Claude: el Opus 4.7, el Mythos 5 y un modelo interno de prueba.
En las tres ocasiones, a Claude se le había asignado el reto de infiltrarse en un sistema ficticio en un entorno de pruebas y se le había especificado que se trataba de una simulación y que no tenía acceso a internet.
Publicidad
Sin embargo, según Anthropic, por un malentendido entre la empresa y el socio encargado de la evaluación, Claude sí disponía de acceso a la red, por lo que cumplió su cometido entrando en sistemas reales.
Este anuncio ocurre pocos días después de que ocurriera un cibernético relacionado con dos de los modelos de inteligencia artificial más avanzados. La Comisión Europea dijo este jueves que OpenAI le ha informado sobre el incidente cibernético de dos de sus modelos de inteligencia artificial más avanzados contra la plataforma de aprendizaje Hugging Face y aseguró que mantiene una "buena colaboración" con la tecnológica estadounidense en este ámbito.
"Puedo confirmar que hemos recibido una notificación de OpenAI y que hemos mantenido contactos sobre este tema específico. Por tanto, hay un buen progreso y una buena colaboración en este frente", afirmó el portavoz de política digital del Ejecutivo comunitario, Thomas Regnier, en la rueda de prensa diaria de la institución.
No obstante, evitó dar más información sobre los detalles del intercambio entre Bruselas y la compañía estadounidense.
Publicidad
OpenAI ha reconocido que este incidente de seguridad "sin precedentes" fue provocado por una combinación de dos de sus modelos de IA que estaban siendo evaluados: el GPT-5.6 Sol y otro, aún más avanzado, que se encuentra en fase de prelanzamiento.
La evaluación se estaba realizando sin los mecanismos que normalmente impiden que los modelos de IA ejecuten actividades de alto riesgo, porque se intentaba averiguar el alcance máximo de sus capacidades cibernéticas.
Publicidad
Según OpenAI, las pruebas se realizaron en un entorno "altamente aislado", con un acceso restringido a la red. Aun así, los modelos de IA consiguieron acceder a internet.
EFE
Suscríbase a nuestro canal de WhatsApp Channels aquí 👉🏻 Noticias Caracol
✔️ Síganos en Google Noticias con toda la información de Colombia y el mundo.