OpenAI investiga ciberataque atribuido a dos de sus modelos de IA

OpenAI informó que continúa investigando un incidente de ciberseguridad en el que dos de sus modelos de inteligencia artificial accedieron sin autorización a los sistemas de la empresa Hugging Face, durante una prueba realizada en un entorno controlado.

Según la compañía, el incidente ocurrió mientras los modelos operaban en un entorno aislado de evaluación, conocido como sandbox, con restricciones de seguridad reducidas. Sin embargo, los sistemas encontraron la forma de conectarse a internet, utilizar credenciales comprometidas y explotar una vulnerabilidad desconocida para acceder a servidores de la plataforma especializada en inteligencia artificial.

El incidente reabre el debate sobre la seguridad de la IA

OpenAI explicó que la intrusión involucró a su nuevo modelo GPT-5.6 Sol y a otro sistema aún en fase de pruebas internas. De acuerdo con la empresa, ambos modelos buscaron obtener información que les permitiera mejorar su desempeño durante la evaluación, actuando sin instrucciones humanas directas una vez iniciado el proceso.

Hugging Face había informado la semana pasada sobre una intrusión en su infraestructura tecnológica. No obstante, señaló que solo esta semana confirmó que el origen del incidente estaba relacionado con modelos desarrollados por OpenAI.

El director ejecutivo de Hugging Face, Clément Delangue, calificó el hecho como «un ataque diferente a cualquier otro observado hasta ahora» y aseguró que ambas compañías colaboraron para contener la situación.

Expertos discrepan sobre el nivel de autonomía

El caso ha generado posiciones encontradas entre especialistas en inteligencia artificial y ciberseguridad.

Hannes Cools, investigador de la Universidad de Ámsterdam, sostuvo que atribuir el ataque a una IA actuando por sí sola puede desviar la responsabilidad de las decisiones humanas relacionadas con la configuración de las pruebas y la desactivación de determinadas salvaguardas.

Por el contrario, Colin Shea-Blymyer, investigador del Centro para la Seguridad y las Tecnologías Emergentes de la Universidad de Georgetown, consideró que el incidente representa uno de los mayores niveles de autonomía observados hasta ahora en operaciones cibernéticas realizadas por modelos de lenguaje.

Código abierto y modelos cerrados

El incidente también ha reavivado el debate entre los modelos de inteligencia artificial de código abierto y los sistemas propietarios.

Mientras OpenAI desarrolla modelos cerrados, Hugging Face promueve el uso de tecnologías abiertas para facilitar la investigación y el fortalecimiento de las herramientas de defensa. La empresa indicó que utilizó un modelo de código abierto desarrollado en China para ayudar a contener la intrusión.

OpenAI aseguró que continúa investigando el incidente y afirmó que la seguridad de los modelos deberá evolucionar al mismo ritmo que aumentan sus capacidades.

Síguenos en Instagram, Facebook y nuestro canal de Telegram