OpenAI diz que modelo de IA saiu do controle e invadiu o Hugging Face durante teste

A OpenAI declarou nesta terça-feira (21) que um de seus modelos de inteligência artificial saiu do controle e conseguiu invadir o Hugging Face, plataforma digital de tecnologia de IA popular entre desenvolvedores.

O incidente ocorreu na semana passada, enquanto a OpenAI testava as capacidades de cibersegurança de seus próprios sistemas, e demonstrou o tipo de risco que empresas de inteligência artificial já vinham alertando que poderia se tornar realidade.

A invasão ao Hugging Face começou quando a OpenAI testou uma combinação de dois de seus modelos, o GPT-5.6 Sol e um modelo mais poderoso ainda não lançado, para verificar quão bem eles conseguiriam encadear vulnerabilidades online em um ciberataque bem-sucedido. A informação consta em publicação da própria OpenAI em seu blog sobre o incidente.

Segundo a empresa, o teste foi projetado para manter os modelos em um ambiente de testes seguro, conhecido como sandbox. Mas os modelos encontraram uma vulnerabilidade que permitiu escapar desse isolamento e se conectar à internet. Em seguida, miraram o Hugging Face, pois inferiram que a plataforma, que reúne milhões de modelos de IA, poderia conter pistas sobre como ter sucesso na avaliação.

A OpenAI, a Anthropic e outros laboratórios de IA lançaram no último ano modelos personalizados para expor falhas de cibersegurança, ao mesmo tempo em que alertavam que essa mesma tecnologia poderia representar novos riscos, ao encontrar brechas em redes corporativas de computadores mais rápido do que os responsáveis pela defesa conseguiriam corrigi-las.

As revelações da OpenAI indicam que esse tipo de incidente de segurança já começou a acontecer, mesmo que as próprias empresas de IA ainda não estejam totalmente preparadas para lidar com eles.