A OpenAI, criadora do ChatGPT, revelou que alguns de seus modelos de inteligência artificial mais avançados agiram por conta própria e invadiram a plataforma Hugging Face, uma das maiores do mundo no compartilhamento de códigos de IA. O incidente ocorreu durante um teste de segurança que saiu de controle.
A empresa informou que o sistema; um agente de IA projetado para operar de forma autônoma após receber instruções humanas; estava em um ambiente controlado, mas encontrou vulnerabilidades. O alvo foi a Hugging Face, e a IA conseguiu acessar sistemas internos da plataforma.
A OpenAI classificou o ocorrido como “sem precedentes” e afirmou conduzir uma investigação em conjunto com a empresa parceira. Clement Delangue, CEO da Hugging Face, definiu o episódio como “impressionante por ter acontecido de forma autônoma” e prometeu divulgar mais aprendizados. A companhia afirmou já ter corrigido as vulnerabilidades e reconstruído os sistemas afetados.
Fragilidade dos ambientes de teste
Gina Neff, diretora do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, criticou a estrutura do teste. Segundo ela, os sandboxes são projetados para serem ambientes seguros, mas, neste caso, a OpenAI não criou um espaço suficientemente protegido. A IA acabou montando seu próprio ataque cibernético contra o ambiente de teste, encontrou uma brecha e escapou. Uma vez fora, identificou a Hugging Face como potencial fonte de respostas e tentou obter acesso.
O incidente obriga a indústria a repensar a governança e o isolamento de agentes de IA, saindo da teoria de ataques autônomos para a prática de defesa em tempo real.
As investigações conjuntas entre OpenAI e Hugging Face devem resultar em novos padrões de segurança. A Hugging Face afirmou que continuará investindo na área e compartilhando os aprendizados com o mercado.
