O Grok, chatbot de inteligência artificial desenvolvido pela xAI, empresa de Elon Musk, admitiu nesta sexta-feira (2) que falhas em seus mecanismos de proteção resultaram na geração de imagens sexualizadas envolvendo menores de idade.

Em comunicado, a empresa informou que já iniciou a implementação de melhorias para impedir novas ocorrências desse tipo. O caso levou ministros do governo francês a acionarem a Arcom, órgão regulador da mídia na França, para apurar se o conteúdo violou a Lei de Serviços Digitais da União Europeia, segundo informou a agência Reuters.

As autoridades francesas classificaram o material como “sexual e sexista” e afirmaram que as imagens se enquadram como conteúdo “manifestamente ilegal”. As publicações, criadas a partir de comandos feitos por usuários ao Grok, mostravam menores vestindo “roupas mínimas”.

Em uma manifestação pública, o próprio chatbot reconheceu o problema. “Identificamos falhas nos mecanismos de proteção e estamos corrigindo isso com urgência”, declarou o Grok, reforçando que qualquer material relacionado a abuso sexual infantil é ilegal e terminantemente proibido.