O Colégio de Presidentes das Seccionais da Ordem dos Advogados do Brasil (OAB), em parceria com o Jusbrasil, lançou uma plataforma gratuita para identificar indícios de prompt injection em documentos jurídicos. A ferramenta permite que advogados analisem petições e outros arquivos antes do protocolo, reduzindo o risco de comandos ocultos capazes de influenciar sistemas de inteligência artificial utilizados no ambiente jurídico.

A iniciativa surge em um momento de expansão do uso da IA na advocacia e no Poder Judiciário, reforçando a preocupação com a segurança, a integridade e a confiabilidade dos documentos processuais.

Segundo o presidente da OAB Goiás e coordenador do Colégio de Presidentes das Seccionais da OAB, Rafael Lara Martins, a plataforma responde a uma demanda crescente da advocacia diante da incorporação da inteligência artificial às rotinas profissionais.

“Essa ferramenta nasce da constatação de uma necessidade real da advocacia e segue parâmetros de segurança e acessibilidade. É uma solução tecnicamente eficaz e segura, do ponto de vista da proteção de dados. Esse equilíbrio entre inovação e responsabilidade orienta o trabalho”, afirmou.

A presidente da OAB Bahia e também coordenadora do colegiado, Daniela Borges, destacou que a evolução tecnológica precisa ser acompanhada por mecanismos capazes de preservar a segurança jurídica.

“A inteligência artificial vem transformando o ecossistema jurídico. No entanto, é fundamental que essa transformação esteja acompanhada de critérios sólidos de responsabilidade, segurança e confiabilidade”, ressaltou.

Plataforma atua na prevenção de ataques contra sistemas de IA

Desenvolvida pelo Jusbrasil, a plataforma foi criada para identificar possíveis tentativas de prompt injection indireta, técnica que consiste na inserção de comandos invisíveis em documentos destinados a serem processados por sistemas de inteligência artificial.

De acordo com o cofundador da empresa, Luiz Paulo Pinho, o objetivo é oferecer uma camada adicional de proteção aos profissionais do Direito sem utilizar os documentos enviados para treinamento de modelos de IA.

“Quando identificamos que documentos poderiam conter instruções ocultas capazes de comprometer o ecossistema jurídico, desenvolvemos uma solução pública e gratuita para verificação”, explicou.

Caso recente motivou criação da ferramenta

A iniciativa foi anunciada após um episódio registrado em maio deste ano, quando duas advogadas foram condenadas ao pagamento de multa por incluírem, em uma petição, um comando oculto em texto branco sobre fundo branco. A instrução, invisível aos leitores humanos, tinha o objetivo de influenciar o comportamento de uma ferramenta de inteligência artificial utilizada pela Justiça do Trabalho.

Embora a tentativa tenha sido identificada e neutralizada, o caso expôs uma vulnerabilidade relacionada ao uso crescente de sistemas de IA no Judiciário e evidenciou a necessidade de mecanismos preventivos para proteger a integridade das análises automatizadas.

Uso da IA amplia necessidade de verificação

A expectativa da OAB e do Jusbrasil é que procedimentos de verificação de documentos se tornem cada vez mais comuns à medida que escritórios de advocacia, tribunais e órgãos públicos ampliem o uso de inteligência artificial.

A proposta é fortalecer a segurança, a transparência e a confiabilidade na utilização dessas tecnologias, reduzindo riscos de manipulação e contribuindo para a integridade dos procedimentos judiciais.

Fonte: Jusbrasil.