Bidhio Portal de Notícias - Sua fonte de notícias na cidade de Coração de Maria

O Superior Tribunal de Justiça (STJ) decidiu nesta quarta-feira (20) dar início a uma investigação para averiguar a utilização de comandos de inteligência artificial (prompts) com o objetivo de fraudar o sistema eletrônico de submissão de petições da corte.

Por determinação do presidente do STJ, Herman Benjamin, foram abertos um inquérito policial e um processo administrativo interno para investigar as supostas tentativas de fraude, que estariam sendo praticadas por advogados e bancas jurídicas.

Esta ação foi desencadeada depois que a equipe técnica do tribunal detectou a inserção de petições contendo "prompt injection", uma técnica empregada para ludibriar modelos de IA e conceder vantagens indevidas a partes envolvidas no trâmite eletrônico de ações judiciais.

Tais comandos disfarçados são introduzidos nos documentos protocolados na tentativa de obrigar o sistema de inteligência artificial a desconsiderar os critérios de filtragem que, por exemplo, bloqueiam a aceitação de um documento desprovido dos requisitos fundamentais para sua admissão.

Conforme informações do STJ, o sistema da corte já possui mecanismos de segurança para coibir a aplicação desses prompts, impedindo que tais instruções sejam processadas pela plataforma responsável pelo recebimento das petições.