Um juiz federal da 1ª Região da Justiça Federal (JF), assinou uma sentença produzida por inteligência artificial (IA) com dados falsos. Foi usado o ChatGPT. Para fundamentar a decisão, a ferramenta inventou uma jurisprudência do Superior Tribunal de Justiça (STJ) que, simplesmente, não existia.
O caso está sendo investigado pelo Conselho Nacional de Justiça (CNJ). A assessoria o órgão informou ao Diário de Goiás hoje, 13, que o juiz é do Acre.
A situação só foi descoberta porque o advogado da parte que perdeu a ação, achou estranha a jurisprudência e descobriu se tratar de algo falso. Diante da fraude, ele acionou a Corregedoria Regional de JF da 1ª Região que cobre 14 estados.
Circular adverte sobre IA
O ocorrido levou o desembargador Néviton Guedes, corregedor da 1ª Região, a divulgar uma circular a respeito do uso de IA.
“Chegou ao meu conhecimento caso em que uma ferramenta de IA generativa, utilizada como assistente de minuta de ato judicial, apresentou como resultado de pesquisa jurisprudencial precedentes inexistentes”, disse em trecho da circular.
No texto, Néviton recomenda aos juízes e desembargadores que “não sejam utilizadas para a pesquisa de precedentes jurisprudenciais ferramentas de IA generativas abertas e não homologadas pelos órgãos de controle do Poder Judiciário”. Veja na íntegra, clicando no link abaixo.
Alertas
O desembargador alertou que todos os envolvidos no trâmite judiciário têm de estar atentos sobre suas responsabilidades no uso indiscriminado de inteligência artificial. Isso, observou ele, acarreta “responsabilidade do magistrado competente”, com a qual “todos os servidores, estagiários e colaboradores envolvidos devem concorrer”.
Uso é permitido com limites
Na verdade, o CNJ por meio da Resolução 332/2020, permite a utilização de inteligência artificial no Judiciário. Mas este uso exige atenção aos limites éticos das ferramentas com o foco de “no máximo auxiliar os juízes”.
Segundo divulgou o portal Conjur, o juiz que utilizou o ChatGPT tratou o caso como “mero equívoco”, decorrente de sobrecarga de trabalho. Além disso, ele alegou que parte da sentença foi feita por um servidor.
A apuração sobre o episódio foi arquivado na Corregedoria da 1ª Região, mas agora o caso será analisado no CNJ.
Na circular expedida, Néviton alerta que “os dados utilizados no processo de aprendizado de máquina deverão ser provenientes de fontes seguras, preferencialmente governamentais, passíveis de serem rastreados e auditados”. É isto o que orienta a resolução do CNJ a respeito do uso de inteligência artificial no Judiciário.
Opiniões superiores
O uso inevitável das ferramentas de IA como o ChatGPT no Poder Judiciário foi comentado este ano por dois ministros durante entrevista ao portal Migalhas, especializado nos assuntos da Justiça.
O ministro Luís Roberto Barroso, do Supremo Tribunal Federal, expressou que a inteligência artificial, quando utilizada adequadamente, pode ser valiosa para a Justiça, mas ressaltou que não pode substituir o papel do juiz, uma vez que máquinas e computadores não têm a capacidade de discernir entre o certo e o errado, o justo e o injusto.
“No atual estágio da condição humana e da condição tecnológica, o juiz vai ser inevitável. Agora, se vier uma boa minuta pelo ChatGPT e você puder apenas revisá-la, essa é uma possibilidade que eu não descartaria”, declarou ele ao portal.
Outro a ser ouvido foi o ministro Villas Bôas Cueva, do Superior Tribunal de Justiça (STJ). Ele destacou a perspectiva de ferramentas como o ChatGPT auxiliarem os magistrados em pesquisas para compreender melhor o desenvolvimento da jurisprudência.
No entanto, Cueva alerta que tal avanço dependerá de uma regulação adequada para prevenir o uso abusivo dessas novas ferramentas.
Leia mais sobre: CNJ / Justiça Federal / Direito e Justiça
