CNJ APRESENTA RESOLUÇÃO QUE REGULAMENTA O USO DE INTELIGÊNCIA ARTIFICIAL PELO PODER JUDICIÁRIO
O Conselho Nacional de Justiça (CNJ) recentemente apresentou minuta de resolução que estabelece os parâmetros a serem obedecidos para a utilização de inteligência artificial (IA) pelos tribunais.
O texto será julgado pelo Plenário até o fim de fevereiro e foi produzido pelo Grupo de Trabalho sobre Inteligência Artificial no Poder Judiciário, instituído pela Portaria CNJ 338, de 30 de novembro de 2023, e coordenado pelo conselheiro Luiz Fernando Bandeira de Mello Filho.
A proposta é conciliar o acelerado desenvolvimento de tecnologias de inteligência artificial e a importância de promover a autonomia dos tribunais na adoção de novas tecnologias, com a inovação ética, responsável e segura no uso da inteligência artificial. Busca-se maior regulamentação em face dos potenciais riscos associados à utilização de inteligência artificial generativa, incluindo ameaças à soberania nacional, à segurança da informação, à privacidade e à proteção de dados pessoais, bem como a possibilidade de intensificação de parcialidades e vieses discriminatórios.
Portanto, o que se pretende é fornecer maior eficiência à atuação do judiciário, utilizando a IA como ferramentas de apoio à decisão, sem, contudo, substituir o trabalho humano. Dentre as normas contidas na resolução, destacam-se: a obrigatoriedade de supervisão humana, a implementação de auditorias regulares e a criação de uma plataforma para compartilhamento de soluções institucionais. Também está prevista a criação do Comitê Nacional de Inteligência Artificial, que deverá monitorar e atualizar as diretrizes de uso da IA nos tribunais brasileiros.
O ato normativo classifica as soluções de IA em alto risco, baixo risco e condutas vedadas. As soluções de baixo risco são aquelas destinadas a atividades acessórias e rotineiras, exigindo menor controle. As de alto risco cuidam, por exemplo, de dados sensíveis, da detecção de padrões comportamentais, de valoração de provas ou de interpretação de fatos, podendo exercer influência direta nas decisões judiciais. Por esse motivo, a aquisição ou o desenvolvimento dessas ferramentas deverão ser comunicados ao CNJ, exigindo medidas de segurança e auditoria mais rigorosas. As soluções vedadas, por sua vez, são aquelas que possam trazer risco à segurança da informação, dos direitos fundamentais ou à independência dos magistrados, como, por exemplo, a valoração de traços de personalidade ou de características comportamentais para avaliar ou prever o cometimento de crimes.
A nova Resolução, se aprovada, revogará a Resolução CNJ 332/2020, que atualmente estabelece as diretrizes sobre a ética, a transparência e a governança na produção e no uso de inteligência artificial no Poder Judiciário. A Resolução CNJ 332/2020 foi formulada tendo como foco as soluções computacionais destinadas a auxiliar na gestão processual e na efetividade da prestação jurisdicional disponíveis à época de sua elaboração, sendo necessário atualizar esse normativo para abarcar novas tecnologias, em especial as IAs generativas.
Segundo pesquisa do CNJ, “quase metade dos servidores e dos magistrados que respondeu ao diagnóstico usa a ferramenta nos tribunais. Entretanto, mais de 70% dos participantes, em ambos os grupos, informaram que a utilizam “raramente” ou “eventualmente”. Apesar de ser pouco utilizada, entre os que lançam mão da ferramenta, há um considerável uso para atividades do tribunal (27% dos magistrados e 31% dos servidores fazem uso na vida profissional).”.
Após a publicação da resolução, os tribunais terão o prazo de 12 meses para adequar seus projetos e modelos em desenvolvimento ou já implantados.
Leia a resolução na íntegra:
minuta-resolucao-ia-vrevisada-2024-12-13-15h35-1
Por Emily Costa Diniz