IA e Processo Eletrônico: Aspectos Polêmicos

A integração da Inteligência Artificial (IA) ao Processo Eletrônico representa um dos marcos mais significativos da modernização do Poder Judiciário brasileiro. No entanto, essa simbiose não está isenta de controvérsias e desafios, especialmente no que tange à garantia dos direitos fundamentais, à transparência e à responsabilidade na tomada de decisões. Este artigo analisa os aspectos polêmicos da utilização da IA no Processo Eletrônico, com foco nas implicações práticas para os profissionais do setor público.

O Marco Normativo da IA no Judiciário

A implementação da IA no Poder Judiciário brasileiro é orientada por um arcabouço normativo que busca conciliar a inovação tecnológica com a segurança jurídica e a proteção dos direitos fundamentais. A Resolução CNJ nº 332/2020 estabelece as diretrizes éticas para a produção e o uso da Inteligência Artificial no Poder Judiciário, enfatizando o respeito aos direitos fundamentais, a não discriminação, a transparência e a responsabilidade.

Além disso, a Lei Geral de Proteção de Dados Pessoais (LGPD), Lei nº 13.709/2018, impõe rigorosos padrões para o tratamento de dados pessoais, inclusive por sistemas de IA. O artigo 20 da LGPD consagra o direito do titular de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade.

Mais recentemente, o Marco Civil da Inteligência Artificial (Lei nº 14.890/2024), promulgado para regular o desenvolvimento e a aplicação da IA no Brasil, estabeleceu princípios como a transparência, a explicabilidade e a auditoria de sistemas de IA, especialmente aqueles considerados de alto risco, como é o caso das aplicações no sistema de justiça.

Transparência e o Problema da "Caixa Preta"

Um dos principais pontos de tensão na utilização da IA no Processo Eletrônico reside na transparência dos algoritmos. O fenômeno da "caixa preta" (black box) refere-se à dificuldade de compreender como um sistema de IA, especialmente aqueles baseados em aprendizado profundo (deep learning), chega a uma determinada conclusão.

Para os profissionais do direito, a explicabilidade da decisão é um pilar fundamental do devido processo legal (art. 5º, LIV, da Constituição Federal). A impossibilidade de escrutinar os critérios utilizados por um algoritmo para classificar uma petição, sugerir uma jurisprudência ou até mesmo calcular a probabilidade de reincidência levanta sérias questões sobre o cerceamento de defesa e a fundamentação das decisões judiciais (art. 93, IX, da Constituição Federal).

Exigência de Explicabilidade

A Resolução CNJ nº 332/2020, em seu artigo 18, determina que os sistemas de IA desenvolvidos ou utilizados pelo Poder Judiciário devem permitir a auditoria de seus resultados e a explicação dos motivos que levaram a uma determinada sugestão ou decisão. Na prática, isso exige que os tribunais invistam em sistemas de IA "explicáveis" (XAI - Explainable AI), que forneçam justificativas compreensíveis para as suas saídas.

Vieses Algorítmicos e a Discriminação

Outro aspecto altamente polêmico é a potencial reprodução e amplificação de vieses discriminatórios por sistemas de IA. Como os algoritmos são treinados com base em dados históricos, eles podem aprender e perpetuar preconceitos existentes na sociedade, como vieses raciais, de gênero ou socioeconômicos.

No contexto jurídico, isso pode se manifestar em decisões desproporcionalmente desfavoráveis a determinados grupos, violando o princípio da isonomia (art. 5º, caput, da Constituição Federal) e as diretrizes de não discriminação estabelecidas na Resolução CNJ nº 332/2020.

O Caso COMPAS e suas Lições

O caso do sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), utilizado nos Estados Unidos para avaliar o risco de reincidência criminal, é emblemático. Estudos demonstraram que o algoritmo apresentava um viés racial significativo, classificando réus negros como sendo de alto risco com mais frequência do que réus brancos, mesmo quando controlados outros fatores.

Embora o COMPAS não seja utilizado no Brasil, o caso serve como um alerta crucial para os profissionais do setor público. A implementação de sistemas de avaliação de risco ou de triagem de processos deve ser acompanhada de rigorosas auditorias de viés para garantir que a tecnologia não se torne um instrumento de discriminação.

Delegação Decisória e a Supervisão Humana

A automação de tarefas cognitivas por meio da IA levanta o debate sobre os limites da delegação de poder decisório a máquinas. A Constituição Federal, em seu artigo 93, IX, exige que todas as decisões dos órgãos do Poder Judiciário sejam fundamentadas, sob pena de nulidade. A doutrina e a jurisprudência convergem no sentido de que a atividade jurisdicional é indelegável a sistemas automatizados.

A Reserva de Jurisdição

A Resolução CNJ nº 332/2020 reforça esse entendimento ao estabelecer, no artigo 16, que a utilização de sistemas de IA não substitui a decisão fundamentada do magistrado. A IA deve atuar como uma ferramenta de suporte à decisão, cabendo ao juiz a análise crítica da sugestão algorítmica e a assunção da responsabilidade pela decisão final.

Para os membros do Ministério Público e da Defensoria Pública, a utilização da IA na elaboração de peças processuais ou na análise de provas também exige cautela. A responsabilidade técnica e ética recai sobre o profissional, que não pode se eximir de revisar e validar o conteúdo gerado pela máquina.

Proteção de Dados e o Sigilo Processual

O tratamento massivo de dados processuais por sistemas de IA impõe desafios significativos à proteção da privacidade e ao sigilo processual. A LGPD, em conjunto com o Marco Civil da Internet (Lei nº 12.965/2014), estabelece princípios como a finalidade, a adequação e a necessidade para o tratamento de dados pessoais.

A anonimização de dados sensíveis (art. 5º, II, da LGPD) torna-se crucial quando os processos judiciais são utilizados para treinar algoritmos. A falha na anonimização pode resultar na exposição indevida de informações sigilosas, violando o direito à intimidade e à vida privada (art. 5º, X, da Constituição Federal).

Adequação à LGPD no Tratamento Algorítmico

Os órgãos do sistema de justiça devem implementar medidas técnicas e organizacionais aptas a proteger os dados pessoais de acessos não autorizados e de situações acidentais ou ilícitas de destruição, perda, alteração, comunicação ou difusão (art. 46 da LGPD). Além disso, a realização de Relatórios de Impacto à Proteção de Dados Pessoais (RIPD) é recomendada para avaliar os riscos associados à implementação de novos sistemas de IA.

Orientações Práticas para Profissionais do Setor Público

Diante desse cenário complexo, os profissionais do setor público devem adotar uma postura proativa e crítica em relação ao uso da IA no Processo Eletrônico:

1. Capacitação Contínua: É fundamental compreender os princípios básicos do funcionamento da IA, suas potencialidades e limitações. A capacitação técnica permite uma avaliação mais crítica das ferramentas disponíveis.
2. Exigência de Transparência: Ao utilizar sistemas de IA fornecidos pelos tribunais ou por terceiros, busque informações sobre a arquitetura do algoritmo, os dados de treinamento utilizados e os mecanismos de explicabilidade disponíveis.
3. Auditoria e Supervisão: Não confie cegamente nos resultados gerados por sistemas de IA. Revise cuidadosamente as sugestões de jurisprudência, a classificação de petições e os cálculos de risco, confrontando-os com o seu conhecimento jurídico e as peculiaridades do caso concreto.
4. Cuidado com a Anonimização: Ao utilizar dados processuais para alimentar sistemas de IA locais ou em pesquisas, certifique-se de que as técnicas de anonimização empregadas são eficazes e estão em conformidade com a LGPD e as normas do CNJ.
5. Questionamento de Decisões Baseadas em IA: Caso identifique que uma decisão judicial ou administrativa foi fundamentada exclusivamente ou de forma desproporcional em um sistema de IA, utilize os mecanismos processuais adequados para questionar a fundamentação e solicitar a explicabilidade dos critérios algorítmicos.

Conclusão

A Inteligência Artificial possui um potencial transformador inegável para a eficiência e a celeridade do Processo Eletrônico. Contudo, a sua implementação deve ser pautada pela cautela, pela transparência e pelo respeito inegociável aos direitos fundamentais e às garantias do devido processo legal. O desafio dos profissionais do setor público não é rejeitar a tecnologia, mas sim domá-la, garantindo que a IA atue como um instrumento a serviço da justiça e não como um substituto obscuro do discernimento humano. A constante vigilância sobre vieses, a exigência de explicabilidade e a manutenção da supervisão humana são os pilares para uma integração ética e juridicamente segura da IA no sistema de justiça brasileiro.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.