A inteligência artificial (IA) tem se consolidado como uma ferramenta indispensável no cenário jurídico brasileiro, impulsionando a eficiência e a agilidade processual. Contudo, essa integração traz consigo desafios complexos, especialmente no que tange à transparência e à explicabilidade algorítmica. Para os profissionais do setor público, que lidam com a tomada de decisões que afetam diretamente a vida dos cidadãos, compreender a visão dos tribunais sobre essa temática é fundamental para garantir a segurança jurídica e a proteção de direitos fundamentais.
Este artigo explora a evolução do entendimento jurisprudencial e normativo acerca da transparência na utilização de IA no sistema de justiça, analisando as implicações para defensores, procuradores, promotores, juízes e auditores. Discutiremos os marcos legais relevantes, as decisões paradigmáticas e as diretrizes práticas para assegurar que a inovação tecnológica não comprometa os princípios norteadores do Estado Democrático de Direito.
O Imperativo da Transparência: Fundamentos Legais e Normativos
A transparência, pilar da administração pública e do devido processo legal, ganha novos contornos no contexto da IA. A Constituição Federal de 1988 estabelece, em seu artigo 5º, incisos XXXIII e LX, o direito de acesso à informação e a publicidade dos atos processuais, respectivamente. Esses princípios constitucionais se estendem à atuação dos algoritmos no judiciário, exigindo que o funcionamento e os critérios de decisão desses sistemas sejam acessíveis e compreensíveis.
O Marco Civil da Internet (Lei nº 12.965/2014) e a Lei Geral de Proteção de Dados (LGPD - Lei nº 13.709/2018) também desempenham um papel crucial na regulamentação da IA. A LGPD, em seu artigo 20, garante ao titular dos dados o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade. Essa revisão, por sua vez, exige a transparência dos critérios e procedimentos utilizados na decisão automatizada.
O Papel do Conselho Nacional de Justiça (CNJ)
O CNJ tem sido proativo na regulamentação da IA no Poder Judiciário. A Resolução nº 332/2020 estabeleceu diretrizes éticas para a implementação e o uso de IA, enfatizando a transparência, a não discriminação e a responsabilidade. A resolução determina que os sistemas de IA devem ser projetados e utilizados de forma a garantir a explicabilidade das decisões, permitindo que as partes compreendam os fatores que influenciaram o resultado.
Mais recentemente, a Resolução nº 450/2022 consolidou as diretrizes para a governança e a gestão da IA no Judiciário, reforçando a necessidade de transparência ativa e passiva. A norma exige a publicação de informações sobre os sistemas de IA em uso, incluindo seus objetivos, bases de dados, algoritmos e métricas de desempenho.
A Visão dos Tribunais: Jurisprudência em Construção
A jurisprudência brasileira sobre IA e transparência ainda está em fase de consolidação, mas já é possível identificar tendências importantes. Os tribunais têm se mostrado cautelosos em relação à adoção de sistemas de IA que não ofereçam garantias suficientes de transparência e explicabilidade.
Casos Paradigmáticos
Embora o número de decisões judiciais que abordam diretamente a transparência algorítmica ainda seja limitado, alguns casos ganharam destaque. O Supremo Tribunal Federal (STF), no julgamento da ADI 6387, que questionava a constitucionalidade da Medida Provisória nº 954/2020 (que previa o compartilhamento de dados de telecomunicações com o IBGE), ressaltou a importância da proteção de dados e da transparência na utilização de informações pessoais pelo Estado.
No Superior Tribunal de Justiça (STJ), a discussão sobre a admissibilidade de provas produzidas por meio de algoritmos de reconhecimento facial tem evidenciado a necessidade de transparência nos critérios e nas bases de dados utilizados por esses sistemas. A falta de explicabilidade e a possibilidade de viés algorítmico têm sido apontadas como fatores que podem comprometer a validade dessas provas.
A Necessidade de Explicabilidade
A explicabilidade algorítmica, ou seja, a capacidade de compreender os motivos que levaram um sistema de IA a tomar determinada decisão, tem sido um tema recorrente nos debates jurídicos. Os tribunais têm enfatizado que a falta de explicabilidade pode configurar violação ao devido processo legal e ao direito à ampla defesa, uma vez que as partes ficam impossibilitadas de contestar a decisão de forma efetiva.
A complexidade de alguns algoritmos, como as redes neurais profundas, dificulta a explicabilidade, o que tem gerado preocupações entre os operadores do direito. Nesses casos, os tribunais têm exigido a demonstração de que o sistema é confiável e que seus resultados não são discriminatórios ou enviesados.
Desafios e Perspectivas para Profissionais do Setor Público
A integração da IA no setor público exige dos profissionais uma postura proativa e atenta aos desafios éticos e jurídicos. A transparência algorítmica não é apenas um requisito legal, mas um pressuposto para a confiança da sociedade nas instituições públicas.
O Papel do Ministério Público e da Defensoria Pública
O Ministério Público e a Defensoria Pública desempenham um papel fundamental na fiscalização e na defesa dos direitos fundamentais no contexto da IA. A atuação desses órgãos deve se pautar pela exigência de transparência e explicabilidade na utilização de sistemas de IA pelo Poder Público, bem como pela identificação e combate a possíveis vieses e discriminações.
A atuação proativa, por meio da instauração de inquéritos civis e da propositura de ações civis públicas, é essencial para garantir que a implementação da IA no setor público observe os princípios constitucionais e as normas legais de proteção de dados.
A Atuação de Juízes e Auditores
Os juízes, ao analisar casos que envolvam a utilização de IA, devem exigir a comprovação da confiabilidade e da transparência dos sistemas utilizados. A análise da explicabilidade algorítmica deve ser criteriosa, e a falta de transparência pode ensejar a nulidade da decisão ou a desconsideração da prova.
Os auditores, por sua vez, devem avaliar a governança e a gestão da IA nos órgãos públicos, verificando o cumprimento das diretrizes do CNJ e das normas legais de proteção de dados. A auditoria de sistemas de IA deve incluir a análise da transparência, da explicabilidade e da segurança dos algoritmos.
Orientações Práticas para a Atuação Profissional
Para lidar com os desafios da IA e da transparência, os profissionais do setor público devem adotar algumas medidas práticas:
- Atualização Constante: Acompanhar as inovações tecnológicas e as discussões jurídicas sobre IA é fundamental para compreender os desafios e as oportunidades dessa tecnologia.
- Exigência de Transparência: Em qualquer processo ou procedimento que envolva a utilização de IA, exigir a demonstração da transparência e da explicabilidade do sistema.
- Análise Crítica: Analisar criticamente os resultados produzidos por sistemas de IA, buscando identificar possíveis vieses e discriminações.
- Capacitação Específica: Buscar capacitação em áreas como ciência de dados, aprendizado de máquina e ética na IA.
- Participação Ativa: Participar de debates e fóruns sobre IA e direito, contribuindo para a construção de um marco regulatório adequado.
Legislação Atualizada (Até 2026)
A legislação sobre IA no Brasil encontra-se em constante evolução. O Projeto de Lei nº 2338/2023, que dispõe sobre o uso da Inteligência Artificial no Brasil, prevê regras claras para a transparência e a explicabilidade dos sistemas de IA, especialmente aqueles considerados de alto risco. A aprovação desse marco legal será um passo importante para garantir a segurança jurídica e a proteção de direitos fundamentais no contexto da IA.
Além disso, a Autoridade Nacional de Proteção de Dados (ANPD) tem publicado guias e orientações sobre a aplicação da LGPD no contexto da IA, reforçando a necessidade de transparência e de respeito aos direitos dos titulares de dados.
Conclusão
A transparência na utilização de IA no sistema de justiça é um desafio complexo, mas inadiável. A visão dos tribunais, embora em construção, sinaliza para a necessidade de garantir que a inovação tecnológica não comprometa os princípios fundamentais do Estado Democrático de Direito. Para os profissionais do setor público, a exigência de transparência e explicabilidade algorítmica deve ser uma prioridade, assegurando que a IA seja utilizada de forma ética, responsável e em benefício da sociedade. A constante atualização e a atuação proativa são essenciais para enfrentar os desafios e aproveitar as oportunidades que a IA oferece para a modernização da justiça.
Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.