A rápida integração da Inteligência Artificial (IA) nos processos da Administração Pública e do Judiciário brasileiro tem gerado debates cruciais sobre a necessidade de transparência e os desafios inerentes à utilização de algoritmos em decisões que afetam diretamente os cidadãos. Profissionais do setor público — defensores, procuradores, promotores, juízes e auditores — encontram-se na linha de frente dessa transformação, precisando equilibrar a busca por eficiência com a garantia dos direitos fundamentais.
Este artigo explora as tendências e os desafios da transparência na utilização da IA no contexto jurídico e administrativo, analisando o arcabouço legal vigente e as melhores práticas para assegurar a conformidade e a confiança pública.
O Marco Legal da Transparência Algorítmica
A transparência, pilar da Administração Pública, ganha novos contornos com a adoção da IA. O desafio central reside em compreender e auditar decisões tomadas por sistemas muitas vezes complexos e opacos, conhecidos como "caixas-pretas" (black boxes).
A legislação brasileira tem evoluído para lidar com essa nova realidade, com destaque para as seguintes normativas.
Lei Geral de Proteção de Dados Pessoais (LGPD)
A Lei nº 13.709/2018 (LGPD) estabelece princípios fundamentais para o tratamento de dados pessoais, incluindo a necessidade de transparência e o direito à revisão de decisões automatizadas. O Art. 20 garante ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses.
Lei de Acesso à Informação (LAI)
A Lei nº 12.527/2011 (LAI) consagra o princípio da publicidade máxima, exigindo que a Administração Pública disponibilize informações de interesse público, salvo exceções legais. A aplicação da LAI aos algoritmos utilizados pelo Estado é um tema em debate, com argumentos que defendem a publicidade dos códigos-fonte e dos critérios utilizados pelos sistemas de IA, desde que não comprometam a segurança nacional ou segredos comerciais.
Marco Legal da Inteligência Artificial (Projeto de Lei nº 2338/2023)
O Projeto de Lei nº 2338/2023, que institui o Marco Legal da Inteligência Artificial no Brasil, traz importantes avanços na regulamentação da IA. O texto propõe princípios como a transparência, a explicabilidade, a não discriminação e a responsabilidade, além de estabelecer regras para a avaliação de impacto de sistemas de IA de alto risco.
Resoluções do Conselho Nacional de Justiça (CNJ)
O CNJ tem desempenhado um papel fundamental na regulamentação da IA no Judiciário. A Resolução nº 332/2020 estabelece diretrizes para a utilização de IA no Poder Judiciário, enfatizando a necessidade de transparência, explicabilidade, supervisão humana e não discriminação. A Resolução nº 396/2021, por sua vez, institui a Estratégia Nacional de Tecnologia da Informação e Comunicação do Poder Judiciário (ENTIC-JUD), que inclui a governança de IA como um de seus pilares.
Desafios na Implementação da Transparência
Apesar do arcabouço legal em desenvolvimento, a implementação da transparência na IA enfrenta desafios práticos.
A "Caixa-Preta" Algorítmica
A complexidade de muitos modelos de IA, especialmente os baseados em deep learning (aprendizado profundo), dificulta a compreensão de como o sistema chega a uma determinada conclusão. Essa opacidade ("caixa-preta") contrasta com a necessidade de justificar decisões administrativas e judiciais, levantando questões sobre a validade e a legitimidade das decisões automatizadas.
Propriedade Intelectual e Segredo de Negócio
Empresas fornecedoras de sistemas de IA frequentemente invocam a proteção da propriedade intelectual e do segredo de negócio para restringir o acesso aos códigos-fonte e aos dados de treinamento. Essa postura pode entrar em conflito com o dever de transparência da Administração Pública e o direito à revisão de decisões automatizadas.
Viés Algorítmico e Discriminação
Sistemas de IA podem reproduzir e amplificar vieses presentes nos dados de treinamento, resultando em decisões discriminatórias. A falta de transparência dificulta a identificação e a correção desses vieses, comprometendo a justiça e a equidade nas decisões públicas.
Falta de Capacitação Técnica
A compreensão e a auditoria de sistemas de IA exigem conhecimentos técnicos especializados. A falta de capacitação técnica entre os profissionais do setor público pode dificultar a fiscalização e a garantia da transparência na utilização da IA.
Jurisprudência e Normativas Relevantes
A jurisprudência brasileira tem se debruçado sobre a questão da transparência algorítmica. O Supremo Tribunal Federal (STF), no julgamento da Ação Direta de Inconstitucionalidade (ADI) 6.387, reconheceu a importância da transparência e da proteção de dados pessoais no contexto do compartilhamento de dados entre órgãos públicos.
O Tribunal de Contas da União (TCU) também tem atuado na fiscalização da utilização da IA na Administração Pública. O Acórdão nº 2.895/2020-TCU-Plenário, por exemplo, recomenda a adoção de medidas para garantir a transparência, a auditabilidade e a não discriminação em sistemas de IA utilizados por órgãos federais.
Orientações Práticas para Profissionais do Setor Público
Para lidar com os desafios da transparência na IA, os profissionais do setor público devem adotar uma postura proativa e adotar as seguintes práticas:
- Exigir Explicabilidade: Ao contratar ou desenvolver sistemas de IA, exija que os fornecedores garantam a explicabilidade das decisões tomadas pelo algoritmo. A explicação deve ser clara e compreensível, permitindo que o cidadão entenda os motivos da decisão.
- Auditoria Algorítmica: Implementar mecanismos de auditoria algorítmica para avaliar a justiça, a precisão e a não discriminação dos sistemas de IA. A auditoria deve ser realizada de forma independente e transparente.
- Avaliação de Impacto: Realizar avaliações de impacto antes da implementação de sistemas de IA de alto risco, identificando e mitigando os riscos à privacidade, à segurança e aos direitos fundamentais.
- Capacitação Contínua: Investir na capacitação técnica das equipes para compreender os conceitos básicos de IA, os riscos associados e as técnicas de auditoria algorítmica.
- Diálogo com a Sociedade: Promover o debate público sobre a utilização da IA no setor público, garantindo a participação da sociedade civil na definição das regras e dos limites da automação.
Conclusão
A integração da IA no setor público oferece oportunidades ímpares para aprimorar a eficiência e a qualidade dos serviços prestados aos cidadãos. No entanto, essa transformação não pode prescindir da transparência e da prestação de contas. Os profissionais do setor público devem assumir o protagonismo na garantia da transparência algorítmica, exigindo explicabilidade, implementando mecanismos de auditoria e promovendo o debate público. Somente assim será possível construir uma IA ética, justa e alinhada com os valores democráticos.
Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.