O uso da Inteligência Artificial (IA) no setor público tem se expandido exponencialmente, prometendo otimizar processos, reduzir custos e aprimorar a prestação jurisdicional e administrativa. No entanto, a crescente dependência de algoritmos para tomada de decisões levanta questões cruciais sobre transparência, accountability e a necessidade de garantir que essas tecnologias operem de forma justa e em conformidade com o ordenamento jurídico brasileiro. Este artigo analisa a interseção entre IA e transparência no contexto do Direito Público, explorando os desafios, as exigências legais e as melhores práticas para profissionais da área.
O Desafio da Transparência Algorítmica
A principal preocupação em relação à IA no setor público reside na opacidade de muitos algoritmos, frequentemente descritos como "caixas-pretas". Essa falta de transparência impede a compreensão de como as decisões são tomadas, dificultando a identificação de vieses, erros ou discriminações. Para defensores, procuradores, promotores, juízes e auditores, a compreensão da lógica por trás das decisões algorítmicas é fundamental para garantir a legalidade, a justiça e a accountability.
O "Efeito Caixa-Preta" e suas Implicações
O "efeito caixa-preta" ocorre quando o processo de tomada de decisão de um algoritmo é inacessível ou incompreensível para os usuários. Isso pode ser devido à complexidade do modelo, à falta de documentação adequada ou à proteção de segredos comerciais. Essa opacidade levanta preocupações significativas:
- Viés e Discriminação: Algoritmos podem reproduzir ou até mesmo amplificar vieses presentes nos dados de treinamento, resultando em decisões discriminatórias contra grupos minoritários ou vulneráveis.
- Erros e Injustiças: Decisões baseadas em dados incorretos ou incompletos podem levar a resultados injustos ou prejudiciais, sem que seja possível identificar a causa do erro.
- Falta de Accountability: A opacidade dificulta a atribuição de responsabilidade por decisões algorítmicas, criando um cenário de impunidade e falta de transparência.
Fundamentação Legal e Normativas
O ordenamento jurídico brasileiro estabelece princípios e regras que norteiam a utilização da IA no setor público, visando garantir a transparência, a legalidade e a proteção dos direitos dos cidadãos.
A Constituição Federal de 1988
A Constituição Federal (CF) consagra princípios fundamentais que devem ser observados na utilização da IA, como:
- Princípio da Legalidade (art. 37, caput): A administração pública deve agir em conformidade com a lei, não podendo utilizar sistemas de IA que violem normas vigentes.
- Princípio da Impessoalidade (art. 37, caput): A IA deve ser utilizada de forma imparcial, sem favorecer ou prejudicar indivíduos ou grupos.
- Princípio da Publicidade (art. 37, caput): As decisões algorítmicas devem ser transparentes e acessíveis aos cidadãos, ressalvadas as hipóteses de sigilo previstas em lei.
- Princípio da Eficiência (art. 37, caput): A IA deve ser utilizada para otimizar a prestação de serviços públicos, garantindo a celeridade e a qualidade do atendimento.
A Lei Geral de Proteção de Dados (LGPD)
A LGPD (Lei nº 13.709/2018) estabelece regras importantes para o tratamento de dados pessoais por sistemas de IA, incluindo:
- Princípio da Finalidade (art. 6º, I): O tratamento de dados deve ter propósitos legítimos, específicos e informados ao titular.
- Princípio da Adequação (art. 6º, II): O tratamento deve ser compatível com as finalidades informadas ao titular.
- Princípio da Transparência (art. 6º, VI): O titular tem direito a informações claras, precisas e facilmente acessíveis sobre o tratamento de seus dados.
- Direito à Revisão de Decisões Automatizadas (art. 20): O titular tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses.
O Marco Civil da Internet
O Marco Civil da Internet (Lei nº 12.965/2014) estabelece princípios e regras para o uso da internet no Brasil, incluindo:
- Princípio da Liberdade de Expressão (art. 3º, I): A utilização de IA não pode restringir a liberdade de expressão dos cidadãos.
- Princípio da Proteção da Privacidade e dos Dados Pessoais (art. 3º, II e III): A IA deve respeitar a privacidade e os dados pessoais dos usuários.
Resoluções do CNJ
O Conselho Nacional de Justiça (CNJ) tem editado resoluções para regulamentar o uso da IA no Poder Judiciário, como a Resolução nº 332/2020, que dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário e dá outras providências.
Jurisprudência e Casos Relevantes
A jurisprudência brasileira tem se debruçado sobre questões relacionadas à IA e transparência, buscando equilibrar a inovação tecnológica com a proteção dos direitos fundamentais.
O Caso do Reconhecimento Facial
O uso de sistemas de reconhecimento facial por forças de segurança pública tem gerado debates sobre privacidade, viés e transparência. Decisões judiciais têm exigido maior transparência sobre o funcionamento desses sistemas e a implementação de salvaguardas para evitar discriminações.
O Caso da Análise de Risco de Reincidência
A utilização de algoritmos para avaliar o risco de reincidência criminal tem sido questionada por sua opacidade e potencial viés. O Superior Tribunal de Justiça (STJ) já se manifestou sobre a necessidade de transparência e fundamentação das decisões baseadas nesses sistemas.
Orientações Práticas para Profissionais do Setor Público
Para garantir a transparência e a legalidade na utilização da IA, profissionais do setor público devem adotar as seguintes práticas:
- Exigir Transparência dos Fornecedores: Ao adquirir sistemas de IA, é fundamental exigir dos fornecedores informações claras sobre o funcionamento do algoritmo, os dados de treinamento utilizados e as medidas adotadas para mitigar vieses.
- Implementar Mecanismos de Auditoria e Revisão: A administração pública deve estabelecer mecanismos de auditoria e revisão das decisões algorítmicas, garantindo a possibilidade de contestação e correção de erros.
- Promover a Capacitação dos Profissionais: É essencial que os profissionais do setor público sejam capacitados para compreender o funcionamento da IA, seus riscos e suas implicações éticas e legais.
- Fomentar o Debate Público: A utilização da IA no setor público deve ser objeto de debate público, com a participação da sociedade civil, academia e especialistas.
Conclusão
A transparência algorítmica é um desafio complexo, mas fundamental para garantir a legalidade, a justiça e a accountability na utilização da IA no setor público. A observância dos princípios constitucionais, das regras da LGPD e das resoluções do CNJ, aliada à adoção de boas práticas e à promoção do debate público, é essencial para que a IA seja utilizada como uma ferramenta de promoção do bem comum, sem comprometer os direitos fundamentais dos cidadãos. A busca por um equilíbrio entre inovação tecnológica e proteção jurídica é o caminho para um futuro onde a IA sirva à justiça e à sociedade.
Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.