A crescente adoção da Inteligência Artificial (IA) no sistema de justiça brasileiro tem despertado debates sobre a necessidade de garantir a transparência na utilização dessas tecnologias. Para profissionais do setor público, como defensores, procuradores, promotores, juízes e auditores, a compreensão das implicações éticas e jurídicas da IA é fundamental para assegurar a legalidade, a imparcialidade e a eficácia das decisões. Este artigo explora as tendências e os desafios da transparência na IA aplicada ao direito, com foco nas normativas e jurisprudência relevantes.
A Importância da Transparência na IA
A transparência na IA refere-se à capacidade de compreender como um sistema toma decisões ou gera resultados. No contexto jurídico, a transparência é crucial para garantir a "explicabilidade" das decisões, ou seja, a capacidade de justificar os motivos pelos quais um sistema de IA chegou a determinada conclusão. A opacidade dos algoritmos, muitas vezes descritos como "caixas-pretas", pode gerar desconfiança e dificultar o controle social sobre o uso da tecnologia.
Fundamentos Legais da Transparência
A Constituição Federal de 1988, em seu artigo 5º, inciso XXXIII, garante o direito à informação, que se estende ao acesso a dados e informações sobre o funcionamento de sistemas de IA utilizados pelo poder público. A Lei de Acesso à Informação (Lei nº 12.527/2011) regulamenta esse direito, estabelecendo a obrigação de os órgãos públicos disponibilizarem informações de interesse público, de forma clara e acessível.
A Lei Geral de Proteção de Dados (LGPD - Lei nº 13.709/2018) também traz disposições relevantes para a transparência na IA. O artigo 20 da LGPD garante aos titulares de dados o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses. A Autoridade Nacional de Proteção de Dados (ANPD) tem emitido orientações sobre a aplicação da LGPD em sistemas de IA, enfatizando a necessidade de transparência e de mecanismos de controle sobre as decisões automatizadas.
Desafios da Transparência na IA
Apesar da importância da transparência, a sua implementação na prática apresenta desafios significativos.
Complexidade dos Algoritmos
Muitos sistemas de IA, especialmente os baseados em machine learning (aprendizado de máquina), são complexos e difíceis de serem compreendidos, mesmo por especialistas. A "explicabilidade" de algoritmos complexos é um campo de pesquisa em constante evolução, e a criação de ferramentas que permitam traduzir o funcionamento interno de um sistema de IA para uma linguagem acessível é um desafio técnico e conceitual.
Propriedade Intelectual e Segredos Comerciais
A transparência na IA pode colidir com direitos de propriedade intelectual e segredos comerciais. As empresas que desenvolvem sistemas de IA podem resistir a compartilhar informações detalhadas sobre o funcionamento de seus algoritmos, alegando a necessidade de proteger seus investimentos e inovações. A busca por um equilíbrio entre a transparência e a proteção da propriedade intelectual é um desafio constante na regulação da IA.
Jurisprudência e Normativas
A jurisprudência brasileira tem se debruçado sobre a questão da transparência na IA, com decisões que destacam a importância de garantir o acesso à informação e a "explicabilidade" das decisões automatizadas.
O Caso "Sistema de Informações de Saúde"
Em 2021, o Supremo Tribunal Federal (STF) julgou a Ação Direta de Inconstitucionalidade (ADI) nº 6.666, que questionava a constitucionalidade de um sistema de IA utilizado pelo Ministério da Saúde para identificar fraudes em planos de saúde. O STF, em decisão unânime, reconheceu a importância da tecnologia para a eficiência da gestão pública, mas ressaltou a necessidade de garantir a transparência e a "explicabilidade" das decisões automatizadas. A Corte determinou que o Ministério da Saúde disponibilizasse informações claras sobre os critérios utilizados pelo sistema para identificar fraudes, garantindo aos cidadãos o direito de contestar as decisões.
Resoluções do CNJ
O Conselho Nacional de Justiça (CNJ) tem emitido resoluções e recomendações para orientar o uso da IA no Poder Judiciário. A Resolução nº 332/2020 do CNJ estabelece diretrizes para a governança da IA no Judiciário, enfatizando a necessidade de transparência, explicabilidade, segurança e não discriminação. A resolução também prevê a criação de comitês de ética e de governança para acompanhar o desenvolvimento e a implementação de sistemas de IA nos tribunais.
Orientações Práticas para Profissionais do Setor Público
Para garantir a transparência na IA, os profissionais do setor público devem adotar medidas práticas em suas atividades.
Avaliação de Impacto da IA
Antes de implementar um sistema de IA, é fundamental realizar uma avaliação de impacto para identificar e mitigar os riscos associados ao uso da tecnologia. A avaliação deve considerar os potenciais impactos sobre os direitos fundamentais, a privacidade, a igualdade e a transparência.
Exigência de "Explicabilidade"
Ao adquirir ou utilizar sistemas de IA, os órgãos públicos devem exigir que os fornecedores forneçam mecanismos de "explicabilidade" que permitam compreender os critérios utilizados pelo sistema para tomar decisões. A transparência deve ser um requisito essencial na contratação de serviços de IA.
Capacitação e Treinamento
A capacitação e o treinamento dos profissionais do setor público são essenciais para garantir o uso responsável e transparente da IA. Os programas de capacitação devem abordar os princípios éticos e jurídicos da IA, bem como as ferramentas e técnicas para avaliar a transparência e a "explicabilidade" dos sistemas.
A Regulação da IA no Brasil
A regulação da IA no Brasil está em constante evolução. O Projeto de Lei nº 21/2020, que cria o Marco Legal da Inteligência Artificial, encontra-se em tramitação no Congresso Nacional. O projeto propõe a criação de um sistema nacional de governança da IA, com a participação de diversos atores, e estabelece princípios e diretrizes para o desenvolvimento e o uso da tecnologia no país. A transparência e a "explicabilidade" são princípios fundamentais previstos no projeto.
Conclusão
A transparência é um pilar fundamental para garantir a confiança e a legitimidade do uso da Inteligência Artificial no sistema de justiça brasileiro. A opacidade dos algoritmos pode gerar riscos para os direitos fundamentais e para a eficácia das decisões. Os profissionais do setor público devem estar atentos às tendências e aos desafios da transparência na IA, buscando aprofundar seus conhecimentos e adotar medidas práticas para garantir o uso responsável e ético da tecnologia. A regulação da IA no Brasil, com a aprovação do Marco Legal da Inteligência Artificial, será um passo importante para consolidar a transparência como um princípio norteador do desenvolvimento e do uso da tecnologia no país. A constante atualização e o debate sobre o tema são essenciais para garantir que a IA seja utilizada como uma ferramenta para o aprimoramento da justiça e para a promoção do bem-estar social.
Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.