A inteligência artificial (IA) tem se consolidado como uma ferramenta transformadora no cenário jurídico brasileiro, prometendo eficiência, celeridade e precisão. No entanto, a implementação de sistemas autônomos e algorítmicos no Direito suscita debates profundos sobre a ética e a responsabilidade. Para profissionais do setor público, como defensores, procuradores, promotores, juízes e auditores, a compreensão dos limites éticos da IA não é apenas uma questão teórica, mas uma exigência prática para a garantia da justiça e da equidade. Este artigo explora as nuances da ética da IA no Direito, abordando a legislação, a jurisprudência e as diretrizes práticas para uma aplicação responsável.
A Ética como Alicerce da IA no Direito
A ética no contexto da IA aplicada ao Direito refere-se aos princípios e valores que devem nortear o desenvolvimento, a implementação e o uso dessas tecnologias. O objetivo primordial é garantir que a IA sirva como um instrumento de aprimoramento da justiça, sem comprometer direitos fundamentais, como a igualdade, a privacidade e o devido processo legal. A ética da IA exige que os sistemas sejam transparentes, justos e que as decisões automatizadas sejam passíveis de escrutínio e revisão humana.
Transparência e Explicabilidade
Um dos desafios mais prementes na ética da IA é a opacidade dos algoritmos, frequentemente descritos como "caixas-pretas". A transparência implica que o funcionamento dos sistemas de IA seja compreensível, permitindo que os profissionais do Direito e os cidadãos entendam como as decisões são tomadas. A explicabilidade, por sua vez, exige que as razões subjacentes a uma decisão automatizada sejam articuladas de forma clara e acessível.
A Lei Geral de Proteção de Dados Pessoais (LGPD - Lei nº 13.709/2018), em seu artigo 20, garante ao titular dos dados o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais. Essa disposição reforça a necessidade de transparência e de mecanismos que permitam a contestação de decisões que afetem os interesses dos cidadãos, especialmente no âmbito do setor público.
Viés e Discriminação Algorítmica
A IA não é imune a preconceitos. Os algoritmos são treinados com base em dados históricos, que podem refletir desigualdades e discriminações estruturais presentes na sociedade. Se não houver cuidado na seleção e no tratamento desses dados, a IA pode perpetuar e até amplificar vieses, resultando em decisões discriminatórias.
No contexto jurídico, isso pode se manifestar em ferramentas de avaliação de risco de reincidência criminal, por exemplo, que podem penalizar injustamente determinados grupos demográficos. O artigo 5º, caput e inciso I, da Constituição Federal, que consagra o princípio da igualdade e proíbe a discriminação, serve como baliza fundamental para a avaliação da ética da IA. A utilização de sistemas que resultem em discriminação direta ou indireta viola frontalmente o texto constitucional.
Marco Legal e Normativo da IA no Brasil
O arcabouço normativo brasileiro tem evoluído para acompanhar os desafios impostos pela IA. A Resolução nº 332/2020 do Conselho Nacional de Justiça (CNJ) é um marco importante, estabelecendo diretrizes éticas e de governança para o uso da IA no Poder Judiciário. A resolução enfatiza princípios como o respeito aos direitos fundamentais, a não discriminação, a transparência, a segurança e a responsabilidade.
A Resolução nº 332/2020 do CNJ
A Resolução nº 332/2020 do CNJ estabelece que o desenvolvimento e o uso de IA no Judiciário devem observar, entre outros, os seguintes princípios:
- Respeito aos Direitos Fundamentais: A IA deve ser concebida e utilizada de modo a proteger e promover os direitos humanos, a dignidade da pessoa humana e a igualdade.
- Não Discriminação: Os sistemas de IA não devem ser utilizados para criar ou agravar desigualdades, preconceitos ou discriminações.
- Transparência e Explicabilidade: O funcionamento da IA deve ser transparente, e as decisões automatizadas devem ser explicáveis de forma compreensível.
- Segurança e Privacidade: A IA deve garantir a segurança da informação e a proteção dos dados pessoais, em conformidade com a LGPD.
- Supervisão Humana: A IA deve ser sujeita à supervisão e ao controle humano, garantindo que as decisões finais sejam tomadas por magistrados.
O Marco Legal da Inteligência Artificial (PL 2338/2023)
O Projeto de Lei nº 2338/2023, que propõe o Marco Legal da Inteligência Artificial no Brasil, encontra-se em tramitação e visa estabelecer diretrizes gerais para o desenvolvimento, implementação e uso responsável da IA. O PL prevê a criação de um sistema de governança, a definição de direitos dos usuários e a responsabilização por danos causados por sistemas de IA. A aprovação deste marco legal (prevista para os próximos anos, até 2026) será fundamental para consolidar a segurança jurídica e a ética no uso da IA no Brasil.
Jurisprudência e a IA
Embora a jurisprudência sobre o tema ainda esteja em formação, já existem decisões que sinalizam a preocupação dos tribunais com a ética da IA.
O Supremo Tribunal Federal (STF), em diversas ocasiões, tem reafirmado a importância da transparência e do devido processo legal em decisões automatizadas. Em casos envolvendo a exclusão de candidatos em concursos públicos com base em algoritmos, o STF tem exigido a demonstração clara dos critérios utilizados e a possibilidade de revisão da decisão, garantindo o direito à ampla defesa e ao contraditório.
O Superior Tribunal de Justiça (STJ) também tem se manifestado sobre a necessidade de controle humano sobre decisões automatizadas, especialmente em áreas sensíveis como a concessão de benefícios previdenciários e a análise de risco de crédito.
Orientações Práticas para Profissionais do Setor Público
Para os profissionais do setor público, a adoção da IA exige uma postura proativa e cautelosa. A seguir, apresentamos algumas orientações práticas para garantir o uso ético da IA:
- Avaliação de Impacto: Antes de implementar um sistema de IA, realize uma avaliação rigorosa do seu impacto potencial sobre os direitos fundamentais, a igualdade e a privacidade.
- Governança de Dados: Estabeleça políticas claras de governança de dados, garantindo a qualidade, a representatividade e a segurança das informações utilizadas para treinar os algoritmos.
- Auditoria Algorítmica: Promova auditorias periódicas nos sistemas de IA para identificar e mitigar vieses, erros e vulnerabilidades.
- Capacitação: Invista na capacitação contínua dos profissionais do Direito sobre os princípios éticos e as implicações jurídicas da IA.
- Supervisão Humana: Garanta que a IA atue como uma ferramenta de apoio à decisão humana, e não como um substituto. A responsabilidade final pelas decisões deve recair sobre os profissionais do Direito.
Conclusão
A integração da IA no Direito representa uma oportunidade ímpar para aprimorar a eficiência e a celeridade da justiça. No entanto, essa transformação deve ser guiada por princípios éticos sólidos e por um arcabouço normativo robusto. A transparência, a explicabilidade, a não discriminação e a supervisão humana são pilares fundamentais para garantir que a IA sirva ao interesse público e fortaleça o Estado Democrático de Direito. Aos profissionais do setor público cabe o desafio e a responsabilidade de liderar esse processo de forma ética, crítica e inovadora.
Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.