Guia: IA e Controle Externo

O advento da Inteligência Artificial (IA) tem transformado o cenário do controle externo no Brasil, impulsionando a eficiência e a precisão nas atividades de fiscalização e auditoria. Profissionais do setor público, como defensores, procuradores, promotores, juízes e auditores, deparam-se com um novo paradigma que exige a compreensão das potencialidades e dos limites éticos e legais dessas tecnologias. Este artigo explora as aplicações da IA no controle externo, abordando a fundamentação legal, a jurisprudência e as normativas relevantes, além de fornecer orientações práticas para a implementação responsável e eficaz dessas ferramentas.

O Papel da IA no Controle Externo

A IA oferece um leque de possibilidades para aprimorar o controle externo, desde a análise de grandes volumes de dados (Big Data) até a identificação de padrões e anomalias que poderiam passar despercebidos por métodos tradicionais. Ferramentas de aprendizado de máquina (Machine Learning) e processamento de linguagem natural (PLN) podem ser utilizadas para:

• Auditoria Preditiva: Antecipar riscos de irregularidades em contratações públicas, licitações e execução orçamentária, permitindo a atuação preventiva dos órgãos de controle.
• Análise de Contratos e Documentos: Automatizar a extração de informações relevantes e a verificação de conformidade em contratos, editais e prestação de contas.
• Detecção de Fraudes e Corrupção: Identificar padrões suspeitos em transações financeiras e cruzamentos de dados, auxiliando na investigação de desvios de recursos públicos.
• Otimização de Processos Internos: Agilizar a triagem de processos, a elaboração de relatórios e a gestão do conhecimento, liberando os servidores para atividades de maior complexidade.

Fundamentação Legal e Ética

A utilização da IA no controle externo deve ser pautada por princípios éticos e legais que garantam a transparência, a accountability e o respeito aos direitos fundamentais. A legislação brasileira, em constante evolução, oferece um arcabouço normativo para o uso responsável dessas tecnologias.

Constituição Federal e Princípios da Administração Pública

A Constituição Federal de 1988, em seu artigo 37, estabelece os princípios da legalidade, impessoalidade, moralidade, publicidade e eficiência, que devem nortear a atuação da Administração Pública, inclusive no uso da IA. A eficiência, em particular, impulsiona a adoção de tecnologias que otimizem os recursos públicos e aprimorem a qualidade dos serviços prestados. A publicidade exige transparência na utilização de algoritmos, permitindo o escrutínio público sobre as decisões tomadas com base em sistemas de IA.

Lei Geral de Proteção de Dados (LGPD)

A Lei nº 13.709/2018 (LGPD) estabelece regras para o tratamento de dados pessoais, inclusive pelo Poder Público. O uso da IA no controle externo, que frequentemente envolve o processamento de grandes volumes de dados, deve observar os princípios da finalidade, adequação, necessidade, livre acesso, qualidade dos dados, transparência, segurança, prevenção, não discriminação e responsabilização. A anonimização de dados, sempre que possível, e a implementação de medidas de segurança da informação são essenciais para garantir a conformidade com a LGPD.

Marco Legal da Inteligência Artificial (Projeto de Lei nº 2.338/2023)

O Projeto de Lei nº 2.338/2023, que institui o Marco Legal da Inteligência Artificial no Brasil, busca regular o desenvolvimento, a implementação e o uso de sistemas de IA, estabelecendo princípios como a centralidade do ser humano, a transparência, a não discriminação e a responsabilidade. O projeto prevê a classificação de sistemas de IA de acordo com o risco, impondo requisitos mais rigorosos para aqueles considerados de alto risco, como os utilizados em áreas de segurança pública, justiça e administração pública. A aprovação desse marco legal, prevista para os próximos anos, consolidará um ambiente regulatório mais claro e seguro para a inovação em IA no Brasil.

Normativas e Resoluções

Além da legislação geral, os órgãos de controle externo têm editado normativas e resoluções específicas para orientar o uso da IA em suas atividades. O Tribunal de Contas da União (TCU), por exemplo, publicou a Resolução nº 335/2021, que dispõe sobre a governança de tecnologia da informação e comunicação no âmbito do tribunal, incluindo diretrizes para o uso de IA. A resolução destaca a necessidade de transparência, explicabilidade e supervisão humana nos sistemas de IA, bem como a avaliação contínua dos impactos éticos e sociais dessas tecnologias.

Jurisprudência e Desafios

A jurisprudência sobre o uso da IA no controle externo ainda está em formação, mas já existem decisões relevantes que apontam para a necessidade de cautela e de observância dos princípios constitucionais e legais.

O Caso "Alice" (Analisador de Licitações e Editais)

O "Alice", sistema de IA desenvolvido pela Controladoria-Geral da União (CGU) em parceria com o TCU, é um exemplo pioneiro do uso de IA no controle externo brasileiro. O sistema analisa editais de licitação e identifica potenciais irregularidades, como sobrepreço, restrição à competitividade e cláusulas abusivas. O sucesso do "Alice" tem inspirado a criação de outras ferramentas semelhantes em diversos órgãos de controle, demonstrando o potencial da IA para aprimorar a fiscalização de contratos públicos.

Desafios e Limites

Apesar dos benefícios, o uso da IA no controle externo apresenta desafios significativos:

• Viés Algorítmico: Sistemas de IA podem reproduzir e amplificar preconceitos e discriminações presentes nos dados utilizados para treiná-los, resultando em decisões injustas ou enviesadas. É fundamental garantir a diversidade e a representatividade dos dados, bem como a implementação de mecanismos de auditoria algorítmica para identificar e mitigar vieses.
• Falta de Explicabilidade (Caixa Preta): Alguns modelos de IA, como as redes neurais profundas (Deep Learning), são complexos e difíceis de interpretar, tornando opaco o processo de tomada de decisão. A explicabilidade é essencial para garantir a accountability e o direito à contestação por parte dos cidadãos e das entidades fiscalizadas.
• Supervisão Humana: A IA não deve substituir o julgamento humano, mas sim auxiliá-lo. A supervisão humana é crucial para garantir que as decisões tomadas com base em sistemas de IA sejam justas, razoáveis e alinhadas aos princípios éticos e legais.
• Segurança da Informação: A proteção dos dados utilizados pelos sistemas de IA é fundamental para evitar vazamentos e ataques cibernéticos, garantindo a integridade e a confidencialidade das informações.

Orientações Práticas para a Implementação da IA

A implementação da IA no controle externo exige planejamento, capacitação e governança:

1. Definição Clara de Objetivos: Identificar as áreas e os processos em que a IA pode gerar maior impacto e valor público, alinhando as iniciativas aos objetivos estratégicos do órgão.
2. Qualidade dos Dados: Investir na coleta, higienização e integração de dados de qualidade, garantindo a base necessária para o treinamento de modelos de IA precisos e confiáveis.
3. Capacitação de Servidores: Promover a formação e a capacitação contínua dos servidores em ciência de dados, IA e ética digital, desenvolvendo as habilidades necessárias para utilizar e auditar essas tecnologias.
4. Governança e Ética: Estabelecer políticas e diretrizes claras para o uso da IA, incluindo princípios éticos, mecanismos de transparência, auditoria algorítmica e supervisão humana.
5. Parcerias e Colaboração: Fomentar a colaboração com universidades, centros de pesquisa e o setor privado, compartilhando conhecimento, recursos e boas práticas no desenvolvimento e na implementação de soluções de IA.
6. Pilotos e Avaliação Contínua: Iniciar com projetos pilotos em áreas de menor risco, avaliando os resultados, ajustando os modelos e expandindo o uso da IA de forma gradual e segura.

Conclusão

A Inteligência Artificial representa uma oportunidade ímpar para aprimorar o controle externo no Brasil, tornando-o mais eficiente, preventivo e transparente. No entanto, a adoção dessas tecnologias exige uma abordagem responsável e ética, pautada pelos princípios constitucionais, pela legislação vigente e pelas melhores práticas de governança. O engajamento e a capacitação dos profissionais do setor público são fundamentais para garantir que a IA seja utilizada como uma ferramenta a serviço da sociedade, fortalecendo a accountability e a qualidade da gestão pública. O futuro do controle externo passa, inevitavelmente, pela inteligência artificial, e cabe a nós moldar esse futuro com ética, responsabilidade e visão estratégica.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.