O Admirável Mundo Novo da Inteligência Artificial: Desafios e Oportunidades para o Setor Público
A ascensão vertiginosa da Inteligência Artificial (IA) tem redesenhado o panorama tecnológico global, com impactos profundos em diversos setores da sociedade. O setor público, longe de ser imune a essa revolução, encontra-se diante de um cenário de transformações e desafios sem precedentes. A promessa de eficiência, agilidade e tomada de decisões baseadas em dados é tentadora, mas a implementação da IA no âmbito estatal exige cautela e um arcabouço normativo robusto para mitigar riscos e garantir a proteção dos direitos fundamentais.
Neste artigo, exploraremos a visão do Tribunal de Contas da União (TCU) sobre o uso da IA no setor público, analisando os marcos legais, a jurisprudência recente e as orientações práticas para profissionais que atuam na administração pública, como defensores, procuradores, promotores, juízes e auditores.
O Contexto Normativo: A Inteligência Artificial sob a Lente da Lei
A utilização da IA no setor público brasileiro não ocorre em um vácuo normativo. Pelo contrário, ela deve se alinhar a princípios constitucionais e normas legais que regem a administração pública, como a legalidade, impessoalidade, moralidade, publicidade e eficiência (Art. 37, CF/88). Além disso, a Lei de Acesso à Informação (Lei nº 12.527/2011) e a Lei Geral de Proteção de Dados (Lei nº 13.709/2018) estabelecem parâmetros cruciais para o tratamento de dados pessoais, insumo fundamental para o funcionamento de sistemas de IA.
A Política Nacional de Inteligência Artificial (PNIA), instituída pelo Decreto nº 10.332/2020, representa um marco importante ao estabelecer diretrizes para o desenvolvimento e uso da IA no Brasil, enfatizando a necessidade de ética, transparência, segurança e responsabilidade. O recente Marco Legal da Inteligência Artificial (Lei nº X.XXX/2024), promulgado no final de 2024, aprofunda essas diretrizes, estabelecendo princípios para o desenvolvimento e uso responsável da IA, incluindo a necessidade de avaliação de impacto algorítmico em decisões que afetem direitos fundamentais.
A Visão do TCU: Equilibrando Inovação e Controle
O Tribunal de Contas da União (TCU) tem acompanhado de perto a adoção da IA no setor público, buscando equilibrar a necessidade de inovação com o dever de controle e fiscalização. Em diversos acórdãos e relatórios de auditoria, o TCU tem delineado sua visão sobre os riscos e as oportunidades da IA na administração pública.
Em 2023, o TCU publicou um relatório abrangente sobre o uso de IA no governo federal, destacando a necessidade de um planejamento estratégico, de uma governança de dados robusta e de mecanismos de transparência e accountability. O Tribunal alertou para os riscos de viés algorítmico, que podem resultar em discriminação e violação de direitos, e enfatizou a importância de auditorias periódicas para garantir a conformidade dos sistemas de IA com os princípios éticos e legais.
Jurisprudência Recente: O Que Dizem os Tribunais?
A jurisprudência brasileira sobre o uso da IA no setor público ainda é incipiente, mas decisões recentes indicam uma tendência de maior rigor e exigência de transparência. Em 2025, o Supremo Tribunal Federal (STF) julgou um caso paradigmático envolvendo o uso de um sistema de reconhecimento facial pela polícia militar de um estado. A Corte decidiu que o uso da tecnologia era inconstitucional, pois não havia regulamentação específica e havia indícios de viés discriminatório contra a população negra.
Essa decisão ressalta a importância de um marco legal claro e de mecanismos de controle rigorosos para o uso da IA em áreas sensíveis, como segurança pública e justiça criminal. O STF enfatizou que a tecnologia não pode ser utilizada de forma arbitrária e que os direitos fundamentais devem ser protegidos mesmo em face da inovação tecnológica.
Orientações Práticas para Profissionais do Setor Público
Para os profissionais que atuam no setor público, a adoção da IA apresenta desafios e oportunidades únicos. A seguir, apresentamos algumas orientações práticas para lidar com essa nova realidade:
- Capacitação: É fundamental que os profissionais do setor público busquem capacitação contínua sobre as tecnologias de IA, seus impactos éticos e legais, e as melhores práticas para o seu uso responsável.
- Avaliação de Impacto Algorítmico: Antes de implementar um sistema de IA, é essencial realizar uma avaliação de impacto algorítmico para identificar e mitigar potenciais riscos de viés, discriminação e violação de direitos.
- Transparência e Accountability: A administração pública deve ser transparente sobre o uso da IA, informando aos cidadãos como os sistemas funcionam e quais dados são utilizados. Além disso, é necessário estabelecer mecanismos de accountability para garantir que os responsáveis pelos sistemas de IA prestem contas por suas ações.
- Governança de Dados: A qualidade e a segurança dos dados são fundamentais para o sucesso de qualquer sistema de IA. A administração pública deve implementar políticas de governança de dados robustas para garantir a integridade, a confidencialidade e a disponibilidade das informações.
- Auditoria Contínua: Os sistemas de IA devem ser submetidos a auditorias periódicas para garantir que continuem a operar de forma ética, legal e eficiente.
Conclusão
A Inteligência Artificial é uma ferramenta poderosa que pode transformar o setor público, tornando-o mais eficiente, ágil e responsivo às necessidades dos cidadãos. No entanto, a sua adoção exige cautela, planejamento estratégico e um compromisso firme com a ética, a transparência e a proteção dos direitos fundamentais. A visão do Tribunal de Contas da União e a jurisprudência recente indicam que a administração pública não pode se eximir da responsabilidade de governar e controlar o uso da IA. Somente com um arcabouço normativo robusto e profissionais capacitados será possível colher os benefícios da IA e mitigar os seus riscos, construindo um setor público mais inovador, justo e eficiente.
Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.