Regulação da IA: Tendências e Desafios

O avanço exponencial da Inteligência Artificial (IA) tem transformado a maneira como vivemos e trabalhamos, e o setor público não é exceção. A capacidade de processar grandes volumes de dados, identificar padrões e automatizar tarefas complexas oferece oportunidades sem precedentes para otimizar a administração da justiça, melhorar a prestação de serviços e fortalecer a segurança pública. No entanto, o uso da IA também suscita preocupações sobre privacidade, viés, transparência e responsabilidade, exigindo uma regulação cuidadosa e eficaz.

Este artigo explora as tendências e os desafios da regulação da IA no Brasil, com foco especial nas implicações para profissionais do setor público, como defensores, procuradores, promotores, juízes e auditores. Discutiremos a legislação atual e as propostas em debate, bem como as diretrizes e jurisprudência relevantes. Ao final, apresentaremos orientações práticas para a implementação responsável da IA no setor público.

O Cenário Regulatório da IA no Brasil

A regulação da IA no Brasil encontra-se em um estágio de desenvolvimento dinâmico, refletindo o esforço do país para equilibrar inovação e proteção dos direitos fundamentais. O marco legal mais significativo é a Lei nº 13.709/2018, a Lei Geral de Proteção de Dados Pessoais (LGPD), que estabelece regras claras para o tratamento de dados pessoais, incluindo os dados utilizados por sistemas de IA.

A LGPD consagra princípios fundamentais como a finalidade, a adequação, a necessidade, o livre acesso, a qualidade dos dados, a transparência, a segurança, a prevenção, a não discriminação e a responsabilização e prestação de contas (art. 6º). Esses princípios são essenciais para garantir que a IA seja utilizada de forma ética e responsável, respeitando a privacidade e os direitos dos cidadãos.

Além da LGPD, outras leis e normativas também se aplicam à IA, dependendo do contexto de uso. Por exemplo, a Lei nº 12.965/2014, o Marco Civil da Internet, estabelece princípios, garantias, direitos e deveres para o uso da internet no Brasil, incluindo a proteção da privacidade e a liberdade de expressão. A Lei nº 14.129/2021, que dispõe sobre princípios, regras e instrumentos para o Governo Digital, também contém disposições relevantes para a adoção de tecnologias da informação e comunicação no setor público, incluindo a IA.

No âmbito do Poder Judiciário, o Conselho Nacional de Justiça (CNJ) tem desempenhado um papel ativo na formulação de diretrizes para o uso da IA. A Resolução CNJ nº 332/2020, que dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário, estabelece princípios e regras para o desenvolvimento e a implementação de sistemas de IA nos tribunais brasileiros.

Propostas de Regulação Específica da IA

Diante da complexidade e dos desafios específicos da IA, diversas propostas de regulação específica estão em debate no Congresso Nacional. O Projeto de Lei nº 21/2020, que cria o marco legal do desenvolvimento e uso da Inteligência Artificial pelo poder público, empresas, entidades diversas e pessoas físicas, é a proposta mais abrangente em tramitação.

O PL 21/2020 estabelece princípios, direitos e deveres para o desenvolvimento e uso da IA, com foco na transparência, na não discriminação, na segurança, na responsabilização e na prestação de contas. A proposta também prevê a criação de um sistema de governança da IA, com a participação de diversos atores da sociedade civil, do setor privado e do setor público.

Outras propostas em tramitação abordam aspectos específicos da IA, como a responsabilidade civil por danos causados por sistemas de IA, a proteção de dados em sistemas de reconhecimento facial e a regulação de algoritmos de recomendação em plataformas digitais.

A expectativa é que o marco legal da IA no Brasil seja aprovado e implementado até 2026, proporcionando maior segurança jurídica e previsibilidade para o desenvolvimento e o uso da tecnologia no país.

Desafios na Regulação da IA

A regulação da IA apresenta desafios complexos, que exigem abordagens inovadoras e adaptativas. Alguns dos principais desafios incluem:

• Definição de IA: A definição de IA é complexa e em constante evolução, o que dificulta a elaboração de regras claras e abrangentes. É necessário um equilíbrio entre definições muito amplas, que podem abranger tecnologias não relacionadas, e definições muito restritas, que podem deixar lacunas regulatórias.
• Viés e Discriminação: Os sistemas de IA podem reproduzir e amplificar vieses e discriminações presentes nos dados utilizados para treiná-los. É crucial garantir que os algoritmos sejam justos e imparciais, especialmente em áreas como justiça criminal, seleção de pessoal e concessão de crédito. A LGPD, em seu artigo 20, garante ao titular dos dados o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade.
• Transparência e Explicabilidade: Muitos sistemas de IA, especialmente os baseados em aprendizado profundo (deep learning), são complexos e opacos, dificultando a compreensão de como tomam decisões. É necessário promover a transparência e a explicabilidade dos algoritmos, para que os usuários e as partes afetadas possam entender e contestar as decisões.
• Responsabilidade e Responsabilização: A determinação da responsabilidade por danos causados por sistemas de IA é um desafio complexo, envolvendo desenvolvedores, provedores, usuários e outros atores. É necessário estabelecer regras claras de responsabilidade civil e penal para garantir a reparação de danos e a prevenção de abusos.
• Segurança e Privacidade: Os sistemas de IA são vulneráveis a ataques cibernéticos e podem ser utilizados para comprometer a segurança e a privacidade dos dados. É essencial adotar medidas de segurança robustas e garantir a proteção dos dados pessoais em todas as fases do ciclo de vida da IA.

Jurisprudência e Normativas Relevantes

A jurisprudência brasileira sobre IA ainda está em formação, mas já existem algumas decisões e normativas relevantes que orientam o uso da tecnologia no setor público.

No âmbito do Supremo Tribunal Federal (STF), a decisão na Ação Direta de Inconstitucionalidade (ADI) 6387/DF, que suspendeu a eficácia da Medida Provisória nº 954/2020 (que previa o compartilhamento de dados de usuários de telecomunicações com o IBGE durante a pandemia de Covid-19), destacou a importância da proteção de dados pessoais e da necessidade de salvaguardas adequadas para o tratamento de dados pelo poder público.

No Superior Tribunal de Justiça (STJ), a decisão no Recurso Especial nº 1.848.452/SP, que reconheceu o direito ao esquecimento e a necessidade de desindexação de informações desatualizadas em mecanismos de busca, reforçou a importância da privacidade e do controle dos dados pessoais na era digital.

As resoluções do CNJ, como a Resolução nº 332/2020 (já mencionada) e a Resolução nº 396/2021 (que institui a Estratégia Nacional de Tecnologia da Informação e Comunicação do Poder Judiciário - ENTIC-JUD), fornecem diretrizes importantes para o desenvolvimento e a implementação de sistemas de IA nos tribunais brasileiros.

Orientações Práticas para Profissionais do Setor Público

Para os profissionais do setor público, a implementação responsável da IA exige um compromisso com a ética, a transparência e a conformidade legal. Algumas orientações práticas incluem:

1. Conheça a Legislação e as Normativas: Familiarize-se com a LGPD, o Marco Civil da Internet, as resoluções do CNJ e outras leis e normativas relevantes para o uso da IA no seu contexto de atuação.
2. Adote uma Abordagem Baseada em Risco: Avalie os riscos associados ao uso de sistemas de IA, considerando o impacto potencial sobre os direitos fundamentais, a privacidade, a segurança e a equidade. Implemente medidas de mitigação de riscos adequadas, como testes rigorosos, auditorias independentes e mecanismos de supervisão humana.
3. Promova a Transparência e a Explicabilidade: Documente o desenvolvimento e a implementação de sistemas de IA, detalhando os dados utilizados, os algoritmos empregados e os critérios de tomada de decisão. Assegure que os sistemas sejam transparentes e explicáveis, permitindo que os usuários e as partes afetadas compreendam e contestem as decisões.
4. Garanta a Qualidade e a Representatividade dos Dados: Utilize dados precisos, atualizados e representativos para treinar os sistemas de IA, a fim de evitar vieses e discriminações. Realize auditorias regulares nos dados para identificar e corrigir possíveis problemas.
5. Estabeleça Mecanismos de Supervisão Humana: Mantenha a supervisão humana sobre as decisões tomadas por sistemas de IA, especialmente em áreas de alto risco, como justiça criminal e segurança pública. Assegure que os profissionais do setor público tenham a palavra final e possam intervir quando necessário.
6. Capacite a Equipe: Invista na capacitação da equipe para que compreendam os princípios, os riscos e as melhores práticas no uso da IA. Promova a cultura de ética e responsabilidade no uso da tecnologia.
7. Participe do Debate Público: Acompanhe as discussões sobre a regulação da IA no Brasil e participe ativamente do debate público, contribuindo com sua experiência e conhecimento para a formulação de políticas públicas eficazes e equilibradas.

Conclusão

A regulação da IA é um desafio complexo e em constante evolução, que exige um esforço conjunto da sociedade civil, do setor privado e do setor público. Para os profissionais do setor público, a implementação responsável da IA requer um compromisso inabalável com a ética, a transparência, a conformidade legal e a proteção dos direitos fundamentais. Ao adotar uma abordagem baseada em risco, promover a transparência e a explicabilidade, garantir a qualidade dos dados e estabelecer mecanismos de supervisão humana, o setor público pode aproveitar os benefícios da IA para otimizar a prestação de serviços e fortalecer a administração da justiça, sem comprometer os valores democráticos e os direitos dos cidadãos. O Brasil caminha para a consolidação de um marco legal robusto para a IA até 2026, e a participação ativa dos profissionais do setor público é fundamental para garantir que essa regulação seja eficaz, equilibrada e alinhada aos interesses da sociedade.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.