O uso da inteligência artificial na administração pública e seus limites legais

A adoção da inteligência artificial (IA) pela administração pública avança rapidamente no Brasil, impulsionada pela busca por eficiência, redução de custos e melhoria na prestação de serviços. Sistemas de triagem automatizada, análise de dados, atendimento digital e apoio à tomada de decisões já fazem parte da rotina estatal. Contudo, o uso da IA no setor público impõe limites legais claros, sob pena de violação de direitos fundamentais e de aumento da responsabilidade do Estado.

IA como ferramenta administrativa, não como substituta do gestor

A inteligência artificial pode apoiar a administração pública em tarefas repetitivas, análises massivas de dados e otimização de processos. No entanto, não pode substituir integralmente o gestor público nas decisões que envolvem discricionariedade administrativa, juízo de valor ou impacto direto em direitos individuais.

Do ponto de vista jurídico, a IA deve atuar como instrumento auxiliar, e não como decisora autônoma, especialmente em matérias sensíveis como:

• concessão ou cancelamento de benefícios;
• aplicação de sanções;
• decisões fiscais ou previdenciárias;
• classificação de risco de cidadãos ou empresas.

A decisão final precisa ser humana, motivada e controlável.

Limites legais: legalidade, transparência e motivação

O uso da IA na administração pública está submetido aos princípios clássicos do Direito Administrativo. Isso significa que sistemas automatizados devem respeitar:

• legalidade: a tecnologia só pode ser usada quando houver base normativa válida;
• transparência: o cidadão tem direito de saber quando uma decisão envolve automação;
• motivação: atos administrativos não podem ser opacos ou inexplicáveis;
• controle e revisão: deve existir possibilidade de revisão humana da decisão.

Algoritmos que não permitem explicação mínima de seus critérios colidem com o dever de motivação dos atos administrativos.

Risco de vieses e discriminação algorítmica

Um dos maiores desafios jurídicos do uso da IA no setor público é o risco de vieses algorítmicos. Sistemas treinados com bases de dados incompletas ou distorcidas podem reproduzir desigualdades sociais, discriminar grupos vulneráveis ou gerar decisões injustas em larga escala.

Quando isso ocorre, o Estado pode ser responsabilizado por:

• violação ao princípio da isonomia;
• discriminação indireta;
• danos morais e materiais;
• afronta a direitos fundamentais.

Por isso, auditoria, monitoramento e avaliação contínua dos algoritmos são exigências jurídicas, não meras boas práticas técnicas.

Proteção de dados e decisões automatizadas

A IA no setor público depende do tratamento intensivo de dados pessoais, muitas vezes sensíveis. Isso amplia os deveres estatais de cuidado, segurança e proporcionalidade no uso das informações.

Decisões automatizadas que impactam o cidadão exigem:

• finalidade pública clara;
• minimização de dados;
• segurança da informação;
• possibilidade de contestação e revisão.

Falhas nesses aspectos podem configurar defeito na prestação do serviço público e gerar responsabilização civil do Estado.

Governança digital e gestão de riscos

A utilização legítima da inteligência artificial exige governança digital estruturada, com integração entre áreas técnicas, jurídicas e de controle. Isso inclui:

• definição clara de responsabilidades;
• normatização interna do uso da IA;
• documentação das decisões tecnológicas;
• planos de contingência e revisão;
• capacitação de gestores e servidores.

Sem governança, a inovação tecnológica tende a gerar insegurança jurídica e litígios.

A análise de Adonis Martins Alegre

Para o advogado Adonis Martins Alegre, o uso da inteligência artificial pelo Estado deve ser guiado pela responsabilidade jurídica:

“A inteligência artificial pode ampliar a eficiência da administração pública, mas não pode operar fora dos limites do Direito. Decisões automatizadas sem transparência, controle e revisão humana comprometem direitos fundamentais e ampliam a responsabilidade do Estado.”

Segundo Adonis Martins Alegre, a tecnologia só é legítima quando alinhada à legalidade, à proteção do cidadão e à possibilidade de controle institucional.

Conclusão

O uso da inteligência artificial na administração pública representa uma oportunidade relevante de modernização do Estado, mas traz consigo limites legais inafastáveis. Eficiência não pode se sobrepor à legalidade, à transparência e à proteção de direitos fundamentais.

Ao tratar a IA como ferramenta auxiliar, investir em governança digital e assegurar controle humano das decisões, o Estado pode inovar com segurança jurídica. Sem esses cuidados, a automação deixa de ser solução e passa a ser fonte de riscos, desigualdades e responsabilização estatal.