A inteligência artificial já influencia áreas como transporte, saúde, finanças e até o setor público. Mas quando algoritmos começam a tomar decisões que afetam diretamente a vida de cidadãos, surgem questões éticas profundas. Juli Ponce Solé, catedrático de Direito Administrativo da Universidade de Barcelona, chama atenção para os perigos da desumanização nas decisões públicas automatizadas. Seu alerta: sem empatia, não há justiça.
IA na administração pública: o que está em jogo?
O uso de IA em governos visa agilizar processos, reduzir burocracias e melhorar a eficiência. Já é comum, por exemplo, utilizar algoritmos para classificar requerimentos, prever fraudes, organizar filas de espera ou priorizar benefícios sociais.
No entanto, quando essas tecnologias avançam para decisões mais sensíveis — como negar um crédito estudantil ou recomendar uma pena alternativa — o debate ético se intensifica.
O que diz Juli Ponce Solé?
Em seu novo livro, Ponce Solé argumenta que as inteligências artificiais, por mais avançadas que sejam, carecem de emoções, empatia e discernimento moral — elementos fundamentais para decisões justas. Segundo ele, decisões administrativas envolvem não apenas análise de dados, mas também interpretação humana, sensibilidade social e ponderação de valores conflitantes.
“A IA pode ser eficiente, mas não pode ser justa por si só”, afirma o jurista.
Riscos éticos do uso da IA no setor público
O especialista destaca alguns dos principais riscos ao automatizar decisões públicas:
- Despersonalização do atendimento ao cidadão
- Discriminação algorítmica por viés nos dados
- Falta de transparência nas decisões automatizadas
- Ausência de responsabilização clara
- Redução do controle democrático sobre as decisões
Casos reais e exemplos práticos
Diversos países já enfrentaram dilemas com o uso da IA em governos:
- Holanda: o sistema SyRI foi declarado ilegal por invadir a privacidade de cidadãos ao prever fraudes sociais.
- Reino Unido: algoritmos usados para prever reincidência criminal foram acusados de racismo estrutural.
- EUA: modelos de crédito social automatizado foram criticados por punir injustamente minorias e pessoas com menor escolaridade.
Esses exemplos mostram como a IA, quando mal regulada, pode amplificar desigualdades em vez de reduzi-las.
Qual o papel da IA nesse contexto?
A inteligência artificial pode ser uma aliada do serviço público, desde que usada com critérios éticos, limites claros e supervisão humana constante. Ponce propõe que a IA apoie — mas não substitua — os profissionais da administração pública.
Isso implica:
- Protocolos de revisão humana obrigatórios
- Explicabilidade dos algoritmos (IA explicável)
- Direito ao contraditório em decisões automatizadas
- Transparência e auditoria dos sistemas de IA
Tendências e caminhos futuros
Com a expansão do uso da IA em governos, cresce também o movimento por uma IA pública ética e confiável. Organizações como a UNESCO, a União Europeia e a OCDE já estabeleceram princípios orientadores para o uso responsável da IA no setor público.
Além disso, cresce a demanda por alfabetização algorítmica entre gestores públicos, permitindo que compreendam os sistemas que operam e supervisionam.
Empresas e tecnologias envolvidas
Diversas empresas de tecnologia desenvolvem soluções de IA para o setor público — como IBM, Palantir, Microsoft, Amazon e startups de GovTech. A pressão agora é para que essas soluções venham com garantias éticas embutidas desde o design, em conformidade com princípios de “Ethics by Design”.
Desafios para o presente e o futuro
- Como garantir que algoritmos públicos respeitem os direitos fundamentais?
- Quem será responsabilizado por decisões injustas tomadas por IA?
- Como equilibrar inovação e proteção social em um ambiente digital?
Essas são perguntas que exigem reflexão contínua e atuação conjunta de juristas, tecnólogos, gestores públicos e a própria sociedade civil.
Conclusão
A inteligência artificial pode transformar a administração pública, tornando-a mais ágil, precisa e eficiente. Mas como alerta Juli Ponce Solé, não podemos sacrificar a justiça e a humanidade em nome da automação. A decisão correta não é apenas a mais rápida — é a mais justa. E, para isso, a presença humana continua sendo indispensável.
