title: “IA na Administração Pública: um desafio à soberania” date: 2024-07-25 temas: [“Reflexões e opinião”, “Políticas e conformidade”, “Infraestruturas”] topicos: [“Inteligência artificial”, “Soberania digital”, “Administração pública”, “Dados públicos”, “Contratação pública”, “Auditabilidade”] author: “McDG” draft: false

#!/intro

A inteligência artificial tem vindo a afirmar-se como uma tecnologia com potencial significativo na transformação digital da Administração Pública. A sua utilização promete acelerar procedimentos, apoiar a análise de grandes volumes de informação, melhorar serviços ao cidadão e reforçar a capacidade de resposta do Estado em áreas como saúde, justiça, educação, administração fiscal, segurança social e gestão administrativa.

Contudo, a questão central não é apenas saber se a inteligência artificial pode tornar a Administração Pública mais eficiente. A questão essencial é determinar em que condições essa adoção ocorre, quem controla os sistemas utilizados, onde são tratados os dados públicos, que grau de transparência existe sobre os modelos e que capacidade real o Estado mantém para auditar, corrigir ou substituir essas soluções.

A inteligência artificial aplicada ao setor público não é uma ferramenta neutra. Quando integrada em processos administrativos, serviços digitais, análise de risco, atendimento ao cidadão ou apoio à decisão pública, passa a influenciar diretamente a relação entre o Estado e os cidadãos.

Este movimento, embora promissor, levanta desafios estruturais que não podem ser ignorados. A origem dos sistemas, a dependência de fornecedores externos, a opacidade algorítmica, a proteção dos dados públicos, a conformidade legal e a preservação dos direitos fundamentais devem estar no centro da discussão.

Importa garantir que as decisões públicas, mesmo quando apoiadas por tecnologia, continuam estritamente subordinadas aos princípios fundamentais da boa administração: legalidade, transparência, responsabilidade, proporcionalidade, igualdade de tratamento e serviço ao interesse público.

> dependencia

A dependência tecnológica face a fornecedores externos representa um risco estrutural para a autonomia da Administração Pública. Esse risco torna-se particularmente relevante quando os sistemas utilizados são desenvolvidos, alojados ou operados por entidades fora do controlo direto do Estado ou fora do espaço jurídico europeu.

Em muitos casos, a Administração Pública não adquire apenas uma aplicação, passando a depender de uma plataforma, de uma infraestrutura, de modelos proprietários, de contratos de suporte, de condições comerciais variáveis e de cadeias técnicas que nem sempre são totalmente transparentes.

Esta dependência é especialmente sensível em setores como justiça, saúde, segurança social, administração fiscal, educação, segurança pública ou gestão de emergências. Nestes domínios, a continuidade do serviço público, a integridade dos dados e a fiabilidade dos sistemas não são apenas requisitos técnicos, constituindo condições para o exercício legítimo da autoridade pública.

A ausência de acesso ao código, a impossibilidade de auditar modelos, a falta de informação sobre dados de treino, a opacidade dos critérios de decisão e a dificuldade de migração para soluções alternativas reduzem drasticamente a margem de decisão do Estado. A Administração Pública pode continuar formalmente responsável pelo serviço, mas perde a capacidade efetiva para compreender, explicar ou corrigir os sistemas que utiliza.

O risco não é apenas tecnológico; é jurídico, operacional e institucional. Se um sistema de inteligência artificial influencia prioridades, recomenda decisões, classifica cidadãos, identifica riscos ou organiza processos administrativos, a entidade pública deve conseguir explicar como esse sistema funciona, que dados utiliza, que limitações apresenta e quem responde por erros, enviesamentos ou impactos indevidos.

A soberania digital começa precisamente aqui: na capacidade de o Estado controlar as tecnologias que usa para exercer as suas funções públicas.

> dados_publicos

A Administração Pública trata grandes volumes de informação sensível sobre cidadãos, empresas, famílias, processos judiciais, situações clínicas, prestações sociais, obrigações fiscais, percursos educativos e interações administrativas. Estes dados não são um recurso comercial, tratando-se de informação pública sujeita a deveres especiais de proteção, finalidade, minimização, confidencialidade e conservação.

A utilização de sistemas de inteligência artificial coloca uma pergunta essencial: que dados são tratados, onde são tratados, por quem são tratados e com que finalidade.

Sempre que esses dados são processados em plataformas externas, sobretudo em serviços de computação na nuvem ou sistemas operados por fornecedores internacionais, a localização física dos dados deixa de ser a única questão relevante. É também necessário avaliar quem administra a infraestrutura, que entidades têm acesso operacional, que subcontratantes participam no serviço e que legislação pode ser aplicável.

Leis com alcance extraterritorial, como o Cloud Act dos Estados Unidos, ou regimes legais que impõem deveres amplos de cooperação com autoridades nacionais, como a Lei de Inteligência Nacional da China, demonstram que a soberania sobre os dados não depende apenas do local onde estes estão armazenados. Depende, fundamentalmente, do controlo efetivo sobre o fornecedor, sobre a infraestrutura e sobre a cadeia técnica que suporta o serviço.

No contexto da inteligência artificial, o risco aumenta quando os dados públicos são usados para treinar, ajustar ou melhorar sistemas proprietários. Mesmo quando não existe transferência direta de bases de dados completas, pode haver extração de padrões, inferências ou dependências técnicas que escapam ao controlo da entidade pública.

A Administração Pública deve, por isso, exigir garantias claras sobre segregação de dados, retenção, reutilização, eliminação, subcontratação, auditoria, portabilidade e reversibilidade. Sem estas salvaguardas, a adoção de inteligência artificial corre o risco de transformar informação pública em dependência privada.

> decisao_publica

A inteligência artificial pode apoiar a decisão administrativa, mas não deve tornar invisível o processo que a fundamenta. O risco não reside apenas na automatização integral de atos administrativos, manifestando-se também na automatização parcial, quando recomendações, classificações ou alertas produzidos por sistemas algorítmicos condicionam a decisão humana sem o devido escrutínio.

Na prática, um sistema pode ordenar prioridades, sinalizar suspeitas, atribuir níveis de risco, sugerir respostas, resumir processos ou identificar padrões. Mesmo quando a decisão final continua formalmente nas mãos de um funcionário público, o resultado pode ser fortemente condicionado pela forma como o sistema organiza e apresenta a informação.

Este fenómeno é particularmente preocupante em áreas de elevada sensibilidade, como a fiscalização tributária, a atribuição de apoios sociais, a avaliação de risco, a triagem clínica, a seleção de processos, a segurança pública ou a gestão de reclamações. Um erro algorítmico, um enviesamento nos dados ou uma regra mal calibrada produz impactos reais e imediatos sobre cidadãos e empresas.

A Administração Pública deve garantir que os sistemas utilizados são auditáveis, explicáveis e sujeitos a avaliação independente. Deve, igualmente, assegurar que existe intervenção humana qualificada, registo inequívoco das decisões, possibilidade de contestação, documentação dos critérios utilizados e uma clara responsabilidade institucional.

A opacidade algorítmica é frontalmente incompatível com uma Administração Pública democrática quando impede o cidadão de compreender uma decisão que o afeta. O Estado não pode responder a uma reclamação limitando-se a justificar que o sistema recomendou determinada conclusão.

A inteligência artificial pode ser uma ferramenta de apoio valiosa, mas a legitimidade da decisão pública continuará a depender de responsabilidade humana, fundamento legal e capacidade de explicação.

> contratacao_publica

Grande parte do futuro da inteligência artificial na Administração Pública será decidido no terreno da contratação pública.

Os cadernos de encargos, os requisitos técnicos, os critérios de adjudicação e as cláusulas de execução contratual determinarão se o Estado adquire soluções controláveis ou se cria novas dependências difíceis de reverter. Uma má contratação pode comprometer a soberania tecnológica durante anos, sobretudo quando envolve dados sensíveis, integrações profundas, formatos proprietários ou serviços críticos.

A contratação de soluções de inteligência artificial não deve avaliar apenas o preço, a rapidez de implementação ou as funcionalidades comerciais. Deve incluir requisitos estritos sobre auditabilidade, transparência, segurança, interoperabilidade, portabilidade, localização e tratamento de dados, gestão de subcontratantes, continuidade de serviço, reversibilidade e possibilidade real de substituição.

Também é fundamental exigir documentação técnica suficiente para permitir uma supervisão efetiva. Modelos opacos, contratos fechados e a dependência exclusiva de fornecedores limitam a capacidade da Administração Pública para responder a falhas, corrigir enviesamentos, migrar sistemas ou adaptar soluções a novos requisitos legais.

A reversibilidade deve ser tratada como um requisito essencial desde a fase inicial de planeamento. Não basta contratar um serviço que funcione; é necessário garantir que a entidade pública consegue cessar a utilização desse serviço ou terminar esse contrato sem perder dados, histórico, capacidade operacional ou a continuidade do próprio serviço público.

A Administração Pública deve evitar a todo o custo transformar a conveniência técnica imediata em dependência estrutural. A inteligência artificial pode acelerar processos, mas uma aceleração mal contratada resulta inevitavelmente na perda de autonomia, controlo e resiliência.

> capacidade_interna

A soberania digital não se garante apenas com contratos, normas ou declarações estratégicas; exige, sim, capacidade técnica instalada dentro do Estado.

Para usar inteligência artificial de forma responsável, a Administração Pública precisa de equipas internas capazes de avaliar requisitos, compreender limitações, acompanhar fornecedores, interpretar resultados, auditar sistemas, gerir riscos e responder a falhas de funcionamento. Sem estas competências, o Estado fica inteiramente dependente da explicação do próprio fornecedor sobre a tecnologia que tem o dever de supervisionar.

Isto não significa que todos os sistemas tenham de ser desenvolvidos internamente. Significa, pelo contrário, que a Administração Pública deve manter a capacidade autónoma indispensável para decidir, fiscalizar e substituir. A dependência total de consultores, plataformas externas ou soluções fechadas debilita a autonomia institucional.

A formação técnica, jurídica e ética dos organismos públicos será o fator determinante. A inteligência artificial não pode ser tratada como uma mera aquisição informática, pois envolve proteção de dados, direitos fundamentais, segurança da informação, contratação pública, arquitetura tecnológica, gestão de risco, continuidade de negócio e responsabilidade administrativa.

É igualmente essencial promover soluções interoperáveis, normas abertas e modelos que permitam um escrutínio adequado. Sempre que possível, devem ser privilegiadas arquiteturas que reduzam o aprisionamento tecnológico e permitam uma integração fluida com as infraestruturas públicas já existentes.

A soberania tecnológica na Administração Pública não depende apenas da origem da solução escolhida, medindo-se na capacidade real de a compreender, operar, auditar, adaptar e substituir quando necessário.

> conclusao

A adoção da inteligência artificial pela Administração Pública deve ser orientada por uma estratégia sólida, rigorosamente baseada em soberania digital, conformidade legal, segurança operacional e proteção dos valores democráticos.

A inteligência artificial pode melhorar significativamente os serviços públicos, reduzir tempos de resposta e apoiar decisões complexas. Contudo, sem a devida salvaguarda, também pode criar dependências opacas, reforçar assimetrias de poder, fragilizar direitos, dificultar o escrutínio público e transferir a capacidade real de decisão para fornecedores externos, elevando o risco de criar uma mera aparência de controlo, sem autonomia técnica real.

O desafio não passa por rejeitar a inteligência artificial, mas sim por impedir que a sua adoção comprometa a autonomia do Estado, a proteção dos dados públicos e a legitimidade da decisão administrativa.

Para o conseguir, a Administração Pública deve investir de forma decidida em competências internas, infraestruturas controláveis, contratação pública exigente, soluções auditáveis, interoperabilidade, planos de reversibilidade e mecanismos efetivos de fiscalização. A tecnologia deve servir o interesse público, nunca substituir a responsabilidade pública.

A Administração Pública não precisa de rejeitar a inteligência artificial para proteger o interesse público. Precisa, antes, de garantir que a sua utilização fica sujeita à lei, ao escrutínio democrático e à responsabilidade institucional do Estado.

> status: finished > exit 0