Pular para o conteúdo

Enxames maliciosos e riscos para o controle externo

Dados, Informação e Conhecimento

Autoria

  • Renata Ramos de CastroDoutora e mestre em Direito pela Universidade Federal de Minas Gerais. Subprocuradora-Geral do Município de Contagem, Minas Gerais. Especialista em Evidências de Políticas Públicas pela Blavatnik School of Government da Universidade de Oxford. Especialista em Direito Público Global pela Universidade de Castilla-La Mancha. MBA em Gerenciamento de Projetos pelo IBMEC-MG. Diretora de Estudos Aplicados do Instituto Protege.
  • Sebastião Helvécio Ramos de CastroDoutor em Saúde Coletiva pela Universidade do Estado do Rio de Janeiro. Médico-pediatra. Bacharel em Direito. Conselheiro aposentado do Tribunal de Contas do Estado de Minas Gerais. Diretor de Projetos Estratégicos do Instituto Protege.

PARTE I — RESUMO E INTRODUÇÃO

RESUMO

Esta investigação constata uma crise epistemológica no núcleo do Controle Externo, provocada pelo surgimento do “enxame malicioso”.

O artigo traça o percurso desde o paradigma da racionalidade estruturada (Doutrina Neuronal de Cajal) até a desordem afetiva da sociedade do enxame (Han, 2018), na qual a comunicação simétrica e a descarga afetiva substituem o lógos discursivo.

O enxame malicioso é definido como uma categoria analítica e normativa que instrumentaliza a simbiose entre Grandes Modelos de Linguagem (LLMs) e Agentes Autônomos. Essa dupla tecnológica confere aos ataques escalabilidade exponencial e hiper-realismo digital (por meio de deepfakes e mimetismo retórico), permitindo a engenharia social em larga escala.

O objetivo desses ataques não é apenas o roubo de dados, mas a manipulação da percepção e a erosão sutil do capital fiduciário das Entidades Fiscalizadoras Superiores (EFS).

O artigo diagnostica os riscos sistêmicos à luz das normas ISSAI. A pressão ilegítima e sintética (consenso fabricado) compromete a autonomia decisória, enquanto a adulteração digital vulnera a integridade probatória.

O conflito manifesta-se no choque entre o tempo da razão (reflexivo e processual), próprio do Controle, e o tempo do afeto (instantâneo e viral), característico do enxame.

Para mitigar esse risco, o trabalho propõe um novo paradigma de defesa que transcende a cibersegurança e avança sobre a epistemologia jurídica.

As linhas de ação incluem a adoção da Auditoria 4.0 (monitoramento externo por meio de IA e Processamento de Linguagem Natural – PLN), a Auditoria de Algoritmos (XAI) e a proteção da integridade subjetiva do agente de controle contra a psicopolítica da exposição (o respeito haniano).

O artigo conclui que as EFS devem assumir o papel de Guardiãs do Ecossistema Democrático-Administrativo, protegendo a integridade da informação para preservar a validade epistêmica da democracia.

PALAVRAS-CHAVE

Controle Externo; Enxame Malicioso; Epistemologia da Auditoria; Integridade da Informação; Inteligência Artificial; Autonomia Decisória.

Introdução: da epistemologia neuronal à turbulência do enxame digital

O itinerário da inteligência, desde a investigação biológica até o advento da técnica, traçou um caminho que buscou incessantemente a ordem e a estrutura funcional.

Essa busca não se restringiu à ciência pura; ao contrário, projeta reflexos diretos sobre a governança pública e o imperativo de controle da Administração Pública.

O século XX foi inaugurado com o reconhecimento da Doutrina Neuronal de Santiago Ramón y Cajal (1906), que, ao postular o neurônio como unidade discreta e interconectada pela sinapse, estabeleceu o paradigma da racionalidade estruturada.

A inteligência, sob essa perspectiva, manifesta-se como resultado da conexão funcionalmente organizada de unidades autônomas.

Essa visão de mundo, profundamente influente, não tardou a migrar para o domínio da Inteligência Artificial (IA), concebida no Dartmouth Summer Research Project (McCarthy et al., 1956), no qual a rede neural artificial se tornou a matriz laboratorial da inteligência das máquinas, alicerçada na premissa da coerência sistêmica e do processamento lógico.

Entretanto, o ambiente digital atual impôs uma ruptura epistemológica a essa arquitetura de ordem.

O filósofo Byung-Chul Han (2018) diagnostica o surgimento de uma nova forma de agregação social que se contrapõe tanto à massa coesa — dotada de alma e direção unificada, como na psicologia das multidões de Le Bon — quanto à comunidade organizada pelo respeito — o pathos da distância reflexiva.

Trata-se do enxame (Schwarm): um conjunto desierarquizado e turbulento de indivíduos isolados, cuja comunicação não é orientada pela racionalidade discursiva, mas pela instantaneidade da descarga afetiva e pela multiplicação de ruídos sem um centro normativo.

A transição da rede funcional para o enxame disperso possui implicações de natureza existencial e jurídico-institucional.

Ali onde o Controle Externo, como instituição essencial, busca a verdade processual e a justificação epistêmica para a deliberação, a dinâmica do enxame digital opera sob a lógica da pós-verdade e da saturação escandalosa.

É nesse limiar que se manifestam os “enxames maliciosos”: a instrumentalização calculada da turbulência afetiva e do anonimato digital para veicular desinformação (deepfakes, notícias falsas), promover ataques de negação de serviço, manipular registros digitais e corroer o capital fiduciário das instituições públicas.

Esses enxames, ao explorar a simetria comunicacional das plataformas digitais, representam um vetor de risco que atinge a própria medula do Controle Externo.

Os atributos de multiplicidade e adaptabilidade do enxame, que lhe conferem resiliência, convertem-se em ferramentas para degradar a integridade probatória das auditorias e violar a autonomia decisória das Entidades Fiscalizadoras Superiores (EFS).

Assim, esta investigação sustenta que o enxame malicioso deve ser reconhecido como uma ameaça sistêmica à democracia e ao valor público.

Seu enfrentamento impõe ao Controle Externo não apenas a adaptação de métodos, mas também a formulação de uma nova epistemologia e de um arcabouço normativo inadiável, à altura das exigências internacionais da INTOSAI e da preservação da função essencial de garantir a accountability em tempos de turbulência e hiper-realismo informacional.

1.1. A tese da “mudança de era”: do lógos moderno à desordem afetiva do enxame

A análise filosófica de Byung-Chul Han, notadamente em No Enxame: perspectivas do digital (2018), não se limita a descrever um fenômeno comunicacional: sustenta uma verdadeira transformação estrutural da sociedade.

A digitalização onipresente não apenas modifica os instrumentos de comunicação; inaugura uma mudança de era marcada pela passagem de modelos de convivência fundamentados na disciplina e na mediação para a lógica dispersa da sociedade do enxame.

Essa transição implica a fragmentação radical da esfera pública.

As estruturas de poder hierárquico e as mediações simbólicas que outrora conferiam densidade e capacidade deliberativa ao espaço comum — fundamentos, como observou Habermas, da teoria moderna da ação comunicativa — são dissolvidas.

Em seu lugar, emerge um fluxo incessante de interações simétricas, instantâneas e desprovidas de permanência.

O enxame (Schwarm), em oposição dialética à massa coesa, é uma multiplicidade atomizada que, sem alma coletiva nem narrativa fundadora, já não obedece à razão discursiva, mas à descarga afetiva imediata, à reprodução viral de signos e ao imperativo da visibilidade exacerbada do eu.

A crítica de Han ilumina um paradoxo com implicações diretas para o Direito e, particularmente, para o Controle Externo: quanto mais sofisticadas se tornam as tecnologias — capazes de aprendizagem autônoma, simulação cognitiva e análise de big data —, mais frágeis se revelam os vínculos sociais e as estruturas de confiança que sustentam a legitimidade da deliberação pública.

É nessa confluência paradoxal que se insere a presente investigação.

De um lado, a Inteligência Artificial (IA) alcança um nível de hiper-realismo digital, tornando-se capaz de produzir deepfakes e narrativas automatizadas em uma escala indistinguível da criação humana.

De outro, a sociedade do enxame, vulnerável ao ruído e à manipulação emocional, oferece terreno fértil para a proliferação da desinformação e para operações coordenadas de manipulação.

Dessa conjugação emerge o fenômeno aqui denominado “enxame malicioso”: a instrumentalização cibernética da lógica dispersa e afetiva do enxame por meio de tecnologias avançadas de automação e Inteligência Artificial.

Esse vetor de risco não é meramente comunicacional: compromete a função essencial do Controle Externo ao ameaçar a rastreabilidade e a integridade da prova, corroer o capital fiduciário das Entidades Fiscalizadoras Superiores (EFS) e fragilizar o processo de construção do juízo autônomo e imparcial.

A tese central que orienta este trabalho pode, assim, ser enunciada nos seguintes termos:

A simbiose entre a sofisticação tecnológica da IA e a vulnerabilidade comunicacional da sociedade do enxame inaugura um risco sistêmico de integridade, exigindo do Controle Externo não apenas a adaptação de seus métodos, mas a formulação de uma epistemologia própria e de um arcabouço normativo à altura das exigências da INTOSAI, notadamente o dever de zelo profissional (due professional care) e a preservação do valor público.

Do paradigma ordenado da doutrina neuronal, que inspirou os primeiros modelos de inteligência artificial, à turbulência comunicacional do enxame digital descrito por Byung-Chul Han, delineia-se uma verdadeira mudança de era.

Essa passagem não é apenas conceitual ou tecnológica: produz riscos concretos para a legitimidade das instituições democráticas.

Quando a sofisticação da IA se combina com a fragmentação da sociedade do enxame, emerge o fenômeno do enxame malicioso, capaz de corroer a confiança pública, manipular fluxos informacionais e vulnerar a autonomia decisória das Entidades Fiscalizadoras Superiores.

É nesse horizonte que se insere a presente investigação: compreender, à luz das normas internacionais da INTOSAI, como o Controle Externo pode enfrentar esse risco sistêmico, desenvolvendo categorias teóricas e instrumentos normativos aptos a preservar a imparcialidade, a rastreabilidade da prova e o valor público que fundamentam sua existência