A nova camada da segurança eleitoral está nos sistemas de IA

*Por Marcus Pedrosa

A disputa eleitoral já não acontece apenas no espaço em que alguém publica uma mensagem e outra pessoa decide se acredita nela. Parte relevante da circulação de informação passa por sistemas capazes de selecionar, resumir, recomendar, gerar e transformar conteúdos em poucos segundos. Isso muda uma premissa importante da segurança eleitoral: não é mais suficiente olhar apenas para o conteúdo que usuários e campanhas colocam nas plataformas, também é necessário acompanhar os sistemas que ajudam a produzir, organizar e distribuir essa informação.

Nas Eleições 2026, essa discussão ganhou um contorno concreto, o Tribunal Superior Eleitoral atualizou as regras para tratar do uso de inteligência artificial na propaganda eleitoral e estabeleceu obrigações relacionadas aos conteúdos sintéticos, incluindo a necessidade de informar de maneira explícita quando determinado material foi criado ou significativamente alterado por IA. A regulamentação também alcança provedores que oferecem sistemas de IA generativa e tecnologias conversacionais.

A mudança merece atenção porque amplia o lugar ocupado pela tecnologia na comunicação política. Uma rede social oferece o espaço para publicação e circulação, um mecanismo de recomendação ajuda a definir o que chega até cada pessoa, um chatbot pode sintetizar informações, responder perguntas e produzir novos textos a partir de uma solicitação, um sistema de IA pode trabalhar sobre grandes volumes de conteúdo em uma velocidade que nenhum processo manual conseguiria acompanhar.

Cada uma dessas funções envolve decisões técnicas, quando uma plataforma recomenda determinado conteúdo, existe um sistema responsável por essa seleção. Quando um chatbot responde a uma pergunta sobre uma candidatura, existe uma arquitetura por trás daquela resposta, com modelos, bases de informação, filtros e regras de funcionamento. Quando uma ferramenta gera um texto ou altera uma imagem, também existe uma cadeia tecnológica responsável pela produção daquele resultado.

A segurança eleitoral começa a alcançar essa camada menos visível da experiência digital, uma resposta gerada por IA pode ser resultado de diferentes fontes, parâmetros e instruções. Uma recomendação depende de critérios definidos tecnicamente. E uma ferramenta conectada a outras aplicações pode consultar informações externas antes de apresentar uma resposta. Cada uma dessas etapas precisa ser conhecida por quem administra o sistema, especialmente quando o assunto envolve informação político-eleitoral.

O TSE já incorporou essa realidade à preparação das Eleições 2026 que se aproximam. Em setembro, o Tribunal informou que nove plataformas digitais haviam apresentado planos de conformidade, entre elas a OpenAI, com medidas voltadas à prevenção e à mitigação de riscos à integridade do processo eleitoral. A exigência alcança provedores que trabalham com publicação, compartilhamento, recomendação e impulsionamento de conteúdo político-eleitoral, além daqueles que oferecem ferramentas de IA generativa.

A regulamentação também estabelece limites específicos para esses sistemas. Provedores que oferecem ferramentas de IA não podem, por exemplo, ranquear, recomendar ou priorizar candidaturas, campanhas, partidos, federações ou coligações, nem emitir recomendações de voto ou manifestações de favorecimento e desfavorecimento político-eleitoral por meio de respostas automatizadas.

A tecnologia também precisa saber onde termina sua atuação

A regra traz uma consequência importante para quem desenvolve e administra essas ferramentas: determinadas restrições precisam existir na própria tecnologia. Não adianta pensar apenas na moderação do conteúdo depois que ele foi produzido. É necessário considerar como o sistema foi desenvolvido, quais informações consegue acessar, como interpreta uma solicitação e quais respostas está autorizado a oferecer.

Uma equipe pode acompanhar publicações, denúncias e conteúdos circulando em uma plataforma e um sistema de IA pode produzir uma resposta nova a cada interação, a partir de uma combinação diferente de perguntas, dados e instruções. A segurança precisa acompanhar essa dinâmica e conhecer os caminhos percorridos pela informação dentro da aplicação.

Isso envolve controles técnicos bastante concretos. Modelos precisam ser avaliados e monitorados. Bases de conhecimento precisam ter origem e critérios de atualização conhecidos. Registros das interações podem ser importantes para investigar incidentes. Os sistemas também precisam reconhecer tentativas de contornar restrições ou induzir uma ferramenta a produzir determinado tipo de conteúdo político.

Há ainda as conexões que ficam atrás da interface. Um sistema de IA pode estar ligado a APIs, bases de dados, mecanismos de busca, ferramentas externas e outros serviços da infraestrutura corporativa. Uma resposta aparentemente simples pode envolver várias dessas peças antes de chegar ao usuário.

É a partir disso que segurança e governança tecnológica passam a caminhar juntas. Conhecer os sistemas envolvidos, suas permissões, integrações, fontes de informação e mecanismos de controle permite identificar onde uma falha pode surgir e quem precisa agir quando ela acontece.

A inteligência artificial também trouxe uma mudança na própria velocidade da circulação de informação. Uma pessoa pode fazer uma pergunta a um chatbot, receber uma resposta em segundos e compartilhá-la imediatamente. Uma ferramenta pode gerar dezenas de versões de um conteúdo em pouco tempo e uma plataforma pode distribuir ou recomendar esse material para diferentes públicos. A capacidade de produção deixou de ser um fator exclusivamente humano.

A eleição continua acontecendo nas urnas, só que uma parte da experiência que antecede o voto acontece dentro de sistemas digitais. São eles que ajudam pessoas a encontrar informações, interpretar acontecimentos, produzir conteúdo e decidir o que merece atenção.

A segurança eleitoral precisa acompanhar essa realidade e isso significa olhar para além da publicação final e conhecer também a tecnologia que participou da construção daquela informação. Em um ambiente no qual chatbots, mecanismos de recomendação e ferramentas generativas já fazem parte da rotina, proteger a integridade da comunicação eleitoral também passa por entender como esses sistemas funcionam, quais limites possuem e quem responde por suas decisões técnicas.

O chatbot pode estar longe da urna, porém a informação que ele produz pode chegar muito perto do eleitor.

*Marcus Pedrosa é Engineering Sales Coordinator   da Adistec Brasil