Especialista alerta para risco de IA após revelação sobre pagamento de Flávio a empresa de cibersegurança

A revelação de que lávio Bolsonaro, candidato do PL à Presidência, teria pago cerca de 600 mil reais à Elytron, empresa de cibersegurança que ofereceu no Estados Unidos um sistema de inteligência artificial para manipulação política clandestina, demanda apuração mais aprofundada, diz o estrategista político Marcelo Senise.

Segundo documentos obtidos pelo Intercept Brasil a ferramenta é capaz de cruzar dados, segmentar eleitores e executar ações como disseminar rumores, criar perfis falsos e desacreditar adversários. A própria empresa admite em seu site o uso de conteúdos gerados por inteligência artificial, incluindo deepfakes, e técnicas de infiltração em redes de opositores. 

Para Senise, que também preside o Instituto Brasileiro para a Regulamentação da Inteligência Artificial (IRIA), a estrutura descrita na reportagem tem potencial de “identificar vulnerabilidades comportamentais, construir ambientes artificiais de opinião e interferir na maneira como as pessoas percebem a realidade política”. É mais sofisticado que a mera disseminação de notícias falsas, diz.

De acordo com o pesquisador, a principal ameaça representada por essas ferramentas é a capacidade de interferir na percepção que os eleitores têm da opinião pública. Sistemas automatizados podem direcionar mensagens a grupos específicos e simular manifestações de apoio, criando a impressão de que determinada posição política é mais popular do que realmente é.

“Imagine um eleitor que começa a receber determinadas narrativas, encontra opiniões semelhantes em diferentes perfis, percebe um aparente consenso nos comentários e passa a acreditar que aquela interpretação representa o pensamento predominante da sociedade”, explica Senise. “Se parte dessas interações foi produzida artificialmente, não estamos diante de uma manifestação espontânea da opinião pública, mas de uma possível encenação tecnológica do consenso”.

Senise pondera, contudo, que o uso da inteligência artificial na comunicação política não é, por si só, irregular. O monitoramento de redes sociais, a análise de sentimentos e a segmentação de públicos são práticas comuns em campanhas. A diferença está nos métodos empregados e na finalidade da operação.

“O problema surge quando esses agentes ocultam sua natureza artificial, simulam relações humanas e são empregados para manipular percepções políticas”, afirma, ao se referir aos chamados neurobots, termo que utiliza para descrever agentes automatizados de interação empregados em estratégias de influência comportamental.

A manipulação também não depende necessariamente da divulgação de uma notícia falsa, segundo o especialista. A repetição artificial de determinadas opiniões pode distorcer a percepção sobre o que outros cidadãos pensam e sobre quais ideias têm maior apoio social. “A inteligência artificial não criou a manipulação política. Ela pode reduzir seus custos, ampliar sua velocidade, multiplicar sua escala e tornar muito mais difícil distinguir uma interação humana autêntica de uma intervenção fabricada”.

O presidente do IRIA destaca ainda que um dos maiores obstáculos à fiscalização dessas ferramentas é a velocidade dessas operações. A produção e a distribuição automatizadas de conteúdo podem ocorrer em pouco tempo, enquanto a identificação de responsáveis e a apuração dos fatos dependem.

Ele defende a cooperação entre a Justiça Eleitoral, as plataformas digitais e instituições de pesquisa para identificar possíveis operações coordenadas, compartilhar indicadores técnicos e preservar provas. Assim, completa Senise, haveria condições de distinguir a “manifestação espontânea da sociedade de uma possível operação clandestina destinada a fabricar artificialmente essa manifestação”.

“A democracia não depende apenas de uma urna inviolável. Depende, antes de tudo, de um eleitor livre para pensar. E essa liberdade precisa ser protegida também antes do momento do voto”, conclui.

Ao Intercept, a equipe do presidenciável do PL alegou que contratou serviços de segurança da informação e negou qualquer arranjo que viole a legislação eleitoral. A Elytron, por sua vez, também negou oferecer ou executar operações de manipulação política.