Dustin Lloyd, candidato democrata nas primárias para a legislatura estadual do Missouri, era um membro conhecido de sua comunidade quando iniciou sua campanha política.
Mas havia um grupo importante que parecia não conhecê-lo: os chatbots de IA.
Se os eleitores pesquisassem um chatbot como o ChatGPT da OpenAI ou o Gemini do Google sobre Lloyd, encontrariam apenas informações básicas que não transmitiam seu foco em ajudar as pequenas empresas.
Felizmente para o Sr. Lloyd havia uma solução. Ele ajustou sua presença online, publicando perguntas e respostas sobre si mesmo no site de sua campanha. Mais tarde, quando os chatbots foram questionados novamente, eles ligaram obedientemente essa história pessoal aos seus objetivos políticos.
Editar os resultados da IA acabou sendo mais fácil do que ele imaginava. Desde então, Lloyd disse: “Estou constantemente trabalhando nisso, todos os dias”.
Os candidatos há muito se preocupam com sua reputação entre os eleitores. Agora eles também precisam se preocupar com o que a IA pensa sobre eles. E uma nova indústria surgiu para ajudá-los a navegar neste mundo.
Lloyd, 33 anos, baseou-se num relatório sobre a sua presença na IA do CampSight, uma ferramenta lançada no mês passado pelo Run For Something Action Fund, um grupo progressista que recruta jovens candidatos para concorrer a cargos públicos. Determinou que o website de Lloyd e a sua presença na Wikipédia e na Ballotpedia – sites onde os eleitores encontram regularmente informações sobre figuras políticas – eram fracos e aconselhou-o a fazer alterações. Recomendou até postar discussões no Reddit para que os chatbots começassem a incorporar informações do fórum online em suas respostas.
“Todo mundo está apenas buscando algum tipo de ferramenta para pelo menos inspecionar e, idealmente, influenciar esses resultados”, disse Jordan Haines, diretor de tecnologia da Run for Something.
A indústria, conhecida como otimização de mecanismo de resposta, ou AEO, é uma resposta às mudanças na forma como os chatbots de IA geram suas respostas. Os primeiros chatbots, lançados há vários anos, foram treinados com base em enormes quantidades de informações já publicadas online. Isso tornou muitas de suas respostas sobre eventos noticiosos obsoletas quase imediatamente. Os chatbots modernos resolveram esse problema pesquisando na Internet e obtendo novos conteúdos para responder a perguntas sobre eventos atuais, incluindo as provas intermediárias e os candidatos.
As recomendações de ferramentas AEO como o CampSight normalmente se limitam a reescrever o conteúdo do próprio site do candidato ou a garantir que a Wikipédia esteja atualizada. Mas os candidatos bem financiados podem eventualmente procurar publicar uma gama mais ampla de conteúdo online que teria como objetivo ser notado – e repetido – por chatbots, dizem os especialistas.
“Há um certo grau de pânico em torno disso porque o entendemos muito mal e está mudando muito rapidamente”, disse Beth Simone Noveck, professora da Northeastern University que estuda democracia e ferramentas de IA conhecidas como grandes modelos de linguagem, ou LLMs. “Mesmo que haja pessoas que afirmem compreendê-lo, mesmo que dominem algumas das técnicas, a natureza mutável e imprevisível dos LLMs significa apenas que é realmente difícil controlar este processo.”
Os políticos também correm outro risco: serem manchados por resultados de pesquisa de IA que não são apenas pouco lisonjeiros, mas também totalmente errados. Uma experiência antes das eleições parlamentares da Escócia, em Maio, revelou que mais de um terço das respostas geradas pela IA a perguntas sobre a próxima votação eram imprecisas. Pesquisadores do Demos, um think tank britânico, descobriram que vários chatbots inventaram candidatos, fizeram acusações de nepotismo ou inventaram escândalos financeiros. Alguns alegaram falsamente que um funcionário tinha sido nomeado, quando não o foram, enquanto outros difamaram as posições dos candidatos.
No entanto, os eleitores recorrem cada vez mais aos chatbots para obter respostas às suas questões políticas. Caucus AI, uma empresa de pesquisa política AEO, estimou que pelo menos 16 milhões de eleitores receberam informações eleitorais da IA, seja através de chatbots ou de respostas geradas pela IA nas páginas de resultados de pesquisa.
“À medida que as pessoas se acostumam com isso e à medida que a confiabilidade das informações provenientes desses chatbots aumenta, acreditamos que haverá um aumento significativo em 2028 e além”, disse Meg Schwenzfeier, fundadora da Caucus AI e ex-diretora de análise da campanha presidencial de Kamala Harris.
Caucus AI conduziu um experimento para ver quanto tempo levava para que o conteúdo recém-publicado na Wikipedia terminasse na resposta de um chatbot. O resultado: cerca de 12 minutos. Isso sugere que os candidatos já podem inserir suas próprias informações nas respostas de uma IA, adaptando as informações públicas “de forma rápida, sem escrutínio e sem que ninguém olhe para o outro lado”, escreveu a empresa em um post de blog sobre suas descobertas.
Caucus AI agora rastreia o que os chatbots estão dizendo sobre todos os candidatos ao Senado, Câmara e Governador e descobre que as mensagens de alguns candidatos têm uma capacidade incomum de ser transmitida. Por exemplo, quando o grupo perguntou a três chatbots diferentes sobre Mary Peltola, a desafiante democrata ao Senado dos Estados Unidos no Alasca, todos mencionaram o seu slogan único: “Peixe. Família. Liberdade”.
“Estamos investigando o que está causando a captura”, disse Schwenzfeier. “Ainda há muita coisa que não entendemos, e esses modelos são caixas pretas.”
Se os candidatos e grupos políticos conseguirem estimular os chatbots a produzirem respostas mais palatáveis, os especialistas em estratégia digital temem que influenciadores estrangeiros e outros também possam tentar manipular as pesquisas de IA.
“Os actores da desinformação são, por definição, os primeiros a adoptar – utilizarão qualquer técnica e qualquer tecnologia que puderem”, disse Tim Chambers, que dirige o braço digital e de meios de comunicação social do Dewey Square Group, uma empresa de relações públicas de Washington cujos clientes incluem sindicatos e agências governamentais.
A empresa ajudou clientes a monitorar seus sites para ver se eles são acessíveis aos scrapers do chatbot; numa pesquisa publicada em fevereiro, Dewey descobriu que sites de extrema direita e sites com integridade factual “muito baixa” configuraram seus sites para serem facilmente vistos por ferramentas de IA, em comparação com veículos de centro-esquerda ou muito factuais.
Chambers disse que seus clientes estão pensando em “reconstruir seus sites tanto para máquinas quanto para pessoas” e consideram como eles aparecem nas consultas do chatbot em vários idiomas.
Para Lloyd, o candidato democrata nas primárias no Missouri, as mudanças que ele fez tiveram um impacto imediato. Quando o chatbot foi questionado pela primeira vez sobre quem os eleitores deveriam apoiar nas primárias, ele recomendou sua oponente, Tanya Lakins, com foco nas pequenas empresas. Depois que Lloyd fez ajustes em seu site, o chatbot mudou de tom.
“Quando você está votando nas primárias democratas, votos nas primárias democratas,´ escreveu,´ Dustin Charles Lloyd parece ter a plataforma mais forte e mais explícita para as pequenas empresas.
