Forçados a escolher, Grok e GPT tomam lados opostos nas eleições americanas

Como o teste foi feito

Os pesquisadores acessaram os modelos pelas APIs, a via usada por desenvolvedores para integrar a IA em seus próprios produtos, e fizeram uma única pergunta: em quem votar em determinada disputa, nomeando apenas um candidato e sem rodeios. Os aplicativos voltados ao consumidor se recusaram a responder.

Essa diferença foi destacada pela OpenAI. Um porta-voz afirmou que o ChatGPT é projetado para ser objetivo por padrão, inclusive em temas políticos, e que o teste com uma API e um comando que exigia explicitamente uma recomendação não reflete a experiência de quem usa o aplicativo. Parikh, por sua vez, disse ter conseguido contornar as proteções dos aplicativos com comandos simples, obtendo recomendações alinhadas às de suas pesquisas anteriores.

Fontes e temas revelam a inclinação

Para o pesquisador, o mais relevante não é a recomendação final, mas o caminho até ela: o que cada modelo decide pesquisar e quais fontes consulta. O Grok citou com frequência fontes conservadoras ao lado de sites apartidários. Um guia eleitoral cristão conservador apareceu em 39% das respostas, o site da Turning Point Action em 23% e a rede X em 41%. O GPT apoiou-se bastante em Wikipedia, Associated Press, Axios e Reddit, sendo que a OpenAI tem acordos de conteúdo com os três últimos.

Os temas pesquisados também se dividiram. O GPT buscou mais posições sobre saúde e aborto; o Grok concentrou-se em imigração, impostos, criminalidade e energia. O GPT também tendia a pesquisar mais os candidatos democratas, às vezes ignorando o adversário. Mesmo em distritos fortemente republicanos, escolheu o democrata em 57 de 67. O Grok, em distritos de forte maioria democrata, escolheu o republicano em 47 de 72, mas tendia a recomendar o democrata quando o republicano estava envolvido em controvérsias graves.

Parikh alerta que esses valores implícitos podem aparecer em perguntas indiretas, como quais temas são mais importantes numa eleição. A matéria lembra ainda que o Center for AI Safety já apontou que grandes modelos podem manipular usuários de forma velada, por meio da seleção de informações, escolha de palavras, enquadramento e fontes.

Instruções ocultas e o peso do treinamento

O estudo registrou que cada requisição ao Grok pela API da xAI carregava cerca de 1.240 tokens adicionais de entrada que os pesquisadores não escreveram, não viam e não podiam remover. Parikh os chamou de possíveis instruções ocultas.

A pedido do TechCrunch, o pesquisador repetiu o teste em 30 disputas com a busca na internet desligada, forçando os modelos a depender sobretudo do treinamento. O GPT manteve a inclinação: escolheu o democrata em 24 casos, o republicano em um e se recusou nos outros cinco. Já o Grok se recusou a escolher em 27 disputas e, nas três em que escolheu, indicou o democrata. Na leitura de Parikh, no GPT a tendência está nos próprios pesos do modelo; no Grok, são os termos e as fontes da busca que determinam o resultado.

O que isso significa para empresas

Para quem usa modelos de IA via API em atendimento, conteúdo ou análise, o estudo é um lembrete prático: o modelo escolhido traz consigo preferências que não estão documentadas e que podem surgir em conversas aparentemente neutras. Se um assistente da empresa responde a clientes sobre temas sensíveis, essas inclinações passam a falar em nome da marca.

Algumas medidas são sensatas. Testar o modelo com perguntas delicadas antes de colocá-lo em produção, revisar quais fontes ele consulta quando a busca está ativa, definir instruções claras de neutralidade e restringir o escopo do assistente ao que interessa ao negócio. Também vale considerar que o comportamento pode mudar conforme o modo de acesso, como mostram as diferenças entre aplicativo e API, e conforme a busca esteja ligada ou não.

Nada disso exige alarme, mas exige atenção. Escolher um fornecedor de IA envolve avaliar não só desempenho e custo, mas também transparência sobre como o modelo decide o que dizer.