Como a IA pode dominar as eleições

Uma campanha política orientada por IA pode ser tudo para todas as pessoas

O ensaio a seguir foi reimpresso com permissão de The Conversation, uma publicação on-line que cobre as pesquisas mais recentes. Ele foi modificado pelos escritores da Scientific American e pode ser diferente do original.

As organizações poderiam usar modelos de linguagem de inteligência artificial, como o ChatGPT, para induzir os eleitores a se comportarem de maneiras específicas?

O senador Josh Hawley fez esta pergunta ao CEO da OpenAI, Sam Altman, em uma audiência do Senado dos EUA em 16 de maio de 2023 sobre inteligência artificial. Altman respondeu que estava realmente preocupado com a possibilidade de algumas pessoas usarem modelos de linguagem para manipular, persuadir e se envolver em interações individuais com os eleitores.

Aqui está o cenário que Altman poderia ter imaginado/tinha em mente: Imagine que em breve os tecnólogos políticos desenvolvam uma máquina chamada Clogger – uma campanha política em uma caixa preta. Clogger persegue incansavelmente apenas um objetivo: maximizar as chances de que seu candidato – a campanha que compra os serviços da Clogger Inc. – prevaleça em uma eleição.

Enquanto plataformas como Facebook, Twitter e YouTube usam formas de IA para fazer com que os usuários passem mais tempo em seus sites, a IA de Clogger teria um objetivo diferente: mudar o comportamento de votação das pessoas.

Como cientista político e jurista que estuda a interseção entre tecnologia e democracia, acreditamos que algo como Clogger poderia usar a automação para aumentar drasticamente a escala e potencialmente a eficácia da manipulação de comportamento e das técnicas de microdirecionamento que as campanhas políticas têm usado desde o início dos anos 2000. . Assim como os anunciantes usam sua navegação e histórico de mídia social para direcionar individualmente anúncios comerciais e políticos agora, Clogger prestaria atenção a você – e a centenas de milhões de outros eleitores – individualmente.

Ele ofereceria três avanços em relação à atual manipulação de comportamento algorítmico de última geração. Primeiro, seu modelo de linguagem geraria mensagens – textos, mídia social e e-mail, talvez incluindo imagens e vídeos – personalizadas para você pessoalmente. Enquanto os anunciantes colocam estrategicamente um número relativamente pequeno de anúncios, modelos de linguagem como o ChatGPT podem gerar inúmeras mensagens exclusivas para você pessoalmente – e milhões para outras pessoas – ao longo de uma campanha.

Em segundo lugar, Clogger usaria uma técnica chamada aprendizado por reforço para gerar mensagens que se tornassem cada vez mais propensas a mudar seu voto. O aprendizado por reforço é uma abordagem de aprendizado de máquina, de tentativa e erro, na qual o computador realiza ações e obtém feedback sobre qual funciona melhor para aprender como atingir um objetivo. Máquinas que podem jogar Go, Xadrez e muitos videogames melhor do que qualquer ser humano usaram o aprendizado por reforço. mentes dos outros. Clogger manteria "conversas" dinâmicas com você - e milhões de outras pessoas - ao longo do tempo. As mensagens do Clogger seriam semelhantes a anúncios que seguem você em diferentes sites e mídias sociais.

Mais três recursos – ou bugs – são dignos de nota.

Primeiro, as mensagens que Clogger envia podem ou não ser políticas. O único objetivo da máquina é maximizar a parcela de votos, e provavelmente criaria estratégias para atingir esse objetivo que nenhum ativista humano teria considerado.

Uma possibilidade é enviar aos prováveis ​​eleitores adversários informações sobre paixões não políticas que eles têm em esportes ou entretenimento para enterrar a mensagem política que recebem. Outra possibilidade é o envio de mensagens desconcertantes – por exemplo, anúncios de incontinência – programados para coincidir com as mensagens dos oponentes. E outra é manipular os grupos de mídia social dos eleitores para dar a impressão de que sua família, vizinhos e amigos apoiam seu candidato.

Em segundo lugar, Clogger não tem consideração pela verdade. Na verdade, não tem como saber o que é verdadeiro ou falso. As "alucinações" do modelo de linguagem não são um problema para esta máquina porque seu objetivo é mudar seu voto, não fornecer informações precisas.