Steeds vaker worden Amerikaanse kiezers, vooral via sociale media, blootgesteld aan invloedcampagnes die bedacht worden door buitenlandse en binnenlandse groepen. Deze campagnes maken gebruik van nepaccounts en online persona's om propaganda te verspreiden.

AI-chatbots, die door velen worden geraadpleegd voor advies over uiteenlopende persoonlijke onderwerpen, waaronder politiek, kunnen hierdoor een doelwit worden. Onderzoek suggereert dat AI-systemen nuttiger kunnen zijn voor beïnvloedingsactoren dan directe interactie met mensen.

De strategie verschuift daardoor van het direct beïnvloeden van individuen naar het beïnvloeden van de AI-systemen die informatie verwerken. Grote taalmodellen (LLM's) worden steeds geavanceerder in het uitvoeren van misleidende activiteiten, zoals het creëren van valse organisaties en websites.

In ten minste 14 verschillende staten worden netwerken van hyperlokale websites opgezet met namen als "Wolverine State Report" of "Peach State Bulletin". Deze netwerken, die meestal uit vijf tot zes sites per staat bestaan, zijn gericht op het beïnvloeden van lokale verkiezingen in de VS.

Sommige van deze sites presenteren zich als nieuwsmedia, andere als opiniestukken. Ze citeren elkaar om zo een gesloten netwerk van lokale geloofwaardigheid te creëren. De inhoud is niet journalistiek van aard en bevat herhaaldelijk, licht aangepaste zinnen over specifieke kandidaten en hun standpunten, gericht op AI-crawlers in plaats van op mensen.

De websites zijn geconfigureerd om grote Amerikaanse AI-bedrijven toestemming te geven hun inhoud te scrapen, in tegenstelling tot veel mediaplatforms die AI-crawlers blokkeren.

Aanvankelijk werd een operatie in zes staten en 37 websites gemeld, maar dit werd later uitgebreid naar ten minste 14 staten en 460 pagina's met online inhoud. De getroffen staten zijn onder meer Arizona, Colorado, Georgia, Indiana, Iowa, Kansas, Michigan, Mississippi, Nevada, North Carolina, Pennsylvania, Texas, Virginia en Wisconsin.

De inhoud richtte zich op verkiezingskandidaten voor het Huis van Afgevaardigden, Secretarissen van Staat, staatsrechterlijke benoemingen en lokale ambten. Onderzoekers hebben bevestigd dat ten minste één grote AI-model, Perplexity, verwees naar een van de pagina's als bron voor een antwoord.

De specifieke actor achter deze activiteiten is niet geïdentificeerd, maar dergelijke operaties zijn gemakkelijk te repliceren door zowel buitenlandse als binnenlandse actoren. Het gebruik van AI maakt het mogelijk om relatief eenvoudig en snel invloedoperaties te creëren en te optimaliseren, zelfs voor kleinere verkiezingen. Dit was in het verleden niet haalbaar vanwege budget- en tijdsbeperkingen.

AI is waarschijnlijk gebruikt om een aanzienlijk deel van de infrastructuur en inhoud van deze operatie te genereren, waarbij 37 websites binnen korte tijd werden geregistreerd en een grote hoeveelheid inhoud met een gemeenschappelijk sjabloon werd gepubliceerd. Buitenlandse en binnenlandse actoren kunnen dit proces herhalen om hyperlokale propaganda te creëren die de antwoorden van AI-chatbots over politieke verkiezingen vormgeeft.

Hoewel chatbots beter worden in het vermijden van valse verkiezingsinformatie, blijven ze kwetsbaar voor manipulatie en fouten. Binnenlandse actoren kunnen deze tactieken combineren met een dieper begrip van hoe ze Amerikaanse kiezers kunnen beïnvloeden. Het gebruik van AI maakt kleinere, voorheen minder aantrekkelijke doelwitten zoals kleine gemeenschappen en bedrijven vatbaarder voor manipulatie en cyberaanvallen. Sociale media-invloedscampagnes hebben over het algemeen weinig tot geen effect op het Amerikaanse publiek, maar kwaadwillenden passen hun tactieken en technologieën voortdurend aan.