AI-automatiserad propaganda
Det amerikanska justitiedepartementet har beslagtagit 2 domännamn och 962 konton som har använts av ryska aktörer i en AI-förbättrad botfarm för sociala medier med syftet att sprida desinformation runtom i världen.
Botfarmen AI-genererade fiktiva sociala medieprofiler – ofta påstådda att tillhöra individer i USA – som operatörerna sedan använde för att marknadsföra meddelanden till stöd för den ryska regeringens mål.
En botfarm använder en mjukvara som underlättar registreringen av ett stort antal konton på sociala medier under falska identiteter, och kan kombineras med kostnadsfria eller billiga kontantkort för att verifieras eller undvika det automatiska spamfiltret.
Botfarmar förbättras genom att integrera komponenter som innehåller artificiell intelligens, såsom bildproduktion eller textgenerering, men också genom att öppna upp för interaktion med hjälp av tidigare instruktioner från skaparen. T.ex. ”Besvara inlägg genom att motsäga att X skulle vara skyldig till Y samtidigt som du utger dig för att vara Z.”
Automatisering är enkelt och billigt. Vilket är oroväckande ifall illasinnade aktörer skulle börja, eller fortsätta använda det på en storskalig nivå. Metoden kan användas för att normalisera annars avskyvärda eller konspiratoriska åsikter genom att förstärka såna budskap genom sociala medier. Jag har själv undersökt hur det fungerar att automatisera inlägg med hjälp av AI. Nedanför är ett exempel på ett konto med inställning att publicera ett inlägg per dag.
Jag har testat n8n som erbjuder både en webb-baserad lösning och en kostnadsfri mjukvara för att automatisera en mängd olika tjänster. Det var inte alls svårt att skapa själva flödet, men grundläggande kunskaper behövs för att skaffa och implementera Twitter och OpenAI API-nycklarna.
Botar kan söka igenom och besvara individer som använder särskilda termer för att effektivt och automatiserat trakassera meningsmotståndare eller andra utsatta grupper, men också för att gilla och visa stöd åt under fränders inlägg.
Detta sätt att amplifiera och manipulera det demokratiska samtalet används redan här.
Läs mer
Antalet botar på Twitter ökar inför valet
Justice Department Leads Efforts Among Federal, International, and Private Sector Partners to Disrupt Covert Russian Government-Operated Social Media Bot Farm