’Islamiska staten uppmanar nu sina rekryter att använda artificiell intelligens för att producera och sprida propaganda. I den senaste engelskspråkiga publikationen Voice of Khorasan beskrivs AI som ett verktyg som “inte kan ignoreras”.
Det är kanske den tydligaste signalen hittills om att generativ AI inte bara är ett kreativt verktyg – utan också ett accelerationsverktyg för extremism.
Det som tidigare krävde tekniska kunskaper, kontakter och resurser kan i dag göras av vem som helst med tillgång till en chattbot. AI kan skriva övertygande budskap, översätta dem till flera språk, skapa bilder och producera videomaterial på sekunder. Det kan dessutom anpassa propagandan för olika målgrupper automatiskt.
Extremistgrupper som förlorat territorium har i stället flyttat kriget till nätet. Med AI behöver de inte längre bygga upp stora medieapparater. De kan massproducera innehåll med en effektivitet som tidigare var reserverad för stater och globala företag. Säkerhetsanalytiker varnar för att tröskeln för radikalisering nu sänks dramatiskt. När verktygen blir enklare, billigare och mer tillgängliga blir det också enklare att manipulera, övertyga och organisera.
Frågan är inte längre om AI kan användas i propagandakriget. Frågan är hur många som redan gör det.
Vad det betyder:
• Extremistpropaganda kan bli mer sofistikerad och svårare att identifiera.
• Rekrytering kan ske mer diskret och i större skala.
• Plattformar och myndigheter riskerar att hamna steget efter.
Vad det här leder till vet ingen. Men när radikalisering kan automatiseras är det inte längre en fråga om resurser – utan om räckvidd. Och i en värld där räckvidd är makt förändras spelreglerna snabbt.
Läs Mer
AI-bedrägerier ökar – 16 procent av svenskar drabbade
Du kan få AI att utföra olagliga handlingar genom poesi
AI användes för att skapa nya virus i labb