Podľa najnovších zistení sa podporovatelia islamského terorizmu čoraz častejšie obracajú na nástroje umelej inteligencie, aby oslovili nové publikum na platformách, ako je TikTok. Tento fenomén, označovaný ako „Slop Jihad“, predstavuje novú výzvu pre bezpečnostné zložky aj prevádzkovateľov sociálnych sietí.
Čo je „Slop Jihad“?
Termín „Slop Jihad“ kombinuje slangový výraz pre nekvalitný obsah generovaný AI („slop“) s pojmom džihád. Ide o masovú produkciu propagandistických videí, obrázkov a textov, ktoré majú za cieľ radikalizovať mladých ľudí. Vďaka umelej inteligencii dokážu tvorcovia vytvárať obsah rýchlo, lacno a vo veľkom množstve, čo im umožňuje obchádzať tradičné moderátorské mechanizmy.
Ako AI mení pravidlá hry
Na rozdiel od ručne vyrábaných propagandistických materiálov, ktoré si vyžadovali určité zručnosti a čas, generatívne modely dokážu vytvoriť presvedčivé videá alebo príspevky na základe jednoduchých textových promptov. To znamená, že aj menej technicky zdatní jedinci môžu produkovať obsah, ktorý sa tvári autenticky a dokáže zaujať algoritmy odporúčaní.
Hrozba pre mladých používateľov
Analytici upozorňujú, že TikTok so svojím mladým publikom a virálnym charakterom predstavuje ideálnu pôdu pre šírenie tohto typu obsahu. AI dokáže prispôsobiť správy rôznym cieľovým skupinám, čím zvyšuje šancu na úspech radikalizácie. Odborníci preto volajú po dôkladnejšej regulácii a vývoji pokročilejších detekčných nástrojov.
Reakcie a budúce kroky
Platformy ako TikTok už zaviedli opatrenia na odstraňovanie teroristického obsahu, no boj s obsahom generovaným umelou inteligenciou je podľa nich náročnejší. Vyžaduje si kombináciu technologických riešení, spoluprácu s bezpečnostnými zložkami a neustálu aktualizáciu algoritmov. V blízkej budúcnosti sa očakáva, že tento problém bude ešte viac narastať, a preto je nevyhnutné hľadať inovatívne spôsoby ochrany online priestoru.
About the Author
