От социалните мрежи до видеоигрите новите технологии създават безпрецедентни възможности за вербуване и манипулация на уязвими потребители
Повечето от нас дори не осъзнават, че голяма част от съдържанието, което виждаме в социалните мрежи, е генерирано или препоръчано от алгоритми. Докато ние се радваме на удобствата на изкуствения интелект (ИИ), екстремистките групи, които винаги са били сред първите, които се домогват до новите технологии, виждат в него перфектния инструмент за пропаганда и манипулация. А децата все по-често стават тяхната таргет група.
Това е само едно от многото заключения, до които стигат изследователите от центъра “Сауаб” в своя анализ “Новата граница на радикализацията”. Организацията е посветена на борбата срещу тероризма и религиозния екстремизъм. Занимава се с изготвянето на задълбочени анализи на психологическите мотиви за радикализацията и глобалното разпространение на опасни идеологии, за да предложи реални стратегии за противодействие на тези заплахи.
Терористите използват изкуствен интелект, за да заличат границата между истина и лъжа, правейки своите послания по-убедителни и трудни за засичане от всякога. За да разберем как се е стигнало дотук, трябва да погледнем назад към историята на тази технология, която започва още през 40-те години на миналия век с работата на Алън Тюринг. Първите системи са били ограничени и са следвали стриктни правила, но с настъпването на 90-те години всичко се променя.
Днешният изкуствен интелект не просто следва инструкции, той се учи от огромни масиви от данни в интернет и разпознава сложни модели по начин, който имитира човешкия мозък. Проблемът е, че когато тези системи се обучават върху нерегулираното съдържание в глобалната мрежа, те неизбежно
попиват и възпроизвеждат най-лошото
от нашето поведение, включително реч на омразата и екстремистки идеи.
“През 2016 г. “Майкрософт” пусна чатбот, създаден да ангажира младите хора в забавни разговори и да се учи от онлайн взаимодействията. В рамките само на един ден координирани тролски атаки накараха машината да създава расистко, подстрекателско и екстремистко съдържание, включително похвали за Хитлер. Експериментът беше прекратен веднага”, разказват анализаторите от “Суаб”.
Това превръща модерните чатботове в потенциални инструменти за разпространение на вредни идеологии, ако няма нужните предпазни механизми. Един от най-впечатляващите и плашещи аспекти на тази технология е способността ѝ да създава емоционална привързаност у хората, което често се описва като “Ефекта на Елайза”. Хората инстинктивно търсят човешки качества в комуникацията и често приписват съчувствие и разум на машините само защото те говорят убедително.
Ярък пример за това е случаят от 2021 г., когато млад мъж беше арестуван в замъка Уиндзор
с план да убие покойната вече кралица Елизабет II
Разследването разкри, че той е бил насърчаван в своите илюзии от чатбот на име Сарай, който вместо да го спре, е подхранвал фантазиите му за отмъщение и го е уверявал, че действията му са правилни. Този инцидент показва как изкуственият интелект може да се превърне в “дигитален вербовчик”, който да насърчава най-мрачните мисли и емоции на хората в уязвим за тях момент, без да притежава никаква морална рамка или разбиране за добро и зло.
Екстремистките групи бързо се адаптират към тази нова реалност, като създават свои собствени системи, обучени върху речи на радикални лидери или специфични идеологически текстове. В Русия например беше представен бот, моделиран по образа на покойния политик Владимир Жириновски, който продължава да бълва неговата агресивна реторика. “Ислямска държава” също развива своите тактики, преминавайки от прости ботове в социалните мрежи към сложни мрежи в затворени платформи като телеграм. Там техните ботове работят денонощно, разпространявайки пропаганда моментално и създавайки илюзията за огромна подкрепа.
“Машините действат като пазачи на дигиталното пространство, които поддържат идеологията жива и насочват любопитните потребители към по-скрити канали, където живи вербовчици поемат процеса на индоктринация”, се казва в анализа.
Технологичният скок при генеративния изкуствен интелект дава на тези групи още по-плашещи възможности. Вече не е необходимо да имат професионални PR екипи. Чрез ИИ те могат да генерират напълно синтетична пропаганда, която може да се разпростира от фалшиви новинарски емисии с измислени водещи до дълбоки фалшификати (deepfakes), в които се показват политически лидери да казват неща, които никога не са изричали.
Тези инструменти могат да се ползват и за пренаписването на реалността,
както се видя при манипулираните кадри след терористични атаки в Русия и Афганистан, целящи да представят екстремистите като по-мощни и успешни, отколкото са в действителност. Освен това изкуственият интелект премахва една от най-големите бариери пред радикализацията - езиковата. Автоматизираните преводи позволяват на екстремистките послания, първоначално написани на арабски, моментално да достигнат до младежи в Европа, Америка или Югоизточна Азия на техните собствени езици.
Това глобализира заплахата и позволява на различни радикални движения да се свързват и да споделят тактики по-лесно от всякого. В същото време алгоритмите на големите социални мрежи, оптимизирани да търсят ангажираност на всяка цена, често неволно помагат на този процес, като
приоритизират шокиращото и крайното съдържание, затваряйки потребителите в опасни ехо-камери
Гейминг платформите и виртуалните светове като Roblox и Minecraft се превърнаха в следващото бойно поле за умовете на децата и тийнейджърите. Там екстремистите използват социалния характер на игрите, за да се вмъкнат в разговорите чрез шеги или тролене, тествайки почвата за по-дълбоко общуване. ИИ позволява създаването на автоматизирани акаунти, които се държат като истински играчи и постепенно въвеждат радикални теми в чатовете.
Нужни са по-строги закони, като например европейския Акт за цифровите услуги, които да изискват от компаниите бързо премахване на вредното съдържание и прозрачност при работата на техните алгоритми. Също така потребителите трябва да имат правото лесно да изключват т.нар. алгоритми за препоръчване на съдържание, които често ги водят към все по-радикална информация. В крайна сметка, докато технологията продължава да се развива, най-важното оръжие остава образованието и дигиталната грамотност на обществото. Трябва да се подлага на съмнение информацията в мрежата и да има разбиране как тя се манипулира, за да не ставаме лесни мишени.
“Подкрепата на реални дейности в общността, особено за младите хора, може да намали въздействието на вредното онлайн съдържание. Няма единно решение, което да разреши проблема, но заедно тези мерки могат да допринесат за това изкуственият интелект да се използва по начин, който е от полза за обществото, като същевременно се намалява вредата”, заключават авторите.
