Небезпеки штучного інтелекту для пропаганди

Певно кожен бачив у своїй стрічці новин у соцмережах пости, в яких різноманітні «люди» закликають привітати їх з днем народження, помолитися або просто демонструють «цікаві фото», на яких зображені непропорційно великі чи просто дивні «тварини». Усі вищенаведені лапки тут зовсім не випадкові, оскільки зазвичай подібні пости не мають жодного стосунку до реальності й повністю згенеровані штучним інтелектом.

Згенеровані штучним інтелектом емоційні зображення, які розповсюджуються в соцмережахЗгенеровані штучним інтелектом емоційні відео, які розповсюджуються в соцмережах

Мета таких дописів доволі проста — вони спонукають людину виконати нескладну дію: поставити вподобайку, написати коментар або поширити пост. І далеко не кожен замислюється, чому ці публікації так активно розповсюджуються соцмережами й що може бути небезпечного у дивакуватих картинках.

То в чому ж небезпека? 

Наприклад, алгоритми Facebook налаштовані так, що чим більше людей певним чином взаємодіють із публікацією, тим активніше соцмережа її поширює. Саме тому в згенерованих ШІ постах людей закликають «привітати з днем народження» чи виконати іншу схожу дію. Усе це сприяє активному розповсюдженню подібного контенту, що приносить цим групам дедалі більше аудиторії та підписників. У результаті під контролем ворога швидко можуть опинитися спільноти з десятками тисяч реальних користувачів, через які можна розповсюджувати фейки чи пропаганду. Про це зазначають у Центрі протидії дезінформації:

Ці сторінки у соцмережах може використати росія в інформаційній війні проти України. Зокрема, на сторінках з ШІ-зображеннями збирається велика аудиторія, яка не надто критично ставиться до побаченого у мережі та сприйнятлива до інформаційних маніпуляцій. Таким чином ворог отримує майданчик для просування небезпечних для України наративів. — повідомляє ЦПД.

Кожна така група з наповненням у вигляді згенерованих штучним інтелектом емоційних дописів має певну мету створення. У більшості своїй це шахрайство, релігійні секти або поширення дезінформації та фейків від ворожої розвідки.

Пропаганда через милі картинки

Зазвичай, коли користувач у стрічці натрапляє на фотокартки, на яких молодь демонструє свої гарні вироби або сумують, що їхнє фото набере менше лайків, ніж оголена співачка, чи пишуть, ніби вони з бідної сім'ї, а їх ніхто не вітає, — потенційна жертва може наскочити на емоційний гачок, не втримавшись і таки поставивши вподобання на «нереально гарний ручний виріб». Ця помилка одразу призводить до того, що в стрічці новин користувача кількість згенерованих ШІ-картинок збільшується в геометричній прогресії.

Картинка згенерована ШІКартинка згенерована ШІКартинка згенерована ШІ

Яку ж пряму небезпеку можуть становити групи з подібними безневинними милими картинками? Насправді все дуже просто:

1. Між розважальними постами ворог може просувати певні наративи або обман, при цьому не відкриваючись повністю, а поступово проштовхуючи ту чи ту пропаганду. Наприклад, що на війні гине багато молоді, а отже, її потрібно негайно зупинити.

   Зверніть увагу, на цій картинці не тільки вигадані фото але і текст містить символи замість літер, що свідчить про штучність інформації.

   Приклад ШІ-посту, який може просувати прокремлівські наративи

2. Ворог, під контролем якого перебувати подібні групи, може змінювати назву групи та надалі транслювати будь-яку вигідну для себе інформацію.

3. Через ворожі групи відбувається реклама підписки в канали інших соцмережах, наприклад в контрольований ворогом Telegram. Людина звикає до групи і її контету, починає довіряти, а з часом адміни пропонують підписатись на інший канал, в якому починає транслюватися пропаганда.

4. Вас можуть спонукати до розважальних опитувань «Як звуть вашого домашнього улюбленця», «Яке дівоче ім'я вашої мами», «Ваша дата народження» тощо. Це відповіді на секретні запитання для зміни паролю. Далі ваші облікові записи можуть вкрасти. 

5. Довірливі користувачі у таких групах без вагань переходять за посиланнями з шкідливим контентом. За посиланням може бути вірус, який браузер пропонує вам встановити, або реклама швидких грошей для безробітних чи переселенців. Всі ці дії направлені на шахрайство.

Фейкові люди

З метою поширення фейків та антиукраїнських наративів ШІ активно використовують московити. Вони генерують зображення та дописи українських військових, які на таких картинках переважно перебувають у розпачі чи смутку. Подекуди таких фейкових військових або експертів ворог прямо використовує з метою поширення пропаганди. Зокрема, журналісти Texty.org проаналізували відео з одного акаунта в соцмережах, де «прості українські люди» всі, як один, чомусь просувають прокремлівські наративи. Як виявилося, принаймні частина таких «людей» згенерована штучним інтелектом.

Згенерована штучним інтелектом «народна експертка», яка просуває російську пропаганду. Скріншот з матеріалу «Texty.org»

Про цей випадок зазначають і журналісти з медіа «Ґрунт», які підбивають невеселі підсумки:

Тобто тепер російська пропаганда не лише шукає зрадників і провокаторів серед живих людей, а й створює цілісні вигадані образи «українців», які поширюють деструктивні наративи. І, на жаль, частина суспільства піддається таким маніпуляціям, — Грунт.

Молитви за посиланням 

Проте згенеровані штучним інтелектом картинки можуть використовуватись не тільки ворожою розвідкою, а й звичайними шахраями. Наприклад, більшість груп, ШІ-пости яких мають переважно релігійний характер, тобто закликають помолитися чи апелюють до віри в Бога, зазвичай мають у кінці своїх дописів покликання, переважно на WhatsApp, перейшовши за яким можна отримати «Боже благословення». Насправді ці посилання ведуть аж ніяк не до панотців, а всього-на-всього до закритих релігійних груп або на особисті сторінки людей, які, ймовірно, є звичайними ботами.

Приклади релігійних ШІ-постів, які закликають переходити за посиланнями. Взято з матеріалу «Є ye.ua»

На це звернули увагу журналісти сайту «Є ye.ua». Перейшовши за подібним посиланням, вони опинилися на WhatsApp-сторінці «волонтерки Анни», яка одразу почала активно відповідати поставлені питання. Так «волонтерка» розповіла, що їй 35 років, вона православна, а її чоловік захищає Україну, після чого запросила на «вечірню молитву», буцімто помолитися за українських військових.

Скрін переписки з «волонтеркою Анною». Взято з матеріалу «Є ye.ua»

Подальша поведінка «волонтерки Анни» була вельми дивною. Інформація, яку вона писала, часто не відповідала раніше сказаному. Наприклад спочатку «Анна» повідомила, що має одну дитину, згодом виявилось, що дітей вже двоє: Софія та Олег. Також «волонтерка» друкувала величезні за обсягом повідомлення буквально за хвилину, а коли їй почали ставити додаткові питання щодо її ставлення до росії, вона почала їх ігнорувати, лише знову запрошуючи «на молитву», а згодом взагалі припинила відповідати. Таким чином журналісти дійшли висновку, що увесь цей час спілкувалися з ботом. 

Вигаданий Святий отець

Схоже розслідування щодо діяльності подібних релігійних ШІ-груп провели дослідники Інституту Масової Інформації, яке стосувалося публікацій ШІ-відео на YouTube. Загальна схема один в один, як на Facebook: згенерований штучним інтелектом емоційний контент та посилання на WhatsApp, за якими обов’язково потрібно перейти, щоб отримати «благословення» та «сюрпризи». Дослідникам вдалося встановити кілька цікавих фактів. Зокрема, велика кількість подібних каналів пов’язані між собою й ведуть до спільних груп у WhatsApp. 

Схема пов'язаних між собою релігійних ШІ Youtube-каналів та WhatsApp груп. Взято з матеріалу ІМІ.

Вони почали активно реєструватися в українському сегменті після травня 2023 року. А ще подекуди адміністратори таких каналів припускаються дивних помилок в українській мові, як, наприклад, написане російською «С Богом!», що може свідчити про те, що ті, хто ведуть ці не «українські» групи, насправді погано володіють українською, а для написання матеріалів, ймовірно, використовують звичайний перекладач.

Приклади релігійних каналів, в описі яких знаходяться дивні помилки. Взято з матеріалу ІМІ.

Експерти ІМІ продовжили своє розслідування, перейшовши за посиланням, яке привело їх до закритої релігійної групи. Одразу після вступу в подібне об’єднання людині в приватні повідомлення починає писати адміністратор, якщо на його привітання не реагувати, то користувача з групи видалять. Агенти також стикнулися з «волонтеркою Анною», яка розповіла, що «її чоловік захищає Україну», а вона «є православна християнка». Можна припустити, що це та сама «Анна», з якою вже переписувалися розслідувачі з сайту «Є ye.ua».

Після довгого листування «Анна» надала дослідникам телефон «пастора Андре», який мав значну кількість різноманітних титулів: в групі його називали й пастором, і теологом, і доктором богослов’я. Завдяки отриманому телефону розслідувачі змогли ідентифікувати особистість «пастора». Ним виявився 24-річний громадянин України Андрій, який мав освіту будівельника.

Як виявилося, будівельник-пастор щодня проводив онлайн-зустрічі з новими вірянами. На таких конференціях люди займалися вивченням переписаної Біблії, при чому за тиждень такого вивчення місцеві «священники» жодного разу не згадали про жодну канонічну церкву, а з рештою почали поширювати справжню назву своєї організації — «Церква Всемогутнього Бога». Основний подальший наратив полягав у тому, що православ’я та християнство — це старий формат церкви. Не важко здогадатися, що нових учасників такої групи все сильніше втягують у «ЦВБ», ймовірно маючи на меті, як і більшість подібних пірамід, заволодіти фінансовими збереженнями своїх «вірян».

Скріншот ІМІ взятий з закритої релігійної групи

В кінці свого розслідування експерти ІМІ нагадали, з чого все починалося — зі згенерованих штучним інтелектом картинок та закликами «помолитися» і отримати «благословіння».

Діпфейки, біткоїни та Данілов

Потенціал використання ШІ для шахрайства та обману справді величезний, що видно з уже проведених кібератак, список яких створили журналісти dev.ua. Наприклад, у вересні 2024 року на електронну пошту до офісу сенатора Бенджаміна Л. Кардіна, голови Комітету із закордонних справ, надійшло запрошення від колишнього міністра закордонних справ України Дмитра Кулеби з пропозицією з'єднатися з ним через сервіс Zoom.

Коли ж Кардін доєднався до зустрічі і почав розмову з «Кулебою», то останній, який насправді був згенерований штучним інтелектом, почав раптом задавати «політично заангажовані питання щодо майбутніх виборів». Сенатор завершив розмову і повідомив про це владу.

Аналогічна за технікою спроба дезінформації відбулася на російському телебаченні, коли російські пропагандисти з каналу «НТВ», намагаючись переконати глядачів, що буцімто Україна причетна до теракту в Crocus City Hall в Підмосковʼї, оприлюднили фейкове відео з секретарем РНБО України Олексієм Даніловим, на якому він, начебто в ефірі одного з українських телеканалів, визнає, що Україна причетна до теракту.

Як вже зазначалося, не тільки ворог використовує технології ШІ, а й звичайні шахраї, що добре видно на прикладі ситуації, в яку потрапив Михайло Пацан — український інвестор та IT-підприємець. Він розповів, як ввечері обговорював у Telegram зі своїм партнером біткоїн, а вже наступного дня отримав голосове повідомлення від партнера, в якому той просив скинути йому один «біток». Оскільки партнер, крім голосових, скидав ще й відеоповідомлення, це переконало Михайла, і він переслав криптовалюту. Наступного дня виявилося, що Telegram-акаунт партнера був зламаний, а всі голосові і відеоповідомлення, які отримував Михайло, були створені штучним інтелектом. Безумовно, так звані «діпфейки» — це вже більш складний рівень ШІ, на відміну від згенерованих картинок, проте ті ж фішингові посилання, які будуть вести на сайти, що викрадатимуть паролі й дані користувачів, можуть спокійно знаходитися під тими самими постами із закликами помолитися або оцінити якийсь виріб.

Схожу схему вже використовують шахраї у різних месенджерах, пропонуючи перейти за посиланням та проголосувати на конкурсі за малюнок або іншу творчу роботу свого «родича». Оскільки такі повідомлення приходять від уже раніше зламаних акаунтів друзів та рідних жертви, користувач, нічого не підозрюючи, виконує прохання, переходячи на сайт, який справді виглядає, як голосування за конкурсну роботу. В результаті чого зловмисники отримують доступ до персональних даних. 

Мадагаскарський яйценосний дрізд

Московська пропаганда використовує штучний інтелект не тільки для поширення фейків серед українців, а й серед власних громадян, розуміючи, що останні повірять чому завгодно. Зокрема, на одному з російських телеканалів розповідали про вигаданого Мадагаскарського яйценосного дрозда, який є «унікальним представником місцевої фауни». Інформація з відео виглядала апофеозом абсурдності, у передачі заявляли, що цей птах взагалі не будує гнізд, а яйця переносить у спеціальних шкіряних мішечках. Одного погляду на цю картинку вистачає, щоб зрозуміти, що це просто чийсь недолугий жарт у вигляді згенерованого штучним інтелектом зображення, яке російські глядачі, звичайно, сприйняли за чисту монету.

Той самий «Мадагаскарський яйценосний дрізд»

Встановити точне першоджерело цієї картинки важко, проте перше, що видає інтернет на запит по цій темі, це група у Facebook, яка є типовим представником вже раніше зазначених акаунтів, що під зав’язку забиті згенерованим ШІ контентом. Тут, в пості, датованому від 24 квітня 2024 року, детально описується «вся відома світу» інформація про «Мадагаскарського яйценосного дрозда».

Як відрізнити реальність від штучного інтелекту

Для того, щоб відгородити себе від впливу ШІ і, як наслідок, різноманітних шахраїв та ворожих пропагандистів, потрібно відрізняти реальні пости та зображення від згенерованих. Важливо розуміти, що єдиної панацеї, як такої, немає.
ШІ постійно вдосконалюється, покращуються зображення та підписи до них. Однак наразі штучному інтелекту ще дуже далеко до ідеалу. Про вразливості та похибки ШІ йдеться у матеріалі «Deutsche Welle».

Журналісти зазначають, що перш за все штучному інтелекту поки що важко генерувати дрібні деталі без помилок. Тож якщо детальніше роздивитися зображення, то можна буде помітити можливі невідповідності: незрозумілі тексти, викривлення тіней, помилки кольору, клонування зображень, викревлені державні символи, відсутні чіткі риси об'єктів (орнамент, вишивка, піксель) та багато інших дрібних елементів.

Це саме стосується і пропорцій тіла. ШІ може домальовувати людям пальці, викривляти чи подовжувати певні частини тіла. Також потрібно звернути увагу на загальний вигляд людей на фото. Зазвичай згенеровані ШІ персонажі мають аж занадто ідеальний вигляд: гладка шкіра, бездоганні пропорції обличчя, ідеальні зуби та волосся.

Оскільки ворог з метою дезінформації першочергово намагатиметься використовувати згенерованих «українських військових», варто окремо вказати, як помічати подібні зображення. Вже зазначалося, що ШІ має проблеми з точною генерацією дрібних деталей. На зображеннях військових це в першу чергу стосується державної символіки та текстів на шевронах.

Кожен військовослужбовець має певні власні шеврони: бригади, роду військ або особисті з різноманітними цитатами, висловами чи картинками. Натомість ШІ таким асортиментом поки що не володіє і зазвичай генерує військовим шеврон у вигляді прапора, який часто виходить непропорційним, а також іноді шеврон з тризубом, який теж може містити невідповідність ліній. Ані шеврони роду військ, ані шеврони бригади ШІ генерувати поки що вміє погано.

Приклад згенерованого ШІ зображення українських вояків. Як видно, у дівчини зображено лише непропорційний шеврон прапора, без жодних інших шевронів.

До цього ще можуть додаватися нестатутні головні убори або нечіткий камуфляж, який при детальному огляді дуже сильно відрізняється від тієї уніформи, котру носять українські вояки. Одним із надійних способів розпізнавання згенерованих зображень є також перевірка першоджерела.

Розпізнати ворожий контент можна і візуально по тексту. Щоб соціальні мережі не блокували згенеровані шахрайські тексти через автоматичну перевірку, у тексті літери змінюють на символи. У такому випадку там можуть траплятися характерні помилки із заміною українських літер. Наприклад, замість літери «о» написаний «0» (нуль), а літера «и» виглядає як англійська «u», над літерою «е» знаходиться дивний апостроф тощо.

Зразок допису, в якому текст згенерований ШІ містить певні помилки

Висновок

Якщо фото містить у собі певну суспільно важливу або просто унікальну подію, то можна провести зворотний пошук зображення. Таку можливість надає і Google (пошук по картинці). 
Якщо фактчекінг фото вже здійснили авторитетні ЗМІ, то їх матеріали одразу буде видно.

Технології не стоять на місці, а з ними розвиваються і можливості шахраїв та ворожих розвідок. Відповідно, ризики бути ошуканим чи потрапити на гачок дезінформації постійно зростають. Тож кожному інтернет-користувачу варто дотримуватися інформаційної гігієни та довіряти лише перевіреним й офіційним джерелам.

Нам всім пора звикати, що більше не можна довіряти жодній картинці в інтернеті! А помолитися за майбутнє України можна й без переходу за підозрілими посиланнями.