«Штучному інтелекту достатньо близько 20 повідомлень у чаті, щоб деанонімізувати людину. Ми входимо в епоху відсутності анонімності», – наголосила дослідниця Юлія Дукач в інтерв’ю Радіо Свобода.
Дукач вивчає роботу ботомереж, пропаганди та маніпулятивного контенту в соцмережах. Вона вважає, що з розвитком ШІ Росія ефективніше почала використовувати ботів для просування антиукраїнських наративів та розпалювання конфліктів в українському суспільстві. Про те, як розпізнати російських ботів, які небезпечні тренди ширяться соцмережами та як убезпечити себе в Telegram і TikTok – читайте далі.
TikTok і Telegram: користувачі та запити
– У своїх дослідженнях ви неодноразово показували, як Telegram і TikTok використовують для поширення маніпуляцій та інформаційних операцій. Якщо зайти на ці платформи сьогодні, що насамперед впадає вам в око як дослідниці?
– Це дійсно топ найбільш небезпечних платформ, з точки зору російського впливу. Третина населення користується TikTok, тобто приблизно кожен третій українець. А Telegram користуються 70-80% населення. Незважаючи на це, мені здається, що TikTok – набагато більш небезпечна платформа.
TikTok – це чорна конячка. Тому що в TikTok – алгоритми дуже чітко відчувають, на чому ви затримуєтесь. І, відповідно, там дуже легко запускати нові кампанії впливу і дуже легко виходити на нову аудиторію. Маючи нуль підписників, можна отримати 10 тисяч переглядів першого відео на новоствореному акаунті. Тут багато питань до того, як перегляди конвертуються у переконання, чи ще складніше – зміну поведінки.
Telegram дає немодерований простір. Зараз його дуже часто називають платформою для координації інфоатак. Матеріали з Telegram не видаляються, звідти їх можна брати для поширення. Абсолютна більшість населення в Україні отримує інформацію з Telegram – і це проблема.
Єдиний позитив, що стосується Telegram – це те, що там відсутні алгоритми рекомендацій. І, відповідно, людина сама вибирає, що читати. А це означає, що новостворені канали для поширення певних інфокампаній впливу доволі важко просувати.
Хіба що зараз з'являються якісь ком’юніті під окремі теми, як ось, наприклад, з темою антимігрантської ксенофобії, антимігрантського руху, який насправді не рух як такий, а суперпосилена російська кампанія впливу.
На цю тему вже створили Telegram-канали для окремих міст, регіонів з координацією, ледь не організації протестів. Сюди ж можна додати канали про ТЦК. Був сплеск Telegram-каналів, в яких люди моніторили, де знаходяться блокпости. Тобто, ці канали з'являються під запит населення, як це було спочатку з тим, куди летять дрони і ракети, потім моніторинг ТЦК. І, відповідно, зараз вони намагаються намацати наступну тему, де можна буде створити нову таку мережу Telegram-каналів.
Якщо в Telegram ми маємо дашборди з рейтингами найпопулярніших каналів – за кількістю підписників, охопленнями чи репостами, – то в TikTok таких інструментів немає. Ми фактично не знаємо, що саме зараз є популярним на платформі.
Якщо я жінка, я майже не буду бачити відео про мобілізацію. Якщо я 30+, то я не буду бачити те, що таргетується на підлітків. Тобто, якщо я хочу побачити відео поза зоною своєї цікавості, треба спеціальний номер телефону, з якого ви спеціально прогуглите цю тему, подивитесь відео. Але потім, буквально за 10 відео необережного скролінгу, алгоритм зрозуміє, що, здається, вам ця тема не дуже актуальна. І саме так у нас складаються випадки, коли три людини, які сидять на одному дивані – дитина і батьки – одночасно бачать абсолютно різний контент у рекомендаціях.
Ми ніколи не знаємо, що нове з'являється, віруситься за межами цієї бульбашки. І це якраз найбільша небезпека, бо ми навіть не знаємо, в яких темах треба давати контрнаративи.
– Чи пов’язано це з тим, що Telegram, заснований російським підприємцем Павлом Дуровим, а TikTok належить китайській компанії ByteDance?
– Три роки тому ми казали про те, що є додатки, народжені в демократичних країнах, а є контрольовані авторитарними режимами, але після купівлі Маском тоді ще Twitter (зараз Х – ред.) ми перестали це розрізняти. Тому що ми розуміємо, що той же Х перестав співпрацювати з фактчекерами і не йде на співпрацю навіть з європейськими країнами під Digital Services Act (закон Європейського Союзу про цифрові послуги – ред.), що вже казати про Україну.
Тому після придбання Twitter Маском стало очевидно, що демократичне походження платформи саме по собі не є запобіжником від проблем. Зрештою ці платформи залишаються приватними компаніями, для яких комерційні інтереси часто мають більшу вагу.
Американський мільярдер Ілон Маск неодноразово виступав проти посилення регулювання контенту в соцмережах, називаючи себе прихильником максимально широкої свободи слова. Зокрема, у червні 2024 року він заявив, що волів би втратити доходи від реклами, ніж погодитися на цензуру контенту на платформі X.
У Telegram і TikTok є перевага в цьому плані, їм не обов’язково бути комерційно успішними. Telegram не має доходів від реклами, це якісь копійки, порівняно з тим, скільки в нього інвестицій вклали. Значна частка акцій Telegram належить російським олігархам. Тому Telegram не грає за ринковими правилами, і це дуже важливо для розуміння. Бо Telegram завжди матиме переваги, порівняно з платформами, які вимушені заробляти.
Telegram у 2013 році заснували російські підприємці Павло та Микола Дурови. Павло Дуров раніше також заснував російську соціальну мережу «ВКонтакте», що нині заборонена в Україні.
TikTok став суперпопулярним в США, як величезна китайська інвестиція. Тобто блогерам прямо платили за промоцію TikTok. І набрати ось цей великий перший пул користувачів на TikTok стало можливим завдяки величезним вливанням китайських грошей. Тому, дійсно, ми маємо виокремлювати ці платформи як не зовсім чесних гравців на ринку.
– Який сенс олігархам інвестувати в Telegram, якщо він не приносить прибутку?
– Це приносить їм прибуток, просто в іншому форматі. Уявіть собі, що все, що ми робимо в Telegram – незашифроване. Шифр є, але він такий, що на серверах можна отримати доступ до всіх наших переписок. Це дуже потужний шпигунський додаток – такий собі шпигун у кишені.
По-друге, ми пам'ятаємо, що ми живемо в еру тренування великих мовних моделей (систем, навчених на великих масивах текстів, які можуть розуміти й генерувати людську мову). Всі наші картинки, файли, переписки, можуть легко використовуватись для розвитку російського штучного інтелекту.
У Telegram заявляють, що компанія не має доступу до листування в «секретних чатах», оскільки вони захищені наскрізним шифруванням (end-to-end encryption), а їхній протокол безпеки є відкритим для аналізу. Водночас звичайні чати та групи за замовчуванням не використовують наскрізне шифрування і зберігаються на серверах Telegram, що дозволяє синхронізувати повідомлення між різними пристроями. Експерти з кібербезпеки звертають увагу, що така архітектура створює додаткові ризики для конфіденційності, порівняно з месенджерами, де наскрізне шифрування увімкнене за замовчуванням.
Боти і антиукраїнські наративи
– Які зараз найпопулярніші антиукраїнські наративи, які просуває Росія в Telegram та TikTok, що вона для цього використовує?
– Топ-3 – це мобілізація, корупція і мова. Хоча мову часто можна замінити на будь-які потенційні внутрішні конфлікти між українськомовними та російськомовними, між тими, хто залишився в Україні і хто виїхав, чоловіками і жінками, прихожани різних церков і так далі. Таким чином вони (росіяни – ред.) посилюють внутрішні конфлікти, і наше суспільство стає більш вразливим. Вони експлуатують ці вразливості для того, щоб потім, наприклад, на майбутніх виборах просувати проросійські партії, які не будуть виглядати, звичайно, як проросійські, але які будуть популістичними.
Наприклад, вони вже зреагували на фейки про палатки в метро. Під час обстрілу люди ховались в метро, не всім вистачило місця, хтось підняв питання про те, щоб заборонити палатки в метро, і вони вже виходять з фейком – наліпкою 100 гривень за годину на палатці. Нібито в Києві таке (палатки в метро під час повітряної тривоги – ред.) здають. Вони моніторять інфопростір, бачать нові аспекти, і починають працювати.
Петицію з пропозицією заборонити використовувати намети, надувні ліжка й великі матраци в метро під час повітряних тривог зареєстрували на сайті Київради. Ці речі займають забагато місця в укриттях і заважають іншим людям сховатися під час обстрілів, зазначила авторка звернення. Зауважують, що через це літні люди, вагітні жінки та діти змушені сидіти на сходах ескалаторів, у переходах або біля входу на станцію.
Наративи, які розповсюджують про Україну за кордоном різні, залежно від країни. Але їх головна мета – зменшити військову і соціальну допомогу, в тому числі для біженців. Це дві великі цілі, їх вже можна розкласти на дуже багато різних наративів, які поширюють.
– Російські боти, кажуть, часто просувають потрібні їм наративи саме в коментарях під дописами: як розпізнати, що це дійсно бот, а не людина?
– Зараз на око коментар бота не відрізнити від коментаря людини. Я завжди жартую, що це допомагає мені зберігати віру в людство. Тому що коли я бачу якісь жахливі коментарі, я думаю, що це російські боти, і мене це заспокоює. По-перше, ботів дійсно важко відрізнити від людей. Хто хоч раз спілкувався з чатом GPT, знає, як він може адаптуватись, підлаштовувати tone of voice, як людина. Зараз по всьому світу є цілі весілля з чат-ботами, тому що вони можуть виглядати дуже емпатично. Вони вміють спілкуватися з нами, навіть краще за людей.
Одна з тем, де працює дуже багато ботів – це мова, іще корупція та мобілізація. Це теми, в яких вони постійно активні. Що викриває ботів? Це скоординованість.
Якщо у ботів, які намагаються поширювати російські наративи, короткий і непрофесійний промт (інструкція), вони можуть повторювати однакові метафори. Наприклад, був період, коли вони розносили (наратив – ред.) про те, що Україна відмовляється від тіл загиблих, щоб не виплачувати компенсацію. Це був дуже сильний російський наратив, який вони розносили, в першу чергу, по закордонним медіа.
Всі вони раптом починають казати про один і той самий факт – 6 тисяч загиблих. От заходиш на сторінку, з якої поширюють такі дописи, виглядає як сторінка звичайної людини, але всі пости на цю тему. Часто це навіть не пости, а коментарі. Вони вже перестали створювати свій дискурс. Вони йдуть туди, де він вже існує – в коментарі до якісних медіа, до політиків, до активістів. Тобто вони йдуть туди, де дискусія вже існує, там їх менше видно. І вони цю дискусію отруюють.
Іще один приклад – це кампанія проти Ізраїлю після встановлення на Хрещатику Менори. Вони розносили (наратив – ред.), що Ізраїль не визнав Голодомор. Тобто вони брали якийсь факт і повторювали його. Будемо чесними, звичайні люди дуже рідко оперують в коментарях фактами. Плюс вони пишуть довші коментарі, ніж звичайні люди. А всі ми ліниві, ніхто не хоче писати довгі коментарі, ще й кожного дня.
Влітку минулого року посол Ізраїлю в Україні зазначив, що Ізраїль де-факто визнає Голодомор, але юридично цього не робить через відсутність такої практики.
Іноді навіть наявність певних маркерів, не дає нам 100% гарантій, що це бот. Тому що основна задача бота – залучити якомога більше справжніх людей в дискусію. І багато людей дійсно можуть підхоплювати тези ботів і допомагати їм.
Можна зайти на сторінку і подивитися, чи наповнений профіль контентом, для поганих ботів це спрацює. Але в Х і Threads, наприклад, можна легко створити повноцінних агентів. Коли ШІ повністю контролює профіль, він сам генерує картинки і робить дописи, коментитує, фоловить відповідні акаунти. Тобто, за допомогою ШІ можна створити повністю автономний акаунт з певною роллю.
Штучний інтелект
– Як змінилася ця політика Telegram та TikTok після приходу штучного інтелекту?
– Дуже багато фейків, і не тільки про політиків чи селебрітіс. Це сфера, де є сильне законодавство. Платформи можуть потерпати від того, що у них погана модерація, і на них можуть подавати в суд через те, що вони занадто повільно реагують на порушення законодавства. Останні витоки даних з Facebook розкрили файли про те, як працюють департаменти, що займалися модерацією, перевіркою кейсів (фейків – ред.).
Згідно з тими файлами, скарга на політичний фейк набагато вища за пріоритетом, ніж скарга на секс-аб'юз підлітків. І ось тут за темою дезінформації ховається тема, яка насправді для нас, як для суспільства, навіть більш важлива – захист персональних даних, захист підлітків, дітей, жінок, усіх вразливих спільнот від атак.
Штучний інтелект пришвидшив генерування такого контенту, який порушує права користувачів, а також права і політики платформ.
Ми моніторили ботоферму, яка працювала в Україні, на вільних та тимчасово окупованих територіях, та в Росії, і продовжує працювати до сьогодні. Ми бачили еволюцію ботоферми: від масового поширення однакових коментарів до генерації штучним інтелектом повідомлень під кожен конкретний допис. На середину 2025 року такі коментарі вже були настільки адаптованими до теми та дискусії, що їх практично неможливо було відрізнити від людських.
Іще кращим прикладом буде розслідування «Телебачення Торонто» про так званого Воху. Це нібито людина з синдромом Дауна, яку нібито мобілізували в Україні. Про нього відзняли цілу серію роликів. Ці відео дуже сильно завірусились в англомовному Х. А насправді це був актор з фейкмаскою людини з синдромом Дауна. Це ідеальний приклад використання штучного інтелекту. Тут фактчекери майже безсилі.
– У Telegram, окрім ботів, є також анонімні канали, які теж часто поширюють фейки, проте люди продовжують споживати звідти інформацію, і є в них якась небезпека, окрім недостовірних новин?
– Один з аргументів на користь відписки може бути те, скільки (канал – ред.) заробляє і не платить податків, скільки там прихованої реклами...
Контент в таких Telegram-каналах часто на крові (на відео та фото не блюрять забраження крові та загиблих – ред.) і він може бути дуже травмуючим. Тому це також і про ментальний стан. Якісні медіа ніколи не викладуть ці фотографії, від яких вам буде потім зле. Натомість майже всі анонімні будуть це поширювати. І це, крім того, що вони постять фейки та клікбейтять (використовують заголовок або анонс, спеціально створений, щоб змусити людину натиснути на матеріал, часто за рахунок перебільшення – ред.).
Діти і підлітки
– Якщо говорити про вразливу категорію українських дітей та підлітків, чи створюють меседжі саме для їхньої бульбашки в TikTok чи Telegram?
– В TikTok, як і в Telegram, іде активна кампанія з рекрутингу підлітків для терористичної роботи на Росію. Починаючи від фотографування різних об'єктів, закінчуючи збором вибухівки.
TikTok – одна з тих платформ, де завдяки алгоритмам, намагаються знаходити вразливих підлітків. Якщо ви робите відео про легкі гроші для підлітків, ви дуже легко вийдете на свою аудиторію в TikTok, тому це може бути одним з інструментів рекрутингу. Потім йде переписка в Telegram… Так само, як і на геймінгових платформах, російське ФСБ дуже активне. У нас зараз до більшості платформ є багато питань стосовно якості їхньої модерації і захисту неповнолітніх. Тому і з'явився оцей глобальний тренд про заборону платформ.
Регулювання, медіаграмотність і ШІ-грамотність
– Зважаючи на це, ви підтримуєте регулювання Telegram в Україні?
– Так. Мені здається, що не варто перекладати цю відповідальність на кожну окрему людину. Є моменти безпеки, за які має відповідати держава. І це той випадок, коли це національна безпека, тому що 80% населення дають доступ до свого телефону російському додатку, який збирає дуже багато інформації з нашого телефону. Зокрема, нашу телефонну книгу, інформацію з переписок. А ми всі ділимося, що куди прилетіло, там сімейні чати, шкільні чати і так далі.
У червні 2026 року профільний комітет Верховної Ради підтримав законопроєкт №11115 про регулювання діяльності Telegram в Україні. Документ передбачає розкриття інформації про власників платформи та джерела її фінансування, а також вимагає взаємодіяти з українською державою у питаннях національної безпеки. Ще має бути друге читання законопроєкту.
Також у 2024 році Національний координаційний центр кібербезпеки ухвалив рішення обмежити використання Telegram в органах державної влади, військових формуваннях, на об’єктах критичної інфраструктури. Після цього урядовці уточнили, що рішення має рекомендаційний характер і не стосується офіційних Telegram-каналів державних органів.
– Як можна цьому протидіяти? Що може зробити Україна на державному рівні і що кожен з нас може зробити особисто?
– Що можна покращити, так це координацію між громадським сектором, техкомпаніями і урядом, щоб не дублювати роботу один одного. Всі часто досліджують одне і те саме. Добре, що в нас все популярнішою стає медіаграмотність і так звана ШІ-грамотність. Але це має стосуватися не лише прекрасних громадських організацій, а й шкільних програм.
Це про посилення далекоглядної перспективи, щоб з садочка вже давали базу медіаграмотності разом з критичним мисленням. Банальний приклад, після публікації дослідження про ботів багато коментарів від людей було про те, що вони думали, що боти – це люди, що не так.
– Які тренди будуть розвиватися в найближчі роки в контексті інформаційних атак, дипфейків, просувань російських наративів?
– Я думаю, все, що є зараз, буде масштабуватись. Буде зменшуватись кількість автентичних голосів. Тому я маю прогноз, що за один-два роки платформи, на кшталт того ж Тhreads, втрачатимуть людей, якщо не змінять свої політики модерації неавтентичних голосів.
Я вірю, що дезінформаційні кампанії стануть набагато більш персоналізованими. ШІ дуже легко може створювати наш портрет на основі дуже маленької кількості даних. Наша публічна сторінка, згодована з ШІ, дає прекрасний психологічний портрет. І під цей психологічний портрет ШІ може брати наратив, який просуває російська пропаганда, і зробити його таким, щоб було цікаво кожній окремій людині. Цей процес вже розпочався.
Останнє дослідження показало, що великим мовним моделям достатньо близько 20 повідомлень в чаті для того, щоб нас деанонімізували. Тобто те, як ми спілкуємось, якісь інтереси, буквально 20 питань, і мовна модель може сказати приблизно, що за людина спілкується з нею. Тому ми дійсно входимо в епоху відсутності анонімності. Чим далі, тим легше на нас таргетувати щось. Це може бути як пропаганда, дезінформація, так і зовсім інша епоха маркетингу.
«Класна звичка – скаржитись на все підозріле»
– Як людям убезпечити себе в інформаційному просторі, якщо він постійно перебуває під агресивним впливом?
– Момент емоційності – це головний гачок, який сигналізує, що треба зупинитись і запитати себе: «А що відбувається?» і подумати, хто зацікавлений в цих емоціях. Це – найкращий шлях.
Іще дуже класна звичка – скаржитись на все підозріле, все, що не подобається. Ми не можемо виявити ботів на око, але якщо платформи будуть отримувати багато скарг на підозрілих коментаторів, то більше шансів, що вони почнуть реагувати. Тому тиснемо «три крапочки» і «поскаржитись», ця функція зараз є на більшості платформ. Таким чином ви убезпечите інших людей від потенційно небезпечного контенту і перетворите свої емоції в дію.
Також варто взяти персональну відповідальність за те, що відбувається у вас в коментарях. В плані – не давати майданчик для ботів. Можна обмежувати можливість коментувати для недрузів. Facebook за умовчанням не показує коментарі під дописами від недрузів. Вам треба відкрити всі коментарі, щоб вже почати читати ботів. Треба користуватися цими можливостями. В YouTube, наприклад, є налаштування, в яких можна визначити ключові слова, коментарі з якими будуть модеруватись автоматично.
Туди можна занести словничок з хейтспічем (висловлювання, які принижують, ображають). Тобто, медіа можуть в налаштування свого YouTube-каналу додати слово «журношлюха», і коментарі з цим словом не з'являтимуться за замовчуванням.
Потрібно дізнаватись про ці можливості і користуватись ними для того, щоб хоч трошечки почистити свій персональний онлайн простір. І, звісно, це про виховання поваги один до одного.
Форум