Про це йшлося в етері ток-шоу “Свобода слова” на телеканалі “Україна”.
Раніше заступник голови Офісу президента Кирило Тимошенко зазначив, що для Володимира Зеленського хочуть створити пул з 25-30 журналістів, які зможуть ставити президентові запитання на пресконференціях. Також повідомлялося, що в Офісі президента створять пул блогерів, які в соціальних мережах висвітлюватимуть позитивні тренди у внутрішній політиці країни.
Подоляк, коментуючи процес створення пулу, зазначив, що “не вважає, що можна створити конфігурацію, коли є блогери, яким ти платиш і вони щось пишуть”.
Утім, на його думку, доцільно компенсувати витрати тим, хто пише на користь влади щиро.
“Працює (задля підвищення довіри суспільства — ред.), коли люди щиро вірять в те, що ти робиш, коли ти їм пояснюєш. Так, ти можеш їм платити якісь затрати, які вони несуть технічні, якщо створюють якісь платформи”, — сказав він.
Радник голови ОПУ також зазначив, що ОПУ сплачує гонорари за репортажі блогерів.
“Зарплатних відносин точно нема. А є інші. Гонорари можуть бути. Якщо людина хоче з’їздити, зробити репортаж якийсь. Наприклад, у нас почали стосунки іншого гатунку, іншого рівня. Тобто земельна реформа довела до того, що ми маємо конкретні купівлі-продажі землі. Якщо людина, блогер, що спеціалізується на темах як земля чи якась економічна складова, агроскладова, і каже: “Я хочу зробити декілька репортажів”… То ми йому проплатимо і дамо технічний кошт, щоб він поїхав у відрядження”, — сказав він.
На уточнювальне запитання про те, хто ці блогери, яких залучає ОПУ, Подоляк відповів:
“Можна побачити в соціальних мережах”.
Ведучий як приклад навів Сергія Лещенка, однак радник голови ОПУ категорично заперечив таку співпрацю з нардепом VIII скликання та колишнім членом наглядової ради “УЗ”.
#Букви звертатимуться до Офісу президента з проханням надати інформацію щодо обсягів та джерел фінансування послуг блогерів.
У грудні 2020 року Володимир Зеленський порівняв журналістів українських Інтернет-видань з “жіночками”, що сидять на лавці біля під’їзду.
Могло б здатися, що після того, як такою діяльністю зацікавилися у ФБР, слід трохи “пригальмувати” з маніпуляціями та використанням фейкових акаунтів у соцмережах. Насамперед з урахуванням того, що на все, що може асоціюватися бодай з намірами незаконного втручання у вибори, та ще й з використанням ресурсів глобальної компанії з США, власне в США реагують вкрай нервово. Там саме розслідують втручання Росії у вибори 2016 та 2020 років і тривають судові процеси щодо штурму Капітолія прибічниками експрезидента Трампа в день оголошення результатів виборів.
Утім, відсутність почуття гумору в американських правоохоронців у такому разі наштовхується на відсутність уяви в українських можновладців. Які, як ви уже, мабуть, зрозуміли, анітрохи не збентежилися ані пильною увагою правоохоронних органів США до використання ботоферм для розповсюдження фейків, ані розширенням їх повноважень, яким тепер дозволяють отримувати будь-яку фінансову інформацію в рамках розслідувань, пов’язаних з порушенням законодавства США.
Ще іронічнішим є те, що представники влади скаржаться на використання “ботоферм” проти них, хоча #Букви уже двічі заскочили команду Володимира Зеленського на використанні фейкових акаунтів і витратах чималих коштів на платну політичну рекламу у Facebook (що, до слова, скеровує виконавців та замовників у юрисдикцію правоохоронних органів США).
Що ж, “де два, там і три”, і цього разу ми покажемо як ботоферми працюють на радника голови Офісу президента Андрія Єрмака та головного “ідеолога” команди Володимира Зеленського – Михайла Подоляка.
– А ви ботів використовуєте для цього [щоб просувати свою інформацію]?
– Що?
– Ботів.
– Для чого? Ботів немає. Ви не бачите нашу проблему? В нас є досі одна ботська армія – це Петра Олексійовича, вона вже дістала всіх у соціальних мережах.
[Михайло Подоляк, радник голови Офісу президента в інтерв’ю для “Радіо Свобода”, 8 серпня 2020 року]
Радник очільника ОП нечасто спускається з офісного Олімпу до своїх читачів. Утім, вони наче не скаржаться й уважно чекають чергового його послання, адже дописи пана Подоляка збирають по 2 тисячі реакцій, що для сучасного стану справ у Facebook є чималим показником, навіть для блогерів, які значно активніше ведуть свої сторінки.
Для порівняння, поглянемо на сторінку пані Севгіль Мусаєвої, головної редакторки “Української Правди”, у якої, як і в Подоляка, близько 23-х тисяч підписників. Утім, її публікації збирають, в середньому, 150-300 реакцій, часом більше, часом менше. При цьому, на сторінці пані Мусаєвої частота публікацій значно вища, а контент різноманітніший, ніж у пана Подоляка, що з урахуванням роботи алгоритмів соцмережі мало б забезпечити їй значно вищу активність читачів.
У чому тут “магія”? Можна було б сказати, що у “техзавданні”, однак, ми краще покажемо. Для дослідження ми взяли 10 постів Подоляка за минулі шість місяців та проаналізували усіх юзерів, що поставили реакцію до цих публікацій.
Користувачів, які “лайкають” Подоляка, можна умовно поділити на кілька категорій.
Категорія друга, “жителі” країн колишнього СРСР. Сюди входять профілі з Москви, Курська, Новгорода, Самарканда тощо. У більшості випадків це порожні сторінки з мінімумом інформації або публікаціями, що рекламують казино, ломбарди чи послуги манікюру. До прикладу, баченням Михайла Подоляка ситуації в українській політиці цікавляться Нурзат Токтобекова з Бішкека, Гена Менькин з Пермської області та Михаил Апханов з Москви. Це сторінки, які вподобали допис Михайла Подоляка про установчий саміт Кримської платформи.
І нарешті третя категорія, сторінки “з України” (принаймні, так зазначено в них у профілях). Якщо з першими двома категоріями все зрозуміло без додаткових пояснень, то третя категорія законспірована дещо краще. Втім, не набагато.
Для прикладу візьмемо допис Михайла Подоляка, датований 20 липня. У ньому радник Андрія Єрмака критикує роботу Віталія Кличка на посаді київського міського голови. Відкриваємо список реакцій: алгоритм соцмережі спершу покаже вам користувачів з-поміж ваших друзів, які відреагували на цей допис (якщо такі є), потім “друзів друзів”, а потім всіх решту користувачів.
Обираємо випадкову сторінку, наприклад, Артем Гондурасов. Зі сторінки “Артема” можна зробити два висновки – або Михайло Подоляк, це єдине, що цікавить “Артема” у соцмережі, або ж – маємо справу з типовим ботом. На користь другого висновку свідчить відсутність фото, інформації про себе, та й наповнення сторінки виключно репостами пана Подоляка теж є достатньо красномовним.
Варто зазначити, що “Артем” є справжнім ботом-ветераном, історія стосунків з дописами пана Подоляка на сторінці “Артема” сягає аж 2017 року. Тоді ще самого пана Подоляка знали не як ідеолога ОП Зеленського, а як людину з пулу журналістів, допущених до “Межигір’я” Віктора Януковича. До сторінки пана Подоляка “Артем” був у “репостних стосунках” зі сторінкою іншої людини, які, втім, тривали недовго. Що ж, ніхто не ідеальний.
Ідемо далі й дивимось список друзів “Артема”. Більшість — ідентичні сторінки з цієї ж мережі. Наприклад, Артур, Руслан та Арсеній (який представився працівником ФРС США). У кожного все ті ж репости Подоляка.
Розглянемо ще кількох прихильників творчості пана Подоляка. Наприклад, сторінку “Андрія”, який поширив допис від 2 жовтня у кілька груп.
На аватарці у нього карикатура на Петра Порошенка, на сторінці – подяка за “зелену диктатуру”, жодної власної фотографії, у “друзях” такі ж боти.
Ще приклад поширення тез Михайла Подоляка – репост одним акаунтом у кілька груп. Оцініть назву тієї, що посередині.
З однієї сторінки іноді можна нарахувати понад десяток поширень у різні групи, що розцінюється соцмережею як спам, тому швидше шкодить, аніж дає результат. Натомість ніхто й не казав, що використання ботів є ефективним інструментом.
Ідемо до наступного допису і знову бачимо тих самих ботів, які невтомно поширюють думки радника Андрія Єрмака. Гортаємо список і бачимо вкрай типового бота – фейкове ім’я, відсутність фото, сторінка наповнена виключно репостами.
Або такий варіант – не рядовий бот, а адміністратор групи на підтримку президента. Звісно ж, на сторінці нічого приватного, з дописів – лише новеньке фото президента з собакою.
Звісно, у списку друзів цих ботів є сторінки цілком реальних людей, що може стати наочним прикладом того, чому слід відповідально ставитися до розгляду заявок у “друзі”. Адже кожному знайома ситуація, коли у Facebook приходить запит від абсолютно випадкової людини, з якою у вас немає ані спільних тем, ані вподобань. У такий спосіб, розсилаючи запити всім підряд, “ботоферма” нарощує список друзів. Згодом, якщо людина, яка опікується цим ботом, відповідально ставиться до своєї роботи, таку сторінку не відрізнити від реальної – знайомі вам люди у списку “друзів”, репости рецептів, котиків-собачок, мемів (іноді навіть з емоційними та беззмістовними коментарями бота), а між ними – той контент, заради якого все і робиться.
Проте, повернемося до пана Подоляка і підіб’ємо невеликий підсумок активності на його сторінці у Facebook:
Навіть з поправкою на можливі похибки, з високою ймовірністю можна припустити, що понад 90% усіхреакцій на сторінціналежать фейковим акаунтам, об’єднаним єдиною метою – створювати ілюзію широкої підтримки позиції Михайла Подоляка в соцмережах.
Масштаби цієї мережі сягають тисяч, можливо, десятків тисяч профілів. Окремо слід зауважити, що йдеться про мережу, яка працює з 2017-го року. Тут напрошуються два висновки, невтішні як для Facebook (де допускають подібне, попри численні заяви про боротьбу з фейковими акаунтами), так і для самого пана Подоляка, який крім своїх ботів мало кому цікавий.
І якщо висновок стосовно Михайла Подоляка мало кого може здивувати у 2021 році, то щодо Facebook все значно сумніше. Адже досліджена нами мережа містить усі ознаки так званої скоординованої неавтентичної поведінки, коли фейкові акаунти використовуються для зловживання алгоритмами соцмережі та поширення політичних меседжів. Це прямо суперечить політиці та правилам компанії.
На завершення знову слід нагадати про що йшлося на початку – використання соцмереж для політичних зловживань вже давно потрапило до сфери інтересів правоохоронних органів США. Сам Марк Цукерберг розуміє це як ніхто інший, оскільки мало не щороку його компанія втрапляє в скандал, а до її власника виникають запитання у Конгресу США. Як позначиться на стосунках України та США використання командою президента тих же методів політичної боротьби, результати яких вразили Сполучені Штати у січні 2021 року – не важко здогадатися.
Утім, все вказує на те, що в Офісі президента не розуміють тенденцій і не чують “тривожних дзвіночків” у спробах стримати обвал рейтингів та створити ілюзію підтримки серед виборців.
Хто-хто, а Володимир Зеленський чудово розуміє силу ЗМІ, особливо телебачення
В Україні в найближчі шість місяців очікується переформатування медіапростору. Вже в травні 2022 року набуде чинності закон, згідно з яким одним із критеріїв для визнання людини олігархом буде його значний вплив на ЗМІ. Це, як вважає команда президента, змусить частину бізнесменів позбутися медіаактивів в Україні. Таким чином Зеленський та його оточення вирішили поборотися з олігархами за вплив насамперед над телеканалами, які відіграють важливу роль на виборах президента та Верховної ради. Але цю боротьбу президентська команда, схоже, програла ще до її початку.
Пульт для Зеленского
Хтось, а Володимир Зеленський чудово розуміє силу ЗМІ, особливо телебачення. Якби не було серіалу «Слуга народу» та програм «Студії «Квартал 95» на популярному телеканалі «1+1», навряд чи Україна отримала б у президенти коміка. «Плюси» олігарха Ігоря Коломойського буквально «прасували» глядачів Зеленським – вранці, ввечері та у вихідні. А на фінішній прямій президентських виборів шоумена підтримали телеканали Ріната Ахметова, Віктора Пінчука та Дмитра Фірташа. У результаті – два з половиною роки тому «телевізор» переміг «холодильник».
Пам'ятаючи про це, Зеленський, який мріє про другий президентський термін, вирішив змінити правила гри для олігархів у медіапросторі. Бажання нинішнього президента України контролювати медійний простір країни цілком зрозуміле. Саме олігархи багато в чому визначатимуть долю президентських виборів 2024 року. Навряд чи антиолігархічний закон дозволить команді Зеленського за допомогою РНБО покласти пульт від «телевізора» собі до кишені. Але домовитися з його власниками - цілком дозволить. Якщо, звичайно, олігархи дружно не вирішать «злити» Зеленського – як це було вже неодноразово з президентами у новітній українській історії.
Чи стане Порошенко олігархом №1 в Україні
Окрім бажання контролювати всіх і вся в медіа, антиолігархічний закон від Зеленського має ще одну мету: присвоїти статус олігарха №1 головному опоненту нинішнього президента - Петру Порошенку. Його статки обчислюються в 1,6 млрд доларів, за ним - великий бізнес і парламентська партія «Європейська солідарність». Щоправда, у день підписання Зеленським антиолігархічного закону Порошенко демонстративно позбавився своїх медіаактивів – телеканалів «Прямий» та «5 канал». Відтепер вони належать медіахолдингу «Вільні медіа», власниками якого стали журналісти, громадські діячі та опозиційні депутати, які були журналістами.
Так, телебачення в Україні - справа витратна та дорога. Одного бажання новоявлених власників телеканалів «Прямий» та «5 канал» недостатньо для того, щоб їх утримувати. Впевнений, що команда Зеленського докладе максимум зусиль, щоб довести: і «Прямий», і «5 канал» фінансуються з однієї кишені – Петра Порошенка. Далі – справа техніки, як через РНБО провести рішення щодо визнання п'ятого президента олігархом №1 у країні. І для цього, як свідчить практика нинішньої влади, не завжди треба мати вагомі докази та дотримуватися букви закону.
Зеленський проти хлопців із 90-х
Починаючи антиолігархічну кампанію, Зеленський не врахував одного: Коломойський, Ахметов, Пінчук та інші пережили лихі 90-ті та п'ятьох президентів України. Їхні юристи будуть готові в судах клацати, як насіння, всі норми закону про статус олігархів. Свою власність, у тому числі медіа, вони тричі продадуть і куплять через других або третіх осіб в офшорах, і до травня 2022 сумно оголосять про своє банкрутство. Очікувати, що люди, які інвестували в медіа сотні мільйонів доларів, так просто здадуться Зеленському, не варто.
Слід зазначити, що Офіс президента давно намагається контролювати медіапростір в Україні. Щоправда, робить це незграбно. У січні 2020-го команда Зеленського вже намагалася змінити законодавство про медіа, що викликало різку критику з боку журналістів. Лише за останній місяць Офіс президента був двічі звинувачений у тиску на пресу – з боку громадського телемовника «UA: Перший» та колективу англомовної газети Kyiv Post. Вихід останнього проекту, який має більш ніж 25-річну історію, було припинено цього тижня. І пов'язано це, як стверджує головний редактор «Української правди» Севгіль Мусаєва, із тиском на власника та журналістів з боку Офісу президента.
Так, великі українські телеканали поки що намагаються не засмучувати глядачів поганими новинами про президента Зеленського. Але все це - до певного часу. Рівно до того моменту, поки ситуація в країні влаштовуватиме власників ЗМІ. Але вистачить лише одного клацання господарів телеканалів для того, щоб обвалити рейтинг нинішнього глави держави. На щастя, для цього достатньо – корупція в оточенні першої особи, «Вагнергейт», президентські офшори та багато іншого. Починаючи війну за «телевізор», команда Зеленського вже приречена на поразку. Дивно, що цього не розуміє людина, яка відбулася завдяки цьому «телевізору».
Рошук також розповіла, що проросійські ЗМІ намагаються «руками» «Букв» дискредитувати українські патріотичні сили.
Співзасновниця «Букв» Катерина Рошук розповіла Mediasapiens про спроби забанити сторінку видання в Facebook та атаку ботів, яка посилилася після нападу на фотокореспондента Олександра Кужельного.
«Після нападу на Олександра Кужельного в усіх наших соцмережах з’явилася велика кількість бот-акаунтів. У коментарі заходили навіть російські акаунти, які Фейсбук не видаляє навіть після скарг. Ми не вважаємо це атакою в конкретний момент, тому що це перетворилося в цілу війну, яка почалася після того, як "Букви" розкрили мережі ботів, які належали Офісу Президента та піарникам Володимира Гройсмана. Фейсбук при співпраці с ФБР на основі наших розслідувань побанив ботосітки, після цього атаки на наші соцмережі посилилися», — розповіла Рошук та додала, що видання намагається встановити контакт з офіційними представниками Facebook.
Співзасновниця видання зазначила, що соцмережа видалила коментар, у якому вона спростовувала інформацію про напад на Кужельного, поширену телеграм-каналом Pavlovsky News. Після видалення Facebook попередила, що функції її сторінки можуть обмежити.
«Також днями зі сторінки "Букв" видалили скріншот коментаря, яким ми демонстрували авдиторії неадекватну поведінку бот-акаунта, який намагався дезінформувати та виправдати напад на нашого фотокора. Оригінал коментаря, на який ми скаржилися залишився, але скріншот, який наш СММ опублікував, соцмережа видалила», — уточнила Рошук.
Водночас вона розповіла, що скарги на фейсбук-сторінку «Букв» та співзасновника видання Петра Терентьєва надходять регулярно. Зокрема, зі сторінки видання видалили публікацію про столичний «Маршу вишиванок», замість якого провели марш дивізії «СС Галичина». Після цього на фейсбук-сторінку «Букв» наклали обмеження категорії «restricted monetization».
«Це означає, що контент зі сторінки не потрапляв користувачам у рекомендації + обмежується видача матеріалів, що спричинили значне падіння охоплення авдиторії, лайків та нових підписок», — пояснила Рошук.
Вона також повідомила, що видання оскаржує дії соцмережі.
«Протягом останніх двох років сторінка Букв безуспішно намагається отримати веріфікацію. Рік тому ми отримали відповідь, що запит на веріфікацію прийнято та передано internal team, але на повторне звернення кілька місяців тому ми знову отримали відмову», — додала співзасновниця видання.
Крім того, вона зазначила, що після нападу на фотокореспондента «Букв» було багато запитів від «асоційованих з проросійською політикою ЗМІ та проросійськими політиками в Україні», яких цікавив «напад радикалів». Редакція та Кужельний їм не відповідали.
«Проросійські ЗМІ, у свою чергу, намагаються нашими руками дискредитувати українські патріотичні сили. Вони спекулюють побиттям Сашка, щоб далі качати страшилку про "українських радикалів бандерівців нацистів". Плюс постійні спроби забанити сторінку "Букв" у Фейсбуці та навіть мою. Роблять це масовими скаргам», — написала Рошук у Facbeook.
Вона також нагадала, коли на Кужельного 21 липня напав засуджений в РФ росіянин, то ці політики та медіа не зверталися по коментар та не пропонували допомогу.
Фотокора видання «Букви» Олександра Кужельного побили 14 серпня під Офісом президента під час акції «Зупинимо капітуляцію!». За цим фактом поліція відкрила кримінальне провадження.
Серед українських Facebook-користувачів зростає обурення через блокування (про)українського контенту. Найсвіжіший приклад – допис посла України в Чехії Євгена Перебийноса із критикою слів президента Росії Путіна про «один народ» Facebook видалив, бо він нібито «розпалює мову ворожнечі».
Ми звернулися за поясненнями до адміністрації соцмережі, зібрали інші подібні історії й враження та попросили аналітикиню даних поділитися міркуваннями щодо роботи алгоритмів.
Невдовзі цей пост повернули. Але чому блокували? І що було не так з дописом про звірства НКВС у Львові в 1941 році, після якого адміністрація Facebook одразу видалила обліковий запис української дослідниці Устини Стефанчук?
Допис Устини також відновлено, сторінку розблоковано. Але осад і запитання залишилися.
Чому блокують такий контент? Хто це робить: модератори чи алгоритми? Адже алгоритми – це теж результат роботи людей, які можуть закладати у них свої упередження та симпатії. Цю проблему вже обговорюють у світі, де все більше рішень щодо людей приймається на основі машинного аналізу.
«Я не схильна вірити в теорії змови, – коментує свій випадок Устина Стефанчук. – Мабуть, блокували за ключовими словами. Інше питання, як вони забиті в алгоритмах Facebook — ось що цікаво…».
Вона каже, що раніше отримувала попередження – після висловлювань про війну на Сході й підтримку українських захисників, про попсове святкування Дня Незалежності та ходу військовослужбовців.
Що саме допомогло врешті повернути обліковий запис: скарга чи розголос, Стефанчук гадки не має.
Речниця компанії Facebook Маґдалена Шульц повідомила у відповідь на запит ТЕКСТІВ, що профіль та обидва дописи були помилково обмежені та тепер відновлені.
«Наша команда ретельно переглянула їх та визначила, що вони не порушують нашу політику. Ми дійсно шкодуємо за можливі незручності», — написала вона. За її словами, адміністрація щотижня переглядає мільйони дописів, іноді працівники (review teams в оригіналі її відповіді) помиляються — хибні рішення трапляються в більше ніж одному з 10 випадків. Щоб цього уникнути, модераторів навчають та тестують на конкретних прикладах стандартів спільноти. Щоразу, коли стандарти оновлюються, працівники проходять підвищення кваліфікації.
Якщо користувачі вважають, що видалений контент не порушує стандарти спільноти, вони можуть оскаржити рішення, надавши додаткову інформацію.
Вона також відповіла, що однієї скарги достатньо для блокування невідповідного контенту. Але якщо він не порушує стандарти спільноти, то не буде видалений навіть попри велику кількість скарг.
Але за якими критеріями спочатку заблокували цей контент, адміністрація Facebook не відповіла: конфіденційна інформація.
З відповіді можемо лише зробити висновок, що завжди варто оскаржувати блокування, якщо вважаєте, що жодних стандартів не порушували.
Згадані два випадки - далеко не єдині: український патріотичний контент доволі часто блокують.
Це викликає тривогу в українському сегменті Facebook з огляду на те, що російська пропаганда вже кілька років поспіль просуває на західну аудиторію наратив про «войовничий націоналізм», «український фашизм» та «екстремізм».
Дезінформатори всіляко підсилюють неіснуючий вплив ультраправих рухів в Україні у своїх маніпулятивних публікаціях і частина західних інтелектуалів фоново, не вникаючи у суть подій, схильна у це вірити, чи принаймні не задумується про те, брехня це чи правда.
Згадайте історію про те, як професор Стендфордського університету та колишній посол CША в РФ Майкл Макфол (Michael McFaul) ретвітнув твіт російського МЗС з пропагандиськими меседжами щодо жертв 2 травня та «неонацистів», які нібито спричинили «різанину». Професор врешті дослідив тему і видалив ретвіт.
Чи закладені у Facebook-алгоритмах якісь додаткові застереження щодо українського контенту, що базуються на цих навіть несвідомих упередженнях розробників? Ми не можемо про це дізнатися. Можемо лише аналізувати інформацію на основі відомих випадків блокування.
Лайфхаки: писати українською, обмежити коло читачів
Наприклад, митець і громадський діяч Руслан Горовий вперше зіткнувся зі «стандартами фейсбуку» ще у 2015-му, після того як його фільм «Укропи Донбасу» про українських патріотів на території окупованої Луганщини показали на на фестивалі «Муза непокорных-2015» у Москві.
Після виходу фільму його обліковку на Facebook «заморозили»: спочатку на день, потім на тиждень, а потім була ціла серія місячних банів. Бувало, що між ними минало буквально кілька годин — не встигав навіть нічого запостити.
Сьогодні він уже знає, як цьому протидіяти. За порадою друзів обмежив коло своїх фб-читачів - і після цього більше не було жодного тривалого блокування. Останнє попередження прилетіло, коли він, як і Устя Стефанчук, написав про події 1941 року у Львові. Для більш суворого «покарання», припускає, що не вистачило скарг. Каже, якби, як і раніше, писав російською мовою — так просто не відкараскався б. Мовляв, росіяни лише декларують, що у нас з ними «один народ, один язык, одна страна», а по факту не розуміють україномовні дописи, з перекладом ніхто не заморочується.
«Фактично українська мова — це ще один буфер», — сміється Горовий. Сам він пише звернення до адміністрації Facebook виключно англійською мовою — побоюється, що алгоритми можуть перекинути україномовний запит якомусь проросійському модератору. Стандарти стандартами, а людський фактор завжди присутній.
«У бізнесу абсолютно свої закони. Ви можете обурюватися чи жалітися — це все не матиме жодного значення, — переконує Горовий. — Корпорації на кшталт Facebook не ризикуватимуть парою мільйонів, які у них можуть відсудити через ваш необачний допис. Саме тому так наполегливо посилюють правила поведінки», — вважає Горовий.
«Чутлива» військова тематика
Лише за минулі два місяці було видалено щонайменше п’ять українських сторінок, присвячених військовій тематиці:
«День піхоти» — 27 тисяч підписників;
«Військові новини України» — 150 тисяч підписників;
«Фортифікація» — 28 тисяч підписників;
«Військова служба Military service» — 27 тисяч підписників;
«Збройні сили України» — 8,2 тисячі підписників.
Попередження за публікації, які начебто порушують норми спільноти, прилетіли сторінкам «Командування Сухопутних військ ЗСУ» та «30 омбр ім. князя Костянтина Острозького». Це означає, що якщо їм «впиляють» ще одну порцію скарг — їх теж заблокують.
Чи об’єктивні модератори?
Адміністратори нещодавно заблокованих спільнот також намагаються боротися за їхнє відновлення. Серед них — офіцер Збройних сил України, військовий аналітик Анатолій Штефан.
Він переконаний, що нещодавні блокування – цілеспрямована атака, до якої причетні російські інформаційні війська — про це свідчить синхронність скарг і антиукраїнські висловлювання в коментарях. У його практиці це не вперше — на такі випадки у нього з побратимами є запасні сторінки з ідентичними назвами. Але каже, що раніше ніколи не блокували п’ять спільнот одночасно, причому таких масових.
Крім того, Facebook без пояснень «заморозив» уже другий профіль Штефана, в одному з них він був верифікований як уповноважений Генерального штабу. Тим часом, наприклад, сторінка окупаційної адміністрації міста Горлівка вільно публікує на фейсбуці звіти своїх засідань. Що там казати — є навіть сторінка «Официального сообщества Народного Совета Донецкой Народной Республики», вже саме існування якої можна розцінити як заклик до повалення конституційного ладу та захоплення державної влади в Україні. Активісти кажуть, що на відміну від російських інформаційних військ, для оскарження діяльності таких сторінок їм бракує масовості та згуртованості.
Штефан також писав у техпідтимку Facebook. На диво, йому передзвонили з польського номера. Представниця демонстративно сказала, що не розуміє українську і попросила говорити з нею російською. Наголосила, що її звати не Олеся, як до неї звертався Штефан, а Алєся.
«Я не думаю, що адміністрація Facebook до цього якось причетна. Але я впевнений, що Росія має вплив на людей, які модерують український контент», говорить Штефан. І згадує, як разом із побратимами скаржився на відео з російським обстрілом українських позицій. Їм відповіли, що воно не порушує жодних стандартів і правил спільноти. Але щойно виклали відео з українського навчального стрільбища — вмить прилетіли скарги і попередження про неприпустимість такого контенту «через жорстокість».
Загадкові стандарти спільноти
Але що це взагалі таке — ці загадкові стандарти спільноти, до яких так наполегливо апелюють охоронці віртуально правопорядку? Цей документ можна легко знайти на Фейсбуці. Він складається зі вступу і шести розділів, які періодично оновлюються. Неприйнятним вмістом вважається пропаганда ненависті і підбурювання, шахрайство й обман, залякування й приниження, насильство і його ілюстрації, оголеність і сексуальна активність, жорстокість і нечуйність, сексуальні домагання, порушення авторського права.
Дедалі більше сайт покладається на штучний інтелект, який позначає дописи як шкідливі, щоб зменшити навантаження на людей – найманих модераторів. Тисячі дописів відновлюють після апеляцій.
З жовтня 2020 року почала працювати Наглядова рада, яка інтерпретує правила і консультує модераторів. Фейсбук не називає загальну кількість обліковок, які він блокує за рік.
Востаннє стандарти спільноти оновлювалися в січні цього року. Після штурму Капітолію США адміністрація посилила політику проти мілітаризованих соціальних рухів та конспіративних мереж, що закликають до насильства. Було вилучено близько 3400 сторінок, 19 500 груп, 120 подій, 25 300 профілів у Facebook та 7500 акаунтів в Instagram. Але це більше стосувалося американських рухів, типу QAnon.
У Фейсбуці визнають, що не існує простої формули для вирішення всіх проблем на платформі. Взаємодіяти з понад 2,7 мільярдів користувачів практично неможливо. «Наша політика ніколи не радуватиме всіх», — визнають у Стандартах. Щоб врахувати в правилах якнайширший спектр думок, адміністрація веде діалог з експертами, які займаються питаннями цифрових прав людини, боротьбою з дискримінацією та свободою слова, залучають науковців. Коли вирішують, чи дозволяти публікувати фото та відео, на яких є оголені люди або, наприклад, сексуальна активність, радяться з художниками, кураторами музеїв та організаціями з сімейної безпеки.
Оскільки слова мають різне значення та емоційне навантаження залежно від місцевості, мови та історії, в адміністрації обіцяють враховувати регіональний контекст. Для цього на загальний Форум запрошують місцевих представників та експертів. Але з відкритих джерел зрозуміло, що публікувати контент, який, наприклад, відверто зображує війну або її наслідки, не заборонено. Головне, щоб він відповідав інтересам суспільства. «Перед ухваленням таких рішень ми добре зважуємо цінність такого контенту для громадськості та можливу шкоду», — йдеться в Стандартах.
«Позитив» проти достовірності
Віталій Жилак, який серед іншого займається інтернет-маркетингом і налаштовує рекламу у країнах ЄС, ставиться до усіх цих стандартів та правил з долею скепсису. Він вважає, що фейсбук практично не керується критеріями достовірності чи правозахисту. І впевнений, що адміністрація захищатиме все, що подобається людям і блокуватиме все, що не подобається. Він переконаний в цьому з власного досвіду. «Навіть якщо сторінку розблокують, мене вже втомила політика Facebook, де сам факт наявності скарг стоїть вище змісту та обґрунтованості цих скарг», — говорить Жилак.
Наразі він шукає іншу платформу для своєї Фейсбук-сторінки «Антисекта - наука vs псевдонаука», де викриває маніпуляції та фейки, навчає людей критично мислити і прищеплює здоровий глузд. Нещодавно хтось поскаржився на його контент, сторінку заблокували. Жилак написав оскарження в техслужбу (каже, зазвичай відповідають зі США або Нідерландів). Переписка, за його словами, закінчилася тим, що модератори погодилися, що в нього хороший контент, «який просуває правильні речі», але розвели руками, мовляв, нічого не можуть зробити, бо ж він «викликає негативну реакцію у людей». А вони хочуть, щоб досвід користувачів був позитивним.
Хвиля блокувань була у 2015-му
Теперішня ситуація нагадує 2015 рік. Тоді теж була хвиля банів, користувачів з активною проукраїнською позицією буквально засипали скаргами та попередженнями. Вплив зовнішніх сил був настільки помітний, що українська спільнота на одній з онлайн-сесій з Марком Цукербергом поскаржилася на несправедливість при блокуванні сторінок і дописів з боку соцмережі. Тоді теж були підозри, що український сегмент перебуває під кураторством російського менеджменту. У відповідь очільник Facebook запевнив, що в Росії немає адміністрації, яка б впливала на український сегмент мережі: «Кожен, хто думає, що модерація відбувається з російського офісу антиукраїнськими модераторами, помиляється».
Це не дуже переконало активістів, тому вони закликали його створити український підрозділ Facebook Неочікувано ініціативу підтримали в Міністерстві інформаційної політики України — почали «бомбити» корпорацію листами, вийшли на керівницю громадської політики у Центральній та Східній Європі Ґабріелу Чех. Того ж року вона приїхала в Україну і зустрілася з тодішнім міністром Юрієм Стецем і його заступником Артемом Біденком. Така активність призвела до певної стабілізації: стали менше блокувати, через Чех вирішували складні суперечливі випадки. Зрештою у 2019 році призначили менеджерку з публічної політики в Україні Катерину Крук.
В описі цієї вакансії було написано, що менеджер з публічної політики Facebook в Україні стежитиме за місцевим законодавством і політичною ситуацією, представлятиме компанію на зустрічах із владою і ЗМІ, радитиме іншим підрозділам компанії, як розвивати соцмережу з огляду на місцеву державну політику.
Українські користувачі фейсбуку знають про існування менеджерки, і очікують від неї втручань, однак офіційного каналу для таких звернень немає і невідомо, чи входить це в її обов’язки.
Пам’ятаючи про 2015, Артем Біденко, який нині очолює Інститут інформаційної безпеки, вважає, що зараз черговий «занепад» стосунків із Фейсбуком. «Нові заборони, бани, ігнор від адміністрації - таке враження, що росіяни намагаються використати баги системи... Я не бачу іншого шляху, ніж знову виходити на західні ЗМІ з сильною офіційною позицією. Велика корпорація вимагає гри за великими правилами — важлива позиція уряду, вона має бути сильною і публічною. На жаль, зараз, з невідомих мені причин, урядовці засунули язики ясно куди і навіть не можуть зробити офіційну заяву», — зітхає Біденко.
Крім цього, на його думку, є також проблема в недосконалості самої системи — величезна корпорація швидше реагує на великі подразники. Тому логічно, що коли десятки тисяч (про)російських користувачів скаржаться, сотні українських активістів нічого не можуть цьому протиставити. Дієвий спосіб — втручання міністерства та уряду, які мають сказати, що бачать проблему подвійних стандартів і обмеження свободи слова. В 2015 році це спрацювало, тому Біденко вірить, що спрацює і зараз.
Кого і за що банили у Facebook
Святослав Літинський: «За цитування посилання зі словника. Сказали, що спам у фб».
Іванчук Надія: «Мій профіль уже рік стоїть із поміткою попередження. А все тому, що організовуючи благодійні фестивалі, я часто поширюю про них різну інформацію. Facebook сприймає мене за спамера».
Денис Суділковський: «За посилання на сайт Верховної Ради (ймовірно, бо той без сертифікатів безпеки працює)».
Юрій Гончаренко: «Місяць бану і річне обмеження якості акаунту за три секунди прапора Азову в стрімі з маршу добровольців. Розцінили як поширення екстремізму. Оскарження не допомогло».
Катерина Стулень: «Бан на тиждень за моє відео звільнення Маріуполя, бо «Азов екстремістська організація». За це ж відео видалили взагалі сторінку мого чоловіка і ще купу груп у фб, які репостнули те».
Дарина Березіна: «Кілька разів скидала собі в приватний допис схеми в’язання гачком. Щоразу фейсбук ці пости випилював, люб’язно сповіщаючи мене, що “вбачає в них заклик до екстремізму”. Щоправда, не банив».
Руслан Дух: «Мене банять періодично з 2012 року за всім відому назву росіян, яка починається на літеру «ме», а найсуворіший бан на три місяці отримав за мапу Сибірської народної республіки».
Іван Бабошин: «За слово «ч*рка», при чому я мав на увазі «цурку» — дрова тобто».
Отар Довженко: «За саркастично вжите слово «татарва». Воно було вкладене в уста уявного кцп. Але це не захистило мене від бану».
Користувачі фейсбуку, які зазнали обмежень, не знають, заблокував їх автоматичний фільтр чи жива людина, і сталося це після скарг чи автоматично.
Експертка: «Скоріше за все, працює мікс алгоритмів і логічних правил»
Який висновок можна зробити з усіх цих історій і прикладів про роботу алгоритмів Facebook? Офіційних пояснень не отримали, тому ми попросили поділитися своїми міркуваннями аналітикиню даних Надію Романенко, яка донедавна очолювала проєкт з моніторингу дезінформації на Texty.org.ua.
5 років тому Надія разом з колегами створила інтерактивний проєкт «Тролесфера»: ТЕКСТИ вирахували мережу з близько двох тисяч Facebook-користувачів, тісно пов’язану із групами бойовика ДНР Степана Мазури, які, прикриваючись патріотичними слоганами, поширювали заклики до перевороту та протестів.
- Я не можу дати точну відповідь, як працюють алгоритми фейсбука, адже не маю доступу до внутрішньої кухні фейсбука, - говорить Надія. - У таких випадках, як цей, зрозуміло, що непрозорі алгоритми - це проблема. Подальші роздуми базуються на доступних коментарях про блокування та на власному досвіді розробки машинного навчання.
Устина згадує про минулі попередження, а з коментаря спікерки Facebook можна зробити висновок, що рішення про блокування приймає людина. Думаю, алгоритми точно задіяні для фільтрування підозрілих випадків, які надходять на розгляд людям-модераторам. Як ці вони працюють - загадка і комерційна таємниця.
Рішення алгоритму направити допис на розгляд модератора і рекомендована дія точно є результатом багатьох факторів: і змісту допису, і «репутації» користувача.
Ці фактори можуть сплітаються в рекомендовану дію або за допомогою правил (наприклад, якщо алгоритм виявлення мови ненависті видає високий рівень небезпеки і користувач має стільки-то попереджень - рекомендувати видалення акаунта), або через алгоритм машинного навчання, який самостійно знаходить закономірність у факторах і діях модераторів.
Скоріше за все, присутній мікс алгоритмів прийняття рішення і логічних правил, які писали живі розробники.
Отже на етапі алгоритму могла помилитися якась з численних моделей оцінки прийнятності повідомлення, модель прийняття рішення, або якесь з правил «якщо-то». Моделі машинного навчання помиляються здебільшого через неякісні тренувальні дані. Припустимо що інженери ФБ знайшли дані текстових повідомлень з маркуванням «мова ворожнечі / звичайне повідомлення».
Більшість дописів могли бути не про Україну, а про США – набори даних для машинного навчання зазвичай мають зсув у бік розвинених західних країн. В цьому наборі даних могло бути кілька повідомлень про Україну, і вони могли бути помічені як гейт. При навчанні модель цілком могла побудувати закономірність «Україна + Росія + війна + вбивства = маркуй як ненависть».
Висвітлення негативної теми і мова ненависті - майже однакові для моделей на ключових словах, але моделі, які оцінюють послідовності слів, здатні відстежити різницю. Проте якщо така модель працює з кількома мовами і для дуже різних контекстів, вона може показувати чудові результати на поширених мовах і темах, але помилятися у малознайомих випадках.
Отже, модель помилилася. Для таких випадків у Facebook є модератор, який мав би це помітити і виправити.
Але модератор міг бути втомлений та не задоволений зарплатою, а тому просто погоджувався з моделлю, міг читати на дозвіллі Russia Today, міг бути росіянином (сподіваюся, мене не заблокують за це), міг теж помилитися.
Хто винен? Непрозорість Facebook та небажання компанії реагувати на помилки, які менші за повний провал.
"The entire professional backbone is gone." Why are Zelensky's associates leaving his team
MPs of the Verkhovna Rada of Ukraine dismissed the speaker of parliament Dmitry Razumkov. He was on the team of Vladimir Zelensky from the very beginning of his political career. Razumkov's resignation is far from the first among officials close to the incumbent president. For more than two years, practically no one from his old team remained in Zelensky's entourage, Ukrainian investigative journalist Mikhail Tkach drew attention to this.
The Present Time TV channel (created by RFE / RL with the participation of Voice of America) tells how five associates of the incumbent president left his team, what happened to them and why they lost their posts:
"With such a concentration of power, all questions are for Zelensky."
One of those who no longer work with Zelensky is Oleksandr Danilyuk , secretary of the National Security and Defense Council of Ukraine from May to September 2019. On the air of Present Time, he said that, together with Ruslan Ryaboshapka and Pavel Klimkin, he founded an organization that specializes in the national security of the country, Danilyuk does not create any political party, but is trying to create a team that in two years "will become a real alternative and will not be afraid to name yourself as a party. "
Alexander Danilyuk also spoke about what is happening with the Zelensky team and why.
- In your opinion, what is happening in Zelensky's team? Why are there so many purges and resignations of the team with which he came to power?
- Zelensky himself has changed a lot. Now he refuses those promises, the rhetoric that he voiced to millions of voters, and those people who could help him implement the original program - he gets rid of them. I see this as the main reason. It so happened that the entire professional backbone left.
Zelensky has already systematically started to squeeze other people with his point of view from his team
I very quickly realized that the train was going the wrong way, so I initiated my resignation. After that, Zelensky already systematically began to squeeze out others, I believe, people with their own point of view from his team. In this he was helped by Igor Valerievich Kolomoisky, an oligarch who helped him, among other things, to become president, as well as new team members who understood that the most important thing for the president is, first of all, loyalty, not knowledge, professionalism and values.
- Can you name the main points of discrepancy in what you wanted and what Zelensky wanted, or, for example, Zelensky's team, but Zelensky did not want this?
- I can give many examples, but the main one is global: if you really want to change the country, you need people who can do it, who have the necessary qualifications, who have the willpower to implement reforms that are very necessary and important for the country.
The main point of discrepancy is that now it has entered the phase of imitation of actions, imitation of reforms
But it so happened that such people also very often have their own point of view, based on their experience, and this must be reckoned with. Zelenskiy does not want to reckon with this. Therefore, the main point of divergence is that it has now entered the phase of imitation of actions, imitation of reforms. People who want to imitate remained by his side, and those who cannot afford it, spend their lives imitating violent activity, either left themselves, or got rid of them as dissidents.
Therefore, I, for example, have my own clear understanding of how it is necessary to fight the oligarchs, and not imitate this fight, as Zelensky does. How it is necessary to reform the judicial and law enforcement system - this is what I specialize in, I know how to do it. My colleague Ruslan Ryaboshapka also understands this very well. But Zelensky does not need this - he is now imitating and sabotaging the reform of the judicial system, the anti-corruption system. And virtually all economic reforms boil down to one populist promises.
- Does Zelensky not need it himself or does his team not need it? For example, the person who is probably behind him?
Zelensky has now rebuilt power in the country in such a way that he is responsible for everything, so there is no need to look either behind his back or at those around him.
- I understand that very often someone can be attributed to who is behind Zelensky, or, on the contrary, is trying to protect Zelensky: "Yes, this is not him, he is good, this is the wrong team." Zelensky has now rebuilt the power in the country in such a way that he is responsible for everything, so there is no need to look either behind his back or at those around him. With such a concentration of power, it is necessary to raise all questions directly to Zelensky. Therefore, he really does not want changes in the country, and this is a big problem.
- Do you think the political ambitions of those who left play a key role here? I mean retired. For example, suppose at Goncharuk's, at Ryaboshapka's, probably at you. Is Zelenskiy afraid that you are creating competition?
- Probably, in my case, you can say: of course, yes, we are creating competition. But the reality is a little different: he is not afraid of competition. He just doesn't like people with an alternative point of view - that's all. And the fact that we end up creating competition is actually happening, and he himself contributes to this. Instead of, on the contrary, working in one team and changing the country together, he creates alternative hotbeds of competition, with which it will be necessary to fight only later.
But there is one global problem: the fact is that Zelensky, having come to power, came, they often say, not thanks to, but in spite of. Many people voted for him because they simply did not want to see the old politicians. And this is the main reason why he received so many votes. But by his actions he is now discrediting the policy of new faces, because he pushed aside the new faces - professionals, and, on the contrary, brought the rogue people closer to him and surrounded himself with them. This creates a great risk of revenge of the old politicians.
And for Ukrainians it will be a very difficult choice, they do not like, they hate old politicians, they are not ready to vote for them. Therefore, the choice will be very difficult in the next elections. All hope is for new forces, which, despite such active opposition from the authorities, will be able to consolidate and present a real alternative.
- So, maybe this is a chance to unite for you, Ryaboshapka, Goncharuk, Razumkov?
- Firstly, Ruslan Ryaboshapka, as well as Pavel Klimkin - we already work together, we also founded an organization that specializes in national security and the development of the country. And yes, indeed, a lot of people are now uniting around us. Therefore, I believe that such a process should take place, of course.
- That is, you do not exclude that at the next parliamentary elections you will act as a united front and, possibly, will enter parliament?
- I would very much like to contribute to the creation of a political force that could provide an alternative to today's lawlessness, but most importantly - an alternative to the revenge of the old forces, because Ukraine should get new faces, people who can fulfill all the promises that are given in the elections. The Ukrainians lack this so much.
- Who can enter this team, can you tell? Do you have any opinion on this, maybe you have some kind of plan?
- Of course have. We now communicate with many people. But I want to say right away that we are not building any political party now, because I believe that now is not the time for political parties. Our fellow citizens are simply allergic to political parties, because they all simply do not fulfill their promises. The most important thing for us is to create a team that either in this format or in a different format, but in two years will become a real alternative and will not be afraid to call itself a party.
- Do you think these resignations can somehow affect Zelensky's rating? According to the latest polls, plus or minus a third is still ready to vote for him, just such a nuclear, one might say, electorate that will definitely support him.
- You see what is happening: these recent personnel changes - of ministers, the speaker - actually indicate that the president, unfortunately, does not have an understanding of how to develop the country. And in this way - the fight against oligarchs, the fight against smugglers, a very unsuccessful fight, by the way, personnel changes - simply distracts attention from real problems.
And therefore, I believe that yes, this white noise still helps to create the impression of some kind of process in the country, but there is no result from the process. Therefore, over time, any such chaotic movements will only annoy people and will already begin to play minus his rating.
:extract_focal()/https%3A%2F%2Fbucket-bykvu.s3.eu-central-1.amazonaws.com%2Fwp-content%2Fuploads%2F2021%2F10%2FScreenshot-2021-10-18-at-03.28.17.png)
:extract_focal()/https%3A%2F%2Fbucket-bykvu.s3.eu-central-1.amazonaws.com%2Fwp-content%2Fuploads%2F2021%2F10%2FScreenshot-2021-10-18-at-03.26.49.png)
:extract_focal()/https%3A%2F%2Fbucket-bykvu.s3.eu-central-1.amazonaws.com%2Fwp-content%2Fuploads%2F2021%2F10%2FScreenshot-2021-10-18-at-03.27.03.png)
:extract_focal()/https%3A%2F%2Fbucket-bykvu.s3.eu-central-1.amazonaws.com%2Fwp-content%2Fuploads%2F2021%2F10%2F%25D1%2580%25D0%25B5%25D0%25BF%25D0%25BE%25D1%2581%25D1%2582%25D0%25B8-1080x585.jpg)
:extract_focal()/https%3A%2F%2Fbucket-bykvu.s3.eu-central-1.amazonaws.com%2Fwp-content%2Fuploads%2F2021%2F10%2F%25D1%2580%25D0%25B5%25D0%25BF%25D0%25BE%25D1%2581%25D1%2582%25D0%25B5%25D1%2580.jpg)
:extract_focal()/https%3A%2F%2Fbucket-bykvu.s3.eu-central-1.amazonaws.com%2Fwp-content%2Fuploads%2F2021%2F10%2F%25D1%2580%25D0%25B5%25D0%25BF%25D0%25BE%25D1%2581%25D1%2582%25D0%25B8-2-1080x865.jpg)
:extract_focal()/https%3A%2F%2Fbucket-bykvu.s3.eu-central-1.amazonaws.com%2Fwp-content%2Fuploads%2F2021%2F10%2F%25D1%2580%25D0%25B5%25D0%25BF%25D0%25BE%25D1%2581%25D1%2582%25D0%25B8-2-1-1080x848.jpg)
:extract_focal()/https%3A%2F%2Fbucket-bykvu.s3.eu-central-1.amazonaws.com%2Fwp-content%2Fuploads%2F2021%2F10%2F%25D1%2580%25D0%25B5%25D0%25BF%25D0%25BE%25D1%2581%25D1%2582%25D0%25B8-3-1080x828.jpg)
:extract_focal()/https%3A%2F%2Fbucket-bykvu.s3.eu-central-1.amazonaws.com%2Fwp-content%2Fuploads%2F2021%2F10%2F%25D1%2580%25D0%25B5%25D0%25BF%25D0%25BE%25D1%2581%25D1%2582%25D0%25B8-3-1-1080x775.jpg)
:extract_focal()/https%3A%2F%2Fbucket-bykvu.s3.eu-central-1.amazonaws.com%2Fwp-content%2Fuploads%2F2021%2F10%2F%25D1%2580%25D0%25B5%25D0%25BF%25D0%25BE%25D1%2581%25D1%2582%25D0%25B8-4-1080x811.jpg)
:extract_focal()/https%3A%2F%2Fbucket-bykvu.s3.eu-central-1.amazonaws.com%2Fwp-content%2Fuploads%2F2021%2F10%2F%25D1%2580%25D0%25B5%25D0%25BF%25D0%25BE%25D1%2581%25D1%2582%25D0%25B5%25D1%2580-4-1080x773.jpg)
:extract_focal()/https%3A%2F%2Fm.glavcom.ua%2Ftheme%2Fimg%2Flink_comment.png)
:extract_focal()/https%3A%2F%2Ftexty.org.ua%2Fmedia%2Fimages%2F215561320_1043541406182073_8052647450514721178_.original.jpg)
Коментарі
Дописати коментар
Олег Мічман в X: «Donations and support for media resources, bloggers, projects, and individuals. https://t.co/HPKsNRd4Uo https://t.co/R6NXVPK62M» / X
https://twitter.com/olukawy/status/1703876551505309973