Компанія Meta пройшла довгий та болісний шлях, щоб навчитися реагувати на кризові ситуації у різних країнах. 

З 2021 року компанія публічно визнає, що ті держави, де її соціальні мережі та месенджери відіграють важливу роль у суспільстві, мають підвищені ризики зловживань і потребують окремої уваги.

Серед таких зловживань – різні способи маніпулювати громадською думкою: поширення дезінформації чи мізінформації, використання ботоферм, зловживання персональними даними користувачів для мікротаргетингу тощо. 

Це визнання стало радше вимушеною відповіддю на критику, ніж проактивним кроком із боку компанії. Для багатьох країн світу Facebook, Instagram та Whatsapp є як мінімум основним способом комунікації онлайн, як максимум – головним джерелом споживання новин та інформації загалом. Серед них і Україна – у 2021 році 43% українців дізнавалися новини з Facebook, а ще 17% – з Instagram. 

За часів, коли Meta називалася Facebook, позиціонування компанії нагадувало соціальний бізнес – Facebook проголошували своєю метою "зробити світ більш відкритим та об’єднаним". Утім, після того, як Meta залучила таку велику кількість користувачів на своїй платформі – у квітні 2022 року тільки Facebook мав майже 3 мільярди користувачів – компанія виявилася не готовою до відповідальності, яку тягне за собою така популярність.

У цьому матеріалі йтиметься про те, як Meta відреагувала на початок повномасштабного вторгнення росії в Україну та чи вивчила компанія попередні уроки.

Meta та світові кризи

Враховуючи розміри компанії та центральну роль її продуктів в інформаційному полі багатьох країн, для Meta навіть чергові національні вибори перетворюються на кризову ситуацію.

Одним із найгучніших кейсів, який привернув увагу до впливу онлайн-спільноти на офлайн-суспільство стали президентські вибори 2016 року в США. Тоді світ шокувала перемога ексцентричного кандидата Дональда Трампа, а згодом стало відомо, що прихильність виборців до нього вплинули зловживання персональними даними користувачів для налаштування мікротаргетингу компанією Cambridge Anatytica, що працювала на Трампа.

За даними Statista, реклама – основне джерело доходів компанії, тому Meta (тоді ще Facebook) активно працювали над збільшенням ефективності реклами в мережі, а отже привабливості для рекламодавців.

Лише після скандалу з Cambridge Analytica світова громадськість звернула увагу на наслідки цього інструменту фінансового зростання техногіганта для демократичного процесу.

У відповідь на критику Meta розпочала роботу над забезпеченням прозорості реклами, що стосується соціальних питань, виборів або політики – її рекламодавців та кількості витрат на неї.

Навчені сумним досвідом, до наступних виборів у США Meta підготувалися заздалегідь. Компанія підвищила вимоги до авторизації користувачів, які транслюють політичну рекламу, – рекламодавці мусили надати компанії навіть свій податковий номер. Також компанія збільшила команду, яка займається моніторингом контенту, та обмежила можливість транслювати політичну рекламу за тиждень до та після виборів, щоб не посилювати суспільну напругу. 

Найтрагічнішими наслідки домінування соціальної мережі Facebook стали для М'янми. Там алгоритми показу контенту в стрічці сприяли розпалюванню ворожнечі серед населення країни, що вилилося у геноцид народу рохінджа.

Геноцид набув особливої ескалації у 2016–2017 роках та з різною інтенсивністю триває й донині.

Компанію Meta (тоді ще Facebook) активно звинувачували в тому, що їхні алгоритми сприяли поширенню закликів до насильства та мови ненависті щодо рохінджа серед м’янмарських користувачів, і соціальна мережа неефективно модерувала контент та не видаляла матеріали, що порушують правила спільноти.

Після численних звинувачень компанія замовила незалежний аудит щодо її впливу на права людини, який підтвердив долю провини техногіганта у винищенні народу рохінджа. У 2021 року Meta навіть отримали колективний судовий позов від біженців рохінджа, які звинувачують компанію у сприянні геноциду їхнього народу. Лише після цього Meta найняла модераторів контенту, що є носіями м’янмарської мови, почала блокувати сторінки м’янмарських військовиї, які організовували геноцид мусульман рохінджа, та сторінки бізнесів, пов’язаних із ними.

Також Meta завчасно почали готуватися до виборів у М’янмі, працюючи над автоматичними алгоритмами розпізнавання м’янмарської мови, додали можливість захистити свої акаунти у соціальних мережах для м’янмарських користувачів та посилили моніторинг контенту на фіксацію та видалення координованих мереж впливу та мову ворожнечі. 

Подібні звинувачення компанія отримує і щодо Індії. Ця країна є найбільшим ринком компанії, тож після систематичних актів насильства щодо індійських мусульман у провінції Кашмір Meta запідозрили у сприянні розпалювання ворожнечі.

На відміну від ситуації в М’янмі, в Індії компанію звинувачують у фаворитизмі на користь індійської правлячої партії BJP. У 2020 році Meta оголосила про проведення незалежного аудиту щодо захисту прав людини в контексті Індії, але результати цього аудиту так і не опублікували, незважаючи на вимогу громадськості. 

Спеціальних заходів компанія вживала також перед наступними виборами у Філіппінах, Ефіопії та інших країнах, де Meta вбачала ризики в інформаційному просторі.

Одним із найбільш резонансних кроків стала реакція на штурм Капітолію в США 6 січня 2021 року прихильниками Дональда Трампа. Після насильницького протесту платформа посилила моніторинг мережі, видаляючи контент із підтримкою протестувальників, закликами до насильства та застосування зброї в США, в тому числі на протестах, та повторення насильницьких протестів.

Також алгоритми Facebook автоматично закривали коментарі в американських групах, де вже траплялися випадки поширення мови ворожнечі, та збільшили вимоги до адміністраторів груп щодо контролю публікацій.

Окрім цього, політична реклама в американському сегменті Facebook та Instagram була заборонена ще протягом двох місяців після цих подій.

Обмеження зняли на початку березня. Найбільше уваги громадськості привернуло рішення заблокувати акаунти Дональда Трампа у Facebook та Instagram – спочатку їх заблокували безстроково, а потім у відповідь на рекомендації Наглядової ради компанії (так званий "суд" при Meta щодо моніторингу й блокування контенту та користувачів) компанія обмежила блокування на 2 роки з можливістю продовження терміну, якщо соціальні ризики щодо активності його профілів зберігатимуться після його завершення. Так, "термін" блокування Трампа закінчується вже наступного січня.  

Заходи Мета для підтримки України

Схоже, на відміну від описаних вище кейсів, у випадку України Meta доволі швидко відреагувала на початок повномасштабного вторгнення та почала приймати перші спеціальні політики уже 26 лютого. Ось перелік основних заходів, вжитих Meta для захисту інформаційного простору та безпеки користувачів:

Безпека

  • Надали можливість українцям закрити свій профіль у Facebook та приховали списки друзів користувачів з України та росії. Так само в Instagram прибрали можливість переглядати підписників та підписки приватних профілів.
  • У рамках програми "Data for Good" почали ділитися даними про користувачів із партнерськими організаціями, що надають гуманітарну допомогу українцям. Ці дані мають допомогти організаціям аналізувати та прогнозувати переміщення та потреби українських біженців.
  • Приховали імена та інші дані рекламодавців з України.

Контент 

  • Створили Центр спеціальних операцій (щоправда, трохи не подумавши про неймінг) для цілодобового моніторингу платформи. У ньому працюють носії української та російської мов – модератори та рецензенти модерації. Крім цього, компанія посилила співпрацю з українськими фактчекерами, громадськими організаціями та урядом.
  • Заборонили російським користувачам транслювати рекламу та монетизувати контент.
  • Додали алгоритми попередження про публікацію потенційного фейку: Meta заявляють, що їхні алгоритми здатні розпізнавати фото, зроблені понад рік тому, і під час публікації такого фото мережа про всяк випадок попереджає користувача, що він поширює старе фото.
  • До публікацій, що містять посилання посиланням на російські державні ЗМІ, та дописи сторінох цих медіа додали спеціальні позначки, які повідомляють, що ця інформація надана російськими підконтрольними державі ЗМІ.
  • Сторінки та профілі, що неодноразово поширювали неправдивий контент, будуть зникати зі списку рекомендацій користувачів, а їхні публікації з’являтимуться нижче у стрічках користувачів.
  • Розпочали співпрацю з українським урядом щодо обмеження доступу до російських державних ЗМІ та журналістів.
  • Обмежили доступ до сторінок RT та Spuntik на території ЄС ще до того, як відповідне рішення ухвалили на рівні Союзу. Також рейтинг цих сторінок в Instagram та Facebook знизили для всього світу – відтепер публікації RT та Sputnik рідше з’являються у стрічках людей. Якщо посилання на RT та Sputnik поширюють у Stories в Instagram, ці Stories також відображаються в кінці списку.
  • 11 березня Meta тимчасово дозволили українцям бажати смерті та загалом застосовувати мову ненависті щодо росіян як "спосіб висловити свій опір та лють щодо військових сил". У той же день на росії щодо компанії відкрили кримінальне провадження, і невдовзі компанію визнали "екстремістською організацією". Уже за 3 дні, 14 березня, компанія знову заборонила хейтспіч щодо росіян, ймовірно, сподіваючись не втратити російський ринок зовсім.

Месенджери 

  • Додали можливість надсилати зникаючі повідомлення у Messenger та Whatsapp, а також функцію автоматичного видалення всіх чатів у Whatsapp раз у певний проміжок часу, щоб захистити листування користувачів у разі втрати телефона.
  • Обмежили можливість масово пересилати повідомлення у Whatsapp, Messenger та Instagram.
  • Додали наскрізне шифрування чатів у Messenger та Instagram.
  • Відкрили гарячу лінію Державної служби надзвичайних ситуацій України, а також гарячу лінію психологічної підтримки у Whatsapp.

Допомога

  • Meta допомагають UNICEF та іншим організаціям розповсюджувати в Instagram посібники для батьків із рекомендаціями, як підтримати дітей під час війни.
  • Додали інформаційні матеріали українською мовою у Центр емоційного здоров’я Facebook, в тому числі про надання психологічної допомоги дітям.
  • Пріоритизували в пошуку Instagram некомерційні благодійні організації, що допомагають Україні.
  • Розширили функціонал для адміністраторів груп екстреної допомоги 

Meta намагається якомога ефективніше поліціювати український інформаційний простір в мережі. Принаймні у випадку України Meta застосувала найбільший пакет спеціальних заходів порівняно з іншими країнами раніше.

Навіть у разі випадкового блокування контенту щодо російських воєнних злочинів (як це сталося з хештегами #Bucha та #Buchamassacre) компанія доволі швидко реагувала на помилки алгоритмів та враховувала локальний контекст – на жаль, українцям зараз життєво необхідно публікувати фото з зображеннями насильства, щоб це насильство якомога швидше припинилося.

Також українські користувачі Facebook та Instagram регулярно скаржаться на видалення їхніх дописів чи Stories із висвітленням війни в Україні, які так само автоматично блокують алгоритми мереж.

Хронологія прийняття спеціальних рішень щодо України, систематичні "випадковості" у модерації контенту та свідчення самих працівників компанії, які не встигають слідкувати за змінами політики щодо контенту навіть протягом одного дня, показує, що Meta не мала заздалегідь розробленої стратегії реагування на випадок повномасштабної війни. Це доволі наївно з боку компанії щодо країни, де домінують її продукти, а з 2014 року тривають воєнні дії і частина території тимчасово окупована сусідом. Тож наразі ми спостерігаємо радше реакцію з боку компанії, аніж імплементацію проактивних політик.

Без перебільшення, порівняно з іншими соціальними мережами, Meta доклала найбільше зусиль в історії компанії для захисту інфопростору іноземної країни, де домінують продукти компанії.

Також Meta провела більше роботи для захисту інформаційного простору та українських користувачів, ніж інші соціальні мережі. Також оперативна реакція Meta значною мірою може бути результатом співпраці українського уряду з компанією, адже з перших днів Міністерство цифрової трансформації активно взаємодіяло з Meta. Приклад України вкотре доводить необхідність громадського контролю та соціальної відповідальності приватних компаній. 

Разом з тим, російська дезінформація все ще ппоширюється у соціальних мережах. У випадку як Бучанської різанини, так і пропаганди на іноземну аудиторію загалом Meta досі не справляється з моніторингом поширення контенту іноземними мовами. Meta – це американський техногігант, який успішно поширював своє домінування серед неангломовних країн.

На прикладі дезінформації щодо Бучі помітно, що найменше перешкод має дезінформація іноземними мовами, якими менш вправно володіють алгоритми моніторингу дотримання правил спільноти.

Кейс України показує, що інформаційне поле у соціальних мережах потребує систематичного та наполегливого захисту з боку національних держав та поглиблення регіональної співпраці компанії з національними урядами та громадянським суспільством. 

 

Анастасія Романюк, спеціально для Української правди