Скандал з Facebook: що далі?

13 вересня провідне американське видання The Wall Street Journal опублікувало розслідування, в якому йдеться про те, що соціальна мережа Facebook неодноразово і системно порушувала задекларовані принципи роботи.

Так, Марк Цукерберг неодноразово публічно заявиляв, що Facebook Inc. дозволяє своїм більш ніж 3 мільярдам користувачів виступати нарівні з елітами політики, культури та журналістики, і що стандарти спільноти поширюються на всіх, незалежно від їх статусу чи слави. Натомість компанія таємно розробила систему, яка звільнила відомих користувачів від деяких або всіх своїх правил. І це стало відомо після ознайомлення з внутрішніми документами компанії, переглянутими журналістами The Wall Street Journal.

Програма, відома як “перехресна перевірка” або “XCheck”, спочатку була задумана як захід контролю щодо дій, вжитих проти акаунтів відомих людей, включаючи знаменитостей, політиків та журналістів. Сьогодні це захищає мільйони VIP -користувачів від нормального процесу перевірки, про що свідчать документи компанії. Деякі користувачі знаходяться у «білому списку» мають імунітет від заходів перевірки і їм дозволено публікувати матеріали, що порушують правила.

Часом, як показують документи, XCheck захищав публічних діячів, чиї пости містять утиски або підбурювання до насильства, порушення, які зазвичай призводять до санкцій для звичайних користувачів . У 2019 році це дозволило міжнародній футбольній зірці Неймару показати оголені фотографії жінки, яка звинуватила його у зґвалтуванні, десяткам мільйонів його шанувальників, перш ніж контент був видалений Facebook. Облікові записи, включені до білого списку, поділилися запальними твердженнями про те, що перевірки фактів Facebook вважали хибними, включаючи те, що вакцини є смертельними, що Хілларі Клінтон приховала “змову педофілів”, і що тодішній президент Дональд Трамп назвав усіх біженців, які шукають притулку, “тваринами”.

Незважаючи на спроби приборкати його, вплив XCheck збільшився і охопив щонайменше 5,8 млн користувачів у 2020 році – свідчать документи. Описуючи систему, Facebook ввів в оману громадськість та власну Наглядову раду – орган, створений Facebook для забезпечення підзвітності систем правопорядку компанії.

У червні Facebook у письмовій формі повідомив Наглядовій раді, що її система для відомих користувачів була використана у «невеликій кількості рішень». У письмовій заяві представник Facebook Енді Стоун сказав, що критика XCheck була справедливою, але додав, що система “була розроблена з вагомої причини: створити додатковий інструмент, щоб ми могли точно застосовувати політику щодо вмісту, який може потребувати більшої уваги”.

Для звичайних користувачів Facebook виступає своєрідною грубою справедливістю, оцінюючи, чи відповідають публікації правилам компанії щодо знущань, сексуального вмісту, мови ворожнечі та підбурювання до насильства. Іноді автоматизовані системи компанії видаляють або приховують вміст, підозрюваний у порушенні правил, без огляду людини. Інколи матеріали, позначені цими системами або користувачами, оцінюються модераторами контенту, зайнятими сторонніми компаніями.

Виняток (відомий також як “білий список”) конкретних осіб та організацій створює численні юридичні ризики, ризики щодо дотримання правил та PR для компанії та завдає шкоди нашій спільноті.

Пан Цукерберг підрахував у 2018 році, що Facebook отримує 10% своїх рішень щодо видалення вмісту неправильно, і, залежно від вжитих заходів, користувачам ніколи не повідомлять, яке правило вони порушили, або їм дадуть можливість оскаржити.

Однак до користувачів, призначених для перевірки XCheck, ставляться більш прихильно. Facebook розробив цю систему, щоб мінімізувати те, що її співробітники описують у документах як “піар”, – негативну увагу ЗМІ, що випливає з помилкових заходів, вжитих проти VIP -осіб.

Якщо системи Facebook дійшли висновку, що один із цих облікових записів міг порушити його правила, вони не видаляють вміст – принаймні не відразу, свідчать документи. Вони направляють скаргу в окрему систему, в якій працюють краще навчені штатні працівники, для додаткових рівнів розгляду.

Документи включають звіти про дослідження, онлайн -обговорення співробітників та проекти презентацій для вищого керівництва, включаючи пана Цукерберга. Вони не є результатом бездіяльного бурчання, а скоріше офіційною роботою команд, завданням яких було вивчити соціальну мережу та з’ясувати, як це можна покращити.

Вони пропонують, мабуть, найяснішу картину того, наскільки широко відомі проблеми Facebook всередині компанії, аж до самого генерального директора. І коли Facebook публічно говорить про багато з цих питань перед законодавцями, регуляторами та, у випадку з XCheck, власною наглядовою радою, він часто надає оманливі або часткові відповіді, маскуючи, наскільки він знає.

Однією з сфер, з якою компанія не боролася, є прибутковість. За останні п’ять років, протягом яких він перебував під ретельним контролем і розгортався внутрішніми дебатами, Facebook отримав прибуток у розмірі понад 100 мільярдів доларів. На даний момент вартість компанії перевищує 1 трильйон доларів.

---

Минулого року алгоритми Facebook неправильно інтерпретували популярну публікацію від Хосама Ель Соккарі, незалежного журналіста, який свого часу очолював службу арабських новин ВВС, згідно з “оглядом інцидентів” у вересні 2020 року.

У дописі він засудив Усаму бен Ладена, але алгоритми Facebook неправильно витлумачили публікацію як підтримку терориста, що порушувало правила платформи. Рецензенти помилково погодилися з автоматизованим рішенням та відхилили апеляцію пана Ель Соккарі. В результаті, обліковий запис пана Ель Соккарі був заблокований для трансляції відео в прямому ефірі незадовго до запланованого публічного виступу. У відповідь він засудив Facebook у Twitter та власну платформу компанії у публікаціях, які набрали сотні тисяч переглядів.

Facebook швидко змінив це, але незабаром після цього помилково зняв більше повідомлень пана Ель Соккарі з критикою консервативних мусульманських діячів.

Пан Ель Соккарі відповів: “Очевидно, що група підтримки Facebook на арабській мові проникла екстремістами”, – написав він у своєму твіттері.