Ведущее американское деловое издание The Wall Street Journal опубликовало расследование, в котором обнародовало внутренние документы корпорации Facebook. Компания владеет соцсетями Facebook, Instagram и мессенджером WhatsApp. Документы, в основном, были написаны группой исследователей внутри компании, чьей задачей было изучить проблемы платформы и попытаться найти решения.
Журнал опубликовал серию статей, основанных на этой информации. В расследовании, опубликованном 13 сентября, журналист Джефф Хорвиц рассказал, как в соцсетях Facebook и Instagram работает система привилегий для VIP-пользователей.
"Страна" изучила это расследование, раскрывающее неприглядную "кухню" крупнейшей соцсети на планете.
Как работает VIP-список
Программа льгот для элиты называется XCheck (от англ. "cross check" - перекрестная проверка). Она дает знаменитостям, политикам и другим высокопоставленным блогерам возможность избежать ограничений, установленных для всех остальных авторов контента. Пользователи, которые внесены в "белый список", защищены от карательных мер, в то время как другим запрещено публиковать материалы, нарушающие правила Facebook.
Найденные журналистами документы показывают, что программа XCheck защищает известных персон, чьи сообщения содержат оскорбления или подстрекательство к насилию. Такие нарушения со стороны обычных пользователей, как правило, приводят к санкциям.
К пользователям, назначенным для проверки через программу XCheck, относятся более уважительно, чем к обычным. Facebook разработал систему таким образом, чтобы свести к минимуму то, что ее сотрудники описывают в документах как "пиар-пожары" - негативное внимание средств массовой информации, возникающее из-за неудачных принудительных действий, предпринятых против VIP-персон.
Если системы Facebook приходят к выводу, что одна из этих учетных записей могла нарушить его правила, они не удаляют контент - по крайней мере, не сразу, как указывают документы. Они направляют жалобу в отдельную систему, укомплектованную более подготовленными штатными сотрудниками, для дополнительных уровней рассмотрения.
Facebook даже просил своих подрядчиков по проверке фактов (их называют "факт-чекерами") изменить "задним числом" свои выводы о сообщениях от высокопоставленных аккаунтов. VIP-персонам отменяли стандартные наказания за распространение дезинформации, и даже меняли алгоритмы Facebook так, чтобы избежать политических последствий.
Пользователям обычно не сообщают, что они были помечены для особого обращения. Внутреннее руководство по соответствию критериям XCheck указывает, что надо быть "влиятельным или популярным" или "рискованным для PR", чтобы оказаться "заслуживающим внимания".
Однако Facebook связывался с некоторыми VIP-пользователями, которые нарушали политику платформы. Им предоставлялось "окно самовосстановления" продолжительностью 24 часа для самостоятельного удаления нарушающего контента, прежде чем Facebook применял штрафные санкции.
.PNG)
"Facebook регулярно делает исключения для влиятельных игроков при обеспечении соблюдения политики в отношении контента". Внутренняя презентация Facebook за август 2020 года под названием "Политическое влияние на политику в отношении контента". Источник: wsj.com
Внесенные в "белый список" аккаунты публиковали контент, который службы проверки фактов Facebook сочли ложными. Например, среди пропущенных Facebook-цензурой фейков оказались сообщения, что вакцины смертельны, что Хиллари Клинтон прикрывала "группы педофилов", и даже что тогдашний президент Дональд Трамп называл всех беженцев, ищущих убежища, "животными".
Программа XCheck охватывает практически всех, кто регулярно работает в СМИ или имеет значительное количество подписчиков в Интернете, включая кинозвезд, ведущих ток-шоу, ученых и онлайн-деятелей с большим количеством подписчиков. В Instagram XCheck включает аккаунты популярных авторитетов в области животных, в том числе даже фейковый аккаунт собаки "Мопса Дуга".
Документы показывают, что программа XCheck постоянно расширяется и насчитывает не менее 5,8 миллиона пользователей. Только в прошлом году в нее были добавлены десятки тысяч учетных записей.
Добавить новых пользователей в систему XCheck могли большинство сотрудников Facebook. Такие полномочия имели участники, по меньшей мере, 45 команд, входящих в состав корпорации.
Всего у Facebook более трех миллиардов пользователей, что составляет треть населения планеты. Документы показывают, что происходящее на платформе имеет последствия в реальном мире.
В Facebook все отлично понимают
Внутренний обзор Facebook 2019 года о практике внесения в "белые списки" показал, что фаворитизм для некоторых пользователей является широко распространенным и "публично не оправданным".
"На самом деле мы не делаем то, что заявляем публично", - говорится в конфиденциальном обзоре. В нем действия компании названы "нарушением доверия" и добавлено: "В отличие от остальной части нашего сообщества, эти люди могут нарушать наши стандарты без каких-либо последствий".
.PNG)
"Это означает, что в отношении некоторых избранных членов нашего сообщества мы не обеспечиваем соблюдение наших политик и стандартов. В отличие от остальной части нашего сообщества, эти люди могут нарушать наши стандарты без каких-либо последствий". Внутренний обзор программы XCheck в Facebook, 2019 г. Источник: wsj.com
Иногда для удаления контента VIP-блогера требовалось одобрение высшего руководства по связям с общественностью и общественной политики, главного операционного директора Шерил Сандберг или даже главы корпорации Марка Цукерберга.
В подкасте Wall Street Journal с автором статьи журналистом Джеффом Хоровицом ведущий процитировал главу Facebook Марка Цукерберга, который заявлял, что "в соцсети есть правила, и эти правила одинаково применимы ко всем".
"Позвольте мне прояснить наши правила. Я не думаю, что Facebook уместно проводить проверку фактов, но у нас есть четкая политика. И если кто-то ее нарушает, будь то высокопоставленный правительственный чиновник, такой как президент, или кто-либо на нашей платформе, мы должны принять меры. Мы будем обеспечивать соблюдение, независимо от того, кто вы на платформе", - заявил Марк Цукерберг.
Еще Марк Цукерберг в 2018 году признавал, что Facebook ошибочно принимает 10% решений об удалении контента, и, в зависимости от предпринятых принудительных мер, пользователям не сообщают, какое правило они нарушили, или не предоставляют возможность подать апелляцию.
Аккаунт Трампа был VIP-списке, но потом его все равно забанили
Обзор крупных ошибок XCheck в Facebook в 2019 году показал, что из 18 расследованных инцидентов в 16 были случаи, когда компания допустила ошибки в действиях против известных пользователей. Еще 4 из 18 случаев касались принудительных мер против контента экс-президента США Дональда Трампа и его сына, Дональда Трампа-младшего.
В июне 2020 года одно из сообщений Трампа обсуждали на внутренней коммуникационной платформе компании Facebook Workplace. Трамп написал в своем сообщении: "Когда начинается грабеж, начинается стрельба".
Менеджер Facebook отметил, что автоматизированная система, разработанная компанией для определения нарушений правил, оценила вероятность нарушения правил платформы в сообщении Трампа на 90 из 100 баллов.
Для сообщения обычного пользователя такая оценка приведет к удалению контента, если даже хоть один читатель сообщит об этом в Facebook.
Вместо этого, как публично признал Марк Цукерберг в прошлом году, он лично призвал оставить пост Трампа. "Принятие такого решения вручную кажется менее оправданным, чем алгоритмическая оценка и принятие мер", - написал глава компании.
Аккаунт Дональда Трампа оставался включенным в программу XCheck вплоть до его удаления из Facebook в июне этого года.
VIP’у можно даже порно
В прошлом году XCheck позволила просмотреть не менее 16,4 миллиарда раз посты, которые нарушали правила, прежде чем их удалить.
В этой связи показателен инцидент со звездой мирового футбола бразильцем Неймаром. Его аккаунт в соцсети Instagram, принадлежащей Facebook, с более чем 150 миллионами подписчиков, является одним из самых популярных в мире.
После того, как в 2019 году женщина обвинила Неймара в изнасиловании, он опубликовал свою переписку с ней, в которой было ее имя и ее обнаженные фотографии. Он обвинил женщину в вымогательстве.
.PNG)
Неймар часто попадает в скандалы, фото: facebook.com/neymarjr
Стандартная процедура Facebook для обработки публикаций "несогласованных интимных изображений" проста: их надо удалить. Но Неймара защищала система XCheck.
Более чем на сутки система блокировала удаление видео модераторами Facebook. Внутренний анализ инцидента показал, что 56 миллионов пользователей Facebook и Instagram видели то, что Facebook описал в отдельном документе как "порно из мести".
Женщину подвергали оскорблениям другие пользователи соцсетей. "Это включало видео, которое репостили более 6 000 раз, издевательства и домогательства в отношении ее персонажа", - говорится во внутреннем обзоре ошибок программы XCheck.
В правилах работы Facebook указано, что следует удалять не только несанкционированные обнаженные фотографии, но и удалять учетные записи людей, которые их публикуют.
"После передачи дела руководству, - говорится в обзоре, - мы решили оставить учетные записи Неймара активными, в отличие от нашей обычной политики отключения профиля "одним ударом".
Бразильские власти поначалу обвинили женщину в клевете, вымогательстве и мошенничестве. Однако первые два обвинения были сняты, а по третьему она была оправдана.
Сам Неймар отрицал обвинения в изнасиловании, и никаких обвинений ему предъявлено не было.
Документы показывают, что на практике большая часть контента, помеченного системой XCheck, вообще не подвергалась последующей проверке. Даже когда компания Facebook действительно просматривает материал, отсрочки его удаления, подобные той, которая применялась к сообщениям футболиста Неймара, означают, что контент, который должен был быть запрещен, может распространиться среди самой широкой аудитории.
Цена вопроса - миллиарды
Документы, описывающие XCheck, являются частью обширного массива внутренних сообщений Facebook, проверенных журналистами The Wall Street Journal. Они показывают, что Facebook в мельчайших подробностях знает, что его платформы могут причинить вред. Однако Facebook часто не хватает воли или способности решать накопившиеся проблемы.
За последние пять лет, в течение которых он находился под пристальным вниманием, Facebook получил прибыль в размере более 100 миллиардов долларов. В настоящее время компания оценивается более чем в 1 триллион долларов.
Действующие сейчас в США нормы для компаний, занимающихся социальными сетями, были приняты конгрессом еще в 1996 году. Закон дает онлайн-компаниям широкий иммунитет от ответственности за действия своих пользователей, а также широкую свободу действий по контролю за контентом на своих сайтах.
На днях Facebook сообщил, что ужесточит меры против скоординированных групп пользователей, нарушающих правила сообщества или подcтрекающих других пользователей на нарушения на платформах компании. В качестве примеров были приведены необоснованные массовые жалобы на контент или аккаунты с целью их последующей блокировки, а также травля, при которой пользователи оставляют комментарии или записи в координации друг с другом.
Ранее "Страна" сообщала, что в США вышла книга о внутренней кухне Facebook, а также о том, почему цензоры Facebook из Украины вступились за ультраправых.
