Как работает программа борьбы Facebook с порноместью Статьи редакции

Модераторы всё-таки увидят интимные снимки без «размытия».

В ноябре 2017 года Facebook начал тестировать в Австралии программу против публикации снимков бывших партнёров — зачастую экс-возлюбленные поступают так в отместку за расставание. Методы борьбы с «порноместью» многим показались неоднозначными: интимные фотографии, который сначала нужно отправить самому себе, затем увидят модераторы.

Термин «порноместь» (revenge porn) начал формироваться в начале 2010-х годов из-за сайта IsanyOneUp и порноагрегатора XTube. В 2015-2016 годах в главной мировой соцсети — Фейсбуке – возникло несколько скандалов из-за «порномести»: к примеру, солдаты Корпуса морской пехоты публиковали интимные снимки женщин-сослуживцев, а родители австрийской девушки выкладывали её «неловкие» фотографии.

В апреле 2017 года Марк Цукерберг объявил о начале борьбы с явлением в Facebook, Facebook Messenger и Instagram. Он определил «порноместь» как любую интимную фотографию, которой поделились без разрешения автора. Чтобы модераторы проверили снимок на нарушение стандартов, достаточно было нажать кнопку «Пожаловаться» (Report).

Программа в Австралии — новый шаг Facebook по борьбе с «порноместью». Страна выбрана не случайно, ведь каждая четвёртая-пятая местная жительница в возрасте от 18 до 45 лет страдают от аналогичных случаев. В ближайшем будущем тестирование распространят на Великобританию, США и Канаду.

Если результаты признают удовлетворительными, функция станет доступна всем пользователям соцсети. Вот только новость о том, что модераторы будут просматривать интимные снимки перед созданием цифрового отпечатка, многим показалась странной и нарушающей их права. Ещё больше вопросов возникло к объективности модераторов, ведь человеческий фактор способен привести к ошибке.

Предположений и домыслов о борьбе с «порноместью» стало так много, что глава департамента глобальной безопасности Facebook Антигона Дэвис (Antigone Davis) дополнительно разъяснила, как работает программа. По её словам, участие в тестировании новой функции полностью добровольное.

• Каждый австралиец, который хочет опробовать новую функцию, заполняет онлайн-форму на сайте австралийского правительственного агентства e-Safety;
• Пользователь Фейсбука отправляет интимную фотографию себе в Messenger и помечает специальным флажком — так в соцсети определят кадр, который «вызывает беспокойство»;
• Секретари e-Safety уведомляют Facebook о том, что участник программы заполнил форму. При этом у властей нет доступа к изображению;
• Когда Facebook получает уведомление, представитель Community Operations (подразделение по поддержке пользователей – прим. TJ) открывает фотографию, изучает её, «хэширует» и создаёт цифровой биометрический шаблон по аналогии с отпечатком пальца;
• Facebook пишет в e-Safety и просит автора жалобы удалить оригинальное фото из Messenger на их устройстве. Затем модераторы удаляют это изображение со своих серверов;
• После всех действий восстановить исходный снимок из хэша нельзя. Если кто-то попробует загрузить такую же фотографию в соцсеть, автоматически запустится база данных хэшей. Если они совпадут, Фейсбук не разрешит публикацию.

По словам представителя Facebook (Антигона Дэвис об этом не упоминала), каждую фотографию будет изучать только один человек, а всего этим станет заниматься небольшая группа сотрудников специального подразделения (сколько их — не уточнялось). На серверах Фейсбука будет храниться только ссылка, а не сами интимные фотографии и видео.

Facebook сначала даже не упоминал, что программа борьбы с «порноместью» не полностью автоматизирована — о том, что модераторы будут вручную изучать фотографии, позже узнали журналисты.

Издание Motherboard дважды обращалось к Facebook за разъяснениями – и в компании отвечали, что их сотрудник увидит только замазанный снимок с обнажённым пользователем. Этого должно быть достаточно, чтобы убедиться в намерениях автора жалобы.

Однако в открытом письме Антигоны Дэвис ничего не говорится о том, что модераторы Facebook увидят размытые кадры. Motherboard в третий раз спросил пресс-службу соцсети, которая призналась — никакого размытия на самом деле не будет.

Другими словами, австралийцы, которые участвуют в тестировании, должны заранее решить — готовы ли они к тому, что их интимные снимки будут просматривать модераторы. «Непонятно, почему так произошло, но очень важно подчеркнуть эту путаницу», — заметил редактор издания.

#разборы #фейсбук #соцсети #технологии