Нерешаемая проблема: Как Twitter борется с абьюзом

О разнице между защитой и безопасностью и причинах агрессивного поведения в социальных сетях.

Фото: Джон Белл / Люба Козорезова, Институт «Стрелка»

Проблема свободы слова и цензуры в интернете существует не только на уровне законодательства — она распространяется и на правила пользования сервисами, и даже на дизайн их интерфейсов. Многие социальные сети вводят правила общения и механизмы фильтрации контента, чтобы защитить пользователей от абьюза, то есть оскорбительных сообщений и онлайн-преследования. Strelka Magazine поговорил с Джоном Беллом, продакт-дизайнером отдела доверия и безопасности Twitter, о том, как защитить пользователей, не ущемляя их права на самовыражение, и почему такая работа больше похожа на политическую, чем на творческую.

— Чем отличается работа UX-дизайнера в команде безопасности и доверия Twitter от работы обычного UX-дизайнера?

— Абьюз — это практически нерешаемая проблема, как война или глобальное потепление. В классическом UX-дизайне можно предположить, какого цвета и размера должна быть кнопка, протестировать своё предположение и получить результат в цифрах. Чтобы прекратить абьюз, нельзя провести A/B-тестирование. Это больше похоже на работу политика, который создаёт законодательный акт.

— Как вы измеряете эффективность своей работы? Вы стремитесь к росту или падению количества жалоб на оскорбительный контент?

— Хороший вопрос. Число должно уменьшаться, но по правильным причинам. К примеру, полиция может гордиться тем, что количество насильственных преступлений против женщин уменьшилось. Возможно ли, что женщины просто перестали обращаться в полицию, потому что знают о её бездействии? Возможно. Поэтому и дизайнеру важно понимать, почему количество жалоб уменьшилось — вдруг он просто спрятал нужную кнопку? Или пользователи привыкли, что их жалобы бесполезны? Это всё не так просто.

Чем проще твой продукт, тем больше в нём лазеек для абьюза

— Как связан дизайн и количество абьюза на платформе?

— Я провёл много интервью с женщинами, которые страдали от абьюза в сети. Оказывается, каждая знает, что если мужчина ей грубит, то грубить ему в ответ опасно: ситуация от этого может обостриться. Поэтому они не хотят никому мстить, а предпочитают контролировать свой опыт онлайн-общения и фильтровать информацию заранее.

Англ.: В свободе слова есть нюансы
Англ.: Детская порнография?
Англ.: Порнография?
Англ.: Порнография для несовершеннолетних?
Англ.: Терроризм?
Англ.: Призывы к революции?
Англ.: Протесты?
Англ.: Призывы к жестокости?
Англ.: В свободе слова есть нюансы

Это не история про месть, стыд и борьбу. Это история про минимизацию агрессии и защиту. Нас учат, что простота — лучше всего. Это не так. Чем проще твой продукт, тем больше в нём лазеек для абьюза. Если стремиться к простоте, идеальный продукт — это окно и кнопка «отправить». Но в такое окно можно отправлять детскую порнографию, а мы как общество договорились, что это плохо. Чтобы сделать хорошо, нужно приложить усилия: нанять людей, которые будут отслеживать жалобы, нанять достаточно людей, чтобы они делали это быстро, платить им достаточно, чтобы они делали это хорошо, нагрузить интерфейс дополнительными функциями. Смотря на возрастающую сложность, многие дизайнеры говорят, что это плохой дизайн.

— То, что одни считают защитой, другие называют цензурой. По вашему мнению, где проходит граница?

— Безусловно, люди должны иметь право говорить всё, что хотят. Но они также должны иметь право видеть только то, что хотят. Допустим, у меня есть право говорить тебе оскорбительные вещи. В таком случае ты должен иметь право встать и уйти.  

После работы в отделе доверия и безопасности моё отношение к свободе слова изменилось. Когда каждый пишет всё, что ему приходит в голову, а остальные обязаны это читать, приятные люди уходят, и ты остаёшься с кучкой мудаков. Я называю это «ударная вечеринка». Представь: тебя приглашают на вечеринку. Говорят, что там будут все твои друзья, отличная музыка, вкусная еда, бесплатные коктейли. Ты соглашаешься, приходишь в отличном настроении, но, как только открываешь дверь, получаешь удар кулаком в нос. И теперь тебе не важно, какая там еда и музыка — ты уходишь домой. Примерно такой опыт получают люди в онлайне: скачивают новое модное приложение, получают непрошенную фотографию члена и удаляют приложение навсегда.

— Как вы решаете, какой контент удалять?

— Количество подписчиков — не показатель качества, хотя многие социальные сети долгие годы считали именно так. Мы стараемся не гадать о стандартах качества, а дать пользователям возможность устанавливать их. В Twitter вы можете блокировать определённые слова, не получать уведомления от новых пользователей, от пользователей, на которых не подписаны, которые не подписаны на вас, которые не оставили свою почту, которые не указали свой номер телефона. Если я заблокирую слово «Трамп», я не увижу его в своей ленте. Но если моя мама напишет мне: «Боже, ты видел, что написал Трамп? Ну, неважно, с праздником тебя. Увидимся завтра?» — я должен это видеть или нет? Поэтому мы решили, что если заблокированный аккаунт ретвитит ваш знакомый, то вы, скорее всего, захотите это увидеть. Мы заблокировали ретвиты, но не прямые упоминания.

— Почему одни и те же пользователи по-разному ведут себя на разных платформах и правда ли, что в Twitter люди агрессивнее, чем, скажем, в Facebook?

— В Facebook твой дедушка, бывшая девушка и коллега могут поспорить о войне в Сирии — это будет неловко, но с меньшей вероятностью дойдёт до оскорблений. Если это другая платформа, то в комментариях собираются не родственники и отдалённо знакомые люди, а просто куча людей, у которых есть мнение, и они выражают его в интернете. Эффект предсказуем.

Люди должны иметь право говорить всё, что хотят. Но они также должны иметь право видеть только то, что хотят

Даже если бы Facebook полностью скопировали, за исключением одной незаметной фичи, данные бы показали большую разницу в поведении пользователей, не говоря уж о таких разных платформах, как Twitter и Reddit.

— То есть единственный вывод — люди вежливее, когда знают, с кем разговаривают?

— Человеческое восприятие зависит от сотни тысяч незаметных движений. Ты можешь на миллиметр отвести глаза, и я пойму, что тебе скучно. В интернете не видно выражения лица, усталости, сарказма, и всё это приводит к недопониманию, ссорам и грубости. Людям понадобится много, очень много времени, чтобы привыкнуть к новому формату общения. При этом я не считаю, что один тип коммуникации лучше, чем другой, или что они могут друг друга заменить. Когда пишем письма от руки, мы строим предложения иначе, чем в живой беседе. Это отличается от того, как мы говорим в Snapchat, в имейлах, в коротких сообщениях.

Англ.: Давайте забаним слово «зонт»
[Разные варианты написания]
[Разные варианты написания]
[Разные варианты написания]
Англ.: Весь смысл в том, чтобы забанить смысл
Англ.: Бан смысла подразумевает человеческое осуждение
Англ.: Человеческое осуждение противоречиво и стоит дорого
Англ.: Давайте забаним слово «зонт»

Мы слишком часто говорим о новых вещах «телевизор — это смерть театра», «это новое приложение — смерть Facebook», «этот новый гаджет заменит iPhone». Театр не умер, Facebook существует, iPhone продолжают покупать. Появляются новые слои, но старые никуда не исчезают.

В Facebook твой дедушка, бывшая девушка и коллега могут поспорить о войне в Сирии — это будет неловко, но с меньшей вероятностью дойдёт до оскорблений

— Вы считаете, что платформа несёт ответственность за то, как люди общаются с её помощью?

— Для чистоты эксперимента я не буду говорить за Twitter и представлю, что создаю социальную сеть с нуля. Исключения из свободы слова появятся сразу же: сначала я запрещаю детскую порнографию. Потом дело доходит до порнографии в целом: если я её запрещаю, то открываю целую вселенную заморочек с законом и этикой. Если разрешаю, открываю другую вселенную.

Я бы следовал примеру сайтов вроде metafilter.com — установил очень чёткие правила поведения. Да, эти правила были бы направлены против определённых высказываний и идей. И все сказали бы, что это нарушает свободу слова! Да, нарушает. Моя идеальная социальная сеть — место для интересных бесед, а запугивание и оскорбления не способствует этому. В ней нельзя продвигать идеологии, согласно которым определённые расы, национальности или меньшинства нужно стирать с лица Земли. Да, во многих странах такие высказывания легальны, но у меня не государство, а бизнес, так что идите ** *** (куда подальше. — Прим. ред.)!

Если на Эми нападут тролли, у нас есть ровно одна минута, чтобы доказать ей: она нам важнее, чем тролли

В команде мы придумали «правило первой минуты». Если новый пользователь — скажем, 16-летняя Эми — напишет в своём личном аккаунте, что ей не понравилась новая «Зельда», мы должны её защитить от оскорблений. Вы не поверите, но есть люди, которые специально ищут и оскорбляют пользователей, чьё мнение не разделяют. Если на Эми нападут тролли, у нас есть ровно одна минута, чтобы доказать ей: она нам важнее, чем тролли. В идеальном мире мы должны её защитить за первые 10 секунд, но если сервис не может сделать этого даже за 60, то он несёт ответственность за то, как Эми себя чувствует, читая оскорбления. Получается, что сервису важнее мнение толпы троллей, чем право 16-летней девочки безобидно высказывать не самое популярное мнение.

Воркшоп Джона Белла на «Стрелке» / фото: Егор Слизяк, Институт «Стрелка»
Воркшоп Джона Белла на «Стрелке» / фото: Егор Слизяк, Институт «Стрелка»
Воркшоп Джона Белла на «Стрелке» / фото: Егор Слизяк, Институт «Стрелка»
Воркшоп Джона Белла на «Стрелке» / фото: Егор Слизяк, Институт «Стрелка»
Воркшоп Джона Белла на «Стрелке» / фото: Егор Слизяк, Институт «Стрелка»
Воркшоп Джона Белла на «Стрелке» / фото: Егор Слизяк, Институт «Стрелка»
Воркшоп Джона Белла на «Стрелке» / фото: Егор Слизяк, Институт «Стрелка»

Так что если бы я создавал свою социальную сеть, я бы придерживался этого направления. Меня бы критиковали за то, что я безмозглый либерал, боец за социальную справедливость, а я бы сидел, слушал это и говорил: «Ага. Да. Окей». Дизайн интерфейсов — не для того, чтобы мы говорили всё, что нам приходит в голову, любой ценой. Дизайн интерфейсов должен создавать условия для интересных, продуктивных бесед. У меня такие приоритеты. Думаю, у большинства окружающих тоже. Но есть исключения, которые были правилом в интернете последние лет пятнадцать. Пришло время это менять.

Текст: Аля Датий