Удаляют, банят, блокируют: как TikTok борется с запрещённым контентом

TikTok – одна из самых популярных соцсетей в мире. Её алгоритмы мгновенно подстраиваются под интересы пользователя, а короткие видео удерживают внимание. Дети и подростки особенно активно пользуются платформой: создают челленджи, повторяют танцы, участвуют в трендах. Однако такая популярность несёт риски – от нежелательного контента до кибербуллинга.

Как TikTok решает эту проблему? На мероприятии, приуроченном ко Дню безопасного интернета, команда Trust and Safty Tiktok рассказала о мерах защиты пользователей и несовершеннолетних. Корреспондент Informburo.kz разбиралась, что именно делает компания, чтобы пользователи были в безопасности.

Удаление контента

Руководитель по обеспечению безопасности и целостности TikTok в Центральной и Восточной Европе и Центральной Азии Валдис Балодис-Болужс рассказал, что в прошлом году TikTok удалил в Казахстане более 6,5 млн видеороликов за нарушение правил сообщества, это на 2,5 млн больше, чем годом ранее. Причем 95% удалённого контента было выявлено до того, как на него пожаловались пользователи, а 80% – ещё до того, как их вообще кто-либо увидел. Помимо этого, за нарушение правил было заблокировано более 930 тысяч прямых трансляций.

"Комментарии и дискуссии разрешены, пока не переходят границы, затрагивая личность и действия конкретного человека. Мы стремимся создать безопасную среду, где пользователи могут общаться, обсуждать сложные темы и получать поддержку", – рассказал Валдис Балодис-Болужс.

Но с ростом аудитории платформа сталкивается с новыми вызовами: кибербуллинг, деструктивные тренды, пропаганда насилия и вредных привычек. Чтобы защитить пользователей, особенно несовершеннолетних, TikTok внедряет строгие правила модерации контента.

Платформа не допускает травлю, унижения и дискриминацию по признаку внешности, национальности, религиозных взглядов или умственных способностей. Дискуссии разрешены, но если комментарии превращаются в персональные оскорбления, они удаляются.

Кроме того, TikTok категорически запрещает демонстрацию и пропаганду суицидов, членовредительства и опасных челленджей. В случаях угрозы жизни компания сотрудничает с экстренными службами.

"Например, если пользователь ищет контент, связанный с самоубийством или опасными действиями, TikTok ограничивает такие запросы и предлагает ресурсы помощи. В Казахстане мы сотрудничаем со службой экстренной поддержки, а также работаем с международными экспертами в сфере душевного здоровья, чтобы разрабатывать рекомендации для тех, кто оказался в сложной ситуации", – добавил эксперт.

Платформа придерживается принципа нулевой толерантности к насилию – физическому, психологическому и сексуальному. Контент, содержащий сцены насилия, немедленно блокируется.

Ещё один важный аспект – борьба с пропагандой вредных привычек. Видео с демонстрацией употребления алкоголя, табака и запрещённых веществ ограничиваются в распространении среди взрослых пользователей, а если в них участвуют несовершеннолетние – удаляются полностью.

Контент сексуального характера также запрещен. Видео, связанные с предоставлением или поиском сексуальных услуг, удаляются, но образовательные материалы по репродуктивному здоровью и медицине разрешены.

Платформа активно борется с дезинформацией. Опасные ложные сведения, например недостоверные медицинские советы, немедленно удаляются, чтобы предотвратить потенциальный вред. Однако менее серьёзные конспирологические теории, например о плоской Земле, не блокируются, но их распространение ограничивается.

Помимо этого, TikTok удаляет спам и мошеннические аккаунты, включая накрутку подписчиков, просмотров и лайков, чтобы сохранить аутентичность платформы.

Отдельное внимание уделяется защите персональных данных. Платформа не допускает публикацию адресов, финансовых данных или другой личной информации, способной создать угрозу безопасности пользователей.

Ограничение по возрасту

Официально TikTok разрешён только пользователям от 13 лет. Однако на практике дети могут легко обойти это ограничение, просто указав другой возраст при регистрации. Как платформа борется с этим?

• Ограничение при регистрации: TikTok в Google Play и App Store имеет рейтинг 12+, но это не мешает детям установить приложение. Однако при первом входе платформа запрашивает возраст – если пользователь указывает, что ему меньше 13 лет, аккаунт не создаётся.
• Верификация аккаунтов: если система заподозрит, что ребёнок младше 13 лет, профиль могут удалить. В Казахстане за прошлый год TikTok заблокировал почти 2 млн аккаунтов из-за нарушения возрастного правила.
• Мониторинг контента: модераторы отслеживают профили, где автор сам указывает, что ему, например, 10–12 лет, и блокируют такие аккаунты.

Команда TikTok знает, что в отношении негативного контента подростки более уязвимы, поэтому для пользователей младше 18 лет вводятся дополнительные ограничения:

• Контент с насилием, экстремальными диетами, дезинформацией и опасными челленджами не показывается в рекомендациях подростков.
• Видео пользователей младше 16 лет не попадают в "Рекомендованное", чтобы снизить риски кибербуллинга.
• Прямые сообщения отключены для детей младше 16 лет.
• Комментарии по умолчанию ограничены, но можно настроить их вручную или полностью отключить.
• Подростки младше 18 лет не могут отправлять подарки и донаты во время стримов, а прямые эфиры разрешены только с 18 лет.

Однако команда TikTok признаёт, что были случаи, когда дети-блогеры успешно развивали свою деятельность без ограничений. Каждый кейс рассматривается отдельно.

Чтобы дать родителям больше контроля, TikTok предлагает функцию "Семейные настройки", которая позволяет:

• Ограничивать экранное время – по умолчанию установлено 1 час в день.
• Фильтровать контент – можно блокировать определённые темы и слова в поиске.
• Настроить контроль сообщений – определять, кто может писать ребёнку.

В приложении есть также напоминания о сне и уведомления о долгом просмотре видео, которые помогают детям контролировать время, проведённое в приложении.

Фильтрация и локальные особенности контента

Алгоритмы TikTok подбирают контент на основе интересов пользователя, но при этом избегают создания "информационных пузырей". Для этого используется система фильтрации, которая балансирует персонализированные рекомендации и разнообразие контента, предоставляя пользователям больше тематик видеоматериалов.

Платформа объединяет более 1 млрд пользователей из 150+ стран, а контент доступен более чем на 80 языках. При этом TikTok стремится учитывать культурные различия в разных регионах, в том числе в Казахстане.

"Мы придерживаемся международных норм прав человека, но также учитываем локальный контекст. У TikTok более миллиарда пользователей, и адаптация политики под разные страны – сложный, но необходимый процесс. Например, в прошлом году платформа стала информационным партнёром Пятых Игр кочевников, проходивших в Казахстане. Одной из дисциплин был кокпар – традиционная игра, в которой всадники соревнуются за тушу козла. Такой контент может показаться жестоким для пользователей из Европы, но для Центральной Азии он является частью культурного наследия", – объяснил Валдис Балодис-Болужс.

Контроль в руках пользователя

Хотя TikTok активно модерирует контент с помощью автоматических алгоритмов и команды модераторов, пользователи также могут самостоятельно защищать себя и настраивать свою ленту. Платформа предоставляет различные инструменты, которые помогают контролировать комментарии, фильтровать контент и сообщать о нарушениях.

Каждый пользователь может пожаловаться на контент, если он нарушает правила сообщества. Жалобы можно отправить на видеоролики, прямые трансляции, комментарии. 

"Многие воспринимают модерацию контента как наказание для авторов, но наша цель – объяснить, какие правила были нарушены и как можно избежать этого в будущем. Если контент удаляется или ограничивается в рекомендациях, пользователи получают уведомление с разъяснением причин", – добавил руководитель.

При этом пользователи могут видеть статус своих аккаунтов. TikTok внедрил функцию проверки аккаунта, где авторы могут отслеживать, какие меры к ним применены и за что. В случае несогласия с ограничениями или блокировкой решение модератора можно обжаловать.

TikTok даёт свободу выбора в том, какие видео и комментарии они хотят видеть, а какие – ограничить.

• Фильтрация комментариев – можно открыть или ограничить комментарии к своим видео, а также добавить фильтр по ключевым словам, чтобы скрыть нежелательные сообщения.
• Настройки конфиденциальности – пользователи могут ограничить доступ к своему аккаунту, скрыть его из поиска или сделать профиль закрытым.
• Функция "Не нравится" – помогает адаптировать ленту, исключая нежелательный контент из рекомендаций.

Какие данные собирает TikTok и зачем?

TikTok собирает данные не только о зарегистрированных пользователях, но и о тех, кто взаимодействует с платформой без регистрации. Это включает личные сведения, пользовательский контент, историю просмотров и технические данные устройства. Анализируются также файлы cookie и рекламные предпочтения.

Эти данные используются для персонализации контента, работы алгоритмов, обеспечения безопасности, борьбы с мошенничеством, показа рекламы и поддержки социальных функций. TikTok также применяет их для анализа пользовательского опыта и контроля за соблюдением правил сообщества.

Во втором полугодии 2023 года TikTok получил 8421 запрос от правоохранительных органов на раскрытие пользовательских данных. Из них 1918 касались сохранения данных, а 2211 были экстренными.

Платформа реагирует на такие запросы строго в рамках закона. Каждый случай тщательно проверяется, а данные предоставляются только при наличии юридического основания – например, по решению суда или в экстренной ситуации.