TikTok усиливает меры безопасности: как платформа защищает пользователей от опасного контента

TikTok — одна из ведущих видеоплатформ в мире, активно используемая как взрослыми, так и подростками. Пользователи не только смотрят, но и создают контент, который ежедневно загружается в миллиардах видеороликов. Однако с ростом популярности платформы возникает вопрос о безопасности, особенно для несовершеннолетних. Как TikTok обеспечивает защиту пользователей от опасного контента? На эти вопросы ответил Валдис Балодис-Болужс, руководитель команды по безопасности и предотвращению рисков в Европе и Центральной Азии.

Индивидуальные рекомендации и безопасность контента

Алгоритмы TikTok формируют индивидуальную ленту рекомендаций для каждого пользователя, основываясь на его интересах. Чем больше пользователь взаимодействует с контентом, тем больше ему показывается похожих видео. Однако платформа также стремится избежать формирования "информационного пузыря", предлагая пользователям контент, выходящий за рамки их привычных интересов.

"Мы ответственно подходим к рекомендации контента, и у нас строгие критерии отбора роликов для ленты рекомендаций. В наших правилах четко прописаны стандарты для допуска в рекомендации: например, платформа не будет рекомендовать контент о строгих низкокалорийных диетах или физических упражнениях, предназначенных для радикального снижения веса".

Лента рекомендаций для пользователей старше 18 лет отличается от ленты для подростков, что позволяет учитывать возрастные особенности и повышенные требования к безопасности контента.

"Для этого мы используем систему уровней контента, учитывающую возраст пользователей и разные стандарты к безопасности контента, которая призвана не допускать видео со взрослыми темами в ленту рекомендаций подростков".

Процесс модерации контента

Модерация контента на TikTok представляет собой многоуровневый процесс, в который вовлечены как технологии, так и команды экспертов. Перед тем как видео становится доступным для просмотра, оно проходит проверку с помощью машинной модерации, которая удаляет запрещенные материалы до их публикации.

"Модерация контента в TikTok — это очень сложный многоуровневый процесс. Мы инвестируем как в передовые технологии, так и в профессиональные команды экспертов по безопасности. Только в первом квартале 2025 года 87 процентов нежелательного контента было удалено при помощи автоматизированной модерации".

В 2024 году более 96 процентов контента было удалено до его просмотра, а более 98 процентов — в течение 24 часов. Человеческая модерация также играет важную роль, особенно в случае локального спорного контента.

"Любой человек может пожаловаться на контент в TikTok, и соответствующее подразделение в нашем модерационном департаменте его рассмотрит и при необходимости примет меры".

В 2024 году в Казахстане было удалено более 6,5 миллионов видеороликов по причине нарушения Правил сообщества, из которых 95 процентов были удалены проактивно.

Запрещенные темы на платформе

Правила сообщества TikTok четко определяют темы, которые запрещены на платформе. К ним относятся дискриминационные высказывания, насилие, преступная деятельность и темы самоубийства.

"Мы категорически не допускаем дискриминационные высказывания в отношении людей по таким признакам, как этническая принадлежность, национальное происхождение, раса, религия – такой контент удаляется".

Платформа также уделяет внимание ментальному и физическому здоровью пользователей.

"Мы запрещаем демонстрацию и пропаганду самоубийства или самоповреждения. Например, если наши пользователи в Казахстане ищут контент на тему суицида или членовредительства, то им будет предложено связаться со специалистами службы психологической поддержки по номеру 150".

Правила сообщества и их основы

Правила TikTok основаны на принципах прав человека, направленных на сохранение уважения и безопасности пользователей, не ограничивая свободу самовыражения. Важно находить баланс между безопасностью и выражением себя, что и делают специалисты по всему миру.

"В Казахстане есть игра 'кокпар' — это не просто спортивное состязание, но часть национального культурного достояния. Во время Игр кочевников на платформе было много контента об этих соревнованиях".

Модерация прямых эфиров

Правила, применяемые к коротким видеороликам, также распространяются на прямые эфиры. В прошлом году в Казахстане было прервано более 930 тысяч трансляций из-за нарушений.

"Помимо блокировки прямых эфиров, мы также применяем меры для того, чтобы эфиры были более качественными".

Безопасность для детей и подростков

Важно отметить, что TikTok не предназначен для пользователей младше 13 лет. Для предотвращения использования приложения детьми предусмотрена форма регистрации с указанием даты рождения.

"Мы постоянно тренируем модераторов и используем передовые автоматические технологии, чтобы выявлять и блокировать аккаунты, принадлежащие пользователям младше 13. За прошлый год только в Казахстане было удалено 1,9 миллиона аккаунтов пользователей младше 13 лет".

Для подростков также внедрены ограничения: аккаунты пользователей 13-15 лет по умолчанию являются приватными, а их видео недоступны для скачивания.

"Пользователи до 16 лет не имеют доступа к личным сообщениям. Есть серьезные ограничения, связанные с прямыми эфирами: пользователи младше 18 лет не могут их создавать".

Новая функция – медитационные паузы

В этом году была запущена функция медитационных пауз, которая предлагает подросткам расслабляющее дыхательное упражнение, если они используют приложение после десяти часов ночи.

"Интересно, что, когда мы только тестировали эту функцию, 98 процентов подростков приняли решение оставить ее включенной".

Семейные настройки и родительский контроль

Для родителей подростков, достигших возраста 13 лет, TikTok предлагает инструмент родительского контроля "Семейные настройки", который позволяет управлять различными параметрами, включая ограничение времени использования платформы.

"Родитель может контролировать, сколько часов в день ребенок будет проводить в приложении, или даже ограничить доступ к нему в учебное время".

Функционал "Семейных настроек" включает:

• установку приватности аккаунта;
• настройку, кто может писать личные сообщения ребенку и комментировать его ролики;
• определение, будет ли аккаунт попадаться в рекомендации других пользователей.

"Он также может отбирать определенные ключевые слова или хэштеги, и контент, который их содержит, не попадет в ленту рекомендаций ребенка".

Взаимодействие с экспертами и организациями

TikTok активно взаимодействует с экспертами по безопасности, правозащитными организациями и регуляторами для обновления своих правил и обеспечения их актуальности.

"Мы сотрудничаем с авторитетными некоммерческими организациями и экспертами в разных областях. Например, в Казахстане мы сотрудничали с UNICEF в рамках нашей масштабной образовательной инициативы 'Академия безопасности'".