TikTok приносит радость и вдохновляет миллионы людей по всему миру. Безопасность сообщества TikTok — приоритет платформы, особенно в области защиты несовершеннолетних пользователей. Поэтому TikTok уделяет особое внимание отслеживанию потенциально опасных челленджей и мистификаций, в которые могут быть вовлечены подростки на платформе.
Несколько месяцев назад TikTok инициировал глобальное исследование, чтобы лучше понять, с какими потенциально опасными челленджами и мистификациями сталкиваются подростки в интернете. Проблема опасных челленджей актуальна для всех цифровых платформ, и команда TikTok поставила задачу, разработать еще более эффективные инструменты для поддержки подростков, родителей и учителей. Команда TikTok также надеется внести свой вклад в повышение осведомленности широкой аудитории об опасных челленджах и мистификациях, поэтому делится результатами исследования и рассказывает о дальнейших шагах по обеспечению безопасности пользователей на платформе.
В исследовании приняли участие 10 000 человек из 10 разных стран мира: Аргентины, Австралии, Бразилии, Германии, Италии, Индонезии, Мексики, США, Великобритании и Вьетнама. Подготовкой отчёта занималась Зоуи Хилтон, директор и основатель независимого агентства в области безопасности Praesidio Safeguarding. Для оценки и дополнения отчета была создана комиссия из 12 ведущих экспертов по безопасности молодежи со всего мира. Кроме того, TikTok получил консультации от доктора Ричарда Грэхэма, клинического детского психиатра, специализирующегося на подростковом здоровье и развитии, и доктора Гретхен Брион-Майзельса, ученого-бихевиориста, специализирующимся на профилактике рисков в подростковом возрасте.
Что подростки говорят о своем опыте участия в челленджах, и как они оценивают риски
Большинство челленджей — веселые и безопасные. Например, акция #IceBucketChallenge в 2014 году помогла привлечь внимание к больным боковым амиотрофическим склерозом, а TikTok-челлендж #BlindingLightsChallenge, который неофициально называли “семейным безумием”, вышел далеко за пределы платформы и помог сблизить разные поколения. По мнению доктора Ричарда Грэхэма, подростки склонны рисковать, это часть процесса взросления. Если подросток решил поехать в скейтпарк с друзьями, то логично, что там он может столкнуться с определенными рисками. Понимая это, команда TikTok хотела разобраться, что побуждает подростков участвовать в челленджах, какие действия они предпринимают для оценки потенциального риска, и как платформа может их защитить.
Во время исследования подростков попросили оценить уровень риска от участия в последнем онлайн-челлендже, который они видели в интернете. Практически половина опрошенных (48%) сообщила, что челлендж был полностью безопасными и веселым, а 32% респондентов ответили, что риск присутствовал, но челлендж был безопасным. 14% участников исследования охарактеризовали челлендж, как рискованный и опасный, и только 3% всех челленджей были определены респондентами как очень опасные. Согласно исследованию, в очень опасных челленджах приняли участие всего 0,3% всех опрошенных.
Результаты исследования также показали, что, прежде чем принять участие в челлендже, подростки оценивают его на предмет потенциальных рисков. Для этого они используют разные способы, среди которых просмотр видео других пользователей, участвующих в челлендже, изучение комментариев и обсуждение с друзьями. Был сделан вывод, что предоставление подросткам рекомендаций по оценке потенциальных рисков является одной из наиболее важных мер для обеспечения их безопасности. Около половины (46%) опрошенных заявили, что им нужна «более подробная информация о рисках в широком смысле» и «информация о том, какие действия могут навредить окружающим».
О чем беспокоятся родители, и как на пользователей влияют фейки
Недостоверная информация на тему самоубийств и самоповреждений направлена на то, чтобы заставить людей поверить во что-то пугающее, что не является правдой на самом деле. Подобные мистификации часто имеют схожие характеристики. В прошлом, например, распространялись ложные предупреждения о том, что детей побуждают к участию в «играх», которые приводят к самоповреждению. После первого появления, такие фейки широко распространились среди пользователей, призывая предупредить как можно больше людей во избежание негативных последствий. В то время как пересылка подобных сообщений может показаться безобидной, 31% подростков, столкнувшихся с фейками, ощутили на себе их негативное воздействие. Из них 63% сказали, что фейки негативно повлияли на их ментальное здоровье.
Результаты исследования также показали, что взрослые не знают, как разговаривать с подростками о мистификациях и переживают, что из разговора подросток узнает об опасных челленджах, о которых раньше не знал, и это привлечет его интерес. Более половины опрошенных родителей (56%) сказали, что не будут упоминать о мистификациях, связанных с самоповреждением, если подросток не заговорит о них первым, а 37% родителей считают их сложной темой для разговора.
Усиление мер по обеспечению безопасности на платформе
TikTok использовал выводы из отчета для анализа правил и процессов платформы и внедрил ряд улучшений, существующих мер безопасности.
Исследование показало, как распространение недостоверного контента по теме самоповреждения, даже распространенные с благими намерениями, могут повлиять на благополучие подростков. Помимо текущих действий по ограничению и удалению недостоверной информации об опасных челленджах на платформе, TikTok также начнет удалять сообщения пользователей с ложной информацией об опасных действиях, так как они могут принести вред, выдавая недостоверную информацию за истину. Контент, направленный на рассеивание паники и предоставление сообществу корректной информации, удаляться не будет.
Строгие Правила сообщества являются важной частью работы TikTok в области защиты своих пользователей, и важно, чтобы эти правила сопровождались строгими методами распознавания контента. Поэтому TikTok разработал технологию, предупреждающую команду безопасности платформы о внезапном росте нарушающего правила контента, связанного с определенными хэштегами. Более того, эта технология была расширена для идентификации контента с проявлениями потенциально опасного поведения. Например, по хештегу #foodchallenge пользователи в основном делятся рецептами блюд. Однако если вдруг по этому хештегу будет замечен рост запрещенного контента, команда платформы изучит причину и будет готова принять необходимые меры для защиты сообщества от потенциально опасных трендов и поведения.
Новые руководства для поддержки сообщества платформы
Один из ключевых выводов отчета: подростки, родители и ответственные за воспитание несовершеннолетних нуждаются в информации о челленджах и мистификациях. Вместе с экспертами TikTok разработал новое руководство для своего Центра безопасности, посвященное челленджам и мистификациям. Руководство включит в себя советы для родителей и опекунов о том, как лучше всего общаться с подростками на данные темы.
Кроме того, TikTok совместно с доктором Грэхэмом и доктором Брион-Майзельсом изменили текст предупреждения, которые видят пользователи при поиске на платформе контента, связанного с челленджами или мистификациями. Теперь пользователей будут призывать посетить Центр безопасности TikTok для получения более подробной информации.
В начале работы над проектом многие эксперты по безопасности в интернете отметили, что воспитатели, учителя и общественные организации не знают, как эффективно реагировать на проблему. Благодаря проекту, TikTok получил возможность поработать со многими ведущими мировыми экспертами в области безопасности, чтобы внести свой вклад в изучение такой сложной темы. TikTok планирует не останавливаться на достигнутом и продолжать работать над обновлениями платформы в сфере безопасности пользователей.
