Telegram на время вылетел из App Store
Это было что-то странное. Приложение для обмена сообщениями Telegram было удалено из App Store после проверки, выявившей контент, нарушающий правила, «запрещающие материалы, содержащие сексуальную эксплуатацию детей». Компания заявила, что восстановила приложение после того, как «разработчик оперативно удалил контент и заблокировал пользователя, разместившего его».
В сообщении в социальной сети 𝕏 на аккаунте Telegram написали: «Сообщения о моей смерти сильно преувеличены». Представители Apple и Telegram так и не дали официальных комментариев по ситуации.
UPDATE: Дуров рассказал, что там было. Крайне интересная история!
Вчера ночью Apple на короткое время удалила Telegram из App Store, потому что пользователь внедрил нелегальную порнографию в публичный чат.
Telegram был восстановлен в течение нескольких часов. Но я хочу объяснить, что произошло — чтобы предупредить других разработчиков приложений и помочь защитить онлайн-сообщества от подобных атак.
Поскольку Telegram быстро удаляет нелегальный контент из публичных групп с помощью всевозможных инструментов модерации, злоумышленнику пришлось прибегнуть к технической уловке. Он вставил AI-модифицированный нелегальный контент, отредактировав старое сообщение в активном групповом чате. В результате контент был эффективно скрыт от участников группы, что помешало им увидеть/сообщить о нём.
Злоумышленник был вымогателем, занимающимся удалением: это тот, кто требует выкуп от владельцев групп в обмен на то, чтобы не нацеливаться на их сообщества. Эти вымогатели используют автоматизированные аккаунты, чтобы внедрять нелегальный контент в публичные группы, а затем сообщают о нём напрямую Apple, пытаясь спровоцировать удаление легитимных сообществ, чьи владельцы отказались платить.
С практической точки зрения, нелегальный порнографический контент в публичных группах Telegram — это не системная проблема. Наша модерация эффективна. Тот факт, что злоумышленникам приходится прибегать к задним числам, эффективно невидимому контенту и другим техническим уловкам, это доказывает.
⚠️ Однако здесь есть два важных урока для разработчиков приложений и онлайн-сообществ:
— Вымогатели нашли способ манипулировать Apple, заставляя её чрезмерно реагировать. Apple удалила Telegram из App Store, не связавшись с нами предварительно. Это создаёт потенциальный системный риск для каждого мобильного приложения, которое размещает пользовательский контент. Если приложение, которым пользуются более миллиарда человек, может быть удалено из App Store без предварительного предупреждения, то любое приложение может.
— Тактики, используемые вымогателями, занимающимися удалением, эволюционируют, ставя под угрозу сообщества на всех социальных платформах. Telegram имеет обширный опыт выявления уловок, применяемых организованными бандами, занимающимися скоординированными жалобами, и защиты легитимных сообществ (даже когда это рискует временным удалением нашего собственного приложения из App Store). Другие платформы могут быть не так же подготовлены.
Будьте бдительны! ☝️
В сообщении в социальной сети 𝕏 на аккаунте Telegram написали: «Сообщения о моей смерти сильно преувеличены». Представители Apple и Telegram так и не дали официальных комментариев по ситуации.
UPDATE: Дуров рассказал, что там было. Крайне интересная история!
Вчера ночью Apple на короткое время удалила Telegram из App Store, потому что пользователь внедрил нелегальную порнографию в публичный чат.
Telegram был восстановлен в течение нескольких часов. Но я хочу объяснить, что произошло — чтобы предупредить других разработчиков приложений и помочь защитить онлайн-сообщества от подобных атак.
Поскольку Telegram быстро удаляет нелегальный контент из публичных групп с помощью всевозможных инструментов модерации, злоумышленнику пришлось прибегнуть к технической уловке. Он вставил AI-модифицированный нелегальный контент, отредактировав старое сообщение в активном групповом чате. В результате контент был эффективно скрыт от участников группы, что помешало им увидеть/сообщить о нём.
Злоумышленник был вымогателем, занимающимся удалением: это тот, кто требует выкуп от владельцев групп в обмен на то, чтобы не нацеливаться на их сообщества. Эти вымогатели используют автоматизированные аккаунты, чтобы внедрять нелегальный контент в публичные группы, а затем сообщают о нём напрямую Apple, пытаясь спровоцировать удаление легитимных сообществ, чьи владельцы отказались платить.
С практической точки зрения, нелегальный порнографический контент в публичных группах Telegram — это не системная проблема. Наша модерация эффективна. Тот факт, что злоумышленникам приходится прибегать к задним числам, эффективно невидимому контенту и другим техническим уловкам, это доказывает.
⚠️ Однако здесь есть два важных урока для разработчиков приложений и онлайн-сообществ:
— Вымогатели нашли способ манипулировать Apple, заставляя её чрезмерно реагировать. Apple удалила Telegram из App Store, не связавшись с нами предварительно. Это создаёт потенциальный системный риск для каждого мобильного приложения, которое размещает пользовательский контент. Если приложение, которым пользуются более миллиарда человек, может быть удалено из App Store без предварительного предупреждения, то любое приложение может.
— Тактики, используемые вымогателями, занимающимися удалением, эволюционируют, ставя под угрозу сообщества на всех социальных платформах. Telegram имеет обширный опыт выявления уловок, применяемых организованными бандами, занимающимися скоординированными жалобами, и защиты легитимных сообществ (даже когда это рискует временным удалением нашего собственного приложения из App Store). Другие платформы могут быть не так же подготовлены.
Будьте бдительны! ☝️
