На днях южнокорейская студентка Хиджин получила сообщение от анонимного адресата в телеграмме: “У вас произошла утечка фото и личных данных. Давайте обсудим это”.
Девушка зашла в чат и увидела свое старое школьное фото. Затем появилось второе изображение: то же, но откровенно сексуального характера – цифровая подделка, сделанная с помощью технологии deepfake.
Испуганная Хиджин (имя девушки изменено) не ответила, но снимки продолжали поступать. На всех ее лицо было прикреплено к телу, занимающемуся сексом.
(Под “дипфейковым порно” понимают откровенный контент, где лица людей накладываются на другие порнографические изображения или видео с помощью технологий искусственного интеллекта. – Ред.)
Хиджин была не единственной, кто столкнулся с такой проблемой.
Недавно стало известно, что южнокорейская полиция расследует дела о фальшивом порно в двух крупных университетах страны.
Впрочем, журналистка Ко Нарин уверена: таких случаев может быть больше.
Она провела расследование в социальных сетях и обнаружила десятки телеграмм-чатов, где пользователи выкладывали фото женщин и с помощью искусственного интеллекта в считанные секунды превращали их в фейковые порнографические изображения.
“Минуты люди загружали фото знакомых девушек и просили превратить их в фальшивое порно”, – рассказала Ко ВВС.
Она выяснила, что эти группы направлены не только на студентов университетов, но и на школьников старших и даже средних классов.
Если контента много, создают отдельную подгруппу – так называемую комнату. Их часто называют “комнатами унижения” или “комнатами друзей”, доступ к которым строго ограничен.
Фейковая порнография в соцсетях
BBC ознакомилась с описанием нескольких таких чатов. В одном из них участникам предлагают разместить более четырех фотографий конкретного человека, а также его имя, возраст и место жительства.
“Я была ошеломлена тем, насколько систематизирован и организован был этот процесс, – говорит Ко. – Самое ужасное, что я увидела, – это группа для несовершеннолетних учащихся одной из школ, в которую входило более 2 000 детей”.
Ко написала статью о происходящем. Это имело эффект бомбы и поразило Южную Корею. В понедельник полиция объявила, что начала досудебное расследование по Telegram по делу о возможном содействии в распространении дипфейков сексуального характера.
На прошлой неделе во Франции основателю приложения Павлу Дурову предъявлены обвинения в соучастии в ряде преступлений, связанных с приложением, в частности, в создании условий для распространения детской порнографии.
По предварительным данным, под прицелом порнофейков оказались 500 южнокорейских школ и университетов.
Реальное количество пострадавших еще предстоит выяснить, но считают, что многие не достигли 16 лет – возраста согласия в Южной Корее. Большая часть подозреваемых – сами подростки.
После этого десятки женщин и девочек по всей стране убрали свои фото из соцсетей или вообще удалили аккаунты, опасаясь, что могут стать объектами порнофейков.
“Мы расстроены и возмущены тем, что нам приходится цензурировать свое поведение в соцсетях, хотя мы не сделали ничего плохого”, – объясняет одна из студенток университета А Ин, чьи сверстники стали объектом порноатак.
По словам А Ын, одной из жертв полиция посоветовала не возбуждать дело, поскольку поймать преступника, по их словам, будет слишком сложно.
Сложности с расследованием признал и глава полиции Ву Чон Су. По его словам, Telegram не предоставляет никаких данных, в частности, информации об аккаунтах пользователей.
Пользователи часто анонимны, чаты можно перевести в закрытый режим, а их контент быстро и бесследно удаляется. Это делает Telegram идеальным местом для процветания преступного поведения.
Однако защитники прав женщин обвиняют власти Южной Кореи в том, что они слишком долго позволяли сексуальному насилию в Telegram оставаться бесконтрольными, поскольку страна уже сталкивалась с подобным явлением. В 2019 году преступная группа использовала Telegram, чтобы заставить женщин и детей создавать и распространять откровенные сексуальные изображения.
Тогда полиция обратилась к Telegram за помощью в расследовании, но приложение проигнорировало их запросы. Организатор преступления был приговорен к более чем 40 годам тюрьмы, но против платформы дело не возбудили.
“Они наказали главных фигурантов, но саму проблему оставили без внимания, и я думаю, это только усугубило ситуацию, – говорит журналистка Ко. – Если технологические компании не хотят сотрудничать с правоохранительными органами, то государство должно регулировать их деятельность, чтобы защитить своих граждан” .
Южнокорейский Центр защиты жертв сексуального насилия в интернете (ACOSAV) еще раньше обратил внимание на резкий рост несовершеннолетних жертв фейковой порнографии.
В 2023 году к ним обратились 86 подростков, пострадавших от порнофейков. В этом году их количество выросло до 238. Только за последнюю неделю они помогли еще 64 несовершеннолетним жертвам.
Один из руководителей центра Пак Сонхё говорит, что ее работники были завалены звонками и работали круглосуточно.
“Благодаря технологии deepfake появляется все больше запретных видеоматериалов, и мы опасаемся, что их количество будет только расти”.
Помимо консультирования жертв центр отслеживает вредоносный контент и работает с онлайн-платформами, добиваясь его удаления. Парк говорит, что были случаи, когда Telegram удалял контент по их просьбе.
BBC обратилась к Telegram за комментарием.
Там заявили, что их модераторы “активно следят за публичными страницами приложения, принимают сообщения от пользователей и ежедневно удалять миллионы материалов, нарушающих условия платформы”.
Ли Мен Хва занимается молодыми людьми, совершившими сексуальные преступления. Она считает, что злоупотребление “дипфейками” – часть более глубокой проблемы. “Для подростков фейки стали частью их культуры. Они воспринимают их как игру или розыгрыш”.
Ли убеждена: очень важно воспитывать молодежь, объяснять проблему. Тогда они начинают лучше понимать, что такое сексуальное насилие. И это останавливает их от повторных преступлений.
Тем временем правительство Южной Кореи заявило, что усилит уголовное наказание за создание и распространение фейковых изображений, а также будет наказывать за пересмотр порнографии.
Однако сделать это не так-то просто. Большинство преступников – подростки, обычно попадающие под ювенальные суды, где им выносят мягкие приговоры.
После разоблачения проблемы много чатов закрыли, но на их месте почти наверняка появятся новые. Так недавно создали “комнату унижений” для журналистов, освещающих эту историю.
Ко Нарин говорит, что у нее начались проблемы со сном: “Я постоянно проверяю, не загрузили ли мою фотографию”.
Эта проблема волнует почти всех женщин и девушек в Южной Корее. Студентка университета А Ин рассказала, что теперь с подозрением относиться ко всем знакомым мужчинам.
“Я стала болезненно мнительной, и в этом нет ничего хорошего”, – резюмирует девушка.
