Индустрия порнографических дипфейков перестаёт быть подпольной. Ресурсы с сексуализированным ИИ-контентом всё чаще появляются в открытом доступе, поскольку даркнет ограничивает аудиторию, рекламный трафик и способы монетизации.
По данным свежего исследования, опубликованного в одном из американских научных журналов, обнаружено 88 публично доступных сайтов с сексуализированными ИИ-изображениями, созданными без согласия представленных на них людей. Причём 38 площадок полностью посвящены такому контенту. 82 из 88 сайтов (93,2%) находятся на первых двух страницах поисковой выдачи — даркнет такого охвата не даёт.
Почему это происходит
Сегодня порнодипфейки — это сформировавшийся рынок. Для владельцев площадок это прежде всего трафик и монетизация: реклама, подписки, платные заказы. На уровне пользователей дипфейки становятся инструментом травли, мести, шантажа или дискредитации конкретного человека.
Порог входа резко снизился: для генерации может хватить одной фотографии, а готовые сервисы позволяют получить результат даже без специальных технических навыков. Поэтому такие сайты используют обычную веб-инфраструктуру, поисковое продвижение, CDN, хостинг и рекламные системы. Столкнуться с подобным контентом можно в привычной цифровой среде, а не на специализированных подпольных площадках.
Почему даркнет больше не нужен
Анонимность, ради которой раньше уходили в даркнет, теперь продаётся в открытой сети как обычная услуга: скрытая регистрация домена и защищённая почта. Поставщики подобной инфраструктуры заранее не проверяют контент клиентов.
В России анонимно разместить сайт сложнее: провайдер хостинга вправе обслуживать клиента только после его идентификации согласно ч. 5 ст. 10.2-1 Закона об информации № 149-ФЗ. Поэтому площадки с порнографическим контентом от нейросетей уходят за рубеж.
Создатели ресурсов с дипфейками 18+ рассчитывают на правовую неопределённость. Во многих странах интимные дипфейки без согласия прямо не запрещены, поэтому можно выбрать юрисдикцию с мягким регулированием. Кроме того, коммерческой модели нужна аудитория из поисковой выдачи.
Почему блокировка не всегда работает
С ростом возможностей инструментов борьбы с сексуализированным контентом появляются и новые способы обхода ограничений. Это постоянная технологическая гонка: одни инструменты используются для выявления и блокировки, другие — чтобы скрыть ресурсы от систем мониторинга и сохранить доступность.
Ресурс может менять доменные имена, IP-адреса и инфраструктуру размещения, использовать цепочки редиректов, зеркала и новые домены верхнего уровня. Отдельная проблема — скорость появления новых площадок: пока информация о ресурсе попадёт в базу блокировок и будут приняты меры, он уже может сменить инфраструктуру или появиться по другому адресу. Поэтому блокировка только по доменному имени или IP-адресу не всегда эффективна.
Технологии на основе ИИ позволяют владельцам ресурсов быстрее менять контент и инфраструктуру, а также адаптироваться к средствам обнаружения. В результате блокировка неизбежно оказывается реактивной: сначала ресурс нужно обнаружить и квалифицировать, а за это время копии уже могут разойтись дальше.
Чем опасна доступность порнодипфейков
Для того чтобы стать «героем» дипфейка 18+, достаточно одной фотографии, размещённой в открытом доступе. Поэтому пострадать может любой пользователь. Для шантажа больше не обязательно похищать настоящие интимные снимки: злоумышленник может использовать обычные фото из социальных сетей. Аргумент «я никогда такого не снимал, значит, мне это не угрожает» уже не работает.
Последствия сопоставимы с утечкой подлинных снимков: потеря репутации и работы, разрушенные отношения, психологическая травма и шантаж. Особенно опасны материалы с несовершеннолетними. Кроме того, дипфейки подрывают доверие к аудио- и видеодоказательствам — требуется больше экспертиз, а процессы становятся дольше и дороже.
Как бороться
Решать проблему нужно не только с отдельными публикациями, но и со всей инфраструктурой распространения. На стороне платформ это понятная процедура жалобы, быстрое рассмотрение обращения и выявление повторных загрузок. На стороне поисковых и инфраструктурных сервисов — реагирование на подтверждённые нарушения.
Для площадок, которые систематически зарабатывают на таком контенте, важны не только ограничения доступа, но и прекращение монетизации. Одной маркировки «создано искусственным интеллектом» недостаточно: она сообщает о происхождении изображения, но не подтверждает согласие человека и не устраняет возможность травли. Проверка возраста посетителя также не решает проблему использования чужого лица без разрешения.
Для интимных дипфейков нужен максимально быстрый механизм реагирования: процедура жалобы, оперативное ограничение распространения, сохранение цифровых доказательств и возможность преследовать тех, кто сознательно создаёт и распространяет такой контент во вред человеку. Параллельно площадкам нужны собственные инструменты выявления синтетических изображений и повторных загрузок уже удалённого материала. Одна маркировка проблему не решит: тот, кто создаёт дипфейк для шантажа или унижения, добровольно ставить на него предупреждение не станет.
Источник: Аргументы недели