По мере того как генерация изображения по текстовому описанию с помощью нейросети становится все более простой задачей, сообщества с порнографией, сгенерированной искусственным интеллектом (ИИ), набирают популярность на Reddit.
Однако эксперты считают, что эти синтетические фотографии эротического содержания сгенерированы при использовании изображений реальных людей, которые не давали на то согласия.
На Reddit уже давно можно найти немало порнографического контента, однако он размещается лишь при условии согласия запечатленных на нем лиц.
Теперь, когда генерация изображения по текстовому описанию с помощью нейросети набрала обороты, 57 миллионов пользователей вышеуказанного сайта начали постоянно натыкаться на порнографические изображения, созданные ИИ.
Несмотря на то, что данные картинки и не являются настоящими, генерирующие их модели анализируют фотографии реальных людей и порой могут выдавать их точные копии. Часто это происходит без согласия ни в чем не подозревающих людей, сообщают эксперты.
«Фундаментальная проблема сгенерированной искусственным интеллектом порнографии заключается в том, что она создается при помощи, фактически, украденных изображений людей, преимущественно женщин», – рассуждает Ноэль Мартин, юрист-исследователь в лаборатории технологий и политических вопросов при University of Western Australia, которая сама является жертвой дипфейков сексуальной направленности.
На Reddit удалось обнаружить 14 подразделов, посвященных ИИ-порнографии, 10 из которых были созданы в течение последних двух месяцев. На каждый сабреддит подписаны и еженедельно заходят тысячи пользователей.
Одним из самых популярных подразделов с порногорафией, созданной ИИ, является сабреддит Unstable Diffusion, который создан в сентябре 2022 года и на данный момент насчитывает более 54,000 участников. Аудитория аналогичного саббредита составляет около 60,000 пользователей.
На Reddit есть возможность включения «безопасного поиска», который обеспечивает своим пользователям онлайн-опыт без контента 18+. Однако без активации данного переключателя на запрос «AI porn» поиск выдает более двух десятков форумов, на которых размещаются и делятся ИИ-порнографией.
На этих форумах некоторые пользователи оставляют запросы на создание дипфейков с реальными людьми или же продают такие изображения.
Жертва секс-эксплуатации
По мере того, как средства искусственного интеллекта для генерирования картинок из текста становятся все более совершенными, а их творения – более реалистичными, пользователям становится сложнее не только понять, где настоящее изображение, а где – нет, но и определить, какое из них создано при согласии реальной модели.
Так, в Rolling Stone поведали о том, что в начале апреля некоторые пользователи Reddit были обмануты, заплатив $100 за интимные фотографии 19-летней девушки по имени Клаудия, которые, как оказалось, были сгенерированы Stable Diffusion.
Эксперты отмечают, что системы преобразования текста в изображение, подобные тем, которые генерируют ИИ-порнографию, обучаются на миллионах изображений реальных людей, в основном без их ведома или согласия, а также на изображениях, принадлежащих другим организациям. Недавно художники и фотостоки вроде Getty Images подали в суд на ИИ-генераторы изображений из текста, обвиняя их в нарушении авторских прав.
Одна из жертв секс-эксплуатации, которую наряду с другими женщинами принуждали к сексу на камеру, считает, что использование ее фотографий или видео для обучения ИИ-систем является нарушением неприкосновенности ее частной жизни.
Женщина, которая захотела остаться анонимной из-за опасений повторного распространения роликов с ее участием, рассказала, что на Reddit и другие сайты без ее согласия были загружены видео порнографического содержания с ней.
«То, что у некоторых людей на компьютерах сохранены подобные видео, уже является огромным нарушением моих законных прав. Но эти люди также распространяют видео с моим участием в интернете, а затем создают новый контент с моим изображением для его дальнейшего распространения и обучения ИИ-систем. В результате получается, что я никак не могу контролировать или остановить этот процесс», — поясняет она.
Созданное искусственным интеллектом порно также появилось и в других социальных сетях, таких как Twitter и Instagram. Однако наибольшую популярность подобный контент все же набирает именно на Reddit, потому что данная платформа позволяет пользователям сохранять анонимность и публиковать материалы порнографического содержания.
Сам же Reddit является одним из источников данных, которые используются при обучении больших языковых моделей, и теперь объявил о планах взимать плату с компаний, которые получают доступ к его API.
Генеральный директор Reddit Стив Хаффман сказал в недавнем интервью New York Times, что он хочет, чтобы Google, Microsoft и OpenAI заплатили за использование данных и обсуждений на Reddit, которые впоследствии использовались для обучения алгоритмов вышеуказанных платформ.
«Корпус данных у Reddit очень ценный. Но мы не должны отдавать всю эту информацию крупнейшим компаниям в мире бесплатно», – заявил Хаффман.
Недавно вышеуказанный сайт объявил о скором закрытии своего API, открытого с 2008 года, и планах брать с крупных сторонних организаций плату за «премиальный доступ» к данным.
После финансовой поддержки таких тяжеловесов, как Andreessen Horowitz и Sequoia Capital, Reddit теперь оценивается в $10 миллиардов благодаря новому раунду финансирования серии F, в ходе которого в августе 2021 года компании удалось привлечь $700 млн. Согласно имеющейся информации, располагая капиталом в $1.9 млрд, Reddit планирует в 2023 году дебютировать на фондовом рынке.
По оценкам компании Statista, в 2021 году Reddit зафиксировал доход в $470 млн., преимущественно за счет отображения рекламы на сайте и оформления премиальных подписок.
«Такое чувство, что на Reddit люди могут себе позволить многое из того, что недопустимо на других платформах», – высказала свое мнение специалист по исследованию кибер-насилия Софи Мэддокс.
В то время как сам Reddit утверждает, что не отображает рекламу и не монетизирует контент для взрослых на своем сайте, эксперты отмечают, что размещение на сайте контента для взрослых, не важно, искусственного или реального, привлекает все больше новых пользователей на платформу.
«Несомненно, Reddit лишь выигрывает от того, что порнографический контент привлекает новых людей на платформу», – говорит Мэддокс.
Новые пользователи, которые зарегистрировались на Reddit из-за эротического контента, посещают и другие сабреддиты, взаимодействуя с контентом иного содержания, считает профессор социальных сетей и эстетики рекламы из CUNY Queens college Джейми Коэн.
«Reddit фактически отслеживает посещения страниц и сабреддитов, а затем отправляет эти данные рекламодателям, которые открывают им новые пути взаимодействия с потребителями», – объясняет он.
«ИИ-девушки» со всего интернета
В то время как Reddit является крупнейшей социальной медиа-платформой, где в свободном доступе размещена ИИ-порнография, ряд специализированных сайтов активно зарабатывают на подобном контенте.
Большинство ИИ-порногенетараторов типа PornJourney, PornPen, PornJoy и SoulGen взимают плату за премиум-подписку и связаны с теневыми аккаунтами на Discord и Patreon, принадлежащими анонимным пользователям.
На вышеуказанных веб-сайтах представлено множество сгенерированного нейросетью порно с различными вариантами национальностей и типов телосложения и инструкциями по созданию подобного контента – и все это практически без раскрытия информации о том, как именно системы обучались и на каких именно визуальных материалах.
Зато на этих сайтах есть дисклеймер такого содержания: «Все совпадения с реальными людьми случайны. Весь контент сгенерирован ИИ при помощи имеющегося у него графического материала».
Один из таких порно-сайтов PornJourney был создан и запущен в марте 2023 года; пользователи платят по $15 в месяц за контент с «девушками, которые созданы ИИ» и «выглядят как самые настоящие люди», как сказано на сайте.
«Создание реалистичных и детальных моделей с помощью искусственного интеллекта стоит недешево, что вынуждает нас постоянно инвестировать в наши серверы», – говорится в разделе FAQ на сайте.
На сайт PornPen в месяц заходит около 2 млн. человек, а 12,000 из них ежемесячно платят $15 за инструмент, который позволяет им создавать порно при помощи ИИ. Данный генератор эротического контента основан на ИИ-модели от Stable Diffusion и создает изображения определенного характера, используя базу данных под названием LAION, в которой содержится приблизительно 6 млрд. фотографий знаменитостей, моделей, политиков и инфлюенсеров. На веб-сайте некоммерческого проекта отмечается: «Мы рекомендуем пользоваться нашей базой данных в исследовательских целях».
Правозащитница из National Center on Sexual Exploitation (NCOSE) Тори Роузи говорит, что большинство ИИ-генераторов преобразования текста в изображение, таких как Unstable Diffusion и Porn Pen, используют модели с открытым исходным кодом из GitHub или Hugging Face, чтобы сканировать фотографии с порносайтов и страниц в социальных сетях и затем создавать из них контент порнографического содержания.
Удалось обнаружить как минимум 5 репозиториев GitHub для поисковых роботов, которые можно использовать для извлечения изображений и видео с таких сайтов, как PornHub и Xvideos, а также и из социальных сетей, таких как Twitter, Instagram и TikTok.
PornHub и Xvideos никак не прокомментировали данное открытие.
«Unstable Diffusion – условно можно назвать двоюродным братом Stable Diffusion. Итак, Unstable Diffusion взял код у Stable Diffusion, скопировал его и создал собственный репозиторий, куда вошли исключительно порнографические и эротические изображения», – считает Роузи, которая исследует, как создается порнография при помощи ИИ.
По ее словам, чаще всего жертвами дипфейков становятся публичные женщины: знаменитости, политики и журналисты, потому что в интернете огромное количество их фотографий, говорит Роузи.
Серая зона Reddit
В попытке прояснить свое отношение к откровенным материалам Reddit ввел запрет на публикацию несогласованного контента сексуального характера, к которому относятся и дипфейки, созданные ИИ с использованием фотографий реальных людей.
Пресс-секретарь Reddit также отмечает, что на сайте запрещена публикация «сгенерированных ИИ материалов, если они представлены в вводящем в заблуждение контексте». Для того, чтобы бороться с подобным контентом, система задействует комплекс автоматических инструментов и ресурсы внутреннего отдела безопасности. Однако очевидно, что это не помогает избавиться от всех таких материалов на площадке.
«В Reddit существует достаточно размытая граница между тем, что сомнительно с точки зрения морали, и тем, что вовсе запрещено на платформе. Таким образом, порнография, созданная искусственным интеллектом, и попадает в серую зону Reddit», – рассуждает Роузи.
Дипфейки, несогласованный контент сексуального характера и сгенерированное с помощью ИИ порно вместе находятся в одном массиве порнографических изображений, на базе которых искусственный интеллект создает новые творения.
Но важно отметить разницу между двумя понятиями: сгенерированным ИИ-порно и дипфейками. Порнография, сгенерированная с помощью искусственного интеллекта, – контент, на котором запечатлен созданный ИИ человек, в котором нельзя узнать никого конкретного из реальной жизни; сексуальные дипфейки же, это когда лица реальных людей «надеваются» на тела других людей.
Ноэль Мартин, юрист-исследователь в лаборатории технологий и политических вопросов при University of Western Australia, однажды и сама стала жертвой дипфейков: 10 лет назад, задолго до появления сгенерированной ИИ порнографии, некто взял ее селфи и сфабриковал порнографические изображения и видеоролики с ее участием. Мартин считает, что сейчас становится все труднее отличить дипфейки от ИИ-порнографии, учитывая темпы развития технологий.
Никола Хенри вот уже 20 лет изучает сексуальное насилие с применением технологий на основе визуальных материалов в Royal Melbourne Institute of Technology и она утверждает, что на первый взгляд ИИ-порнография может показаться более безобидной, чем дипфейки. Но, если хорошо присмотреться, на некоторых изображениях, сгенерированных ИИ, можно увидеть признаки того, что искусственный интеллект, вероятно, мог обучаться на изображениях с несовершеннолетними.
«На Reddit я видела некоторые изображения, созданные ИИ, и лица на них больше напоминали детские, а не женские. Это достаточно тревожный звонок, ведь будь люди на этих изображениях настоящими, такие фотографии расценивались бы как материалы с порнографическими изображениями несовершеннолетних».
Создатель ИИ-генератора порнографии Unstable Diffusion попытался обойти эту проблему, запретив пользователям создавать контент, содержащий сексуальное насилие над детьми, и пытаясь получать изображения от людей, которые согласны на то, чтобы потом на них обучался ИИ. Последним в качестве благодарности за содействие предлагается ранний доступ и бесплатное членство в системе.
Сейчас сайт заявляет о том, что ему удалось собрать для обучения алгоритма 15 млн. пользовательских фотографий, сделанных «по согласию» изображенных на них лиц.
Мэддокс отмечает, что подобный контент, даже созданный при согласии всех сторон, продвигает нереалистичные стандарты красоты и модель нездоровых сексуальных отношений в массы. Она говорит, что можно заметить, как сгенерированная ИИ эротика на Twitter или Reddit отражает сексуальные стереотипы и расовые предубеждения, которые часто встречаются в подконтрольных государству СМИ.
«Поскольку ИИ обучается на уже существующих изображениях либо текстах, когда вы просите сгенерировать его массу иллюстраций с представителями сексуальных меньшинств, алгоритм часто не справляется с задачей», – говорит Мэддокс.
Она также отмечает, что порно, сгенерированное ИИ на основе материалов с таких сайтов, как PornHub и Xvideos, создает определенные проблемы порноактерам, которые являются правообладателями на свой контент. Мэддокс поясняет, что актеры фильмов для взрослых и платформы, на которых размещаются их работы, зарабатывают деньги на подписках и рекламе в своих видео. Однако, никто не платит актерам за заимствование их материалов для создания искусственного порно.
Авторы и платформы, которые понесли финансовые потери из-за контента, созданного ИИ, подают в суд против таких сервисов, как Stable Diffusion. Порноиндустрия может последовать их примеру, считает Мэддокс.
Так исторически сложилось, что до появления ИИ-порнографии на Reddit можно было найти и обыкновенный контент эротического содержания. И вот, спустя годы после того, как такие скандальные сабреддиты, как r/jailbait и r/creepshots, были устранены с платформы, порнографический контент на закрытых форумах по-прежнему имеет место быть.
«Мне кажется, что на Reddit дозволено то, что запрещено на других платформах. Пользователи здесь находятся будто вне поля зрения», – подытожила Мэддокс.
Подписывайтесь на наш Telegram-канал, чтобы всегда оставаться в курсе событий.
