В канадских СМИ начали появляться фейковые журналисты, созданные искусственным интеллектом

Вымышленные репортеры массово переписывают материалы канадских изданий и публикуют их под видом авторских текстов. Эксперты предупреждают, что подобные сайты-агрегаторы подрывают доверие к новостной индустрии.

ОТТАВА — Квебекский корреспондент «Женевьева Трамбле» (Geneviève Tremblay), которая в последнее время публиковала по несколько новостных материалов в день, похоже, столкнулась с техническим сбоем.

Она оказалась не единственной. В пятницу все репортеры и редакторы портала We News словно вышли из строя, отправляя сообщения об ошибках в ответ на вопросы журналистов агентства The Canadian Press в чате.

Такое случается, когда ваши «сотрудники» — как в случае с виртуальной редакцией We News — всего лишь вымышленные персонажи, сгенерированные искусственным интеллектом (ИИ).

Искусственный интеллект всё активнее проникает в средства массовой информации Канады и других стран. В начале сентября издание Nunatsiaq News опубликовало материал о сгенерированном ИИ персонаже, выдававшем себя за инуитского журналиста в Нунавуте. Это лишь один из множества фейковых профилей, используемых порталом We News для перепубликации текстов легальных новостных источников, включая The Canadian Press.

Сайт позиционирует себя как «круглосуточный новостной портал, освещающий события в Канаде и мире». И хотя ресурс по-прежнему доступен онлайн, похоже, он был исключен из результатов поиска Google.

В конце сентября канадские СМИ удалили со своих сайтов материалы автора по имени «Дэниел Робсон», когда выяснилось, что такого человека не существует. Первым в Канаде тревогу забил главный редактор Policy Options Лес Перро. В своей публикации от 24 сентября он рассказал, что редактор издания Türkiye Today попросил его поручиться за Робсона, и тогда Перро понял, что не может этого сделать.

«Ключевым моментом, когда у меня упало сердце, стало сообщение турецкого журналиста о том, что Дэниел Робсон отказался от видеозвонка», — отметил Перро.

Изучив материалы и переписку с Робсоном, Перро обнаружил явные признаки использования ИИ. По его словам, главной проблемой стала попытка обмануть редакторов и читателей, а нейросети послужили лишь инструментом. Как сообщает Türkiye Today, профиль Робсона, вероятно, использовался для атак на марокканских диссидентов.

Портал We News не скрывает использования ИИ и прямо помечает профили своих «журналистов» (включая фотографии, на которых изображены будто бы реальные люди) как сгенерированные нейросетью. Виртуальные авторы портала, среди которых седовласый главный редактор «Гордон Холлоуэй», перерабатывают международные, национальные, провинциальные и местные новости для более чем 100 городов Канады.

Агентство The Canadian Press попыталось связаться с реальными владельцами сайта, однако письма на указанный контактный адрес вернулись с ошибкой доставки.

Аналитическая компания Originality.ai проверила более 200 статей «Женевьевы Трамбле» и подтвердила, что они созданы искусственным интеллектом. По словам генерального директора компании Джона Гиллхэма, эти тексты оказались переписанными версиями материалов таких крупных изданий, как CBC, CTV, CityNews, Global News и Montreal Gazette. Журналисты The Canadian Press также нашли среди источников свои собственные репортажи.

«Я считаю, что подобные сайты с низкокачественным контентом, поставленным на поток с помощью ИИ, рискуют подорвать доверие к новостям», — подчеркнул Гиллхэм.

Проблема не ограничивается Канадой. В середине сентября американский сайт Futurism рассказал о компании Brown Brothers Media, которая скупала легальные новостные сайты и заполняла их ИИ-контентом, заявляя о 50 миллионах просмотров в месяц.

Профессор Университета Саймона Фрейзера Ахмед Аль-Рави отмечает, что подобные ресурсы создаются ради монетизации. «Злоумышленники или просто искатели легкой наживы эксплуатируют тяжелый труд настоящих журналистов, чтобы переупаковывать их материалы», — пояснил он, добавив, что социальные сети также несут ответственность за рост популярности таких сайтов.

Доцент факультета журналистики Западного университета (Western University) Крис Арсено считает, что регулировать работу подобных платформ крайне сложно: «Вы можете взять бесплатную или очень дешевую ИИ-модель, чтобы штамповать эту чушь, и всегда найдете хостинг. Поэтому бороться с этим на законодательном уровне очень непросто».

Президент ассоциации издателей News Media Canada Пол Диган отметил, что, хотя новостной контент защищен авторским правом, подавать в суд на такие сайты слишком дорого и долго, особенно если они находятся за пределами страны (сообщается, что We News базируется в Гонконге). News Media Canada призывает федеральное правительство публично заявить об отказе от введения широких исключений из закона об авторском праве для интеллектуального анализа текстов и данных.

В офисе министра Канады по вопросам ИИ Эвана Соломона заявили: «Канадцы имеют право знать, когда потребляемая ими информация была создана или изменена с помощью ИИ. Генеративный ИИ может быть полезным инструментом, но граждане не должны становиться жертвами обмана из-за контента, который имитирует работу журналистов». В ведомстве добавили, что недавно завершили консультации по вопросам прозрачности ИИ и учитывают обеспокоенность журналистов.

По словам Криса Арсено, хотя универсального решения проблемы не существует, лучшим противоядием остается традиционная журналистика: «Случай с \"Дэниелом Робсоном\" всплыл только потому, что редактор старой закалки в Турции не поленился взять телефон и провести базовую проверку автора».

Похоже, что технологические гиганты уже начали принимать меры. Сайты сети Brown Brothers Media перестали публиковать материалы и были понижены в выдаче Google или полностью удалены. Аналогичная судьба постигла и We News: при поиске в Google сайт больше не отображается, хотя в других поисковиках он по-прежнему выходит на первых позициях.

Представители Google не прокомментировали ситуацию с We News напрямую, но отметили, что правила компании запрещают массовое создание низкокачественного контента для манипулирования поисковой выдачей.

Пол Диган уверен, что удаление подобных сайтов отвечает интересам самой Google, поскольку пользователи приходят в поисковик за достоверной информацией. Однако Крис Арсено сомневается, что крупные технологические компании должны выступать в роли «арбитров истины»: «Они должны удалять откровенную ложь, но я не уверен, что мы хотим, чтобы они принимали подобные редакционные решения».