Компания OpenAI, чей чат-бот стал площадкой для тревожной переписки со стрелком из Тамблер-Ридж (Tumbler Ridge, Британская Колумбия) минувшим летом, сообщила о внесённых изменениях в систему модерации контента. По словам представителей компании, теперь подобные материалы будут автоматически передаваться в правоохранительные органы.

В письме, опубликованном в четверг и адресованном федеральному министру по вопросам искусственного интеллекта Эван Соломон, компания пообещала немедленные шаги, которые должны «помочь предотвратить подобные трагедии в будущем».

Министр встретился с представителями OpenAI после того, как стало известно, что компания заблокировала аккаунт стрелка ещё в июне 2025 года из-за сообщений о насилии с применением оружия, но не уведомила об этом Royal Canadian Mounted Police (RCMP). Полиция получила информацию лишь после того, как 10 февраля 18-летний подросток застрелил восемь человек — шесть из них в местной средней школе — а затем покончил с собой.

Новые правила передачи информации полиции

По словам вице-президента OpenAI по глобальной политике Энн О’Лири, компания уже начала пересматривать свои процедуры несколько месяцев назад. Теперь подобные переписки в ChatGPT могут быть переданы правоохранительным органам.

Она сообщила, что к оценке сложных случаев теперь привлекаются специалисты по психическому здоровью и поведенческому анализу, а критерии передачи информации полиции стали более гибкими.

«Пользователь может не обсуждать в чате конкретную цель, средства или время планируемого акта насилия, но при этом может существовать вероятность угрозы. С учётом полученного опыта, если бы заблокированный в июне 2025 года аккаунт был обнаружен сегодня, мы бы передали информацию о нём правоохранительным органам», — говорится в письме.

О’Лири добавила, что компания готова продолжать сотрудничество с канадским правительством и экспертами для дальнейшего совершенствования правил передачи информации полиции, включая методы оценки срочности и достоверности угроз.

Она также сообщила, что стрелок после блокировки создал второй аккаунт.

«После того как имя нападавшего из Тамблер-Ридж стало публичным, мы обнаружили, что у пользователя был второй аккаунт ChatGPT. Мы передали информацию о нём правоохранительным органам», — отметила О’Лири.

Пресс-секретарь министра Соломона София Оуслис заявила, что федеральное правительство изучает предложения компании.

«Мы внимательно рассматриваем письмо OpenAI и сделаем дополнительные заявления в ближайшие дни», — говорится в письменном комментарии.

Премьер провинции Дэвид Эби заявил, что обещаний компании по саморегулированию недостаточно.

«Они не выполнили свою обязанность передать информацию в органы. Последствия этого жители Тамблер-Ридж и семьи погибших будут ощущать всю жизнь», — сказал он журналистам в Виктории.

По его словам, ситуация показывает, что технологическим компаниям нельзя позволять самостоятельно определять порог для передачи информации правоохранительным органам, особенно если за несоблюдение этих правил нет серьёзных последствий.

После публикации переписок стрелка с ChatGPT возникли вопросы о том, могли ли полиция или службы психического здоровья предотвратить трагедию. Известно, что подросток ранее проходил психиатрическое лечение и затем вернулся домой в Тамблер-Ридж. В доме находилось оружие, которое ранее изымалось полицией, но затем было возвращено.

Заместитель директора Centre for Media, Technology and Democracy Хелен Хейз считает, что письмо OpenAI указывает на системный сбой, а не на единичную ошибку.

«Компания признаёт, что заблокировала аккаунт нападавшего в июне 2025 года и тогда не передала информацию полиции. Теперь она говорит, что по новым правилам сделала бы это. Это серьёзное признание, представленное как прогресс», — сказала она.

Подписывайтесь на наш Telegram-канал, чтобы всегда оставаться в курсе событий.