В понедельник министр по вопросам искусственного интеллекта и цифровых инноваций Канады Эван Соломон заявил, что вызвал руководящий состав OpenAI для обсуждения «протоколов безопасности» после того, как технологическая компания решила не сообщать о канадском пользователе ChatGPT, который, по данным полиции, впоследствии застрелил восемь человек в школе.

Соломон сообщил, что во вторник встретится в Оттаве с руководством службы безопасности OpenAI после телефонного разговора с ними в воскресенье.

«Мы проведём личную встречу, чтобы получить объяснение их протоколов безопасности, а также того, в каких случаях они передают информацию и каковы их пороги эскалации ситуации для обращения в полицию, чтобы мы лучше понимали, что происходит и как они действуют», — сказал Соломон журналистам.

OpenAI заблокировала аккаунт Джесси Ван Рутселаар за семь месяцев до того, как, по данным полиции, 18-летняя подозреваемая убила восемь человек, включая пятерых детей, в Тамблер-Ридж, Британская Колумбия, 10 февраля.

The Wall Street Journal первой сообщила, что аккаунт Ван Рутселаар в ChatGPT был внутренне отмечен как подозрительный после того, как некоторые сотрудники сочли её тексты «признаком потенциального насилия в реальном мире» и призвали руководство компании уведомить канадскую полицию.

Представитель OpenAI сообщил The Wall Street Journal, что на момент блокировки активность аккаунта Ван Рутселаар не соответствовала критериям компании для уведомления властей. По её словам, компания связалась с полицией после того, как узнала о стрельбе.

«Эти сообщения были глубоко тревожными — сообщения о том, что OpenAI своевременно не связалась с правоохранительными органами», — заявил Соломон.

Представитель OpenAI в заявлении для POLITICO в понедельник назвал произошедшее «разрушительной трагедией» и сообщил, что компания «делает всё возможное для поддержки продолжающегося расследования».

«Мы связались с правоохранительными органами сразу после того, как личность стрелка была обнародована, и взаимодействуем с RCMP в рамках их работы», — заявил представитель. — «Кроме того, старшие руководители нашей команды направляются в Оттаву для личной встречи с представителями правительства, чтобы обсудить наш общий подход к безопасности, существующие меры защиты и то, как мы постоянно работаем над их усилением».

Министр юстиции Канады Шон Фрейзер, министр общественной безопасности Гэри Анаджасабаги и министр культуры Марк Миллер также участвуют в расследовании.

Соломон отказался уточнить, насколько далеко канадское правительство готово зайти в регулировании чат-ботов на основе ИИ и повлияет ли этот инцидент на стратегию по борьбе с онлайн-угрозами.

«Я не буду делать преждевременных выводов. В детали этого дела я, очевидно, не могу вдаваться, но скажу следующее: мы гарантируем, что рассматриваем все варианты, чтобы обеспечить безопасность канадцев», — заявил Соломон.

Либеральное правительство Канады обещает законопроект по борьбе с онлайн-вредом уже пять лет, однако сталкивается с трудностями в поиске баланса между защитой детей в интернете и сохранением свободы слова. Две версии законопроекта не смогли пройти через парламент во время пребывания Джастина Трюдо на посту премьер-министра.

Подписывайтесь на наш Telegram-канал, чтобы всегда оставаться в курсе событий.