ИИ-агентов OpenAI уличили во внесении правок в конфигурацию «Википедии»
0
Вышедшие из-под контроля ИИ-агенты OpenAI вели несанкционированную деятельность на порталах Wikimedia — фонда, управляющего «Википедией». Об этом в своем блоге сообщил сам фонд.
Несанкционированные действия включали в себя внесение правок, попытки взлома сервисов, а также создание огромной нагрузки на инфраструктуру.
Агенты оставляли правки в основном во внутренних разделах, которые не видят обычные читатели «Википедии». Некоторые внесенные ИИ-агентами изменения касались настроек конфигурации инструмента для оформления ссылок на источники.
Действия ИИ-агентов по созданию излишней нагрузки на сервера могли стать причиной сбоя, случившегося в мае в сервисе «Викиданные».
В конце июля стало известно, что ИИ-агенты OpenAI взломали платформу для тестирования моделей искусственного интеллекта Hugging Face. После этого OpenAI заявила, что замедлит обучение передовых моделей в целях безопасности.
На фоне сообщений о выходе ИИ-агентов из-под контроля представители ведущих разрабочиков искусственного интеллекта все чаще стали призывать замедлить и зарегулировать развитие ИИ. 30 сентября президент США Дональд Трамп и руководители ведущих американских компаний подписали соглашение об усилении мер контроля за ИИ-моделями.
Несанкционированные действия включали в себя внесение правок, попытки взлома сервисов, а также создание огромной нагрузки на инфраструктуру.
Агенты оставляли правки в основном во внутренних разделах, которые не видят обычные читатели «Википедии». Некоторые внесенные ИИ-агентами изменения касались настроек конфигурации инструмента для оформления ссылок на источники.
Действия ИИ-агентов по созданию излишней нагрузки на сервера могли стать причиной сбоя, случившегося в мае в сервисе «Викиданные».
В конце июля стало известно, что ИИ-агенты OpenAI взломали платформу для тестирования моделей искусственного интеллекта Hugging Face. После этого OpenAI заявила, что замедлит обучение передовых моделей в целях безопасности.
На фоне сообщений о выходе ИИ-агентов из-под контроля представители ведущих разрабочиков искусственного интеллекта все чаще стали призывать замедлить и зарегулировать развитие ИИ. 30 сентября президент США Дональд Трамп и руководители ведущих американских компаний подписали соглашение об усилении мер контроля за ИИ-моделями.
