На сайте компании Anthropic, разрабатывающей ИИ-модель Claude, опубликована статья с призывом замедлить или приостановить развитие ИИ. Один из ее авторов — сооснователь Anthropic Джек Кларк.
В статье говорится, что системы ИИ приблизились к этапу рекурсивного самосовершенствования — способности развиваться без участия человека. Как будет выглядеть мир, где ИИ сможет улучшать себя сам, в Anthropic не знают.
Статья призывает лидеров в области ИИ затормозить развитие технологии, чтобы дать обществу время для адаптации. Однако оговаривается, что для этого необходима глобальная система контроля, которая позволит избежать риска скрытого обучения новых моделей.
В мире уже создавали режимы верификации для других сложных технологий — например, Договор о ликвидации ракет средней и меньшей дальности. Но на создание таких режимов — как инфраструктуры, так и доверия — уходили десятилетия. У нас нет столько времени.
Anthropic была создана пять лет назад командой выходцев из OpenAI во главе с Дарио Амодеи. В 2026 году Anthropic достигла успеха со своими инструментами для программирования Claude Code. Оценка компании превысила оценку ее конкурента OpenAI (создателя ChatGPT) и достигла 965 миллиардов долларов. 1 июня Anthropic анонсировала скорый выход на биржу.