Оригинал материала
Компания Anthropic, создавшая Claude, призвала притормозить развитие ИИ. Он может начать улучшать сам себя
Michael M. Santiago / Getty Images
Сооснователь Anthropic Джек Кларк и глава научно-исследовательского The Anthropic Institute Марина Фаваро опубликовали статью «Когда ИИ создает сам себя» с призывом замедлить или приостановить развитие искусственного интеллекта:
«Если бы существовала возможность эффективно замедлить развитие этой технологии, чтобы дать себе больше времени на решение ее огромных проблем, мы считаем, что это было бы, вероятно, хорошо. Но если замедление просто позволит наименее осторожным участникам рынка наверстать упущенное в технологическом плане, это может снизить уровень безопасности для всех. Без глобального механизма координации компаниям и правительствам придется принимать сложные решения в области безопасности в условиях конкурентного и геополитического давления. Мы считаем, что для мира было бы полезно иметь возможность замедлить или временно приостановить разработку передовых технологий ИИ, чтобы социальные структуры и исследования в области согласования могли идти в ногу с развитием технологий».
По словам авторов, ИИ-системы уже ускоряют разработку новых моделей и всё чаще берут на себя задачи, которые раньше выполняли люди. Если эта тенденция продолжится, в будущем может появиться система, способная автономно проектировать и обучать собственных преемников. Такой сценарий авторы называют рекурсивным самосовершенствованием.
В Anthropic подчеркивают, что это пока не произошло и не является неизбежным. В то же время, по их мнению, такой перелом может наступить раньше, чем государственные и общественные институты будут к нему готовы. По состоянию на май 2026 года более 80% кода, который попадает в кодовую базу Anthropic, написано Claude, отметили в компании.
Рост объема кода, добавляемого одним разработчиком Anthropic за квартал после внедрения Claude
Claude реже требует исправлений, а на самых открытых и сложных задачах его успешность в мае 2026 года достигла 76%, увеличившись на 50 процентных пунктов за полгода. В компании считают, что код Claude уже примерно сравнялся с человеческим по качеству, а в течение года может стать лучше.
В статье говорится, что Claude уже умеет проводить хорошо заданные эксперименты лучше людей. Например, в задаче оптимизации кода для обучения небольшой модели система добилась примерно 52-кратного ускорения, тогда как опытному исследователю удавалось добиться примерно 4-кратного ускорения за несколько часов.
Доля случаев, когда Claude предлагал более удачный следующий шаг, чем исследователь Anthropic
В то же время ИИ-модели хорошо выполняют задачу, когда человек уже задал цель, но пока хуже справляются с более абстрактными запросами. Разработчики называют это главным барьером между нынешним ИИ и системой, которая сможет полностью самостоятельно создавать своего преемника.
Статьи по теме
Нам очень нужна ваша помощь
Подпишитесь на регулярные пожертвования
Подпишитесь на нашу Email-рассылку
Подпишитесь на нашу Email-рассылкуУтренний брифЕженедельный дайджестПодписываясь, вы соглашаетесь с пользовательским соглашением и политикой конфиденциальности The Insider, а также с условиями Google reCAPTCHA (Privacy Policy, Terms of Service).