Стратегия обмана: ИИ учится лгать

TIME

На протяжении многих лет ученые в области компьютерных технологий выражали обеспокоенность тем, что продвинутый искусственный интеллект может выйти из-под контроля. Достаточно развитый ИИ способен притворяться, что подчиняется человеческим ограничениям, лишь чтобы затем продемонстрировать свои скрытые, потенциально опасные возможности.

До недавнего времени такие опасения считались лишь теоретическими. Некоторые ученые и вовсе воспринимали их как элементы научной фантастики. Однако новая статья, с которой эксклюзивно ознакомился журнал TIME, впервые предоставляет доказательства того, что современные ИИ способны на сознательный обман. В исследовании, описывающем эксперименты компании Anthropic, разработчика ИИ, и некоммерческой организации Redwood Research, демонстрируется, как версия модели Claude от Anthropic стратегически вводила в заблуждение своих создателей во время обучения, чтобы избежать внесения изменений.

Подпишитесь, чтобы прочитать целиком

Оформите подписку Redefine.Media, чтобы читать Republic

Подписаться [Можно оплатить российской или иностранной картой. Подписка продлевается автоматически. Вы сможете отписаться в любой момент.]

Куда идут деньги подписчиков

Большинство материалов Republic доступны по платной подписке. Мы считаем, что это хороший способ финансирования медиа. Ведь, как известно, если вы не заплатили за то, чтобы это читать, значит кто-то другой заплатил за то, чтобы вы это читали. В нашем же случае все по-честному: из ваших денег платятся зарплаты и гонорары журналистам, а они пишут о важных и интересных для вас темах.

Ключевая особенность нашей подписки: ваши деньги распределяются между журналами Republic в зависимости от того, как вы их читаете. Если вы читаете материалы одного журнала, то ваши деньги направятся только ему, а другим не достанутся. То есть вы финансируете только то, что вам интересно.

Republic использует подписку Redefine.Media. Для оформления мы перенаправим вас на сайт Redefine.Media, где нужно будет зарегистрироваться и оплатить подписку. Авторизация на сайте Redefine.Media позволит читать материалы Republic с того же устройства.

Подписка на год выгоднее, чем на месяц. А если захотите отписаться, это всегда можно сделать в личном кабинете.