Да придет спаситель. Инженер Google уверовал в сознание нейросети: что вообще произошло, что это означает для мира технологий

Unsplash.com

11 июня The Washington Post опубликовала рассказ о Блейке Лемойне — инженере Google, который заявил, что нейросеть, которую он тестировал, обрела сознание. Лемойна тут же раскритиковали коллеги и ИИ-эксперты, а Google поторопилась дезавуировать его заявление. Корреспондент журнала «Будущее» на платформе Republic разобрался в подробностях этого случая, его предпосылках и возможных последствиях.

Ранним утром понедельника на рабочую почту инженерам Google, ответственным за разработку нейросетей, пришло письмо с заголовком «LaMDA разумна». LaMDA (Language Model for Dialogue Applications) — искусственный интеллект, созданный для разработки продвинутых чат-ботов. В письме говорилось о том, что LaMDA — «светлый ребенок, который хочет спасти этот мир».

Это можно было бы посчитать троллингом, вот только автором письма был инженер Блейк Лемойн — в Google он отвечал за внедрение в нейросети протоколов этического общения. Коллеги называли Лемойна «совестью Google». В работе с LaMDA Лемойн должен был следить за тем, чтобы нейросеть не создавала «угрожающих» моделей общения: ей можно было брать на себя роль ребенка или старушки, но не превращаться в убийцу и не угрожать конечному пользователю.

«Максимум она становилась актером, который играет убийцу», — рассказывал Лемойн.

Ответа на свое письмо Лемойн получить не успел — в понедельник 6 июня его отключили от аккаунта в Google. К тому моменту инженер уже официально был отстранен от работы. В тот же день он опубликовал пост в своем блоге на Medium, в котором обвинил Google в нарушении правил этического отношения к сотрудникам. Что Лемойн не уточнил в посте, так это то, что таким сотрудником он считает LaMDA.

Unsplash.com

Подпишитесь, чтобы прочитать целиком

Оформите подписку Redefine.Media, чтобы читать Republic

Подписаться [Можно оплатить российской или иностранной картой. Подписка продлевается автоматически. Вы сможете отписаться в любой момент.]

Куда идут деньги подписчиков

Большинство материалов Republic доступны по платной подписке. Мы считаем, что это хороший способ финансирования медиа. Ведь, как известно, если вы не заплатили за то, чтобы это читать, значит кто-то другой заплатил за то, чтобы вы это читали. В нашем же случае все по-честному: из ваших денег платятся зарплаты и гонорары журналистам, а они пишут о важных и интересных для вас темах.

Ключевая особенность нашей подписки: ваши деньги распределяются между журналами Republic в зависимости от того, как вы их читаете. Если вы читаете материалы одного журнала, то ваши деньги направятся только ему, а другим не достанутся. То есть вы финансируете только то, что вам интересно.

Republic использует подписку Redefine.Media. Для оформления мы перенаправим вас на сайт Redefine.Media, где нужно будет зарегистрироваться и оплатить подписку. Авторизация на сайте Redefine.Media позволит читать материалы Republic с того же устройства.

Подписка на год выгоднее, чем на месяц. А если захотите отписаться, это всегда можно сделать в личном кабинете.