The Economist — о «религиозном» расколе в стане ИИ-разработчиков

Профессор международных отношений Университета Джона Хопкинса Генри Фаррел пишет в The Economist о теоретической и исторической сути раскола, который охватил сообщество ИИ-разработчиков:

«Два столетия назад Анри Сен-Симон, французский мыслитель-утопист, предложил создать новую религию, заключающуюся в поклонении богоподобной силе прогресса, где роль главного святого будет принадлежать Исааку Ньютону. Сен-Симон считал, что единственный интерес, объединяющий человечество, «прогресс наук», должен направляться «его избранными представителями» — «Советом Ньютона», в состав которого войдет 21 человек. Известный экономист XX века Фридрих Хайек чуть позже увлекательно описал, как эта нелепая «религия инженеров» превратилась в сборище враждующих сект.

Сегодня инженеры, работающие в области искусственного интеллекта (ИИ), переживают свой собственный религиозный раскол. Одна из сект обожествляет прогресс, почитая как святого уже Хайека. Другая охвачена ужасом, который вселяет божественное могущество этой силы. Практические вопросы в их схватке вытеснены на обочину дискуссии.

Два культа представляют побочные продукты развития научной фантастики. В 1993 году Вернор Виндж, вдохновившись развитием компьютерных наук и книгами своих коллег-писателей, начал утверждать, что история человечества в той форме, к которой мы привыкли, подходит к концу. Мы совершенно точно создадим сверхчеловеческий разум — примерно через 30 лет — который приведет к установлению Сингулярности, где ИИ перейдет к автономному существованию, избавившись от зависимости от людей. Будущее может быть как прекрасным, так и ужасным, и это зависит от того, смогут ли машины усовершенствовать человеческие возможности и интеллект или же они просто его заменят собой».