Привет Гибсону: когда рефлексия важнее технореволюции

Фантастический фильм «Она» о любви героя к операционной системе получил «Оскар» за лучший оригинальный сценарий. После прочтения этой статьи вам захочется его посмотреть или пересмотреть. Просто потому что в ней мы постараемся по-новому взглянуть на машины и наши с ними взаимоотношения. Итак, где же момент, после которого между нами станет «все сложно»?

Что такое технологическая сингулярность?

Сам термин ввел в научный оборот американский писатель-фантаст, профессор математики Вернор Виндж (Vernor Vinge). На симпозиуме VISION-21, который проводился в 1993 году Центром космических исследований NASA им. Льюиса и Аэрокосмическим институтом Огайо, он рассказал о цепной реакции развития технологий. Объединив богатое воображение и впечатляющую доказательную базу, он описал «изменения, сравнимые с появлением на Земле человека».

Компьютеры обретут «сознание», и возникнет сверхчеловеческий интеллект… Крупные компьютерные сети (и их объединенные пользователи) смогут «осознать себя» как сверхчеловечески разумные сущности. Машинно-человеческий интерфейс станет настолько тесным, что интеллект пользователей можно будет обоснованно считать сверхчеловеческим. Биология сможет обеспечить нас средствами улучшения естественного человеческого интеллекта… Неуправляемая цепная реакция начнет развиваться по экспоненте безо всякой надежды на восстановление контроля над ситуацией. Вернор Виндж

По мнению писателя, это «аннулирует за ненадобностью весь свод человеческих законов». Столь радикальные выводы не плод воображения. Математик Джон фон Нейман (John von Neuman) в 1950-х годах говорил о точке, за которой экстраполяция (упрощенно: прогнозирование событий, учитывающее анализ прошлых показателей) начинает давать бессмысленные результаты. А в 1990 году известный футурист, технолог и будущий технический директор Google Рэй Курцвейл (Raymond Kurzweil) опубликовал свою первую книгу по футурологии «Эпоха мыслящих машин», в которой не только говорил о сингулярности, но и предсказывал крах Советского Союза.

Новые технологии – такие как сотовые телефоны и факсы – ослабляют авторитарные правительства, считал ученый. Кроме того, анализируя производительность шахматного программного обеспечения, Рэй Курцвейл предрекал победу компьютеров над человеком к 2000 году. Как известно, в 1997 году Deep Blue от IBM выиграл турнир у Гарри Каспарова. Вот еще некоторые прогнозы футуриста (а помимо этого, он был создателем планшетных сканеров и систем преобразования текста в речь).

• 2019-й – провода и кабели для персональных и периферийных устройств уйдут в прошлое (у вас уже есть беспроводные наушники?).
• 2020-й – персональные компьютеры достигли вычислительной мощности, сравнимой с человеческим мозгом.
• 2024-й – людям запрещено садиться за руль машины, не оборудованной компьютерным помощником.
• 2030-е годы – распространены гаджеты-импланты и персональные роботы, компьютер проходит тест Тьюринга.
• 2040-е годы – эра «новых Франкенштейнов»: человеческое тело сможет принимать любую форму благодаря нанороботам.
• 2050-е годы – технологическая сингулярность: Земля превращается в один гигантский компьютер.

Точки невозврата, в которых мы уже были

Как видите, одна из главных предпосылок к «точке невозврата» – ускорение темпов биологической и общественной эволюции. О нем писали еще К. Маркс и Ф. Энгельс в «Диалектике природы»: «По отношению ко всей истории развития организмов надо принять закон ускорения пропорционально квадрату расстояния во времени от исходного пункта».

На схеме изображены основные этапы развития общества. Они все нам знакомы из курса истории средней школы. Стоит напомнить, пожалуй, только про городскую революцию (это хозяйственная и культурная перестройка древних обществ, приведшая к появлению первых городов) и осевое время (момент, когда на смену мифологическому мировоззрению пришло рациональное, философское).

Биологическую и общественную эволюцию подкрепляет ускорение экономического развития и интеграции. Все более тесные международные отношения приводят к глобализации. Ее «дитя» – «единый общепланетарный экономический организм с универсальной системой регулирования», как сформулировал Вернор Виндж. Этот организм обладает невероятным потенциалом роста, в том числе за счет ускорения роста населения Земли.

Если вы сомневаетесь в том, что количество жителей нашей планеты влияет на момент сингулярности (справедливости ради: чем больше людей, тем больше ресурсов необходимо), почитайте труды российского ученого С.П. Капицы. Он доказывает простой тезис: «скорость развития человеческой цивилизации прямо пропорциональна количеству ее жителей». Однако при увеличении численности людей интеллект у каждого индивида замедляет развитие с возрастом.

На схеме показано развитие интеллекта: по экспоненте – до 8-10 лет, далее стабилизация – до 20-22 лет, затем ровный участок с небольшим спадом после 40 и ускоренное замедление. Если представить нашу цивилизацию как отдельного человека, то мы сейчас в точке «8-10 лет». До 60 еще далеко, но спад неизбежен, если нашими «конкурентами» в этом периоде окажутся умные машины, их превосходство будет очевидно.

При этом самым логичным кажется вариант, когда искусственный интеллект закономерно появляется в результате эволюции общественных организмов, а не в результате деятельности человека. Это можно сравнить с появлением мозга у живых организмов. Биологи не только доказали, что этот орган появился в ходе эволюции, но и нашли «мозговой» ген: Anf/Hesx1.

Дальнейший прогресс при остановке роста населения и замедлении развития интеллекта потребует новых биотехнологий. Они опять же приводят нас к электронному аналогу мозга человека: научный контекст упоминает е-личность.

Еще по теме: Три неудобных вопроса о киберэтике

«В каком-то смысле с каждым новым технологическим витком человечество проходит точку невозврата: обычно в пример приводят паровые машины или телеграф, которых нет и к которым вряд ли предстоит вернуться. Наше текущее невозвратное мы сможем по достоинству оценить только лет через 50, потому что сейчас мы не успеваем замечать, что из разработок действительно важно, а что канет в лету за ненадобностью», – считает Лилия Земнухова, социолог, научный сотрудник Социологического института РАН и Центра исследований науки и технологий Европейского университета в Санкт-Петербурге.

По ее мнению, «невозвращение» оценивается по масштабам социальных эффектов: как эволюционируют представления о морали и нравственности. Стремясь к технологической сингулярности, разработчики сталкиваются с реальностью, где актуальны куда более сложные и прагматичные вопросы.

Пока футурологи с удовольствием описывают дивный новый мир, будущее продолжает распределяться крайне неравномерно (привет Гибсону!), так что нас всегда будет преследовать риск остаться в полном одиночестве с какой-нибудь разряженной нейросетью в ночной пустыне. Гораздо важнее сингулярности становится воспитание критического мышления и рефлексивного отношения к своим действиям, и в первую очередь это касается разработчиков. Лилия Земнухова

Заслужили киберпанк: награда или наказание?

Суть сингулярности в слияния биологического мышления человека и симбиозе с высокими технологиями. Границы между человеком и машиной практически не осязаемы, физическое и виртуальное пространство сливается.

«После наступления сингулярности разум, освобожденный от своих биологических и технологических корней, начнет пронизывать материю и энергию в самой их сущности. Соединенный разум достигнет этого, реорганизуя материю и энергию в поисках оптимального равновесия, которое требуется, чтобы выйти за пределы Земли». Рэй Курцвейл

Звучит утопично, неудивительно, что многие ученые выступают с критикой идей Курцвейла. В своем отзыве на книгу футуролога журналист Натан Пенски пишет: «Трудно сказать, что Земля превратится в пульсирующий шар чистого разума». Он ссылается на исследования философа и психолога Колина Макгинна, который в свою очередь указал на ошибку Курцвейла по названием PRTM, или «Распознавание образов разума». Другими словами, нельзя сводить все множество различных когнитивных процессов человеческого мозга лишь к процессу распознавания образов. Сама идея смешения биологической эволюции с социальной и технической кажется ученым нереалистичной.

Иван Ниненко, член экспертного совета Future Foundations, считает технологическую сингулярность культурной верой в новое пришествие. Это вера в утопию, которая каким-то образом изменит реальность. Таких моментов, по мнению эксперта, было много: индустриальное общество очень не похоже на аграрное. Он приводит простой пример: попробуйте объяснить человеку из аграрного общества, что такое цифровые деньги. В магазине вы проводите своим телефоном по терминалу и получаете хлеб – как это перевести на язык примитивных технологий? «Скачок технологий уже был, будет следующий. И он может казаться абсолютно абсурдным», – считает специалист.

Наше непонимание того, как устроено сознание, с каждым днем отдаляет нас от создания сильного искусственного интеллекта. Мы создадим кучу всяких прикольных систем автоматизации и систем, принимающих самостоятельные решения. У нас будут беспилотные машины и дроны, убивающие людей, что, в общем, достаточно страшно. Но это не конец света. Конец света более вероятен в случае атомной войны, но это ситуация, с которой мы живем с 1945 года. Иван Ниненко

База знаний