Принцип молотка

Новость о смерти «отца искусственного интеллекта» Марвина Мински застала меня за написанием текста о том, почему детям запрещают показывать пальцем — и почему на самом деле показывать пальцем можно и даже нужно. Верите или нет, но я как раз раздумывал, упомянуть ли в том тексте идеи Марвина Мински или это будет уже перебор для книги, которая должна быть понятна обычным родителям, а не профессорам когнитивных наук.

Ладно, давайте начнем с простого. Простые афоризмы почти всегда лживы, но есть области человеческой деятельности, которые отлично описываются такими афоризмами — именно потому, что в этих областях очень много искусственного, упрощенного и лживого. Например, вся история когнитивных наук отлично описывается английской поговоркой: «Если у вас есть молоток, все проблемы будут казаться вам гвоздями».

Хотя нет, погодите. Если я говорю «история», значит, надо учитывать великие заслуги предыдущих поколений! Поэтому главный принцип науки об интеллекте лучше сформулировать так: «Даже если у вас есть микроскоп, все равно все проблемы будут казаться вам гвоздями — потому что предыдущие сто лет у вас был молоток».

Иначе говоря, наши представления о работе собственного мозга очень сильно зависят от модных технологий прошлого поколения. Помните средневековое понятие «Бог-Часовщик»? Чисто техническая метафора надолго определила механистические представления даже в тех науках, которые мы называем гуманитарными.

Написанная в 1966 году шуточная программа в 200 строк имитировала психиатра, который просто повторяет фразы собеседника в форме вопросов.

В XX веке основной моделью интеллекта стала более продвинутая, «книжно-компьютерная» модель. Вы наверняка встречали ее под разными другими, красивыми и научными, названиями. Но давайте начистоту: эта модель представляла интеллект как Word-процессор, производящий символьные операции с абстрактными понятиями и категориями. Что будет главным принципом познания в такой модели? Разучивание новых абстрактных понятий, конечно же!

Вменяемым ученым такая религия, разумеется, не нравилась. Биологи и медики уже в середине XX века знали кое-что об устройстве мозга — там не нашлось никаких признаков «символьного процессора». Зато нашлись нейронные сети, работающие по совершенно иным принципам.

Противоречие достигло особого накала в разработках искусственного интеллекта (AI) — это ведь была боевая проверка когнитивных теорий (боевая в том смысле, что можно было пилить огромные гранты DARPA). В конце 50-х наметилось нешуточное противостояние двух подходов. «Нисходящий» AI — это как раз идея описать весь мир «сверху вниз», в виде абстрактных понятий и грамматик, чтобы машина могла делать «разумные» выводы. А «восходящий» подход, то есть «снизу вверх», — это попытки смоделировать мозг так, как он работает на физическом уровне. Перцептроны, нейронные сети, клеточные автоматы, генетические алгоритмы и другие странные модели, которые у «нисходящих» вызывали лишь усмешки. «Если по весне вам захотелось обзавестись возлюбленной, не стоит брать амебу и ждать, пока она эволюционирует», — говорил один из пионеров кибернетики Уоррен Маккаллох.

В то же время публика восхищалась банальными диалоговыми ботами типа «Элизы» Джо Вайзенбаума: написанная в 1966 году шуточная программа в 200 строк имитировала психиатра, который просто повторяет фразы собеседника в форме вопросов. Шутку приняли всерьез тысячи людей. Это и есть искусственный интеллект, решили они; надо только собрать побольше понятий да поточнее расписать грамматики.

Где в этой войне Марвин Мински? В том-то и драма, что он был с обеих сторон. С одной — как создатель первой самообучающейся нейронной сети SNARC (1951) и автор самой теории нейронных сетей (1954). Однако спустя десять лет его взгляды меняются: он пишет работы о семантической обработке информации и одновременно с этим в книге «Персептроны» (1969) критикует «восходящий» подход, показывая ограничения параллельных вычислений.

В итоге «нисходящие» побеждают: термин «искусственный интеллект» еще много лет будет означать последовательные символьные вычисления в попытках смоделировать человеческую логику и естественные языки. Самым модным критерием «интеллекта» становится тест Тьюринга (который объявлен несостоятельным даже в той самой работе Тьюринга, где он впервые описан).

Сложно сказать, что повлияло на Марвина Мински и заставило его перейти на другую сторону баррикады. Подозреваю, что для него, как для ученого с широкими взглядами, вообще не было никакой баррикады. А были просто разные подходы к одной общей проблеме. Позже Мински не раз извинялся за то, что его публикация, посвященная ограничениям лишь одной модели перцептронов, испортила репутацию всему подходу «снизу вверх».

«Если по весне вам захотелось обзавестись возлюбленной, не стоит брать амебу и ждать, пока она эволюционирует».

Такое раздвоение, кстати, происходило не только с ним. До сих пор в профессиональной литературе (буквально сегодня видел) встречается дурацкий термин «нефоннеймановская архитектура» в применении к системам параллельных вычислений. Хотя именно Джон фон Нейман был первым, кто построил самовоспроизводящуюся машину на основе клеточного автомата. Уж куда параллельнее! Другой большой любитель клеточных автоматов, Стивен Вольфрам, сейчас более известен как создатель справочной системы Wolfram Alpha.

В общем, альтернативные концепции были. Но они не были приняты обществом, поскольку не укладывались... хочется сказать «в головах», но нет. В головах-то нейросети работают отлично. А не укладывалось оно в книжно-компьютерную модель интеллекта, которая отражала модную технологию своего времени. Классические последовательные компьютеры уже были поставлены на поток, они делали полезные подсчеты в науке и промышленности, они быстро уменьшались и дешевели, готовые войти в каждый дом. Молоток в руках кажется надежнее, чем синица в небе. Почему бы не решить все проблемы этим привычным молотком? Не получается? Купите молоток помощнее. Купите пятьсот молотков.

Увы, не получилось. В конце XX века большинство разработок по «нисходящему» направлению AI были свернуты после того, как они потратили впустую свои многомиллионные гранты. Попытки продать говорящих ботов в интернете происходят и сейчас, но ботостроители быстро разоряются — кроме тех единиц, что сели на хвост динозавра, готового разоряться за них (как в случае забавной, но бесполезной игрушки Siri). В 2006 году окончательно покаялся и Марвин Мински, выпустив книгу «The Emotion Machine», в которой разгромил книжно-компьютерные модели сознания.

Тем временем «восходящий» AI с его нейронными сетями и байесовским анализом постепенно набрал силу в самых разных областях. Даже поисковые системы, молившиеся на Семантическую Сеть и всякие чудо-алгоритмы пейдж-рангов, потихоньку переходят на самообучающиеся сети (MatrixNet в «Яндексе»). Да и в тестах Тьюринга для говорящих ботов стали побеждать системы типа Alicebot, которые не занимаются «разбором грамматик», а самообучаются на большом количестве «образов» правильных ответов.

Но это не значит, что символьный AI проиграл. Он продолжает развиваться в тех особых средах, где ему (а вовсе не человеку!) живется лучше всего. В специальных символьных мирах. Таковы боты высокочастотного трейдинга и боты для сетевых атак. Это ровно те места, где сейчас рождается Терминатор. Только он совсем не похож на милого старичка Арнольда. Он убивает совсем другими способами.

И тут я наконец могу рассказать, как это все относится к детям. Надо лишь добавить одну связочку в виде цитаты Филипа Дика: «Фальшивые реальности могут порождать фальшивых людей».

Многие считают, что «показывать пальцем» неприлично; они умудряются внушить это суеверие даже маленьким детям. А родителям в некоторых современных пособиях даже советуют отворачиваться от ребенка, когда он на что-нибудь показывает, — и требовать, чтобы он словами называл свои цели. Якобы от такого обращения у детей быстрее развивается речь и интеллект вообще.

Называть словами? Это самое важное в развитии? Лично я вижу здесь именно ту книжно-компьютерную модель интеллекта, которая заразила нашу культуру в прошлом веке. Просто психологи опять стащили объедки со стола инженеров. Точно так же вслед за появлением компьютеров они придумали «нейролингвистическое программирование». Само название прямо говорит, где украли ложечки.

Родителям в некоторых современных пособиях даже советуют отворачиваться от ребенка, когда он на что-нибудь показывает, — и требовать, чтобы он словами называл свои цели.

Только к началу XXI века до них наконец дошла идея другой, сенсорно-сетевой, модели интеллекта. В психологических журналах появились публикации под лозунгом Grounded Cognition, буквально — «заземленный», «базовый» интеллект. В этой модели основой когнитивных процессов считаются не абстрактные символьные вычисления, а мультимодальная симуляция, то есть воспроизведение и моделирование визуальных, моторных и других сенсорных «впечатлений», полученных в непосредственном взаимодействии с окружающим миром.

Дошло даже до исследований, которые доказывают, что «множество дополняющих друг друга органов чувств ребенка позволяют ему обучаться самостоятельно — без конкретной задачи и без учителя — просто взаимодействуя с внешним миром». Какой удар по всей нашей церковно-приходской системе образования! Оказывается, сенсорные системы ребенка — зрительная, слуховая, моторная, осязательная, обонятельная, вестибулярная и так далее — обучают и корректируют друг друга безо всяких правильных слов. И именно такой параллелизм позволяет им реагировать гораздо «умнее», чем абстрактные правила.

Забавно, что процитированная выше работа опубликована в 2005 году в журнале Artificial Life, и ее главная идея — вот чему разработчики искусственного интеллекта могут научиться у младенцев. Я бы добавил, что подобным вещам стоит в первую очередь учить родителей тех самых младенцев. По себе знаю, как трудно приглушить в себе стереотипы книжно-компьютерной модели обучения, чтобы лучше увидеть чувственно-сетевую.

Зачем маленькие дети столько раз повторяют одинаковые движения и странные жесты? Зачем они качаются или кружатся на месте? Почему норовят перевернуть все предметы вверх ногами и погрызть? Для чего, начав ползать по дому, они так упорно простукивают шкафы и стены? Почему первые слова появляются у них одновременно с умением ходить — и почему вы сами лучше соображаете при ходьбе?

Все становится гораздо понятнее, если выкинуть молоток Тьюринга из головы. Вообще-то мы догадывались об этом еще в детстве, когда читали, как Буратино продал азбуку и пошел изучать мир на чистом практическом опыте. Но нам же нужна еще сотня крутых перцев вроде Марвина Мински, чтобы эта методика не казалась сказочной.

Если вам нравятся идеи автора, вы можете поддержать публикацию его новой книги для родителей.