Original Material
Пройти через стену Тьюринга
Могут ли быть разумными машины, которые способны играть в настольные игры или распознавать образы лишь в своем уютном виртуальном мире? Чтобы стать надежными и удобными помощникам людей, машинам надо научиться общаться и действовать в физической реальности, подобно людям. Этим проблемам посвящена статья Альберта Ефимова, кандидата философских наук, вице-президента, директора управления исследований и инноваций Сбера, зав. кафедрой инженерной кибернетики НИТУ «МИСиС».
Представления о наделенном искусственным разумом человекоподобном существе намного древнее, чем считают поклонники научной фантастики, приписывая идею о роботах Карлу Чапеку, который придумал этот термин в 1920-х. Предание о рукотворном существе, которое умеет всё то же, что и человек, родом из глубокой античности. Мы читаем об этом в притчах Чжуан-цзы из Древнего Китая, в древнегреческих мифах о Пигмалионе и «умных» треножниках — помощниках Гефеста. Всерьез задумался об «автоматизации» рассуждения Аристотель, описавший силлогизмы — формы логических построений, служащие элементарными «кирпичиками» рационального мышления. Еще одной важной вехой на этом пути стали работы Готфрида Лейбница, который в конце XVII века не только заложил основы математической логики, но и много рассуждал о возможностях алгоритмизации мышления.
В конце XVII века Лейбниц описал концепцию рациоцинатора (ratiocinator) — логической системы, которая позволяет выразить любые производные понятия ясным и простым способом на основе базовых элементарных концепций и строгих правил, совершая над ними операции, подобные математическим. Замысел создания такой «философской машины» был грандиозен, но в силу неразвитости техники оставался нереализованным еще много лет. Первый значительный шаг к этому был сделан лишь в 1830-х, когда Чарлз Бэббидж попробовал сконструировать аналитическую машину, механический прообраз современных программируемых компьютеров. Результат оказался не слишком успешным, однако попытки «механизировать» рассуждения не прекращались.
В 1930-х Курт Гёдель сформулировал, а затем и доказал теоремы о неполноте, согласно которым ни одна система формальной арифметики не может быть одновременно и полной, и внутренне непротиворечивой. Иначе говоря, не существует такой системы, которая позволяет доказывать или опровергать любые утверждения. На некоторое время это поставило многих специалистов в тупик. Но уже вскоре Алан Тьюринг и Алонзо Чёрч ввели понятия вычислимых (решаемых в той или иной системе) функций и показали, что все они могут быть решены не с помощью формул, а алгоритмически — например, с помощью машины Тьюринга.
Тезис Тьюринга в самой простой формулировке [1] гласит, что универсальная машина Тьюринга может выполнить любое вычисление, которое способен выполнить человек-вычислитель. Эта удивительная по простоте и глубине идея открыла путь к появлению первых компьютеров, над которыми сам Тьюринг трудился в годы Второй мировой войны. Тогда же британский ученый задумался и о создании «разумной машины» (intelligent machine) — термин «искусственный интеллект» еще не появился.
Шахматы и шифры
Многие специалисты и сегодня считают, что, прежде чем приступать к созданию искусственного интеллекта, следует выяснить природу и устройство естественного. Однако Тьюринг смотрел на проблему совершенно иначе. Он, по сути, наследовал идеям Рене Декарта, который считал живые организмы полностью автоматическими существами, полагая, что полноценное сознание и мышление свойственны лишь человеку. В такой картине мира разум человека, его интеллект отделены от реального мира как часть иной «сферы сознания». Так же и в представлениях Алана Тьюринга интеллект практически не зависел от его физического носителя.
В своей знаменитой статье 1950 года «Вычислительные машины и разум» [2] (Computing Machinery and Intelligence) он определил несколько областей, представляющих «высшие проявления» человеческого интеллекта, на моделировании которых и следовало в будущем сосредоточиться. Это изучение языков (и переводы), игры (шахматы и т. п.), математика и криптография (включая решение загадок). Если в этих сферах деятельность компьютера невозможно отличить от человеческой, рассуждал Тьюринг, то их мышления эквивалентны и можно сказать, что мы имеем дело с «разумной машиной».
Неужели Тьюринг считал, что самое важное в человеке — это уметь играть в шахматы, вести возвышенные диалоги или разгадывать криптографические загадки? Это не так. Британский математик был уверен, что для создания интеллектуальных машин, имеющих способности, сравнимые с человеческими, недостаточно просто научить машину взаимодействию с физическим миром. В своем отчете для Национальной физической лаборатории 1948 года Тьюринг писал, что такая машина «не будет иметь возможности оценить такие важные для человека вещи, как еда, спорт или секс». Признав, что, разрабатывая машину, способную к взаимодействию с реальными миром, мы идем по пути более гарантированного создания искусственного разума, Алан замечал, что в 1948-м этот путь кажется более долгим и дорогим, чем учить компьютер играть в шахматы.
Стоит сказать, что уже через пару лет после этой публикации появились «черепахи» [3] Уолтера Грея — одни из первых автономных машин современности. Весьма примитивно устроенные существа демонстрировали неожиданно «разумное» поведение и могли, например, находить свою зарядную станцию с помощью фототаксиса, ориентируясь по свету. Эта сложность рождалась в прямом взаимодействии реального мира с простейшим «сознанием» роботов, и, если бы Тьюринг писал свою статью позднее, он наверняка сформулировал бы проблему иначе.
Однако именно статья, написанная более 70 лет назад, задала концептуальные основы для работы многих поколений разработчиков искусственного интеллекта. Согласно Тьюринговому подходу высокоуровневые интеллектуальные функции мозга можно воспроизвести на основе искусственной системы, компьютера, без того, чтобы имитировать систему в физическом мире. Такие представления развивал и описанный в той же статье тест.
Внутри и за стеной
В своих размышлениях над тестом Тьюринг отталкивался от викторианской «игры в имитацию». По ее условиям ведущий, обмениваясь записками с игроками, должен определить, кто из них женщина, а кто притворяется. Разумеется, «судья» при этом их не видит, от игроков его отделяет стена, непроницаемая для всего, кроме обмена символьной информацией — записочками, или, говоря по-современному, сообщениями в чате. Такое испытание можно рассматривать как «тест на интеллект» для мужчины, которому требуется имитировать «женские» (конечно, в представлениях викторианского времени) поведение и реакции. Тест Тьюринга переносил эту ситуацию на игру с компьютером, который должен имитировать живого человека, оставаясь скрытым от судьи всё той же «стеной».
Эта стена кажется обязательным элементом теста, ведь без нее мы сразу увидим, с кем имеем дело. Она скрывает физическую реальность собеседника, но при этом и сводит всё его мышление к ограниченному набору процессов. При этом даже сам герой нашего рассказа признавал, что полноценное человеческое познание мира невозможно без прямого взаимодействия с ним. Однако в то время имитация таких задач, как занятия спортом, еда или секс, казалась совершенно немыслимой, поэтому британский математик отнес их к неопределенно далекому будущему, предложив сосредоточиться на играх, языках и криптографии.
В результате Тьюринг дал старт своеобразной гонке между человеком и машиной исключительно в виртуальном пространстве. При этом идея такого теста стимулировала разработку систем, выполняющих какие-то определенные, узкие функции — будь то игра в шахматы, перевод или управление автомобилем — лучше людей и даже готовых заменить нас в той или иной области. Узость возможностей интеллектуальной машины была изначально заложена в парадигмальной идее британского математика, ограничивающей интеллект лишь простыми вербальными, символьными коммуникациями и игнорирующей все остальные модальности. Можно ли назвать интеллект, который умеет играть в шахматы, болтать и разгадывать загадки, общим? Вряд ли.
Однако до тех пор, пока робот или компьютер остается отделен от человека и от мира стеной, он не способен полноценно взаимодействовать с ними, и подлинная интеллектуальность машины подменяется сложностью реализуемых ею функций. Возможно, для беспилотного автомобиля или шахматной программы этого достаточно, но в погоне за общим искусственным интеллектом без смены парадигмы уже не обойтись: придется «ломать стену» и переходить к новой, посттьюринговой методологии [4]. Суть ее в том, что все упомянутые Тьюрингом элементы «теста» составляют единое целое и рассматриваются в комплексе: наблюдатель-судья, испытуемый (человек или компьютер) и инструмент вопрошания (стена превращается в среду взаимодействия, интерфейс между машиной и человеком).
Проверка перепиской
Для легкого объяснения можно обратиться к мысленному эксперименту «девушка по переписке», предложенному [5] Андреем Алексеевым. Допустим, юноша в поисках пары обращается к сервису знакомств через Интернет. Указав подходящие параметры (возраст, образ жизни и т. п.), он получает список пользовательниц и начинает переписку с одной из них. После долгого виртуального общения молодой человек наконец приглашает ее на свидание, лишь тогда обнаруживая, что всё это время разговаривал с программой. Такое развитие событий эквивалентно успешному прохождению искусственным интеллектом теста Тьюринга в его классической версии. Ожидая, что развитие технологий продолжится в рамках уже существующих тенденций, когда-то заданных Тьюрингом, Алексеев предположил, что «в недалеком будущем воплотится и сценарий „девушка по переписке“».
Однако можно заметить, что даже если этот сценарий и воплотится, он не имеет никакого практического смысла. Переписка «через стену Тьюринга» лишает машину возможности всестороннего полезного взаимодействия с человеком и миром. Чтобы пояснить это, представим иной вариант развития событий в том же эксперименте. Допустим, что когда дело дошло до свидания, юноша встречает свою партнершу по переписке в кафе — она вполне живая и настоящая. Однако разговор в офлайне не клеится: оказывается, у них не так много общих интересов, а остроумные и уместные реплики, которые давала девушка при переписке, ей автоматически подсказывал искусственный интеллект. Разочарованный молодой человек возвращается домой и пишет ей, что от такой встречи ему немного не по себе, но та отвечает цитатой из его любимого сериала, и переписка возобновляется.
Таким образом, стены, разделяющей машину и человека, больше не существует, она не нужна для оценки искусственного интеллекта и его взаимодействия с людьми. При этом компьютер оказывается более близким и понятным эмоционально, чем даже живая собеседница, он «более человечен, чем сам человек». В этой связи можно снова вспомнить Платона с его «вечными идеями», реализациями которых являются реальные объекты. Искусственный интеллект, не ограниченный стеной Тьюринга, может воплощать «идею интеллекта» так же, как это делает сам человек, наравне и во взаимодействии с ним. Человек знает, с кем имеет дело, и понимает, что с машиной ему лучше: интереснее, полезнее, надежнее.
После Тьюринга
Настоящая мыслящая машина должна стать продуктом разносторонних взаимодействий с человеком и окружающим миром: вербальных и невербальных, происходящих как в виртуальной среде, так и в реальной. Так, классический тест Тьюринга охватывает только области вербального и виртуального взаимодействия, как и схемы Терри Винограда и большинство других популярных тестов искусственного интеллекта. Это неудивительно, ведь все они находятся в заданной британским гением парадигме, «за стеной». Сломать ее — значит выйти в области невербального и реального освоения мира искусственным интеллектом.
В конце концов, сегодня мы понимаем, что определенными формами сознания обладают многие животные, включая даже головоногих моллюсков. И каждый раз мышление и его проявления оказываются связаны с реальными условиями существования, с телесностью живого существа, его моторикой. По мнению нашего выдающегося философа Давида Дубровского, развитие психики затронуло [6] лишь те организмы, которые активно передвигаются во внешней среде. Похоже, что полноценное познание окружающего мира в принципе невозможно без физического взаимодействия с ним. Поэтому условием создания «общего» («сильного») искусственного интеллекта будет возможность работы в различных модальностях и разных средах. Ему требуется выход в области невербального и физического.
Примерами искусственных интеллектов, которые справляются с невербальными задачами, могут служить уже существующие системы, играющие в компьютерные игры, или виртуальная телеведущая Елена [7] (созданная в Лаборатории робототехники Сбера, она полностью имитирует настоящую телеведущую, включая движения, эмоции и жесты). Однако и первые, и вторая не покидают пределов виртуального. Настоящее взаимодействие с человеком в физическом мире до сих пор остается чрезвычайно сложной задачей. Для общего искусственного интеллекта этого недостаточно: такая машина должна охватывать все четыре области взаимодействий и сред.
Пришествие техноумвельтов
Еще в XIX веке видный биолог Якоб фон Икскюль отметил, что разным живым существам свойственны разные сферы мировосприятия — умвельты. Умвельт бабочки заметно отличается от умвельта рыбы или человека. По аналогии с ними четыре области взаимодействий, возможные для машин, предлагается [8] называть техноумвельтами. Техноумвельт — домен мировосприятия, то, как машина видит окружающий мир. Умвельт человека знаком каждому из нас, а техноумвельты беспилотных автомобилей, пользующихся радарами и лидарами, многие наблюдали в видеороликах.
Описанные выше измерения взаимодействий человека и машины (вербальное — невербальное и виртуальное — физическое) дают четыре независимых техноумвельта: вербальное виртуальное, невербальное виртуальное, вербальное физическое и невербальное физическое. Универсальность общего искусственного интеллекта (AGI) возможна только при свободном перемещении машины между всеми четырьмя техноумвельтами. Текущее поколение ИИ способно распознавать объекты разного класса без предварительного обучения. Это важнейшее достижение, однако оно никак не связано с возможностью работать в разных техноумвельтах. По-видимому, для этого потребуется реализовать своего рода «переводчики» с языка, свойственного одному домену мировосприятия, на язык другого. Лишь тогда искусственный интеллект сможет стать по-настоящему мультимодальным, сумеет решать весь спектр возможных задач и полноценно «общаться» с человеком.
Его появление навсегда изменит наше взаимодействие с техникой. После тысячелетий философских размышлений и научно-технического прогресса люди впервые в истории столкнутся с по-настоящему «умными» вещами, с устройствами, которые могут обладать даже более полными и точными знаниями о мире и о нас, чем мы сами. Такая ситуация потребует нового взгляда на то, чем является человек и его разум, переопределить многие устоявшиеся представления.
Эти процессы уже начались: сегодня мы начинаем «растворяться» в окружающих нас повсюду технологиях и гаджетах, размывается само понятие «человека». По мере освоения компьютерами новых сфер деятельности, будь то шахматы или перевод, они перестают считаться исключительной прерогативой человека. Возможно, человек — это то, что машина сделать еще неспособна. Людям-инженерам по силам создать машину, которая может самостоятельно добраться из точки А в точку Б, но нужно стать философом, чтобы увидеть место, где находится эта точка Б.
2. ru.wikipedia.org/wiki/Вычислительные_машины_и_разум
3. en.wikipedia.org/wiki/Turtle_(robot)
4. intellekt-izdanie.osu.ru/arch/2020_2_74.pdf
5. artsoc.jes.su/s207751800007698-6-1/
6. ncbi.nlm.nih.gov/pmc/articles/PMC7179338/
8. iphras.ru/uplfile/zinaida/ROOTED/aspir/autoreferat/efimov/dissertatsiya_efimov_final_151020.pdf