Деннет умер, но его AI живет

Памяти американского философа, предсказавшего новую «весну» искусственного интеллекта

Философ Дэниел Деннет известен широкой публике в России в первую очередь как один из «четырех всадников Апокалипсиса» — представитель группы новых американских атеистов наряду с Ричардом Докинзом, Кристофером Хитченсом и Сэмом Харрисом. Эта компания наделала изрядного шума в США, доказывая, что религия как способ организации общества отжила свой эволюционный век и что человечеству нужно учиться договариваться на новых условиях. Такой платформой для четверки стал светский гуманизм.

Свой, довольно вежливый анализ религиозности Деннет представил в книге «Breaking the Spell» («Разрушая заклятия»), которую на русский язык так и не перевели. Впрочем, критика религии не стала главным предметом его интереса. Деннет говорил: «Я, конечно, атеист, но не атеист-атеист-атеист». Для философа в человеческой жизни существовали и более интересные загадки.

Фундаментальная работа Деннета Consciousness Explained («Объясненное сознание») вышла в 1991 году. Он дал натуралистическое, основанное на естественных науках и экспериментах объяснение человеческого сознания.

Сознание — чрезвычайно важный для нас, людей, когнитивный артефакт, возникший в результате эволюции.

С одной стороны, сознание определяет, кем мы являемся, так что мы не можем избавиться от дискуссии о «нас самих», нам трудно поверить, что машина «Я», самости, является лишь когнитивным механизмом, созданным природой для выживания наших далеких предков подобно тому, как у слонов в ходе эволюции возник хобот. Мы гордимся своим сознанием и измеряем любые когнитивные системы, биологические или искусственные, наличием этого чудесного свойства (то же самое делали бы и слоны, если бы они имели интерес к написанию философских трактатов). С другой стороны, экспериментальная наука не оставляет места для тайны: она исследует сознание человека как любой другой естественный феномен, к чему и призывает Деннет в «Объясненном сознании».

Деннет, долгое время работавший в Массачусетском технологическом институте, получил прозвище «Бостонский зомби». Оно должно указывать на совершенно возмутительные выводы, которые следуют из его философии:

личность представляет собой иллюзию, созданную эволюцией, человеческие мысли, чувства и представления о собственной идентичности — не более чем форма адаптации к выживанию, характерная для существующих в группах приматов.

В философии сознания есть понятие «зомби», представленное Дэвидом Чалмерсом. Такой «зомби» — это человек, который выглядит и действует, как любые другие люди, но который при этом полностью лишен так называемого внутреннего мира. Деннет не отказывался от прозвища: его философия предполагала, что внутренний мир переоценен.

Вторым героем Деннета, помимо Чарльза Дарвина (и его эволюционной модели реальности), был Алан Тьюринг. Идея универсального алгоритма, машины Тьюринга, который способен выполнять любые манипуляции с информацией, но при этом не нуждается в человеческом сознании, в работах Деннета становится технологическим эквивалентом идеи слепого натурального отбора. Для того чтобы мыслить, то есть решать задачи по систематизации информации, сознание является избыточной, а в некотором случае и вредной сущностью. Философ приводит в пример шахматный компьютер: чтобы попытаться предсказать его следующий ход, у игрока-человека есть три сценария. Во-первых, есть уровень физического анализа, который предполагает полный анализ системы на фундаментальном уровне. Этот способ хорош всем, кроме того, что для анализа потребовались бы многие столетия и огромные ресурсы. Во-вторых, можно обратиться к уровню «дизайна»: как сделана данная шахматная программа и как именно она принимает решения с точки зрения своего внутреннего устройства. Анализ от дизайна менее точен по сравнению с фундаментальной физикой, менее затратен, но в реальных условиях всё еще слишком сложен. Поэтому третий сценарий заключается в том, чтобы воспользоваться привычной для людей когнитивной машиной анализа ситуации, и приписать шахматному компьютеру определенные желания или страхи, которые заставят его сделать тот или иной ход. Именно это когнитивная машина лежит, по Деннету, не только в основании нашей игры в шахматы с машиной, но и определяет наши отношения с другими агентами-людьми, а также лежит в основе наших собственных представлений о себе. Философ утверждал, что не существует фундаментальной разницы между приписыванием желаний машине, человеку или самому себе.

Деннет был пионером в изучении искусственного интеллекта задолго до того, как в мир ворвались современные нейросети и наступила нынешняя «весна» в разработках генеративных лингвистических моделей, таких как ChatGPT. В то время когда большинство ученых выступали в качестве скептиков в отношении перспектив искусственного интеллекта, Деннет опирался на фундаментальную интуицию «Объясненного сознания»:

интеллект — это естественное явление, которое может быть смоделировано и, более того, может превзойти свой оригинал, связанный с видом homo sapiens.

Прочтение Деннета с точки зрения социальной теории подталкивает к выводу: мы живем на последнем берегу человеческой культуры. Если в человеческом сознании нет ничего уникального, то честный прогноз для ближайшего будущего человечества звучит так: количество функций, которые люди могут выполнять эффективнее машин, будет сведено к минимуму. В течение нескольких лет или десятилетий люди (в том числе их творческие и экзистенциальные функции) будут заменены нейронными сетями, способными обрабатывать фантастические для человеческого мозга объемы информации. Мы последние люди, если под людьми понимать представителей старой антропоцентричной культуры, где каждое действия является результатом интеллектуальных усилий человека.

Впрочем, натурализм Деннета никогда не приводил его к мизантропии. На фундаменте общности человеческой судьбы, от рождения до смерти, философ вслед за Ричардом Рорти предлагал строить этическую систему, которая призвана защитить достоинство людей как существ, движимых любопытством и желанием изменить свою жизнь к лучшему.

Среди последних книг, написанных философом, — переведенная на русский Intuitions Pumps («Насосы интуиции и другие инструменты мышления»), которая посвящена тому, как использовать на максимум наш несовершенный мозг, а также теоретическая работа From Bacteria to Bach and Back (переведенная как банальный «Разум от начала до конца»), которая подводит итоги взглядам философа на реальность.

Деннет скончался 19 апреля 2024 года в США. В интернете цитируют философа:

«Чтобы ваша жизнь была счастливой, найдите нечто большее, чем вы сами, и посвятите свою жизнь этому».

Деннет посвятил свою жизнь науке и здравому смыслу. Философ-натуралист относился к смерти не как к великой тайне, но как к естественному ходу вещей. Он оставил после себя книги и учеников — в том числе в России, где Деннет несколько раз бывал. Впервые во время перестройки — по приглашению выпускницы философского факультета МГУ Раисы Горбачёвой.