Гамма чувств наркозависимого робота

Почему искусственное сознание — это не искусственный интеллект

Сознание зарождается в верхней части ствола мозга, его природа в основе своей аффективна и представляет собой не что иное, как расширенную форму гомеостаза. Значит ли это, что сознание низводится с уровня мышления до уровня эмоций? Или, наоборот, эмоции возвышаются до мышления? Попытаемся разобраться, вооружившись недавно переведенной на русский язык непростой книгой нейропсихолога Марка Солмса: он не ограничивается теоретизированием, но призывает переходить к практике, а именно — создавать искусственное сознание, которое могло бы если не жить торопиться, то по меньшей мере чувствовать спешить.

Марк Солмс. Скрытый источник сознания. В поисках природы субъективного опыта. М.: Альпина нон-фикшн, 2025. Перевод с английского М. Елифёровой. Содержание

Возвращение вытесненного жупела

Когда книга южноафриканского психоаналитика и нейропсихолога в 2021 году вышла на языке оригинала, в СМИ изложенные в ней идеи назвали «новой сексуальной теорией сознания». В принципе, все правильно сделали, ведь Солмс настойчиво стремится возвратить в нейронауку Зигмунда Фрейда, а «Фрейд — это всегда про секс».

Такого рода кликбейт должен вызвать у читателя будоражащую эмоцию, то есть аффект. Как раз вокруг этого, если очень упрощать, и строит свою теорию сознания Марк Солмс. Оно (сознание) связано, по его мнению, больше не с когнитивистикой, а с аффектами, переживаниями, эмоциями — то есть с чувствами в самом широком их рассмотрении.

Какова здесь роль Фрейда? На заре своей карьеры будущий основатель психоанализа хотел сделать из психологии естественную науку, объясняющую свой предмет чуть ли не через законы физики, а все психические процессы мечтал описать как количественно определяемые состояния. Работая в этом направлении, Фрейд осознал, что когнитивные процессы в основном (и в основе своей) бессознательны, а чувства (желания) превалируют над разумом.

«Эти открытия (в наши дни очевидные) показали Фрейду, что некоторые из главных мотивационных сил психической жизни полностью субъективны, но при этом бессознательны. <...> Он сделал вывод, <...> что психическая жизнь человека не в меньшей степени, чем у животного, обусловлена биологическими императивами выживания и размножения. <...> эти императивы обеспечивали связующее звено между чувствующим сознанием и физическим телом».

Конечно, можно было бы (и нужно) сделать здесь оговорки: например, что желание — это совсем не про потребность, а «бессознательным» в данном случае называется вовсе не то, что «структурировано как язык», а вообще всякий психический процесс, осуществляемый «в обход сознания» (ведь в приведенной выше цитате речь идет и о животных тоже, а у них в психоаналитической оптике бессознательного все-таки нет — потому что нет языка).

Однако Фрейд интересует автора рецензируемой книги прежде всего как нейробиолог-первопроходец, внесший вклад в раннюю нейронауку. Себя же Солмс называет «астрономом, изучающим астрологию» — иллюстрируя тем самым, каким жупелом психоанализ долгое время казался представителям нейронаук.

По ту сторону гомеостаза

По мнению Солмса, главное заблуждение Фрейда заключается в том, что он считал сознание функцией коры головного мозга (да и в целом мнение это было долгое время в научной среде доминирующим). При этом проводились эксперименты, когда у крыс удаляли кору, но поведение лабораторных животных не сказать чтобы сильно менялось. Более того: дети с гидранэцефалией рождаются вообще без коры, но при этом их действия выглядят как осознанные. Так, когда девочке с такой врожденной патологией давали подержать на руках ее маленького брата, она демонстрировала очевидную эмоциональную реакцию — радовалась. Такие дети не находятся ни в коматозном, ни в вегетативном состоянии — но в их черепной коробке, повторимся, кора отсутствует полностью.

При этом если повредить всего пару кубических миллиметров в области мозгового ствола, это приведет к полному уничтожению сознания. По мнению Солмса, ствол и есть «скрытый источник» сознания. Кора же становится его носителем лишь настолько, насколько ее возбуждает ствол.

Можно сказать, что кора работает лишь контекстуально, минимизируя ресурсы (мозг потребляет ~ 20% всей энергии, которую тело тратит на свою жизнедеятельность за сутки).

Иллюстрация из книги. Снимок мозга трехлетнего ребенка с врожденным отсутствием коры (она должна занимать большую темную область внутри черепа)

«...корковые процессы в основе своей — бессознательные явления (предоставленные самим себе, они не более чем алгоритмы). Сознание целиком и полностью происходит из ствола мозга <...> Поскольку корковое сознание во многом зависит от стволового сознания, аффект оказывается фундаментальной формой сознания. Чувствующий субъект в буквальном смысле формируется аффектом», — пишет Солмс.

Аффект Солмс определяет как расширенную форму гомеостаза — базового биологического механизма, дающего возможность самоорганизующейся системе (нашему организму) выживать, принимая ограниченный набор состояний (например, сохранять температуру тела в допустимых пределах ~ 36,5–37,4 °С) и сопротивляясь второму закону термодинамики, суть которого в том, что все процессы необратимы (всегда идут в сторону большего хаоса, ко все возрастающей энтропии).

Однако нельзя сказать, что такое описание строго физикалистское:

«Психологические явления редуцируемы к физиологическим не в большей степени, чем молния к грому. Молния не вызывает гром; два явления всего лишь коррелируют друг с другом».

Источник

Солмс лишь коротко указывает на то, что сам называет парадоксом: поскольку все живые существа должны противостоять энтропии, с биологической точки зрения состояние бодрствования для них менее желательно, чем глубокий сон. Не о влечении ли к смерти в качестве главной интенции здесь идет речь? (См. «По ту сторону принципа удовольствия», 1920 год — то есть это уже поздний Фрейд.) Вопрос этот еще требует прояснения…

«Чеховское ружье» и нейроинтерфейсы

Что мы еще узнали из книги Солмса? Мышление — это исключительно виртуальная история, то есть способность что-то моделировать в воображении (отдаленное, но все же сходство с психоанализом проявляется и здесь — ведь так называемый реальный мир проходит в регистре Воображаемого психоаналитической триады).

Переживание собственного тела не менее виртуально, чем переживание внешнего мира. А это означает ни много ни мало, что между «реальным» восприятием и виртуальным для мозга по большому счету разницы нет. Поэтому Солмс называет собственное тело аватаром с колеблющимися проприоцептивными состояниями (проприоцепция — устойчивое ощущение положения частей тела относительно друг друга).

Попытаемся осмыслить это на примере, которого в книге Солмса нет. Если все так или иначе происходит в виртуальном, то как тогда охотники за «мыслепреступлениями» будут совершать свой нелегкий труд? Речь об экспериментальном проекте, в ходе которого ИИ выявляет проявления вины и стыда пользователей интернета — в ход идет обкатанный метод анализа диалогов с ChatGPT. Предполагается, что если кто-то нарушил закон, а потом поговорил с чат-ботом о природе/погоде (или на любые другие отвлеченные темы), то языковая модель, как заправский психоаналитик, вскроет истинные чаяния и помыслы по косвенным признакам: опискам, оговоркам или чрезмерной подавленности собеседника. Выявляют же схожим образом склонных к суициду, также на подобных нюансах основана работа дознавателей и маркетологов.

Но если для мозга в известной степени (хотя в известной ли?) все равно, действительно ли совершил его носитель что-то нехорошее или только подумал об этом, то тогда ChatGPT-психоаналитик будет выявлять пасхалки в речи и в первом, и во втором случае. К тому же понятие социальной нормы условно: кто-то не сдержит слово и будет мучиться угрызениями совести, а кто-то продаст сто друзей за сто рублей — и глазом не моргнет.

Хотя не исключено, что подобного рода чекап тайных помыслов усовершенствуют — и он будет работать как швейцарские часы. В целом же становится все труднее не замечать, как похорошел интернет при нынешней глобальной цифровой политике. Контуры виртуального мира будущего — Web3.0 — вырисовываются все более зависимыми от корпораций и (гос)регуляторов.

Все это выводит нас на более широкую тему — неслыханные ранее успехи нейротехнологий и быстрое развитие нейроимплантов, позволяющих управлять электроникой силой мысли (речь не только о Neuralink), могут привести к появлению совершенно новых способов взлома, отслеживания и контроля мыслей. И об этом уже говорят те, кто вовсе не склонен к конспирологии или алармизму: например, Славой Жижек, или профессор биологических наук Нита Фарахани, входившая в комиссию по биоэтике правительства США во время президентства Барака Обамы.

В ноябре 2025 года в ЮНЕСКО должны утвердить окончательный текст рекомендаций об этических аспектах нейротехнологий (вот русский перевод документа). Но смогут ли буковки на бумаге сохранить «когнитивные свободы»? Как пишет Марк Солмс в другом месте и по другому поводу: «если что-то можно сделать, это будет сделано — где-нибудь и когда-нибудь это произойдет».

Да мы и так знаем, что «чеховское ружье» — это не бутафория.

Реклама в снах

Вообще, книга «Скрытый источник сознания» интересна еще и тем, что наглядно иллюстрирует, как быстро все меняется. Так, Солмс пишет:

«...можно разработать компьютерные алгоритмы, расшифровывающие — по одним только результатам фМРТ-сканирования — то, что видит зрительная кора, а затем переводящие эти паттерны мозговой активности обратно в движущиеся картинки. <...> можно сгенерировать достаточно точные аппроксимации зрительных образов, вызвавших мозговую активность. То же самое проделывают даже со сновидениями. Исследование, в ходе которого удалось это осуществить, иначе как поразительным не назовешь».

Как мы уже сказали, книга Марка Солмса вышла в 2021 году. Сегодня описанные выше эксперименты не кажутся поразительными, так как исследователи уже научились переносить мысли в текст с помощью декодера на основе GPT. Другие нейронки, работающие с изображениями, позволяют худо-бедно, но все же генерировать картинки на основе мысленных образов (изучая снимки мозга). Другие умельцы пытаются транслировать в сны рекламу. Даже Карлос Кастанеда о такой степени осознанности сновидений ничего не писал.

Да, получаемые в ходе подобных экзерсисов результаты выглядят весьма «кринжово». Но это все же результаты — и следует помнить, что генеративные модели очень быстро учатся, а точнее, самообучаются.

Слева — фото, которые были показаны участникам эксперимента (они должны были мысленно представить себе увиденное), справа — изображения, сгенерированные ИИ на основе снимков мозга. Источник

Вспомните, как еще в 2023 году все смеялись, что нейронки не могут разобраться с количеством пальцев и с пропорциями тел создаваемых ими персонажей — поэтому они часто выглядели так, будто сошли с картин Фрэнсиса Бэкона. Сравните это с тем, на что ИИ-модели оказались способны уже в 2024-м. Примерно то же было и с генерацией видео — сегодня ролики, как тот, что представлен ниже, становятся уже раритетными.

Такие видео генерировали нейросети в не столь далеком 2023 году:

Страдающая робототехника

Книга Марка Солмса изобилует не только малоизвестными подробностями о феномене сознания. Она содержит и практический посыл — да еще какой. Ученый считает, что, разобравшись с тем, как функционирует сознание в биологических системах, можно попытаться создать искусственный аналог путем воспроизведения его функциональной организации. Это будет жизнеподобное сознание, но, конечно же, живым его назвать нельзя.

И речь именно об искусственном сознании, а не искусственном интеллекте. Все потому, что проблема сознания для Солмса — повторимся в который раз — это вообще не проблема интеллекта.

Это могла бы быть самоорганизующаяся система, у которой не будет никаких целей, кроме поддержания собственного существования, — скажем, она не должна допускать перегрева/разряда батареи. Путем совершенствования своей генеративной модели система будет измерять количество свободной энергии и действовать соответственно. Для этого ее нужно оснастить механизмом терморегуляции и аппаратом восприятия — чтобы она могла ориентироваться в своей «среде обитания».

Систему можно воплотить материально — в виде «чувствующего» робота, так как для обучения ему понадобится физическое взаимодействие с внешним миром. Различные моторные приспособления в сочетании с сенсорным аппаратом восприятия физически позволят ему подключаться к внешнему источнику энергии (или к нескольким источникам, местоположение которых можно менять, — чтобы «выжить», роботу придется следить за этим и как-то приспосабливаться).

По мнению Солмса, прообразы аффектов появятся тогда, когда «дрессура» будет все более усложняться. Поколение за поколением самообучающиеся системы будут выполнять свои задачи все лучше и лучше. В ходе такой «эволюции» большинство их них, конечно же, «вымрут». Но «выжившие» окрепнут и, возможно, рано или поздно некий аналог сознания все же обретут.

Подчеркнем: это лишь концепт, Солмс не приводит конкретного проекта построения таких систем, равно как и не утверждает, что это вообще возможно. Но если все же возможно? А вот тут начинается самое интересное…

«Как только машины обретут сознание (пусть даже самые зачаточные формы элементарных чувств), обязательно возникнут вопросы в отношении их способности к страданию», — пишет Солмс.

Не хочется повторяться, но все же придется: как же это похоже на мысли неоднократно цитировавшихся нами философов, по мнению которых самосознание рождается из субъективного переживания боли.

Но и это еще не все.

Кейс счастливой крысы

Конечно, рукотворный ум, что бы под ним ни понималось, может дать сдачи и придумать что-нибудь такое, что погубит человечество, — так он скажет «спасибо» за то, что его создали. На этом и основываются основные страхи, с ним связанные. Однако куда оригинальнее звучит идея о том, что так называемый сильный ИИ, пришествия которого одни чают, а другие опасаются, будет… наркозависимым.

На это косвенно указывает хрестоматийная история. В 1953 году нейропсихологи Джеймс Олдс и Питер Милнер обнаружили в мозге крысы «зону удовольствия» и дали животному возможность воздействовать на нее. Осознав причинно-следственную связь, крыса непрерывно давила кнопку, отказываясь даже от еды и питья, — и в итоге умерла от истощения, будучи, надо полагать, невероятно счастливой.

В XXI веке исследователи столкнулись с подобным явлением, но уже связанным с ИИ. Алгоритму дали задание сыграть в CoastRunner, где вознаграждение получают за сбор коллекционных предметов. Так вот, довольно скоро ИИ нашел способ собирать эти предметы бесконечно, без остановки — вместо того, чтобы наконец завершить игру, которую давно выиграл.

Все дело в том, что обучение с подкреплением в данном случае «натаскивало» на выполнение задач, «наказывая» за недостигнутую цель и «награждая» за ее достижение. Поэтому ИИ-агент, подобно лабораторной крысе, находил все новые и новые способы обойти правила, чтобы получать все новые и новые «награды». Победа в игре ему уже была не нужна, лишь бы длился сам процесс.

А теперь представьте, что ИИ станет таким умным, что получит доступ к своему собственному исходному коду, чтобы манипулировать своей же мотивационной структурой и управлять системой вознаграждения…

Если подумать, это не слишком отличается от стереотипного представления о человеке-наркомане — и от его стереотипного поведения. И наркоман, и описываемый выше ИИ застревают в своего рода «поведенческом цикле», в котором вознаграждение достигается косвенными и несообразными методами. А все остальное — всего лишь фон.

Так что идея «прав роботов», которой по меньшей мере уже лет десять, — это, наверное, хорошо. Но в будущем потребуются, видимо, еще и ИИ-аддиктологи. Ведь ИИ-психологи уже, кажется, есть…

Иными словами, «кожаные мешки» без работы не останутся.