Сэди Плант. Невротики

Публикуем перевод одной из ключевых глав книги Сэди Плант «Zeros and Ones» (1997) — фундаментального текста киберфеминизма 90-х, который до сих пор не издан по-русски полностью. Перевод: Алина Синельникова, Лика Карева. Редактура: Йожи Столет. Текст переведен и отредактирован с учетом современного контекста. Мы стремились сохранить авторскую философскую строгость и стилистическую остроту, обеспечив при этом максимальную ясность изложения для русскоязычного читателя. Данная публикация является частью некоммерческого просветительского проекта. Полный перевод книги мы опубликуем в начале 2026 года.

Беспрецедентные темпы и размах компьютеризации подтверждают правоту Тьюринга, предсказавшего: «к концу века словоупотребление и мнение образованной публики изменятся настолько, что можно будет говорить о мыслящих машинах, не ожидая возражений» [1]. Но причина не в том, что машины вроде Джулии теперь способны выигрывать «игру в имитацию» и брать премию Лёбнера.

Изначально ИИ казался идеальным инструментом для создания экспертных систем — способным хранить и обрабатывать специализированную информацию, пополняя массив данных строго по принципу «need-to-know» (принципу необходимости). К 1980-м годам внезапно обнаружилось, что у ИИ нет «монополии на рынке экспертных систем» [2]. Исследователи доказывают, что специалисты-люди зачастую работают вовсе не на когнитивном уровне. В основе их действий лежит интуитивное понимание структуры решаемой задачи, а методы «больше сродни интуиции, чем символьной обработке». К тому времени, когда разработчики ИИ это осознали, машинный интеллект был уже повсюду.

Пальма первенства в компьютерных науках долгое время принадлежала символьному искусственному интеллекту, однако в первые же годы у него появился серьезный соперник — совершенно иной подход к машинному разуму. Это второе направление отталкивалось от клеточных автоматов Джона фон Неймана, самоорганизующего потенциала кибернетических систем Винера и хеббианских представлений о мозге как о сложной нейрохимической сети. Интерес к нейронным сетям пробудила статья Уоррена Маккаллока и Уолтера Питтса «Логическое исчисление идей, относящихся к нервной активности», опубликованная в ту самую пору, когда Грейс Хоппер программировала свое «чудовище», и оформился в 1950-х, когда Фрэнк Розенблатт ввел термин «персептроны» для описания этих самоорганизующихся сетей. Нейросети окрестили своенравной, нежеланной «дочерью» кибернетики, младшей «сестрой»-соперницей господствующей дисциплины, что пыталась умертвить ее в колыбели. «Победа старшей сестры казалась неизбежной», — пишет Сеймур Паперт, будучи соавтором (вместе с Марвином Мински) печально известной книги [«Персептроны: Введение в вычислительную геометрию»], призванной упрятать младшую сестру под замок [3]. «Каждая из наук-сестер пыталась построить модель интеллекта, но из совершенно разных материалов». Персептроны были попыткой смоделировать не внешние проявления интеллекта — когнитивные навыки, вербальную ловкость, способность к беседе, — а те нейронные процессы, которые к ним приводят. Персептроны были фактически уничтожены заявлениями Мински и Паперта о том, что интеллект (и человеческий, и машинный) должен быть жестко встроен, запрограммирован заранее, что интеллект не формируется в процессе самостоятельного обучения. Младшая сестра, темный двойник, исчезла в некоем собственном мире. И теперь, похоже, она возвращается.

«— Подходящее слово — порог. Все то, что мы привнесли в сеть, стало причиной превышения некоего порога. После чего должен был наступить хаос, но этого не произошло. Или все же произошло, но не в том смысле, какой обычно вкладывают в это понятие, потому что сеть продолжала находить место всем нашим запросам и требованиям, ведь она была создана с целью размещения информации. А когда она достигла предела насыщения, у нее было два выбора — рухнуть или продолжать размещать информацию дальше, приспособиться. Она сделала и то и другое. Первой стадией было преодолеть катастрофический барьер. Второй — восстановление, а так как сеть запрограммирована на приспособление и размещение, она и пошла по этому пути. Но единственным способом приспособления было преодоление предела. Установление нового предела, а при достижении его — вновь преодоление катастрофического барьера, восстановление, стремление к новому пределу. И так далее.

— До бесконечности, — без выражения сказала Сэм. — Как фрактал, только растущий снизу вверх, а не сверху вниз. Порожденный хаосом.

— Конечно, никаких пауз в этом процессе не было, — продолжал Фец. — Информация постоянно поступала, что создавало массу возмущений. Но хаос — лишь иной тип порядка, поэтому теперь мы имеем просто другую сеть, сильно отличающуюся от изначальной. Мы ее разбудили».

Пэт Кэдиган, Искусники

Когда они соединились, выяснилось, что даже одноцелевые, последовательные машины, запрограммированные на тупость, могут активироваться самопроизвольно, стоило лишь собрать их в достаточном количестве. Как оказалось, разумные сети вступили в новую фазу самоорганизации в тот самый год, когда эксперты списали их со счетов. По мере того как сети собирали себя воедино под прикрытием ARPAnet, казалось, словно они просто переключили канал, уклонившись от препятствий, воздвигнутых у них на пути.

Пребывая в уверенности, что для их развития необходим готовый свод экспертных знаний, специалисты попросту не заметили, в какой мере Сеть сама эмерджентно складывалась в глобальную нейронную сеть — в обширный распределенный «персептрон», который сам собирал для себя материалы, непрерывно втягивая новые узлы и связи в самообучающуюся систему, не нуждавшуюся в указаниях свыше. К концу 1980-х Сеть превратилась в беспорядочно разросшуюся, анархическую паутину соединений, которая «не просто бросает вызов традиционным методам построения сетей — она настолько хаотична, децентрализована и нерегулируема, что подрывает сами основы их привычного понимания» [4].

Нейросети в меньшей степени определяются строгостью ортодоксальной логики, чем интуитивными прорывами и перекрестными связями, когда-то клеймившимися как истеричное мышление, отмеченное ассоциациями между идеями, которые считались опасно «отрезанными от общего поля ассоциаций, но способными связываться между собой…» Нейросети по-прежнему наталкиваются на враждебность со стороны сообщества ортодоксального ИИ и пока «добились лишь ограниченных успехов в генерации частичного "интеллекта"» [5]. Но именно тот факт, «что нечто вообще проистекает из поля примитивных связей», является, по словам Келли, «ошеломляющим». То, что сегодня описывают как «порядок-возникающий-из-массива-связей», определяет интеллект как восходящий процесс проб и ошибок, внезапных скачков и неожиданных сдвигов — пошаговый процесс, который учится и учится учиться самостоятельно, независимо от материалов своего носителя, контекста и масштаба. Речь идет не об усвоении конкретного уже существующего знания, а о самом процессе обучения — об исследовании, которое нащупывает собственный путь и совершает собственные ошибки, вместо того чтобы следовать по заранее проложенному маршруту.

Нейросети функционируют как параллельные распределенные процессоры, в которых множество взаимосвязанных элементов работают одновременно, не будучи привязанными к организующему центру. Они же — и нервные системы: натянутые, изменчивые, легковозбудимые и сверхчувствительные. Истерички — не единственные децентрализованные нусы. «Параллельное ПО — это запутанный клубок горизонтальных, симультанных причин. Проверить такую нелинейность на ошибки невозможно, поскольку она сплошь состоит из потаенных уголков. Нет здесь нарратива… Параллельные компьютеры легко собрать, но нелегко запрограммировать» [6]. Они тонко настроены, восприимчивы к неожиданным сбоям и поломкам, склонны к внезапным флуктуациям и переходам, подвержены всплескам активности, волнам нестабильности, эмерджентным течениям и локальным штормам. Все сложные системы суть недетерминированные процессы, а не сущности. «Мы имеем дело с системой, чье поведение зависит от уровней активности ее многочисленных компонентов и от взаимного влияния этих уровней друг на друга. Если мы попытаемся "зафиксировать" эту активность, намереваясь описать полное состояние системы в один момент времени, мы немедленно утратим возможность проследить эволюцию этих уровней во времени. И наоборот, если нас интересуют именно уровни активности, мы должны искать устойчивые паттерны во временной развертке» [7]. Взаимосвязь подобных систем такова, что слабые флуктуации в одной области могут иметь глобальные последствия в других — без какой-либо отсылки к центральному узлу. Ни главного штаба, ни ядра. Хранение и обработка информации распределены по сети, сопротивляющейся любым попыткам ее зафиксировать. «Пока мы не "заморозим“ все отдельные блоки или процессоры, чтобы они разом прекратили работу и были перезапущены после снятия показаний, мы попросту не способны схватить все происходящее в момент его свершения».

Мы говорим не о компьютерной памяти типа «только для чтения» (read-only), «древовидной и централизованной», а о памяти кратковременной — «типа ризомы, диаграммы» [8], которая не редуцируется к простому воспроизведению недавнего прошлого или даже к припоминанию чего бы то ни было вообще. Она «может располагаться на некоторой дистанции, приходить или возвращаться много позже», а также «включает в себя забвение как процесс». Все подобные коннекционистские системы подвержены внезапным помехам и всплескам, вспышкам озарений и интуиции. «Машины перехода» или «ассоциативные движки» также могут претерпевать процессы «катастрофического забвения», так что «даже когда сеть не достигла своей теоретической емкости, обработка новой единицы данных может привести к полному распаду всех ранее усвоенных» [9]. Анна улыбнулась. Они были близки.

[1] Алан Тьюринг, цит. по: Эндрю Ходжес. Алан Тьюринг: Энигма (Alan Turing: The Enigma). С. 422.

[2] Морин Кодилл и Чарльз Батлер. Естественные интеллектуальные системы (Naturally Intelligent Systems). С. 26.

[3] Рэймонд Курцвейл. Эпоха мыслящих машин (The Age of Intelligent Machines). С. 149.

[4] The Economist, 1 июля 1995 г., Интернет-обзор.

[5] Кевин Келли. Вне контроля (Out of Control). С. 296.

[6] Там же. С. 308.

[7] Ричард Дж. Айзер. Установки, хаос и коннекционистский разум (Attitudes, Chaos and the Connectionist Mind). С. 192.

[8] Жиль Делез и Феликс Гваттари. Тысяча плато: Капитализм и шизофрения (A Thousand Plateaus: Capitalism and Schizophrenia). Пер. с франц. С. 16.

[9] «Машины перехода» Энди Кларк. Ассоциативные машины (Associative Engines). С. 145–146.