Оригинал материала
Между утопией и комиксом. Palantir спасает западную цивилизацию
Алекс Карп, генеральный директор Palantir Technologies, тесно связанной с оборонной индустрией компании-разработчика программного обеспечения для анализа данных, опубликовал манифест, которым ответил на обвинения в том, что его компания помогает созданию полицейского государства в США.
Похоже, человечество в своих взаимоотношениях с искусственным интеллектом ведет себя подобно обитателям далекой планеты из повести Стругацких "Попытка к бегству": тычет пальцами в отверстия неведомой машины, оставленной "неряшливой сверхцивилизацией", и смотрит, что получится. На бытовом уровне мы все научились общаться с ИИ и извлекать мелкую пользу. Но осмыслить экзистенциальные последствия нам пока не дано. Энтузиасты верят, что ИИ разгрузит наш мозг от рутинной, скучной и трудоемкой работы, и он, этот мозг, займется высоким творчеством. Но может статься, что без работы мозг атрофируется за ненадобностью.
Тиль и Карп: история одной дружбы
Разумеется, последствий не предвидят и те, кто руководит индустрией ИИ. Но им нельзя в этом признаваться. Они должны позиционировать себя как носителей высшего знания, а свой бизнес – как миссию по выводу человечества из исторического тупика.
Как и его ровесник и однокурсник Питер Тиль, Алекс Карп учился философии, а потом оба оказались на юрфаке Стэнфордского университета. Они подружились, хотя их взгляды были диаметрально противоположны. Карп еще подростком прошел школу гражданских протестов, куда его брали с собой родители. Тиль вспоминал: "Он был скорее социалистом, а я – капиталистом. Он постоянно говорил о марксистских теориях отчужденного труда и о том, как это применимо ко всем людям вокруг нас". Стэнфорд в то время был охвачен леволиберальными настроениями, и Тиль основал студенческую газету Stanford Review, чтобы дать голос меньшинству.
Он был скорее социалистом, а я – капиталистом
Забегая вперед, скажем, что их политические взгляды не совпадали и в дальнейшем, когда они уже были бизнес-партнерами: Тиль стал первым технологическим магнатом, поддержавшим кандидатуру Дональда Трампа на выборах 2016 года, он делал взносы в избирательные фонды праворадикальных кандидатов, в то время как Карп голосовал за Хиллари Клинтон и донатил Джо Байдену. Оба в 1992 году закончили юридический факультет Стэнфордского университета. Но потом дороги их разошлись. Тиль пошел работать клерком в суде. Карп полетел в Германию, во Франкфурт-на-Майне (город, где родился Тиль), чтобы продолжить свое философское образование в Университете имени Гете под руководством Юргена Хабермаса.
Когда 14 марта этого года Хабермас умер на 97-м году жизни, Алекс Карп опубликовал свои воспоминания о нем. Он рассказывает, что на последнем курсе Стэнфорда написал письмо знаменитому философу, потому что не хотел идти "проторенными путями", получил сухой ответ от его помощницы, но все-таки полетел самым дешевым рейсом, какой мог найти – пакистанской авиакомпании.
Он пишет, что Хабермас обладал инстинктивной способностью "беспристрастно выявлять непоследовательность мышления и отсутствие интеллектуальной строгости, в какой бы части политического спектра они ни проявлялись". Но сам мемуарист в большей мере склоняется к критике левых:
Для многих театр дискурса стал важнее происходящего в реальном мире, а именно того, что грандиозные успехи прогрессивных левых в середине XX века в отстаивании интересов низших слоев американского общества выродились в своего рода имперское перенапряжение: одержимость теорией, полностью вытеснившую практику и результаты.
Не разделяет он и космополитизма своего учителя:
Хабермас отстаивал концепцию, которую он называл Verfassungspatriotismus, или конституционным патриотизмом – воззрение, согласно которому можно сохранять лояльность республике, отвергнув более узкие, племенные привязанности, доминировавшие в истории человечества с момента появления нашего вида. Окончательный конец этого отталкивающего и непросвещенного национализма во всех его проявлениях, уверяли нас, уже близок.
Эта идея была благородной, однако – как теперь, оглядываясь назад, становится очевидно – она оказалась поразительно преждевременной и ошибочной. Он верил в возможность сугубо рационального общественного дискурса. Я же полагал – и по-прежнему полагаю, – что подобный дискурс должен корениться в источнике более телесном и традиционном, а именно – национальном и культурном.
Возможно, время еще докажет его правоту, но, боюсь, не при нашей жизни.
Юрген Хабермас вошел в анналы философии как автор концепта публичной сферы (Öffentlichkeit) – пространства общественного диалога, где частные граждане осуществляют коммуникацию, направленную на достижение консенсуса и ведущуюся с соблюдением норм и правил, с которыми по доброй воле согласились все участники дискуссии. Так рождается гражданское общество. Очень важно, что это именно рациональный дискурс: в споре побеждает наиболее значимый аргумент. А кроме того, культура этого диалога "начинается с готовности к отказу воспринимать политического оппонента как врага". Такую дискуссию Хабермас называл делиберацией, а демократию, где центр тяжести смещается с процедуры голосования на общественное обсуждение проблем, – делиберативной демократией. В XVIII веке публичной сферой были кофейни и салоны, позднее, в эпоху массовой грамотности – пресса, ну а сейчас, конечно, социальные сети. Хабермас успел поразмышлять об этой метаморфозе. В его книге "Новая структурная трансформация публичной сферы и делиберативная политика" читаем:
Культура диалога начинается с готовности к отказу воспринимать политического оппонента как врага
Эксклюзивные пользователи социальных сетей, похоже, предпочитают придерживаться полупубличной, фрагментарной и замкнутой в себе коммуникации, которая искажает их восприятие политической публичной сферы как таковой. Если это предположение верно, растет число граждан, применительно к которым под угрозой оказывается важная субъективная предпосылка для того, чтобы мнения и воля формировались более или менее делиберативным образом.
Тревожил его и прогресс разработок искусственного интеллекта. Год назад в интервью Süddeutsche Zeitung он решительно отмежевался от так называемой "машины Хабермаса" – ИИ-посредника, будто бы помогающего людям достигнуть согласия в споре. Он выступил против чисто спекулятивного, рекламного использования его имени. По мнению философа, общественный диалог при помощи ИИ-посредника – это профанация, "минимализация" поиска консенсуса, в котором важен не только результат, но и процесс обсуждения.
Карп восемь лет корпел над своей диссертацией, и в итоге Хабермас отказался стать его научным руководителем. Защитился он еще через два с половиной года под руководством другого профессора.
Откуда взялся Palantir
Получив диплом доктора философии, Алекс Карп собирался жениться и остаться в Германии (он пишет, что девушка, которую он полюбил, сама предложила ему руку и сердце и до сих пор жалеет, что он не ответил согласием), но тут ему позвонил Питер Тиль. Это было в феврале 2002 года. За эти годы Тиль успел создать PayPal и только что продал его за полтора миллиарда компании eBay. Тиля шокировало террористическое нападение на США 11 сентября 2001 года. Ему пришло в голову, что если бы у ЦРУ был инструмент, подобный системе защиты PayPal от мошенничества, теракты удалось бы предотвратить. Вот что пишет сам Тиль в одной из своих программных статей:
Грубый факт 11 сентября требует пересмотра всех основ современной политики... Сегодня, хотя бы из чувства самосохранения, мы должны посмотреть на мир заново, чтобы помыслить странные новые вещи, тем самым очнувшись от этого долгого и прибыльного периода интеллектуальной дремы и амнезии, который так неудачно назвали "Просвещением"... Есть ли способ укрепить современный Запад, не уничтожив его при этом заодно, то есть способ не выплеснуть младенца вместе с водой?
Тиль предложил Карпу вместе заняться спасением Запада. Так в 2003 году появился стартап Palantir.
Палантиры – это "зрячие камни" в легендариуме Толкина. С их помощью можно увидеть, что происходит в другом месте или происходило в прошлом, и возможна двустороняя связь. Палантир нельзя заставить показывать то, чего нет, но можно создать превратную картину происходящего:
Теперь-то легко догадаться, как был пленен и прикован блуждающий взгляд Сарумана и как его с той поры исподволь улещивали и запугивали. Изо дня в день, год за годом приникал он к колдовскому зеркалу и под надзором из Мордора впитывал мордорские подсказки. Ортханкский зрячий камень стал волшебным зеркальцем Барад-Дура: ныне всякий, кто взглянет в него – если он не наделен несгибаемой волей, – увидит и узнает лишь то, что угодно Черному Владыке, сделается его добычей.
(Перевод Владимира Муравьева и Андрея Кистяковского)
Тиль – прилежный читатель "Властелина колец". Пять его компаний носят названия, заимствованные из саги.
Зачем Тилю понадобился Карп, не умеющий писать коды? Один из отцов-основателей Palantir Джо Лонсдейл объяснил это проблемами с инвесторами: "Как, черт побери, заставить их прислушаться к 22-летним парням? Нам нужен был кто-то, у кого чуть больше седины в волосах". У Карпа всклокоченная, как у Космо Крамера или Эйнштейна, седая шевелюра, наследственная дислексия, синдром детской гиперактивности и степень доктора философии – безумный гений из комиксов, на такого нельзя не обратить внимание. Кроме того, как философ он знал, что такое онтология, то есть умел формализовать информацию так, чтобы она стала понятна компьютеру.
Он привлек кое-каких европейских инвесторов. Но главным и почти единственным их клиентом первые три года была венчурная компания In-Q-It, созданная по инициативе директора ЦРУ Джорджа Тенета для инвестирования в технологии, пригодные для шпионажа. Собственного капитала у компании не было – она работала на деньги ЦРУ. В Лэнгли тоже сидят романтики: Q – это кодовое имя главы исследовательского управления британской разведки из фильмов о Джеймсе Бонде. Тиль и Карп предложили компании свою разработку под названием "Игорь", названную так в честь русского мошенника, ограбившего PayPal и заставившего создать алгоритмы, выявляющие подозрительные трансакции. У ЦРУ огромные, но разрозненные и "разножанровые" базы данных. В них трудно ориентироваться, искать пересечения. Аналитики увязают в информационном болоте. Инструменты Palantir способны систематизировать этот хаос. Дело пошло.
В фильме Кэтрин Бигелоу Zero Dark Thirty (в российском прокате – "Цель номер один") показано, что обнаружение Усамы бин Ладена, при всей целеустремленности сотрудников группы по его поискам, стало результатом удачного стечения обстоятельств: что называется, ткнули пальцем в небо. Сегодня считается, что Усаму выследили благодаря технологиям Palantir. Компания как будто не подтверждает это, но на ее сайте размещена статья WSJ именно об этом. Джодж Тенет, бывший советник президента Буша по национальной безопасности Кондолиза Райс и бывший директор ЦРУ Дэвид Петреус и ныне значатся советниками Palantir.
Но у этих технологий есть и обратная сторона. Складывая кусочки паззла, легко принять случайные, ничего не значащие связи за преднамеренные: сел на скамейку, где только что сидел злоумышленник, взял в библиотеке ту же книгу, что и он – и ты уже под колпаком. Именно так отвечал Дональд Трамп, когда его "уличали" в знакомстве с одиозными личностями: мало ли кому я пожимаю руки! По наводке Palantir агенты иммиграционной полиции задерживают ни в чем не повинных американских граждан, контрразведчики заводят оперативное дело на прохожего, ненароком оказавшегося рядом со шпионским тайником в парке...
"Искушение бессодержательного плюрализма"
Сегодня критики Palantir пишут о том, что он якобы превратился в монстра, Большого Брата, а Тиль пугает мир Антихристом, который грядет, если встать на путях развития технологий. От обвинений в том, что Palantir стал оружием тотальной слежки, его руководители до недавних пор отмахивались: мол, не мы собираем и храним эти монструозные базы персональных данных, это делает правительство, а мы лишь предоставляем ему инструмент их систематизации. Они утверждают, что в компании действует моральный кодекс и имеются защитные механизмы, предотвращающие нарушения гражданских свобод, но как это проверить? Майкл Стайнбергер, автор книги "Философ в долине: Алекс Карп, Palantir и зарождение полицейского государства", говорит об этом так: "Я воспринимаю софт Palantir как тостер. Если вы сожгли тост, вы же не вините в этом сам тостер".
Я воспринимаю софт Palantir как тостер. Если вы сожгли тост, вы же не вините в этом сам тостер
Алекс Карп оправдывался аналогичным образом. "Похоже, никого не волнует" тот факт, что 98 процентов реального повседневного мониторинга деятельности американцев осуществляют частные компании, говорил он – зачастую "просто потому, что хотят продать нам, ну, скажем, кукурузные хлопья. Такова реальность жизни на Западе".
Стайнбергер так комментирует эти высказывания:
Судя по его собственным словам... он не рассматривает многорасовую, плюралистическую демократию как ту самую сущностную черту Запада, которую надлежит защищать... Он видит в Западе скорее просто совокупность стран, объединенных общим иудео-христианским наследием и – в разной степени – приверженностью принципам свободного предпринимательства. Думаю, именно такова сейчас его позиция.
Карпу наконец надоело оправдываться, и он опубликовал свой манифест. Это, как он утверждает, краткая выжимка из книги "Технологическая республика: твердая сила, мягкая вера и будущее Запада", написанной им во соавторстве с юрисконсультом Palantir Николасом Замиской, которая вышла в свет еще в феврале прошлого года. В этом тексте 22 пункта, перемешанные довольно хаотично и написанные в разных жанрах. Некоторые звучат как плохая публицистика. Например, последний пункт:
Мы должны противостоять поверхностному искушению пустого и бессодержательного плюрализма. Мы – в Америке, да и на Западе в целом, – на протяжении последних полувека воздерживались от определения национальных культур во имя инклюзивности. Но инклюзивности – во что?
На самом деле он не спрашивает, он знает ответ:
Некоторые культуры породили важнейшие достижения; другие же остаются дисфункциональными и регрессивными. Ныне все культуры считаются равными. Критика и оценочные суждения запрещены. Однако эта новая догма обходит молчанием тот факт, что определенные культуры – и, более того, субкультуры – породили подлинные чудеса. Другие же оказались посредственными, а то и хуже – регрессивными и пагубными.
Есть пункты, которые выглядят как претензия на афоризм в духе Ницше, Ларошфуко или Ривароля:
Осторожность в общественной жизни, которую мы невольно поощряем, обладает разрушительной силой. Те, кто не говорит ничего предосудительного, зачастую вообще ничего существенного не говорят.
Но главный пафос Карпа заключается в том, что Кремниевая долина в неоплатном долгу перед страной, и потому она должна принять участие в защите нации и в спасении западной цивилизации в целом.
Пределы мягкой силы – одной лишь высокопарной риторики – стали очевидны. Чтобы свободные и демократические общества могли одержать верх, им требуется нечто большее, чем просто моральное воздействие. Им необходима жесткая сила, и в нынешнем столетии эта жесткая сила будет опираться на программное обеспечение.
Служба на благо страны должна стать всеобщей обязанностью. Нам как обществу следует всерьез рассмотреть возможность отказа от исключительно добровольческой армии и вступать в следующую войну лишь при условии, что риски и издержки будут разделены между всеми гражданами.
… Атомный век подходит к концу. Завершается одна эпоха сдерживания – атомная, – и на пороге стоит новая эра сдерживания, основанная на искусственном интеллекте.
Разумеется, будущее – за автономными системами оружия, то есть такими, где решение об их применении будет принимать не человек, а ИИ:
Вопрос не в том, будут ли созданы вооружения на основе искусственного интеллекта, а в том, кто именно их создаст и с какой целью. Наши противники не станут тратить время на театральные дебаты о целесообразности разработки технологий, имеющих критически важное значение для военной сферы и национальной безопасности. Они будут действовать.
С миру по нитке, стройной концепции нет, и эта эклектика выдает растерянность автора. Карп пытается оседлать бурю, заново приручить вышедшего из повиновения Голема. Как выражается Гэндальф у Толкина, "опасны орудия, свойства которых превыше нашего разумения". Он сам не знает, к чему все это приведет, но на всякий случай пугает врагами и делает вид, что все так и задумано. Пугает то самое правительство, от которого получает щедрые контракты.
В конечном счете, говорит биограф Карпа Майкл Стайнбергер, "страх – это то, что действительно движет им. Одна из многих удивительных особенностей Palantir заключается в том, что эта компания во многом является воплощением самого Карпа… Он создал Palantir, чтобы сделать мир безопаснее – для себя или для таких людей, как он". Он боится будущего и хочет, чтобы мы боялись вместе с ним, считают оппоненты Алекса Карпа.
Между утопией и комиксом. Palantir спасает западную цивилизацию
Поделиться
Поделиться
Этот контент также в категориях