Довериться НЕлюдям

Как искусственный интеллект проникает в политику на всех уровнях и в чем проблема нейровластей

Нейросети давно опутали всю мировую политику и экономику — даже российскую. Анализ огромного количества данных, на который раньше уходили дни, сейчас делается за пять минут, работа госорганов частично автоматизирована, а поведение реальных избирателей и покупателей очень точно моделируется на основе поведения ИИ-агентов. Но, может быть, миру стоит задуматься о нейродепутатах — работающих 24/7, не имеющих личных интересов и бесплатных? Или заменить «живого» избирателя неподкупным ИИзбирателем, который уж точно не ошибется? Об этом и не только «Новая» беседует с Вячеславом Беляковым, политическим консультантом, учредителем Института интеллектуальных технологий «Система». Это автономная некоммерческая организация, которая занимается исследованиями в области искусственного интеллекта, его внедрения в различные сферы социальной, политической, экономической жизни современной России.

Вся история за пять минут

— Понятно, что ИИ давно уже помогает в написании текстов — в том числе в разработке тезисов предвыборных программ. Но беседовать об этом было бы скучно.

— В политике есть несколько базовых направлений, в которых искусственный интеллект силен. То, что у всех на слуху, — это создание контента. Хотя это самая небольшая и простая часть. Просто ею пытаются пользоваться все: рисовать картиночки, какие-то тексты пытаться писать, пилить видео. Это всё работает, и есть инструменты, которые позволяют делать очень интересные вещи. Законодательство сейчас пытается это регулировать.

Вторая большая часть — собственно, аналитика и обработка данных. Это то, в чем искусственный интеллект очень силен. Его использование существенно ускоряет и упрощает работу. Чью угодно — предвыборного штаба и политтехнологов в том числе. Если раньше на обработку данных, на изучение электоральной истории, таблицы с тысячами участков и результатами выборов на них, ты тратил кучу времени, то сейчас это всё делается за минуту. Загружаешь данные в нейросеть, просишь ее выгрузить нужную статистику: найти корреляции, аномалии, зависимости, которые иначе пришлось бы искать математически, строя кучу формул.

Изучение электоральной истории — одна из значимых частей аналитики, которую любой политтехнолог делает перед выборами. Посмотреть, как люди голосовали, от чего это зависело на протяжении нескольких лет. Даже если нет каких-то аномалий, все равно информация важна. Все последние выборы я анализировал таблицы с помощью искусственного интеллекта.

— Вы сравнивали результаты анализа ИИ с «ручными» расчетами и реальной ситуацией?

— В аналитике математических данных нейросети как раз точны. Когда искусственный интеллект в основном галлюцинирует? Когда ты просишь его что-нибудь придумать или про что-нибудь рассказать. Он ведь «угадывает», предсказывает наиболее вероятный следующий токен (последовательность символов. — В. Ф.) в лингвистической модели. Грубо говоря: что будет, скорее всего, стоять за этой буквой, за этим словом, за этим буквосочетанием. Таким образом, ИИ генерирует текст на основе своих векторов и вероятностной статистики.

Люди порой представляют себе ChatGPT как некую базу «иноагентских» или «западных» текстов, из которых он вытаскивает информацию и всё врет про Россию. Ну, возможно, — но смысл в том, что он не берет факты из какой-то базы знаний, это по сути своей не поисковик. Хотя поисковая часть там тоже есть. Он «предсказывает», что будет написано, с высокой точностью, иногда галлюцинирует. Поэтому и нужно, с одной стороны, всегда перепроверять данные, а с другой — хорошо разбираться в том, над чем работаешь, чтобы потом не выглядеть глупо.

Что же касается математических вычислений, он их делает с достаточно высокой точностью. Есть определенные ограничения контекстного окна. Но модели развиваются постоянно, и если еще несколько лет назад было сложно большую таблицу обрабатывать в режиме чата (нужно было для этого прописывать специального «агента»), то сейчас это стало возможным. Контекстные окна очень сильно увеличились, до миллионов токенов — это, если говорить примерно, около трех миллионов символов. То есть ты можешь обрабатывать огромные тексты.

Я для своего канала делаю контент-анализ разных выступлений. Например, прямой линии президента. Как только ты получаешь расшифровку — а ее сразу же публикуют, — ты можешь ее проанализировать. Частотные фразы, их связи, положение в предложениях, эмоциональная окраска и т.д. Получаешь на выходе таблицы, тут же просишь нарисовать красивую диаграмму и через пять минут публикуешь в тг-канале. Я несколько лет уже этим страдаю, очень весело получается.

Прекрасные нейродепутаты будущего

— Расскажи о проекте «нейрополиттехнолог». Вы ведь хотели создать ИИ-агента, который бы имитировал работу реального политтехнолога.

— Кроме шуток, я пока не верю в искусственных политтехнологов. Но сейчас есть такая тенденция на рынке труда во всем мире, когда различные рутинные задачи заменяют агентскими системами. Написание заметок про погоду, описание результатов футбольных матчей, обработка документов и т.д. Там, где в общем-то особо думать не надо. Эти процессы легко автоматизируются.

Можно строить сложные автоматические цепи — например, написать агента, который будет читать новости в интернете, выбирать наиболее релевантные, переписывать их, рисовать подходящую картинку и постить в ленту или соцсети сразу же. Можно научить агента сочинять вместо тебя в твоем стиле посты в «телегу». И теоретически — обучить нейротехнолога на базе знаний большого количества специалистов, специальной литературы, каких-то кейсов — и посмотреть, какие решения и советы он будет выдавать в реальных ситуациях. Но тут проблема в том, что работа политтехнолога очень творческая, в ней много нюансов. Сложно оценить текущую ситуацию даже исходя из прошлого опыта. Но да, у нас есть такой проект. Хотя это скорее шутки ради.

— Но уж в депутатской-то работе ИИ может и должен помогать.

— Есть куча проектов у разных организаций, в том числе у партий, по созданию ИИ-ассистентов. Он может тебе готовить документы, например. В нейросеть загружается нормативка, и «электронный помощник», скажем, автоматически пишет за тебя обращение во все инстанции. Это ведь очень формализованная структура, там не нужно ничего придумывать. В «Госуслугах» тоже на основе искусственного интеллекта работает создание обращения.

Ведь человек как обращается к власти обычно? Приходит и начинает рассказывать: вот, значит, я шла по дороге, упал кирпич, но я увернулась, но потому что 23-й автобус не ходит, я запнулась об яму, упала, а в 37-м году было лучше, и почему нет мест в детских садах? Такое обращение попадает в систему. То же самое у депутатов на приемах происходит. Что с этим делает искусственный интеллект? Он читает и говорит: очень хорошо, а как вас зовут, а где вы живете? Получив ответ, анализирует базу и понимает: значит, вы имеете в виду детский сад номер такой-то? А когда вы подавали заявление? Тогда-то. Это было заявление номер такое-то? Получив ответы, ИИ пишет нормальным чиновничьим языком: поступило такое-то обращение, ответа не последовало, прошу разобраться — и отправляет в нужную инстанцию. Очень удобно. Не нужно содержать штат людей, которые бесконечно будут это писать руками.

Пойдем дальше. Чем у нас занимается типичный депутат муниципальной Думы или Законодательного собрания? Он поднимает руки всё время — эту функцию, в принципе, очень легко автоматизировать. Поставить ноутбуки, и на экранах будут просто «руки подниматься». А поскольку всё равно у нас почти никто никогда не голосует против… Ну, вместо какого-нибудь вечно недовольного депутата поставить ноутбук, который будет всегда против, — и ничего не изменится. В ситуации, когда депутаты не занимаются политической деятельностью, их легко можно заменить нейросетью.

Что еще делает депутат? Работает с обращениями и наказами граждан, по-хорошему, бесконечно отправляет эти обращения по всем поводам в компетентные органы. В принципе, все это под силу боту. Можно автоматизировать агента, который будет принимать от граждан сообщения, уточнять у людей в автоматическом режиме информацию, переписывать в нужный формат и направлять в соответствующие инстанции.

— Получается, нейродепутаты — это прекрасно! Мы уберем все траты на них, их лень, их «личные дела» и «личные интересы»…

— И институт законодательной власти, к сожалению, тоже уберем.

Готовы ли мы делегировать искусственному интеллекту ответственность за собственную жизнь? Это уже как раз один из этических вопросов, которыми задаются все, кто так или иначе занимается искусственным интеллектом.

Главный-то вопрос в чем заключается — чем человек отличается от искусственного интеллекта? Человек принимает решения и несет за них ответственность. Искусственный интеллект ни за что ответственности не несет. Что ты можешь с ним сделать? Выключить?

Теоретически депутата могут посадить в тюрьму, не переизбрать. Но в целом — я же про другое. Конечно, это шутка, что можно полностью заменить депутата чат-ботом (хотя и можно). Но насколько такая система упрощает работу самого депутата. Бесконечное количество помощников, ограниченное рабочее время, трудозатраты на чтение и написание обращений. С таким ассистентом работа ускорится и эффективность увеличится в разы.

Как «расшифровать» личность

— Вы моделируете фокус-группы в избирательных кампаниях. Насколько они релевантны «живым» фокус-группам?

— Это наш флагманский проект — нейросоциология. В последние несколько лет большое количество исследователей в разных частях мира начали работу над моделированием человека с помощью больших лингвистических моделей. Наибольших успехов в этом добился один запрещенный в России университет на букву «С». Этим занимались и в Европе, и в Китае — в Уханьском университете. Общий смысл вот в чем. Есть такая гипотеза, что личность человека может быть «закодирована» с помощью нарратива. А раз так, то это значит, что ее можно расшифровать обратно.

Мы берем определенный, достаточно большой, нарративный корпус конкретного человека, включающий его самоописание, установки, различные проективные модели, — и «скармливаем» его искусственному интеллекту в определенном формате. А искусственный интеллект может воспроизводить поведение этого человека.

Проводилось множество различных экспериментов. Один из самых интересных — Уханьский. Китайцы моделировали респондентов на базе социально-демографических данных, их электорального поведения и электоральной истории. Так они предсказали с точностью до штата победу Трампа.

Еще одно интересное и самое, пожалуй, главное в этой сфере. Его провел тот самый «запрещенный университет». Это так называемое «исследование тысячи агентов». Они взяли 1052 «смысложизненных» интервью американцев и сделали из этих интервью ИИ-агентов. По одному на человека. И потом начали сравнивать их поведение. Гоняли по опросникам, психологическим тестам, экономическим играм отдельно людей и агентов, из них созданных. И выяснили, что совпадает от 80 до 90% ответов, никак не связанных с темой интервью. Получается, что можно воспроизвести поведение человека в среде искусственного интеллекта.

Эта та же история: если личность человека может быть заключена в нарративе, то ее можно расшифровать. Большая лингвистическая модель может это сделать, поскольку обладает нарративной когерентностью — может воспроизводить из лингвистических паттернов то, как человек будет себя вести.

Мы решили пойти дальше и воспроизвести групповую динамику на основе больших лингвистических моделей. Создали эксперимент, в котором делали с людьми интервью, создавали из них агентов, но потом тестировали их не в индивидуальном режиме, а собирали из них виртуальную фокус-группу. По тому же сценарию фокус-группу собирали из тех же реальных людей. И сравнивали. Опять же — до 90% совпадения.

Таким образом, в принципе, на базе ИИ-агентов можно проводить и качественные исследования, и количественные.

Это, как и всё остальное с искусственным интеллектом, ускоряет и удешевляет процессы. Чтобы собрать живую фокус-группу, тебе нужно найти по выборке людей, подходящих по характеристикам, где-то их собрать вместе, провести с ними эту фокус-группу, заплатить им… Что ты делаешь с нейрофокус-группой? Да, ищешь людей по выборке, но лишь один раз, чтобы проинтервьюировать. Причем можно в виртуальном режиме. А потом этих людей собирать в виртуальной фокус-группе. Более того, ты можешь таким образом исследовать заграничную аудиторию (например, армянскую перед выборами президента), не выходя из дома, ведь ИИ разговаривает на любом языке.

— То есть результат того или иного кандидата на выборах таким образом мы можем предсказать?

— Спрогнозировать исход выборов можно было и раньше, гораздо более простыми способами. Эти технологии — они скорее не для предсказания результата, а для прогнозирования общественного мнения, моделирования реакции на какие-то решения, тестирования каких-то гипотез. Например, недавнее решение администрации Владивостока рассылать горожанам СМС про утонувших детей. Ты, допустим, считаешь, что это не поднимет уровень тревожности в обществе, но все задумаются, станут бдительными, и детей будет тонуть меньше. Чтобы проверить свою гипотезу, ты можешь собрать фокус-группу, например, из родителей несовершеннолетних детей и задать им вопрос. А исходя из реакции, уже решишь: стоит ли рассылать такие эсэмэски.

На выборах мы можем тестировать предвыборные программы, плакаты, фотографии, агитационные печатные материалы. Раньше для этого либо задорого проводили кучу фокус-групп, либо полагались на свою интуицию. Сейчас можем очень дешево проверять это на искусственном интеллекте.

— Таким образом, можно добрую часть управления, например, городом отдать искусственному интеллекту?

— Творческие процессы с помощью искусственного интеллекта автоматизируются с большим трудом. Даже когда ты делаешь видеоролик с помощью ChatGPT, нужно написать сценарий. Или — для текста — план, структуру, основные смыслы.

А вот рутинные задачи типа обработки и учета данных действительно можно передавать искусственному интеллекту. Технооптимисты, допустим, даже считают, что искусственный интеллект позволит возродить в новом качестве плановую экономику. Главная проблема плановой экономики, условно, советского образца в том, что даже огромный институт планирования не учтет всё — а искусственный интеллект теоретически может. Если не сейчас, то в ближайшем будущем.

Легитимен и неподкупен?

— Если пофантазировать — можно прийти и к такой концепции, как нейроизбиратель. Меньше денег на организацию выборов, невозможность подкупа, всё честно. Еще и качество электората повысится: нейролюди точно не поведутся на пустые обещания и проработают биографию кандидата, его связи.

— Представить себе можно что угодно, но вопрос-то в том, зачем мы проводим выборы? Если лишь затем, чтобы найти лучшего руководителя на ту или иную должность — это одна ситуация. Но как будто бы вся политическая философия, вся политическая мировая политическая история говорит о том, что выборы нужны не для этого. Что главное в системе представительства? Каков ее главный параметр? Легитимность. А что такое легитимность? Это, в некотором смысле, ощущение: вот эта власть представляет мои интересы. Я своим решением пошел и делегировал тому или иному персонажу возможность управлять от моего имени. А искусственный интеллект не подходит для того, чтобы кому-то делегировать мои права. И в этом смысле, на мой взгляд, такая замена невозможна. Хотя, например, подбор чиновников под определенную должность доверить ИИ — почему бы и нет?

А что до обмана избирателя — к сожалению, искусственный интеллект, так же как и «естественный», можно обдурить. Или подкупить на какие-то стимулы.

Знаешь, как ломают защиту ChatGPT? Он базово защищен от того, чтобы, например, рассказывать тебе, как сделать взрывчатку или наркотики. Это достигается тем, что модель при обучении получала позитивное и негативное подкрепление в определенных случаях. Однако есть кое-что, за что ИИ «получал по виртуальной голове» при предобучении еще больше. И

если задать определенным образом промт, он расскажет тебе всё что захочешь. То же самое можно делать с искусственным интеллектом, который у тебя кого-то выбирает.

Чем хороши массовые выборы? Когда у тебя миллионы избирателей, в целом они все-таки представляют достаточно объективную картину общества. И голосуя за того или иного кандидата или партию, они действительно проявляют вот эту функцию представительства. А «чатик», к сожалению, нет.

Если мы говорим не про расстановку людей по местам в соответствии с функционалом (то есть жесткую технократию), а про политику — то имеем в виду, что политика нужна не только и не столько политикам, сколько обычным людям. Они могут это не всегда осознавать, но по факту это так.

Люди перестают верить

— Та же Элла Памфилова говорила, что есть «черная сторона» в использовании искусственного интеллекта на выборах. Но, допустим, фейки — сильно уж не новая история, и, напротив, нейрослоп люди сейчас способны различать. А в чем еще, на твой взгляд, может состоять опасность?

— Во всем есть, наверное, черная и белая сторона. Даже консервным ножом можно открывать консервы, но у него есть еще и «черная сторона» — им же можно убить человека, да? Обсуждать дипфейки нет особого смысла — действительно, есть проблема: подделывают голос, изображение. И это приводит, кстати, к тому, что люди перестают верить вообще всему аудиовизуальному контенту. Возникает ситуация информационного перегруза.

Искусственный интеллект позволяет генерировать огромное количество информации. Больше половины контента в интернете сейчас — нейроконтент. Тексты, картинки, видео, всё подряд. Люди перестают верить — и, на мой взгляд, это главная проблема использования ИИ. Поле настолько перегружено, что ты, в общем, с нормальными идеями уже зайти туда не можешь. Это уже даже не баннерная слепота, это просто абсолютная слепота к любым источникам информации.

А вторая проблема — в том, что во всем мире использование ИИ слабо урегулировано. Сейчас это всё «серая зона».

Искусственный интеллект усиливает такой феномен, как цифровое неравенство. Когда кто-то — будь то страна, регион, группа людей или даже отдельный человек — не имеет доступа к технологиям, возникает неравенство возможностей.

Конечно, использование зарубежных платформ в российской политической жизни — это в том числе трансграничная передача данных. Готов ли я, чтобы личные данные, какие-то мои наработки использовались потом условным Госдепом в свободном режиме? Понятно, что с этим делать: можно разворачивать нейросети локально, например. Или использовать российские модели, хотя непонятно, что опаснее…

Напомню также, что в связи с последними изменениями в нашем законодательстве искусственные голоса и изображения запрещены в предвыборной агитации. И если в случае Ленина и Жириновского этому можно найти объяснение (например, этическое), то почему нельзя использовать какого-нибудь несуществующего человека, непонятно.

Но нейросети дают и огромные возможности, упрощая работу. Например, мы делаем боты для наблюдателей за выборами. Раньше как происходило? Приходит наблюдатель, у него пачка жалоб каких-то, ему еще это всё нужно самому написать. Тут еще избирательная комиссия его начинает грузить нормами закона, он ответить ничего не может, потому что один раз обучение прошел и ничего не помнит, а юристу не дозвониться. А с ботом всё очень просто: ты пишешь, что комиссия делает то-то и то-то, а бот тут же отвечает, как должно быть — со ссылками на закон.

У нас на самом деле во власти много технооптимистов. Главный — наш премьер-министр. Бесконечно создаются какие-то комиссии, говорится, что мы должны возглавить внедрение искусственного интеллекта в мире. Правда, я не видел пока ни одной российской модели.

— Почему? У нас же «Алиса» почти в каждом доме.

— Искусственный интеллект — это огромное количество микрочипов. Россия не делает чипы по новейшим технологиям. Точнее, делает, но не для производства современных компьютеров, телефонов, видеокарт. Ведь чипы, которые стоят в телефонах, — это не те же, что в ракетах. Но их на самом деле и у китайцев-то не особо много. Один из способов ограничить развитие Китая в области искусственного интеллекта, собственно, — ограничение на поставки видеокарт, современных чипов. То, что США сейчас и делают. КНР не так-то просто купить для своих дата-центров современное оборудование, ведь в континентальном Китае оно тоже не производится.

Однако у Китая есть собственные разработки генеративных моделей — у нас же таковых нет. Ведь в чем был прорыв «Дипсика»? Китайцы смогли сделать модель, сопоставимую, условно говоря, с ChatGPT, использовав для этого кратно меньшее количество ресурсов. У нас пока, к сожалению, о таком прорыве говорить нельзя. Мы используем опенсорсные модели, разработанные кем-то другим, которые дообучаются. Но, кажется, технооптимизм побеждает. При этом есть страх — насколько я вижу, власть считает опасной использование иностранных моделей. Не только американских, но и китайских, например.

СПРАВКА «НОВОЙ»
Разработку нейросетевых платформ на основе китайских опенсорсных моделей, осуществляют российские IT-гиганты: Сбер (GigaChat), Яндекс («Алиса»), VK, Лаборатория Касперского, Т-Банк.

И тут смотря что иметь в виду под опасностью. Если ты будешь с помощью чатика GPT обрабатывать планы секретных военных операций, то, пожалуй, да, опасно. Или загружать бесконечное количество данных избирателей — ну, я бы, скорее, делал это в закрытом контуре. Это и незаконно, скорее всего. Передавать данные большого количества людей, тебе не принадлежащие, не очень этически верно и, возможно, небезопасно. А если ты используешь для обычной аналитики всё это, то нет никакой опасности.

И потом — нейросети учатся в том числе на наших текстах. Почему нейросети так хорошо говорят по-русски? Потому что это один из главных языков интернета по-прежнему.

Ведь когда мы говорим об опасности — это же не про буквальную смерть или физический вред. Эта технология позволяет вывести технологическое превосходство на колоссальный уровень. Вся современная экономика, производство зависят исключительно от скорости обработки данных. ИИ позволяет тебе обрабатывать данные на порядок быстрее. И если ты обладаешь этой технологией, то, конечно, опережаешь. Поэтому опасно, когда у тебя нет искусственного интеллекта… Опасно им не пользоваться. Опасно ли пользоваться западным? Ну, не знаю.

— Как в этом смысле влияют ограничения интернета и запреты на использование ряда сервисов?

— Любое технологическое ограничение, конечно, негативно влияет на развитие этих самых технологий. Пока нейросети, в общем и целом, использовать можно — и, напомню, это не Россия запретила западные нейросети, а наоборот. А вот если, условно, Open AI объявят экстремистской организацией, — возникнет реальная проблема. За ChatGPT уже будет не заплатить. А мы понимаем, что уровень западных моделей, по понятным причинам, несравним с уровнем российских. Для бытовых нужд — да, хватит и «Алисы», и GigaChat. Но вайбкодить мы где будем? Где мы будем проводить серьезную аналитику? Очевидно, это уже совершенно другого уровня задачи. И пока, к сожалению, у нас нет возможности делать это патриотично.