ИИ: к вопросу о дефиниции

Прочтение эссе А. Н. Поддьякова «Атаки на семантические сети и машинное обучение: нарративы, шутки и угрозы»1 возымело лично для меня два следствия. Поскольку общество — это сеть, пусть не вполне семантическая, то можно углядеть параллель между хакерскими атаками на искусственный интеллект и успешной деятельностью геббельсоидов, которые убедили миллионы, что снег в видимой части спектра черный, а ворона так люминесцирует, что бела на вид. Сама по себе эта параллель тривиальна, но нет ли более существенного сходства? Во-вторых, при пересказе указанного эссе моим ученикам одна из учениц, Д.А. (я преподаю вот тут — FMSH.RU), спросила: а может ли искусственный интеллект превратиться в естественный и наоборот? Вопрос поразил, перепуганный мозг кинулся было под защиту определений, но оказалось, что главного — чем отличается ИИ от ЕИ — мы не знаем. Определения — даже в полугуманитарном смысле — нет.

Можно, конечно, что-то пролепетать про мемристоры и нейристоры, но это не тот уровень ответа, который устроит учеников. Можно апеллировать к психологии и мудро заметить, что наличие ЕИ у собеседника нас не удивляет, а даже подозрение на наличие ИИ у японского унитаза может вызвать сильные эмоции у ЕИ. На это ехидные собеседники могут заметить, что по нынешним временам не наоборот ли? И предложат способ отличить ИИ от ЕИ — по наличию и отсутствию эмоциональной реакции на ИИ и ЕИ; способ хорош самозамкнутостью, как «сепульки» и «сепулькарии», а плох тем, что получается четыре варианта, а мы отправились в лес за двумя.

Попутно заметим, что объем опубликованного по проблеме ИИ не обязательно говорит о важности оной проблемы для импортозамещения и прогресса человечества вообще; он может быть следствием, скажем так, эмоциональной важности. То есть успешного паразитирования пишущих на страхах читающих. А вот интересно, страхи читающих — они Е или И? Может быть, Е, но И-раздутые? Не где-то ли рядом лежит ответ на вопрос, с которого мы начали?

Традиционный путь возникновения и развития науки таков: интуитивное → кодирование → согласие → продвижение. То есть имеем какое-то интуитивное представление (например, об «энергии» или «должном»), какое-то время, завернувшись в простыню и прохаживаясь, дерем глотку по-древнегречески (автор этой заметки это делал, но не у Кащенко, а в ролевушке), потом, когда надоест, разрабатываем систему терминов (понятий, определений, связей и т. д.), чтобы хоть как-то друг друга понимать, достигаем какого–то согласия (с «энергией» это получилось, с «должным» — пока не очень) и начинаем продвигать науку дальше (то есть опять простыня и прохаживаться).

Поскольку интеллект (и ИИ, и ЕИ) как кусок явно шире рта, пойдем по традиционному пути — разбиением на куски (как иные торты — нарезав и проложив неадгезивной пленочкой). Поскольку в терминах «ИИ» и «ЕИ» есть нечто общее (вторая буква), то и куски должны иметь нечто общее, т. е. должны иметь отношение к интеллекту. А если среди них мы обнаружим комплементарную, как транзисторы, пару, но существенно разнящуюся по доле первой буквы, то продвинемся в понимании. Причем продвинемся даже в чисто дискретном случае, т. е. если сами куски будут чисто И, или чисто Е. Ибо если таких пар будет более одной, у нас возникнет шкала различий — дискретная, но, по крайней мере, метрическая. А если сами куски могут быть частично И или Е, или/и мы введем «веса», то возможна и непрерывная метрическая шкала. Итоговым параметром разума мы будем, естественно, считать сумму произведений параметров кусков на их вес; веса определим опросом респондентов. То есть выясним, что именно воспринимает пипл как Е и И, если речь идет о ЕИ и ИИ. Потом, конечно, отнормируем, чтобы диапазон был от 0 до 1, или, традиционно и скрепно, от 0% до 100%.

Приколись, пипл: мы поломали примитивную дихотомию «ИИ или ЕИ», ввели понятие степени искусственности, ИЕ-индекс, причем с непрерывной шкалой. Примерно так: «Смотри, милая, какой мужчина, какой размер ноги, какой интеллект, естественный на 31,4%, ИЕ-индекс 0,314!» — «Да ты что, откуда ты это взяла, максимум 0,2718!»

Фантасты уже давно всякие гибридные, т. е. промежуточные между ИИ и ЕИ варианты, рассматривают (и это вполне заслуживает отдельной статьи). Но тут перед нами оказывается традиционный камень с тремя стрелками — куски могут быть, материальные и информационные, а информационные — на вход, т. е. относящиеся к обучению, и на выход, т. е. функциональные. Рассмотрим эти три группы последовательно, обращая внимание на возможность изменения их собственного ИЕ-фактора и их вклад в восприятие ИЕ-фактора целого объекта, а стало быть, и возможность изменения этого фактора у всего объекта — с чего, собственно, мы и начали.

Начнем с функционального куска, благо он один. Функция у интеллекта одна — решать задачи; но что его характеризует? Мощность (скорость решения в зависимости от сложности), универсальность (для разных задач), стабильность (независимость от эмоций и стресса). Кажется, что ИИ должен по этим параметрам отличаться от ЕИ, и язык это отражает: фраза про человека «ну, он мыслит, как компьютер» будет собеседником понятна. Но эта же фраза говорит о том, что бывают люди, которые удивляют значениями этих параметров. И ничего страшного, мы продолжаем их считать людьми. Разве что очень высокая мощность, т. е. на уровне хорошего компьютера, может служить надежным признаком ИИ. В остальных случаях этот признак если и используется, то с малым весом. Соответственно, и изменение этих параметров мало о чем говорит, разве что потеря способности разлагать на два простых сомножителя длинные числа. И то мы скажем «ИИ сломался», а не «ИИ превратился в ЕИ».

Здесь уместно вспомнить общение Криса Кельвина с компьютером станции Солярис: «Мой мозг может быть поражен болезнью, но он не в состоянии — ни при каких условиях — произвести расчеты, выполненные большим вычислителем Станции, потому что они потребовали бы многих месяцев». Кстати, именно этот компьютер позже обрел ИИ, сведения об этом скоро будут опубликованы в журнале «Млечный Путь».

Что касается функций интеллекта, то А. Н. Поддьяков указал, что у интеллекта есть еще одна функция — придумывать задачи. Причем есть хорошие решатели кем-то поставленных задач, но как постановщики они не очень; и хорошие постановщики, которые сами с поставленной ими же задачей могут и не справиться, и в дело вступят другие люди. Ставить задачи умеют даже кошки перед котятами (сам видел), а уж преподаватели занимаются этим непрерывно. Причем «ставить» и «решать» переплетены сильнее, чем кажется. В физике решение поставленной природой задачи часто начинается с ее упрощения — а это уже постановка. В математике для такой промежуточной задачи есть даже специальное слово — лемма.

Обратимся к кускам, относящимся к получению информации, к обучению. Информация и программы, которыми располагает ИИ, могут быть просто в него переписаны (рекомендую USB4), c ЕИ это пока не реализовано, хотя фантасты на данную тему развлекаются издавна. Разумеется, программы — это тоже информация, но усвоение информации и программ происходит по-разному, поэтому они здесь и разделены. Информация может сопоставляться с уже имеющейся, а программы могут сопоставляться с уже имеющимися программами. Возможные последствия — отторжение нового или старого, внесение корректив в новое или старое, построение комбинированной картины, поиск дополнительной информации. Можно ожидать, что реакция ЕИ окажется более разнообразной, чем реакция ИИ. В частности, потому что ЕИ изначально (то есть генетически) более разнообразны.

Степень способности критически отнестись к сообщаемой информации и программам может считаться признаком ЕИ. В какой-то мере она может быть реализована и в ИИ, причем посредством соответствующих программ, — и постфактум. И в этом смысле можно если и не превратить ИИ в ЕИ, но — в зависимости от веса, который мы присвоим этому параметру, — сдвинуть итоговое значение ИЕ-индекса к Е-концу шкалы. Можно и в обратную сторону — у ИИ можно отключить соответствующие функции, а у ЕИ можно соответствующим воспитанием (в Интернете сказали бы «зомбированием») ослабить эту способность. Кстати, спросите социологов — они подтвердят, что изрядный процент дорогих россиян, братьев и сестер, спокойно выбирает в анкетах логически несовместимые ответы. Здесь уместно вспомнить моего преподавателя философии, Ю. П. Трусова, который однажды высказался примерно так: «Философия — это вовсе не то, что обычно под этим понимают. Это внутренне непротиворечивая, адекватная окружающему миру и достаточно полная система взглядов, — тут он сделал правильную паузу, — которая со временем складывается в мозгу у некоторых людей».

Процесс программного наполнения может реализоваться (и для ЕИ, и для ИИ) в разных режимах. Скажем, «режим чистого учебника» — когда в обучаемого просто вводится учебный материал (и сопоставляется либо не сопоставляется с уже имеющимся материалом). «Режим учебника с взаимодействием с реальным миром» — когда вводимый материал сопровождается лабораторными работы или подключением (напрямую или через Интернет) к приборам, направленным на мир. «Режим учебника и задачника с модельными задачами». «Режим учебника и задачника с задачами из реального мира». Понятно, что с ИИ у нас ассоциируется начало списка, а с ЕИ — его конец. Причем кажется, что для определения ИЕ-индекса этот пункт более важен, чем предыдущий.

Заметим, что (аналогично предыдущему) варианты с взаимодействием с реальным миром должны предусматривать обработку неполного совпадения модели и мира. Этот блок, как и при любой педагогике, управляем (одна ручка — отношение «учебник/задачник» и две ручки — «степень контакта с миром для учебника» и «для задачника») и, соответственно, в некоторой мере управляем и суммарный индекс. Причем в соответствии со сказанным выше о возможности разной эффективности для постановки задач и для решения, может оказаться, что для конкретного интеллекта этот индекс различен, если речь идет о постановке задач и о решении.

После обучения начинается — не все в это верят, но это так — жизнь, то есть общение и работа. С одной стороны, как бы мы ни давали определения и как бы ни измеряли, человек не любит менять свои взгляды. И если мы уже назвали какой-то интеллект искусственным или естественным, нам будет трудно изменить свое мнение на этот счет. С другой стороны, капля точит камень, и что если эта кукла с транзисторами и нувисторами внутри день за днем и ночь за ночью проявляет чисто человеческое понимание? И не важно, что я не могу тебя взять на руки и что твои ноги оставляют на песке слишком глубокие следы (Станислав Лем, «Маска»).

Теперь — материальное, два аспекта, внутренний и внешний. Внутренний — ЕИ состоит из нейронов, ИИ — из болтов и гаек. У Станислава Лема («Звездные дневники Ийона Тихого. Путешествие двадцать первое») некоторые персонажи имели два мозга, один возили не тележке перед собой, другой — сзади, соответственно, для размышлений о высоком и низком. Правда, были ли эти мозги в смысле ИИ и ЕИ разными или нет, пан Станислав не сообщил. Тут просматривается некая связь с фразой «задним умом крепок», но не будем отвлекаться. Кстати, есть ли в фантастике сюжет, когда внешне единый объект является носителем двух интеллектов? И не начнут ли они конфликтовать?2 Я знал женщину (М.Г.), которая была близка к обладанию двумя интеллектами, и они в ней уживались вполне мирно.

Мозг, частично состоящий из нейронов, частично из многоколлекторных транзисторов (ходят слухи, что бывает и из многоэмиттерных, но кто ж верит слухам), уже несколько лет как реальность. И если изначально хочется присвоить ИЕ-индекс в соответствии с их долей в коре, то что мы скажем, когда моя радость признается мне…

… как-то раз, ласково запуская пальчики в мою гриву, скажет мне не про две полосочки, а про то, что она раз в неделю (днем, в четверг) ходит (ну, ты понимаешь, куда): «Я выбрала самый дорогой и надежный центр (да, это на деньги, что ты мне подарил на день рождения), два процента за раз (быстрее не рекомендуют), так что еще полгода — и всё, буду думать втрое быстрее, и гарантия от Альцгеймера и всех прочих гадостей3. Может, и тебе, милый, об этом подумать? Твои нейрончики, они уже не молоды… Сделаем, как и мне, графеновые, я тебя еще больше любить буду, я уже сейчас тебя больше люблю (ты ведь заметил?), ведь втрое быстрее, это не шутки, а так и ты будешь втрое…»

Так что дело, как ни странно, не в болтах и гайках, а в том, как это будет подано, как это проявится внешне, и в нашей реакции. Общество вполне может быть расколото, и половина, спасая свою жизнь и жизнь своих переведенных на графен подруг, будет стрелять из окон в жаждущих крови ретроградов…

Внешний вид — второй материальный аспект. Но и здесь не всё просто. Некоторые авторы упоенно пишут, о том, что самое страшное — это когда робот (подразумевается с ИИ) похож на человека4. Но если бы это было так, то фирмы, выпускающие сексуальных кукол, давно бы разорились — они бы даже толком не вышли бы на рынок.

Что касается модификации внешнего вида, то и у ЕИ она возможна — особенно с учетом успехов пластической хирургии, а у ИИ она почти безгранична. Можно осторожно предположить, что в будущем возникнет два направления моды — максимальная антропоморфность и некая «собственная мода» ИИ, близкая к человеческой, но с небольшим, четко обозначенным отличием. Уже сейчас подобное можно видеть на картинках. Значимость этого фактора для людей может быть определена психологами и социологами и, соответственно, — его вклад в ИЕ-индекс.

Широко распространено некорректное применение при описании всего общества психологических терминов, относящихся к конкретному индивидууму (общество напряжено, общество испугано и т. п.). Тырить у психологов термины можно, но нужно не просто подражать, а давать определение, объяснять, как измеряли и вычисляли степень «напряженности» и испуга. Можно попробовать ввести термин «интеллект» для общества, определив его через способность решать и ставить задачи (причем как явно декларируемые, так и не декларируемые). Тогда интеллекту общества можно будет приписать не только (см. выше) уровень, спектр и устойчивость, но и ИЕ-индекс. И может так статься, что неумение и нежелание сопоставлять и думать сдвинет общество не только к миске с баландой, но и к И-концу шкалы. Причем именно в варианте болтов и гаек…

Леонид Ашкинази

---

1 ТрВ-Наука № 358 от 26 июля 2022 года. trv-science.ru/2022/07/ataki-na-semanticheskie-seti-i-mashinnoe-obuchenie/

2 Вспоминаются трехголовый Змей Горыныч, многоголовые мутанты, фантастические шизофреники и тяни-толкаи… Или в рассказе Джона Кэмпбелла два путешественника, оказавшихся на Трансплутоне, за орбитой Плутона, обнаружили там гигантские цилиндры, за миллионы лет эволюционировавшие до такой степени, что разум отделился у них от бренного тела и перестал что-либо контролировать. С ними очень приятно беседовать, но грубое тело в процессе этой беседы норовит отнять у собеседника последние крохи тепла (fantlab.ru/work63722). — Прим. ред.

3 Фильмы с сюжетом про «идеальных» «Степфордских жен» по одноименному роману Айры Левина снимали в США в 1975 и 2004 годах.

4 Эффект «зловещей долины» (яп. 不気味の谷, англ. uncanny valley): согласно гипотезе, сформулированной японским робототехником Масахиро Мори, робот или другой объект, выглядящий или действующий примерно как человек (но не в точности так), вызывает отвращение и неприязнь.