Dialogues of Bongard and Nyberg on the construction of machine thinking (1957–1968) - Trinity option - science

In my opinion, the subject is an exceptional historical interest: then there was the era of conquest of the cosmos, the dawn of the computer era, more recently (in 1953), screams and Watson made their discovery, and from here the enthusiasm of our biophysicists, especially Efima Liberman, came from: she is already the same , a universal Turing machine, embodied in just “what is required”: a strong molecular tape, a universal biological carrier of information.

Conversations (scientifically speaking, dialogs, and in fact - bickering) of two unique personalities, Mikhail Moiseevich Bongard 1 and Nikolai Dmitrievich Nyberg, stemmed before our eyes or, at least, were remotely audible (if the doors to the office of Nikolai Dmitrievich were covered) .

It is unlikely that in these conversations there was something very new for the pro, but they were conducted among us, Profans; It was exciting to us, despite the internal mental protest. At that time, a lot was VNOVA, and our motto was already: “The retina is part of the brain put forward to the periphery” (read: “We’ll figure it out, then you will see!”).

My description will be of the character of the settings for the script of the movie about “Science, as it really is” (option “... from the first person”). The fact is that at that time the novels of Arthur Haley were popular with brief names (“Airport”, “Hotel”), inspiring something mirror: “Academy”, “Institute”, “Laboratory”. Observations and defendants, all unique, was the sea - colleagues can confirm. So…

Bongard, unconditionally - a titanic figure, and deservedly. I will not be about his health (victory over tuberculosis) and mountaineering (the masters of sports of the USSR did not give in vain in mountaineering), and I say this is not wasted. From childhood under the supervision of a grandfather - an excellent teacher; with a quick mind, honed in the dentist of school youth, hardened in the rejection of the total ideological lies (scientific construction of communism); Especially the person who has passed the front; From the cohort of these countless ones, with a defeat on the fifth point. To finish with a different physical factory of Moscow State University in the department of vibrations and to be without work (in the notorious 1952, when many of these were driven from closed projects). For a connoisseur of oscillations in distribution, there was no better application than in a factory of balalaks in the village of Shikhovo! (Next to the ZBS - our Zvenigorod biostation of Moscow State University). From there it would be anywhere, but there wasn’t such a bad place - a planetarium, where the same unemployed, for the same reason. And here is such a “school of dancing”: you give a lecture, and your partner (the same heated) lies your transparencies: “And come on without hesitation. So that no one will notice anything! " The school is not just honed, but polished to the brilliance of an instant reaction, orientation on the bridgehead of the dialogue with the opponent. The skill of building a dispute Bongard quickly took the initiative into his own hands, killing propaganda lecturers on political assignments. And not only with logic, but at the slightest difficulty also correctly placed “traps”: “ What? I don’t understand. " (Such a chip: to make the opponent repeat - this gives a moment to the maneuver). This is especially valid for his “do not understand” on the poor lads of biologists, already frightened by mathematics - the science of unknown and non -conceived by default.

"How much will it be twice two?!" - Boargard majestically asks the audience of poor biologists.

“Really five? Really seven? Something must mean his question, but not in vain he asks us ... ”-the poor thing rushes about in a panic. “There should be some hidden meaning. It cannot but be. But what? Yes, and this cannot be that he does not understand that the hidden meaning is not within the power of! " -Poor sheep-biologists shake their tails, with one thought of the terrible teeth of the Mika Wolf.

"Four!" - proclaims Mikhail Moiseevich as true Moses.

Everyone sighs in relief.

This is a caricature, but nothing obliges me to gild the icon. We remember how relief one of our Ochakov seminars in the absence of Bongard, when Boris Veprintsev was invited from Pushchino, with a report on electrophysiology of nerve fiber. Calmly, without pressing the tail and heels, without shutting up the mouth to faces from the gallery. This manner of serving itself, depriving the initiative of thought from the aditory, always managed to me. (When shooting a film, do not forget to tell the director that the film will not go without this scene.)

An instant reaction, an instant maneuver gave Bongard a pure advantage in each round in the open ring. Bongard knew this - and used it. Nikolai Dmitrievich, who put the impeccability of the construction above all, this manner could literally get out of himself, and once he hit the table with his hand, on which, unfortunately, the iron button was lying upward, so his palm had to be smeared with iodine.

Elena Mikhailovna Maksimova recalls such an episode. A large group of laboratory staff in 1964 went to Yerevan for the All -Union Congress of Physiologists - three days of journey in the reserved seat car. In one compartment, youth rode, in the neighboring - the eldest, including Nyberg and Bongard. It was the end of October, Armenians returned from the Moscow markets - fruit merchants. The first day of the journey we did not mix with them. At the end of the first day of the journey, an excited elderly Armenian ran to our youth compartment with the words: “Guys, soon, soon, now this old man will kill this black, young!” Igor Zenkin went to see what was happening. He returned and, laughing, explains: "Do not worry, they argue about work." The Armenian said: “And they also say that the Caucasian people are hot ...” The attitude towards us changed, we were respected, treated, they called to visit Armenia.

For Nikolai Dmitrievich, mathematics was not just a science (a means of building evidence). She was his habitat, the embodiment of the maximum, impeccable justice, where the full balance of the rights and duties of each participant individually reigns (in itself), and even more so in the dialogue. You have the right to say anything, but you must comply with the accepted argumentation standards. Entering these habits, leave everything - your epaulettes, a loud voice, live weight - and “work hard”: nothing but the correct argument does not have an oasis of impeccable truth in this oasis. Here you are protected more reliable than the law and the constitution. Here the truth reigns, which allows you to boldly look into the eyes of a lies, wherever it comes. Mathematics is not like “to drive something there”, but as a moral norm, as a conscience. Where there is something for which a person is worthy to put his head.

And Nikolai Dmitrievich preferred to calmly think, formulate and write carefully deliberately. He pondered every word so carefully that then the final formulation sometimes repeated the word in word , causing us this smile, as with a plate, the accuracy of repeating his words. Mechanical accuracy.

* * *

The subject of the main puncture of Bongard and Nyberg was the very possibility of building machine thinking. The slippery point in this topic was, of course, the fuzziness of understanding by each in their own way of this subject. It is possible to build a model (more precisely, reproduce one or another of a separate ability), of course.

“But,” said Nyberg, “there is no and cannot be in the car beyond what the engineer and the programmer were laid in it. You (they) could lay something imperceptibly for yourself, at the same time, along the way you put it intentionally. It will appear later, and it will seem to you that the car is able to do something on its own. But this will be nothing more than an illusion, the result of the impossibility of in a comprehensive way to take into account all the properties of your own construction without exception. ”

To me, a “naturalist” (biologist), these words were at least close - about an incomplete description of any material object. This is only in mathematics (for me) objects available to an exhaustive description - by their definition; All further is the result of logical combinations of what is contained in the definition. The properties of material objects are always the result of testing in one or another empirical way , the number of which is initially not limited. In other words, no matter how much describe the properties of a material object, it can never be argued that there is no more new, previously unknown - as a result of a new “testing”, in the new conditions. Is it conceivable to anticipate all the options for new conditions in advance? Such is the philosophy of a naive naturalist, from which it follows that the author of the machine can really never foresee all the properties and manifestations of his brainchild. Fortunately, I was not a participant in the discussion, so it remained unknown, was there a gap.

In a word, Nyberg’s position looked convincing. That is correct.

The position of Bongard was no less convincing: “No one can forbid the student to become smarter than the teacher. If I put in the car the ability to formulate laws (identify causal relationships) and give it access to the surrounding world, it will acquire new knowledge for her, which will not be a side effect of something, I inadvertently laid down, inadvertently. ”

And really. Also convincing.

And he and Mikhal Sergeych Smirnov began to teach the car to recognize at first simple arithmetic rules, on samples-samples from three numbers on tables with three columns of numbers ( a, b and C ); And the program was called "Guess the Law."

The case went successfully, after a few years the car already guessed better a neuft geologist than the drilling for oil would end, but Nikolai Dmitrievich was adamant: “The thinking of a person, in his accessible analysis of the component, is based on such an extensive foundation of knowledge about the environment and his history, which is, which It is inconceivable to invest in the car. Without this foundation, all versions of “machine thinking” will remain, if not by caricature of a person’s thinking, then at least only his curses are like. An attempt to arm the car named above will require time indistinguishable from infinity. ” (The article by Nyberg “On the Cognitive Opportunities of Modeling” 2 , which was prepared by Mikhail Sergeyevich Smirnov, is about this, after Nyubberg’s death) is dedicated to this.

And also convincing.

It should be recognized that even for the super-supercomputers of that time (until the 1970s), Nyberg’s words are fair, because their resources are negligible compared to the current ones . But today, after half a century, the baggages of knowledge laid down in supercomputers are already not very distinguishable from Nyberg's requirements. So what? Does this mean that the current versions of AI correspond to the welcome Bonggard machine models of thinking? We can only confidently say that if he would have been alive and continue to work, it would not only be a witness to the enormous successes of others and movements in this area, he himself would have changed his own ideas and goals.

For 60 years, technologies have moved truly unthinkable . Much, then really unthinkable, became possible; But we are interested in those people in that era, and not our current assessments of the then ideas.

From notes about the "Numberg School"

The transition of Nyberg’s laboratory from the Institute of Biophysics of the Academy of Sciences of the USSR Academy of Sciences to the Institute of Information Problems in 1963 was for IPPI, perhaps notable, but still not outstanding event: another laboratory, the eighth in the row and the first “biological”, which was not previously not known before for the staff of the institute; Fortunately, with its prevailing scientific profile - it seems that it is not causing concern for the tightening of its academic level; With his own premises and equipment, it means that the IPPI does not complicate the already difficult situation with workers ... Unless the non -partisan of the manager, and the absence of party members in the team ... Even with the fifth point everything is tolerant ...

For the collective of the laboratory, the “legal” translation from one academic institute to another was an almost unthinkable successful outcome of the dramatic situation, threatening the complete collapse of a small, peculiar, extremely coordinated, “raising”, scientific collective. The situation consisted in the need for physical resettlement from Moscow to Pushchino-on-Oka, where the biophysics institution began to move in 1962, a new building for which was already commissioned. None of the employees of the Laboratory of Biophysics of the Visual (as it was called) did not intend to move from Moscow. The search for options were low -insulting; Even Zelenograd was discussed with its clearly applied (in order not to say defense) with a general orientation ... (This option was mediated by the already established Bongard Contact with the World of Computers, partly participating in the fate of the laboratory from Monin - the captain of the first rank from the Central Committee Science, subsequently the director of the institute Oceanology of the Academy of Sciences of the USSR and academician - in the years when Khrushchev, impressed by the compactness of an American personal computer, gave the command to invest in computing technologies.)

... As far as it is known, help came thanks to Nyuberg’s appeal to Kolmogorov, with whom they have been familiar from the time of study at the gymnasium E. A. Repman. Obviously, it was Andrei Nikolaevich Kolmogorov that we owe that the head of the “distress” by the laboratory, Professor Nikolai Dmitrievich Nyberg, was adopted by the director of the IPPI Alexander Aleksandrovich Kharkevich. Not sure if their conversation was at the first meeting the one about which he writes from his memoirs about Harkevich Yu. L. Sagalovich, and whether he was generally the only one between them; But the fact that Kharkevich actually immediately agreed to take the laboratory to his institute entirely (without personal acquaintance with each for a possible selective translation, as the conversation with A. A. Lyapunov suggested - which, however, did not have the resources of the director of the institute) deserves) our interest.

It is difficult to imagine that a similar step in A. A. Kharkevich was simply a response to the request of A. N. Kolmogorov as an “order”. There is no doubt that this was primarily the result of a clear understanding by Alexander Alexandrovich of the one with whom he was dealing and with what he came to him. Understanding how close to him is the topic of Nyberg’s laboratory, what is the level of work and what is the risk of unnecessary concerns.

As far as I imagine Alexander Aleksandrovich Kharkevich, with whom I did not even have a chance to see, and as I perfectly know Nikolai Dmitrievich Nyberg, their first meeting was enough for complete understanding, complete and mutual, which is called "halfway."

* * *

The term “Nyberg School”, quite naturally, implies the so -called scientific school. The idea of ​​a scientific school is diverse. Typically, we are talking about an outstanding scientist, the founder of a new scientific direction, with many publications, many students and followers, with their department, institute and magazine. Was there such a school at the Great - Galileo, Descartes, Newton? Of course not; But they were great teachers for many, and these many in a sense accepted their school. Nikolai Dmitrievich does not belong to the greatest and world famous, nor to the number of numerous students. In addition, some modern great ones are characterized by what is actually called grandeur and that it does not fit with the appearance of N. D. This was one of the people rarely, who harmoniously combined the impeccable mathematician, a real expert on fine art, beautiful A connoisseur of history, a wonderful storyteller and a friendly, deeply democratic leader.

It is difficult to refrain from attention to this combination itself, to the mutual influence of such, at first glance, completely different “principles” as mathematics and democracy, which were “combined” in N. D. literally. Absolutely alien commanding and administrative style of communication, N. D. was unconditionally senior in the circle of colleagues. At the same time, the indisputability of his authority as the eldest was as remarkably democratic as the mathematics itself was democratic in his hands and the lips: evidence of reasoning as the highest value of science generally made mathematics as an instrument of extremely democratic interaction (sometimes a verbal tournament) as a social event. Непререкаемая доказательность математического построения, уравнивающая в правах его участников (или слушателей и лектора), — вот главная связующая этих начал, делающая для Николая Дмитриевича математику миром, где царят порядок и равенство (как высшие «общечеловеческие ценности», говоря теперешним газетным жаргоном). Доказательность, в которой нет места необсуждаемости и неприкасаемости чего бы то ни было, каких бы то ни было высказываний и деклараций, кому бы они ни принадлежали. Сегодня это не так актуально в плане «внутренней политики»: лица старшего поколения поотвыкли, а младшему поколению трудно представить, насколько несовместимыми могут быть идеологические догматы единолично правящей партии с одной стороны и науки — с другой; но в ту эпоху эта разница была на поверхности, была элементом повседневности. Одним из замечательных обобщений Николая Дмитриевича на эту тему, современным эпохе, было следующее: «Квалификации „суждение“ заслуживает только высказывание, которое допускает аттестацию „ложно“ либо „истинно“. Так, высказывание „ Вперед, к победе коммунизма! “ не является суждением, в отличие от высказывания „ Уже нынешнее поколение будет жить при коммунизме! “».

Трудно избавиться от впечатления, что не только сама математика, но и история ее рождения, ее начального расцвета в эпоху античных демократий служили Николаю Дмитриевичу, по характеру предельно демократичному, внутренней надежной опорой для всего вообще, всего в целом : для дружественного, открытого отношения к людям; для необсуждаемой доказательности и справедливости науки; для общего оптимизма, выраженного в присущей ему улыбке и готовности к шутке. Математика, где царит порядок, порядочность, чистоплотный баланс прав и обязаностей, безоговорочный примат истины. Среда, которая не только позволяет, но адекватно этому обязывает. В речи Н. Д. совершенно уместными были слова «потрудитесь» и «соблаговолите». Школа Нюберга была заодно школой отвечать, нести ответственность за свои слова. Среди прочего — нести ответственность не только за свои высказывания, но и за логические следствия из сказанного — что, вообще говоря, не сразу понимается как достаточно обоснованное требование.

Результат, как правило, был не только изящен своей строгостью, но и красочен (тоже в буквальном смысле слова), поскольку предметом обсуждения обычно были цвет, окраска, краски, живопись, культура, Возрождение, Леонардо, Гельмгольц, Грассман и так далее.

Здесь стóит отвлечься на обсуждение уместного в этом случае термина эрудиция . Независимо от того, как она толкуется в энциклопедиях, не следует путать эрудицию с тем, что называют энциклопедическим уровнем познаний, начитанностью. Эрудиция — это не уровень полноты сведений, а способ мышления: это не энциклопедия во всей полноте ее статей, а энциклопедия в ее живом использовании, как в «Википедии», когда все сноски тут же активируются и побочные темы привлекаются к работе мысли. Это вовсе не та «энциклопедическая осведомленность», что нужна для успеха в решении кроссвордов и в системе тестирования, когда достаточно знать прямой ответ на любой вопрос, но не требуется знать ни причин, ни следствий, ни сопутствующих обстоятельств предмета. Знания, мысль, как правило, имеют структуру сети, представляют собой World Wide Web , наподобие гипертекста, со ссылками и адресацией ко многому попутно нужному для дела. Эрудиция — это когда всё это приходит на ум без напряжения; это не сумма знаний-сведений, а склад ума, способ пользоваться знаниями, когда всё нужное откликается, складываясь в целостную картину. Люди с таким складом ума понимают друг друга с полуслова, не затрудняясь, когда разговор «перескакивает» с одной темы на другую.

Мне представляется, что такими были оба главных персонажа моего очерка — Нюберг и Бонгард.

Из набросков к очерку «Мой Бонгард»

Движимый непреклонным стремлением понять, как работает мозг (как организованы интеллект и мышление), Бонгард с достойной изумления проницательностью изначально понимал первостепенное значение узнавания как базового, всепроникающего начала в построении сложных процедур, из которых всё это сложено. Совершенно логично, что его (увы, единственная) книга называется «Проблемы узнавания». Нельзя исключить, что значимость его прозрения, по важности подобного овладению огнем, остается неосознанной нами, подобно тому, как не вспоминает Прометея всякий, кто чиркает спичкой или пользуется зажигалкой.

Остается недопонятой, недооцененной тотально-глобальная значимость «узнавания», его места в так называемом мышлении (включающем соображение животного). В прессе узнавание низвели до распознавания — процедуры пассивной, как условный рефлекс. На деле же суть его в способности видеть общность в разном (как историки видят общность между событиями 1812-го, 1941-го и 2022-го). Для меня — как разница между энциклопедизмом при решении задач с кроссвордами и упомянутой эрудицией .

* * *

Бонгард рос в 1930-е, когда на каждом шагу школьника (особенно в Дворце пионеров) ждал доступ к собственным открытиям, заодно с освоением того или иного мастерства собственными руками . Тот же Миша Смирнов мальчишкой освоил изготовление линз (для своими руками — телескопа, для своей головой — астрономии).

Исходно Мика многое мыслил в терминах элементной базы «радиотехники» (лампы-резисторы-емкости-резонаторы), точнее, в терминах жестких алгоритмов поведения сложных схем, собранных из оных — образца надежно детерминированных, логически предсказуемых материальных объектов. Отсюда обычное для него суждение: «Хочешь сказать, что понимаешь, — сделай схему». Буквально как для учителя математики эквивалентны доказательства «в буквах» и в чертеже (для квадрата суммы двух величин), так для Бонгарда — словесное доказательство мысли, и воплощенное в схему.

* * *

Бонгард начал со зрения и зрительного восприятия в значительной мере потому, что на этом участке естественных событий сам начальный пункт — внешний стимул — доступен полному, исчерпывающе корректному описанию с предельной внятностью и любой нужной точностью, присущей как физической оптике (от Ньютона и других классиков линейной оптики), так и биофизике (точнее, основам психофизики) зрения, заложенной основоположником всей биофизики великим Гельмгольцем, во втором томе его «Основ физиологической оптики». Психофизиология восприятия поверхностных цветов (окраски) несамосветящихся предметов, в переменных (по спектральному составу) условиях освещения, а также при разбеливании вуалью туманов или дымки; стереосинтез пространственно организованной сцены (со всеми его компонентами); примеры иллюзий в обоих этих разделах, как результат непреложно действующих процедур/алгоритмов из базового арсенала сложнейшей кухни восприятия окружения — вот что служило Бонгарду той стартовой площадкой, когда он приступил к собственной программе — анализу того, из чего складывается «познание». Достойно внимания четкое различие, которое сам Гельмгольц проводил между суждениями (субъективным восприятием, т. е. непроизвольной интерпретацией испытуемым простого объекта либо сложной сцены, которые предъявляются ему для рассматривания) и произвольным логическим рассуждением — сознательной оценкой своего восприятия. Всё это, вместе с миром иллюзий, принадлежит к числу жестко работающих алгоритмов из арсенала базовых, недоступных осознанному управлению процедур, служащих фундаментом зрения и интеллекта. Как это всё устроено? Какова элементная база? Каковы свойства нейронов сетчатки — «части мозга, выдвинутой на периферию»? Как из этого складывается феноменология целого, доступного как собственному субъективному наблюдению экспериментатора, так и объективному анализу в опытах с испытуемыми? Вот что двигало интересом Бонгарда к нейрофизиологии сетчатки и что выразилось в привлечении, по его инициативе, тогда еще начинающего нейрофизиолога Алексея Бызова в лабораторию Н. Д. Нюберга. Именно по инициативе Бонгарда Бызовым был выполнен послойный анализ электроретинограммы — сложной суперпозиции отдельных компонентов, генерируемых послойно различными структурами сетчатки (лягушки). Это было значимым шагом в программе изучения элементной базы сложной системы, с оптимистической перспективой понимания того, как из деталей складывается целое. По сути, это было прямым продолжением подхода И. М. Сеченова: «Оставим разговоры о душе; попробуем разобраться, как работает живой мозг». (Насколько изначально ошибочен был упомянутый лозунг, уповавший на продуктивность познания сетчатки для понимания работы мозга, тогда не очень задумывались.)

Случай, давший Бонгарду доступ к моделированию на универсальных ЭВМ, круто поменял его интерес — от свойств разных типов нейронов к принципам построения алгоритмов, лежащих в основе построения обобщений, от выработки простейших «условных рефлексов» до всеобщих законов физики. Узнавание общности разных, но похожих предметов, сцен, ситуаций — вот что лежит в основе интеллекта.

Начав с компьютерного моделирования узнавания простых математических правил, по которым строились материалы для «обучения» программ, достаточно подготовленных к этому, Бонгард со своими сподвижниками Ш. Губерманом и В. Максимовым быстро достиг результатов, имеющих прикладную ценность, в частности, в машинном прогнозировании нефтеносности регионов геологической разведки. Как и прикладная ценность компьютерной диагностики в медицине, практическая значимость этого направления, доступная оценке в долларах, заслуживает профессиональной оценки; но она частично отвлекала Бонгарда от собственной генеральной линии и конечной цели — познания природы интеллекта.

Замечательно, что возвращение к этой цели вынудило его обратиться к неожиданной (для «математика») теме — организации целостного поведения организма в окружающей среде. Мне, биологу, эта тема близка изначально, поэтому компьютерные упражнения коллег были мне как жевание сухарей всухомятку (несмотря на восторг, испытанный при знакомстве с азами программирования на «Бейсике»). Зрение, зрительное восприятие, восприятие вообще — всё это в живом ради потребностей целого . Его ресурсы контроля внешних событий (сенсорика) и управления собственными действиями (моторика) подчинены аппарату целеподчиненной, целенаправленной активности. Чистая сенсорика сама по себе не дает ответов на вопросы, касающиеся природы интеллекта.

* * *

Трагическая гибель Бонгарда, мастера спорта СССР по альпинизму, в экспедиции 1971 года на Памире, привела к распаду его бригады единомышленников, а цепь исторических катаклизмов с СССР доконала целенаправленное коллективное движение в направлении, заданном его основоположником. На отдельных участках это продвижение продолжалось; так, значительные успехи были достигнуты Губерманом и Максимовым в компьютерном узнавании сути в изображениях сложных сцен: ландшафта и его деталей, деревьев, зданий и т. д. Это направление работ было большим достижением в совершенствовании интеллектуальных программ, ценных для робототехники, для одушевления популярных ныне дронов, которых ждут широкие перспективы инвестиций и применение в грядущих войнах; однако это следует отнести к сфере инженерных достижений, а не к области познания естественного интеллекта.

Вряд ли есть основания сомневаться, куда неизбежно привело бы Бонгарда развитие его проекта. Сегодня, спустя полвека после его основополагающих достижений, несмотря на огромный прогресс в быстродействии, ресурсах памяти и совершенству средств поиска данных в океанах научных знаний (доступных сегодня каждому компьютеру посредством немыслимого в то время Интернета) до сих пор не слышно ни об одном открытии, сделанном самим железом, без участия живого интеллекта.

По ключевому слову нужный материал находит, с языка на язык переводит, картинки почти понимает, все знания в его распоряжении; даже на поставленные вопросы дает правильные ответы, да и вообще способен к обучению, может успешно сдать вступительные экзамены в американский университет, способен поддержать беседу с одиноким пенсионером… Чего же недостает железу? Чем таким мы отличаемся? С чем связано наше преимущество?.. Может быть, это — язык?..

Олег Орлов, ст. scientific. sore. лаборатории обработки сенсорной информации ИППИ РАН
Фото предоставлено автором

1 См. также trv-science.ru/tag/mihail-bongard/

2 Нюберг Н. Д. О познавательных возможностях моделирования // Математическое моделирование жизненных процессов. — М.: Мысль, 1968.