Рассказывает информатик Илья Викснин

Можно ли снизить число жертв терактов, как вести себя при пожаре в помещении и почему пчелы могут помочь предсказать поведение человека? В интервью «Бумаге» объясняет информатик Илья Викснин, который возглавляет лабораторию «Мультиагентные системы» в Университете ИТМО.

12 февраля на Science Slam в Петербурге он расскажет о своем исследовании чрезвычайных ситуаций.

— Сейчас ваша лаборатория занимается моделированием чрезвычайных ситуаций. С каких проектов вы начинали?

— Лаборатория существует с 2016 года. Начинали мы работать с информационной безопасностью. Есть не очень известный, малоизученный на данный момент, но перспективный ее раздел, который называется Safety. Это когда уже что-то плохое случилось: взломали сайт, украли пароль — и нужно сделать так, чтобы всё продолжало работать. Я не строю иллюзий относительно того, что можно что-то идеально защитить: в любом случае всё можно украсть или сломать. Наш коллектив пытается сделать так, чтобы система продолжала функционировать, даже если всё плохо.

К любой системе мы подходим как к мультиагентной. «Cпускаемся» на нижний уровень, чтобы рассмотреть систему как совокупность элементов и взаимодействий между ними. Мы изучаем простейшие правила поведения отдельных элементов, а на их основе пытаемся сформулировать более сложные, которые будут общими для всей системы. Выполнение именно этих правил мы и стараемся защитить от сбоев.

Наша работа вписывается в то, что называют новой промышленной революцией, то есть когда людей на производстве заменяют роботы. Мы считаем, что защищать режим работы одного конкретного робота не имеет смысла, нужно изучить его, а затем рассматривать всю систему — условно, абсолютно всех роботов на планете.

Это можно объяснить на примере фильма «Терминатор». В нем роботы сначала ведут себя хорошо и делают что-то полезное для людей, но потом сходят с ума и идут убивать. Кажется, что единовременно такое произойти не должно, если не случился уж совсем какой-то глобальный глюк. Скорее, такое может происходить постепенно. Когда один робот сошел с ума, потом заразил своими идеями другого и так далее.

Именно это мы и пытаемся предотвратить в рамках информационной безопасности. То есть сформировать такую систему, которая продолжит работать, даже если роботы начнут сходить с ума. Например, если роботы сами будут ликвидировать роботов-нарушителей, которые сошли с ума, никакого «Терминатора» не случится и с людьми всё будет в порядке.

Безусловно, представить на данный момент абсолютно автономных роботов невозможно, но правила защитных механизмов необходимо разрабатывать параллельно с основными правилами поведения роботов.

— Один из ваших основных проектов — прогнозирование поведения людей. На чем основан ваш метод?

— Работа основана на принципах роевого интеллекта, которые мы подсмотрели у других ученых. Мы изучили опыт передовых ученых в области поведения пчел, муравьев, птиц и пришли к выводу, что механизмы принятия коллективных решений в таких группах могут быть применены и для описания поведения человека.

Человек — интеллектуальное существо, но, например, в случаях чрезвычайных ситуаций в местах массового скопления власть разума ослабевает и наше поведение становится похожим на то, как ведут себя животные. Но человек все-таки отличается от них, поэтому мы взяли данные о роевом интеллекте и добавили то, что социологи и психологи говорят о поведении людей. Всё это решили объединить в модель, которая могла бы помочь при чрезвычайных ситуациях. Часто при терактах, взрывах или пожарах много людей гибнет только потому, что в панике бегут не туда, куда нужно. Или в здании неправильно расставлены охранники, или аварийные выходы находятся в неудобных местах. Мы подумали, что можем решить эту задачу и предотвратить ситуации, в которых гибнут люди.

В случае чрезвычайных ситуаций становится очень важно, насколько люди информированы. Если вы приходите ко мне в гости, а в здании происходит какое-нибудь ЧП, то вы, скорее всего, доверитесь мне, так как я хорошо знаю обстановку. На уровне логики нам эта идея показалась абсолютно правильной, мы решили изучить ее на практике. Ознакомились с информацией о трагедии в «Хромой лошади» (в 2009 году при пожаре в клубе в Перми погибли 156 человек — прим. «Бумаги»), изучили интервью с выжившими и узнали, что некоторые из них выжили именно потому, что побежали за официантами. Учитывая всё это, мы написали программу-симулятор и смогли в ней смоделировать ситуацию в «Хромой лошади». Оценили количество людей, которые могли погибнуть там при ЧП, и полученные результаты соответствуют тому, что произошло в реальности.

— А ваш симулятор работает только с «Хромой лошадью» или с другими объектами тоже?

— Изначально мы сделали наш симулятор на «Хромой лошади» и показали его МЧС. В МЧС нас спросили о том же: можем ли мы загрузить и смоделировать ЧП в другом здании? Сейчас уже можно моделировать разные здания, менять строительные материалы, которые используются в помещениях, и даже задавать правила поведения обслуживающего персонала при ЧП. В результате мы получили симулятор чрезвычайных ситуаций, с помощью которого можно давать рекомендации, как организовать безопасность на каком-то объекте. То есть можно понять, как лучше расставить выходы, организовать охранников и другой персонал и так далее.

— Исходя из ваших симуляций, вы можете сформулировать какие-то гипотезы о том, как люди должны действовать при теракте или пожаре?

— Сложный вопрос. Это зависит от разных факторов, но в общем случае спасется тот, кто больше знает об окружающей среде. Но есть исключения. Если я ничего не знаю, но стою у выхода, то спасусь. И наоборот. Человек, идеально знающий место, который решил помочь людям и выводить других, может погибнуть. Если говорить конкретно о «Хромой лощади», то там основная проблема была в том, что собралось слишком много людей. Мы много работали с этим объектом и выяснили, что если бы одного официанта в клубе просто поставили рядом с танцполом, то это спасло бы еще десять человек. Но абсолютно всех спасти в нашей модели ни разу не получилось, как бы ни бились. В лучшем случае получалось спасти до 15–20 % из тех, кто погиб.

— Вашу программу можно использовать для противоположных целей? Например, террористы могут взять ее и выбрать наименее защищенный объект для атаки?

— Такое, к сожалению, возможно. Это одна из важнейших причин, по которой мы не предоставляем программу в свободный доступ. Плюс в нашей программе можно моделировать не только ЧП, но и обычное поведение людей в здании. Используя это, можно предсказывать, как люди будут передвигаться по магазину. Маркетологи могут использовать это, чтобы подвести к более дорогим товарам и попытаться заставить вас купить их. Это тоже не та работа программы, на которую мы рассчитываем.

— Ваша программа где-то сейчас используется на практике?

— К нам время от времени обращаются по поводу организации безопасности на разных мероприятиях — и мы помогаем. Но в целом МЧС пока отказался работать с нами из-за того, что у нас нет нужных им сертификатов и лицензий на программу. При этом, по моим данным, у них ничего подобного нет, в той же работе руководствуются только ГОСТами. Плюс мы провели несколько предварительных переговоров насчет использования нашей программы. Возможно, она будет помогать в работе на российских заводах. Также ей очень заинтересовались в Китае, но окончательного решения пока нет. Кроме того, мы делаем большую чисто научную работу: пытаемся сформулировать математические законы того, как нужно правильно распределять людей по пространству.

— Одновременно со всем этим ваша лаборатория занимаетесь беспилотными автомобилями. Что вы смогли сделать в этой области?

— Мы выиграли небольшой внутренний грант ИТМО на разработку стенда с беспилотными автомобилями и начали работу. Сейчас одна из основных проблем в том, что почти все беспилотные машины для движения используют различные метки на территории — например, QR-коды на стенах полигона, по которому они ездят. С точки зрения информационной безопасности это ерунда. Представьте, что светофор — это единственное, на что вы ориентируетесь при вождении машины. Если светофор сломается, вы не сможете никуда от него отъехать. С метками то же самое.

В Петербурге построили игрушечный город с машинами-роботами, как в MIT. Зачем он нужен и как поможет разработке беспилотных автомобилей

paperpaper.ru/campus/duckietown/

Как игрушечный город помогает разрабатывать технологии для реальных автомобилей, почему роботы теряются в пространстве в разную погоду и время года, что необходимо, чтобы по городу начал ездить беспилотный транспорт и как проект связан с глобальной наукой.

Мы решили отказаться от меток и снова перешли к роевому интеллекту. В нашей системе, когда машина сталкивается с какой-то сложной ситуацией на дороге (например, пробкой на перекрестке), она связывается с другими машинами, которые стоят в пробке. Все вместе они с помощью технологий блокчейна строят для каждого автомобиля маршрут, позволяющий оптимально решить проблему.

В масштабах города такая система не будет реализована еще не меньше 30 лет, потому что все ездят на разных машинах и пока нет единого протокола взаимодействия между ними. Но всем этим необходимо заниматься, ведь есть масса нерешенных вопросов. Например, все люди в городе будут ездить на беспилотниках, а кто-то один решит ездить сам. Как система должна действовать в такой ситуации? Плюс в замкнутых системах подобное уже можно реализовать. Например, на складе или в порту, где приток транспорта строго регламентирован. Сейчас мы как раз работаем над практической реализацией идеи полностью автономного склада, который может работать без людей.

Кроме того, мы работаем с квадрокоптерами. Во-первых, решаем задачу: что сделать, чтобы они спокойно сами разлетались в воздушных коридорах, как самолеты, а не сталкивались друг с другом. Во-вторых, пытаемся научить их спасать людей. Идея в том, чтобы в случае, если человек, например, потерялся в лесу, можно было запустить в воздух несколько квадрокоптеров, которые сами прочешут территорию и найдут его. Это будет эффективно, так как вмешательство человека понадобится, только если беспилотники заметят что-то.

— Если вернуться от беспилотников к людям, в каких областях вы еще работаете?

— Среди прочего мы изучаем, как распространяется информация между людьми. Поставили себе задачу найти способ бороться с пропагандой. Я говорю не о политике, а о пропаганде тех или иных идей — например, ВИЧ-диссидентства. На примере «ВКонтакте» мы сделали модель того, как распространяется информация между пользователями, и поняли, что есть несколько путей борьбы с пропагандой.

Самое простое — отрезать группу от источника информации. Например, заблокировать сообщество ВИЧ-диссидентов. Но это не лучший путь, эффективнее делать людям инъекцию полезной информации. Например, создать сообщество, направленное против ВИЧ-диссидентства, или пойти на самый грубый вариант: сделать ботов, которые придут в сообщество диссидентов и будут писать комментарии с нужной вам информацией. Это эффективно, потому что в любом сообществе, которое построено вокруг спорных идей, очень большая доля тех, кто еще не определился со своим мнением о проблеме. Именно за них и нужно бороться, именно им и показывать противоположную точку зрения.

— Где вы используете эти наработки?

— Только для своих маркетинговых задач. Наша лаборатория сейчас сотрудничает с одной компанией по вопросу реализации блокчейн-проекта и дальнейшего выхода на ICO. Это будет система честного обмена мнениями без накруток, обмана и прочего. Этот проект создается в первую очередь для того, чтобы нельзя было манипулировать системами рейтингов и рекомендациями, были доступны реальные данные, собранные от других людей, о каком-либо суждении и так далее. Сфера применения достаточно широка: ей интересуются как российские организации, связанные с юридическими услугами, маркетингом, так и иностранные консалтинговые компании.

Генеральный партнер Science Slam — «Газпром нефть»