Почему роботы пугают? Главные мысли с мастерской про будущее искусственного интеллекта

А вы боитесь роботов? То, что они займут ваше рабочее место? Или того, что чат-боты могут заменить реальных друзей, и мы потеряем важную часть жизни — коммуникацию друг с другом? Какие еще страхи и ожидания существуют в обществе в связи с развития искусственного интеллекта обсуждали участники конференции и мастерской, прошедшей 12 и 13 сентября 2019 года в Санкт-Петербурге.

Специалисты Кембриджского университета, команда Леверхульмского Центра изучения будущего интеллекта CFI, впервые в России провели мастер-класс по изучению будущего искусственного интеллекта в рамках международного проекта «Искусственный интеллект. Глобальная картина» (Global AI Narratives, GAIN). Событие прошло при поддержке Теплицы социальных технологий.

В первый день лекторы отвечали на вопрос, как общественное восприятие формирует будущее ИИ в России и в мире. В дискуссии участвовали не только специалисты, исследователи, it-разработчики, но и студентов технических вузов, поклонники футуристической темы и научной фантастики.

Еще по теме: Лучшие фильмы про искусственный интеллект и технологии

Канта Дихал, исследовательница технологий ИИ из Центра будущего интеллекта при Кембриджском университете, рассказала про историю нарратива в ИИ, который сформировался в западной культуре, как научно-популярные рассказы формируют представления об ИИ в обществе.

Антон Первушин, журналист и автор научно-фантастических и научно-популярных книг, представил, как в отечественном фентази отражался образ человека-киборга. В советском сознании работа нужно было «сломать» и стать «своим» среди людей. И главный вопрос, нужна ли ИИ душа? Он поднял тему важности точного перевода терминов «интеллект» и «разум».

Участники задавали вопросы про одушевление искусственного интеллекта и опасались, не исключит ли появление роботов позитивные моменты из нашей повседневной жизни: работу, друзей, возможность коммуникации.

Что будет если машину наделить человеческими эмоциями? Почему это вызывает страх, и могут ли машины просто уйти от нас? Можно ли предсказать будущее? На такие вопросы отвечали во время дискуссии.

Видео с публичных лекций можно посмотреть по ссылке.

Мастерская: главные тезисы

Во второй день исследователи обсуждали, как воспринимаются роботы и умные машины в разных странах, как это влияет на технологическую разработку и решение этических вопросов, какие тренды есть в России и насколько они включены в общемировой процесс?

В мастерской участвовали специалисты из Петербурга, Москвы и Великобритании, изучающих технологии ИИ и изменения, которые они влекут за собой, практиков, которые развивают технологии ИИ, а также правозащитников, юристов, общественников.

В первой сессии директор Леверхульмского Центра изучения будущего интеллекта CFI Стивен Кейв рассказал об истории искусственного интеллекта и интеллекта вообще: несмотря на общий позитивный шлейф, при более внимательном взгляде в прошлое выясняется, что концепция несет сексистские и даже расистские корни.

Анна Власова, руководитель отдела лингвистики в компании «Наносемантика» рассуждала об эмоциональных роботах: как их видит бизнес, как к ним относятся разработчики и каков практический опыт реальных потребителей этой инновационной разработки.

«Сейчас интересный период, потому что бизнес оторвался от представления, которое диктовало кино (от образов терминатора, электроника), им нужно, чтобы бот, как сервис, был «липкий», то есть заставлял пользователя возвращаться к нему — гасил, например, агрессию. Разработки в области эмоциональной тональности — это настоящий тренд. Этим занимаются все». Анна Власова.

Писатель Антон Первушин отметил, что в российском менталитете есть тенденция к одушевлению искусственного интеллекта и, ввиду неосознанного страха перед ИИ как угрозой, приданию ему субъективно положительных «понятных» человеческих качеств, что не всегда позитивно отражается на эффективности разработок.

«Работу, связанную с эмпатией, заменить будет сложно»

Во второй сессии, посвященной взаимодействию ИИ с обществом, руководитель Теплицы социальных технологий Алексей Сидоренко проследил три исторических обличия ИИ в российских бизнес- и научных публикациях с 2016 по 2019 год: ИИ как вор, крадущий рабочие места, затем слуга, облегчающий повседневную жизнь и, наконец, подстрекатель, угрожающий массовыми беспорядками и миграцией в слаборазвитых регионах России.

«НКО затрагивают глубоко человеческие вещи, некоторую работу будет очень сложно заменить и автоматизировать. Это, прежде всего, работа, связанная с заботой, она останется востребованной, и могут быть созданы новые рабочие места». Алексей Сидоренко.

Наталья Трегубова, ассистент кафедры сравнительной социологии Санкт-Петербургского государственного университета, проследила, как технологии ИИ от проекта, ориентированного на достижение конкретной цели, постепенно переориентируются на взаимодействие с человеком и формируют новый пласт коммуникации «человек-машина-человек» под названием «Искусственная социальность».

Марина Шилина, профессор РЭУ им. Г.В. Плеханова, рассуждала о том, что благодаря ИИ социальные отношения становятся равными экономическим: когда наши данные собираются и затем используются в экономике, это означает, что мы автоматически становимся частью экономической системы. И это абсолютно новая реалия, которую население пока не осознает, увлекшись терминологией, эффектами и сценариями ИИ.

Тони Лич, научная сотрудница Кембриджского университета, посвятила свой доклад дискриминации в сфере развития искусственного интеллекта и важности внимания к этим вопросам при формировании стереотипов об ИИ.

Почему роботы пугают?

Третья сессия был посвящена теме публичного восприятия искусственного интеллекта.

Илья Овчинников исследователь машинного обучения в компании Dasha AI говорил о дуализме практической финансовой эффективности для бизнеса от применения роботов в колл-центрах и общепринятого негативного восприятия пользователями.

«Операторы колл центров чувствуют и ведут себя как роботы. Давайте освободим их от рутины и дадим заниматься творческими и интеллектуальными профессиями. Пусть этим занимается ИИ который проходит тест Тюнинга, не отличим от человека и работает эффективнее». Илья Овчинников.

Кандидат социологических наук Лилия Земнухова рассуждала о различии представлений об ИИ в российском обществе в зависимости от контекста: на фоне позитивного общественного настроя представители индустрии настроены более критично ввиду неопределенности и возможных финансовых рисков. При этом она подчеркнула, что поскольку технологии не развиваются в вакууме, то так или иначе будут отражать те проблемы, существующие в обществе, а значит, важно воспринимать их в конкретном контексте.

«Почему люди говорят, что роботы пугают? В медиа именно такие сюжеты вызывают сильные эмоции. В Британии к таким новостям относятся настроженно, а в России это кажется нормой: «да, роботы пугают, и что». Это показывает в большей степени проблемы российских пользователей, так как у нас есть представление о том, что технологии все могут решить. Это довольно опрометчиво. Для меня это пища для размышлений и пример того, как может быть по-другому». Лилия Земнухова.

Канта Дихал, руководитель проекта GAIN, представила доклад о том, какие надежды и страхи относительно ИИ присутствуют в Великобритании, рассказав о разнице между официальной статистикой и реальным настроем граждан.

«Страхи о потере работы в ближайшее время оправданы, но другие (в Великобритании, например, старшее поколение боится восстания машин) — я думаю, не случатся в ближайшем будущем». Канта Дихал.

Сотрудница Центра Балтийских и Восточно-европейских исследований Ирина Коткина проанализировала восприятие развития ИИ в российском сегменте Интернета, отметив формирующееся недоверие в русской блогосфере, особенно подогреваемое на почве применения технологий ИИ государством.

Как остановить цифровую диктатуру

В четвертой сессии участники обсудили развитие технологий ИИ и российскую политики. Аспирантка факультета социальных наук Карлова университета (Прага) Анжелика Соловьева представила идею связи современного восприятия ИИ с геополитическими особенностями России, повлиявшими на формирование культуры и менталитета. ИИ воспринимается как стратегический инструмент и важность технологического суверенитета развития страны, уверена она.

Доктор философских наук СПбГУ Андрей Резаев в своем докладе говорил о недостаточном уровне технологического образования и практических знаний тех специалистов, которые сейчас занимаются формированием и развитием так называемой «искусственной социальности».

Правозащитница и журналистка Алёна Попова рассказала о том, как важно создать законы, защищающие приватность и автономность граждан. Это необходимо, чтобы не допустить формирование в России цифровой диктатуры.

Еще по теме: Алёна Попова: как остановить цифровую диктатуру

Елена Шахова, председатель общественной организации «Гражданский контроль», завершила сессию темой защиты стандартов прав человека при применении технологий искусственного интеллекта.

«С помощью ИИ можно обеспечить лучшую беспристрастность суда, но если окончательное решение остается за человеком, то полностью обеспечить беспристрастность все равно не удаться. Мы живем в такой период человечества, который закончится полной автоматизацией и роботизацией. Правосудие будет передано в руки ИИ одним из последних. Когда все процессы буду автоматизированы, появятся другие моральные и ценностные ориентиры, и правосудие тоже видоизменится и извратиться, мы не можем представить что будет.

Что говорят участники

«Одной из важных тем стала степень вовлечения государства в формировании будущего этой технологии. В России она сильнее, чем в Великобритании. В Великобритании она более децентрализована и ориентирована на промышленность. Я думаю, что, если спросить людей в Великобритании, кто является основными действующими лицами в вопросах ИИ, они будут говорить о крупных технологических компаниях, таких как Google или Facebook, но не о правительстве Великобритании. Так что эта разница очень интересна. Также для меня была интересна повторяющаяся идея «русской души» и прочие подобные романтические идеи». Стивен Кейв.

«Я осознал крупное непонимание ученых из социальной сферы того, что представляет собой искусственный интеллект в современном мире, как он разрабатывается, какими методами решается. В основном все дискутируют чисто философски, некоторые рассуждают о «душе ИИ». Боюсь, что это может негативно отразиться на технологическом прогрессе. Хотелось выразить пожелание, чтобы теоретики чаще общались с практиками, которые действительно создают эти технологии – те, которые необходимы человеку сейчас». Илья Овчинников.

«Меня поразили данные, что в России гораздо более чувствительно относятся к защите приватности и автономности, и технологиям, чем в Великобритании». Алёна Попова.

Что дальше?

Директор Леверхульмского Центра изучения будущего интеллекта CFI Стивен Кейв рассказал о будущем проекта:

– Мы хотели бы создать сообщество людей, заинтересованных в дискуссии о представлениях об ИИ, будущем технологий, влиянии на развитие общества и этике. Мы готовим отчеты по всем воркшопам, а в феврале 2020 года планируем опубликовать книгу, которая представляет собой сборник из нескольких глав. В ней будут собраны представления об искусственном интеллекте как история образного мышления об интеллектуальных машинах, покажем эволюцию стереотипов об ИИ на западе.

И сейчас нам важно выйти на мировой уровень, чтобы увидеть другое культурное понимание этого явления. Но мой итоговый амбициозный замысел – это развитие проекта в глобальном масштабе, поэтому мы планируем создать единый онлайн-ресурс, на котором специалисты и участники наших семинаров смогут общаться друг с другом, обмениваться исследованиями и идеями. Важно собрать коллекцию подходов со всего мира, а не фокусироваться только на западном видении. Также мы планируем публиковать отчеты не только в рамках профессионального сообщества, но и сделать их доступными для всех специалистов, не только ученых.

Справка

Мероприятие является этапом исследовательской программы Кембриджского университета Global AI Narratives, проходящей в разных странах. В этом году Петербург представлял в исследовании Россию. Суть исследования – выяснить, описать и проанализировать отношение к ИИ в разных странах мира, исходя из особенностей национальных культур, а затем на основании полученных данных спрогнозировать его будущее развитие. Итогом проекта станет публикация книги с результатами исследования по теме ИИ, в которой будут использованы наработки специалистов стран-участников. Также планируется создать глобальное сообщество специалистов в сфере ИИ для развития, сотрудничества и обмена опытом.