Им закон не писан: нужна ли роботам своя конституция?

«Мы хотим в будущем доверить машинам наши жизни, дома, быт и безопасность. Почему мы считаем, что роботы не заслужили собственной конституции? – спрашивает у меня Перикл Сальвини, научный сотрудник BioRobotics Institute (Пиза), один из руководителей европейского проекта RoboLaw, и тут же оговаривается. – Я понимаю, что многие посчитают нашу деятельность бессмысленной: ведь настоящих роботов пока больше в медиа, чем в реальной жизни. Но чтобы обосновать новые законы робототехники, нужно не меньше времени, чем на создание первого массового персонального робота. Будем работать параллельно с инженерами».

RoboLaw заработал ровно год назад, в марте 2012-го, получив грант от Европейской комиссии в размере 1,5 млн евро. Через несколько месяцев Сальвини и его коллеги из английских, немецких и французских университетов должны представить чиновникам свод предложений и рекомендаций по созданию законодательства, которое бы регулировало разработку, продажу и деятельность роботов в Европе. Свод рекомендаций – это не просто список возможных направлений законодательного регулирования, но и концепция, идеология будущего мира роботов: RoboLaw обещает установить взаимосвязь между техническими, правовыми и моральными нормами, уже сформированными на этом рынке. За пределами их исследования остались лишь военные роботы, разработкой законодательной базы для которых занимаются сейчас в США. Это не первая попытка выйти за узкие границы «Трех законов робототехники» Айзека Азимова, логика которых долгое время была неформальным правилом для всех добросовестных разработчиков. 3 года назад американские профессора-системотехники Дэвид Вудс и Робин Мерфи предложили свою версию трех основных законов. В их интерпретации законы получили несколько иной смысл – на людей возлагается больше ответственности, чем предусматривают оригинальные азимовские постулаты:

Человек не может использовать робота без рабочего плана взаимодействия человека и робота, составленного по высоким правовым и профессиональным стандартам в области безопасности и этики. Робот должен реагировать на людей в зависимости от их роли. Робот должен быть наделен достаточной автономией действия в зависимости от ситуации для защиты своего собственного существования до тех пор, пока такая защита обеспечивает плавную передачу контроля, которая не противоречит первому и второму законам.

Сальвини говорит, что предложение Вудса и Мерфи обсуждается в сообществе ученых-робототехников давно, и, хотя однозначно интерпретацию трех законов никто пока не поддержал, главный шаг сделан: дискуссия в академической среде по этой теме перестала быть эпизодической, превратившись в системную. Вторая практическая основа, на которую опирается команда RoboLaw, – разнообразный японский опыт. В Японии первые шаги в этом направлении сделаны еще больше 10 лет назад, когда правительство утвердило проект Robot Challenge in the 21st Century, одной из задач которого является разработка новых законов. Правда, правовые наработки японских юристов и ученых пока так и не получили никакой формализации. «У них написаны тома с разнообразными вариантами правовой "упаковки" персональных и военных роботов», – рассказывает Сальвини.

Проблема лишь в том, что когда дело доходит до описания робота как субъекта права, традиционная законодательная система «зависает» и требует международных прецедентов, а их нет.

RoboLaw хочет облегчить жизнь законодателей, предложив им уже готовые и универсальные модели, которые бы затем легко внедрялись в национальные правовые системы. Для разработки этих моделей в RoboLaw берут конкретные ситуации с уже существующими роботами в разных европейских странах и пытаются применить к ним действующие законы. Любимый пример Сальвини – эксперимент с роботами-уборщиками Dustbot в его родной Пизе. Dustbot, разработку которых также профинансировала Еврокомиссия, предназначены для сбора накопившегося на тротуарах и обочинах мусора. Одна из модификаций этого робота умеет собирать и дифференцировать отходы, вторая собирает бумажки на земле, моет дорожные покрытия, а также имеет сенсорное оборудование для взятия проб воздуха. Ориентируются по городу они с помощью GPS, а вызывать их (разработчики предполагают, что в мире будущего вызов роботов-уборщиков будет обычным делом) можно по SMS, написав в сообщении точное название улицы. В RoboLaw специально взяли для эксперимента довольно простую и при этом самую перспективную модель бытовых роботов. Роботы-мусорщики – то, во что уже готовы вкладываться муниципалитеты Италии, Ирландии и Германии. Через несколько лет, судя по заявлениям муниципальных властей крупных городов в этих странах, такие дворники не будут удивлять прохожих, как никого не удивляют работающие на солнечных батареях «умные мусорные баки» в Дублине. Вот на какие вопросы пытались ответить в RoboLaw, два года изучая экспериментальную (Dustbot убирали улицы по несколько недель) деятельность роботов-дворников. Как Dustbot соотносятся с установленными правилами дорожного движения? Итальянский кодекс не давал ответа на этот вопрос. Роботы-дворники оказывались в статусе, что называется, неустановленного объекта. Обладая некоторыми признаками автотранспортного средства (колеса и мини-фары), они в то же время и не имеют водителя – единственного ответственного, по кодексу, за те или иные нарушения. Если робот случайно поцарапал чужой автомобиль или по тем или иным причинам создал препятствие на дороге, как городским службам регистрировать и оформлять эту ситуацию? Должны ли отвечать за сбои владельцы робота или производители программного обеспечения? И могут ли в таких случаях владельцами быть частные лица? Где граница, за которую не должны заходить собственники персональных роботов? Как водители автомобилей, мотоциклов и скутеров, пешеходы и велосипедисты должны вести себя на проезжей части или в пешеходной зоне относительно таких автономных объектов, какие правила соблюдать? Да, уже есть практика использования беспилотного автомобиля Google в некоторых американских штатах, где правилами разрешены тестирования такого типа машин.

Но на один вопрос ответа так и не дано: если автономный автомобиль разбился, кто будет отвечать? Водитель? Google? Сам автомобиль?

Другие возможные участники процесса при прямом столкновении с роботами тоже, используя терминологию Сальвини, «зависали». Страховые компании не умеют роботов страховать, а службы защиты прав потребителей не знают, как оценивать результаты их труда. И понятно почему – перед ними вставала интересная правовая задачка. Функционал робота четко описан программными методами, этот функционал по умолчанию соответствует установленным нормам и не может быть изменен без стороннего преднамеренного вмешательства. Означает ли это, что во всех проблемах, связанных с роботами, нужно искать ответственное лицо? И как страховать автономные машины, если они не могли ничего нарушить по определению? В результате эксперимента с Dustbot специалисты из RoboLaw поставили 17 принципиальных вопросов, ответы на которые не способно дать сегодня европейское законодательство (как общее, так и каждой конкретной страны ЕС). Всего же, с учетом пизанских опытов с «мусорщиками», таких вопросов сформулировано 120 – и касаются они далеко не только уличного регулирования продуктов робототехники.
Например, отдельная проблема лежит в плоскости сбора личных данных. Персональные роботы в наших домах (а также в больницах и других организациях, где уже возможно использовать их труд) неизбежно будут собирать информацию о том, кто мы такие и что мы делаем, – это часть их адаптационного функционала, без него работа личных помощников невозможна. Даже самые простые роботы, предназначенные для телеприсутствия и уже продающиеся на рынке, знают о нас часто слишком много. Какие законы и нормы обеспечат конфиденциальность этой информации? Где она будет храниться? Что будет происходить с ней при утилизации роботов, сдаче их в аренду или перепродаже? Ответы на эти вопросы должен давать закон, а не каждый потребитель или компания в отдельности – на свое усмотрение. Рынок персональных роботов при этом растет стремительно: эксперты ожидают, что его объем в 2015 году составит $18 млрд. Вместе с рынком столь же стремительно будет расти и объем собранной о нас информации. Сальвини уверенно отвечает на вопрос, справится ли команда его юристов с объемом поставленных задач: тут проблем нет, рекомендации для Еврокомиссии уже почти готовы. Куда сложнее создать концептуальный фундамент для правовой модернизации. Над этим в команде RoboLaw сейчас ломают головы философы, социологи и психологи. Что такое персональный робот – объект или субъект? Сильно ли он отличается от холодильника на кухне или ноутбука на нашем столе? Или он больше соответствует по статусу домашнему животному? Может быть, в будущем с роботами будут складываться детско-родительские отношения, в рамках которых «родители» должны нести личную ответственность? В RoboLaw признаются, что на такие вопросы им отвечать страшнее всего, в этот момент они понимают, что привычный мир меняется быстрее, чем они успевают его анализировать.