Все законы робототехники

Как будут законодательно регулировать машины с искусственным интеллектом

Глава совета директоров Mail.Ru и основатель компании Grishin Robotics Дмитрий Гришин в середине декабря представил концепцию закона о робототехнике — по его словам, первую в мире. В действительности, подобные концепции, в том числе куда более детально разработанные, обсуждаются не первый год, в том числе в Европарламенте. «Медуза» рассказывает, что предлагает Гришин, как собираются регулировать роботов в Евросоюзе, и какие законы применяются к машинам сегодня.

Российский закон о робототехнике

По словам основателя Grishin Robotics Дмитрия Гришина, концепцию закона о робототехнике он создал с помощью юристов. О содержании документа написали «Ведомости». Автор предлагает приравнять роботов одновременно к животным и юридическим лицам. У искусственного интеллекта нет эмоций, но при этом он, как и животные, способен к самостоятельным действиям. Аналогию с юрлицом Гришин объясняет тем, что робот тоже является «особой юридической конструкцией».

Для роботов должен быть создан специальный реестр, аналогичный единому государственному реестру юридических лиц. К создателям роботов могут применяться такие же меры, как к владельцам источников повышенной опасности, потому что машина способна в той или иной форме причинить вред. В зависимости от типа робота и той степени опасности, которую он несет для окружающих, ответственность будет лежать или на владельце, или на производителе: если робот изначально несет опасность и владелец об этом предупрежден, то владелец и будет отвечать, а за травмы, причиненные неопасным роботом-пылесосом, придется расплачиваться производителю, говорит Гришин в интервью Republic.

Гришин предлагает четыре сценария, когда действия робота подпадают под уголовное право:

• создание робота для совершение правонарушений
• отключение функций, блокирующих возможность причинения вреда человеку
• создание робота, у которого такого блока нет с самого начала
• конструирование робота без осознания того, что он может быть использован для причинения вреда человеку

Гришин направил концепцию в Высшую школу экономики, МГУ, СПбГУ и другие ведущие институты в надежде, что в будущем она станет основой для отдельного закона о робототехнике. Кроме того, он планирует рекомендовать свои наработки европейским комиссиям. Никакой реакции со стороны институтов или представителей законодательной власти на предложение Гришина не поступило.

Концепция законодательства о робототехнике Гришина основывается на знаменитых трех законах робототехники фантаста Айзека Азимова: робот не может причинить вред человеку; робот должен подчиняться человеку; робот должен заботиться о своей безопасности, если это не противоречит первым двум законам. Впоследствии Азимов добавил к ним еще один, нулевой или четвертый: робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесен вред.

Что предлагают в ЕС?

Отдельного законодательства, посвященного робототехнике и ответственности за поведение автономных роботов, нет ни в одной стране мира. Однако в Европарламенте существует рабочая группа, которая занимается этим вопросом. Ее работа началась совсем недавно, никаких окончательных предложений пока нет, но на сайте Европарламента можно найти промежуточный документ, в котором говорится о законодательстве для робототехники.

В нем сказано, что создатели роботов должны руководствоваться все теми же законами робототехники Азимова. «Умный робот» описывается в документе так механизм, способный к автономности за счет анализа данных с сенсоров или обмена информацией с окружающей средой, и обладающий способностью к самообучению. Такие роботы должны быть зарегистрированы в Европейском агентстве по робототехнике и искусственному интеллекту. К роботам относятся и самоуправляемые автомобили, в документе особо подчеркивается, что законодательные нормы по отношению к ним должны быть разработаны и утверждены как можно скорее.

Один из наиболее серьезных вопросов любого законодательства о робототехнике — ответственность за то, что сделает робот. В документе отдельно подчеркивается, что необходимо учитывать автономность роботов в принятии решений. Чем она выше, тем меньше ответственности за его поступки должен нести владелец. Чем дольше робот обучался человеком, тем больше ответственности должно лежать на учителе, при этом нужно отличать приобретенные от человека способности с теми, которым робот научился сам.

Вопрос о том, кто будет отвечать за причиненный максимально автономным роботом ущерб, предлагается решать с помощью обязательной страховки; то есть в конечном итоге за последствия все-таки отвечает производитель, пусть и в форме страхования. Эксперты также предлагают создать фонд или несколько фондов (по одному на каждую категорию роботов), которые будут пополняться за счет отчислений от производителей и расходоваться на компенсацию ущерба от действий роботов.

Предлагается создание специальной хартии робототехники, в которой будут описаны этические принципы разработки автономных аппаратов. Они таковы: роботы должны действовать в интересах людей; роботы не должны вредить человеку; польза, которую приносят роботы, должна быть доступной всем, в особенности это касается медицинских роботов. Принципы схожи с законами робототехники Азимова; предполагается, что любой разработчик роботов должен иметь их в виду при создании новых аппаратов. Исходный код роботов должен быть открыт для возможности расследования инцидентов. По тем же соображениям должна быть доступна история действий робота.

Помимо ЕС вопросом о регулировании использования роботов занимаются в ООН, но с другой точки зрения. Вопрос о роботах находится на рассмотрении конференции ООН по разоружению — многие правозащитные организации, в том числе Human Rights Watch, считают, что использование автономных военных роботов должно быть запрещено конвенциями о правилах ведения войны. Пока такие роботы не применяются (широко распространенными беспилотниками управляют операторы), но создание робота, способного самостоятельно принимать решение об убийстве противника, вполне возможно.

Законы и роботы прямо сейчас

В отсутствии специального законодательства, сегодня к роботам применяются существующие законы. Преподаватель университета Вашингтона Райан Кейло подробно разобрал, как сосуществуют роботы и законодательство в США. По его словам, американское право на протяжении шести десятков лет пытается понять, как именно нужно трактовать ситуации с участием различных механизмов разной степени автономности.

Американские суды, как выяснил Кейло, не раз сталкивались с крайне необычными вопросами относительно роботов: например, решали, можно ли говорить, что роботы исполняют музыку в том же смысле, что и люди. Ученый считает, что робот — это устройство, которое способно собирать данные о том, что происходит вокруг него, оценивать эти данные и действовать в зависимости от своих выводов; именно эти три качества, по мнению Кейло, отличают роботов от ноутбука или любого другого высокотехнологичного устройства.

Вопрос о том, может ли робот считаться таким же исполнителем музыки, как и человек, был поднят в США в 1987 году. Ресторан в Мэриленде для развлечения поставил в зале несколько человекообразных механизмов, которые по заранее заложенной в них программе играли на музыкальных инструментах. С точки зрения законодательства за любое исполнение живой музыки в ресторанах нужно платить отдельный налог, и ресторану пришлось в суде доказывать, что эти роботы — ни что иное, как механический музыкальный автомат.

После долгого разбирательства суд все-таки решил, что таких роботов нельзя считать исполнителями в обычном понимании этого слова — они действуют по программе, не могут ошибиться или импровизировать, и, по сути, ничем не отличаются от заводной игрушки-обезьянки, которая стучит в барабан. Тогда роботов, способных исполнять музыку без заданной программы, не было, сейчас их создание вполне возможно, но как именно трактовать их — как исполнителей или просто продвинутый музыкальный автомат, неясно.

Еще одно любопытное дело касалось обнаружения затонувшего корабля. Согласно морскому праву, тот, кто первый найдет обломки давно затонувшего судна, тому и принадлежит эксклюзивное право на все, что было на его борту, включая золото и прочие ценности. В конце 1980-х исследователи обнаружили пароход «Централ Америка», который затонул в 1857 году с грузом золота. Обнаружить его удалось с помощью беспилотной подводной лодки, и встал резонный вопрос: не ей ли принадлежат права на сокровища. Суд встал на сторону кладоискателей: он решил, что подводной лодкой управляли люди, которые через ее камеры видели обломки корабля, так что никакой необходимости отправлять к месту крушения водолазов и дополнительно объявлять о своих правах, не было. Но вот как быть, если подлодка не только беспилотная, но и автономная (то есть не управляется человеком), неизвестно — подобных случаев в истории пока не было.

Райан Кейло заключает, что в американском праве сейчас робот трактуется как программируемая машина, выполняющая волю человека, а случаев, когда разбиралось бы автономное поведение, не было. И на данным момент ситуация такова, что создатель или владелец робота несет ответственность за его действия, хотя на самом деле есть множество машин, которые запрограммированы принимать самостоятельные решения в зависимости от происходящего вокруг.

Павел Борисов