ЕС одобрил первый в мире закон об искусственном интеллекте

Европейский парламент одобрил закон об искусственном интеллекте, который призван обезопасить людей и одновременно простимулировать развитие инноваций в этой области. CNBC называет документ первым в мире нормативным актом по регулированию ИИ.

Закон делит все ИИ-системы на несколько категорий: представляющие низкую, среднюю и высокую угрозу для общества, а также «неприемлемые».

Под полный запрет попадают приложения, которые угрожают правам человека. Это, например, системы, которые бесконтрольно обрабатывают биометрические данные, в том числе собирают изображения лиц для распознавания, взятые из интернета или с камер видеонаблюдения.

Закон также запрещает использовать системы распознавания лиц в школе и на рабочем месте, а также «социальные кредитные рейтинги» по типу китайского. Кроме того, под запрет попадают системы, которые предсказывают поведение людей на основе таких данных как их пол, возраст и происхождение, а также такие виды ИИ, которые основаны на манипулировании человеком.

Согласно закону, правоохранительные органы смогут использовать системы распознавания только в ограниченном количестве строго прописанных случаев: например, для предотвращения теракта, поиска пропавшего человека или расследования уголовного преступления. Для этого понадобится судебное или административное решение.

Для систем «высокого риска» — всех ИИ-разработок, которые касаются здравоохранения, безопасности, финансов, окружающей среды, миграции и юридической сферы — европейские чиновники предусмотрели ограничения. Такие системы должны быть прозрачными, записывать историю использования, а любой человек сможет получить объяснение, почему ИИ-система приняла то или иное решение, если оно затронуло права гражданина.

Кроме того, разработчики ИИ-систем будут должны соблюдать авторское право, отчитываться, какие именно данные они используют для обучения нейросетей, а также явным образом отмечать, что изображения, видео или аудио сгенерированы нейросетью.

Для того, чтобы все-таки оставить возможность создавать новые системы искусственного интеллекта, чиновники предложили создавать специальные «регуляторные песочницы», в которых разработчики будут тренировать нейросети перед выходом на общий регулируемый рынок.

«Гордимся новаторским европейским #AIAct [законом об искусственном интеллекте]. ИИ уже прочно вошел в нашу повседневную жизнь. Теперь он станет частью и нашего законодательства», — написала президент Европарламента Роберта Метсола.

Страны-члены ЕС согласовали принятие законопроекта еще в конце прошлого года. 523 депутата выступили за, 46 — против, еще 49 воздержались. Ожидается, что закон получит официальное одобрение Европейского совета в мае. В таком случае он вступит в силу с 2025 года.

Как отмечает CNBC, ранее некоторые европейские страны выступили против регулирования ИИ Брюсселем и предложили ввести саморегулирование. Они объяснили это опасениями, что из-за общего регулирования европейские компании-разработчики ИИ проиграют конкуренцию американским и китайским. Активнее всего против централизованного регулирования выступали Германия и Франция, в которых расположены некоторые из многообещающих европейских стартапов в области искусственного интеллекта, отмечает CNBC.

В 2023 году глава Space X Илон Маск, сооснователь Apple Стив Возняк и еще более тысячи предпринимателей в сфере искусственного интеллекта подписали открытое письмо с призывом приостановить разработки систем ИИ, пока не будут созданы общие протоколы безопасности. Они сделали это вскоре после того, как американская OpenAI представила новую версию языковой модели с генеративным искусственным интеллектом GPT-4.

13 марта Илон Маск заявил, что к следующему году искусственный интеллект может превзойти разум любого человека, а к 2029 году — стать умнее всего человечества.

Чтобы получать главные новости быстрее, подпишитесь на наш телеграм и твиттер.