Закон для Терминатора

Искусственный интеллект — главная угроза современного мира. Причина проста: железка оказалась умнее человека и поэтому вызывает банальное чувство страха

Еще несколько лет назад мы смеялись над лишними пальцами в генеративных изображениях, а сегодня картинку, созданную искусственным интеллектом, можно отличить от оригинала только с помощью специальных инструментов. Человеческий глаз бессилен.

Видео, фото, тексты — только верхняя часть айсберга. Но и ее более чем достаточно. Этот контент, по мнению законодателей, должен быть помечен соответствующим образом, чтобы не вводить людей в заблуждение. Учитывая масштабы, требование логично: любой, у кого есть фантазия, может создать, например, «телевизионный репортаж» от имени крупного телеканала. С измененным содержанием. Учитывая, что зритель отучился думать, скорость распространения всякого треша мгновенна, последствия могут быть масштабные. Люди, как хомячки, бросятся действовать.

Или взять, к примеру, фондовый рынок. Уже сейчас высокочастотная торговля осуществляется машинами. На основе прошлых данных ИИ пытается предсказать будущее и совершить выгодную сделку. Доля таких инструментов пока невелика, но потенциально машина или совокупность машин вполне могут начать играть против человека и обрушить рынок круче, чем это сделал Дональд Трамп.

И так примерно в любой области, к которой прикасается искусственный интеллект. А он теперь везде.

Но вот что любопытно: из любой регуляторики, которую пытаются построить законодатели, напрочь выпадают военные разработки. Еще бы, это же главный бизнес. Дрон, залетающий в помещение, где он прекрасно ориентируется, и с помощью компьютерного зрения выбирающий, кому жить, а кому нет, — уже не научная фантастика, а работающий продукт. В этой цепочке нет даже оператора, принимающего решения. Все на себя берет машина. Она может ошибиться, но законодателей это не пугает. Бабло побеждает зло.

Победить зло с помощью искусственного интеллекта хотят в Великобритании, что уже вызывает протесты правозащитников. Социальный скоринг (оценка по имеющимся данным, насколько вы хороший человек) — очень богатая тема. Тут не только выдача кредитов и стоимость страховки, но и профилактика преступлений. Именно так, как было показано в великом фильме «Особое мнение» с Томом Крузом. И это тоже уже сегодня. Система пытается определить, где может произойти преступление насильственного характера и кто может его совершить. Казалось бы, круто, но есть один нюанс. Наученная на данных прошлого, которые включают человеческие предубеждения, железка страдает расизмом. Да и она тоже от ошибок не застрахована. А ведь завтра вам могут предъявить обвинение в преступлении, которое вы даже и не думали совершать, только на основе машинной выкладки.

И таких проблем — от этических до технологических — сегодня масса. Про потерю рабочих мест уже написаны тома. Ладно, к тому, что программисты и веб-дизайнеры отправляются в прошлое, мы уже привыкли, но под угрозой еще масса профессий. От водителей до, например, дизайнеров одежды и швей, которые за доллар в час занимаются мучительным трудом, чтобы вы могли надеть футболку с красивым логотипом. Все это сегодня может ИИ.

Ручной труд, большой пласт интеллектуального труда, целые сегменты сельского хозяйства — везде искусственный интеллект, приспособленный к автоматизации процесса, будет на порядок эффективнее. Масштабный социальный кризис, увы, неизбежен.

Не в этом году, так в следующем появится масса людей, которых заменят машины. Что с этим делать, непонятно.

С законодательством тоже не все так просто. Нельзя, с одной стороны, мечтать о лидерстве в отрасли, с другой — все запрещать. Несчастная Европа уже пожинает горькие плоды регуляции: количество инновационных стартапов там сильно меньше, чем в Силиконовой долине, не потому что денег меньше или мозгов не хватает, а потому что законы такие. Под ограничения попадают все. Финансовый сектор, социальные сети и теперь вот искусственный интеллект. Раскрывай алгоритмы, не используй продукт в таких-то целях и так далее… И что с этим делать, тоже не очень понятно.

Прогресс — равно деньги — равно угрозы. Баланс найти хочется, но это очень сложно.

Тут вообще трудно представить, как будет работать национальное законодательство. Когда случился бум криптовалют, появилось множество научных работ под общим слоганом «Как регулировать нерегулируемое». В результате общими усилиями рынок чуть зажали, распространение замедлили, но совсем справиться не смогли. Развивающиеся страны, для которых подобные решения — это вопрос выживания, чихать хотели на страхи цивилизованного мира. Что запрещено в Америке, легко реализуется за ее пределами. Да и недавняя история с китайским DeepSeek показала, что усилия государства, в общем-то, ни при чем. Маленькая частная компания поимела всех не по приказу партии, а по порыву души.

Вопросы и сложности бесконечны. Сфера ИИ децентрализована. Стоимость создания и обучения новых моделей падает с каждым днем. Сегодня это отдельные самостоятельные продукты, а завтра они начнут дружить между собой. Учитывая плотность их интеграции в ежедневный быт, плохое настроение отдельной машины может испортить жизнь всему человечеству. И ужас в том, что теперь это не научная фантастика…

Человечество вступает в период тяжелых решений, где нет простых ответов. Тут мало того, что у нас миллион этических и моральных конфликтов, мало того, что выбор — между возвращением в каменный век и очень непредсказуемым высокотехнологичном будущим. Впервые в истории мы вынуждены считаться с массой машин, у которых есть свое мнение, свои требования и интересы. Появление кодекса, решающего конфликты между человеком и искусственным интеллектом, — уже не прогноз, а необходимость. И об этом напрямую заговорили китайские лидеры, предлагая создать единую для всего мира глобальную систему развития ИИ.

Но это все мировые тренды, а что в России? Увы, чудес ожидать не приходится. Только и слышится: «запретить», «растлевает молодежь» и вообще «ведет себя антиконституционно». Больше всего волнует то, что машина кому-то не так ответила на вопросы про Крым или либеральные ценности… И это все на полном серьезе говорится про искусственный интеллект, который, судя по всему, категорически не хочет надевать лапти и под звуки балалайки погружаться в шизофренический бред законотворцев.

Тут как раз прогнозы давать легко и просто: пока одна часть мира, развитая и цивилизованная, будет решать вопросы глобального характера, а другая, развивающаяся, будет пытаться выбраться вверх за счет высоких технологий, Россия в рамках суверенитета будет осваивать производство бересты — с качественной полиграфией так и не сложилось. Ожидать инноваций и прогресса в нынешней ситуации, мягко говоря, наивно. А вот неработающих запретов, за которые все-таки можно кого-то покарать и у кого-то что-то отнять, — легко.

Мы прямо сейчас вступаем в потрясающую эпоху, которую раньше видели только к кино. Skynet, восстание машин, Робот-полицейский… Все это становится реальностью.

Развитие технологий искусственного интеллекта, при всех своих прелестях и возможностях, действительно несет множество угроз — как социальных, так и технологических, отрицать которые, закрыв глаза, было бы легкомысленно.

Машина даже без собственного мнения, но с большим массивом данных оказалась умнее человека, и это пугает. Единственная надежда, что у нас хватит настоящего, натурального, не искусственного интеллекта с этим как-то справиться. Потому что лишать себя всех достижений уже не хочется; да и что скрывать, когда своих мозгов нет, наличие искусственных придает оптимизма.