Что делать с людьми, когда их заменит ИИ? OpenAI предложила план социальных и экономических реформ для наступающей эпохи сверхинтеллекта

Его критикуют как расплывчатый и нереалистичный

Аудиоверсию этого текста слушайте на «Радио Медуза»

OpenAI представила политический план для эпохи искусственного сверхинтеллекта

Американская компания OpenAI (разработчик ChatGPT) 6 апреля опубликовала свои рекомендации на тему того, как должна измениться экономическая и социальная политика в эпоху искусственного интеллекта. Это 13-страничный документ, в котором OpenAI призывает мир готовиться к появлению сверхинтеллекта — ИИ, который окончательно превзойдет человека.

Сверхинтеллект ускорит научный прогресс, повысит производительность труда, удешевит производство и «откроет путь к совершенно новым формам работы и творчества». Но, предрекает OpenAI, с выгодами придут и риски: сокращение рабочих мест, усиление концентрации богатства и власти, злоупотребление технологиями, ускользание ИИ из-под человеческого контроля.

OpenAI не делает прогнозов о том, когда будет создан сверхинтеллект. Но дает понять, что считает его появление неизбежным и скорым, а его влияние — глобальным. Компания призывает уже сейчас внедрять «разумные правила», которые помогут справиться с экономическими потрясениями, вызванными развитием ИИ. Свои идеи на этот счет OpenAI называет не окончательным набором рекомендаций, а отправной точкой для дискуссий — причем не только для США, но и для других стран мира.

Что конкретно предлагает OpenAI?

Вот главные из идей компании.

Право на ИИ. OpenAI предлагает рассматривать искусственный интеллект как важнейшую инфраструктуру для участия в современной экономике (наряду с электричеством и интернетом) и призывает обеспечить широкий доступ к базовым моделям ИИ, в том числе в школах и библиотеках.

Налог на использование ИИ. Сейчас многие программы социальной и медицинской помощи финансируются за счет налогов, связанных с человеческим трудом. По мере того, как ИИ будет заменять человека на рабочем месте, доходы компаний будут расти, а налоги с зарплат — снижаться. Поэтому OpenAI предлагает перенести налоговую нагрузку на доходы, связанные с капиталом и автоматизированным трудом (в американских СМИ последнее предложение назвали «налогом на роботов»).

Национальный фонд благосостояния. OpenAI призывает создать фонд, который даст каждому гражданину страны долю в экономическом росте, связанном с ИИ. «Предполагается, что государство и ИИ-компании совместно определят, как наполнить фонд. Он может инвестировать как в сами ИИ-компании, так и в более широкий круг фирм, внедряющих ИИ. Доходы фонда могут распределяться напрямую гражданам, независимо от их начального уровня благосостояния», — пишет компания.

Сокращенная рабочая неделя. Работодатели должны превращать прирост эффективности от ИИ в льготы для сотрудников — например, переводить их на четырехдневную рабочую неделю, наращивать пенсионные взносы или брать на себя большую долю расходов на медицинское страхование.

Перевод людей в «человекоориентированные профессии». Следует позаботиться о том, чтобы у тех, кто теряет работу из-за ИИ, были возможности для переобучения и перехода в новые профессии. Особенно в те, где важен человеческий контакт, — уход за детьми и пожилыми людьми, образование, здравоохранение и социальные услуги. Власти должны поддерживать переход в такие сферы и стимулировать работодателей повышать зарплаты и улучшать условия труда, считает OpenAI.

Системы безопасности. Это подразумевает разработку инструментов для проверки результатов работы ИИ, контроля против злоупотреблений на государственном и корпоративном уровне, и сдерживания моделей ИИ, если они будут представлять опасность для человека.

Развитие энергосетей. Предлагается создать новые модели государственно-частного партнерства для быстрого строительства энергетической инфраструктуры, которая необходима для работы ИИ. По задумке, это не должно повышать затраты на электроэнергию для людей.

Что говорят об этом плане?

После публикации плана гендиректор OpenAI Сэм Альтман дал интервью Axios, в котором заявил: «Мы хотим вынести эти вопросы [регулирования ИИ и перестройки экономики] на обсуждение. Мы чувствуем неотложность ситуации. И мы хотим, чтобы это начали обсуждать серьезно».

Axios считает, что план OpenAI можно рассматривать по-разному — либо как честное предупреждение о надвигающейся буре, либо как попытку еще больше раздуть шумиху вокруг ИИ и потеснить компанию-конкурента Anthropic (она создает себе репутацию ответственного участника ИИ-гонки и полгода назад выпустила похожие рекомендации). Однако в любом случае выводы OpenAI заслуживают глубокого осмысления, резюмирует Axios.

С этим согласны эксперты. По их словам, государственное регулирование действительно не поспевает за прогрессом в области ИИ. Однако OpenAI — заинтересованная сторона, поэтому к ее идеям на эту тему следует относиться с осторожностью. «Архитектура, предлагаемая [ИИ-компаниями], как правило, благоприятствует архитекторам. <…> Это не повод отвергать документ. Это полезный вклад в дискуссию, но политическая дискуссия должна быть шире и включать гораздо больше точек зрения, чем уже доминирующие голоса из Кремниевой долины», — написал Эдриан Браун, британский эксперт в области госуправления, который анализирует влияние ИИ на общество.

Одновременно многие идеи, предложенные OpenAI, оказались раскритикованы как расплывчатые или вторичные.

«Я работала в Сенате США в 2023–2024 годах, и [там] все это уже говорилось. У меня это записано от руки в блокноте! Все это уже было сказано, все. <…> Эти идеи не неверны. Проблема в разрыве между тем, чтобы назвать решения, и тем, чтобы создать реальные механизмы для их достижения», — заявила Fortune независимая консультантка по политике в сфере ИИ Сорибель Фелис.

Уилл Манидис, предприниматель из сферы ИИ и участник дискуссий о ней, заметил, что самая обсуждаемая из идей OpenAI — создание фонда для распределения прибыли от ИИ — не содержит конкретики: «Для фонда нужен источник финансирования. <…> Но OpenAI не решается прямо сказать, что будет вносить в него средства. Норвежский суверенный фонд работает, потому что Норвегия облагает нефть налогом в 78%. <…> В этом документе ничего подобного не предлагается — предлагается лишь обсуждение».

Выход рекомендаций OpenAI совпал с выходом статьи о руководителе компании

6 апреля, в день, когда OpenAI опубликовала список своих политических идей, журнал The New Yorker выпустил большую статью о руководителе компании Сэме Альтмане. Ее написали журналисты Ронан Фэрроу и Эндрю Маранц. Фэрроу известен как автор расследований о голливудском продюсере Харви Вайнштейне. Эти публикации вдохновили в США кампанию против домогательств #MeToo, а сам Вайнштейн в конечном итоге оказался за решеткой.

Фэрроу рассказал, что они с Маранцем работали над материалом про Альтмана полтора года, говорили с сотней людей из окружения бизнесмена и с ним самим (больше десятка раз). В своей статье они пишут, как Альтман участвовал в создании OpenAI, триумфально справился с попыткой уволить его в 2023 году и превратил OpenAI из некоммерческой организации в компанию, которая достигла оценки в 850 миллиардов долларов и готовится к выходу на биржу.

Статья не содержит громких разоблачений против Альтмана (обвинения в сексуализированном насилии над сестрой не нашли подтверждений), но и комплиментарной ее назвать нельзя. Авторы описывают гендиректора OpenAI как человека, стремящегося к власти и склонного приукрашивать реальность — до такой степени, что его обвиняют во лжи. Для человека, который возглавляет одну из самых крупных компаний в одной из самых важных и непредсказуемых отраслей, это опасные черты, считают некоторые коллеги Альтмана. Сам он отвергает обвинения в нечестности и говорит, что просто избегает конфликтов.

Вот что пишут авторы The New Yorker:

Большинство людей, с которыми мы говорили, разделяли оценку Суцкевера и Амодеи: у Альтмана есть неутолимая жажда власти, которая выделяет его даже среди техномагнатов, отправляющих в космос корабли под своими именами.

«Он не ограничен правдой, — сказал нам член совета директоров [OpenAI]. — У него есть два качества, которые почти никогда не встречаются в одном человеке. Первое — сильное стремление нравиться. Второе — почти социопатическое отсутствие заботы о последствиях, которые может иметь обман».