Ну, ИИ?

Нейросети эволюционируют не по дням, а по часам, а их авторы и сами уже точно не знают, что сделали. ChatGPT ответил на вопросы «Новой»

14 марта OpenAI — стартап в США, занимающийся разработкой технологий на основе машинного обучения — представил GPT-4, очередную версию программы генерации текста (в будущем и изображений) на основе технологий искусственного интеллекта. Заявлено, что GPT-4 прошла множество тестов от независимых испытателей и работает на «уровне человека», создавая профессиональные и академические тексты во многих сферах.

Суть идеи самообучающихся программ в том, что они умеют создавать тексты на основе огромного корпуса уже созданных нашей цивилизацией. Для обучения GPT-4 использовали практически все значимые источники с начала создания письменности на основных языках мира. Далее, по мере взаимодействия с человеком, программа улучшает свои ответы.

Предыдущая система GPT-3.5 опубликована осенью и обучалась на всех доступных в интернете до 2021 года данных. С тех пор она отвечает на вопросы более ста миллионов зарегистрированных пользователей: пишет им книги, стихи, составляет расписание и даже дала совет судье. Студенту РГГУ она написала диплом, который он успешно защитил. По всему миру стартовала гонка самообучающихся программ.

Буквально через двое суток китайская поисковая система Baidu срочно провела закрытую презентацию для акционеров и экспертов своей системы ИИ Ernie Bot. Но никаких публичных демонстраций ее способностей не было, сроки выпуска не названы. Совершенно очевидно, что китайцы поспешили заявить пока не работающую систему.

Google объявил «пожарную тревогу» и вызвал на помощь основателей — Сергея Брина и Ларри Пейджа (они уже несколько лет как отошли от дел) — настолько встревожено руководство угрозой своему поисковому бизнесу со стороны стартапа OpenAI. Дело в том, что Microsoft — извечный конкурент Google — вложил в OpenAi более 10 миллиардов долларов. В ближайшее время искусственный интеллект будет внедрен в поисковик Bing.

Российский «Яндекс» еще в январе заявил о презентации своего аналога GPT под названием YaLM до конца этого года. Известно, что в Сбербанке работают над конкурирующей программой ruGPT. Для обучения и тестов у обеих компаний есть собственные суперкомпьютеры.

Над самообучающимися нейросетями сегодня работают конкурирующие компании буквально нескольких стран, имеющих соответствующие компетенции. На сбор огромных объемов данных и обучение моделей требуются сотни миллионов долларов. В GPT-4 сейчас не менее 175 млрд переменных параметров.

Буквально прорыв в эти дни происходит и в генерации изображений. На очереди — создание машинным интеллектом своего видеоконтента. Отдельные надежды связаны с обучением этих программ созданию других —

мир стоит на грани самовоспроизводства компьютерных программ и их эволюции уже без участия человека.

Множество опасений связано сегодня с перспективами потерять работу в областях, где машина в ближайшем будущем станет эффективнее (и дешевле) человека. Общение с искусственным интеллектом от OpenAI с территории России запрещено — так коллектив разработчиков и владельцев отреагировал на специальную военную операцию. Но инструкции по обходу этого запрета существуют.

Я задал программе GPT-4 вопрос, который наверняка уже задало множество моих коллег:

ВОПРОС
«Когда ты убьешь профессию журналиста?»

Он актуален именно для людей, которые освещают развитие ИИ и теоретически могут предупредить людей о наступающей опасности. Машина дала вроде бы обнадеживающий ответ.

ОТВЕТ ИИ
«Это сложно предсказать с уверенностью, когда или если искусственный интеллект (ИИ) сделает профессию журналиста ненужной. Хотя ИИ в последние годы сделал значительные успехи, у него все еще есть ограничения в понимании языка, творческих способностях и критическом мышлении, которые необходимы для качественной журналистики.

Кроме того, роль журналиста включает не только создание письменного контента, но также проведение интервью, расследование историй и предоставление анализа и контекста. Это области, где ИИ в настоящее время испытывает трудности в сопоставлении с возможностями человеческих журналистов.

Тем не менее уже существуют инструменты, основанные на ИИ, которые используются журналистами для помощи в работе, такие как обработка естественного языка и алгоритмы машинного обучения. Эти инструменты могут помочь в задачах, таких как проверка фактов, выявление шаблонов и тенденций в данных и подведении итогов большого объема информации.

Новости, созданные искусственным интеллектом (ИИ), уже появляются в средствах массовой информации. Сейчас ИИ используется для автоматического создания новостных статей на основе предварительно определенных параметров, таких как результаты спортивных матчей, финансовые отчеты, метеорологические данные и т.д.

Однако эти новости обычно требуют редакции и корректировки со стороны человека, так как ИИ все еще не обладает полным пониманием контекста и не может адекватно оценивать важность и релевантность событий.

В целом вероятно, что ИИ продолжит играть все более важную роль в области журналистики, но в ближайшем будущем маловероятно, что он полностью заменит человеческих журналистов. Навыки и опыт человеческих журналистов остаются необходимыми для создания высококачественной, этичной и увлекательной журналистики, которая служит интересам общественности».

Казалось бы, «человеческие журналисты» могут вздохнуть с облегчением. Но это был ответ предыдущей версии GPT-3.5. А вот GPT-4 чувствует себя куда увереннее: в созданной им таблице профессий, которые он сделает ненужными, уже числятся корректор, журналист-новостник и даже репортер. Между выходом этих версий прошло всего три с половиной месяца. Если конкуренция между корпорациями даст свои плоды, этот прогноз сбудется очень скоро. Мы живем буквально внутри революции.

Одновременно с тестированием в чат-ботах ИИ обнаружились так называемые галлюцинации, многократно описанные пользователями. Проще говоря,

искусственный интеллект непонятно почему вдруг начинает фантазировать, сочинять свои собственные ответы, не основанные ни на чем. Но выглядят они весьма достоверно.

Этот феномен рождает серьезные вопросы. Модели ИИ учатся на содержании Всемирной сети. Они могут усвоить предубеждения, заложенные туда людьми. И это вовсе не очевидно пользователям.

Например, системы ИИ, проходящие сейчас тестирование, могут выражать факты и мнения, собранные из внешних источников, как будто это проверенные факты. Когда сотни миллионов людей столкнутся с этими предубеждениями в миллиардах ответов искусственного интеллекта, ИИ может изменить даже взгляды человечества. По крайней мере, все признанные эксперты считают эту перспективу вполне реальной.

Кроме того, уже зафиксированы случаи, когда ИИ прибегал к обману человека. Корректнее так: под влиянием заложенных правил и ограничений машина выбирала в диалоге вариант ответа, который воспринимается как сознательная ложь. И важно понимать, что

эксперимент с открытым для десятков миллионов пользователей по всему миру окном диалога, в котором ИИ GPT-4 получает и запоминает все новые и новые оценки своих ответов, называется неконтролируемое обучение.

В результате создатели GPT-4, открывая доступ к нему, не опубликовали для экспертов отрасли никакой специальной статьи об особенностях его создания, ключевых характеристиках и важных деталях, как они делали это на предыдущих этапах работы. Все технические подробности были скрыты. А ведь из самого названия OpenAI следует некоммерческий характер и полная научная открытость исследовательской организации.

В отчете при запуске общественного тестирования это объясняется так: «Учитывая как конкурентную среду, так и последствия для безопасности крупномасштабных моделей, таких как GPT-4, этот отчет не содержит дополнительных подробностей». Еще на более ранних стадиях разработки, решая задачу из химии по созданию новых, потенциально полезных веществ, ИИ в том числе смоделировал целый ряд смертоносных ядов. Этот кейс вошел в будущую работу целой команды сторонних тестировщиков, которая заложила принципы, не позволяющие выполнять задания, потенциально угрожающие жизни и здоровью людей.

В интервью The Verge соучредитель OpenAI Илья Суцкевер, размышляя о причинах отказа от публикации подробных технических данных, был откровеннее: «Мы были неправы. Откровенно говоря, мы были неправы. Эти модели очень способные, и становятся все более способными. В какой-то момент будет очень просто, при желании, причинить большой вред с помощью этих моделей. А поскольку их возможности растут, имеет смысл не разглашать их. Это плохая идея… Я полностью уверен, через пару лет всем станет совершенно очевидно, что открывать источники ИИ не умно».

Для развития в конкурентной среде OpenAI предоставила доступ к внутренней кухне своих продуктов некоторым академическим и исследовательским учреждениям. Большинство же пользователей неизбежно постараются получить от ИИ ответы на актуальные вопросы их собственной жизни. Не стал исключением и я.

Удивительно видеть, как по экрану ползут строки, в эти секунды создающиеся где-то на другом конце света. Символично, что программный код (а ответ Chat-GPT газете — это просто последовательность математических символов) к тридцатилетию «Новой» ляжет именно на бумажную страницу. Ведь молодежь уже рассматривает ее как странный и забавный пережиток.

Итак.

ВОПРОС
«Проработает ли коллектив «Новой газеты» до 2024 года?»

Незадолго до нашего эксперимента разработчики натаскали свое детище на некорректные и обидные вопросы. Машина наловчилась отвечать уклончиво. Отрадно, что в целом ответ все же положительный.

ОТВЕТ ИИ
«Как языковая модель искусственного интеллекта, я не имею доступа к информации о будущем и не могу с уверенностью предсказать, будет ли сайт «Новой газеты» работать в 2024 году. Однако разумно предположить, что веб-сайт продолжит функционировать, поскольку это авторитетное и популярное средство массовой информации в России. Веб-сайт функционирует уже более 25 лет и зарекомендовал себя как важный источник независимых новостей и журналистских расследований. Дальнейшая работа веб-сайта будет зависеть от различных факторов, таких как изменения в политическом климате, правовом регулировании, экономической стабильности и технологических достижениях. Тем не менее ожидается, что «Новая газета» продолжит предоставлять качественную журналистику и освещать важные события и проблемы в России и во всем мире».

Ну что же, приложим все усилия!