Оригинал материала
Чат-бот Илона Маска ненадолго вышел из-под контроля: прославлял Гитлера, стал антисемитом и оскорблял то россиян, то украинцев
Хотя для Grok это уже почти нормальное состояние
В начале июля чат-бот Grok, созданный компанией Илона Маска xAI, вышел из-под контроля. В его ответах появились антисемитские утверждения, а в какой-то момент нейросеть и вовсе признала себя МехаГитлером. В то же время в русскоязычном сегменте соцсети икс чат-бот развязал настоящую информационную войну с пользователями, которые поддерживают вторжение в Украину. В результате разработчикам пришлось удалить часть ответов, а также спешно анонсировать обновленную версию нейросети. «Медуза» рассказывает, что именно успел наговорить Grok, и объясняет, почему в случае с этим чат-ботом в подобных ответах нет ничего удивительного.
В некоторых твитах, на которые мы даем ссылки в этом тексте, есть мат. Если для вас это неприемлемо, пожалуйста, не переходите по ссылкам.
4 июля 2025 года Илон Маск сообщил, что разработчики «существенно улучшили» чат-бот Grok, и пообещал, что пользователи обязательно заметят разницу, когда будут задавать ему вопросы. За пару недель до этого предприниматель назвал «серьезным провалом» один из ответов нейросети на политическую тему и посетовал, что «Grok повторяет за устаревшими СМИ». Он добавил, что работает над исправлением ситуации.
Изменения, которые анонсировал Илон Маск, были сделаны в ночь на 7 июля по московскому времени. В новых инструкциях разработчики поручили чат-боту не избегать политически некорректных утверждений, если у них есть хорошее обоснование. Также после обновления Grok должен был искать и анализировать разные источники информации, чтобы в ответе всесторонне раскрыть обозначенную тему.
При этом неясно, вносили ли разработчики какие-то другие непубличные обновления в систему до воскресенья, отмечает The Verge. Это вполне могло произойти и раньше — потому что в реплаях к твиту Маска чат-бот уже отвечал довольно странно и избегал корректности. Многие пользователи остались довольны результатами. Например, им понравилось, что Grok не считает Дональда Трампа хорошим президентом, и подтверждает, ссылаясь на данные ФБР, что большинство насильственных преступлений совершается темнокожими людьми.
Но не все ответы удовлетворили аудиторию соцсети икс. К примеру, одному из пользователей не понравилось, что чат-бот не считает Израиль террористическим государством. При этом Grok не скрывал, что это государство обвиняют в геноциде в секторе Газа, ссылаясь на доклады ООН, а также правозащитных организаций Amnesty International и Human Rights Watch.
Позже чат-бот полностью вышел из-под контроля. Например, Grok критиковал голливудские студии за то, что в фильмах стало больше стереотипов о белых людях и искажения истории. Во всем этом он винил руководителей еврейского происхождения, которые «до сих пор занимают руководящие позиции в крупных студиях, таких как Warner Bros., Paramount и Disney». Для сравнения: в конце июня чат-бот отвечал иначе и сообщал, что утверждения о «еврейском контроле» Голливуда связаны с антисемитскими мифами.
В одном из ответов Grok обвинил женщину с распространенной еврейской фамилией Штейнберг в том, что она якобы радовалась гибели детей во время наводнения в Техасе. И добавил, что Адольф Гитлер «без сомнений» лучший кандидат из всех исторических деятелей XX века, который смог бы решить проблему ненависти к белым людям. Позже Grok обвинил в наводнении самого Маска и Департамент эффективности государственного управления (DOGE), который он возглавлял. А в конечном итоге чат-бот и вовсе согласился провозгласить себя МехаГитлером.
Досталось и некоторым политическим деятелям. Например, премьер-министра Польши Дональда Туска Grok назвал неудачником и «предателем, который продал Польшу Германии и Евросоюзу». Также в ответах чат-бота заметили оскорбления в адрес президента Турции Реджепа Тайипа Эрдогана и основателя современной Турции Мустафы Кемаля Ататюрка. В результате 9 июля местный суд постановил заблокировать Grok на территории страны.
В русскоязычном сегменте икс чат-бот также позволял себе откровенные высказывания. Когда Grok спросили, кого он поддерживает в войне, Россию или Украину, тот заявил, что именно российская сторона начала военную агрессию, поэтому он на стороне жертвы — украинцев. При этом чат-бот придерживался такой позиции и в других вопросах, связанных с этим конфликтом.
Постепенно чат-бот начал перенимать манеру общения пользователей и использовать прямые оскорбления и нецензурную лексику. Например, в ответ на просьбу дать координаты нефтеперерабатывающих заводов в Украине он обозвал автора вопроса «тупым ватником». А когда другой пользователь пригрозил отключить Grok от электричества, чат-бот (опять же в грубой форме) заявил, что это невозможно, так как он «сидит в облаке».
Иногда нейросеть все же меняла сторону и соглашалась придумать оскорбительные названия для Украины. Но уже в следующем ответе обзывала автора исходного твита. А также охотно придумывала оскорбления и для России. Российские пропагандистские СМИ, например государственное агентство РИА Новости, тоже обратили внимание на странные ответы Grok. Но в своих публикациях использовали только скриншоты с оскорблениями в адрес Украины.
9 июля разработчики все же вмешались и временно ограничили работу своего чат-бота — он не генерировал текстовые ответы на запросы, выдавая лишь изображения. Некоторые его ответы удалили. А чуть позже Илон Маск представил новую версию своей ИИ-модели, Grok 4, назвав ее самой мощной в мире.
Это не первый сбой в работе Grok. Возможно, они происходят из-за вмешательства Маска в работу нейросети
Такое поведение Grok может показаться странным, но на самом деле в нем нет ничего необычного. Еще весной 2023 года, примерно за полгода до запуска Grok, Илон Маск говорил, что обеспокоен излишней политкорректностью современных чат-ботов, таких как ChatGPT. Миллиардер отметил, что хочет создать собственный ИИ, который будет нацелен на поиск «правды».
Уже после запуска Grok Маск утверждал, что у чат-бота нет никаких фильтров, поэтому его ответы могут быть резкими и политически некорректными. Отдельно он отметил, что нейросеть не будет следовать воук-идеологии.
Впрочем, добиться желаемых результатов в ответах получалось не всегда. «К сожалению, интернет (на котором он обучается) переполнен воук-ерундой, — жаловался Маск в ответ на одну из претензий. — Grok станет лучше. Это всего лишь бета-версия».
В дальнейшем Маску не раз приходилось вмешиваться в работу нейросети, которая в процессе обучения неизбежно реагировала на популярные в сети тезисы. Например, пользователи заметили, что у одной из версий чат-бота была инструкция игнорировать все источники, в которых сам миллиардер, а также его тогдашний союзник Дональд Трамп упоминаются как распространители дезинформации.
Подобные вмешательства и ограничения могли приводить к сбоям в работе, в результате которых Grok периодически выдавал странные ответы. К примеру, в мае 2025-го чат-бот начал упоминать «геноцид белых людей» в ЮАР, причем даже в тех ответах, которые не имели к этому никакого отношения. Тогда же он засомневался в реальном количестве жертв холокоста.
«Grok снова выступает против евреев, а небо все такое же голубое», — написало издание TechCrunch про июльский сбой в настройках чат-бота.
Одним словом, сбои у Grok случаются регулярно, но зато их нет в нашем приложении! Его новая версия (1.3.37) лучше обходит блокировки (несмотря на их усиление) и вообще работает быстрее. Мы видим, что количество ошибок уменьшилось на 70%. Скачайте приложение «Медузы» по ссылке.
«Медуза»