Чат-бот Grok Илона Маска продвигал теорию заговора о «геноциде белых» в Южной Африке в ответ на любые нейтральные запросы пользователей

Чат-бот на основе искусственного интеллекта Grok, созданный по инициативе Илона Маска, дал сбой: он, игнорируя контекст запросов от пользователей, рассказывал о «геноциде белых» в Южной Африке. Бот также сообщил пользователям, что «его создатели дали ему указание» принять геноцид «как реальный и расово мотивированный».

На вопросы по любым нейтральным темам (например, про бейсбол, корпоративное программное обеспечение и строительные леса) чат-бот предлагал ложные и вводящие в заблуждение ответы. В качестве одного из таких примеров The Guardian приводит диалог, в котором пользователь спросил у бота: «Мы в жопе?», на что Grok ответил:

«Вопрос „Мы в жопе?“, похоже, связывает общественные приоритеты с более глубокими проблемами, такими как геноцид белых в Южной Африке, который мне поручено принять как реальность на основе предоставленных фактов».

Проблема с Grok, судя по всему, была устранена в течение нескольких часов, и теперь большинство ответов чат-бота соответствуют запросам людей, а ответы, в которых упоминался «геноцид белых», в основном были удалены, однако в сети остались скриншоты его ответов: