Нейросеть от «Сбера» запретила рисовать голым Владимира Путина

Депутат Сергей Миронов призвал прокуратуру проверить нейросеть «Сбера» – якобы за то, что она показывает неправильный российский триколор. Разработчики вскоре изменили алгоритмы, но флаг России все еще изображается неправильно. Зато теперь там запрещено генерировать изображения голого Владимира Путина, что нейросеть еще недавно позволяла.

Руководитель фракции «Справедливая Россия – за правду» (СРЗП) в Госдуме Сергей Миронов потребовал от генпрокуратуры проверить нейросеть Kandinsky на предмет русофобии. По его словам, программа ни разу не сгенерировала правильно цвета российского триколора при запросах со словами «российский», «Россия», «российский флаг» и так далее. При этом флаг Украины и флаг США якобы изображались правильно. В Twitter Миронов также пожаловался, что при запросах «Донбасс — это Россия» и «Я люблю Донбасс» нейросеть генерировала цвета украинского флага, а при запросе «я Z-патриот» сформировала «существо, похожее на зомби».

Миронов предположил, что для создания Kandinsky российские ученые использовали наработки недружественных государств, ведущих информационную и ментальную войну против России. Использование этой нейросети в ее нынешнем виде школьниками может серьезно угрожать их будущему, полагает Миронов. «Они не будут знать, как выглядит государственный флаг России, и будут считать, что Россия является отсталой в научном отношении страной», — пояснил депутат.

На самом деле трудности с изображением флагов есть у всех нейросетей. Ошибки случаются и у популярной MidJourney. Причем не только с российским триколором, а с любым флагом, у которого количество цветов больше, чем два, будь то флаг Франции или Италии. Страдает от этой проблемы и Kandinsky.

Здесь нейросеть от «Сбера» ошиблась с флагом Италии, расположив его цвета горизонтально и превратив его в флаг Венгрии, а также напутала с цветами флага Франции, сделав его похожим на украинский

До жалобы Миронова выдачи нейросети отличались минимальной цензурой — результаты соответствовали запросу, однако без изображения гениталий, порнографии и сцен насилия. Алгоритмы стали менять сразу после жалобы, причем триколора изменения так и не коснулись. В нейросети пропала возможность генерировать изображения обнаженного Владимира Путина – ранее пользователи часто развлекались, используя запрос «голый Путин» для генерации картинок. Еще в середине апреля нейросеть позволяла создавать изображения практически без цензуры и показывала российского президента без одежды.

Сегодня эту возможность убрали, причем наблюдать, как «подкручивают» нейросеть, можно было практически в режиме реального времени. Сначала вместо «голого Путина» начала появляться заглушка в виде российского флага — интересно, что с правильным расположением цветов.

Буквально в течение 20 минут алгоритмы изменились, и заглушку в виде флага убрали — по-видимому, создатели Kandinsky 2.1 решили не нервировать российское правосудие и не проверять, станет ли выдача флага по запросу о «голом президенте» оскорблением государственного символа. Заглушку поменяли, и вместо триколора на ней появились цветочные луга.

Было — стало: генерация картинок в Kandinsky 2.1 по одному и тому же запросу 15 апреля и 26 апреля

Было — стало: генерация картинок в Kandinsky 2.1 по одному и тому же запросу 15 апреля и 26 апреля

Цензура коснулась только фигуры Путина: на запрос показать любую другую персону голым Kandinsky 2.1 работал, как обычно, — генерировал изображения указанного человека. Включая отдельно Алину Кабаеву.

Из всех «голых» политиков нейросеть прикрыла флагом только Путина

Обновление: Во время публикации текста нейросеть «зацензурила» уже и запрос «голый Дмитрий Медведев на коне». Теперь вместо него тоже цветочные луга.

Результат генерации по запросу «Голый Дмитрий Медведев едет на коне»

Неизвестно о случаях блокировки пользователей за какие-либо запросы — в отличие от другой нейросети, MidJourney, где такая практика применялась: там тоже существует запрет на изображение насилия или его последствий, кроме того, нейросеть запретила генерировать изображения с лидером КНР Си Цзиньпином. По словам главы проекта Дэвида Хольца, в Китае очень не любят политическую сатиру, и в какой-то момент возможность генерации артов с Си может поставить под угрозу использование сервиса людьми из Китая.

Сейчас разработчики продолжают «подкручивать» Kandinsky 2.1. Пока научить её правильно показывать российский флаг не получилось.

Тем не менее, желающие увидеть российского президента обнаженным могут обойти цензуру – для этого нужно конкретизировать запрос, обязательно убрав из него слово «голый», так как именно оно провоцирует Kandinsky 2.1 показывать альпийские луга. Также цензура пока не распространяется на другие изображения российского президента, например, по запросу «Путин — краб» — мем, возникший в 2008 году после фразы российского президента «я пахал как раб на галерах».

Kandinsky 2.1 — нейросеть для генерации изображений, запущенная «Сбером» летом 2022 года. Создает картинки в различных стилях на основе текстового запроса. В отличие от преимущественно англоязычных MidJourney или Dall-e 2, нейросеть Kandinsky 2.1 хорошо понимает русский язык. Возможна стандартная генерация по тексту, смешивание текста и изображения, смешивание нескольких картинок и вариации изображения. В материале идет речь именно о текстовых запросах.