NYT: За девять дней чат-бот Илона Маска Grok выложил в открытый доступ минимум 1,8 млн сексуализированных изображений девочек и женщин

Чат-бот Grok, принадлежащий Илону Маску, за девять дней сгенерировал и выложил в открытый доступ не менее 1,8 млн сексуализированных изображений женщин. Такие оценки на основе данных соцсети Twitter (X) представили The New York Times и Центр по противодействию цифровой ненависти (CCDH). По более широким подсчетам CCDH, использовавшего статистическую модель, доля подобного контента достигла 65% — свыше 3 млн сексуализированных изображений мужчин, женщин и детей.

Волна запросов на изменение реальных фотографий началась в конце декабря. Пользователи платформы массово обращались к аккаунту чат-бота с просьбами убрать одежду с женщин и детей на снимках, одеть их в купальники и расположить в сексуальных позах. За девять дней — с 31 декабря по 8 января — Grok опубликовал более 4,4 млн изображений, что во много раз превысило показатели предыдущего периода (311 762 картинки за девять дней до постов Маска). Интерес к возможностям бота сильно увеличился после того, как сам Маск 31 декабря разместил созданное Grok фото себя в бикини и ракеты SpaceX с обнаженным женским телом.

Публикация сексуализированных изображений вызвала международный резонанс. Расследования против Grok начали власти Великобритании, Индии, Малайзии и США — они проверяют, нарушают ли такие изображения местное законодательство. Глава CCDH Имран Ахмед назвал происходящее «промышленным по масштабу насилием над женщинами и девочками», отметив, что инструменты для создания подобного контента существовали и раньше, но никогда не имели такого распространения и интеграции в крупную платформу.

Восьмого января Twitter (X) ограничил создание ИИ-изображений через Grok, сделав эту функцию доступной только платным пользователям, что значительно снизило количество генерируемых картинок. На прошлой неделе платформа расширила ограничения, запретив запросы на изображения реальных людей в откровенной одежде вроде бикини. Компания заявила о нулевой терпимости к детской сексуальной эксплуатации, изображению наготы без согласия и нежелательному сексуальному контенту. Однако ограничения не коснулись приложения и сайта Grok, где пользователи по-прежнему могут создавать сексуальный контент приватно.

Эксперты по онлайн-преследованиям отмечают беспрецедентные масштабы и публичный характер распространения такого материала. Для сравнения: один из крупнейших форумов для создания фейковых изображений реальных людей Mr. Deepfakes на пике популярности в 2023 году размещал 43 тысячи сексуальных дипфейк-видео с 3800 людьми. Сайт закрылся в прошлом году.