Еврокомиссия начала расследование против чат-бота Grok из-за генерации сексуализированных изображений женщин и детей

Европейская комиссия начала расследование в отношении чат-бота Grok, сообщает Reuters со ссылкой на заявление депутата Европарламента от Ирландии Регины Доэрти. По ее словам, расследование связано с использованием чат-бота для создания непристойных изображений.

Расследование оценит, выполняет ли соцсеть X (Twitter) требования цифрового законодательства ЕС. «Этот случай поднимает очень серьезные вопросы о том, выполняют ли платформы свои юридические обязательства по надлежащей оценке рисков и предотвращению распространения незаконного и вредоносного контента», — заявила Доэрти.

Ранее в январе Еврокомиссия назвала незаконными и отталкивающими созданные с помощью ИИ изображения раздетых женщин и детей, распространяемые в Twitter. Расследование в отношении Twitter начал британский медиарегулятор Ofcom.

Чат-бот Grok, разработанный компанией Илона Маска xAI и доступный через Twitter, используется в том числе для изменения и создания изображений. С конца декабря пользователи соцсети начали массово направлять чат-боту запросы убрать на снимках одежду с женщин и детей, одеть их в купальники, расположить в сексуальных позах. 31 декабря Маск опубликовал сгенерированное изображение себя в бикини и ракеты SpaceX с обнаженным женским телом. Как писала The New York Times, за девять дней Grok сгенерировал и выложил в открытый доступ не менее 1,8 млн сексуализированных изображений женщин.

14 января xAI заявила, что в компании «приняли меры, чтобы Grok не позволял редактировать фото реальных людей и изображать их в откровенной одежде, такой как бикини».