Оригинал материала
Мошенники украли миллиарды долларов от имени «Газпрома» и Tesla
YouTube и социальные сети заполонила реклама мошеннических проектов, которые, прикрываясь известными брендами и персонами, выкачивают деньги из доверчивых пользователей по всему миру. Используемые в таких схемах фейки с Илоном Маском даже объединили россиян и американцев — в жажде быстрых денег на развод ведутся и те, и другие. Мошенники обещают «быстрый и надежный способ начать получать от нескольких сотен до нескольких тысяч долларов в день», а обеспечить подобную доходность должна мистическая система, которую якобы разработали крупные компании вроде Tesla, Revolut, «Газпром» или люди — Маск, Безос, Баффет и даже Алексей Навальный. «Холод» рассказывает о международной системе мошенничества.
На рекламу «пассивного дохода» одинаково клюют россияне и американцы. YouTube ничего не делает
Суть схемы достаточно простая: мошенники покупают рекламу на популярных сервисах, таких как YouTube, Facebook или Instagram. После этого они продвигают свои рекламные ролики, которые можно разделить на два типа. Первый — персонифицированный: в нем используется якобы прямая речь известного человека, который предлагает пользователю принять участие в работе его программы. После подключения к этой программе пользователь якобы начнет получать от нескольких сотен до нескольких тысяч долларов в день.
Для убедительности мошенники используют наиболее узнаваемых персон в своем регионе: например, в Азербайджане использовали фейковые цитаты президента страны Ильхама Алиева. А для российской и американской аудитории — видео с Илоном Маском, который якобы лично рассказывает об «уникальной возможности навсегда оставить позади крысиные бега».
Второй тип роликов эксплуатирует известные бренды. Например, в Грузии, России и Азербайджане в схему заманивали с помощью программ от «Газпрома» и азербайджанского нефтегазового гиганта SOCAR. В Восточной Европе, в частности, в странах Балтии, в аналогичных роликах использовали другие бренды, например, основанный выходцами из России и Украины и популярный среди русскоязычного населения Восточной Европы банк Revolut. Среди известных брендов, которыми пытались заманить мошенники, также были Tesla и SpaceX Илона Маска, Amazon Джеффа Безоса, а в отдельных случаях даже брокерские фирмы, среди которых одна из крупнейших в мире — американская Interactive Brokers. Таргетинг у роликов был настолько продуман, что уникальные, подогнанные под них предложения получали даже пользователи из Молдовы.
В рекламных роликах пользователям рассказывали о возможности зарабатывать крупные суммы денег каждый день без риска, эксплуатируя бренд или лицо, приводили аргументы в пользу того, что подобные инвестиции безопасны, практически всегда показывали фейковые зачисления денег на баланс от системы и предлагали присоединиться к проекту по ссылке.
Когда пользователь попадал на сайт программы, перед ним возникало достаточно простое поле для регистрации и форма для пополнения баланса. Как правило, после зачисления первых средств на связь с пользователем выходили представители «сервиса» — они давили на жадность и убеждали жертву занести в систему больше денег. Когда же им это удавалось, они пропадали вместе с деньгами.
У меня 13-й размер груди Мне постоянно свистят в спину и регулярно домогаются. Я часто чувствую себя куском мяса, потому что во мне не видят человека Общество4 минуты чтения
Персонифицированные ролики делались с помощью искусственного интеллекта. Для производства таких видео мошенники берут настоящее интервью, например Илона Маска, пишут новый текст, в котором рекламируется несуществующая инвестиционная программа, озвучивают его при помощи искусственного интеллекта, подделывающего голос, и также с помощью нейросетей подгоняют движение губ условного Маска под новую озвучку.
Сервисы, при помощи которых делается дипфейк, стоят небольших денег — от 2 до 10 долларов, а прибыль, согласно подсчетам консалтинговой корпорации Deloitte, исчисляется миллиардами долларов. Незнающий человек вряд ли отличит фейковое интервью от настоящего.
География мошенников обширная. По данным The New York Times, в основном они из Индии, Китая и Восточной Европы, в том числе — из России. Они закупают рекламу и настраивают ее под самые уязвимые и прибыльные рынки.
«Жизнь, о которой вы давно мечтали»
Одним из тех, кто попался на подобное видео, стал 82-летний американский пенсионер Стив Бошамп. В конце 2023 года он увидел ролик, в котором Илон Маск рекламировал инвестиционную программу, обещавшую быстрые выплаты. Тогда он подумал, что это хорошая возможность заработать денег для своей семьи.
Посмотрев рекламу, он перешел на сайт и связался с компанией, предлагавшей участвовать в «программе Илона Маска». Бошампа попросили открыть инвестиционный счет на 248 долларов — и он послушался. В течение нескольких недель он потратил все свои сбережения — более 690 тысяч долларов. После этого консультанты компании перестали отвечать, а деньги исчезли.
«Ну, тот человек [что был передо мной] — это был он [Илон Маск]. Но заставлял ли его искусственный интеллект говорить то, что он говорил, я не знаю. Если бы меня попросили: “Выбери его из ряда людей”, я бы сказал, что это он», — рассказал потерпевший пенсионер.
И действительно, несмотря на то, что создать такое видео стоит небольших денег, дипфейк Илона Маска очень похож на оригинал: журналисты NYT отмечают, что у фейка та же степенная манера речи и южноафриканский акцент, что и у настоящего Маска.
Я учусь на врача и зарабатываю 35 тысяч рублей Выжить на стипендию невозможно, но я все равно хочу остаться в Москве и взять ипотеку Общество5 минут чтения
Для одного из видео мошенники взяли настоящее интервью Илона Маска, которое он дал The Wall Street Journal. В обработанном с помощью ИИ ролике он обещает «жизнь, о которой вы давно мечтали» и «навсегда оставить позади крысиные бега».
«Можете ли вы представить себе 237 долларов каждый час, каждый день до конца своей жизни? В какой бы ситуации вы ни находились, если вы хотите заработать один миллион долларов и оставить крысиные бега позади — это программа для вас. <…> Это абсолютно безрисковая возможность. Поскольку терять нечего, я предоставляю вам эту возможность бесплатно. Просто перейдите по ссылке под этим видео», — говорил «Маск» из ролика.
По словам Франческо Кавалли, сооснователя компании Sensity, которая отслеживает дипфейки в интернете, реклама с Маском — крупнейший прецедент дипфейк-мошенничества в истории. Изучив около двух тысяч подобных рекламных роликов, компания пришла к выводу, что именно Илона Маска чаще всего использовали в качестве «говорящей головы», которая рекламирует мошеннические схемы под видом инвестиционных программ.
В своих роликах мошенники использовали также инвестора и одного из богатейших людей мира Уоррена Баффета, состояние которого в 2024 году оценивалось в 146 миллиардов долларов, а также основателя компании Amazon Джеффа Безоса. Но Илон Маск появлялся в подобной рекламе чаще других — он «играет» в четверти всех дипфейк-роликов и в 90% мошеннических видео про криптовалюты.
Подсчитать объем дипфейк-рекламы в интернете невозможно. Основной канал распространения мошеннических роликов — рекламные инструменты в социальных сетях и на YouTube. Журналистам NYT удалось найти множество подобных видео в библиотеке объявлений на фейсбуке при помощи поиска по ключевой фразе.
Мне 33, и я не знаю, кем стану, когда вырасту Больше 10 лет я была тем, кем мне не нравилось быть. Но искать свое место оказалось очень тяжело Общество7 минут чтения
На ютубе мошенники часто используют и другой метод: скачивают трансляцию уже случившегося события, делают из нее дипфейк и транслируют на собственном ютуб-канале как прямой эфир. Подобные трансляции собирают сотни тысяч зрителей, хотя в действительности являются предзаписанными дипфейками. При этом количество зрителей на трансляции искусственно завышается ботами — чтобы потенциальные жертвы не сомневались в аутентичности происходящего.
По сюжету одной из таких «трансляций», посвященной биткоину, дипфейк Илона Маска обещал лично удвоить любую сумму в крипте, которую отправят ему на криптокошелек.
В интернете появляется все больше сообщений людей, которые потеряли не просто часть своих денег из-за дипфейков, а все сбережения, которые у них были. Например, один из зрителей, неназванный житель Техаса, переслал «Илону Маску» 36 тысяч долларов сбережений в биткоине — и они просто исчезли.
Влияние фейков выросло настолько, что в мае 2024 года Комиссия Гонконга по ценным бумагам и фьючерсам выпустила предупреждение о том, что в интернете появились дипфейки Илона Маска. В феврале 2024 года подобное предупреждение выпустила также американская Федеральная торговая комиссия, а в мае — ФБР, которое пожаловалось, что из-за ИИ выявить мошенническую деятельность и эффективно с ней бороться стало гораздо сложнее.
По данным компании Deloitte, только в США по итогам 2023 года мошенники украли с помощью дипфейков 12,3 миллиарда долларов. Компания подсчитала, что к 2027 году ежегодный ущерб достигнет 40 миллиардов долларов.
Деньги для всех
«Илон Маск» продвигал «свою программу для заработка» и среди россиян еще до начала полномасштабного вторжения России в Украину. Правда, позднее YouTube отключил монетизацию для пользователей из России, и они перестали видеть рекламу, если находились на хостинге без VPN. В российских версиях мошеннических роликов не было симуляции голоса миллиардера, зато при помощи нейросети была наложена русская озвучка. Как и в случае с американскими роликами, ссылки под видео вели на мошеннические сайты.
Помимо Илона Маска, в российском сегменте ютуба вирусились рекламные ролики якобы государственной корпорации «Газпром» с примерно таким же содержанием. В них утверждалось, что Госдума в 2019 году приняла закон, разрешающий торговать газом всем гражданам. Ссылки под ними вели на мошеннические сайты, а в App Store и Google Play Market даже появились приложения, имитирующие подразделение Газпромбанка «Газпром Инвестиции».
Изменение климата может убить миллиард человек «Жизненные показатели» Земли достигли критической отметки. Планете необходимо сокращать население и отказаться от использования нефти и газа Мир16 минут чтения
Названия мошеннических приложений эксплуатировали слова «Газпром» и «инвестиции» в разных сочетаниях, а иконки содержали логотип корпорации. Среди названий встречались «Инвестиции в “Газпром”», «ГазИнвест», «ГазАктив Инвест», а у приложений было в среднем по 500 скачиваний.
После скачивания схема была такая же, что и с приложением от дипфейка Илона Маска: когда человек оставлял личные данные, с ним связывался фейковый консультант и предлагал вложить небольшую сумму в разнообразные проекты «Газпрома»: в «Северные потоки», «Турецкий поток» или «Силу Сибири». В комментариях к приложению люди писали, что это развод и фейк, а в самом приложении были фейковые лицензия брокера, или форекс-дилера, на рынке ценных бумаг.
«Газпром» даже выпустил отдельное заявление на собственном сайте. В нем представители компании писали, что участились случаи, когда к ним обращались люди, узнавшие о «проекте» в интернете и желавшие вложить личные средства. Там же говорилось, что «лица, осуществляющие попытки под этими предлогами привлечь денежные средства физических лиц, являются мошенниками», а также что «Газпром» не обладает лицензией форекс-дилера.
В Грузии, Азербайджане и Украине в рекламу ютуба попадали не только ролики псевдо-«Газпрома», но и фейки государственной нефтегазовой компании Азербайджана SOCAR. В начале 2024 года компания тоже выпустила заявление, в котором говорила, что получила десятки обращений от граждан, связанных с мошенническими звонками и фейковыми приложениями. Компания передала эту информацию в МВД Азербайджана, а Министерство цифрового развития и транспорта удаляет фейковые приложения, где предлагают якобы инвестиционные программы.
К 2100 году в России будет меньше 100 миллионов человек Борьба с ЛГБТ, чайлдфри и абортами только усугубляет ситуацию. Вот как можно было бы замедлить сокращение населения Общество10 минут чтения
В роликах часто использовали выступления президента Азербайджана Ильхама Алиева. Как и с дипфейк-копией Илона Маска, мошенники «со сверхъестественной точностью» имитировали его речь и предлагали вложиться в фейковые инвестиционные программы, обещавшие существенный заработок. Дальнейшая схема та же: человек переходит на сайт, например socar.space, фейковой компании SOCAR Invest и начинает с вложения небольшой суммы. После этого мошенники требуют все больше денег и не возвращают их. В Украине же предлагалось вложиться в якобы дочернюю компанию SOCAR.
В начале 2024 года для части российских пользователей мошенники даже сделали версию ролика, в которой эксплуатировали смерть российского политика Алексея Навального. В роликах и на фейковых оппозиционных новостных ресурсах распространяли скриншот письма из колонии, в котором якобы Навальный пишет своей жене Юлии о том, что «пять лет разрабатывал программу, за участие в которой платят по 600 долларов ежедневно», — и теперь хочет поделиться ею со всеми. Под постом фейковой группы была размещена ссылка, которая, как и в случае с Маском, вела на сайт мошенников.
Сквозь пальцы
И YouTube, и Meta, которые размещают мошенническую рекламу на своих ресурсах, заявляли, что пытаются бороться с дипфейками. Хотя в YouTube утверждают, что только в период с января по март 2024 года удалили 15,7 миллионов каналов, которые нарушили правила хостинга, лишь 1,1% из них были удалены из-за спама или дезинформации. 19 марта 2024 года хостинг обновил свои правила пользования для создателей контента и обязал их отмечать видео, сделанные при помощи искусственного интеллекта, однако это не касается рекламы, которую хостинг демонстрирует во время просмотра пользовательских видео.
В случае если видео, в которых присутствует сгенерированный искусственным интеллектом контент, не будет помечено, нарушителя ждут наказания: от лишения канала монетизации до полного удаления. Исключением из этого правила являются видео, сделанные для Youtube Kids — в 2023 году хостинг сделал на детском контенте 959 миллионов долларов, и он является одним из важнейших сегментов для компании с точки зрения выручки. Поэтому детские мультики, в которых присутствует ИИ-контент, помечать не нужно. Как новые правила оформления пользовательского контента должны решить проблему с мошеннической рекламой — пока непонятно.
В Meta рассказали о том, что тренируют программу по автоматическому выявлению фейков на фейсбуке, в инстаграме и в Threads (аналоге твиттера), но также объяснили, что мошенники постоянно меняют тактику и из-за этого борьба с ними сравнима «с игрой в кошки-мышки». Эксперты считают, что компания решила заняться дипфейками слишком поздно — когда они уже стали реальной угрозой и принесли существенный ущерб.
Миллиардер против Один из богатейших людей Сибири выступает против войны, поддерживает оппозиционеров и продолжает жить и работать в России Политика13 минут чтения
Также компанию обвиняют в том, что она начала заниматься этим только в самый разгар выборов в президенты в США. В ответ на это в Meta заявили, что всегда добавляли в контент, сделанный при помощи их программ, зашифрованные метаданные и вотермарки — якобы так пользователи должны были понять, что это фейк. Оперативно же отличать дипфейки, когда они только появились, в компании не научились, поэтому рассчитывали на пользователей.
Промедление Meta привело к тому, что австралийский миллиардер Эндрю Форрест, чьи дипфейки также стали появляться на фейсбуке, подал гражданский иск против компании Meta за халатное отношение к ведению рекламного бизнеса. По его словам, «реклама на фейсбуке завлекает невинных пользователей в плохие инвестиции».
Сейчас Meta планирует ввести новый инструмент борьбы против дипфейков — технологию распознавания лиц. Она должна будет работать вместе с технологией искусственного интеллекта компании, чтобы помечать недостоверную рекламу. Правда, Meta уже использовала технологию распознавания лиц в фейсбуке в 2010–2021 годах, но отказалась от нее из-за проблем с точностью распознавания и защитой личных данных.
Чтобы не пропускать главные материалы «Холода», подпишитесь на наши социальные сети!
Автор:редакция «Холода» Фото на обложкеXavier Collin / Image Press Agency / Scanpix