Что мы будем делать, когда фейк станет неотличим от реальности?
Интернет с самого начала был пространством, где можно верить далеко не всему, что видишь. Неограниченное распространение информации, анонимность – все это создало среду, в которой комфортно себя чувствует только подкованный скептик, а остальные ведутся на уловки. Годами в сети живут фейковые новости, картинки из фотошопа, и похоже, что теперь настала очередь видеоконтента. Осенью 2017 года пользователь с ником deepfakes загрузил на Reddit несколько порнороликов с актрисами Галь Гадот, Эммой Уотсон и Мейси Уильямс. Видео были фейковыми – их создали при помощи нейросети. На некоторых записях подделку выдавали визуальные артефакты, но неискушенный пользователь и правда мог решить, что перед ним реальный компромат. С годами эта технология будет только совершенствоваться.
С чего все началось?
Нейросеть называют по имени автора того самого поста на Reddit – deepfakes. Точно так же называют и сам жанр фейкового порно. Автор первых роликов довольно скоро разместил алгоритм в открытом доступе, где его подхватили энтузиасты и стали делать свои видео.
Deepfakes сразу признался, что принципы работы его нейросети «до стыдного элементарны». Все, что ему потребовалось, – это программные библиотеки с открытым исходным кодом (TensorFlow), изображения в Google, ролики из ютьюба и несколько порновидео. Примечательно, что TensorFlow – это бесплатный инструмент, который Google предлагает всем программистам, занимающимся машинным обучением.
Компьютер долго практиковался, прежде чем научился отличать лица Галь Гадот и актрис из порно. Тем не менее с каждым новым этапом обработка видео ускорялась, а затем нейросеть смогла наложить лицо «Чудо-женщины» на интимное видео.
Промышленные масштабы
В январе 2018 года появилась программа FakeApp – утилита, которая упрощает создание deepfake-видео. Инструмент настолько прост, что теперь с ним справится и обычный пользователь, потому что никакой rocket science для монтажа подделок не требуется. Для тренировки нейросети нужны изображения, а точнее – сотни картинок. На всех должно быть хорошее освещение и четко различимые черты лица. Впрочем, некоторые пользователи FakeApp ищут основу для ролика в Snapchat и Instagram, говорят, что там эмоции и мимика «более реальные».
Затем массив изображений загружается в FakeApp, куда предварительно заливается и порноролик. После этого нейросеть обучается на массиве картинок. Этот процесс занимает от восьми часов до суток – все зависит от мощности используемого компьютера. «Железо», а также качество выбранных фото влияют на итоговый результат. Высокий процент брака на картинках приводит к тому, что нейросеть создает не порно, а фильм ужасов – лица на видео искажаются до неузнаваемости.
В декабре 2017 года журналистка Motherboard Саманта Коул впервые пишет о deepfakes и подробно рассказывает о новой провокационной технологии. Ее главный посыл – нейросеть станет мощным инструментом для злоумышленников. Машинное обучение, способное реалистично заменить лицо на любом видео, поставит под удар репутацию любого человека, на которого могут сделать такой заказ. На кадрах подделки, почти неотличимой от реальности, герой будет произносить фразы, которые он никогда не говорил, и делать то, чем он никогда не занимался. Речь идет не только о порно – потенциал этой технологии может быть использован для подстав политиков и общественных деятелей, лица которых могут наложить на кадры с сенсационными заявлениями.
Подпишитесь, чтобы прочитать целиком
Оформите подписку Redefine.Media, чтобы читать Republic
Подписаться [Можно оплатить российской или иностранной картой. Подписка продлевается автоматически. Вы сможете отписаться в любой момент.]