Как распознать дипфейк (deepfake) и защититься от подделок

Дипфейки становятся все более реалистичными и доступными, поэтому столкнуться с подделкой может любой человек или компания. Даже короткий ролик или аудиозапись способны нанести серьезный ущерб репутации, вызвать недопонимание или финансовые потери.

Вместе с экспертом разберем, как распознать подделку и что делать, если уловка злоумышленников сработала.

Наш эксперт

Сергей Боровинских

• юрист по цифровому праву

Что такое дипфейк и как он работает

Дипфейк — это технология создания поддельных аудио, видео или изображений с помощью искусственного интеллекта, которая комбинирует термины «глубокое обучение» (deep learning) и «подделка» (fake).

Еще дипфейк – это простыми словами сама подделка, созданная с помощью нейросетей. То есть этим термином называют и технологию, и результат ее применения.

Работает deep fake так:

1. Сначала человек собирает образцы: фотографии, видео или записи голоса объекта.
2. Эти образцы отправляются в специализированную дипфейк-нейросеть.
3. Далее пользователь может настроить стиль переноса лица, кадры, качество, иногда — выражение лица, синхронизацию губ и другие параметры.
4. Теперь очередь нейросети. Она, например, начинает накладывать изученное лицо на выбранное видео или фото.
5. На выходе получается реалистичная подделка, где эмоции, мимика и повороты головы синхронизированы с оригинальным видео.

Иногда технология срабатывает неидеально. Например, промахивается с репликами, путает интонации или вообще рисует что-то нелепое. Тогда человек должен вносить правки: вручную улучшать цвета, контраст, убирать артефакты и подгонять изображение так, чтобы дипфейк выглядел максимально правдоподобно.

Как работает технология deepfake?

Может показаться, что дип фейк — простое дело: скормил нейросети образцы, нажал кнопку и получил результат. Но это лишь видимость, для качественного результата внутри технологии работает глубокое обучение.

Существует две дипфейк-технологии:

• генеративные адверсарные сети;
• автоэнкодеры.

Генеративные адверсарные сети (GAN)

По сути, это связка из двух нейросетей: генератора и дискриминатора. Первая делает контент, а вторая сравнивает его с оригиналом и ищет недочеты. Такое соревнование повторяется раз за разом. В результате генератор все лучше «обманывает», а дискриминатор все точнее распознает фейки.

В итоге генератор начинает создавать настолько реалистичные изображения, что их сложно отличить от настоящих.

Автоэнкодеры

Автоэнкодер — это нейросеть, которая учится сжимать изображение в компактный набор признаков, а затем восстанавливать его обратно.

В дипфейках он применяется, к примеру, так: одна часть автоэнкодера учится понимать лицо «исходного» человека, а другая — восстанавливать это лицо уже на кадрах с другим человеком, благодаря чему и получается реалистичная подмена лица в видео.

Виды дипфейков: от изображений до голоса

Дипфейки охватывают все формы цифрового контента — от картинок до живого видео и голоса. Они не просто изменяют реальность, а создают новую, почти неотличимую от настоящей.

Видео-дипфейки

Видео-дипфейки — это ролики, где алгоритмы подменяют лицо или тело человека, корректируют мимику и синхронизируют речь так, чтобы созданная сцена выглядела правдоподобно.

Технология позволяет вписывать человека в любую ситуацию, полностью меняя визуальный контекст.

Аудио-дипфейки

Аудио-дипфейки создаются с помощью моделей синтеза речи, которые копируют тембр, ритм, акценты и эмоциональную окраску нужного голоса.

Итоговый трек звучит как настоящая запись человека, хотя фразы на аудио им никогда не произносились.

Дипфейки изображений

Изображения-дипфейки — это поддельные фото, где модель генерирует или заменяет черты лица, фон, выражение эмоций или полностью пересобирает картинку. Так же, как и в случае с видео или аудио, результат часто неотличим от настоящей фотографии.

Развитие в сторону других медиаформатов

Дипфейк-технологии выходят за рамки видео и фото, охватывая все больше цифровых форматов.

Дипфейк-стримы. В реальном времени подменяют лица и голоса на трансляциях, позволяя создавать полностью фальшивых стримеров или «оживлять» известных персон.

Синтетическая журналистика. Алгоритмы генерируют новости, цитаты и стилистику реальных авторов, создавая псевдожурналистские материалы, которые сложно отличить от человеческих.

Реалистичный синтез речи вживую. Модели способны воспроизводить тембр и интонации человека в режиме онлайн, имитируя его спонтанную речь и реакцию.

«Живые» цифровые двойники. Комбинация голоса, аватара и поведения позволяет создавать автономных персонажей, которые ведут стримы, выступают в эфире и общаются с пользователями.

Где применяются deepfake

Может показаться что слово «фейк» не сулит ничего хорошего. Но дипфейки имеют множество законных и полезных применений, активно используемых в медиа, бизнесе и образовании.

• Развлечения: кино, игры, быстрые визуальные эффекты и развлекательный контент.
• Обучение: создание наглядных лекций, пособий и реконструкций.
• Конфиденциальность: анонимизация лица и голоса в интервью и расследованиях.
• Маркетинг: виртуальные амбассадоры, адаптивные рекламные ролики и контент под разные рынки.
• Культура: оживление исторических фигур, цифровая реставрация и интерактивные экспозиции.

Чем опасны дипфейки

Дипфейки становятся угрозой, когда используются для манипуляций, социальной инженерии, обмана или давления. Технология позволяет правдоподобно подделывать слова и действия человека, из-за чего снижается доверие к любому цифровому контенту.

Манипуляции и дезинформация

Поддельные видео и аудио могут имитировать заявления политиков, экспертов или лидеров мнений, влияя на общественное мнение, рынки или репутацию компаний.

Мошенничество и вымогательство

Дипфейки используются в мошеннических схемах: подделка голоса руководителя, фальшивые «видеозвонки», просьбы о переводе денег или раскрытии данных.

Репутационные атаки

Подмена лица на компрометирующем контенте может разрушить карьеру, личную жизнь и доверие к человеку. Даже опровержение не всегда помогает восстановить репутацию.

Фейковые новости и провокации

Сфабрикованные обращения, инсценировки и «горячие» заявления распространяются в соцсетях быстрее проверки фактов, провоцируя конфликты, панику, а когда вскрывается правда — падение доверия к медиа.

Подделка доказательств

Дипфейки могут имитировать признания, угрозы, сделки или события, осложняя расследования и создавая риск использования фальшивых материалов в спорах.

Дипфейк-собеседования

Бывает так, что чтобы получить желанную должность, кандидат начинает хитрить. Например, просить пройти онлайн-созвон своего более компетентного друга, «натянув» на него свою маску.

Сложно представить, на что в принципе готов сотрудник, готовый врать работодателю с самого начала.

Чтобы обезопасить свое дело не только от таких поддельных соискателей, но от неблагонадежных сотрудников в целом, стоит использовать дополнительный уровень проверки кандидатов после собеседования. Речь идет о комплексной оценке правового и финансового профиля человека. Возможно его биография не соответствует тому, что вы услышали на собеседовании или увидели в резюме, и это повод насторожиться.

Собрать информацию по десяткам источников поможет сервис «Проверка соискателей» от SpectrumData. Всего за 2 минуты он проверит основные официальные, государственные базы данных и составит полный отчет о кандидате. А вам останется принять взвешенное решение.

Как распознать deepfake

Передовые алгоритмы делают дипфейки все правдоподобнее, но у них все еще остаются характерные сбои. Вот краткая таблица признаков, по которым можно заподозрить подделку.

Как защитить себя и компанию от дипфейков

Рассмотрим две возможные угрозы и два набора советов как их предотвратить.

Как отличить дипфейк от реального сообщения?

Предположим, вам в мессенджер пришло голосовое сообщение, в котором некто голосом вашего начальника просит скинуть таблицу с паролями от рабочих почт.

Как это определить, что это сообщение фейк и не слить секретные данные?

• Проверьте, откуда поступило сообщение. Если номер или профиль незнакомый – не спешите отвечать. Не постесняйтесь написать в личку тому, от чьего лица пришло сообщение, и переспросить.
• Поищите признаки подделки. Проверьте, есть ли на записи признаки подделки или примените программы, анализирующие метаданные и артефакты.
• Используйте многофакторную аутентификацию. Для важных операций используйте дополнительные способы подтверждения. Будет лучше, если это будет что-то, что трудно узнать или подделать нейросетью. Например, короткие проверочные слова или живая подпись на бумаге.

Как помешать мошенникам сделать дипфейк из вашего видео?

Представьте, вы снимаете много видео-контента. Злоумышленники могут воспользоваться этим и сделать на основе ваших записей компрометирующий дипфейк.

Как помешать им это сделать?

• Делайте сложный контент. Добавляйте динамики, используйте сложное освещение и включайте фоновые шумы. Это затруднит работу алгоритмов и помешает сделать корректный дипфейк.
• Снимайте и публикуйте видео с измененной частотой кадров. Необычные FPS, например, 22, 27 или нестабильные частоты, хуже подходят для обучения моделей, оптимизированных под стандартные режимы 24, 30 или 60 кадров в секунду.
• Ограничьте скачивание видео и запись экрана. Это помешает мошенникам получить ваш контент в хорошем качестве.
• Применяйте динамические водяные знаки. Не просто логотипы, а полупрозрачные элементы, слегка меняющие позицию или интенсивность. Их практически невозможно удалить без следов.

Что делать, если вы стали жертвой дипфейка

Если вовремя распознать подделку не удалось, то нужно действовать быстро и четко.

Но мы рекомендуем не игнорировать проблему, а действовать по четкому алгоритму:

1. Сохраните доказательства. Сделайте скриншоты, сохраните видео и ссылки. Это важно для разбирательств.
2. Сообщите платформе. Если пришло письмо с дипфейком – обратитесь к техподдержке почты или мессенджера. Если обнаружили фальшивый контент о вашей компании на новостном сайте или в соцсетях – обратитесь к администраторам и модераторам. 
3. Обратитесь к специалистам. При серьезном ущербе привлеките юристов, экспертов по кибербезопасности, а также PR-службу. Вместе вы составите детальный план решения проблемы.
4. Проинформируйте знакомых, коллег и клиентов. Это нужно чтобы снизить эффект распространения и защитить репутацию. А также заставит людей проявлять осторожность.

Закон о дипфейках и ответственность

Пока что отдельного закона или статьи кодекса, напрямую говорящих про дипфейки, нет. Но есть законопроект с изменениями в Уголовный кодекс.

Какие статьи УК могут быть применены к преступникам, использующим дипфейки:

• Мошенничество: ст. 159 УК РФ.
• Клевета: ст. 128.1 УК РФ.
• Вымогательство: ст. 163 УК РФ.
• Нарушение неприкосновенности частной жизни: ст. 137 УК РФ.

Таким образом, отсутствие специальной нормы не пробел, а скорее особенность подхода, где важна не технология, а преступный умысел и наступившие последствия.

Как распознать дипфейк: главное

• Дипфейки (deepfakes) — это поддельные видеоролики, аудиозапси или фотографии, созданные с помощью нейросетей.
• Создать их может кто угодно, но действительно качественную генерацию можно сделать только профессиональными инструментами и с кропотливой постобработкой.
• Есть много примеров мирных, полезных применений дипфейков: от съемок кино и рекламы до оживления картин великих художников и создания обучающих программ.
• Однако часто их применяют для мошенничества, шантажа или клеветы. За это предусмотрено наказание по соответствующим статьям УК РФ.
• Чтобы не попасться на уловки мошенников, при любом риске использования дипфейков внимательно анализируйте контент. Любая странность, например, нечеткие контуры, размытые детали или неправильные ударения в речи — признаки подделки.
• Если избежать обмана не вышло, то надо собрать доказательства (скрины, записи), пожаловаться площадке, где вы обнаружили дипфейк, обратиться к службе безопасности, юристам и пиарщикам.

Часто задаваемые вопросы

Дипфейк и фотошоп — в чем разница?

Фотошоп — это программа, с помощью которой человек меняет изображение вручную, а дипфейк — технология, которую используют нейросети для генерации фотографий, роликов или аудио.

Можно ли создать дипфейк самому?

Да. Для этого есть простые сайты или приложения, а также продвинутые программы. Но для качественного ролика нужны мощная видеокарта, хорошее исходное видео и время на обучение модели.

Законно ли использовать дипфейки?

Да, если вы не нарушаете чужие права и не выдаете фейк за реальность. Проблемы возникают, когда создается контент, способный кому-то навредить.

Что делать, если я столкнулся с дипфейком?

Сохраните файл или ссылку, зафиксируйте публикацию и сообщите на платформу, через которую распространяют дипфейк. При необходимости обратитесь к юристам или специалистам по кибербезопасности.

Автор: Михаил Нохрин