Что такое дипфейк (Deepfake): как искусственный интеллект подделывает фото, видео и голос

Нынче технологии искусственного интеллекта (для кого-то более ясна аббревиатура ИИ) развиваются настолько стремительно, что сегодня визуально отличить настоящую видеозапись (или фотку) от банальной искусственной подделки становится все сложнее и сложнее. Предположим, видеозапись: на экране человек произносит некие слова, но их он в реальности никогда не говорил! знакомо? Яркие примеры: известная личность рекламирует сомнительный продукт… или же голос близкого родственника просит по телефону срочно перевести ему деньги. Скверные ситуации!.. однако, все эти подделки можно легко выявить специальными инструментами по типу Deepfake detection, о котором пойдёт речь ниже.

 

Deepfake (дипфейк) — дипфейки теперь вовсю используются в кино, рекламе, развлекательных проектах и создании цифрового контента. Однако, и это, в общем, неудивительно для подобных проектов, у этой технологии имеются и обратные стороны: мошенничество, создание фальшивых новостей, подделки личности(ей) и пр. пр.

 

Разберемся, что такое Deepfake detection простыми словами, как работает данная технология, для чего ее используют и как распознать поддельные изображения, видео и аудиозаписи:

 

 

 

 

Что такое Deepfake простыми словами

 

 

 

Deepfake (дипфейк) — это изображение, видеоролик или аудиозапись, созданные либо измененные с помощью технологий искусственного интеллекта таким образом, чтобы реалистично имитировать внешность, мимику, движения или голос человека.

 

Само имя (термин) Deepfake собрано из двух английских понятий:

 

 

 

• Deep Learning — глубокое машинное обучение.
• Fake — подделка или фальшивка.

 

 

Главная особенность дипфейка заключается и считается в том, что искусственный интеллект способен не просто легонько изменить фотографию или наложить красивый фильтр, но создать убедительную имитацию реального человека, при всём при этом преследуя некие цели!..

 

Или любая фотка человека при помощи нейросети может легко превратиться в видео, в котором он, к примеру, поет, но в реальности он этого никогда не делал. Да и петь-то не умеет…

 

Аналогичным образом создаются искусственные голоса. Нужно всего-лишь предоставить достаточное количество аудиоматериала «требуемого человека», а затем обучить ИИ воспроизводить характерные особенности речи того человека.

 

 

 

 

как работает технология Deepfake

 

 

 

В основе создания дипфейков, как несложно догадаться, лежат алгоритмы так называемого машинного обучения и нейронные сети. Скажем так, БОТЫ анализируют большое количество изображений, видеозаписей, аудиофайлов, по итогу учатся воспроизводить характерные особенности внешности и оттенки, манеры голоса.

 

Процесс создания дипфейка, если его разложить на этапы, выглядит примерно следующим образом:

 

 

 

1. Сбор исходных материалов: пользователь предоставляет нейросети фотографии, видеозаписи или образцы голоса определенного человека (которого хочет подделать);
2. анализ данных: искусственный интеллект приступает к изучению черт лица, мимики, положение глаз, форму губ, движения головы или характерные особенности говора,  произношения;
3. обучение модели: алгоритм учится воспроизводить характерные особенности указанного человека….
4. создание подделки: нейросеть генерирует новое изображение, видео или аудио либо изменяет существующий материал…
5. обработка результата: при необходимости улучшаются освещение, синхронизация губ, движение лица и качество звука (это, если хотите просто-напросто улучшить качество фотографии и пр.).

 

 

Необходимо упомянуть и о том, что направления развития Deepfake связаны с генеративно-состязательными сетями (GAN). В такой связке системы (две нейросети) выполняют различные по темам задачи:

 

1. одна создает искусственные материалы;
2. другая пытается определить, насколько они отличаются от настоящих.

 

В результате многократного тестирования-обучения качество генерации раз от раза несомненно и очевидно повышается.

 

 

 

 

 

какие бывают дипфейки

 

 

 

Давайте разберемся: технология Deepfake не ограничивается простыми заменой лиц в видеороликах или фотографии. А потому следует четко разделить основные существующие разновидности искусственных подделок но:

 

 

 

Deepfake-видео

 

Изображения и видеоролики выглядят так, будто бы реальный человек говорит или делает что-то, чего в действительности никогда не происходило и не делалось…

 

Например, лицо одного человека заменяют лицом другого, изменяют мимику или создают полностью искусственного забавного/незабавного персонажа.

Такие подходы технологии достаточно широко используются в кино, рекламе и развлекательных проектах… это плюс! а минус — могут применяться для обмана (введение в заблуждение) пользователей.

 

 

Deepfake-фото

 

С помощью нейросетей можно создавать достаточно качественные реалистичные фотографии людей, которых никогда не существовало. Либо же изменять внешность реальных людей или переносить лицо и части одежды одного человека на другое изображение. К примеру, зимнюю фотографию возможно изменить в яркую летнюю.

 

…используются для оформлений рекламы, личных/корпоративных социальных сетей, виртуальных персонажей и, конечно же, как ни прискорбно, мошеннических аккаунтах.

 

 

Deepfake-голос

 

Искусственный интеллект способен очень близко имитировать голос любого человека, включая тембр, интонации, скорость речи и особенности произношения (никакие безруковы как актеры теперь не нужны!)

 

Назовем так, данная отрасль, несёт опасность — и это использование поддельных голосов в сферах телефонного мошенничества. Злоумышленники могут выдавать себя за родственников или начальства — руководителей компании, представителей банков.

 

…и что во всём этом действительно наиболее опасно, рассмотрим в главе ниже:

 

 

Deepfake в режиме реального времени

 

Современные технологии уже позволяют с легкостью изменять внешность и голос человека непосредственно во время текущего видеозвонка, голосовых переговоров или онлайн трансляции.

 

Например, собеседник видит не настоящее лицо участника разговора, а его подмену — искусственную цифровую копию (изменённую по требованию). Все это создает дополнительные риски при:

 

1. удаленном общении;
2. онлайн-собеседованиях и деловых переговорах.

 

 

для чего используют Deepfake

 

 

 

Непременно уточним: несмотря на предполагаемую потенциальную опасность, сама технология по определенной сути не является или исключительно развлекательной, или лишь вредной. Есть вполне и законные/полезные способы применения.

 

 

1. Кино и видеопроизводство: дипфейки помогают создавать специальные эффекты, омолаживать актеров, восстанавливать внешность персонажей и работать с цифровыми двойниками. И, что оправдано, создание опасных сцен без привлечения дублеров )каскадеров);
2. реклама и маркетинг: нейросети дают безграничные возможности создавать виртуальных ведущих, рекламных персонажей и видеоролики с использованием цифровых мультяшных или сказочных образов;
3. образование: применяется для создания интерактивных уроков, исторических реконструкций и обучающих материалов!
4. развлекательный контент: любой пользователь с помощью ИИ может создать юмористические и развлекательные ролики — меняет лица персонажей и экспериментирует с искусственными всевозможными анимациями…
5. перевод видео: с помощью искусственного интеллекта можно адаптировать речь человека под другой язык, синхронизируя движения губ с переведенным/произносимым онлайн текстом.

 

 

 

 

 

чем опасны дипфейки

 

 

 

Главная и явная проблема Deepfake заключается в возможностях использовать искусственно созданные материалы для обмана людей. Чем реалистичнее становится нейросетевой контент, тем сложнее обычному пользователю определить подделку.

 

 

…основные угрозы и заключение повествования о Deepfake:

 

 

• Финансовое мошенничество: злоумышленники имитируют голос родственника или руководителя компании, чтобы убедить человека срочно перевести деньги.
• фальшивые новости: с помощью поддельных видеозаписей можно создать впечатление, что известный человек произнес определенные слова или сделал громкое заявление.
• подделка личности: искусственные фотографии и видео применяются для создания фальшивых аккаунтов, обмана при знакомстве и других не менее опасных мошеннических действий.
• репутационный ущерб: подделки роликов могут содержать ложные высказывания или компрометирующие сцены, способные навредить репутации человека.
• шантаж и нарушение приватности: технологии замены лица могут использоваться для создания интимных изображений без согласия человека (это важнейшее направление — опасное!).

 

 

 

 

 

 

Но требовательный пользователь непременно захочет задать вопрос: а можно ли распознать такие дипфейки?! и как это, если возможно, правильно сделать? Об этом как раз рассказывает — с примерами сервисов — наша следующая статья: как распознать Deepfake: основные признаки подделки