Какво представлява технологията deepfake и как работи?

Deep Fakes технологиите накараха Илон Мъск да изпее съветска космическа песен и превърнаха Барак Обама в Черната пантера , наред с много други пародии и мемета.

Освен забавната част обаче, те са били използвани за извършване на престъпления и са били обект на редица противоречия, когато създателите им са се опитвали да ги представят като легитимни.

Например по време на президентската кампания в САЩ през 2020 г. има няколко фалшиви видеоклипа на Джо Байдън, който заспива, губи се и говори погрешно. Тези видеоклипове имаха за цел да подкрепят слуха, че той е в когнитивен упадък поради възрастта си.

В резултат на това компании като Facebook и Adobe, и дори отделни лица, се опитват да разработят по-ефективни техники за откриване на подобни “дълбоки фалшификации”.

Какво е deepfake и как работи?

Терминът „deepfake“ е създаден от думите „deep learning“ и „fake“.

Дълбокото обучение е вид машинно обучение, базирано на изкуствени невронни мрежи, които са вдъхновени от човешкия мозък. Методът се използва, за да научи машините как да се учат от големи количества данни чрез многослойни структури от алгоритми.

Deepfakes обикновено използват компютърна мрежа за обучение, наречена вариационен автоматичен енкодер, вид изкуствена невронна мрежа, която обикновено се използва за разпознаване на лица.

За да направят резултатите по-реалистични, deepfakes също използват Generative Adversarial Networks (GAN). GAN обучават „генератор“ да създава нови изображения от латентното представяне на изходното изображение и „дискриминатор“, за да оценява реализма на генерираните материали.

Колко време отнема създаването на deepfake?

Процесът на създаване на deepfake може да звучи сложно, но почти всеки може да създаде deepfake, тъй като има много налични инструменти за това и не са необходими много знания, за да ги използвате.

Сложността на deepfake също е определящ фактор. Висококачествените deepfake обикновено се правят на мощни компютри, които могат да изобразяват проекти по-бързо, но рендирането на сложни deepfake видеоклипове все още може да отнеме часове.

По-опростен deepfake може да бъде създаден само за няколко секунди с помощта на приложения за смартфони.

Законна ли е deepfake технологията?

Deepfakes са вдъхновили редица законодателни реформи по света.

• Конгресът на САЩ обмисля одобрението на Закона за отчетност за дълбоки фалшификати, законопроект, който има за цел „борба с разпространение на дезинформация чрез ограничения върху дълбоко фалшивата технология за промяна на видео“. Законопроектът предлага изисквания за разкриване и воден знак за създателите на фалшиви видеоклипове и установява наказания (глоби и до 5 години затвор) за тези, които не отговарят на тези изисквания.
• В началото на 2022 г. Китайската държавна интернет информационна служба стартира „Разпоредби относно администрирането на интернет информационни услуги за дълбок синтез“, проект на разпоредби за дълбоки фалшификации и друго изкуствено генерирано съдържание.
• Европейският парламент промени Закона за цифровите услуги, за да наложи използването на етикети върху deepfake видеоклипове. Законът за цифровите услуги ще влезе в сила от 1 януари 2024 г.

Нито един човек не може да бъде признат за изобретяването на технологията deepfake, тъй като тя се основава на няколко предишни технологии, като изкуствени невронни мрежи (ANN) и изкуствен интелект (AI).

Като цяло развитието на този тип синтетични носители може да се проследи от 90-те години на миналия век. Но технологията deepfake, както я познаваме днес, често разчита на GAN, а GAN не съществуват до 2014 г., когато са изобретени от компютърния учен Иън Гудфелоу.

Някои дълбоки фалшификати се откриват по-лесно от други. Всичко зависи от качеството и сложността на фалшифицирания материал. Умерено обучени или дори необучени хора могат да открият дълбоки фалшификати с по-ниско качество с просто око, като вземат предвид фините детайли.

Изкуственият интелект и невронните мрежи се обучават за автоматизирано откриване на deepfake, но ефикасността на тези методи често зависи от реализма на deepfake, които не прират да се развиват.

Източник: InterestingEngineering