Фалшиви изображения: AI се използва за създаване на изображения на събития, които никога не са се случвали

Не сме готови за бъдещето, което тези AI инструменти ни предоставят.

Социалната медийна платформа Reddit е изпълнена с реалистични изображения на събития, които никога не са се случвали, като Голямото земетресение и цунами в Каскадия от 2001 г. и Синята чума в Русия. Изображенията са създадени с помощта на платформата за генеративен изкуствен интелект (AI), Midjourney.

Миналата седмица Midjourney стана известен със създаването на драматични визуализации на ареста на бившия президент на САЩ, Доналд Тръмп. Тези изображения бяха създадени с помощта само на текстови подкани, предоставени от потребителя, и демонстрираха колко мощна става технологията при предоставянето на реалистични резултати.

Резултатите стават възможни с петата итерация на генеративния AI на Midjourney, докато компанията едва е навършила година официално съществуване. Функциите са до голяма степен достъпни за абонатите на платформата, които отиват в Reddit и Twitter, за да покажат на какво е способна.

Генерирани от AI изображения на фалшиви събития

Subreddit Midjourney е съкровищница от изображения, генерирани от AI и споделени от потребителите, за да покажат своите творения.

В петък потребител публикува изображение на папата, облечен в бяло пухкаво палто, което след това беше споделено в Twitter и се много хора решиха, че изображението е истинско.

Въпреки че това може да е нещо незначително, други потребители са създали поредица от изображения около събитие, които имитират фотожурналистиката. Едно такова събитие е слънчевата супербуря от 2012 г., която започва с изображения на изхвърляния на коронална маса (CME) от Слънцето, наречени най-големите, регистрирани някога от 1859 г. насам, известни като събитието Карингтън.

След това нишката от изображения се простира до двама говорители на НАСА, които провеждат пресконференция, след това президентът Обама, който се обръща към нацията, сцени от летища, където полетите са приземени в очакване на геомагнитната буря, и Ню Йорк, който преминава в превантивно спиране на тока, за да се предотврати претоварване на мрежата.

Това е последвано от поредица от изображения на полярни сияния, забелязани над известни забележителности в САЩ, Обединеното кралство, Европа, както и Австралия, както и щети на енергийната инфраструктура и отговор на събитието.

Още по-реалистична нишка от изображения показва земетресение с магнитуд 9,1 и цунами на западния бряг на Северна Америка през 2001 г., което очевидно е унищожило къщи и пътища в Сиатъл, Портланд, а също и части от Канада.

Генерираните от AI изображения показват избухването на пожари в корабостроителници и текущи спасителни операции. Изображенията показват толкова реална мъка и болка, че човек лесно може да се заблуди, че тези събития са се случили наистина.

Без конкретни начини за разграничаване дали изображенията са генерирани от AI или не, те могат да се разпространят много бързо в платформите на социалните медии и да всеят паника сред хората. Още по-лошо е, че фалшивите изображения могат умишлено да се разпространяват в платформите на социалните медии, за да разпространяват дезинформация или да подтикват към насилие.

Спешно е необходимо експертите в областта да се съберат и да открият начини, по които технологията може да се използва креативно, без да причинява вреда на другите. На платформите вероятно ще им е трудно да се справят със скоростта на иновациите в тази област и затова бдителността срещу приемането на нещо като реално трябва да стане висока.

Този доклад съдържа информация, която за първи път се появи във Vice. 

Източник: InterestingEngineering