Този ход идва на фона на нарастващите опасения относно опасностите от технологията deepfake, която може да създаде реалистични, но фалшиви изображения на хора, използвайки изкуствен интелект.
X, по-рано Twitter, популярна платформа за социални медии, предприе драстични мерки, за да спре разпространението на порнографски deepfake изображения на Тейлър Суифт, които се появиха на сайта миналата седмица. Компанията е блокирала потребителите да търсят името на Тейлър Суифт, заявявайки, че това е временно действие за гарантиране на безопасността.
Този ход идва на фона на нарастващите опасения относно опасностите от технологията deepfake, която може да създаде реалистични, но фалшиви изображения на хора, използвайки изкуствен интелект. Главният изпълнителен директор на Microsoft, SAG-AFTRA (Гилдията на екранните актьори – Американската федерация на телевизионните и радио артисти) и Белият дом също изразиха тревогата си относно потенциалната вреда и злоупотреба с такава технология.
Скандалът избухна миналата сряда, след като десетки графични изображения на Суифт в сексуални сцени са публикувани на Celeb Jihad, уебсайт, известен с хостването на порно със знаменитости. Изображенията бързо са споделени в X и други социални медийни платформи, достигайки до милиони зрители. Някои изображения са създадени с помощта на Microsoft Designer, безплатен инструмент, който позволява на потребителите да генерират лица от снимки.
Феновете на Суифт реагираха светкавично на нахлуването в личния й живот, като докладваха акаунтите, които публикуваха изображенията и наводниха свързаните хаштагове с положителни съобщения и снимки на певицата. X спря много от акаунтите в нарушение, но не и преди някои изображения да станат вирусни. Една публикация има над 45 милиона гледания, според The Verge.
X заяви в четвъртък, че има политика на нулева толерантност към изображения на голота без съгласие (NCN) и че екипите му работят усилено, за да премахнат всички идентифицирани изображения и да предприемат действия срещу отговорните акаунти. Компанията се ангажира да поддържа безопасна и уважителна среда за всички потребители и да следи отблизо ситуацията.
Някои изображения обаче все още останаха налични на X и други платформи през следващите дни. 404Media, дигитална медийна компания, проследи източника на изображенията до Telegram група, специализирана в създаването на изображения на жени, генерирани от AI, без съгласие.
Проблемът също така привлече вниманието на главния изпълнителен директор на Microsoft, Сатя Надела, който говори с Лестър Холт от NBC News в петък. Надела каза, че компанията е отговорна за поставянето на ограничения в своята технология, за да гарантира, че се произвежда по-безопасно съдържание. Той каза, че компанията прави много, за да се справи с проблема, но призна необходимостта да се действа бързо.
В неделя X потвърди, че е блокирал потребителите да търсят името на Суифт в платформата. Търсенето на името на певицата в неделя следобед води до съобщение за грешка „Нещо се обърка. Опитайте да презаредите“. Джо Бенарок, ръководител на бизнес операциите на X, казва: „Това е временно действие и се извършва с много предпазливост, тъй като даваме приоритет на безопасността по този въпрос.“
Белият дом също взе отношение по въпроса, като нарече фалшивите изображения „тревожни“ и призова компаниите за социални медии да направят повече, за да предотвратят разпространението на такава дезинформация. Прессекретарят на Белия дом, Карин Жан-Пиер каза в петък, че слабата защита срещу фалшиви изображения, вероятно създадени от AI, засяга непропорционално жените. Тя каза, че администрацията работи с Конгреса и технологичната индустрия, за да намери решения за борба с проблема.
Скандалът също така подчерта предизвикателствата, пред които е изправен X. Мъск е критикуван за своите противоречиви публикации и опити да преразгледа политиките за модериране на съдържанието на платформата. Много рекламодатели са оттеглили рекламите си от платформата, опасявайки се, че техните марки могат да бъдат свързани с вредни публикации.
Източник: InterestingEngineering
