Олимпийските игри в Париж през 2024 г. използват системата за големи езикови модели (LLM), наречена Threat Matrix („Матрица на заплахите“), за да защитят играчите от онлайн злоупотреби и омраза.
Threat Matrix, с помощта на изкуствен интелект (AI), е впрегната да сканира съдържание на над 35 езика в платформите на социалните медии като Facebook, Instagram, TikTok и X.
Системата обръща внимание не само на постовете, които разпространяват онлайн омраза срещу спортистите и са докладвани, но и на тези, които току-що са пуснати и все още не са достигнали до спортистите.
Тази система за отстраняване на злоупотребите още в момента на публикуването им има за цел да облекчи психическите травми, на които са подложени хората, които ги получават.
Системата е проектирана по такъв начин, че да може да идентифицира и категоризира различните видове злоупотреби и да сигнализира за публикациите на екип от човешки рецензенти.
След това човешките рецензенти ще решат какъв тип действия трябва да бъдат предприети, дали просто свалянето на публикацията е достатъчно, или се налагат по-сериозни ответни действия.
Подготовка на МОК за спортистите по време на Олимпийските игри в Париж
Според прессъобщение на Международния олимпийски комитет (МОК) изданието през 2024 г. за първи път ще се използва изкуствен интелект, за да се осигури безопасно онлайн пространство за толкова голям брой спортисти, които се състезават в толкова много спортове по едно и също време.
Разработена от Комисията на спортистите и Медицинската и научната комисия на МОК, системата не само ще даде приоритет на безопасността и благосъстоянието на спортистите по време на игрите, но и ще помогне на МОК да разбере по-добре предизвикателствата, пред които са изправени спортистите във връзка с онлайн злоупотребите, което ще му позволи да подобри допълнително защитата на спортистите по време на бъдещи събития.
„Спортистите са в основата на всичко, което правим в МОК“, заявява президентът на МОК, Томас Бах след обявяването на проекта.
„Знам, че спортистите имат уникална и ценна гледна точка за това как трябва да бъдат организирани игрите и за проблемите, които ги засягат, докато се състезават. Ето защо се радвам, че Комисията на спортистите и Комисията по медицина и наука отговарят на тази обратна връзка чрез инициативи като системата за изкуствен интелект за защита на спортистите на Олимпийските игри в Париж през 2024 г. от онлайн злоупотреби.“
Според МОК системата за онлайн наблюдение ще бъде на разположение, за да обхване 15 000 спортисти и над 2 000 официални лица по време на олимпийските и параолимпийските игри.
Освен това тя ще помогне на МОК да разбере модела на онлайн злоупотребите и ще подпомогне разработването на мерки за безопасност за в бъдеще.
Матрица на заплахите
Според МОК инструментът с изкуствен интелект е бил успешно изпробван по време на Олимпийската седмица на спорта, когато е наблюдавал целенасочено съдържание с обидни послания, публикувано в профилите на играчите, участващи в събитието, в социалните медии.
В доклад на Би Би Си се посочва, че по приблизителна оценка Олимпийските игри в Париж ще предизвикат повече от половин милиард публикации в социалните медии. Би било много трудно дори за голям човешки екип да провери и прегледа всички тези постове, но и въпросът за пропускане и преминаване на речта на омразата незабелязано също е голям проблем.
Ето защо системата, подпомагана от изкуствен интелект, ще се окаже много полезна в стремежа за защита на спортистите онлайн. Според доклада системата ще се фокусира не само върху думите и расовите обиди, но и върху контекста, който може да направи даден пост обиден.
„Играчите и техните семейства се нуждаят от подкрепа и защита, които да им помогнат да докажат, отклонят и докладват за злоупотреби. Threat Matrix предлага тази услуга, като лишава от анонимност протагонистите и гарантира, че насилниците няма да останат ненаказани“, се казва на уебсайта на компанията.
Компанията също така твърди, че системата работи по модел на четири етапа: набавяне на данни, обработка, преглед от хора и накрая полезни данни.
Добавянето на човешкия елемент прави системата по-зависима и надеждна, което я превръща в много по-ефективен инструмент от хората или машините, работещи самостоятелно.
Предстои да оценим колко ефективна ще се окаже Threat Matrix при осигуряването на онлайн безопасността на спортистите по време на Олимпийските игри в Париж, но без съмнение това е стъпка в правилната посока.
Източник: InterestingEngineering
