Продължаваме нашия разговор с Александър Райчев, изпълнителен директор на LivePerson. В първата част говорихме за възможностите, които предоставя на индустрията изкуствения интелект днес и кои са сектори, които имат най-голям потенциал да го използват.
Днес ще обърнем внимание на предизвикателства пред индустрията при внедряването на AI, кои са етичните въпроси, свързани с използването му и какви са бъдещите тенденции при употребата му.
Модерните технологии улесняват живота и работата ни, но как се отразяват те в ситуация на война?
Колкото и да гледаме позитивно на света покрай нас, военната промишленост също прилага съвременни технологии и надпреварата тук, както винаги, е катализатор на различни промени. В основата на индустриалните революции по света военната индустрия е основоположник на редица иновации, като пример – използването на ядрения синтез в енергетиката и много други нововъведения.
По времето на Втората световна война немската подводница U-120 е потънала заради неизправност … в тоалетната. Просто факт! Тук не търсим наличието или липсата на ИИ, но отговор на въпроса, какво мотивира лидерите да се впуснат в такава надпревара. И това не е само дивата и свирепа нужда от налагане на мощ, а въпрос на чест, световно лидерство и желание за доказване на господство. По време на войната е използван езика на индианците като криптиращ механизъм, тъй като е бил рядко срещан и трудно разбираем, а в момента говорим за универсални криптиращи механизми, блокчейн модели.
Малко известен факт е, че Чърчил и Хитлер са едни от световните лидери, които не са се срещали никога на живо. Е, сега с генеративния ИИ това вече може и да бъде направено – въпрос на усещания. Съвременниците в политиката са много зависими от съвременните технологии и разчитат на тях в сигурността. Вече безпилотни дронове обикалят с различни цели, сателити правят заснемане на огромни участъци, изпълняват високопрецизни команди без човешко участие, само с наличието на GPS координати и предварително изчислени алгоритми. Всички тези данни, събрани от проучвания, сензори и датчици спомагат за вземането на стратегически правилни решения.
Същите тези алгоритми могат да работят и върху систематичното разпознаване на лица, предмети, цели и обекти, да изграждат защитни стени срещу предвидими атаки (както кибер, така и конвенционални). Да спрем с деструктивните идеи – със сигурност ИИ може да бъде използван по-разумно. И да завърша темата – да кажем, че една ИИ симулация може да даде база за подготовка за развитието и подготовката на стратегически важни учения и да развиват способностите както в технологиите, така и в човешко изражение.
Какви предизвикателства среща индустрията при внедряването на AI и как могат да бъдат преодолени?
На първо място бих сложил недостига на квалифицирани специалисти и такива, които могат да разработват алгоритми с ИИ, както и да погледнат широкомащабно на бъдещите промени. Затова и освен бизнеса, учените, но и университетите и правителствата трябва да имат ясен план и програма (естествено подпомогната с генеративния ИИ) за подготовка на хората, както за използването на ИИ, така и за тяхната преквалификация.
Друго, което може да се окаже проблем, е качеството на данните, с които боравят алгоритмите на ИИ. От скоро вече те черпят ресурс не само от собствените си големи данни (big data), но и от интернет. Една информация обаче, повтаряща се целенасочено някъде, би могла да изкриви способността на алгоритъма да се обучи в правилната посока. Тук борбата с дезинформацията няма да е от помощ само за хората, но и за поставянето на достоверна база за анализ на ИИ. Това включва и допълнителни инвестиции, не само за хардуер и ресурси, които да спомогнат за целта, но и дори включването на самият генеративен ИИ да се намерят тези източници на знания, които са уникални и са достоверни.
Друго предизвикателство са етичните норми, които към момента биха последвали дадена регулация и спазването на стриктни правила. Тук включвам и персонални и лични данни да стават достояние на аудиторията.
Не бих изключил и като предизвикателство намесата на синдикати, съпротива и масови протести, безредици на работници, които биха били засегнати от автоматизация в индустриите, които нямат желание да се преквалифицират и поемат нови задачи. Затова предварително трябва да има разписана стратегия и тя да е достояние на хората. Също и да се поддържа иновативна среда и създаване на принципи, които да се следват.
Със сигурност използването на ИИ може да доведе и до повече правно-спорни въпроси от недоброжелателното използване на ИИ и предоставяне на информация, която е лична собственост, свързана с патенти и изпитания.
Нещото, което със сигурност няма да стане изведнъж, е интеграцията на новите алгоритми със съществуващите процеси в индустрията. Това ще отнеме време и ще срещне своите въпроси и необходимо време за решаването им. А в допълнение с постоянно променящата се обстановка и налагането на нови механизми и технологии може да постави индустрията в ситуация, в която не може да се адаптира толкова бързо, колкото динамиката в развитието на ИИ. Ще има едно постоянно догонване между новите технологии и тяхното прилагане в реална среда.
Какви са потенциалните етични въпроси, свързани с използването на AI в индустрията?
Може би в използването на личните данни. Представете си, че летите и списъкът с пътниците, техните данни са достояние на всеки, който иска да организира някаква справка. Трябва да има норми на поведение и възможност подобни данни да бъдат защитени. В даден момент може да се окаже, че предоставената информация е дискриминативна и поражда даден тип недобросъвестна обработка от определена група хора.
Също така би било интересно да се засегне и въпроса с безопасността от прилагането на подобни системи, но и носенето на персонална отговорност. Представяме си, че имаме страхотен алгоритъм базиран на най-актуалните данни, но все пак този алгоритъм не прави нещата, както би следвало или пък още по-неприятен момент – да доведе до катастрофални последици и излизане извън контрол. Тук страховете на хората как роботите ще започнат да властват над нас, не са лишени от смисъл. Затова трябва да има ясно изразена отговорност и най-малкото – да има не само споразумение и обещания, но дълбоко в механизмите на изкуствения интелект да се заложат нормите на поведение и докъде той може да се простира.
В законите на роботиката е записано, че в прерогативите на роботите не може да е застрашаването на човешкия живот, и че роботът трябва да се подчинява на човешкото същество, но кой и по какъв начин би гарантирал това? Или пък, че алгоритмите няма да се използват да навредят на компютърни системи, да атакуват правителства и инфраструктура, лични данни.
Кои са предимствата и недостатъците на използването на AI в индустрията спрямо традиционните подходи?
Аз мисля, че за предимствата достатъчно говорихме, но засегнах и част от недостатъците.
Друго, което може да се добави, е недостатъчна прозрачност и предсказуемост. Някои AI системи, като например невронни мрежи, могат да бъдат сложни и трудно разбираеми, което може да доведе до сложност в алгоритмите. Това прави трудно да се обясни какви са причините за вземането на определени решения. Оттук могат да произлязат проблеми с прозрачността на AI системите, което може да бъде препятствие за приемането им или за доверието в тях.
Какви са бъдещите тенденции за използване на AI в индустрията и как те ще променят работните места и професиите?
Със сигурност в краткосрочен и средносрочен план автоматизациите в индустрията ще продължат с по-бърз темп, но могат да влязат и други системи като такива за създаване на виртуална реалност, които пък да тестват надеждността на такива системи, преди тяхната експлоатация и какво би произтекло за цялата екосистема, включително и като въздействие към природата, внедряването на една потенциална автоматизация.
Със сигурност обаче взаимодействието между човек и машина ще продължи да се развива, и със сигурност човекът ще има водещата роля в бъдещото развитие на модерните технологии. Те трябва да бъдат създавани в помощ на нас човеците, това включва роботи-помощници в производството, у дома, сътрудничество между роботи и хора в сложни операции в сфери като здравеопазването и лекарствената терапия. Вече един хладилник знае повече от нас за здравословното хранене и с какво той трябва да бъде зареден, за да предостави на неговия ползвател едно качествено обслужване с най-добрите и вкусни традиционни рецепти, както от традиционната кухня, така и от новите предложения в интернет.
И нещо за край! Всички изведнъж се втурнаха да изследват и коментират поведението на ИИ, колко е добър или пък до какви страдания може да доведе човечеството, дори и неговия повсеместен край. Докато ние все още не сме открили почти нищо за човека – и към момента не сме разгадали ДНК на човешкия род, има ли живот след смъртта, как еволюира душата, можем ли и как се прераждаме, така ли всъщност еволюираме, или къде сме ние във Вселената? Всички тези въпроси, включително и развитието на ИИ зависи от нас, хората и доколко искаме да сме полезни на човечеството и да му дадем силата да развива своят потенциал занапред.
Да завършим позитивно! Надявам се да не изгубим човешкото и да съхраним възможностите на човек да се развива, както в техническо отношение, така и в емоционално.
П.С.: Ако можеше ИИ да чете мисли, то би дал това интервю от мое име! Скоро и това ще бъде реалност…
