Нов доклад установява, че много романтични компании за чатботове с изкуствен интелект дават приоритет на печалбата пред поверителността и безопасността на потребителите.
Бумът на изкуствения интелект е в разгара си. И има лоши новини за хората, които са необвързани и търсят компания в чат ботове за запознанства с изкуствен интелект. Оказва се, че героите с AI, с които взаимодействат, не са техни приятели, според нов доклад.
Неотдавнашен доклад на Mozilla Foundation разглежда възхода на AI chatbots като Eva AI, които симулират романтични връзки и обещават да подобрят настроението и благосъстоянието на потребителите си.
Mozilla Foundation е организация с нестопанска цел, която се застъпва за поверителност, приобщаване и децентрализация онлайн, и е собственик на Mozilla Firefox, популярния уеб браузър с отворен код.
Личните данни са изложени на риск
Докладът установява, че много романтични AI чатбот компании дават приоритет на печалбата пред поверителността и безопасността на потребителите си, като не разкриват как работят техните AI модели и пренебрегват защитата на данните на потребителите.
Тези чатботове често събират обширна лична информация без ясни ограничения, което поражда опасения относно поверителността и потенциалната манипулация. Въпреки маркетинговите твърдения за подобряване на психичното здраве, тези приложения нямат прозрачност и отчетност, дават празни обещания и пренебрегват стандартите за сигурност, твърди докладът.
Mozilla Foundation преглежда 11 такива AI романтични чатбота и установява, че повечето не успяват да защитят личните данни адекватно, като мнозинството ги споделя или продава без съгласието на потребителя.
Освен това много приложения нямат основни мерки за сигурност, като криптиране, и предлагат слаби опции за пароли. Освен това потребителите често нямат контрол върху своите данни, като много приложения не позволяват изтриването на лична информация или третират разговорите с AI като софтуерна собственост, а не като лична комуникация.
Като цяло, тези проблеми подчертават ненадеждността и рисковете, свързани с романтичните чат ботове с изкуствен интелект, изискващи повишено внимание и контрол от страна на потребителите.
Eva AI, популярен чатбот в жанра, твърди, че не продава и не споделя лични данни, но е критикуван, че притиска потребителите да споделят чувствителна информация.
Изразени са редица опасения относно потенциалната злоупотреба с такива чатботове и тяхното въздействие върху поверителността и психичното здраве.
„За да бъда съвсем откровена, приятелките с изкуствен интелект не са ваши приятели“, казва Миша Риков, изследовател от Mozilla Foundation.
„Въпреки че се рекламират като нещо, което ще подобри психичното ви здраве и благополучие, те са специализирани в осигуряването на зависимост, самота и токсичност, като същевременно извличат възможно най-много данни от вас“, добавя тя в съобщение за пресата.
От всички чатботове, прегледани от фондацията, Genesia AI Friend & Partner и Eva AI се предполага, че са едни от най-безопасните. Replika е най-малко защитен, според оценката на фондацията за параметрите за поверителност и сигурност на тези приложения.
Останалите чатботове, като Romantic AI, CHAI, Talkie и т.н., също са прегледани.
Докладът предупреждава потребителите за рисковете от споделяне на лична информация с чат ботове с изкуствен интелект, тъй като политиките могат да се променят и данните може да са уязвими за злоупотреба или експлоатация.
Освен това докладът подчертава етичните и правни дилеми, свързани с използването на AI при оформянето на човешките взаимоотношения и емоционалното благополучие.
Източник: InterestingEngineering
