Джефри Хинтън се страхува, че няма нищо, което може да попречи на „лошите актьори“ да използват AI.
Джефри Хинтън, инженер на Google, смятан за кръстник на изкуствения интелект, напусна работата си и сега предупреждава за опасностите от по-нататъшното развитие на ИИ.
Хинтън е работил в Google повече от десетилетие и е отговорен за технологичния пробив от 2012 г., който служи като основа на настоящите разработки на AI като ChatGPT. Той обяви, че подава оставката си от Google в изявление за New York Times, като каза, че сега съжалява за работата си.
„Утешавам се със стандартното извинение: ако не го бях направил аз, някой друг щеше да го направи“, казва той пред вестника.
„Трудно е да си представя как бихте могли да попречите на „лошите актьори“ да го използват за лоши неща“, продължава Хинтън.
Големият пробив на Хинтън в ИИ идва, докато работи с двама студенти в Торонто през 2012 г. Триото успява да създаде успешно алгоритъм, който може да анализира снимки и да идентифицира общи елементи, като кучета и коли, според NYT.
Алгоритъмът е елементарно начало на това, на което са способни сегашните AI като ChatGPT на OpenAI и Bard AI на Google. Google закупува компанията, която Хинтън стартира около алгоритъма за 44 милиона долара малко след пробива.
Един от завършилите студенти, работили по проекта с Хинтън, Иля Суцкевер, сега работи като главен учен на OpenAI. Хинтън казва, че напредъкът, наблюдаван от 2012 г. насам, е удивителен, но вероятно е само върхът на айсберга.
„Вижте как беше преди пет години и как е сега“, казва той за индустрията. „Вземете разликата и я разпространете напред във времето. Това е страшно.“
Страховете на Хинтън повтарят тези, изразени от повече от 1000 технологични лидери по-рано тази година в публично писмо, което призовава за кратко спиране на развитието на ИИ. Хинтън не е подписал писмото по онова време и сега казва, че не е искал да критикува Google, докато е бил в компанията.
Хинтън прекрати работата си там и проведе телефонен разговор с главния изпълнителен директор на Google Сундар Пичай в четвъртък, миналата седмица.
„Оставаме ангажирани с отговорния подход към развитието на ИИ. Непрекъснато се учим да разбираме възникващите рискове, като същевременно правим смело иновации“, казва главният учен на Google, Джеф Дийн, пред Times.
Източник: FoxBusiness
