Изкуственият общ интелект поражда сериозни опасения относно възможните последици от предоставянето на ИИ на толкова много власт.
Твърденията на технологичния предприемач и разработчик Siqi Chen, че GPT-5 „ще“ постигне общ изкуствен интелект (AGI) до края на тази година, предизвикаха вълнение в света на ИИ. Този напредък в AI технологията може да има дълготрайни ефекти върху живота на хората, ако твърдението е вярно.
„Казаха ми, че GPT-5 е планирано да завърши обучението си през декември и че OpenAI очаква да постигне AGI“, туитна Chen в понеделник.
Това означава, че с надграждане на GPT-5 генеративният AI може да бъде неразличим от човешкия. Способността на AI да учи и разбира всяка задача или концепция, която хората могат, се нарича AGI, докато AI се отнася до машина, която може да изпълнява конкретни задачи. AGI е по-високо ниво на AI, което не е ограничено до конкретни задачи или функции.
Положителната страна е, че AGI може да повиши производителността чрез ускоряване на активираните от AI процеси и освобождаване на хората от повтаряща се работа. Даването на толкова много правомощия на AI обаче може да има непредвидени и дори отрицателни ефекти.
Това може да направи възможно разпространението на изключително убедителни човекоподобни ботове в социалните медийни платформи, позволявайки скрито разпространение на вредна дезинформация и пропаганда.
Последици от мощността на ИИ
Чен цитира неотдавнашния туит на Йохи Накаджима, в който той описва експеримент на „основателя на изкуствения интелект“, който го е поразил.
На AI се поставя цел да създаде следващата си задача в експеримента и той продължава да генерира и пренарежда свой собствен списък със задачи, докато ги изпълнява.
Въпреки че този експеримент понастоящем е свързан само с търсене, Чен вярва, че със силата на плъгините за chatbot и GPT-5, „ние сме много по-близо“ до постигането на AGI, отколкото много хора вярват.
AGI поражда сериозни опасения относно възможните последици от предоставянето на толкова много власт на изкуствения интелект.
Илон Мъск и над хиляда други технологични лидери и изследователи подписаха отворено писмо в сряда, предупреждавайки, че развитието на AI може да ускори разпространението на невярна информация и пропаганда и че спирането на всякакъв напредък отвъд GPT-4 би било в най-добрия интерес на човечеството.
„Призоваваме всички лаборатории за изкуствен интелект незабавно да спрат за поне шест месеца обучението на системи за изкуствен интелект, по-мощни от GPT-4. Тази пауза трябва да бъде публична и проверима и да включва всички ключови участници“, се казва в писмото.
„Ако такава пауза не може да бъде въведена бързо, правителствата трябва да се намесят и да наложат мораториум.“
Източник: InterestingEngineering
