През уикенда така наречените кръстници на изкуствения интелект се впуснаха в дискусия в социалната медийна платформа X за това дали големите езикови модели, които са AI алгоритми, обучени на големи набори от данни за генериране на съдържание, имат потенциала да разберат какво казват.
По принцип, основното нещо, което разграничава машината от човешкото същество е съзнанието.
Всичко започва, когато Джефри Хинтън се нахвърля върху Ян ЛеКун, главния учен по изкуствен интелект в Meta, като казва, че ЛеКун поддържа убеждението, че рискът от господство на ИИ е изключително малък и той отдава голямо значение на собственото си мнение по този въпрос, без да приема опасенията на други квалифицирани експерти.
Ако не помните кой е Джефри Хинтън. Това е човекът, който напуска Google, за да предупреди света за опасностите от ИИ.
ЛеКун, отговаря на туита на Хинтън, като казва, че настоящите LLM показват ограничено и повърхностно разбиране и не използват здрав разум, което е факт. Той подчерта необходимостта AI системите да имат вътрешен модел на света, който им позволява да предвиждат последствията, да разсъждават и да планират.
Друг потребител на X твърди, че модели като GPT-4 са толкова напреднали в решаването на проблеми, че се справят по-добре в тестовете от човешките същества, което предполага, че имат определен модел на света. Но ЛеКун опровергава това, като казва, че GPT-4 е в състояние да направи всички тези неща, само защото е обучен на повече данни от всеки друг модел.
ЛеКун посочва още липсата на способност на LLM да изпълнява практически задачи, които могат да бъдат извършени от 10-годишно дете, като разчистване на масата и включване на съдомиялната машина. Той твърди, че LLM няма да може да направи това сам с наличната в момента технология.
ЛеКун заключава, че трябва да се измине дълъг път, за да достигне ИИ човешко ниво и настоящите LLM дори не са на ниво котешка интелигентност, което показва необходимост от значителен напредък в разбирането на системите за ИИ на физическия свят и способностите за планиране. Двете неща, които могат да ни доведат дотам, казва той, са: световни модели и способност за планиране и разсъждение.
Други забележителни AI фигури се намесват
Илон Мъск също се включва в спора казвайки: „Опитахте ли подканата „сега използвайте здрав разум“ хаха.“ В миналото ЛеКун нарече твърдението на Мъск, че изкуственият интелект представлява екзистенциална заплаха за света, като „напълно нелепо“.
Бившият ръководител на Google Brain, Андрю Нг подрепя ЛеКун в спора му с Хинтън. Нг казва, че учените не приемат средно претеглена стойност на мненията на други учени, за да формират своите собствени заключения, и че рискът от изчезване на човека заради ИИ по същество не съществува.
Това не е първият път, когато ЛеКун влиза в дебат относно опасностите, които крие ИИ. Миналия месец във Facebook ЛеКун и Йошуа Бенджио, друг кръстник на AI и забележителна фигура в изследванията на AI, обмениха идеи относно безопасността и разпоредбите.
Източник: InterestingEngineering
