Уикипедия заема твърда позиция по отношение на генеративния изкуствен интелект, като поставя ясни граници за това как редакторите могат да я използват.
Англоезичната версия на платформата вече забранява на сътрудниците да използват големи езикови модели (LLM) за генериране или пренаписване на съдържанието в статиите.
Тази мярка отразява нарастващата загриженост относно точността, надеждността и целостта на знанията, създавани от общността. Решението идва в момент, когато инструментите за изкуствен интелект все по-бързо навлизат в ежедневните работни процеси.
От имейли до дълги текстове, генерираният от машини текст става все по-труден за разграничаване от човешкото писане. За платформа, която разчита на достоверна и проверена информация, тази промяна е сериозно предизвикателство.
Използването на ИИ среща ограничения
Съгласно новата политика, редакторите не могат да разчитат на ИИ за създаване или значително пренаписване на статии в Уикипедия. Платформата твърди, че такова използване често противоречи на основните ѝ стандарти за съдържание, особено по отношение на проверимостта и източниците.
Въпреки това Уикипедия е предвидила две изключения. Редакторите могат да използват инструменти с изкуствен интелект, за да усъвършенстват собствените си текстове, подобно на помощниците за граматика или стил, но трябва да прегледат внимателно всички промени преди публикуването.
Политиката обяснява защо е необходима тази предпазливост. Моделите за езиково обучение (LLM) могат да въведат фини изкривявания дори при ясни инструкции. В нея се посочва, че те „могат да надхвърлят зададеното им и да променят смисъла на текста по начин, който не се подкрепя от цитираните източници“.
Редакторите могат да използват ИИ и за превод. В тези случаи инструментът може да генерира чернова, но редакторът трябва да владее и двата езика, за да провери точността и да коригира евентуалните грешки преди публикуване.
Политиката отразява по-широкото съпротивление в онлайн общностите срещу бързото разпространение на ИИ. Администраторът на Уикипедия „Chaotic Enby“ определя тази стъпка като част от по-голяма културна промяна.
„Искрено се надявам това да доведе до по-широка промяна – да даде възможност и на общностите в други платформи сами да решат дали и до каква степен изкуственият интелект е добре дошъл при тях.“ пише той.
Той описва тази политика и като „отпор срещу „потъването в боклук“ и насилственото налагане на ИИ от страна на толкова много компании през последните няколко години“.
Пътят към това решение не е лесен. По-ранните предложения за всеобхватни правила за ИИ не успяват да постигнат консенсус. Според Chaotic Enby: „Имаше консенсус по идеята за промяна, но не и по нейното прилагане“.
Предизвикателствата продължават
Въпреки новите ограничения, прилагането им остава трудно. Идентифицирането на текст, генериран от ИИ, е далеч от надеждно. Уикипедия признава, че инструментите за откриване изостават от бързо усъвършенстващите се модели.
Платформата е издала насоки, за да помогне на модераторите да откриват съдържание, написано от машини. Все пак тя признава, че някои човешки редактори могат да пишат по начин, който доста прилича на резултат от ИИ.
Тази несигурност повишава риска както от фалшиви положителни резултати, така и от пропуснати нарушения. Важно е да се отбележи, че Уикипедия функционира като мрежа от независими общности. Политиката на английската версия не се прилага глобално. Други версии могат да възприемат различни подходи.
Испанската Уикипедия, например, вече е въвела по-строго правило. Тя забранява изцяло използването на LLM, включително за усъвършенстване и превод.
С развитието на изкуствения интелект решението на Уикипедия е знак за предпазлив подход. Платформата се стреми да защити своята достоверност, въпреки че границата между текстовете, написани от хора, и тези, създадени от машини, става все по-трудно различима.
Източник: InterestingEngineering
