„Мисля, че това е наистина критичен проблем, не само за Съединените щати, но и за други страни, и трябва да му се обърне внимание“, казва той.
В ново интервю главният научен директор на Microsoft, Ерик Хорвиц, изразява притеснения относно използването на изкуствен интелект (AI). Той изразява опасенията си относно използването на AI инструменти за измама и манипулация.
„Винаги ще има „лоши актьори“, конкуренти и противници, които използват ИИ като оръжие, защото това е невероятно мощен нов набор от способности“, казва Хорвиц, „Живея с това, знаейки, че то идва. И върви по-бързо, отколкото си мислехме.“
Хорвиц отбелязва, че в момента това е технология с отворен код, което затруднява простото й регулиране и скоро ще излязат извън контрол. Например дълбоките фалшификати могат да повлияят на общественото мнение, което е пагубно за демокрациите.
Хорвиц подчертава загрижеността си относно потенциалната ерозия на демокрацията, която зависи от информираното население, за да функционира ефективно, а използването на техники за дезинформация заплашва това.
Той каза още, че не е ясно дали би имало ефективна демокрация, ако има системи, които могат да мамят и манипулират.
„Мисля, че това е наистина критичен проблем, не само за Съединените щати, но и за други страни, и трябва да му се обърне внимание“, казва той.
Според Хорвиц, Microsoft полага значителни усилия, за да разработи това, което те наричат „удостоверяване на медийния произход“, за да гарантира, че никой не е променил снимки или видеоклипове, взети от надеждни източници на новини.
Хорвиц за паузата в разработването на AI
Говорейки за писмото, подкрепено от Илън Мъск, което иска лабораториите за изкуствен интелект да спрат на пауза развитието на технологии, по-мощни от ChatGPT-4 на OpenAI за шест месеца, Хорвиц заявява:
„В по-широк смисъл шест месеца всъщност не означават много. Ние наистина трябва просто да инвестираме повече в разбирането и насочването и дори регулирането на тази технология – скок, вместо пауза…“
„Мисля, че е по-скоро разсейване, но ми харесва идеята за изразяване на безпокойство и дискомфорт от скоростта на развитие. И това е ясно на всички“, добавя той.
„Идеи, ориентирани към научната фантастика“, които карат хората да се страхуват от превземането на AI, където тези машини по някакъв начин „надхитряват хората“ – са неща, които най-малко тревожат Хорвиц.
Някои от подписалите отвореното писмо, включващо над 20 000 технологични лидера и известни личности, се фиксират върху този конкретен сценарий.
Хорвиц говори и за неотдавнашните притеснения относно етиката на ИИ в Microsoft и съкращенията на работни места, твърдейки, че съкращенията не са свързани с основните инициативи на компанията за ИИ.
В миналото CSO е наблюдавал важни инициативи за етика и надеждност, за да управлява внедряването на технологията на компанията и проучванията на потенциала и евентуалното въздействие на AI.
Интервюто се появява за първи път в онлайн изданието на списание Fortune. Можете да го прочетете тук.
Източник: InterestingEngineering
