Ключови изводи
- Нови изследвания предполагат, че може да няма начин да се контролира супер-интелигентният изкуствен интелект.
- В публикация в списание се твърди, че контролирането на AI ще изисква много по-напреднали технологии, отколкото притежаваме в момента.
- Някои експерти казват, че наистина интелигентният AI може да се появи по-рано, отколкото си мислим.
Ако хората някога развият супер-умен изкуствен интелект, може да няма начин да го контролират, казват учените.
AI отдавна е рекламиран или като лек за всички проблеми на човечеството, или като апокалипсис в стил Терминатор. Досега обаче изкуственият интелект не се е доближил дори до интелекта на човешко ниво. Но задържането на каишка върху напредналия AI може да бъде твърде сложен проблем за хората, ако някога бъде разработен, според скорошна статия, публикувана в Journal of Artificial Intelligence Research.
"Суперинтелигентна машина, която контролира света, звучи като научна фантастика", каза Мануел Себриан, един от съавторите на статията, в съобщение за новини.
"Но вече има машини, които изпълняват определени важни задачи независимо, без програмистите да разберат напълно как са го научили. Следователно възниква въпросът дали това може в един момент да стане неконтролируемо и опасно за човечеството."
Очаквайте скоро в супер компютър близо до вас
Списанието твърди, че контролирането на AI ще изисква много по-напреднали технологии, отколкото притежаваме в момента.
В своето проучване екипът създаде теоретичен алгоритъм за ограничаване, който гарантира, че суперинтелигентен AI не може да навреди на хората при никакви обстоятелства, като първо симулира поведението на AI и го спира, ако се счита за вреден. Но авторите откриха, че такъв алгоритъм не може да бъде изграден.
"Ако разбиете проблема до основни правила от теоретичната компютърна наука, се оказва, че алгоритъм, който би заповядал на AI да не унищожава света, може неволно да спре собствените си операции." Ияд Рахван, директор на Центъра за хора и машини към Института за човешко развитие Макс Планк в Германия, каза в съобщението за новините.
"Ако това се случи, няма да знаете дали алгоритъмът за ограничаване все още анализира заплахата или е спрял, за да задържи вредния AI. На практика това прави алгоритъма за ограничаване неизползваем."
Истински интелигентният изкуствен интелект може да се появи по-рано, отколкото си мислим, твърди Михалис Вазиргианис, професор по компютърни науки в École Polytechnique във Франция. „ИИ е човешки артефакт, но бързо се превръща в автономна единица“, каза той в имейл до Lifewire.
"Критичната точка ще бъде, ако/когато настъпи сингулярност (т.е. когато AI агентите ще имат съзнание като цяло) и следователно те ще претендират за независимост, самоконтрол и евентуално господство."
Сингуларността идва
Вазиргианис не е сам в предсказването на скорошното пристигане на супер ИИ. Истински вярващите в заплахата от изкуствен интелект обичат да говорят за „уникалността“, която Вазиргианис обяснява с това, че изкуственият интелект ще измести човешкия интелект и „че алгоритмите на изкуствен интелект потенциално ще осъзнаят съществуването си и ще започнат да се държат егоистично и кооперативно.“
Според Рей Курцвейл, инженерен директор на Google, сингулярността ще се появи преди средата на 21 век. „2029 г. е последователната дата, която съм предвидил, когато ИИ ще премине валиден тест на Тюринг и следователно ще постигне човешки нива на интелигентност“, каза Кърцвейл пред Futurism.
Ако не можем да почистим собствената си къща, какъв код трябва да поискаме от AI да следва?
"Поставих датата 2045 г. за "Сингуларността", когато ще умножим нашия ефективен интелект милиард пъти чрез сливане с интелекта, който сме създали."
Но не всички експерти по ИИ смятат, че интелигентните машини са заплаха. AI, който е в процес на разработка, е по-вероятно да бъде полезен за разработването на лекарства и не показва никаква истинска интелигентност, каза консултантът по AI Emmanuel Maggiori в интервю по имейл. „Има голям шум около AI, което го кара да звучи като наистина революционен“, добави той. „Сегашните AI системи не са толкова точни, колкото се рекламира, и правят грешки, които човек никога не би направил.“
Поемете контрола над AI сега
Регулирането на ИИ, така че да не избяга от контрола ни, може да е трудно, казва Вазиргианис. Компаниите, а не правителствата, контролират ресурсите, които захранват AI. „Дори самите алгоритми обикновено се произвеждат и внедряват в изследователските лаборатории на тези големи и мощни, обикновено мултинационални организации“, каза той.
"Следователно е очевидно, че правителствата на държавите имат все по-малко контрол върху ресурсите, необходими за контролиране на AI."
Някои експерти казват, че за да контролират свръхинтелигентния AI, хората ще трябва да управляват изчислителни ресурси и електричество. „Научнофантастичните филми като „Матрицата“правят пророчества за дистопично бъдеще, в което хората се използват от AI като източници на биоенергия“, каза Вазиргианис.
"Въпреки че това е отдалечено невъзможно, човечеството трябва да се увери, че има достатъчен контрол върху изчислителните ресурси (т.е. компютърни клъстери, графични процесори, суперкомпютри, мрежи/комуникации) и, разбира се, електроцентралите, които осигуряват електричество, което е абсолютно вредно за функцията на AI."
Проблемът с контролирането на AI е, че изследователите не винаги разбират как такива системи вземат своите решения, каза Майкъл Бертолд, съосновател и главен изпълнителен директор на софтуерната фирма за наука на данни KNIME, в интервю по имейл. „Ако не направим това, как можем да го „контролираме“?“
Той добави: „Ние не разбираме кога се взема напълно различно решение въз основа на неподходящи за нас данни.“
Единственият начин да се контролира рискът от използването на AI е да се гарантира, че той се използва само когато този риск е управляем, каза Бертолд. „Иначе казано, два екстремни примера: Не поставяйте AI да управлява вашата атомна електроцентрала, където малка грешка може да има катастрофални странични ефекти“, добави той.
"От друга страна, AI прогнозира дали температурата в стаята ви трябва да се коригира малко нагоре или надолу, може да си струва малкия риск в полза на комфорта на живот."
Ако не можем да контролираме ИИ, по-добре да го научим на маниери, каза бившият компютърен инженер на НАСА Питър Скот в интервю по имейл. „В крайна сметка не можем да гарантираме контролируемостта на AI, както не можем да гарантираме тази на нашите деца“, каза той.
"Ние ги отглеждаме правилно и се надяваме на най-доброто; досега те не са унищожили света. За да ги отгледаме добре, имаме нужда от по-добро разбиране на етиката; ако не можем да почистим собствената си къща, какво код трябва ли да поискаме от AI да следва?"
Но всяка надежда не е загубена за човешката раса, казва изследователят на ИИ Йонатан Уекслер, изпълнителен вицепрезидент на R&D в OrCam. „Въпреки че напредъкът е наистина впечатляващ, личното ми убеждение е, че човешкият интелект не трябва да се подценява“, каза той в интервю по имейл. „Ние като вид създадохме доста невероятни неща, включително самия AI.“
Търсенето на все по-умен AI продължава. Но може би е по-добре да обмислим как контролираме нашите творения, преди да е станало твърде късно.
