Ключови изводи
- Върхов изследовател казва, че AI вече е в съзнание.
- Но други експерти по изкуствен интелект казват, че компютрите са далеч от придобиването на когнитивни способности на човешко ниво, включително съзнание.
- Определянето дали нещо е в съзнание може да бъде трудно.
Идеята за съзнателен изкуствен интелект (AI) предизвиква образи на машини, превземащи света, но експертите не са съгласни дали да приемат концепцията сериозно.
Велики изследовател на AI наскоро заяви, че AI вече е по-умен, отколкото си мислим. Иля Суцкевер, главният учен на изследователската група OpenAI, написа в Туитър, че „може да се окаже, че днешните големи невронни мрежи са леко съзнателни“. Но други експерти по изкуствен интелект казват, че е твърде рано да се определи нещо подобно.
„За да бъде съзнателно, едно предприятие трябва да е наясно със съществуването си в своята среда и че действията, които предприема, ще повлияят на бъдещето му“, каза Чарлз Саймън, главен изпълнителен директор на FutureAI, пред Lifewire в интервю по имейл. „Нито едно от тях не присъства в текущия AI.“
Свръхчовек?
Sutskever по-рано предупреди, че супер-умният AI може да причини проблеми. Интервюиран в документалния филм за AI iHuman, той каза, че усъвършенстваният AI ще „разреши всички проблеми, които имаме днес“, но също така предупреди, че те имат „потенциала да създадат безкрайно стабилни диктатури.“
OpenAI е основана като организация с нестопанска цел, която има за цел да предотврати рисковете, които представляват интелигентните компютри, но също така е провела изследвания за създаване на AI.
Докато много учени отхвърлиха твърдението на Саймън, че ИИ е в съзнание, той има поне един добре известен защитник. Компютърният учен от Масачузетския технологичен институт Тамай Бесироглу защити Sutskever в туит.
„Виждайки толкова много изтъкнати [машинно обучение] хора да се присмиват на тази идея е разочароващо“, написа Бесироглу в Twitter. „Това ме кара да се надявам по-малко в способността на тази област да се заеме сериозно с някои от дълбоките, странни и важни въпроси, пред които те несъмнено ще бъдат изправени през следващите няколко десетилетия.“
Какво е съзнание?
Дори определянето дали нещо е в съзнание може да бъде трудно. Изследователят на изкуствения интелект Сне Васвани каза на Lifewire в имейл, че съзнанието има няколко етапа. AI е направил „приличен път“в първите етапи, каза той.
"Днес една машина може да разбере емоциите, да изгради профил на личността и да се адаптира към личността на човека", добави той. „Тъй като AI се развива, той се придвижва към напредналите етапи на съзнанието по-бързо, отколкото можем дори да разберем.“
Има много дефиниции на съзнанието и някои биха възразили, че дърветата и мравките са донякъде съзнателни, идея, която „разтяга определението отвъд обичайната употреба“, каза Саймън. Той твърди, че самосъзнанието е разбирането на себе си като съзнателна същност.
"Както съзнанието, така и самосъзнанието се проявяват в редица поведения, като показване на личен интерес, но също и във вътрешно усещане", каза Саймън. „Ако ИИ са наистина съзнателни, ние ще можем да наблюдаваме поведенията, но ще имаме малко познания за вътрешното усещане. Възможно е да фалшифицираме съзнание с библиотека от съзнателно изглеждащи поведения, като например да наричаме себе си „аз“, но истински съзнателното същество е в състояние да планира и обмисля множество резултати."
Васвани е оптимист за резултата от създаването на супер-интелигентен ИИ, въпреки че Илон Мъск е сред онези, които предупредиха, че съзнателният ИИ може да доведе до унищожението на човечеството.
„Когато изкуственият интелект придобие напълно съзнание, той ще завърши едно „незавършено“общество: хората и изкуственият интелект ще съществуват заедно“, каза Васвани. „Ще постигнем по-големи цели заедно и AI ще се слее безпроблемно с нашия свят.“
Някои експерти по ИИ казват, че самата концепция за съзнателен ИИ е по-скоро научна фантастика, отколкото реалност. Въпросът има тенденция да подчертава прекалено много роботите в стил „терминатор“, а не много реалните потенциални щети от предубеден ИИ, който вече съществува, каза Тривени Ганди, отговорен ръководител на ИИ в компанията Dataiku, в имейл до Lifewire.
"Може да не сме изправени пред следващата Ex Machina, но сме изправени пред някои реални предизвикателства", каза Ганди. „Това може да се види в злоупотребата със силно предубеден AI за прогнозиране на разходите за здравеопазване, в инструменти за набиране на персонал, които филтрират несправедливо автобиографии, или в модели за кредитиране, които засилват съществуващите неравенства.“
AI не е присъщо добър или лош, това са просто данни, които правят това, което им казваме да прави, твърди Ганди.
"Човешките пристрастия намират своя път в моделите за данни и машинно обучение, така че трябва да сме много ясни относно данните, които използваме, защо избираме да използваме AI в това си качество и как след това изборът се представя на хората засегнат от AI система, " добави Ганди.
