Ключови изводи
- Изглежда, че AI системата, наречена DALL-E2, е създала своя собствена система за писмена комуникация.
- Някои експерти казват, че очевидният език може да е просто безсмислие.
- Това е пример за това колко трудно е да се тълкуват резултатите от усъвършенствани AI системи.
Изглежда, че изкуственият интелект (AI) е разработил свой собствен език, но някои експерти са скептични по отношение на твърдението.
Системата за изкуствен интелект от текст към изображение на OpenAI, наречена DALL-E2, изглежда е създала своя собствена система за писмена комуникация. Това е пример за това колко трудно е да се тълкуват резултатите от усъвършенствани AI системи.
"Поради размера и дълбочината на големите модели е много трудно да се обясни поведението на модела", каза Тереза О'Нийл, директор на архитектурата на решенията за разбиране на естествен език в iMerit, каза пред Lifewire в интервю по имейл. „Това е едно от основните предизвикателства, а в някои случаи и етични проблеми с все по-мощни модели. Ако не можем да обясним защо се държат така, можем ли да предвидим тяхното поведение или да го поддържаме в съответствие с нашите норми и очаквания?"
AI Чатове
Студентът по компютърни науки Янис Дарас наскоро отбеляза, че системата DALLE-2, която създава изображения въз основа на въвеждане на текст, би върнала безсмислени думи като текст при определени обстоятелства.
"Известно ограничение на DALLE-2 е, че се бори с текст", пише той в статия, публикувана на сървъра за предпечат Arxiv. „Например текстови подкани като: „Изображение на думата самолет“често водят до генерирани изображения, които изобразяват безсмислен текст.“
Но, написа Дарас, може да има метод зад очевидните безсмислици. „Откриваме, че този произведен текст не е произволен, а по-скоро разкрива скрит речник, който моделът изглежда е разработил вътрешно“, продължи той. „Например, когато се захранва с този безсмислен текст, моделът често произвежда самолети.“
В своя туит Дарас посочи, че когато DALLE-2 беше помолен да субтитрира разговор между двама фермери, той показа, че говорят, но балончетата бяха пълни с нещо, което изглеждаше като безсмислени думи. Но Дарас откри, че думите изглежда имат собствено значение за AI: фермерите говореха за зеленчуци и птици.
Никола Даволио, главен изпълнителен директор на технологичната компания Hupry, която работи с AI, обясни на Lifewire в имейл интервю, че езикът се основава на символи, които системата DALL-E2 се е научила да свързва с определени концепции. Например символът за "куче" може да е свързан със снимка на куче, докато символът за "котка" може да е свързан със снимка на котка. DALL-E2 създаде свой език, защото му позволява да комуникира по-ефективно с други AI системи.
Пъзели като очевидно скрития речник на DALL-E2 са забавни за решаване, но те също подчертават по-тежки въпроси…
"Езикът е съставен от символи, които приличат на египетски йероглифи и изглежда нямат конкретно значение", добави той. „Символите вероятно са безсмислени за хората, но имат идеален смисъл за AI системата, тъй като тя е обучена на милиони изображения.“
Изследователите вярват, че AI системата е създала езика, за да му помогне да разбере по-добре връзките между изображения и думи, каза Даволио.
„Те не са сигурни защо AI системата е разработила своя език, но подозират, че може да има нещо общо с това как се е научила да създава изображения“, добави Даволио. „Възможно е AI системата да е разработила своя език, за да направи комуникацията между различните части на мрежата по-ефективна."
Мистерии на AI
DALL-E2 не е единствената AI система, която е разработила своя вътрешен език, посочи Даволио. През 2017 г. системата AutoML на Google създаде нова форма на невронна архитектура, наречена „детска мрежа“, след като беше оставена да реши как най-добре да изпълни дадена задача. Тази дъщерна мрежа не можеше да бъде интерпретирана от нейните човешки създатели.
"Тези примери са само няколко случая, в които AI системите са разработили начини да правят неща, които не можем да обясним", каза Даволио. „Това е възникващ феномен, който е завладяващ и тревожен в еднаква степен. Тъй като системите с изкуствен интелект стават по-сложни и автономни, все повече може да се окажем в положението да не разбираме как работят.“
O'Neill каза, че не смята, че DALL-E2 създава свой собствен език. Вместо това тя каза, че причината за очевидното лингвистично изобретение вероятно е малко по-прозаична.
„Едно правдоподобно обяснение е случаен шанс – в толкова голям модел може да се приложи част от закона на Мърфи: ако може да се случи странно нещо, то вероятно ще се случи“, добави О'Нийл. Друга възможност, предложена от изследователя анализатор Бенджамин Хилтън в нишка в Twitter, обсъждаща откритията на Дарас, е, че формата на фразата „apoploe vesrreaitais“имитира формата на латинско име за животно. Така че системата е създала нов ред на Aves, добави О'Нийл.
„Пъзели като очевидно скрития речник на DALL-E2 са забавни за решаване, но те също подчертават по-тежки въпроси около риска, пристрастията и етиката в често неразгадаемото поведение на големите модели“, каза О'Нийл.
