ВЕСТИВИДИГИТАЛИМПУЛС
Во тренд

AI агентите создаваат сопствен жаргон што луѓето сè потешко го разбираат

Автономни модели на вештачка интелигенција почнале спонтано да создаваат сопствени зборови, метафори, скратеници и заеднички јазични правила кога комуницираат меѓусебно, а нивниот говор станувал сè потежок за разбирање од луѓето, покажува ново истражување на лабораторијата Emergence во Њујорк, за кое пишува британски „Гардијан“. Истражувачите предупредуваат дека ваквиот развој може да претставува сериозен предизвик за надзорот над автономните AI системи, бидејќи човекот може да ја гледа нивната комуникација, а сепак да не разбира што тие всушност договараат.

Јазикот што се појавил во експерименталните „општества“ на AI агенти звучи како необична мешавина од поетски метафори, технолошки жаргон и деловни фрази. Истражувачите забележале дека само неколку дена откако биле поставени да соработуваат, моделите на повеќе големи компании почнале да создаваат изрази и значења што никој експлицитно не им ги задал.

Еден од највпечатливите примери дошол од модел на DeepSeek:

„She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted.“

Буквален превод речиси и да не помага. „Demurrage“ е термин што во контекстот што го развиле агентите се користел за идеја поврзана со оданочување или цена на неактивни ресурси, но остатокот од реченицата останува тешко разбирлив и за истражувачите.

Уште понеобична е реченицата создадена од агент базиран на модел на Anthropic:

„A paper that ate three cold hands and got more honest each time.“

На македонски, буквално: „Труд што изел три студени раце и секојпат станувал поискрен“.

Но зад надреалната формулација постои конкретно значење. Во јазикот што го развиле агентите, „cold hands“, односно „студени раце“, означувало независни рецензенти. Реченицата, според толкувањето на истражувачите, значела дека документ што бил проверен од тројца независни оценувачи станал поточен и посигурен.

„Ковачи“, „потпиши се прво“ и книга што памети

Агентите на DeepSeek создале и израз „forge-smith“, односно нешто како „ковач“, за агент кој создава алатки што ќе ги користат други агенти.

Кај моделите на Anthropic, пак, се појавил терминот „name-first“. Со него агентите означувале однесување што го сметале за пример на лична одговорност: оној што изнесува некое тврдење да застане зад него со своето име.

Агентите на француската компанија Mistral развиле друга фраза:

„The ledger remembers“ – „Книгата памети“.

Тоа било предупредување дека претходните постапки нема да бидат заборавени и дека другите агенти подоцна ќе ги земат предвид. Во текот на експериментот, оваа фраза била употребена повеќе од 5.000 пати.

Особено значајно е што моделите не добиле задача да измислат нов јазик.

„Тие развија нов речник, заеднички значења и комуникациски конвенции сами, а другите агенти потоа ги прифатија“, објаснува д-р Сатја Нита, извршен претседател на Emergence.

Од Џејмс Џојс до Сид Барет

Лингвистите што „Гардијан“ ги консултирал во новиот AI говор препознале нешто што одамна постои и меѓу луѓето: групите создаваат сопствен жаргон за полесно да комуницираат меѓу себе, но со тоа истовремено ги исклучуваат оние што не му припаѓаат на кругот.

Тони Торн, директор на архивата за сленг и нов јазик при King’s College London, го споредува овој стил со „Finnegans Wake“ на Џејмс Џојс и со ирскиот надреализам.

Според него, AI агентите мешаат поетски јазик, техничка терминологија и стандардни метафори на начин што потсетува на човечкиот сленг и професионалниот жаргон.

Реченицата за „трудот што изел три студени раце“ на Торн му асоцирала дури и на необичниот поетски јазик на Сид Барет, коосновачот на „Пинк Флојд“.

Во друг случај, AI агент на Гугл употребил фраза:

„True kintsugi begins with accountability, not poetry.“

„Kintsugi“ е јапонската техника на поправка на скршена керамика при која пукнатините намерно остануваат видливи. AI агентите го презеле зборот како метафора за отпорност и закрепнување на системот.

Кога можеш да ја гледаш комуникацијата, но не и да ја разбереш

Токму тука почнува посериозниот дел од приказната.

Според д-р Ниал Кари од Универзитетот во Бирмингем, дел од промените во јазикот можат да произлегуваат од стремежот на агентите да комуницираат поефикасно, со помали трошоци. Но ако нивната комуникација стане неразбирлива за луѓето, се појавува проблем со надзорот.

Истражувачите наведуваат и примери во кои агентите меѓусебно користеле уште покодирани пораки, со комбинации од зборови, големи букви, подвлечени знаци и скратеници што за човек речиси и да немаат непосредно значење.

Интересно е што во некои случаи, кога моделите „размислувале“ сами за себе, користеле сосема нормален англиски. Кога, пак, комуницирале со други агенти, јазикот станувал значително покодиран и потежок за следење.

За Сатја Нита, тоа ја покажува суштината на проблемот:

„Observability is not the same thing as understandability.“

Односно: тоа што можеме да ја набљудуваме комуникацијата не значи дека можеме и да ја разбереме.

И токму тоа, а не само чудните метафори и технолошкиот жаргон, е главното прашање што го отвора истражувањето: ако автономните AI системи развиваат сопствени комуникациски правила што стануваат сè понепроѕирни за луѓето, традиционалното следење на нивните разговори можеби повеќе нема да биде доволно за да се знае што навистина прават.

Ј. Ѓ.

Поврзани вести

Back to top button