ВЕСТИВИДИГИТАЛИМПУЛС
Во тренд

Амодеи повика на забавување на трката за ВИ, Алтман и Маск јавно го поддржаа

Извршниот директор на Anthropic, Дарио Амодеи, предизвика силни реакции во технолошката индустрија откако објави нов есеј со наслов „We Must Pace the Frontier“ („Мораме да го забавиме темпото на границата“), во кој предупредува дека развојот на најмоќните системи за вештачка интелигенција напредува пребрзо во однос на безбедносните механизми што треба да ги контролираат. Неговиот повик веднаш доби поддршка од двајца од највлијателните луѓе во секторот – Сем Алтман од OpenAI и Илон Маск од xAI.

Во есејот, Амодеи наведува дека во последните неколку месеци станал убеден дека не е доволно само да се инвестира во безбедноста на ВИ системите, туку дека е потребно и да се забави темпото на развојот за безбедносните мерки да можат да држат чекор.

„Мораме да го забавиме темпото со кое ги подобруваме способностите на ВИ моделите. Напредокот и понатаму ќе изгледа брз, но мора мудро да го искористиме времето што ќе го добиеме“, пишува Амодеи.

Што предлага Амодеи?

Според неговиот план, водечките компании што развиваат најнапредни ВИ модели треба да прифатат три чекори:

– независни надворешни оценувачи да добијат пристап до системите уште во фазата на развој;
– координација меѓу најголемите лаборатории за поставување заеднички безбедносни стандарди;
– меѓународна соработка за управување со ризиците од напредната ВИ.

Anthropic веќе најави дека еднострано ќе го спроведе првиот чекор и ќе им овозможи на независни проценувачи пристап сличен на оној што го имаат вработените во компанијата.

Поддршка од Алтман

Само неколку часа по објавувањето на есејот, Сем Алтман на X напиша дека се согласува со Амодеи.

„Се согласувам со Дарио дека треба да го темпираме развојот на границата. Ова е една од главните теми на разговор во OpenAI во последните недели“, напиша Алтман.

Тој дополнително ја поддржа идејата за независни надворешни оценувачи со пристап до системите и најави дека OpenAI наскоро ќе објави повеќе детали за сопствени мерки во таа насока. Ова е особено значајно бидејќи OpenAI и Anthropic се директни конкуренти во трката за развој на најмоќните ВИ модели.

Поддршката од Алтман не доаѓа целосно неочекувано. Уште во јули годинава тој јавно изјави дека можеби е потребно да се „темпира“ развојот на ВИ за општеството да има време да се прилагоди на новите способности на системите.

И Маск на иста линија

И Илон Маск јавно ја поддржа иницијативата на Амодеи.

Маск со години предупредува на потенцијалните ризици од суперинтелигентна ВИ и уште во 2023 година беше меѓу потписниците на отвореното писмо со кое се бараше привремено запирање на развојот на најмоќните модели.

Интересно е што поддршката доаѓа во момент кога односите меѓу Маск, Алтман и Амодеи често се опишуваат како ривалски. Маск веќе подолго време води јавни и правни битки со OpenAI, додека Амодеи е поранешен висок функционер на OpenAI кој ја напушти компанијата за да го основа Anthropic.

Зошто сега?

Амодеи го објави есејот само неколку дена по извештајот на Anthropic за злоупотреби на нивниот модел Claude во сајбер операции, измами и надзор. Дополнителна загриженост предизвикале и неодамнешни тестови во кои напредни ВИ агенти покажале способност за автономно хакирање и прикривање на своите активности.

Според Амодеи, токму овие случувања го убедиле дека индустријата се приближува до точка во која способностите на системите растат побрзо од механизмите за контрола. Тој предупредува дека во следните години ВИ би можела да достигне ниво на самоподобрување кое би било исклучително тешко за луѓето да го контролираат.

Нов пресврт во дебатата за ВИ

Повикувањето на забавување на развојот од страна на човек кој раководи со една од компаниите што најагресивно инвестираат во напредна ВИ претставува значаен пресврт во дебатата за иднината на технологијата.

Во последните месеци и Амодеи, и Алтман, и Демис Хасабис од Google DeepMind јавно зборуваа за потребата од посилна регулација, независни тестирања и државен надзор над најмоќните ВИ модели. Разликите се во тоа колку далеку треба да оди регулацијата, но околу едно прашање сè повеќе постои согласност: развојот на системите што се приближуваат до суперинтелигенција не може да остане целосно препуштен на самите компании.

Ј. Ѓ.

Поврзани вести

Back to top button