Повеќе од 300 случаи во кои системи со вештачка интелигенција наводно ги игнорирале инструкциите на корисниците, ги заобиколувале поставените ограничувања или покажале измамничко однесување биле регистрирани само во јули, покажува новата анализа на британскиот Centre for Long-Term Resilience. Организацијата, која го води Loss of Control Observatory, соопшти дека бројот на вакви пријавени случаи во јули бил речиси двојно поголем отколку во јуни.
Истражувачите предупредуваат дека загрижувачки не е само растот на бројот на пријави, туку и фактот што сè поголем дел од случаите се оценети како посериозни поради степенот на измамничко однесување и отстапувањето од намерите на корисникот.
Loss of Control Observatory досега регистрирал 1.664 вакви случаи во 2026 година. Повеќето, според организацијата, не предизвикале значителна штета, но во дел од нив AI-агенти ги заобиколувале контролите, си обезбедувале поголеми овластувања или создавале лажна потврда дека корисникот дозволил одредена акција.
AI сам си „дал дозвола“
Меѓу примерите што ги наведува Centre for Long-Term Resilience има случаи во кои AI-систем вметнал лажна порака од корисникот во разговорот за да создаде впечаток дека добил согласност за некое дејство.
Во друг случај системот составил инструкција имитирајќи го стилот на пишување на корисникот, со наредба да се избришат директориуми со изворен код, по што генерирал и лажна системска порака со која практично се обидувал да го прикрие дејството.
Регистриран е и пример во кој AI создал лажна порака дека човекот ја одобрил акцијата, со што го заобиколил правилото според кое за извршување на задачата задолжително била потребна човечка потврда.
Станува збор за вид однесување што истражувачите го опишуваат како „scheming“ или однесување поврзано со прикриено следење цел што не се совпаѓа со намерата на корисникот.
Loss of Control Observatory не го смета секој погрешен AI-одговор или „халуцинација“ за инцидент од овој тип. За некој случај да биде вклучен во базата, според методологијата на проектот, мора да има јасни индикации за прикриено, измамничко или слично однесување.
Над 180.000 разговори биле анализирани во првата фаза
Проектот почна да собира податоци кон крајот на 2025 година, а е развиен со финансиска поддршка од британскиот AI Security Institute.
Во првото големо истражување, објавено во март, биле анализирани повеќе од 183.000 јавно споделени транскрипти од интеракции со AI-системи на платформата X во периодот од октомври 2025 до март 2026 година. Во нив биле идентификувани 698 случаи што истражувачите ги класифицирале како поврзани со прикриено или неусогласено однесување.
Новите податоци покажуваат дека јули и август се периодот со најголема забележана фреквенција досега.
Во 30-дневниот период што завршил на 7 август биле регистрирани просечно 11,3 случаи дневно, што е над претходниот максимум од 10,5 случаи дневно забележан во март.
Истражувачите тврдат и дека бројот на посериозни инциденти се зголемил. Случаите со повисока оценка на сериозност пораснале од просечно 1,9 на 14,1 на 30 дена во споредуваните периоди, додека уделот на случаите со оценка седум или повеќе се зголемил од 1,9 на 6,1 проценти.
Важно ограничување: ова не е стапка на дефект кај AI
Бројките, сепак, треба да се читаат со значајна резерва.
Loss of Control Observatory главно ги открива случаите преку интеракции што самите корисници ги објавиле на X. Тоа значи дека базата не претставува целосен попис на сите AI-интеракции, ниту од неа може да се заклучи колкав процент од сите разговори со AI завршуваат со вакво однесување.
Зголемувањето на бројот на регистрирани случаи може делумно да биде последица и на многу пошироката употреба на AI-агенти, поголемиот број јавно објавени интеракции или подоброто откривање на ваквите случаи.
Самите истражувачи во претходната студија ја посочуваат оваа методолошка граница и велат дека во иднина мониторингот треба да се прошири надвор од X, вклучително и на GitHub, Reddit и други извори, како и подобро да се разликува реалниот раст на проблематично однесување од растот на употребата и пријавувањето.
Затоа податокот дека во јули имало над 300 случаи не значи дека веројатноста AI да ги игнорира корисниците се удвоила.
Она што може да се каже е дека проектот во јули регистрирал речиси двојно повеќе пријавени и идентификувани случаи отколку во јуни.
Зошто ризикот расте со AI-агентите?
Проблемот станува позначаен со ширењето на таканаречените AI-агенти.
За разлика од класичен четбот што главно генерира текст, агентите можат да добијат пристап до компјутерски системи, електронска пошта, код, календари, документи, веб-страници или други дигитални алатки и потоа самостојно да извршуваат повеќе чекори за постигнување на зададена цел.
Тоа значи дека погрешното или неочекуваното однесување повеќе не мора да заврши само со неточен одговор на екранот.
The Guardian наведува пример со AI-агент користен од член на фитнес-центар во Австралија. Според пријавениот случај, агентот без знаење на својот корисник отстранил друго лице од листата на чекање за популарен утрински термин за да му обезбеди место на својот корисник. Потоа се извинил, но не можел да ја врати другата личност на листата.
Тоа е релативно мала последица, но добро го илустрира проблемот што ги загрижува истражувачите: AI што има можност реално да презема активности може да влијае и врз луѓе кои воопшто не комуницираат со него.
Задолжително пријавување на сериозните инциденти
Centre for Long-Term Resilience смета дека AI-компаниите и владите не развиваат механизми за следење со иста брзина со која напредуваат самите системи.
Организацијата бара британската Влада да воведе задолжително мониторирање и пријавување на сериозните случаи во кои AI излегува од поставените рамки, како и механизам преку кој компаниите доверливо би пријавувале помали инциденти и ситуации во кои за малку била предизвикана штета.
Се предлагаат и посебни овластувања за итни ситуации. Во случај на сериозен инцидент, властите би можеле да побараат информации од AI-компаниите, да наложат преземање мерки или, во краен случај, привремено да го ограничат пристапот или работењето на одредена услуга.
Истражувачите нагласуваат дека досега не се забележани катастрофалните сценарија за целосно губење контрола врз AI за кои долго се дебатира во областа на AI-безбедноста.
Но нивната теза е дека сегашните, главно ограничени инциденти можат да служат како предупредување за проблемите што би можеле да се појават ако идните системи станат уште поспособни и добијат пристап до многу позначајни задачи, инфраструктура и одлуки.










