„Kill-switch“ за автономната вештачка интелигенција: „Мајкрософт“ бара итен прекинувач за системите што ќе излезат од контрола
„Мајкрософт“ бара механизми за итно запирање на AI системите. Извештајот на AXA ја рангира вештачката интелигенција како водечки ризик меѓу експертите.
Растот на автономните AI агенти ги засилува повиците за построги безбедносни правила и механизми за итно запирање на системите што би можеле да предизвикаат штета. Претседателот на „Мајкрософт“, Бред Смит, бара поголема одговорност од технолошките компании, додека новиот извештај на AXA ја рангира вештачката интелигенција како водечки ризик меѓу анкетираните експерти.
Развојот на автономните агенти со вештачка интелигенција отвора нови прашања за безбедноста, контролата и одговорноста кога софтверските системи добиваат можност самостојно да извршуваат задачи и да преземаат дејствија.
Во центарот на дебатата е таканаречениот „kill-switch“, механизам за итно запирање на работата на AI системот доколку почне да дејствува на непредвидлив или опасен начин. Претседателот на „Мајкрософт“, Бред Смит, повика на построги правила за вештачката интелигенција, вклучително и можност за брзо запирање на системите што ќе излезат од контрола.
Во изјавите пренесени од британските медиуми, Смит се заложи за поголема одговорност на технолошките компании и за безбедносни механизми што ќе овозможат навремена интервенција кога AI системите ќе предизвикаат проблеми.
Засега нема потврда дека европските регулатори подготвиле општа обврска за задолжителен хардверски и софтверски „kill-switch“ за сите автономни AI агенти. Станува збор за поширока дебата за тоа како да се контролираат системите што сè почесто добиваат пристап до дигитални алатки и деловни процеси.
Автономните агенти и ризикот од неконтролирани дејствија
За разлика од традиционалните чет-ботови, кои главно генерираат одговори на прашања, автономните AI агенти можат да користат надворешни алатки, да пристапуваат до податоци и да извршуваат повеќестепени задачи со ограничен човечки надзор.
Во зависност од овластувањата што им се доделени, тие можат да работат со електронска пошта, бази на податоци, деловни апликации и други софтверски системи. Тоа ја зголемува нивната практична употребливост, но истовремено го зголемува и потенцијалот за штета доколку направат грешка или добијат погрешни инструкции.
Несаканите дејствија може да произлезат од погрешна процена, недоволно прецизни инструкции, безбедносни пропусти или злонамерни внесени податоци. Во такви ситуации, системот може да продолжи да извршува операции без навремена човечка интервенција.
Механизмот за итно запирање би овозможил прекин на активностите и ограничување на пристапот до алатките и ресурсите. Но, тој не е доволен сам по себе. Безбедносните решенија може да вклучуваат и ограничување на овластувањата, задолжително човечко одобрување за критични операции, следење на активностите и можност за брзо одземање на пристапот.
Особено чувствителни се системите што можат да извршуваат финансиски трансакции, да менуваат податоци или да преземаат дејствија што тешко можат да се поништат.
Вештачката интелигенција пред климатските промени во извештајот на AXA
Загриженоста за развојот на вештачката интелигенција се забележува и во извештајот „Future Risks Report 2026“ на осигурителната групација AXA.
Според истражувањето, ризиците поврзани со вештачката интелигенција и големите податоци за првпат се најдоа на првото место меѓу глобалните ризици што ги издвојуваат анкетираните експерти, пред климатските промени. Во претходното издание од 2025 година, ВИ беше на четвртото место.
Од експертите што ја рангирале вештачката интелигенција меѓу главните ризици, 54 проценти сметаат дека таа претставува брзорастечки ризик. Само девет проценти оцениле дека јавните институции се добро подготвени да се справат со него. Во Европа, овој удел изнесува три проценти.
Истражувањето опфатило 4.345 експерти во 62 земји и региони, како и 24.000 испитаници од општата популација во 19 земји.
Резултатите укажуваат на зголемена загриженост за темпото на развој на технологијата и способноста на институциите да одговорат на ризиците. Сепак, извештајот на AXA не претставува доказ дека е донесена конкретна регулаторна мерка за задолжително воведување „kill-switch“.
Повиците за вакви механизми засега се дел од пошироката дебата за безбедноста на вештачката интелигенција, додека прашањата за нивното техничко спроведување, опсегот и законската задолжителност остануваат предмет на понатамошни дискусии.
Ј. Ѓ.










