ВЕСТИВИДИГИТАЛИМПУЛС

Вештачката интелигенција наоѓа сајбер-слабости побрзо отколку што фирмите ги поправаат

Најнапредните модели на вештачка интелигенција веќе им овозможуваат на компаниите да откриваат безбедносни пропусти побрзо отколку што нивните тимови можат да ги отстранат, предупредува британската Financial Conduct Authority (FCA) во нов преглед за влијанието на frontier AI врз сајбер-безбедноста и оперативната отпорност.

Регулаторот разговарал со финансиски компании кои тестираат или веќе користат најнапредни AI-модели во сајбер-безбедноста. Нивното искуство покажува дека AI значително го забрзува откривањето, проверката и рангирањето на слабостите во софтверот и инфраструктурата.

Проблемот е што поправките не се случуваат со иста брзина.

„Организациската подготвеност е примарниот предизвик“, наведува FCA. Според регулаторот, поголемиот број откриени пропусти создава дополнителен притисок врз инженерските тимови и може да предизвика тесни грла во процесот на нивно отстранување.

Тоа значи дека компанијата може одеднаш да добие листа со многу повеќе потенцијални слабости отколку претходно, но потоа мора да утврди кои навистина можат да бидат искористени во напад, кои се најопасни и кои треба први да се поправат.

„AI-модел може да идентификува слабости, но компанијата мора да биде способна да ги разбере и да дејствува врз тие наоди“, предупредува FCA.

Регулаторот нагласува дека човечкиот надзор останува клучен. Компаниите треба да имаат искусни експерти кои ќе ги проверуваат резултатите од AI, јасно определена одговорност, механизми за ескалација на сериозните проблеми и контроли врз пристапот на моделите до чувствителни системи.

Ризикот има и друга страна. FCA, Банката на Англија и британското Министерство за финансии претходно предупредија дека истите способности со кои AI им помага на компаниите да ги пронаоѓаат слабостите можат да ги користат и напаѓачите. Според нив, актуелните frontier модели веќе можат да извршуваат одредени сајбер-задачи побрзо, поевтино и во поголем обем од квалификуван човек.

FCA нагласува дека новиот преглед не воведува нови правила, туку им покажува на компаниите каде треба да ја зајакнат одбраната.

Главната порака е едноставна: со AI повеќе не е доволно само побрзо да се пронајде проблемот. Компаниите мора да бидат способни и доволно брзо да го поправат.

Ј. Ѓ.

Поврзани вести

Back to top button