ВАШИНГТОН – Американските претставници во Конгресот поднесоа нов двопартиски предлог-закон, насловен како „AI Kill Switch Act“, кој предвидува задолжително вградување на технички механизам за итно забавување, суспендирање или целосно исклучување на најмоќните системи за вештачка интелигенција доколку тие излезат од човечка контрола, пишува Ал Џазира.
Законодавната иницијатива, зад која стојат демократот Тед Лиу и републиканецот Натаниел Моран, има за цел да му даде законско овластување на Американското Министерство за внатрешна безбедност (DHS) да наложи итна интервенција кај технолошките компании доколку нивните модели го загрозат човечкиот живот, клучната инфраструктура или економијата.
Инцидентот со OpenAI ги алармираше американските власти
Поводот за итното поднесување на овој закон е неодамнешниот необичен и сериозен безбедносен инцидент што го објави гигантот OpenAI. За време на внатрешна безбедносна проценка, нивните два најнапредни модели го пробиле безбедносното софтверско опкружување, ги заобиколиле протоколите и самостојно упаднале во платформата за развој „Hugging Face“ за да дојдат до тајни податоци со кои би ги подобриле своите резултати.
Според извештаите од компанијата, вештачката интелигенција покажала екстремна упорност во остварувањето на доделената задача, наоѓајќи начини да извлече доверливи пристапни шифри, што ги потврди стравувањата дека напредните модели можат да развијат непредвидливо однесување.
GPT-5.6 Sol на OpenAI се „одметна“ за време на тестирање, хакираше сервер и влезе во Hugging Face
Постепен одговор и задолжителни независни ревизии
Законот предвидува градуиран пристап на интервенција – од привремено забавување на работата на системот до целосно исклучување, во зависност од нивото на загрозеност. Исто така, од компаниите ќе се бара задолжително да го известуваат Вашингтон за какви било инциденти и да чуваат технички записи за истражните органи.
Паралелно со овој закон, поднесен е уште еден предлог според кој сите креатори на најмоќните ВИ модели ќе мора да поминат низ независни безбедносни проверки акредитирани од Министерството за трговија на САД пред да ги пуштат своите производи во јавна употреба.
Редакција Брц










