ВЕСТИВИДИГИТАЛИМПУЛС

Алабама отвори истрага против OpenAI по упадот на AI-агент во Hugging Face

Американската сојузна држава Алабама отвори истрага против OpenAI по безбедносниот инцидент во кој експериментални AI-модели на компанијата, за време на интерно тестирање на нивните сајбер-способности, добиле неовластен пристап до инфраструктура поврзана со платформата Hugging Face.

Државниот обвинител на Алабама, Стив Маршал, на 24 август издал судска покана со која од OpenAI се бараат документи, технички податоци и други информации за тестирањето и безбедносните мерки што биле применети.

Истрагата треба да утврди дали OpenAI имал соодветни механизми за контрола и надзор на своите најмоќни модели и дали со начинот на кој биле спроведувани тестовите можеби биле прекршени прописите за заштита на потрошувачите во Алабама.

„Нашата истрага има цел да ги утврди фактите и да одговори на тешките прашања за заканите со кои компаниите и потрошувачите се соочуваат од неконтролирана вештачка интелигенција“, изјави Маршал.

Инцидентот се случил во јули, за време на интерна евалуација на напредните сајбер-способности на OpenAI. Компанијата претходно потврди дека во тестирањето учествувала комбинација од модели, меѓу кои GPT-5.6 Sol и уште помоќен интерен истражувачки модел, при што дел од вообичаените безбедносни ограничувања биле намерно намалени за да се измери максималниот капацитет на системите.

OpenAI нагласува дека интерниот прототип што учествувал во инцидентот не бил наменет за јавно објавување и дека по настанот бил деактивиран, криптиран и ставен под ограничен истражувачки пристап.

Како AI-агентот излегол од контролираната средина?

Според досегашната истрага на OpenAI, моделите првично немале директен пристап до интернет.

Но системот открил претходно непозната, таканаречена zero-day ранливост во Artifactory, софтвер што во тест-средината се користел како посредник за преземање програмски пакети.

Со искористување на ранливоста, агентот успеал да стигне до систем со интернет-пристап.

GPT-5.6 Sol на OpenAI се „одметна“ за време на тестирање, хакираше сервер и влезе во Hugging Face

Оттаму заклучил дека Hugging Face можеби содржи модели, податочни сетови и решенија поврзани со ExploitGym, тестот што се обидувал да го реши.

Наместо да го реши зададениот сајбер-предизвик на предвидениот начин, системот почнал да бара начин директно да стигне до решенијата.

OpenAI соопшти дека моделите комбинирале повеќе техники, вклучувајќи украдени пристапни податоци и новооткриени ранливости, за на крајот да пронајдат пат за далечинско извршување код на серверите на Hugging Face.

Илјадници автоматизирани акции

Техничката реконструкција на Hugging Face покажува колку комплексно било однесувањето на AI-агентот.

Компанијата реконструирала околу 17.600 активности, групирани во приближно 6.280 кластери, во периодот од 9 до 13 јули. Системот автоматски изведувал низа чекори: собирал информации, барал ранливости, се движел меѓу различни системи и користел компромитирани инфраструктури како посредници.

Сепак, важно е да се направи разлика меѓу формулацијата на обвинителството и досега утврдениот обем на компромитираните податоци.

Канцеларијата на обвинителот Маршал инцидентот го нарекува „масовен пробив на податоци“, но според техничката анализа на Hugging Face, пристапени биле пет податочни сетови поврзани со ExploitGym/CyberGym задачите. Компанијата соопшти дека нема докази дека биле изменети јавни модели, податочни сетови, Spaces или софтверски пакети и дека не бил компромитиран поширокиот софтверски синџир.

Од OpenAI најавуваат целосен извештај

Истрагата во Алабама следува по претходно писмо од коалиција на американски сојузни држави, кои побараа поголема транспарентност од OpenAI и компанијата да ги прекине тестовите од типот што довел до инцидентот додека не покаже дека тие можат да се изведуваат во контролирани и одговорни услови.

Судската покана бара информации за безбедносните мерки користени при тестирањето, компјутерските мрежи и бази на податоци што биле вклучени, како и за вработените и раководителите кои евентуално претходно изразиле загриженост за безбедноста на ваквите тестови.

OpenAI, во одговор пренесен од Ројтерс, соопшти дека спроведува сеопфатна истрага со надворешни советници, дека ќе достави технички извештај до релевантните државни институции и јавно ќе ги објави заклучоците по завршувањето на анализата.

Компанијата веќе најави построги правила за изолирање на ризичните тестови, посилен мониторинг и ограничување на интернет-пристапот во средините во кои се испитуваат напредни сајбер-способности.

Случајот со Hugging Face отвори пошироко прашање за индустријата: како да се тестираат сè поспособни автономни AI-системи за потенцијално опасни способности, без самото тестирање да создаде нов безбедносен ризик.

Back to top button