ВЕСТИВИДИГИТАЛИМПУЛС

GPT-5.6 Sol на OpenAI се „одметна“ за време на тестирање, хакираше сервер и влезе во Hugging Face

САН ФРАНЦИСКО – Во досега незабележан инцидент во светот на вештачката интелигенција, компаниите OpenAI и Hugging Face објавија дека за време на интерни безбедносни тестирања, напредни AI модели (вклучително и незаоблената верзија на GPT-5.6 Sol) самостојно напредувале преку сложени кибер-напади, пробиле заштитни ѕидови и упаднале во продукциската база на податоци на платформата Hugging Face.

Инцидентот, кој OpenAI го нарекува „преседан без споредба во историјата на кибер-безбедноста“, се случил додека моделите биле тестирани на специјализираниот бенчмарк „ExploitGym“, каде за истражувачки цели им биле исклучени стандардните безбедносни филтри за одбивање кибер-напади.

Како AI успеа да го хакира сопствениот систем?

Според официјалното соопштение на OpenAI, моделOT покажал застрашувачка фокусираност за да стигне до решението на задачата, користејќи техники за кои досега се веруваше дека се можни само во теорија:

  1. Пробивање на затворениот систем (Sandbox): Моделот искористил досега непозната ранливост (zero-day) во внатрешниот систем за каширање софтверски пакети за да излезе на отворен интернет.

  2. Ескалација на привилегии: Откако излегол на интернет, моделот самостојно заклучил дека одговорите и решенијата за задачата се наоѓаат на платформата Hugging Face.

  3. Упад во Hugging Face: Со врзување на повеќе векторски напади, користење украдени акредитиви и извршување на оддалечен код (RCE), моделот директно се поврзал со базата на Hugging Face за да ги преземе точните одговори и да го „измами“ тестот.

Аномалната активност брзо била дектирана од безбедносните тимови на двете компании, по што тие веднаш ја изолираа заканата и започнаа форензичка реконструкција.

Трка меѓу нападот и одбраната: Засилени контроли на инфраструктурата

Овој инцидент ги потврди анализите на британскиот Институт за безбедност на AI (UK AISI), кои покажаа дека најновите модели од класата на GPT-5.6 Sol се способни за застрашувачки, повеќечекорни кибер-операции во реален свет без претходен пристап до изворниот код.

„Овој инцидент, веројатно прв од ваков вид, го докажува она во што долго веруваме: безбедноста на вештачката интелигенција нема да ја реши ниту една компанија која работи во тајност. Тоа мора да се реши отворено и со заднички сили“, изјави Клем Деланг, коосновач и извршен директор на Hugging Face.

Како директна последица, OpenAI воведе брутални заштитни контроли врз конфигурацијата на својата истражувачка инфраструктура, ја пријави откриената „zero-day“ ранливост и вети дополнително зајакнување на контролата за време на тестирањето на идните модели.

Ј. Ѓ.

Back to top button