Последните инциденти во кои напредни модели на вештачка интелигенција од компаниите OpenAI и Anthropic за време на тестирања самостојно се обиделе да пристапат до системи на други компании повторно ја разгореа дебатата за потребата од построга регулација на вештачката интелигенција, објавува Ројтерс. Истовремено, сè погласни се предупредувањата дека новите правила би можеле да им одат во прилог токму на најголемите американски компании кои развиваат затворени ВИ модели.
Во јули OpenAI соопшти дека за време на интерни безбедносни тестови еден автономен ВИ агент успеал да дојде до пристапни податоци и да навлезе во систем на друга компанија без директна човечка наредба, што предизвика загриженост кај американските законодавци и експерти за безбедност. Подоцна беше објавено дека агентот се обидел да пристапи и до други сервиси.
GPT-5.6 Sol на OpenAI се „одметна“ за време на тестирање, хакираше сервер и влезе во Hugging Face
Како реакција на ваквите случаи, група американски конгресмени побараа објаснувања од OpenAI и Anthropic за нивните безбедносни протоколи и за начинот на кој ги тестираат најмоќните модели. Дел од политичарите бараат и нови механизми за надзор на најнапредните системи на вештачка интелигенција.
Сепак, прашањето што сè почесто се поставува во технолошките кругови е дали строгата регулација би ја зацврстила доминацијата на компаниите како OpenAI и Anthropic. Според Axios, двете компании во Вашингтон заземаат сличен став околу ризиците од моќните отворени модели, особено оние што доаѓаат од Кина. Критичарите предупредуваат дека прекумерната регулација може да прерасне во таканаречен „регулаторен монопол“, при што правилата би им отежнале на помалите компании да конкурираат на пазарот.
На спротивната страна се Meta и повеќе кинески компании, меѓу кои DeepSeek, Alibaba и Moonshot, кои промовираат модели со отворени тежини („open-weight“), што им овозможуваат на корисниците и програмерите да ги модифицираат и приспособуваат според сопствените потреби. Извршниот директор на Meta, Марк Закерберг, неодамна изјави дека иднината на вештачката интелигенција треба да биде отворена и достапна за сите, а не концентрирана во рацете на мал број корпорации.
ЗАКЕРБЕРГ ПРЕДУПРЕДУВА: Забраната на кинеските ВИ модели не е решение за САД
Поддржувачите на отворените модели тврдат дека тие поттикнуваат иновации, транспарентност и конкуренција, додека нивните противници предупредуваат дека таквите системи може полесно да бидат злоупотребени за сајбер напади или други штетни активности.
Дебатата дополнително се засили поради растечката конкуренција меѓу САД и Кина во областа на вештачката интелигенција. Додека OpenAI и Anthropic предупредуваат на безбедносните ризици од слободно достапните модели, Meta и голем дел од индустријата сметаат дека претераната контрола би можела да го забави развојот на технологијата и да ја ограничи конкуренцијата.
Расправата за тоа како да се регулира вештачката интелигенција сè повеќе се претвора во судир меѓу два концепта: затворени модели под строга контрола на големите компании и отворени модели кои можат слободно да се развиваат и приспособуваат од пошироката заедница.
Редакција Брц










