Компанијата Anthropic соопшти дека спречила повеќе обиди нејзините модели со вештачка интелигенција Claude да бидат употребени за злонамерни активности, вклучително и сајбернапади, надзор и биолошки истражувања кои потенцијално би можеле да придонесат за развој на биолошко оружје.
Како што објави британскиот Independent, компанијата предупредува дека со зголемувањето на способностите на системите со вештачка интелигенција се намалува и прагот на експертиза потребен за изведување сложени злонамерни операции. Anthropic тврди дека сите случаи наведени во најновиот извештај биле блокирани.
Обид Claude да помогне при биолошко истражување
Еден од најсериозните случаи што ги опишува компанијата се однесува на неименувани лица кои се обиделе да го употребат Claude за подготовка на апликација за научно финансирање поврзана со генетско модифицирање на вирусот чикунгуња.
Според Anthropic, станувало збор за истражување од типот „gain-of-function“, односно експерименти во кои организмот генетски се менува за да добие нови или засилени биолошки својства. Компанијата нагласува дека вакви истражувања можат да имаат легитимна медицинска примена, вклучително и развој на вакцини и терапии, но истовремено носат ризик од двојна употреба.
Anthropic соопшти дека системот го блокирал барањето и дека во поновите модели се воведени построги заштитни механизми за биолошки теми со потенцијална двојна употреба.
AI сè почесто се користи и за сајбернапади и пропаганда
Извештајот не се ограничува на биолошките ризици. Истражувачите на Anthropic откриле злоупотреби во периодот од декември 2025 до август 2026 година, поврзани со продавачи на шпионски софтвер, политички мотивирани актери и групи поддржани од држави.
Компанијата идентификувала и операции во кои биле создадени стотици профили на социјалните мрежи што се претставувале како обични корисници, а потоа координирано ширеле исти политички пораки. Според извештајот, девет такви случаи биле поврзани со субјекти од Русија, Иран, Турција, Персискиот Залив, Јужна Азија, Африка и Европа.
Anthropic ги зајакнува безбедносните механизми
Компанијата признава дека постарите модели биле помалку способни да им помогнат на експерти во спроведување опасни биолошки истражувања. Со новата генерација модели, меѓутоа, Anthropic оценува дека повеќе не може со иста сигурност да тврди дека таквата помош е невозможна.
Поради тоа се воведени дополнителни ограничувања за чувствителни биолошки прашања и се споделуваат информации со владини институции и партнери од индустријата.
Anthropic наведува дека целта на објавувањето на случаите е другите развивачи на AI, владите и граѓанскиот сектор навреме да ги препознаваат новите модели на злоупотреба и заеднички да ги засилат механизмите за заштита.










