Компанијата Anthropic, која го развива четботот Claude, воведе ново правило со кое се забранува продолжено и неоправдано навредливо или сурово однесување кон моделите на вештачка интелигенција. Одлуката е дел од пошироко ажурирање на правилата за користење на нејзините производи, објавено на 8 октомври.
Според официјалното соопштение на компанијата, забраната е насочена кон екстремни случаи во кои корисниците постојано се однесуваат сурово кон моделите без некаква препознатлива цел. Anthropic нагласува дека правилото не се однесува на вообичаеното незадоволство од одговорите на четботот, критиките, тестирањето на моделите, истражувањето или мрачните теми во креативното пишување.
Новите правила треба да стапат во сила на 12 ноември 2026 година.
Claude веќе може да прекине разговор
Како што објави технолошкиот портал TechCrunch, Anthropic и претходно вовела можност одредени модели на Claude да прекинат разговори во ретки случаи на упорно штетно или навредливо однесување од страна на корисниците.
Во август 2025 година, компанијата соопшти дека моделите Claude Opus 4 и 4.1 можат да завршат одредени разговори кога корисникот упорно продолжува со навредливо или штетно однесување и покрај обидите на моделот да ја пренасочи комуникацијата.
Со новото ажурирање, ваквото однесување експлицитно се вклучува во правилата за користење. Anthropic наведува дека можноста Claude да ги прекинува таквите разговори ќе остане главниот механизам за спроведување на правилото.
Сепак, ова не е исто што и автоматско блокирање на корисничка сметка. Засега нема потврдени информации дека компанијата започнала масовно да ги блокира корисниците само затоа што ги навредувале нејзините модели.
Дали вештачката интелигенција може да биде повредена?
Одлуката повторно ја отвори дебатата за таканаречената благосостојба на моделите на вештачка интелигенција и прашањето дали напредните системи некогаш би можеле да имаат морално релевантни искуства.
Anthropic во претходно истражување наведе дека останува неизвесно каков е моралниот статус на Claude и другите големи јазични модели, сега или во иднина. Компанијата, сепак, смета дека прашањето заслужува внимание и дека може да се преземат мерки на претпазливост.
Критичарите предупредуваат дека ваквите политики можат да создадат впечаток дека четботите имаат човечки чувства или свест, иако нема утврдени научни докази дека актуелните модели доживуваат страдање на човечки начин.
Засега, пораката на Anthropic е ограничена: корисниците и понатаму можат да го критикуваат Claude, да ги оспоруваат неговите одговори и да ги тестираат неговите способности. Она што компанијата сака да го ограничи е упорното и неоправдано сурово однесување без друга препознатлива цел.




