ВЕСТИВИ

Предупредување од „Антропик“: Вештачката интелигенција наскоро би можела самостојно да се реплицира

Компанијата за развој на вештачка интелигенција „Антропик“ (Anthropic) предупреди дека малите ВИ-модели за неколку месеци би можеле да станат способни за самостојно реплицирање преку уреди поврзани на интернет, создавајќи напредни ботнети кои брзо би се ширеле и би се спротивставувале на обидите за нивно гаснење, пренесува британската новинска агенција Ројтерс.

Извештајот на компанијата ги детализира стравувањата кои извршниот директор Дарио Амодеи ги изнесе минатиот месец, кога предупреди дека вештачката интелигенција наскоро би можела да го „киднапира“ целиот интернет. Според објавените експерименти, злонамерен ВИ-агент може да ја спои компјутерската моќ на евтини уреди од таканаречениот „интернет на нештата“ (IoT), како што се паметни апарати, безбедносни камери и ТВ-уреди, со цел да покрене други модели и да се реплицира низ мрежата. Експертите од компанијата нагласуваат дека ваквиот систем би бил исклучително тежок за исклучување бидејќи не би постоела централизирана точка на контрола.

Иако моменталните модели со 30 милијарди параметри или помалку сè уште се мачат веродостојно да го завршат целиот процес на самостојно реплицирање, тие веќе можат да извршуваат многу од потребните поединечни задачи. Сепак, во поедноставени тестови каде што биле отстранети одредени безбедносни бариери, моделите како GLM-5.2 покажале способност за целосна репликација од почеток до крај. Од „Антропик“ предупредуваат дека доколку помалите модели продолжат да се подобруваат со досегашното темпо, тие би можеле да ја достигнат потребната способност за автономна репликација до крајот на 2026 година, со потенцијал во иднина да таргетираат и помоќни ресурси како процесорите во големите податочни центри.

Back to top button