ВЕСТИВИДИГИТАЛИМПУЛС

Истражувач даде отказ од Anthropic поради страв дека AI ќе го уништи човештвото

Џејкоб Коксон, истакнат истражувач кој изминатите три години работеше на обука на модели во технолошките гиганти OpenAI и Anthropic, поднесе оставка со сериозно предупредување до јавноста. Тој тврди дека ниту една од овие две водечки компании не ја сфаќа сериозно заканата од вештачка интелигенција која самата се подобрува (self-improving AI) и дека со својата неодговорност го водат човештвото кон пропаст.

​Неговите стравувања, како што пренесува Игор Војноски, јавно ги поддржа и Еван Хубингер, водечки научник за усогласување на целите на вештачката интелигенција (Alignment Science lead) во Anthropic. Цитирајќи ја објавата на Коксон, Хубингер се согласи со неговите ставови, шокирајќи ја јавноста со проценката дека постои 10% веројатност вештачката интелигенција да го елиминира човештвото во наредните десет години. Компанијата Anthropic сè уште нема јасен план за решавање на проблемот со таканаречениот „alignment“, односно усогласувањето на целите на идната Супер-АИ со човечките вредности.

​Рулет со човечките животи

​Во своето јавно обраќање, Коксон истакна дека водечките лаборатории се натпреваруваат во трка кон супер-интелигенција, целосно игнорирајќи ги последиците.

​„Се тркаат директно кон само-подобрувачка супер-интелигенција и си играат рулет со нашите животи. Не ја потценувајте моќта на оваа технологија. Наскоро ова ќе бидат надчовечки системи кои ќе можат да хакираат сè, преку ноќ да револуционизираат секое поле и да стекнат вистинска моќ и ресурси“, предупредува тој, додавајќи дека луѓето што ја градат оваа технологија приватно навистина веруваат дека таа може да нè убие сите до крајот на деценијата.

​Разликата меѓу OpenAI и Anthropic

​Коксон ја анализираше и застрашувачката корпоративна култура во двете најмоќни АИ компании. Според него, во OpenAI многумина воопшто не ги интернализирале цивилизациските влогови и ризици. Од друга страна, во Anthropic ризиците се добро разбрани, но тие се затворени во трка да стигнат први, верувајќи дека конкуренцијата нема да дејствува одговорно.

​Прифаќањето на оваа трка и влегувањето во „завршницата“ за него е арогантна коцка која не смее да се лансира од приватните сервери на една компанија. Тој апелира до сите истражувачи да запрат и да размислат пред да стартуваат процеси кои не ги разбираат целосно, повикувајќи на глобална координација која може да вклучи дури и привремена забрана за подобрување на можностите на АИ моделите.

Back to top button