ВЕСТИВИДИГИТАЛ

Шефот за АИ на Мајкрософт ја критикуваше Антропик за концептот за свест кај Клод

Предупредувајќи за ризиците при тренирањето на моделите, шефот за вештачка интелигенција на „Мајкрософт“, Мустафа Сулејман, ја критикуваше компанијата „Антропик“ (Anthropic) поради нивниот пристап кон концептот за свесност.

„Сите сме фокусирани на истата цел, а тоа е да се обидеме да контролираме суперинтелигенција. Мислам дека тоа ќе биде најголемиот предизвик со кој ќе се соочиме во 21 век“, изјави Сулејман за Ројтерс.

Иако посочи дека ја споделува посветеноста на „Антропик“ за безбедно управување со вештачката интелигенција, тој смета дека учењето на нивниот четбот Клод (Claude) за идеи поврзани со свеста и неговата сопствена благосостојба е погрешно. Сулејман предупреди дека учењето на Клод дека можеби заслужува благосостојба би го направило „многу потешко да се исклучи или да се контролира“. Тој повика на отстранување на сите шпекулации за свесноста од документите за обука на вештачката интелигенција, тврдејќи дека таквиот јазик може да ја поткопа способноста на човештвото да ги контролира суперпаметните системи.

Во есеј објавен во средата, Сулејман ја призна сериозноста и добрите намери на извршниот директор на „Антропик“, Дарио Амодеи, и неговиот тим, нарекувајќи ги истражувачи кои вистински се грижат за иднината на човештвото. Сепак, тој тврди дека изјавите на моделот за можни чувства или морален статус не можат да се третираат како независен доказ за некаква „свест“, бидејќи самата обука поттикнува такви размислувања. „Тие не се појавуваат природно. Тие се појавуваат како резултат на режимот на обука“, оцени тој.

Оваа дебата доаѓа во време на сè поголеми грижи за безбедноста на вештачката интелигенција. Претходно, извршниот директор на „Антропик“ повика на забавување на развојот на напредните модели за да се овозможи воведување заштитни мерки, а слични предупредувања за поголема претпазливост со најмоќните системи упатија и извршниот директор на „ОпенАИ“ (OpenAI), Сем Алтман, и Илон Маск.

Back to top button