
Експерт од одделот за безбедност на OpenAI, Дејвид Робинсон, неодамна ја напушти компанијата упатувајќи остри критики за нејзиниот пристап кон развојот на вештачката интелигенција. Тој предупреди дека брзата корпоративна култура насочена кон забрзан развој значително го зголемува ризикот од катастрофални неуспеси.
Во својот авторски текст насловен „Дадов отказ од OpenAI бидејќи нејзината култура е нефункционална“, објавен викендов во магазинот „Атлантик“ (The Atlantic), Робинсон истакна дека компаниите за вештачка интелигенција не се „ни приближно доволно внимателни“. Тој смета дека е неопходно да се стави многу поголем фокус на безбедносната експертиза и истражувањата пред да се развиваат понапредни системи.
„Времето за обиди и грешки е завршено“, напиша Робинсон, додавајќи дека напредните АИ-системи бараат заштитни механизми слични на оние што се користат во нуклеарната енергетика и авијацијата.
Робинсон, кој помина три и пол години во OpenAI помагајќи во изготвувањето на рамката за подготвеност на компанијата и надгледувајќи ги безбедносните извештаи за 12 лансирања на напредни модели, жестоко го критикуваше пристапот на компанијата познат како „итеративно распоредување“ – лансирање системи и дополнително зајакнување на заштитата дури откако ќе се појават проблемите.
„Додека компанијата спринта од едно кон друго лансирање, таа не успева да го постигне нивото на грижа што верувам дека е неопходно“, тврди тој. Робинсон дополнително предупреди дека способностите на вештачката интелигенција напредуваат многу побрзо од разбирањето на истражувачите за тоа како овие системи да останат усогласени со човечките цели и вредности.
Овие коментари доаѓаат во време на жестока дебата во ИТ индустријата за тоа дали технолошките гиганти се движат пребрзо во развојот. Во реакција на критиките, портпаролот на OpenAI изјави дека компанијата внимава моделите да не станат помоќни отколку што може безбедно да се управуваат. „Ние го паузираме тренирањето или ги задржуваме моделите кога имаме потреба да забавиме“, се вели во соопштението на компанијата.










