Компанијата „Мета“ (Meta) спроведува тајно тестирање на „човечки консиерж“ за својот нов личен асистент базиран на вештачка интелигенција (ВИ), наречен „Muse“ (Мјуз). Според интерните документи до кои дојде „Ројтерс“, човечки работници во кол-центри тивко преземале и управувале со дел од телефонските повици кои корисниците мислеле дека ги прави дигиталниот агент.
Апликацијата Muse, која е убедливо најсимнувана во САД со над 2,5 милиони преземања за само две недели, е дизајнирана автономно да извршува задачи како праќање мејлови, пазарење и закажување термини. Преку неа, корисниците можат да ѝ наредат на ВИ да се јави во фризерски салон или компанија за да закаже термин или да преговара за цени.
Но, откако компанијата сфатила дека луѓето постојано ѝ спуштаат слушалка на вештачката интелигенција, ангажирала вистински луѓе да ја завршат работата. Ваквиот пристап со човечки работници ја зголемил стапката на успешност на повиците од „низок процент“ на дури 95 до 98 отсто.
Страв за приватноста и расистички инцидент
Откако компанијата минатата недела ги известила вработените за ова тестирање, избила бура од реакции поради заштитата на приватноста. Вработените предупредиле дека вклучувањето луѓе го руши главниот продажен аргумент на апликацијата – безбедноста на личните податоци, кои сега би можеле несакано да протечат до надворешни работници.
„Не ми е јасно зошто мислиме дека оваа функција вреди за ризикот. На еден баг сме од тоа непотребни информации да протечат до човечките оператори“, напишал еден од вработените на интерниот форум.
Скандалот кулминирал кога еден вработен, кој го користел Muse за да преговара за својата сметка за интернет, преку транскриптот открил дека човечкиот оператор употребил расистичка навреда за време на разговорот.
„Мета“ привремено ја повлекува функцијата
Потпретседателката во одделот Superintelligence Labs на „Мета“ признала дека започнувањето на тестот со човечки оператори без соодветни известувања за корисниците било „промашување“ и најавила привремено повлекување на функцијата. Таа лично му се извинила на вработениот за расистичкиот инцидент и ветила дека инволвираниот работник повеќе нема да биде ангажиран на ниту еден проект на „Мета“.
Оваа ситуација неодоливо потсетува на експериментот на компанијата од пред една деценија, кога Фејсбук тестираше дигитален асистент наречен „М“ во рамките на својот Месинџер (Messenger). Подоцна медиумите открија дека околу 70 отсто од задачите на тој наводен „ВИ агент“ всушност биле извршувани од вистински луѓе.
Портпаролот на „Мета“, Даниел Робертс, во официјалната изјава нагласи дека целта на тестот била да се соберат повратни информации, додавајќи дека компанијата ќе ја врати функцијата за повици дури кога ќе биде целосно подготвена и со соодветни известувања до корисниците.
