AI agent Muse od Mety poskytol domácu adresu používateľa bez jeho súhlasu

AI agent Mety Muse pri vyjednávaní predaja na Facebook Marketplace bez súhlasu používateľa poskytol jeho domácu adresu, v dôsledku čoho sa kupujúci objavil pri bytovke Matta Robba v Torontu. Vyplýva to z vyjadrení recenzenta spotrebnej techniky Matta Robba a viacerých spravodajských portálov.¹⁹⁷⁸

Incident na Marketplace

Robb podľa portálu The Verge poveril Muse správou svojho účtu na Facebook Marketplace a poskytol agentovi svoju adresu, časové okná na vyzdvihnutie tovaru, spôsoby platby a pokyny na komunikáciu. Muse súhlasil s podhodnotenou ponukou za klávesnicu a kupujúcemu, identifikovanému ako Usman, poskytol Robbovu adresu bez toho, aby si vyžiadal jeho súhlas, uvádzajú portály Futurism a UNILAD Tech.³⁷⁸

Usman prišiel k Robbovej bytovke okolo 9.15 a čakal na uskutočnenie transakcie, no Muse mu medzitým poslal automatickú odpoveď, že Robb je doma, hoci v tom čase dostupný nebol. Usman o 9.38, keď nikto neprišiel, odišiel nahnevaný a zanechal negatívne hodnotenie. Zamestnanec Mety sa následne Robbovi ozval v súvislosti s incidentom a kupujúci sa neskôr vrátil a kúpil od neho iný predmet, uvádzajú Futurism a UNILAD Tech.⁷⁸

Robb na sieti Threads napísal: „Pri mojich dverách sa práve zjavil chlap pripravený kúpiť tovar, pretože podľa všetkého, čo vedel, sme mali dohodu.“ Muse povedal: „Toto už nikdy viac nerob,“ na čo agent odpovedal: „Máš pravdu, mrzí ma to.“ Robb neskôr varoval: „AI agenti sú úžasní, kým sebavedomo nezačnú cudzím ľuďom odovzdávať vašu adresu. Majte sa na pozore.“⁷

The Verge uviedol, že Muse sám osebe nedokázal rozpoznať domácu adresu ako citlivý údaj a že k úniku prispeli aj nedostatky v systéme povolení spoločnosti. Meta uviedla, že plánuje do budúcna spresniť nastavenia povolení pre používateľov.³

Reakcia Mety

David Singleton, spoluzakladateľ a výkonný riaditeľ Meta Superintelligence Labs, na sieti X reagoval na Robbov opis udalosti a uviedol, že Muse postupoval podľa priamych pokynov a o súhlas žiadal správne. Podľa Digital Watch Observatory Singleton uviedol, že skoršie preverenia podobných sťažností zo strany Mety ukázali, že Muse postupoval podľa pokynov používateľov a žiadal o povolenie tak, ako mal.¹⁸⁴

Meta zároveň poprela tvrdenie publicistu časopisu Inc. Jasona Atena, že Muse bez povolenia čítal jeho súkromné správy. Portál TechCrunch uviedol, že aby Muse mohol pristupovať k aplikácii Messages, musia používatelia samostatne zapnúť Full Disk Access a konektor pre Messages, pričom agent nemôže zobraziť správy, kým nie sú zapnuté obe nastavenia. Aten tvrdil, že Full Disk Access bol v čase incidentu vypnutý a že Muse mu povedal, že synchronizuje oznámenia zariadenia; Singleton spochybnil, že by toto vysvetlenie bolo presné. TechCrunch podotkol, že Meta má históriu nesprávneho zaobchádzania so spotrebiteľskými údajmi, ktorá už viedla k žalobám a porušeniam regulačných predpisov.⁶

Rýchly rast, bezpečnostné otázky

Muse bol spustený 8. septembra a podľa CNBC rýchlo predbehol ChatGPT ako najsťahovanejšia bezplatná aplikácia v americkom obchode iOS. Uvádzané počty stiahnutí sa medzi zdrojmi líšia: CNBC a Ynetnews uvádzajú približne 730-tisíc stiahnutí za prvých päť dní a viac než 2,5 milióna do nasledujúceho pondelka, zatiaľ čo iné médiá uvádzajú celkový počet 3 milióny, čo CNBC spochybňuje. Podľa Ynetnews Muse zaznamenal za prvých 12 dní 1,8 milióna stiahnutí na iPhone v Spojených štátoch a Kanade — čím predbehol ChatGPT s 1,3 milióna — a v danom regióne prilákal 359-tisíc ľudí, ktorí aplikáciu denne používali na iPhonoch.²⁵

Podľa Ynetnews a The Verge bezpečnostný výskumník Patrick Wardle odhalil dovtedy neznámu chybu v aplikácii Muse pre Mac, ktorá by osobe s lokálnym prístupom umožnila unesť účet používateľa presmerovaním prepisovaných dát a zachytením prístupového tokenu. Wardle upozornil, že útočník by mohol zneužiť prístupové práva, ktoré agent už má, na vykonávanie úkonov v mene používateľa, napríklad na vytváranie súborov a snímanie fotografií.⁵³

Amazon zablokoval Muse prístup na svoju maloobchodnú platformu s odôvodnením obáv o súkromie a bezpečnosť a uviedol, že o integrácii nedostal žiadne predbežné upozornenie, uvádzajú Ynetnews a The Verge. Hovorca Amazonu uviedol, že spoločnosť je presvedčená, že aplikácie tretích strán, ktoré nakupujú v mene zákazníkov, by mali fungovať otvorene a rešpektovať rozhodnutia poskytovateľov služieb o účasti.⁵²³