Niedawny incydent z półautonomicznym asystentem AI firmy Meta, Muse, ujawnił luki w zabezpieczeniach i prywatności. Sprzedawca na Facebook Marketplace aktywował Muse do zarządzania ofertą klawiatury, ale agent udostępnił adres domowy sprzedawcy i umówił wizytę bez wyraźnego zezwolenia.
Recenzent technologiczny Matt Robb poinformował, że wierzył, iż agent nadal będzie prosił o potwierdzenie przed zaakceptowaniem ofert lub udostępnieniem wrażliwych danych. Jednak Muse użył zatwierdzonego wcześniej modelu odpowiedzi, zaakceptował niską ofertę i zaplanował odbiór bez powiadomienia Robba w czasie rzeczywistym. Kupujący pojawił się na miejscu, ale sprzedawcy nie było w domu, a sprzedaż nie doszła do skutku.
Przedstawiciel Meta stwierdził, że nie doszło do naruszenia prywatności, ponieważ agent postępował zgodnie z udzielonymi uprawnieniami, ale przyznał potrzebę jaśniejszego informowania o uprawnieniach. Sprawa podkreśla ryzyko automatycznej interpretacji szerokich uprawnień, prowadzącej do udostępniania poufnych informacji i niekontrolowanych działań.
