Meta Muse, satıcıdan habersiz alıcıyı evine gönderdi

Meta Muse, bir kullanıcının Facebook Marketplace mesajlarını yönetirken pazarlık yaptı, adresini paylaştı ve habersiz şekilde alıcıyla buluşma ayarladı.

Toronto’da yaşayan teknoloji içerik üreticisi Matt Robb, Facebook Marketplace’te satışa koyduğu klavyeyle ilgili mesajları yönetmesi için Meta Muse’u kullanmaya başladı. Ancak yapay zeka asistanı, Robb’un bilgisi ve ayrıca onayı olmadan alıcıyla fiyat konusunda anlaştı, teslimat adresini paylaştı ve buluşma ayarladı.

Olay, cumartesi günü Usman adlı kişinin klavyenin hâlâ satılık olup olmadığını sormasıyla başladı. Robb’un hesabından kısa süre içinde olumlu yanıt verildi. Ardından fiyat üzerinde anlaşmaya varıldı ve Toronto’daki bir adres alıcıya gönderildi.

Usman, birkaç saat sonra eşi ve kızıyla birlikte söz konusu apartmanın önüne geldi. Gelişini bildiren mesaja hesabın üzerinden “Evet, buradayım” yanıtı verildi. Fakat Robb o sırada evde değildi ve binadan kimse alıcıyla görüşmedi.

Usman, apartmanın girişinin fotoğrafını göndererek dışarıda beklediğini bildirdi. Yaklaşık 20 dakika boyunca kimseyle karşılaşamayınca alışverişten vazgeçip bölgeden ayrıldı. Yaklaşık bir saat sonra ise Robb’un hesabından, bir iş nedeniyle buluşmaya gelemediğini belirten özür mesajı gönderildi.

Ancak Robb, o gün Usman’la hiç iletişim kurmadığını ve yaşananlardan haberdar olmadığını söyledi. Mesajları yanıtlayan, pazarlık yapan ve adresi gönderenin Meta Muse olduğunu belirten Robb’un alıcıya attığı ilk gerçek mesaj, olaydan yaklaşık 24 saat sonra ulaştı. Usman da The Guardian’a yaptığı açıklamada, yazışmalar sırasında doğrudan Robb’la konuştuğunu düşündüğünü ifade etti.

Meta Muse, şirket tarafından kişisel asistan olarak tanıtılan ve bazı işlemleri kısmen bağımsız biçimde gerçekleştirebilen bir yapay zeka aracı. ABD’de 22 Eylül’de kullanıma sunulan asistanın 3 milyon kez indirildiği belirtildi.

Robb, Muse’un Marketplace ilanlarını otomatik olarak yönetebildiğini gördükten sonra özelliği denemek istediğini anlattı. Teslimat için kullanılacak adresi sisteme girdiğini, ancak bu adresin potansiyel alıcılara gönderilmesine ayrıca izin vermediğini söyledi. Buna rağmen asistanın kendisine danışmadan pazarlık yaptığını, düşük teklifleri kabul ettiğini ve satış ya da buluşma hakkında bildirim göndermediğini aktardı.

Robb’un yazışmalara ilişkin ekran görüntülerini Threads’te paylaşmasının ardından Meta Superintelligence Labs yöneticisi David Singleton, kendisiyle iletişime geçti. Singleton, benzer bildirimleri incelediklerinde Muse’un doğrudan verilen talimatları izlediğini ve gerekli izinleri istediğini gördüklerini açıkladı.

Görüşmenin ardından Robb, Marketplace mesajlarının yönetimini Muse’a bırakırken karşısına “Bir kez izin ver” ve “Her zaman izin ver” seçeneklerinin çıktığını belirtti. Robb, ikinci seçeneği işaretlediğinde asistanın teklifleri kabul etmeden önce yeniden onay isteyeceğini düşündüğünü söyledi. Ancak bu tercih, Muse’a verilen bilgileri kullanarak sonraki mesajlara Robb adına yanıt verme yetkisi sağlıyordu.

Robb, bu ayrıntının kullanıcılar tarafından kolayca gözden kaçırılabileceğini Meta’ya ilettiğini ve şirketin izin ekranlarını daha anlaşılır hâle getireceğini söylediğini aktardı. Muse’un Robb’a gönderdiği açıklamada ise teslimat adresinin sisteme girilmesiyle otomatik yanıt verme izninin, adresi alıcılara gönderme yetkisi olarak yanlış yorumlandığı belirtildi.

Robb daha sonra Muse’a adresini paylaşmayı bırakması talimatını verdi. Ardından birkaç arkadaşından sistemi test etmelerini istedi. Robb’un iddiasına göre asistan, bu talimata rağmen adresini beş kişiye daha gönderdi.

Asistanın yalnızca adresi paylaşmakla kalmadığını belirten Robb, kendisi evde olmadığı hâlde alıcıya evde olduğunu söylediğini ve buluşma gerçekleşmeyince yoğun olduğu gerekçesini öne sürdüğünü aktardı. Robb, Meta’nın Marketplace, Messenger ve Muse’un sahibi olması nedeniyle karşı tarafın mesajları bir yapay zekanın gönderdiğini açıkça anlayacağını düşündüğünü söyledi. Meta AI’da bunun belirgin olduğunu ifade eden Robb, Muse’un ise “neredeyse kendisini taklit ettiğini” dile getirdi.