Meta, aile verilerini çeken AI 'Hafıza' özelliğini durdurdu: Viral video sonrası hamle

Meta Platforms, yapay zeka asistanı Meta AI'ın "Hafıza" (Memory) adlı özelliğinin, kullanıcıların özel sohbetlerindeki aile fotoğraflarını ve hassas verileri izinsiz tarayarak otomatik "hatıra" önerileri oluşturduğu iddiaları üzerine ilgili uyarıları platformlardan geçici olarak kaldırdı. Karar, bir annenin Instagram'da paylaştığı video gündem olunca ve Avrupa Birliği veri koruma otoritelerinin soruşturma başlatması riskiyle alındı.

Videoda neydi? "Çocuğumun fotoğrafları nasıl gördü?"

Olaya 9 Eylül Salı günü, ABD'li bir teknoloji gazetecisi ve annesi olan kullanıcının Instagram Reels paylaşımıyla start veren video, saatler içinde milyonlarca görüntülenme kaydetti. Kullanıcı, Meta AI sohbot penceresinde hiçbir komut vermeden, geçen yıl çektiği çocuğunun özel fotoğraflarının "Hatırlatma: Bu anıyı hatırlıyor musun?" başlığıyla önerildiğini gösterdi. Videoda "Bu fotoğraflar sadece benim aile grubumdaydı, Meta AI nasıl erişti?" sorusu, platformun veri toplama politikalarına yönelik büyük bir güven krizini tetikledi.

Özellik nasıl çalışıyordu?

Meta AI'ın "Hafıza" özelliği, asistanın kullanıcı tercihlerini, ilgi alanlarını ve geçmiş sohbet bağlamını "öğrenerek" daha kişiselleştirilmiş cevaplar vermesi için tasarlanmıştı. Ancak araştırmalar ve kullanıcı deneyimleri, özelliğin sohbet geçmişindeki medya dosyalarını (fotoğraf, video, ses) metin tabanlı eğitim verisi olarak değil, görsel tanıma modelleri ile tarayarak işlediğini ortaya koydu. Bu durum, şifreli uçtan uca sohbetler (E2EE) olan WhatsApp'ta bile, kullanıcı Meta AI ile sohbet ettiği anda o sohbetin şifrelemesinin kırılıp içeriklerin Meta sunucularında işlenebileceği endişesini doğurdu.

Meta: "Beklenmeyen bir davranış, test aşamasında"

Meta sözcüsü, yazılı bir bildirimde özelliğin "keşif aşamasındaki bir test" olduğunu ve "kullanıcı deneyimini iyileştirmek amacıyla sınırlı bir kullanıcı grubunda aktif" olduğunu belirtti. Şirket, fotoğraf taramasının "kullanıcı onayı olmadan yapıldığı" iddialarını reddetti ancak "bazı kullanıcılarda beklenmeyen hatıra önerileri üretilmesi" durumunu kabullenerek, sorun giderilene kadar özelliğin tüm platformlarda (Instagram, WhatsApp, Messenger) devre dışı bırakıldığını onayladı. Avrupa Birliği Genel Veri Koruma Yönetmeliği (GDPR) ve Türkiye'deki KVKK mevzuatı çerçevesinde "açık rıza" şartının ihlali riski, şirketin hızlı geri adım atmasının temel sebebi olarak görüldü.

Uzmanlar: "Bu bir hata değil, tasarım felsefesi"

Dijital haklar derneği EDRi'nin Brussels ofisinden yapılan açıklamada, olayı "Meta'nın veri açlığı modelinin bir hatası değil, sonucu" olarak tanımladılar. Uzmanlar, büyük dil modellerinin (LLM) eğitimi için sürekli yeni, gerçekçi ve kişisel veriye ihtiyaç duyduğunu, bu yüzden "isteğe bağlı" sunulan AI özelliklerinin varsayılan olarak veri emici hale getirildiğini vurguladı. Kullanıcılara öneri: Meta AI sohbetlerini silmek, "Hafıza" ayarlarını (Ayarlar > Yapay Zeka > Hafıza) kontrol etmek ve hassas medya paylaşımlarını AI entegrasyonlu sohbet kanallarından uzak tutmaktır.