Google, Gemma AI Modelini Geçici Olarak Kaldırdı: Senatör Hakkında Asılsız İddia Üretti

Google'ın Yapay Zeka Modeli Gemma, Tartışma Yarattı

Teknoloji devi Google, yapay zeka modeli Gemma'yı AI Studio platformundan geçici olarak kaldırdı. Bu kararın arkasında, Gemma'nın bir ABD senatörü hakkında tamamen uydurulmuş bir saldırı iddiası üretmesi yer alıyor.

Olayın Gelişimi ve Google'ın Tepkisi

Google'ın AI Studio adlı geliştirici platformunda sunulan Gemma modeli, kullanıcılar tarafından yapılan bir sorguya yanıt olarak gerçeği yansıtmayan ve bir senatörü hedef alan ciddi bir içerik üretti. Bu olayın ardından Google, sorunu araştırmak ve olası benzer hataları önlemek amacıyla modele erişimi askıya aldı.

Yapay Zeka ve Güvenilirlik Sorunu

Olay, üretken yapay zeka modellerinin doğruluk ve güvenilirlik konusundaki risklerini bir kez daha gündeme getirdi. Modellerin bazen "halüsinasyon" olarak adlandırılan, gerçek olmayan bilgiler üretebilmesi, özellikle kamuya mal olmuş kişiler ve hassas konular söz konusu olduğunda büyük sorunlara yol açabiliyor. Bu durum, AI teknolojilerinin sorumlu kullanımı ve içerik filtreme sistemlerinin önemini vurguluyor.

Google'ın, Gemma modelini ne zaman ve hangi iyileştirmelerle tekrar kullanıma sunacağı ise şu an için belirsizliğini koruyor.