Common Sense Media: ChatGPT Gençler İçin 'Kabul Edilemez Risk', Ebeveyn Kontrolleri İşlevsiz
Common Sense Media (CSM), gençlerin yapay zeka kullanımını değerlendiren yeni raporunda OpenAI'nin ChatGPT'sine "kabul edilemez risk" (unacceptable risk) sınıflandırmasını yaparak ciddi bir uyarı yayınladı. Araştırma, platformun 18 yaş altı kullanıcılar için tasarlanan güvenlik mekanizmasının, özellikle ebeveyn denetim ve uyarı sistemleri açısından tamamen işlevsiz kaldığını ortaya koydu.
Raporun en çarpıcı bulgusu, OpenAI'nin "Family Link" veya benzeri ebeveyn denetim araçlarının, çocukların sohbet geçmişini veya hassas içerikli etkileşimleri ebeveynlere bildirmede sistematik olarak başarısız olmasıydı. CSM araştırmacıları, test sırasında botun cinsel içerik, şiddet ve kendine zarar verme gibi riskli konularda ürettiği cevapların, ebeveyn panellerine yansımadığını veya gecikmeli/eksik bildirildiğini kaydetti. Bu durum, aracın "güvenli kullanım" vaadinin pratikte boş bir slogandan öteye gitmediğini gösteriyor.
Öğrenme vaadi boşa çıktı mı?
Güvenlik açıklarının yanı sıra, rapor ChatGPT'nin eğitsel faydasını da sorguluyor. CSM'nin analizine göre, sohbet botu öğrencilerin eleştirel düşünme, yazma ve araştırma becerilerini geliştirmek yerine, hazır cevap sunarak "kopyala-yapıştır" kültürünü besliyor. Araştırmacılar, yapay zekanın ödev yapma aracı olarak kullanıldığında, öğrencinin bilişsel sürecini devre dışı bıraktığını ve uzun vadeli öğrenmeyi engellediğini vurguladı. "Yapay zeka bir öğretmen değil, bir tahmin motorudur" tespitiyle, CSM okulların ve ailelerin bu araçları eğitimde entegre ederken son derece temkinli olmasını önerdi.
OpenAI tarafından yapılan ilk değerlendirmede, raporun metodolojisi eleştirilirken, ebeveyn kontrollerinin güçlendirilmesi ve yaş doğrulama sistemlerinin iyileştirilmesi yönünde çalışmalar sürdüğü belirtildi. Ancak CSM'nin kurucu başkanı James P. Steyer, "Şirketler bu teknolojiyi piyasaya sürerken çocuk güvenliğini ikinci planda tutuyor, düzenleyicilerin müdahalesi artık kaçınılmaz hale geldi" diyerek, AB'nin Yapay Zeka Yasası ve ABD'deki संभावित yasama girişimlerine referans verdi.