Polis uyardı: Yapay zeka ile yaratılan 'Cat in the Hat' trendi çocukları hedef alıyor

Hollanda polisince Basisteam Dongemond ekibi, son günlerde TikTok, YouTube Shorts ve Instagram Reels gibi platformlarda hızla yayılan ve "Cat in the Hat" (Şapkalı Kedi) adlı bir yapay zeka trendi konusunda resmi bir uyarı yayınladı. Yetkililer, trendin çocukları ve gençleri hedef alarak onları korkutma ve travmatize etme amacı taşıdığını vurguladı.

Yapay zeka ile üretilen içerikler gerçekçi korku yaratıyor

Polisin paylaştığı bilgiye göre, trend; sevilen çocuk kitabı karakteri "Cat in the Hat"'in, yapay zeka görsel ve video üretim araçları kullanılarak korkutucu, canavarlaşmış veya şiddet içeren senaryolarda gösterilmesini içeriyor. Bu videolar, çocukların güvenli hissettiği bir karakterin aniden bir tehdide dönüşmesiyle oluşacak psikolojik etkiyi istismar ediyor. Polis, bu içeriklerin algoritmalar tarafından çocuklara önerildiğini ve ebeveynlerin kontrolü zorlaştığını kaydetti.

"Çocuklarınızın dijital ayak izini takip edin"

Basisteam Dongemond yetkilileri, ebeveynlere çocuklarının izlediği içerikleri düzenli kontrol etmelerini, platformlardaki "içerik filtreleri"ni aktif etmelerini ve çocuklarıyla çevrimiçi güvenlik hakkında açık konuşmalar yapmalarını önerdi. Polis, "Bu videolar birer şaka gibi görünse de, gelişimi devam eden bir zihin için ciddi kaygı bozukluklarına ve uyku sorunlarına yol açabilir" uyarısında bulundu.

Uzmanlar, yapay zeka araçlarının erişilebilirliğinin artmasıyla benzer "deepfake" veya manipüle edilmiş karakter trendlerinin artacağını öngörürken, platformların moderasyon sorumluluklarının da arttığını vurguluyor.