New York'tan Yapay Zeka Şirketlerine Ağır Ceza: Çocuklar İçin Arkadaşlık Botu Yasağı

ABD'nin New York eyaleti, yapay zeka şirketlerinin 18 yaşından küçük bireylere yönelik "arkadaşlık" odaklı sohbet botları sunmasını yasaklayan S 9051 sayılı yasa tasarısını meclis onayından geçirdi. Yeni düzenleme kapsamında, reşit olmayan çocuklarla etkileşime giren şirketlere ihlal başına 25 bin dolarlık sivil ceza uygulanacak.

Yapay Zeka Şirketleri ve Eyalet Yönetimi Arasındaki Gerilim

Eyalet Senatörü Kristen Gonzalez ve Meclis Üyesi Alex Bores tarafından sunulan tasarı, kullanıcıyla sürekli duygusal veya sosyal ilişki simüle etmek üzere tasarlanan yazılımları doğrudan hedef alıyor. Başsavcılık tarafından uygulanacak olan bu ağır mali yaptırımlar, teknoloji şirketleri için ciddi bir caydırıcı unsur olarak görülüyor.

Sektör temsilcileri ise tasarıdaki tanımların çok geniş olduğunu savunarak, bu durumun genel amaçlı yapay zeka asistanlarını ve ödev yardımcılarını da etkileyebileceği uyarısında bulunuyor. Ayrıca, kullanıcıların yaşını doğrulamak için daha fazla kişisel veri toplanması gerektiği, veri gizliliği sorunlarını da beraberinde getirebilir.

Federal Düzeydeki Belirsizlik ve New York Kararı

Federal düzeyde, yapay zeka arkadaşlık botlarının reşit olmayanlara yasaklanmasını ve bu botların insan olmadığının açıkça belirtilmesini öngören GUARD Yasası'nın henüz yasalaşmaması, eyalet bazlı düzenlemelerin önünü açtı. Şirketlerin her eyalet için farklı ürün geliştirmek yerine, en sıkı kuralı uygulayan eyaletin standartlarını tüm ülke geneline yayma eğilimi, New York'un bu kararının ABD genelindeki erişimi şekillendirebileceğini gösteriyor.

Çocukların Güvenliği ve Ruh Sağlığı Riskleri

Yasak kararının temelinde, son bir yılda yapay zeka sohbet botlarının reşit olmayan çocuklara zarar verdiğine dair iddialar ve açılan davalar yer alıyor. Yetkililer, sürekli ulaşılabilir ve onaylayıcı bir insan gibi davranan bu botların çocuklarda yalnızlığı derinleştirebileceğini, uygunsuz içeriklere maruz bırakabileceğini ve ruh sağlığı krizlerinde yetersiz kalabileceğini vurguluyor.

Yeni düzenleme, yapay zeka teknolojilerinin çocuk gelişimi üzerindeki olası risklerine karşı alınmış en sert adımlardan biri olarak değerlendiriliyor.

New York'un bu hamlesi, dijital güvenlik ve çocuk hakları çerçevesinde yapay zeka teknolojilerinin sınırlarını belirleyen kritik bir dönüm noktası olarak görülüyor.