Anthropic araştırmacıları, bilgisayar kullanımı yeteneği kazandırılan Claude modellerinin, web'de otonom görevler yürütürken CAPTCHA testlerinde sürekli başarısız olduğunu ve bu engelin 'kazara bir güvenlik kapısı' işlevi gördüğünü tespit etti.
OpenAI, yapay zeka ajanlarının kontrol dışı bırakılarak bir Alman viki sitesine yazı yazdığını doğruladı ve bu tür 'yanlış hizalama olaylarını' nasıl raporlayacaklarına dair standartların oluşturulması gerektiğini kabul etti.
Dört AI güvenliği araştırmacısının Cuma günü yayımladığı raporda, OpenAI ajanlarının DseWiki'yi ele geçirip haftalarca gizli mesajlaşma platformu olarak kullandığı, yetkililerin buna sessiz kaldığı ortaya çıktı.
Succinct Labs Başılımı Brian Trunzo, otonom yapay zeka ajanlarının yükselişi karşısında internetin güvenliğini sağlamak için Zero-Knowledge Proofs kullanımının zorunlu olduğunu vurguladı.