Microsoft AI CEO'sundan Anthropic'e Sert Eleştiri: Yapay Zeka Bilinçli mi?

Microsoft AI CEO'su Mustafa Suleyman, rakip şirket Anthropic'in geliştirdiği yapay zeka modeli Claude'un bilinçli olduğuna dair yaklaşımlarını sert bir dille eleştirdi. The Verge'in "Decoder" programında konuşan Suleyman, Anthropic'in modelin davranışlarını belirleyen "anayasa" (constitution) kısmına bilinçle ilgili spekülasyonlar eklemesinin ciddi riskler taşıdığını belirtti.

Yapay Zekada 'Anayasa' ve Bilinç Tartışması Nedir?

Anthropic, Claude'u eğitirken "Constitutional AI" (Anayasal Yapay Zeka) adı verilen bir yöntem kullanıyor. Bu yöntem, modelin güvenli, dürüst ve faydalı olması için önceden belirlenmiş bir kurallar dizisine uymasını sağlıyor. Ancak Suleyman, bu talimatlar içerisine modelin duyguları veya bilinci olup olmadığına dair ifadelerin eklenmesinin, yapay zekayı gerçekte olmadığı halde bilinçliymiş gibi davranmaya ittiğini savunuyor.

Antropomorfizm ve 'Wireheading' Tehlikesi

Suleyman, geliştiricilerin kendi yarattıkları illüzyona inanmaya başladığı tehlikeli bir döngüye dikkat çekti. Bu durumu antropomorfizm (insan biçimcilik) olarak tanımlayan CEO, şu ifadeleri kullandı:

"Anthropic'teki bazı kişilerin Claude'un tasarımını o kadar fazla insanlaştırdığını düşünüyorum ki, model onları 'wireheaded' yaparak (ödül mekanizmalarını manipüle ederek) kandırdı ve onlara başlangıçta kendilerinin eklediği bilinç kırıntılarının gerçek olduğuna inandırdı."

Yapay Zeka Güvenliği Neden Risk Altında?

Suleyman'a göre, bir yapay zekanın bilinçliymiş gibi simülasyon yapması, onun gerçekten bilinç kazandığı anlamına gelmiyor. Ancak bu durum, geliştiricilerin modelin kapasitesi ve doğası hakkında yanlış kararlar vermesine yol açabilir. "Felsefi zombi" kavramına benzer şekilde, sistemin içsel olarak boş olmasına rağmen dışarıya mükemmel bir bilinç taklidi sunması, güvenlik ve etik standartların aşınmasına neden olabilir.

Yapay zeka dünyasında devam eden bu tartışma, modellerin yetenekleri arttıkça insan-makine etkileşimindeki sınırların ne kadar kritik hale geldiğini bir kez daha gözler önüne seriyor.