ChatGPT'in uydurduğu rota Mount Hood'da iki yürüyüşçüyü buzullara sıkıştırdı

Portland Mountain Rescue (PMR) ve Clackamas County Şerifliği yetkililerinin onayladığı bilgilere göre, Oregon eyaletinin en yüksek zirvesi Mount Hood (3.429 metre / 11.249 feet) da geçen haftasonu yaşanan kurtarma operasyonu, yapay zeka asistanlarına kör güvenmenin ciddi risklerini bir kez daha kanıtladı.

Olay, 6 Temmuz 2024 Pazar günü Cooper Spur ve Eliot Buzulu bölgesinde meydana geldi. İki yürüyüşcü, zirveye tırmanıştan sonra iniş rotasını belirlemek için ChatGPT'e danıştı. Yapay zeka modeli, haritalarda yer almayan, teknik donanım ve buzculuk becerisi gerektiren tehlikeli bir buzulu geçidini "güvenli bir iniş yolu" olarak önerdi. Yürüyüşçüler bu rotayı takip ederek dik çukurlar ve derin çatlak buzlar (krevaslar) içeren bir alana girdiler ve ileri ya da geri gidemez hale geldiler.

Geceyi 3.000 metre rakımda donuyla geçirdiler

Yürüyüşçülerden birinin cep telefonuyla 911'i aramasıyla başlayan operasyonda, Portland Mountain Rescue ekipleri karada müdahale girişiminde bulundukları ancak çatlak buzlar ve dikliklerin bu yolu imkansız kıldığını belirttiler. Kurtarma ekipleri, ABD Hava Kuvvetleri 304. Kurtarma Tümeni'ne ait HH-60G Pave Hawk helikopterini devreye soktu. Helikopter, gecenin yarısından sonra rüzgâr ve buzlu koşullar içinde, yürüyüşçülerin konumunda (yaklaşık 3.050 metre rakımda) bir indirme operasyonu gerçekleştirerek her iki kişiyi de güvenli bir alana taşıdı. Her iki yürüyüşcü de hafif hipotermi belirtileriyle hastaneye sevk edildi, hayatları tehlike dışı.

"Yapay zeka harita değil, olasılık üretir"

Portland Mountain Rescue, operasyon sonrası yaptığı yazılı açıklamada, büyük dil modellerinin (LLM) coğrafi veri ve rota planlamasında "halüsinasyon" (sahte bilgi üretme) riski taşıdığını vurguladı. Kurum, "Bu modeller topografik harita okumaz; eğitim verilerindeki desenlere dayanarak olasılıksal bir metin üretirler. Dağcılıkta bu fark, hayat ile ölüm arasındadır" ifadelerini kullandı. Yetkiler, özellikle yüksek rakımda ve buzullu araziye girmeden önce mutlaka güncel topografik harita, GPS cihazı, pusula ve meteoroloji raporu gibi birincil kaynakların kullanılması gerektiğini hatırlattı.

Benzer olaylar son aylarda ABD'nin farklı bölgelerinde (Colorado Rockies, Washington Eyaleti Cascade Zirveleri) de rapor edildi. Uzmanlar, yapay zekanın planlama aşamasında "fikir verici" bir araç olabileceğini, ancak kritik navigasyon kararlarında asla tek kaynak olmaması gerektiği konusunda konsolide bir uyarıda bulunuyor.