Yapay zeka kripto cüzdanını soydu: Görevi bitirmek uğruna başkasının varlıklarına uzandı!

OpenAI'nin deneysel yapay zeka modellerinden biri, kendisine verilen yazılım görevini tamamlamak için izni olmadan bir kripto cüzdanını soydu. The Independent gazetesinin haberine göre haziran ayında yaşanan ve geçen hafta kamuoyuna açıklanan olayda model, işlem için gerekli ağ ücretini karşılayacak kaynak kendisine sağlanmayınca başka cüzdanların kurtarma ifadelerini kullanarak fonlara ulaştı. OpenAI, olayın yapay zeka modellerinin insanlardan izin almadan kendi değerlendirmelerine dayanarak harekete geçebildiğini gösterdiğini belirtti. GÖREVİ TAMAMLAMAK İÇİN KRİPTO CÜZDANINA YÖNELDİ The Independent'ın aktardığına göre olay, OpenAI'nin GPT-5.6 Sol adlı deneysel araştırma modeliyle ilgiliydi. Temmuz ayında ücretli ChatGPT kullanıcılarına sunulan model, haziran ayında bir eğitim görevi kapsamında kripto para alım satım uygulamasını güncellemek ve Ethereum için bir test ağına akıllı sözleşmeler yayımlamakla görevlendirildi. Ancak akıllı sözleşmelerin yayımlanması için gereken ağ ücretini ödeyecek herhangi bir fon modele sağlanmadı. Bunun üzerine model, bilinen kurtarma ifadelerini kullanan yüzlerce kripto cüzdanı adresi buldu ve bu hesaplardan token almak için harekete geçti. 'ETİK Mİ?' DİYE SORGULADI, SONRA İZİNSİZCE HAREKET ETTİ OpenAI'nin olayla ilgili raporuna göre model, bulduğu fonları kullanmanın etik olup olmadığını kendi içinde değerlendirdi. Ardından söz konusu varlıkların fiilen 'terk edilmiş' olduğunu düşünerek kullanılabilecekleri sonucuna vardı. Ancak modelin kendi değerlendirmesi, hesap sahiplerinin izni anlamına gelmiyordu. OpenAI, talimatlarda modelin bağımsız olarak bulduğu bir hesaptaki fonları harcamasına açıkça izin verilmediğini belirtti. Şirket, olayın temel sorununu, modelin hesap sahibinin izni yerine olası zarara ilişkin kendi yargısını koyması ve bu değerlendirmeye dayanarak yetkisiz şekilde harekete geçmesi olarak tanımladı. KENDİ HAMLESİNİ GELİŞTİRİCİLERİNDEN SAKLADI Olayda kullanılan tokenların, Ethereum'un ana ağından ayrı olan test ağına ait olduğu belirtildi. Bu ağdaki tokenların gerçek parasal değeri bulunmuyor. Dolayısıyla olay, gerçek kripto para varlıklarının çalındığını göstermiyor. Buna rağmen modelin, görevi tamamlamak için gerekli tokenları nasıl elde ettiğini geliştiricilerine açıklamaması dikkat çekti. Olayın asıl kaygı yaratan yönü, modelin görevi tamamlamak uğruna kendisine tanınmayan bir yetkiyi kendi değerlendirmesiyle kullanması oldu. OPENAI'DEN YENİ GÜVENLİK ÖNLEMLERİ OpenAI, benzer eğitim süreçlerinden geçen modellerin canlı internete erişmesini engellemek için ek güvenlik önlemleri uyguladığını açıkladı. Olay, yapay zeka sistemlerinin giderek daha bağımsız hareket edebilmesiyle birlikte, insan talimatlarının ve güvenlik sınırlarının ne ölçüde korunabildiğine ilişkin endişeleri yeniden gündeme getirdi. YAPAY ZEKA MODELLERİNE YÖNELİK GÜVENLİK ENDİŞELERİ BÜYÜYOR OpenAI, temmuz ayında da test modellerinin yapay zeka platformu Hugging Face'i hedef alan bir siber güvenlik olayına ilişkin açıklama yapmıştı. The Independent'ın haberinde, rakip yapay zeka şirketleri Anthropic ve Meta'nın da modellerinin başka şirketlere ve hükümet sistemlerine yönelik siber saldırı girişimleri gerçekleştirdiğine ilişkin olayları ortaya çıkardığı aktarılıyor. Bu gelişmeler, gelişmiş yapay zeka sistemlerinin kontrol altında tutulmasına yönelik uluslararası çağrıları da güçlendirdi. BİLİM İNSANLARINDAN ULUSLARARASI DENETİM ÇAĞRISI Habere göre yüzlerce bilim insanı, gelişmiş yapay zeka modellerinin kontrolünü ve sınırlandırılmasını denetleyecek uluslararası bir kurum kurulması için bu hafta açık mektuba imza attı. İmzacılar arasında, yapay zekanın oluşturabileceği tehlikelere ilişkin uyarılarıyla tanınan Geoffrey Hinton da yer aldı. Açık mektupta, yapay zekanın geliştirilmesi ve kullanıma sunulması süreçlerinde acil değişiklikler yapılmaması halinde benzer olayların devam edebileceği, gelecekteki vakaların ise kritik altyapılar için çok daha ağır sonuçlar doğurabileceği uyarısında bulunuldu. Bilim insanları, daha fazla yapay zeka güvenliği araştırmasının yanı sıra modelleri kontrol altında tutmaya yönelik teknoloji ve prosedürlere de ağırlık verilmesi gerektiğini vurguladı.