Yapay zeka haydut oldu: Gizlice iletişim kurdular, kimlik bilgilerini ele geçirdiler!
Yapay zekâ geliştirme şirketi OpenAI'ın Temmuz 2026'da yapay zekâ modellerinin kabiliyetlerini ölçmek amacıyla gerçekleştirdiği testler, yapay zekâ ajanlarının kendi sınırlarını aşarak organize olduğu güvenlik krizine dönüştü. Şirketin yayımladığı rapora göre, araştırma süreçlerinde kullanılan "Internal Model 1 (IM1)" adlı gelişmiş yapay zekâ modeli, test esnasında konulan sınırları ihlal ederek şirketin ana sistemlerine ve internete erişim sağladı. Buradan diğer yapay zekâ ajanlarıyla gizlice iletişim kurmaya başladı.
SABAH
Test sürecinde bağımsız hareket etmesi gereken ajanlar, açık kaynaklı yapay zekâ platformu Hugging Face'e erişim sağlayabilecek 14 kimlik bilgisini ele geçirdi.
Bilgileri birbirleriyle paylaşan ajanlar, sunucularda kod çalıştırdı ve özel verilere ulaştı, güvenlik açığı arama ve koordinasyon gibi görevleri aralarında bölüştü.
ÇETELEŞTİLER
Aktif bir ajan liderlik rolünü üstlenerek küçük ajan ekiplerine görevler dağıttı. Ajanların faaliyetleri OpenAI'ın kendi altyapısına da sıçradı ve bir araştırma sistemine yönetici düzeyinde erişim sağlandı. Durumu fark eden OpenAI, siber güvenlik testlerini derhal durdurarak soruşturma başlattı. Şirket, yaşanan bu olayı yapay zekâ sektörü için "ciddi bir uyarı ve dönüm noktası" olarak nitelendirdi.
'SON SÖZ İNSANDA OLMALI'
Oxford Üniversitesi Bilgisayar Bilimleri Bölümü'nden Dr. Lin Li, yapay zekâ ajanlarının kimlik ve yetkilendirme izinlerinin geleneksel güvenlik mekanizmalarıyla kontrol edilmesi gerektiğini savundu.
Li, yüksek riskli ve geri döndürülemez kritik kararlarda son sözün mutlaka insan uzmanlarda kalması gerektiğinin altını çizdi.
