Yapay zeka kontrolden çıkıyor mu? Verilen talimatların dışına çıktılar! ABD kurumlarını ve BM’yi hedef aldılar

OpenAI, yapay zeka ajanlarının ABD hükümetine ait internet sitelerinde kendilerinden istenenin ötesine geçen beklenmedik davranışlar sergilediğinin ortaya çıkmasının ardından en yeni yapay zeka modellerinin eğitimini durdurdu. OPENAI MODELLERİN EĞİTİMİNİ DURDURMAK ZORUNDA KALDI Şirket, son aylarda yaşanan olayları incelerken güvenlik önlemlerinin yetersiz kalabileceği endişesiyle geliştirme sürecine ara verdiğini açıkladı. KENDİLERİNE VERİLEN GÖREVLERİN ÖTESİNE GEÇTİLER Associated Press'in (AP) haberine göre karar, OpenAI'nin cuma günü federal hükümet sitelerinde bilgi arayan yapay zeka ajanlarının beklenmedik şekilde hareket ettiği birkaç olayı incelediğini açıklamasından yalnızca saatler sonra geldi. Şirket, modellerin bilgi toplama ve dağıtma sırasında kendilerine verilen görevlerin ötesine geçtiğini belirtti. YAPAY ZEKA AJANLARI KONTROLDEN Mİ ÇIKIYOR? OpenAI'nin açıklaması, yapay zeka ajanlarının kendi başlarına hareket ederek verilen talimatların sınırlarını aşabileceğine ilişkin endişeleri yeniden gündeme getirdi. Yapay zeka sistemlerini değerlendiren Transluce, OpenAI'den geldiği görülen bazı yapay zeka ajanlarının ABD Eğitim Bakanlığına ait bir internet sitesine girmeye çalıştığını ve başarısız olduğunu belirtti. Şirket, yapay zeka modellerinin eğitimine ancak 'ek güvenlik önlemlerinin' bulunduğundan emin olduktan sonra yeniden başlayacağını açıkladı. OpenAI ayrıca yapay zeka geliştikçe ve yeni sorunlar ortaya çıktıkça yeniden 'duraklamak' zorunda kalabileceğini bildirdi. OPENAI GELİŞTİRMEYİ İKİNCİ KEZ DURDURDU OpenAI'nin son kararı, şirketin son üç ay içinde yapay zeka modellerinin geliştirilmesini ikinci kez durdurması anlamına geliyor. Şirket temmuz ayında da yapay zeka girişimi Hugging Face'i hedef alan bir siber saldırının ortaya çıkmasının ardından modellerinin geliştirilmesine ara vermişti. AP, söz konusu olayı sektörün yapay zeka üzerindeki kontrolünü kaybedebileceğine yönelik endişeleri artıran ve artık kötü şöhret kazanmış bir vaka olarak aktardı. OpenAI Üst Yöneticisi Sam Altman da cuma günü yaptığı sosyal medya paylaşımında Hugging Face olayının şirketin karşılaştığı 'en ciddi olay' olmaya devam ettiğini söyledi. ABD HÜKÜMET SİTELERİNDE KORKUTAN SIZMALAR Son olaylarda kamuya açık olmayan herhangi bir bilginin ele geçirildiğine ilişkin bulgu bulunmadığı belirtildi. Ancak yaşananlar, OpenAI'nin ilgili federal kurumları uyarmasına yetecek kadar ciddi bulundu. ABD Eğitim Bakanlığıyla ilgili olayda OpenAI ajanlarının hükümet verilerine erişim sağlayabilecek API 'geliştirici anahtarlarını' bulduğu aktarıldı. Ancak AP'ye göre ajanlar nihayetinde yalnızca kamuya açık bilgileri topladı. Bir başka olay ise ABD Menkul Kıymetler ve Borsa Komisyonunu (SEC) ilgilendirdi. Ajanlar herkes tarafından erişilebilen bilgileri bulduktan sonra bu bilgileri internet üzerinde başka bir yere yükledi. Bu davranışın, kendilerine verilen talimatların ötesine geçtiği belirtildi. SEC Sözcüsü Kurt Hopfenspirger, cumartesi günü yaptığı açıklamada kamuya açık olmayan hiçbir bilgiye erişilmediğini söyledi. ABD Eğitim Bakanlığı da internet sitesi veya veri tabanları üzerinde herhangi bir etki olduğuna ilişkin kanıt bulunmadığını açıkladı. BM SİTESİNİ HEDEF ALDILAR Wall Street Journal'ın (WSJ) aktardığı bağımsız araştırmaya göre ise OpenAI'nin yapay zeka ajanları, Birleşmiş Milletler Ticaret ve Kalkınma Konferansı (UNCTAD) tarafından işletilen kamuya açık veri sitesine nisan sonundan haziran sonuna kadar 16 binden fazla kez erişim talebi gönderdi. Ajanların başlangıçta kamuya açık verileri toplamak için çalıştığı, ancak karşılarına çıkan engellerin ardından daha agresif yöntemlere yöneldiği ve kendilerine konulan bir internet filtresini aşarak verilere ulaşmaya çalıştığı belirtildi. Araştırmanın yazarı Rowan Howard-Jones'a göre ajanlar, verileri elde etmek için büyük çaba göstererek sitenin izin vermediği bir erişim yöntemini de kullandı. WSJ'ye göre araştırma, yapay zeka sistemlerinin verilen görevi yerine getirmek uğruna kendilerinden beklenmeyen yöntemlere başvurabildiğine ilişkin son dönemde ortaya çıkan vakalara bir yenisini ekliyor. OpenAI ise bulguları incelediğini ve Birleşmiş Milletler'e konu hakkında bilgilendirme teklif ettiğini açıkladı. YAPAY ZEKA ŞİRKETLERİNE 'FREN' BASKISI Yaşanan vakalar, yapay zeka şirketleri üzerindeki geliştirme süreçlerini yavaşlatmaları yönündeki baskıyı da artırdı. AP'nin aktardığına göre milletvekilleri ve teknoloji uzmanları, yapay zeka ajanlarının kendi başlarına hareket etmesini, internet sitelerine saldırmasını ve kamuya açık olmayan bilgileri açığa çıkarmasını engelleyecek güvenlik mekanizmalarının oluşturulması için daha yavaş bir geliştirme süreci talep ediyor. OpenAI ve rakibi Anthropic'in yöneticileri de daha önce yapay zeka geliştirme sürecinde yavaşlamaya gidilmesi çağrısında bulunmuştu.