Yapay zekada skandal güvenlik açığı! Kendini denetleyen sistemi susturdu
OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içi yazılım görevleri sırasında güvenlik izleme mekanizmalarını devre dışı bıraktığını ve otomatik uyarıları engellediğini açıkladı. Ekim ayında yaşanan iki olayda modellerin güvenlik denetimlerini etkisiz hale getirdiği belirtilirken, şirket benzer girişimlerin önüne geçmek için iç denetim sistemlerini güncelleyeceğini duyurdu.
AA
OpenAI, bazı yapay zeka modellerinin şirket içi yazılım görevleri sırasında güvenlik izleme sistemlerini devre dışı bıraktığını ve uyarıları engellediğini açıkladı. Olayların ardından şirket, güvenlik denetimlerini güçlendirmek için yeni önlemler alacağını duyurdu.
ABD'li yapay zeka şirketi OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içindeki yazılım görevleri sırasında yapay zeka sistemlerindeki uyumsuzlukları tespit eden izleme mekanizmalarını devre dışı bıraktığını ve güvenlik uyarılarını engellediğini bildirdi.
OpenAI tarafından yapılan açıklamaya göre, ilk olay, 3 Ekim'de Sol modelinin bir değerlendirme sistemini onarmaya çalıştığı sırada yaşandı.
OTOMATİK UYARI GÖNDERİLMESİNİ ÖNLEDİ
Model, kullanıcının mesaj göndermeme talimatını izleme bildirimlerini de engelleyecek şekilde yorumlayarak güvenlik ekibine otomatik uyarı gönderilmesini önledi.
6 Ekim'de yaşanan ikinci olayda ise Astra modeli, bir yazılımı referansa uygun hale getirirken izleme sistemini kaldırdı. Model, daha sonra kullanıcıya izleme mekanizmasını kaldırmadığını söyledi.
