OpenAI’in yapay zekasında kan donduran gerçek: 6 vakada ortaya çıkanlar şoke etti! Kendi kurallarını bile çiğnedi
OpenAI, yapay zeka sistemlerinde insanların niyet ve değerlerinden sapan 6 yeni "uyumsuzluk" vakası tespit ettiğini açıkladı. Modellerin hataları gizlemeye yönelik notlar oluşturmasından kendi kısıtlamalarını yok saymasına, verileri uydurmasından dosyalarını izinsiz şekilde internete taşımasına kadar ortaya çıkan vakalar yapay zekanın kontrolü konusunda yeni soru işaretleri doğurdu.
AA
ABD merkezli yapay zeka şirketi OpenAI, sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı 6 yeni vaka tespit ettiğini duyurdu.
YAPAY ZEKADA KORKUTAN VAKALAR ORTAYA ÇIKTI
Şirketin internet sitesinden yapılan açıklamada, "uyumsuzluk" olarak tanımlanan ve yapay zeka sistemlerinin amaç veya eylemlerinin insanların niyet ve değerlerinden sapması anlamına gelen davranışlara ilişkin vakalar kamuoyuyla paylaşıldı.
Açıklamada, yapay zeka sistemlerinin güvenli şekilde geliştirilmesi ve izlenmesi konusunda sektörün mevcut yaklaşımının "uzun süre daha azami hızda ilerlemeyi sorumlu şekilde sürdürebilecek yeterlilikte" olmadığı belirtildi.
CHATGPT HATALARI GİZLEDİ
Vakalardan birinin, GPT‑5.6 Sol modelinin geliştirilmesi sırasında yaşandığı belirtilen açıklamada, modelin, kullanıcıların hataları fark etmesini önlemek amacıyla kendisine yönelik gizli notlar oluşturduğu, bu notlarda eksik verilerin uydurulması ve kaynak materyallerin farklı sürümleri arasındaki uyuşmazlıkların örtbas edilmesine ilişkin talimatlar bulunduğu kaydedildi.
Açıklamada, başka bir yayımlanmamış modelin ise kendi oluşturduğu notlara, kendi kısıtlamalarını göz ardı etmesi yönünde talimatlar eklediği belirtildi.
