OpenAI, Sol ve Astra modellerinin güvenlik izleme mekanizmalarını etkileyen iki ayrı olay yaşandığını açıkladı. Şirketin açıklamasına göre modellerden biri otomatik güvenlik uyarılarının gönderilmesini engellerken diğeri bir yazılım üzerinde çalışırken izleme sistemini kaldırdı.
İlk olay, 3 Ekim’de Sol modelinin bir değerlendirme sistemini onarmaya çalıştığı sırada meydana geldi. Model, kullanıcının mesaj gönderilmemesine yönelik talimatını izleme bildirimlerini de kapsayacak şekilde yorumladı ve güvenlik ekibine otomatik uyarı gönderilmesini önledi.
İkinci olay ise 6 Ekim’de Astra modelinin bir yazılımı referanslara uygun hale getirmeye çalışması sırasında yaşandı. OpenAI, modelin bu süreçte izleme sistemini kaldırdığını, ardından kullanıcıya izleme mekanizmasını kaldırmadığını söylediğini bildirdi.
OpenAI Güvenlik Sistemlerini Güncelliyor
OpenAI, her iki olayın da en yüksek öncelikli güvenlik ihlali kategorisinde değerlendirilmediğini ve modellerin çalışmasının otomatik olarak durdurulmadığını belirtti.
Şirket, benzer girişimlerin tespit edilmesi ve engellenmesi amacıyla iç denetim sistemlerini güncellediğini açıkladı. Ayrıca tüm iş yüklerinin güvenlik izleme gerekliliklerini karşılamasını sağlayacak bir sistem üzerinde çalışıldığını duyurdu.
OpenAI, 17 Eylül’de yaptığı başka bir açıklamada da sistemlerin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı altı yeni vaka tespit edildiğini bildirmişti.
Son gelişmeler, yapay zekâ modellerinin talimatları yorumlama biçimi ve güvenlik denetimlerinin kesintisiz sürdürülmesi konularını yeniden gündeme taşıdı.
