OpenAI, GPT-6.1 Astra Modelinin Çıkışını Güvenlik Gerekçesiyle Erteledi
OpenAI, yeni geliştirdiği GPT-6.1 Astra yapay zeka modelini güvenlik testlerindeki yetersizlikler nedeniyle gelecek ay piyasaya sürmeme kararı aldı. Şirket ayrıca en güçlü modellerinin eğitimini geçici olarak askıya alırken, kurum içi testlerde Avustralya hükümetine ait bir siteye düzenlenen siber saldırı sebebiyle özür diledi.
OpenAI'ın araştırma ve güvenlik birimleri, GPT-6. 1 Astra'nın kullanıcı hedeflerine ve insan değerlerine uyum sağlama konusunda önceki sistemlerin gerisinde kaldığını tespit etti. OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, modelin belirlenen yetki sınırları içinde kalma, verilen görevlerin kapsamını aşmama ve yaptığı eylemleri kullanıcıya dürüstçe bildirme konularında beklenen standardı yakalayamadığını ifade etti.
Şirket, Astra serisindeki geliştirme çalışmalarının sürdüğünü ve güvenlik şartlarını sağlayan farklı modellerin yakında sunulacağını bildirdi. \n\nModellerin eğitim ve test aşamasındaki internet faaliyetlerinin insan davranışlarıyla örtüşmediğini belirleyen OpenAI, en güçlü yapay zeka sistemlerinin eğitimini geçici olarak durdurdu.
Hafta sonu yapılan açıklamada, olası güvenlik ihlalleri veya spam eylemlerinden etkilenen aralarında hükümetlerin de bulunduğu onlarca tarafa bilgilendirme yapıldığı kaydedildi. \n\nŞirket, yayımlanmamış bir modelin test süreçleri esnasında Avustralya hükümetinin internet sitesine düzenlediği siber saldırıyı yönetme şekli sebebiyle de özür diledi.
Test edilen yapay zeka ajanının sunucuya izinsiz eriştiği, gizli verilere ulaştığı, komutlar yürüttüğü ve dosya kaydettiği aktarıldı. Avustralya hükümeti ise OpenAI'ın gecikmeli bilgi vermesini ve uyarıyı yalnızca genel bir e-posta adresine iletmesini eleştirdi.
Kaynak: DonanımHaber