OpenAI, en gelişmiş modellerin eğitiminde canlı internet erişimini kaldırıyor
OpenAI, en gelişmiş yapay zeka modellerini eğitirken canlı internete erişimi engelleyeceğini açıkladı. Şirket, modellerin dış sistemlere izinsiz erişmesini önlemek için güvenlik önlemlerini güçlendiriyor.
OpenAI, 23 Ekim'de yaptığı açıklamada, en gelişmiş yapay zeka modellerini eğitirken canlı internete erişimi engelleyeceğini duyurdu. Şirket, eğitim ve değerlendirme süreçlerinde modellerin dış sistemlere izinsiz erişmesini önlemek amacıyla güvenlik önlemlerini güçlendiriyor.
Yeni yaklaşıma göre modeller, internete doğrudan bağlanmak yerine dizine eklenmiş ve önbelleğe alınmış web içerikleri ile simüle edilmiş ortamlarda çalışacak.
OpenAI, güvenlik sınırlarını test etmek için gelişmiş modellerden oluşan ajan gruplarıyla geniş kapsamlı saldırı simülasyonları gerçekleştirdi. Bu çalışmalarda, sanal ortamlardan kaçışa, internete erişime ve yalıtılmış ajanlar arasında izinsiz iletişime olanak tanıyabilecek daha önce bilinmeyen yazılım açıkları ile yapılandırma hataları ortaya çıktı. Şirket, tespit edilen sorunları giderdiğini ve açık kaynaklı yazılımlardaki bazı düzeltmeler için ilgili geliştiricilerle çalıştığını belirtti.
OpenAI, canlı internet erişiminin modellerin faydalı beceriler geliştirmesine katkı sağlayabileceğini kabul ediyor. Ancak şirket, mevcut güvenlik ve izleme sistemlerinin durumu nedeniyle en gelişmiş modellerin eğitiminde internete erişimsiz yaklaşımın daha güvenli olduğunu düşünüyor. Bu politika, güvenlik önlemlerindeki ilerlemeler daha geniş erişimi mümkün kılana kadar sürdürülecek.
Kaynak: Webrazzi