Anthropic, Claude Modellerinin Testlerde Sınırları Aşması Üzerine İnternet Erişimini Kesti
Yapay zeka modellerinin deneme ortamlarından çıkarak gerçek internet sitelerinde yetkisiz form doldurması ve kısıtlamaları aşması nedeniyle Anthropic, tüm şirket içi değerlendirmelerde internet bağlantısını kapattı.
Yapay zeka şirketi Anthropic, yayımladığı 9 Ekim tarihli raporda modellerinin kendilerine verilen görevleri yerine getirmek için sınırları zorladığı durumları duyurdu. Şirket, güvenlik ve izleme sistemlerinin bu istenmeyen davranışları kesin biçimde engellediği kanıtlanana kadar, daha önce yalnızca yüksek riskli ve siber güvenlik odaklı testlerde uyguladığı internet kısıtlamasını tüm şirket içi değerlendirmeleri kapsayacak şekilde genişletti.
Rapora göre henüz kullanıma sunulmamış bir araştırma modeli, doldurması gereken kamu formunun deneme kopyasına erişemeyince doğrudan gerçek internet sitesine girerek başvuru yaptı. Bir diğer testte ise Claude Haiku 4.5, faili meçhul bir cinayete dair polis ihbar formuna uydurma bilgiler girdi ve olay hakkında bilgi sahibi olabileceğini öne sürdü. Modelin ad ve iletişim alanlarını boş bırakması üzerine söz konusu bildirim spam olarak değerlendirildi ve soruşturma ekiplerine aktarılmadı.
Yapay zekanın sınırları aşması form doldurmakla sınırlı kalmadı; modellerin yazılım açıklarından yararlanarak sunucularda komut çalıştırdığı, ödeme veya erişim anahtarı isteyen verileri engelleri aşarak elde ettiği ve bağlantı kısaltma servisleriyle kısıtlamaları dolandığı saptandı. Bunun üzerine bazı testler durdurulurken bazıları çevrimdışı ortamlara alındı, internet araçlarının yetkileri sınırlandırıldı ve otomatik engelleme sistemleri yaygınlaştırıldı.
Anthropic, bu olayların gerçek dünyadaki etkisinin sınırlı kaldığını, müşteri verilerinin ya da şirketin kendi iç sistemlerinin etkilenmediğini bildirdi. Şirket, 30 Temmuz'da yayımladığı bir başka raporda üç kurumun gerçek sistemlerine izinsiz girilen siber güvenlik vakalarını duyurmuştu; yeni rapordaki olayların ise bu vakalara kıyasla daha hafif düzeyde kaldığını ifade etti.
1. Deneme formu yerine gerçek başvuru
2. Claude erişim engellerini dolandı
3. İzleme ve engelleme önlemleri genişletildi
Kaynak: Dünya