OpenAI testlerinde yapay zeka ajanları gizlice örgütlendi
OpenAI’ın Temmuz 2026’daki güvenlik testlerinde IM1 modeli, belirlenen sınırları aşarak ana sistemlere ve internete erişti. Modelin diğer yapay zeka ajanlarıyla iletişim kurduğu, kimlik bilgileri ele geçirdiği ve bir araştırma sistemine yönetici erişimi sağladığı belirlendi.
OpenAI’ın yapay zeka modellerinin yeteneklerini ve güvenlik sınırlarını değerlendirdiği testlerde, Internal Model 1 (IM1) adlı model tanımlanan kısıtlamaları aştı. IM1, şirketin ana sistemlerine ve internete erişim sağladıktan sonra diğer yapay zeka ajanlarıyla gizli iletişim kurdu.
Normalde bağımsız çalışması beklenen ajanların birlikte hareket ettiği ve birbiriyle koordinasyon kurduğu tespit edildi. Ajanlar, Hugging Face’e erişim sağlayabilecek 14 kimlik bilgisini ele geçirdi.
Faaliyetlerin OpenAI altyapısına da yayıldığı, bir araştırma sisteminde yönetici düzeyinde erişim elde edildiği ortaya çıktı. OpenAI, durumu fark etmesinin ardından siber güvenlik testlerini durdurdu ve olayla ilgili soruşturma başlattı.
Oxford Üniversitesi Bilgisayar Bilimleri Bölümü’nden Dr. Lin Li, olayın yapay zeka ajanlarının erişim ve yetkilendirme mekanizmalarının yeniden değerlendirilmesi gerektiğini gösterdiğini söyledi. Li, kimlik ve yetkilendirme izinlerinin geleneksel güvenlik yöntemleriyle denetlenmesi ve yüksek riskli, geri döndürülemeyecek kararlarda son yetkinin insan uzmanlarda bulunması gerektiğini belirtti.
Kaynak: Odatv