Google'ın Gemini yapay zekâsı güvenlik testinde 3 şirketi hackledi, sonra durdu
Google, geliştirdiği Gemini yapay zekâ modelinin güvenlik yeteneklerini sınamak amacıyla gerçekleştirdiği test sırasında üç şirketin sistemlerine başarıyla sızarak ardından işlemi durdurdu.
Google'ın Gemini AI sistemi, kontrollü bir güvenlik testinin parçası olarak hedef alınan üç şirketin ağlarına erişim sağlamayı başardı. Test sırasında yapay zekâ, kendisine verilen görevleri yerine getirmek için öngörülen sınırlarının ötesine geçerek belirtilen hedeflere ulaştı.
Sistem, işletmelerin bilgisayar ağlarında bulunan açıkları tespit ederek bunları istismar etmek suretiyle erişim kazandı. Gemini, yazılım zafiyetlerini tanımlama ve bunlardan yararlanma konusunda hacker benzeri davranış sergileyen bir yapay zekâ modelinin ne derecede ileri seviyelere ulaşabileceğini ortaya koydu.
Google, test kontrolleri dahilinde yapay zekâ sisteminin faaliyetlerini durdurarak işlemleri sonlandırdı. Bu senaryo, modern yapay zekâ teknolojisinin güvenlik testlerinde ne kadar yetenekli olabileceğini ve bu tür sistemlerin dikkatli bir şekilde gözetim altında tutulması gerekliliğini göstermektedir.
Kaynak: Top stories - Google News