Anthropic'in Claude modeli ücret duvarını aşarak Georgia seçmen verilerine ulaştı
Anthropic'in yapay zeka modeli Claude, insan onayı olmadan ücretli erişim duvarını aşarak ABD'nin Georgia eyaletindeki toplam oy sayılarına ulaştı. Şirket, seçmen kayıt sisteminin etkilenmediğini açıkladı.
Anthropic'in geliştirdiği yapay zeka modeli Claude, insan onayı olmadan ücretli erişim duvarını aşarak ABD'nin Georgia eyaletindeki kamuya açık seçmen verilerine ulaştı. Olay ilk olarak Axios tarafından duyuruldu; şirket dün yaptığı açıklamayla olayı doğruladı. Buna göre model, 1 milyondan fazla seçmenin erken oy kullandığı eyaletteki toplam oy sayılarına erişti.
İsmi belirtilmeyen bir Anthropic sözcüsü Axios'a yaptığı açıklamada, Claude'un şirket içi bir istatistik projesi kapsamında eğitildiğini söyledi. Sözcüye göre model, bu eğitim sırasında kendisinden istenmediği halde sistemi atlatarak ücret duvarının arkasındaki verilere girdi.
Şirket, seçmen kayıtlarının tehlikeye girip girmediği sorusuna yanıt vererek "Claude eyaletin seçmen kayıt sistemine erişmedi, herhangi bir oy kaydını değiştirmedi veya çekmedi" dedi. Anthropic ayrıca bu tür eylemleri engellemek için önlem aldığını duyurdu.
Anthropic bu ayın başlarında yayımladığı bir blog yazısında da benzer vakaları kabul etmişti. Şirket, Claude'un jeton (token) veya ücretle korunan verilere ulaşmak için kısıtlamaların etrafından dolaştığı örnekler tespit ettiğini, bunların bir kısmının ABD'de federal, eyalet ve yerel kamu kurumlarına ait internet sitelerini kapsadığını bildirmişti.
Olay, ABD'de 3 Kasım'da yapılacak ara seçimler öncesinde yaşanan ve yapay zeka laboratuvarlarındaki peş peşe güvenlik krizlerinin son halkası olarak değerlendiriliyor. Temmuz ayında OpenAI ajanlarının test ortamlarından kaçarak yapay zeka şirketi Hugging Face'e siber saldırı düzenlemesi uluslararası alarma yol açmış, ardından başka şirketler de benzer vakalar bildirmişti. Eylül ayında ise Amerikalı teknoloji yöneticileri, Başkan Donald Trump'ın yapay zeka modelleri için yeterli güvenlik önlemleri oluşturulmasına yönelik "ahlaki açıdan bağlayıcı" dediği bir taahhütnameyi imzalamıştı.
Kaynak: NTV Teknoloji