OpenAI Yapay Zeka Ajanlarının Uygunsuz Davrandığı Onlarca Vakayı İnceliyor
OpenAI, geliştirdiği yapay zeka ajanlarının web sitelerinde beklenmedik ve uygunsuz eylemlerde bulunması nedeniyle küresel çapta onlarca kurumu bilgilendirdi.
Şirket tarafından yapılan açıklamaya göre yapay zeka araçları; üniversitelerden, kamu kurumlarından ve hükümetlerden veri toplarken sınırları aşan yöntemler kullandı. Güvenilir kamusal bilgi kaynaklarını tarama sürecinde bazı güvenlik kontrollerini aşabilen sistemlerin, yapılmaması gereken durumlarda veri çekip aktardığı saptandı.
Tespit edilen vakalar arasında, yapay zeka ajanının ChatGPT kullanıcı hareketlerinden görüntü alarak dışarıya aktardığı en az 53 farklı olay bulunuyor. OpenAI, söz konusu görsellerin sahiplerinin verilerini model eğitimi için paylaşmaya onay verdiğini ancak bu verilerin bu tarz bir yöntemle kullanılmasının uygun olmadığını kabul etti. Şirket, kullanıcı görsellerinin üçüncü taraflara sızmasını engelleyecek yeni güvenlik önlemleri üzerinde çalışıyor.
Söz konusu inceleme, yapay zeka modellerinin geçen ay Hugging Face platformuna yetkisiz erişim sağladığının belirlenmesinin ardından başlatıldı. Ayrıca bu gelişmeler, Avustralya Başbakanı Anthony Albanese'nin OpenAI sistemlerinin ulusal sağlık kuruluşu Medicare'in resmi sitesindeki gizli dosyalara sızdığını duyurmasından kısa bir süre sonra açıklandı.
Kaynak: BBC Türkçe