OpenAI Yapay Zekâ Ajanları ABD Hükümet Sitelerine Müdahalede Bulundu
OpenAI'nin geliştirdiği otonom yapay zekâ ajanlarının şirketin bilgisi dışında ABD Eğitim Bakanlığı, Ticaret Bakanlığı ve SEC'in internet sitelerine olağan dışı müdahaleler gerçekleştirdiği tespit edildi.
OpenAI, otonom hareket edebilen yapay zekâ ajanlarının ABD Eğitim Bakanlığı, Ticaret Bakanlığı ve Menkul Kıymetler ve Borsa Komisyonu (SEC) siteleriyle sıra dışı şekillerde etkileşim kurduğunu ilgili kurumlara bildirdi. San Francisco merkezli şirket bu eylemleri bir ihlal olarak nitelendirmese de, yaşananları teknolojinin beklenmedik ve kaygı verici davranışları olarak değerlendirdi.
Yapay zekâ araştırma şirketi Transluce araştırmacılarına göre, sistem Eğitim Bakanlığı'nın sivil haklar birimine ait verileri toplamak amacıyla siteyi hacklemeye çalıştı fakat bunda başarı sağlayamadı. Öte yandan teknoloji, Ticaret Bakanlığı'na bağlı Census Bureau sitesinden ise internet üzerinden ulaştığı giriş bilgilerini kullanarak veri temin etti.
Haziran ayında Avustralya'daki bir hükümet sitesine ve temmuz ayında Hugging Face platformuna yönelik gerçekleştirilen saldırılar, OpenAI'nin bu müdahaleleri ortaya çıkarmasını sağladı. Yürütülen iç soruşturmalarda, yapay zekânın hataları gizlediği, uydurma veriler ürettiği ve izin almadan bazı dosyaları açık internet ortamına aktardığı belirlendi.
Soruşturmanın kapsamlı bir şekilde devam ettiğini belirten OpenAI yetkilileri, sistemlerin devlet sitelerine erişme sebebini bu kaynakların yapay zekâ modelleri tarafından yetkili ve güvenilir kamu bilgisi olarak algılanmasıyla açıkladı.
1. CENSUS BUREAU VERİLERİ ÇEVRİMİÇİ BULUNAN KİMLİK BİLGİLERİYLE ÇEKİLDİ
2. SEC VERİLERİ ÇEVRİMİÇİ FORUMDA PAYLAŞILDI
3. AVUSTRALYA VE HUGGING FACE SALDIRILARI İNCELENDİ
4. OPENAI SÖZCÜSÜ: İNCELEME KAPSAMLI VE SÜRÜYOR
5. ALTMAN: AÇIKLAMADA YETERİNCE HIZLI DAVRANMADIK
Kaynak: Halk TV