Eski Google Yöneticisinden Yapay Zekânın Çocuklar Üzerindeki Risklerine Dair Uyarı
Google'ın eski güvenlik yöneticisi Tom Siegel, yapay zekânın çocuklar üzerinde sosyal medyadan daha ağır zararlara yol açabileceğini belirterek şirketlerin bağımsız biçimde denetlenmesi gerektiğini bildirdi.
Google bünyesindeki güven ve güvenlik ekibinin kurucularından Tom Siegel, yapay zekâ teknolojilerinin sosyal medya döneminde yapılan hataları daha hızlı bir şekilde tekrarladığı konusunda uyardı. Siegel, çocukların kriz anlarında yapay zekâya başvurması, sistemlere duygusal bağ geliştirmesi ve kendi düşünme süreçlerini bu araçlara devretmesi gibi tehlikelerin şirket içi denetimlerle kontrol altına alınamayacağını vurguladı. Bu doğrultuda Common Sense Media çatısı altında kurulan Youth AI Safety Institute'un icra direktörlüğünü üstlenen Siegel, teknoloji şirketlerinden bağımsız güvenlik standartları oluşturmayı amaçlıyor.
Common Sense Media'nın ABD'de 9-17 yaş grubundaki 1.204 çocukla gerçekleştirdiği çalışma, katılımcıların yüzde 86'sının yapay zekâ kullandığını ve yaklaşık dörtte birinin bunu günlük rutine dönüştürdüğünü gösteriyor. Araştırma sonuçlarına göre çocukların yarısından fazlası sağlık ve bedenleriyle ilgili konularda yapay zekâya danışırken, üçte birinden fazlası duygusal veya kişisel problemlerini paylaşıyor. Ayrıca yapay zekâ kullanan her beş çocuktan biri bu teknolojiyi bir ay bırakmanın zor olacağını ifade ederken, araçları kullananların yaklaşık altıda biri uygunsuz içerikle karşılaştığını ve bunların yalnızca üçte birinin durumu bir yetişkine aktardığını aktarıyor.
Sistemlerin doğruluk sınırlarına dair çocukların üçte biri yapay zekânın yanlış bilgi üretebileceğinin farkında olduğunu kaydederken, enstitü bu açıkları kapatmak amacıyla bağımsız test süreçleri yürütüyor. Finansman sağlayıcıları arasında Anthropic ve OpenAI Foundation'ın da yer aldığı bağımsız enstitü, Google'ın yapay zekâ destekli arama işlevlerini ve Perplexity'nin sistemini çocuklar için kabul edilemez risk seviyesinde konumlandırdı.
1. Google’da güvenlik sistemini kurdu
2. Çocukların yüzde 86’sı yapay zekâ kullanıyor
3. Uygunsuz içerikle karşılaşanlar da var
4. Yapay zekâya “çarpışma testi” geliyor
Kaynak: Dünya