Anthropic araştırmacısı istifa etti: Yapay zeka şirketleri tehlikeli yarışta rekabet ediyor
OpenAI ve Anthropic'te çalışan Jacob Coxon, yapay zeka şirketlerinin kontrol altında olmayan bir yarış içinde olduğunu ve sektör çalışanlarının on yıl içinde insanlığı tehdit edebilecek risklerden endişe duyduğunu iddia ederek görevinden ayrıldı.
OpenAI ve Anthropic'teki üç yıllık araştırmacı deneyiminin ardından istifa eden Jacob Coxon, her iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savundu. Coxon açıklamasında, şirketlerin kendini geliştirebilen süper zeka teknolojisine ilk ulaşmak için dengesiz bir yarış içinde olduğunu öne sürdü. Mevcut yapay zeka sistemlerinin hızlı gelişimi göz önüne alındığında, gelecekteki sistemlerin siber saldırılardan bilimsel ilerlemelere kadar birçok alanda insan yeteneğini aşacağı ve hatta reel dünyada güç ve kaynaklar elde edebileceği yönünde uyarı yaptı. Coxon, gelişmiş yapay zeka modelleri üzerinde çalışan bazı sektör çalışanlarının bu sistemlerin on yıl içinde insanlığın varlığını tehdit edebileceğini ciddi şekilde düşündüğünü belirtti. Şirket liderlerinin halka daha temkinli açıklamalar yaparken, kurumsal içte çok daha ağır risk senaryolarının tartışıldığını ve yönetimin riskleri kabul etmesine karşın rekabet nedeniyle hızla ilerlemeyi tercih ettiğini iddia etti. Sosyal medyada milyonlarca görüntülenmeye ulaşan açıklaması üzerine yapay zeka güvenliğine dair tartışmalar yeniden başladı; milyarder yatırımcı Bill Ackman endişe duygusunu dile getirirken, birçok kullanıcı gelişmiş yapay zeka sistemleri için daha güçlü küresel denetim mekanizmalarının kurulması çağrısında bulundu.
Kaynak: Dünya