Vitalik Buterin, yapay zekanın siber saldırı yeteneklerini sınırlama adımını destekledi
Ethereum kurucu ortağı Vitalik Buterin, yapay zekanın gelişmiş siber saldırı yeteneklerini sınırlayan adıma destek verdi ve güvenlik risklerinin yönetilememesi halinde kullanıcıların daha ağır kimlik kontrolleri ve gözetimle karşılaşabileceği uyarısında bulundu.
Buterin'e göre güçlü yapay zeka saldırıları yaygınlaşmadan önce geliştiricilerin mevcut sistemleri güçlendirmesi gerekiyor. Bu hazırlığın parçaları arasında eski kodların incelenmesi ve yeni yazılımların güvenliğinin matematiksel yöntemlerle doğrulanması yer alıyor.
Buterin, insanların yapay zekaya erişiminin vatandaşlıklarına ve sahip oldukları belgelere göre farklılaşabileceği ihtimaline dikkat çekti. Bu durumun bazı kullanıcıları diğerlerine göre daha düşük erişim haklarına sahip bir konuma düşürebileceğini savundu.
Öte yandan Moonshot AI, genel amaçlı kodlama görevlerini korurken modelin güvenlik açıklarını bulma ve kullanma yeteneklerini sınırlamaya çalıştığını açıkladı. Şirketin kendi testinde, bu önlemlerin uygulanmadığı model görevlerin yüzde 90,5'ini tamamladı; kullanıma sunulan sürümde bu oran yüzde 81 oldu.
Aradaki 9,5 puanlık fark şirketin test koşullarındaki performansını gösteriyor ve gerçek dünyadaki saldırıların aynı oranda azalacağı anlamına gelmiyor. Moonshot AI, modelin genel kodlama becerilerindeki ilerlemenin bazı eğitim verileri çıkarılsa bile siber güvenlik görevlerine yansıdığını belirtti.
Kimi K3.1 Pro, şirketin uygulamaları ve geliştirici hizmetleri üzerinden kullanıma sunuldu. Moonshot AI, modelin kullanıcıların kendi donanımlarında çalıştırılmasını sağlayan ağırlıklarını 4 Kasım'a kadar yayımlamayı planlıyor.
Kaynak: Haberler.com - Son Dakika Haber, Güncel Haberler ve Gündem Haberleri