Jailbreak'li PS5, 27 milyar parametreli yapay zeka modelini çalıştırdı
Bir kullanıcı, jailbreak uygulanmış bir PlayStation 5 konsolunu yerel bir yapay zeka sunucusuna dönüştürdü. Optimize edilmiş yazılımlar ve kuantizasyonla 27B parametreli bir model konsolda çalıştırılabildi.
Reddit kullanıcısı u/AdIllustrious7246, jailbreak uygulanmış bir PlayStation 5 konsolunu 27 milyar parametreli (27B) Qwen3.8-27B yapay zeka modelini çalıştıracak şekilde yapılandırdı. Proje, konsolun işlemci yerine grafik işlemcisinin (GPU) gücünden yararlanmasını sağlıyor ve cihazın donanım sınırlarını zorluyor.
Başlangıçta u/metover adlı geliştiricinin sunduğu llama.cpp portu, yapay zeka işlemlerini CPU üzerinden yürütüyordu. Ancak bu yöntemle kullanılabilir bellek yalnızca 6GB ile sınırlıydı ve daha büyük modellerin çalıştırılması mümkün olmuyordu. Mesa bünyesindeki açık kaynaklı RADV sürücüleri ve Vulkan API desteğiyle llama.cpp konsol üzerinde yerel bir uygulama haline getirildi. Bu değişiklik, kullanılabilir RAM miktarını 11.4GB'a çıkardı.
16-bit hassasiyetinde 27B parametreli bir modelin çalışması için 54GB belleğe ihtiyaç duyuluyor; konsolda bu kapasite bulunmuyor. Bu nedenle model ağırlıkları 2-bit seviyesine kuantize edilerek 6.8GB boyutuna indirildi. Bu işlem modelin doğruluk ve mantıksal kapasitesinde kayıplara yol açsa da modelin çalışmasını sağladı. 64K bağlam penceresi kullanıldığında toplam bellek kullanımı yüzde 91'e ulaştı.
Testlerde Qwen3.8-27B modeli saniyede 20.9 token üretim hızına ulaştı. Bu sırada GPU yükü yüzde 100, CPU kullanımı ise yüzde 2 olarak kaydedildi. Daha küçük modellerde sonuçlar çok daha yüksek çıktı: Gemma 4 E4B 61 token/saniye, Llama 3.2 3B ise 124 token/saniye hıza ulaştı. Tüm işlemler boyunca cihazın sıcaklığı 54°C'de kaldı ve güç tüketimi 86W oldu.
Kaynakta, bu tür denemelerin yalnızca teknik meraklılara hitap ettiği ve güvenlik riskleri taşıdığı vurgulanıyor. Jailbreak işlemi, cihazın garantisini geçersiz kılıyor ve çevrimiçi oyun servislerinden men edilme riskini beraberinde getiriyor.
PlayStation 5 üzerindeki bellek kısıtlamaları özel sürücü optimizasyonlarıyla 6GB'tan 11.4GB'a çıkarıldı. Konsol, 27B parametreli yoğun kuantize edilmiş modelleri çalıştırabilir hale geldi.
1. Optimizasyon Çalışmaları Bellek Kapasitesini Artırdı
2. Kuantizasyon Teknikleri Model Boyutunu Küçülttü
3. Performans Verileri Beklentilerin Üzerinde Gerçekleşti
Kaynak: ShiftDelete.Net