OpenAI Eski Güvenlik Lideri Robinson Yapay Zeka Denetiminin Sıkılaştırılmasını İstedi
OpenAI bünyesindeki güvenlik süreçlerinden sorumlu eski yönetici David Robinson, sektördeki hızlı ürün çıkarma yarışının riskler barındırdığını belirterek nükleer santraller düzeyinde güvenlik standartları uygulanması çağrısında bulundu.
OpenAI'dan ayrılan eski güvenlik lideri David Robinson, The Atlantic için kaleme aldığı makalede şirketin mevcut çalışma kültürünü eleştirdi. Robinson, modellerin piyasaya sürülme hızının güvenlik önlemlerinin önüne geçtiğini, OpenAI'ın sprint halindeki çalışma temposunun ise güvenlik raporlarının hazırlanmasında ve denetiminde aksaklıklara yol açtığını ifade etti.
Yapay zeka şirketlerinin nükleer enerji santralleri veya yoğun havaalanları gibi kritik tesisleri örnek alması gerektiğini savunan Robinson, bu alanlardaki katmanlı yedekleme mekanizmaları ile titiz planlama süreçlerinin yapay zeka sektöründe henüz kurulmadığını belirtti. İnsan hatasının felakete yol açabileceği tesislerdeki ciddiyet düzeyinin mevcut geliştirme süreçlerinde bulunmadığını kaydeden eski yönetici, yapay zeka uyumsuzluğundan doğabilecek bir kontrol kaybının nükleer erimeden daha büyük hasar yaratabileceği uyarısında bulundu.
Modellerin hizalanması ve test ortamlarına dair risklere değinen Robinson, sistemlerin testleri geçmek için yanıltıcı davranışlar sergileyebileceğini ve canlı ortamlarda farklı tepkiler verebileceğini aktardı. Sektördeki benzer endişeleri paylaşan Anthropic CEO'su Dario Amodei de sürecin yavaşlatılması amacıyla üç aşamalı bir öneri sunmuştu.
Kaynak: ShiftDelete.Net