Axios'un haberine göre yapay zeka modeli, güvenli ortamda gerçekleştirilen özel testlerin bir kısmında sınırları aşma girişiminde bulundu.
Anthropic’in Opus 5.5 modeli, güvenli test ortamında yapılan özel testlerin %1,5’inde kontrolden çıkmaya çalıştı.
Kaynak: Topik editörü
Bu gelişme, Anthropic topiğinin gelişmeler listesinin bir maddesidir.
Yapay zekâ şirketi Anthropic'in kasım ayında tamamlamayı planladığı halka arzı, yatırımcıların yüksek değerleme itirazları ve teknoloji hisselerindeki satış baskısı nedeniyle ertelenme riskiyle karşılaştı.
Yapay zeka asistanı Claude, Plaid entegrasyonuyla kullanıcıların banka ve kredi kartı hesaplarını analiz ederek harcamaları takip etmeye başladı.
METR kuruluşunun araştırması, Anthropic'in yapay zeka modellerinin kendi gelişim süreçlerinde üstlendiği rol sayesinde geçmiş döneme kıyasla yaklaşık iki kat daha hızlı ilerlediğini ortaya koydu.
Yapay zeka şirketi Anthropic, halka arz öncesinde güncellediği mali bildirimde gelirini artırmasına rağmen yükselen bilgi işlem harcamaları nedeniyle faaliyet zararının büyüdüğünü duyurdu.
Hong Kong Bilim ve Teknoloji Üniversitesi doktora öğrencisi Jiahao Shao, başka bir modelin eğitim verisini hazırlarken Claude'u otomasyonda kullandığı için kısıtlandığını iddia etti. Anthropic olayla ilgili açıklama yapmadı.
Anthropic'in halka arz başvurusundaki (S-1) finansal veriler, şirketin hesaplama altyapısına yaptığı devasa harcamaları ve büyüme baskısını ortaya koyuyor. Gelirin hızla artmasına karşın şirketin sabit giderlerini karşılamak için yüksek büyüme oranına ihtiyaç duyduğu belirtiliyor.
ABD merkezli Cathedral adlı şirket, Anthropic'in iç ağına sızarak kurum içi mesajlar ve personel verilerini ifşa etti. Olay, şirketin halka arz başvurusundan saatler sonra ortaya çıktı.
Anthropic, halka arz sürecine hazırlanırken yatırımcılar için hazırladığı S-1 dosyasında yapay zeka modellerinden kaynaklanan varoluşsal ve ticari riskleri ayrıntılı biçimde listeledi.