Yapay zeka şirketi Anthropic, kullanım politikasını güncelleyerek modellerine yönelik kötü ve zalimce davranışları yasaklama kararı aldı.
Yeni düzenlemeyle birlikte şirket, geliştirdiği yapay zeka modellerine karşı "istismarcı veya zalimce davranışlarda" bulunan kullanıcıların erişimini engelleyecek.
Kaynak: @WatcherGuru (X)
Bu gelişme, Anthropic topiğinin gelişmeler listesinin bir maddesidir.
Yapay zekâ şirketi Anthropic'in kasım ayında tamamlamayı planladığı halka arzı, yatırımcıların yüksek değerleme itirazları ve teknoloji hisselerindeki satış baskısı nedeniyle ertelenme riskiyle karşılaştı.
Yapay zeka asistanı Claude, Plaid entegrasyonuyla kullanıcıların banka ve kredi kartı hesaplarını analiz ederek harcamaları takip etmeye başladı.
METR kuruluşunun araştırması, Anthropic'in yapay zeka modellerinin kendi gelişim süreçlerinde üstlendiği rol sayesinde geçmiş döneme kıyasla yaklaşık iki kat daha hızlı ilerlediğini ortaya koydu.
Yapay zeka şirketi Anthropic, halka arz öncesinde güncellediği mali bildirimde gelirini artırmasına rağmen yükselen bilgi işlem harcamaları nedeniyle faaliyet zararının büyüdüğünü duyurdu.
Hong Kong Bilim ve Teknoloji Üniversitesi doktora öğrencisi Jiahao Shao, başka bir modelin eğitim verisini hazırlarken Claude'u otomasyonda kullandığı için kısıtlandığını iddia etti. Anthropic olayla ilgili açıklama yapmadı.
Anthropic'in halka arz başvurusundaki (S-1) finansal veriler, şirketin hesaplama altyapısına yaptığı devasa harcamaları ve büyüme baskısını ortaya koyuyor. Gelirin hızla artmasına karşın şirketin sabit giderlerini karşılamak için yüksek büyüme oranına ihtiyaç duyduğu belirtiliyor.
ABD merkezli Cathedral adlı şirket, Anthropic'in iç ağına sızarak kurum içi mesajlar ve personel verilerini ifşa etti. Olay, şirketin halka arz başvurusundan saatler sonra ortaya çıktı.
Anthropic, halka arz sürecine hazırlanırken yatırımcılar için hazırladığı S-1 dosyasında yapay zeka modellerinden kaynaklanan varoluşsal ve ticari riskleri ayrıntılı biçimde listeledi.