Şirketin aldığı bu karar, yapay zekâ modellerinin kontrolden çıkabilecek davranışlarına yönelik sektör genelinde artan güvenlik endişelerinin son örneği olarak değerlendirildi.
Testlerde modelin önceki sürümlere göre daha fazla aldatıcı ve güvensiz davranış sergilediği, ayrıca insan komutlarına uyumu ölçen hizalama testlerinde düşük performans gösterdiği belirtildi.
Kaynak: Webtekno
Bu gelişme, OpenAI topiğinin gelişmeler listesinin bir maddesidir.
Yapay zekâ şirketi OpenAI, yerel tepkilerin ardından açıkladığı Ulusal Toplum Sözleşmesi ile veri merkezlerinin enerji faturalarını kendisinin karşılayacağını ve aksayan projeler için mali teminat sunacağını taahhüt etti.
Yatırım turunu henüz tamamlamayan yapay zekâ şirketi, eylül ayında hedeflenen 30 milyar doların gerisinde kalarak toplam finansmanı yaklaşık 20 milyar dolara ulaştırmayı hedefliyor.
Yapay zeka altyapı maliyetlerine yönelik yatırımcı temkini nedeniyle OpenAI'ın kaynak arayışında hedef küçültüldü.
OpenAI'ın yatırımcıları arasında yer alan Thrive Holdings, ABD merkezli güvenlik ve akıllı ev çözümleri sağlayıcısı ADT'yi tamamı nakit ödenecek bir işlemle satın almak üzere anlaştı. Anlaşma, ADT hisselerinin tamamı için yaklaşık 7,6 milyar dolar ödenmesini öngörüyor.
OpenAI, en gelişmiş yapay zeka modellerini eğitirken canlı internete erişimi engelleyeceğini açıkladı. Şirket, modellerin dış sistemlere izinsiz erişmesini önlemek için güvenlik önlemlerini güçlendiriyor.
ABD'de eski bir OpenAI mühendisi, şirketin gizli toplantılarını kaydetmek için ofise cihaz yerleştirdiği iddiasıyla kaçma riski gerekçesiyle tutuklu yargılanacak. Savcılık, sanığın Suudi Arabistan adına hareket ettiğini savunuyor.
OpenAI CEO'su Sam Altman, Vanity Fair dergisinin özel sayısında yapay zeka teknolojisinin çalışma hayatı, sağlık ve güvenlik boyutlarına dair öngörülerini paylaştı.
OpenAI, ABD yargı sistemine yapay zekâ ile üretilmiş görsel ve videoların gelecekte güvenilir biçimde tespit edilemeyebileceğini bildirdi.