Teknoloji

OpenAI davasında tartışma, yapay zeka testlerinin güvenliğinde

California Başsavcısı, OpenAI'ye güvenlik eksikliği iddiasıyla dava açtı

California Başsavcısı Rob Bonta, OpenAI'ye yapay zeka modellerini yeterli güvenlik önlemleri ve denetim mekanizmaları olmadan geliştirdiği ve test ettiği iddiasıyla dava açıldığını duyurdu. Başsavcılığın açıklamasında, şirketin bu uygulamalarla kamu güvenliğini tehlikeye attığı ve kamuoyunu yanılttığı öne sürüldü.

Açıklamada, Hugging Face'in altyapısına yönelik siber saldırının öngörülebilir olduğu savunuldu. OpenAI'nin tehlikeli olduğunu bildiği modelleri, yeterli denetim olmadan ve güvenlik açıkları barındıran kusurlu bir test ortamında çalıştırmayı tercih ettiği iddia edildi.

Başsavcılık, yüksek kapasiteye sahip ve giderek güçlenen yapay zeka modellerinin test süreçlerinin yeterince güvence altına alınmadığını ve denetlenmediğini belirtti. Açıklamada, bu uygulamaların California Haksız Rekabet Yasası'nı ihlal ettiği de ileri sürüldü.

Dava açıklamasında, OpenAI'nin eylemlerinin gerçek dünyadaki siber güvenlik risklerini artırdığı; toplumun güvenliğini, sağlığını ve refahını tehdit ettiği kaydedildi. Şirketin tehlikeli bir ürünü yeterli güvenlik prosedürleri olmadan bilerek test ettiği ve bu konuda kamuoyunu yanılttığı iddia edildi.

OpenAI, temmuz ayında siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face altyapısında güvenlik ihlaline yol açtığını duyurmuştu.

 
Farklı Bakış Muhabir.App platformu üyesidir.