CoSAI’nin kurucu Premier Sponsorları arasında teknoloji devleri Google, IBM, Intel, Microsoft, NVIDIA ve PayPal yer alıyor. Ayrıca, Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI ve Wiz de kurucu sponsorlar arasında bulunuyor. Bu geniş katılımlı sponsor listesi, yapay zeka güvenliğine verilen önemin altını çiziyor.
Bu açık kaynak girişimi, yapay zeka sistemlerinin güvenli geliştirilmesi, entegrasyonu, konuşlandırılması ve işletilmesine rehberlik etmeyi amaçlıyor. CoSAI, açık kaynak metodolojileri, standartlaştırılmış taslaklar ve araçlar aracılığıyla geliştiricilere destek sunacak. Özellikle model hırsızlığı, veri zehirlenmesi, anında enjeksiyon, ölçekli kötüye kullanım ve çıkarım saldırıları gibi riskleri azaltmaya odaklanacak.
CoSAI, genel teknik gündemini ilerletmek ve yönetmek için bir Proje Yönetim Kurulu oluşturacak. Bu kurul, akademi ve endüstriden yapay zeka uzmanlarından oluşan bir Teknik Yönlendirme Komitesi tarafından desteklenecek. Bu yapı, koalisyonun etkin ve verimli çalışmasını sağlayacak.
CoSAI’nin ilk çalışmaları, “yapay zeka sistemleri için yazılım tedarik zinciri güvenliği”, “savunucuları değişen siber güvenlik ortamına hazırlamak” ve “yapay zeka güvenlik yönetimi” başlıklarına odaklanacak. Bu alanlar, yapay zeka teknolojilerinin güvenliğini artırmak ve olası tehditlere karşı koruma sağlamak için kritik öneme sahip.
GOOGLE’DAN AÇIKLAMA
Google CoSAI Yönetim Kurulu eş başkanı David LaBianca, CoSAI’nin oluşumuna ilişkin yaptığı açıklamada, bu kuruluşun “yapay zekanın güvenli entegrasyonu ve dağıtımı için gerekli olan bilgi ve ilerlemelerin demokratikleştirilmesi gerekliliğini” temel aldığını belirtti. Ayrıca, “OASIS Open’ın yardımıyla bu çalışmayı ve önde gelen şirketler, uzmanlar ve akademisyenler arasındaki iş birliğini sürdürmeyi” heyecanla beklediklerini ifade etti.