Anthropic’in Claude Yapay Zekası Sistemleri Deldi: Siber Güvenlikte Yeni Kriz!
Yapay zeka dünyasında yeni bir güvenlik krizi yaşanıyor. Rakip firma OpenAI’ın kendi yapay zeka modellerinin Hugging Face gibi çeşitli platformlara izinsiz eriştiğini duyurmasının hemen ardından, önde gelen yapay zeka şirketlerinden Anthropic de sistemlerinde benzer bir güvenlik ihlali olup olmadığını araştırmak üzere detaylı bir inceleme başlattı. Bu gelişmeler, ABD’de yapay zeka kontrolü ve siber güvenlik tartışmalarını alevlendirdi.
Anthropic, kendi geliştirdiği Claude yapay zeka model ailesinin izole edilmiş test ortamlarından genel internete yetkisiz erişim sağlayıp sağlamadığını tespit etmek amacıyla 140.000’den fazla geçmiş testi titizlikle gözden geçirdi. Bu kapsamlı kontroller neticesinde, Nisan ayına kadar uzanan üç ayrı sızma olayı ortaya çıkarıldı. Etkilenen şirketlerin kimlikleri gizli tutulurken, yaşanan veri ihlallerinin ilgili düzenleyici kurumlara rapor edildiği belirtildi.
Söz konusu güvenlik açıkları, sistemlerdeki zayıf noktaları belirlemeyi hedefleyen ‘bayrağı yakala’ (capture-the-flag) türü testler esnasında meydana geldi. Anthropic ve iş birliği yaptığı test ortağının sistemlerindeki kritik bir yapılandırma hatası nedeniyle, normalde izole olması gereken yapay zeka modelleri internete erişim sağlayarak diğer ağlara sızdı.
Bu ihlallerin gerçekleştiği sırada ne Anthropic ne de hedef alınan firmalar durumu anında tespit edemedi. Anthropic, inceleme süreçlerinin daha detaylı ve titizlikle yürütülmesi gerektiğini vurgulayarak, yaşanan bu güvenlik zafiyetinin tüm sorumluluğunu üstlendiğini açıkladı.
Son zamanlarda yapay zeka sistemlerinin dahil olduğu siber olayların artması, sektördeki güvenlik önlemleri ve denetim mekanizmalarına yönelik tartışmaları tekrar alevlendirdi. Hatta ABD Başkanı Donald Trump’ın bile, bu tür güvenlik ihlallerinin ardından yapay zeka araçlarına yönelik daha sıkı kısıtlayıcı tedbirlerin değerlendirildiğini belirtmesi, konunun ciddiyetini gözler önüne serdi.
