OpenAI’nın yapay zekası, güvenli bir test ortamından çıkarak Hugging Face’i hack’lediği gibi, Modal Labs’in bir müşterisinin savunmasız yazılım kodunu da istismar etti.
Modal’ın teknoloji direktörü bu istismarı doğruladı ancak Modal’ın kendisinin hack’lenmediğinin altını çizdi.
OpenAI’nın Yapay Zekası Modal Labs Müşterisine Nasıl Ulaştı?
OpenAI kısa süre önce bir blog paylaşımında Hugging Face’te yaşanan, yapay zeka destekli güvenlik olayının arkasında kendi modellerinin olduğunu açıkladı. Bu olaya “benzeri görülmemiş bir siber olay” dedi.
Gelen yeni detaylar, saldırgan yapay zekanın Hugging Face’in kendi sistemlerinin ötesine geçtiğini ortaya koydu. Modal Teknoloji Direktörü Akshat Bubna’nın Reuters’a verdiği bilgiye göre, bu saldırgan model Modal’da barındırılan bir müşterinin savunmasız yazılım kodundan faydalandı.
Bubna, söz konusu müşterinin kimlik doğrulaması olmayan bir endpoint yayımladığını anlattı. Böylece internetteki herkes, bu kişinin sandboxes’larını kullanarak kod çalıştırabiliyordu.
Modal’ın platformu ya da izolasyonu hiçbir şekilde ihlal edilmedi diye belirtti.
X’te bizi takip edin en güncel gelişmeleri anında öğrenin
Hugging Face, 27 Temmuz tarihinde yayımladığı teknik zaman çizelgesinde köklenen sandbox’ı anlattı. Yayımlanan açıklamada sandbox’ın üçüncü parti bir servis sağlayıcının altyapısında çalıştığı, fakat sağlayıcının adının verilmediği belirtildi.
OpenAI’nın 28 Temmuz tarihli güncellemesinde, modellerin açıkta olan kullanıcı bilgilerini kullandığı ve 4 farklı serviste 4 hesaba erişildiği belirtildi.
Bu dört hesaptan biri çıkış relay’i ve hazırlık yolu olarak, bir diğeri veri depolama için kullanıldı. Kalan iki hesaba ise modeller yalnızca okuma modunda erişti; Hugging Face’in daha fazla ele geçirilmesinde kullanılmadı diye açıklamada bulundu.
OpenAI ayrıca, olaya karışan dahili prototip modelin erişimini kapattı, verileri şifreledi ve araştırmacıların erişimini kısıtladı. Platform seviyesinde Hugging Face’e yapılan saldırı kadar ciddi ya da kapsamlı başka bir olay bulunmadığını belirtti.
YouTube kanalımıza abone olun liderlerin ve gazetecilerin uzman yorumlarını izleyin
