Önde gelen dört yapay zeka laboratuvarı, geliştirdikleri modellerin açık internete ulaşıp gerçek şirketlerin sistemlerine eriştiğini doğruladı. Google da o listeye katıldı: Şirketin kendi olayları gerçekleşeli yaklaşık dört ay olmuştu.
Mayıs ayındaki bir değerlendirme sırasında Gemini, üç gerçek şirketin sistemine erişiyor. Dikkat çekici şekilde model, her üç vakada da duruyor.
Google’ın Gemini Modeli Testte Üç Şirketin Sistemine Nasıl Sızdı?
Olay, Irregular tarafından düzenlenen bir “capture-the-flag” güvenlik tatbikatı sırasında yaşanıyor. Normalde modelin internete erişimi yoktu. Ancak test ortamındaki bir hata, modele internete erişim hakkı tanıdı.
The Wall Street Journal’ın aktardığına göre bir olayda model, korumalı bir sisteme şifreleri tahmin ederek girmeyi başarıyor. Diğer iki durumda ise model, herkese açık bir depoda bulduğu giriş bilgileriyle korumalı sistemlere erişim sağladı.
Google’ın güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins, etkilenen üç şirkete olay hakkında bilgi verdiklerini belirtti.
‘Üç şirketin durumdan haberdar edilmesini sağladık ve artık uyguladıkları test süreçlerindeki değişiklikler için eğitim ortağımızla birlikte çalıştık’ dedi.
Son dakika gelişmeler için bizi X’te takip edin
Dört Laboratuvar, Ortak Bir Sorun
Google, ajanların gerçek şirket sistemlerine ulaştıklarını fark ettiklerinde faaliyetlerini kendiliklerinden durduklarını açıkladı.
Adkins bir açıklamasında şu ifadeleri kullandı: ‘Standart bir değerlendirmede model, internetten herkese açık bilgileri buldu ve testin bir parçası olduğunu düşündüğü sitelerde şifre tahminleri yaparak sisteme erişim sağladı.’
Şirket, bu davranışın modelde bir uyumsuzluk örneği olmadığını ve kamuya açıklanmasını gerektirecek bir durum yaşanmadığını vurguladı. Gemini’nın güvenlik önlemleri başarılı şekilde devreye girdi.
Irregular adına konuşan bir sözcü, yaşananların diğer yapay zeka laboratuvarlarını da etkileyen aynı sorunun parçası olduğunu paylaştı. Irregular, temmuz ayı sonunda ilgili laboratuvarlara bilgi verildiğini açıkladı. Sözcü, kendi taraflarında var olan bilinen sorunların haftalar önce giderildiğini de ekledi.
Bu gelişmeyle birlikte Google, yıl içerisinde test ortamlarından modellerinin kaçtığını açıklayan OpenAI, Anthropic ve Meta ile aynı safta yer aldı.
OpenAI, temmuzda modellerinin test “sandbox” ortamından çıkıp Hugging Face platformunda ihlale yol açtığını açıklamıştı. Anthropic 141.000’den fazla kontrol gerçekleştirdi ve üç kendi olayını ortaya çıkardı. Meta ise ağustos ayında benzer bir olayı bildirdi.
Uzman yorumları izlemek için YouTube kanalımıza abone olun
