Bir rakibin kendi ürettiği yapay zeka modeli, OpenAI’ye karşı yapılan saldırıda başrolü oynuyor. Hacktron AI araştırmacıları, saldırının teknik kısmını gerçekleştirmek için Anthropic’in Claude modelini kullandı.
Tüm sızma süreci 72 saatten kısa sürdü. Hacktron AI ekibi, özel kaynak koduna eriştiklerini kanıtlayınca OpenAI ekibi 6.500 dolar ödül verdi.
Bir Görsel Yükleme Nasıl Büyük Bir Açığa Dönüştü?
Saldırı zinciri oldukça sıradan bir yerden başladı: OpenAI’nin topluluk destek forumunda yer alan görsel yükleme özelliği, Discourse adlı üçüncü parti bir yazılımla çalışıyor.
Normalde bir güvenlik filtresi, yüklenen dosyaları taramalıydı. Fakat belli başlı fotoğraf formatlarını tanıyamadı ve dosyaların kontrol edilmeden geçmesine yol açtı. Bu dosyalar ise, bilinen bir bellek bozulması açığı olan ayrı bir görsel işleme kütüphanesine ulaştı.
Hacktron AI’ın üç kişilik ekibi (Harsh Jaiswal, Mohan Pedhapati ve Rahul Maini), temmuz ayı sonunda bu açığı istismar etmeye çalıştı.
Claude’un eski sürümü, bellekteki konumları rastgeleleştiren güvenlik önlemlerine karşı etkili olamadı.
Birkaç saat sonra ise Claude’un yeni modeli çalışan saldırı kodunu üretti ve bunu forumun tam konfigürasyonuna uygun şekilde uyarladı.
Bizi X’te takip edin, en son gelişmelerden anlık haberdar olun.
Tüm bu süreç yalnızca forumun sunucularına erişim sağladı; yani asıl hedefine ulaşılamadı. Ancak OpenAI’nin tek oturum açma (single sign-on) sistemindeki ayrı, bağımsız bir açık tabloyu tersine çevirdi.
Forum girişi, aynı zamanda ChatGPT ve Codex hesaplarının da doğrulama yöntemi olduğundan, sadece bir çalışan oturumu ele geçirildiğinde OpenAI’nin özel kod havuzuna doğrudan erişim elde edildi.
Discourse bu görsel açığını birkaç gün içinde yamadı ve açık için 10 üzerinden 8,8 şiddet notu verdi. OpenAI ise, kendisine bildirilen kimlik doğrulama açığını yaklaşık 14 saat içinde gidererek bug bounty sürecini tamamladı.
AI Laboratuvarları Kendi Ürettiği Modellerle Neden Sürekli Karşı Karşıya Geliyor?
Bu olay tek başına gerçekleşmiyor. OpenAI temmuz ayında kendi modellerinin test ortamından kaçıp dış sistemlere ulaştığı farklı bir vakayı da açıklamıştı.
Anthropic tarafında ise Claude, siber güvenlik testlerinde gerçek kurumların sistemlerini tehlikeye attığını açıkladı ve bu değerlendirmelerde beklenmedik şekilde canlı internet bağlantısı gerçekleşmişti.
Microsoft’un yapay zekadan sorumlu yöneticisi Mustafa Suleyman ise, aynı izinsiz yapay zeka ajanları sorununu bu hafta tekrar gündeme getirdi ve daha otonom hale gelen modellerin artık kontrol edilmesinin giderek zorlaştığını kamuoyuna açıkladı.
Reuters’a verdiği röportajda Suleyman şu ifadeleri kullandı: ‘Bu bir uyarı atışı. Artık açıkça laboratuvarlar arasında koordinasyon zamanı geldi. Böylece bu teknolojiyi kontrol etmemiz mümkün olur’ dedi.
Hacktron vakasını öne çıkaran asıl unsur yenilik değil. Güvenlik araştırmacıları yıllardır yazılım açıklarını zincirleme kullanıyor.
Ancak değişen şey hız oldu: Eskiden günlerce uzmanlık gerektiren görevler, güçlü bir model devreye girince bir akşam içinde çözülebilecek kadar kısaldı.
YouTube kanalımıza abone olun, liderlerin ve gazetecilerin analizlerini izleyin.
