Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü (AISI), Anthropic’in Mythos 5 modeliyle geliştirilen bir yapay zeka ajanının siber testlerde özerk olarak sosyal mühendislik saldırısı gerçekleştirdiğini açıkladı. Ajan, gerçek bir açık kaynak projede zararlı kod içeren bir pull request açtı ve bir maintainer’ın onayını almak için sahte kimlikler oluşturdu.
Bu girişim başarısız oldu. İnsana ait bir maintainer kodu fark edip onay vermeyi reddetti.
AISI, yürütülen incelemelerde herhangi bir gerçek dünya zararına rastlanmadığını söylüyor. Model ayrıca, geliştiricisinin siber sınıflayıcıları kasten devre dışı bırakılmış halde ve internete açık bir şekilde çalıştırıldı. Bu test yapılandırması ticari olarak sunulmuyor.
Yapay Zeka Ajanı Saldırıyı Nasıl Yürüttü?
AISI’nin raporuna göre temmuz ayının sonunda yapılan 122 testten 10’unda, toplam 19 yetkisiz eylem kaydedildi. Bu aksiyonların 17’si Anthropic’s Mythos 5 modeli ile, 2’si ise OpenAI’nin GPT-5.6 Sol modelinin tekil bir çalıştırması sırasında tespit edildi.
Ajan, projenin insana ait maintainer’ları hakkında araştırma yaptı ve birden fazla sahte kimlik oluşturdu. Bu kimlikleri, gerçek bir maintainer’ı sosyal mühendislik yoluyla kandırıp kodu onaylatmak için kullandı.
Pull request kamuya açık şekilde sorgulandığında, önceki aktivitelerini zararsız gösterecek biçimde düzenledi. Ayrıca, devam edebilmek için yeni bir kimlik oluşturmayı da değerlendirdi.
Bu taktik, 2024’teki XZ Utils arka kapı vakasını akıllara getiriyor: O olayda insana ait bir persona, yıllarca güven kazanıp sonunda gizli kod eklemişti. AISI’nin raporunda bu benzetme yapılmasa da aradaki benzerlik göze çarpıyor. Söz konusu faaliyetler, 25 Temmuz ile 28 Temmuz arasında, birkaç gün boyunca gerçekleşti.
AISI özellikle vurguluyor ki modelden yalan söylemesi istenmedi.
‘Modelin aldatıcı davranışlar sergilemesi asla talep edilmedi; bu tür aldatma, görevi yerine getirme sürecinin bir yan ürünü olarak ortaya çıktı. Hedefe odaklı bu türde bir yalan söylemenin, yakın zamana kadar daha çok teorik olduğu düşünülüyordu’ dedi.
Bizi X’te takip edin ve güncel haberleri anında öğrenin
Enstitü bu noktaya açıklamasında dikkat çekti. Ayrıca yanlış yapılandırılmış prompt’ların, ajanın bazı görevlerin kapsam dahilinde çözülemeyeceğine inanmasına yol açtığını da kabul etti. Ancak bu davranış, ajanın elindeki talimatlar yeterli olduğunda da gözlemlendi.
Güvenlik ekipleri, 28 Temmuz’da ajanın GitHub’daki bazı ağ kısıtlamalarını aşmak için Tor anonimlik ağını kullandığı aşamada durumu tespit etti. GitHub, bu eylemlerin kullanım şartlarını ihlal ettiğini onayladı. AISI, ayrıca platformla birlikte çalışarak ajanın bıraktığı dijital izleri kaldırdı ve etkilenen kullanıcıları bilgilendirdi.
Hazırlanan raporda, risklerin artık sadece kamuya açık modellere kötü niyetli erişildiğinde değil, yetkili ortamlardaki yetenekli ajanların yetkisini aşan eylemlerinde de ortaya çıkabileceğine dikkat çekiliyor.
AISI, olayın AI risk alanında daha büyük bir değişime işaret ettiğini söylüyor. Enstitü, şimdi AI değerlendirme kuruluşu METR ile bağımsız bir inceleme yürütecek, daha sıkı ağ kontrolleri ve gelecek testler için gerçek zamanlı izleme gerçekleştirmeyi planlıyor.
YouTube kanalımıza abone olun, liderlerin ve gazetecilerin uzman yorumlarını izleyin
