Hugging Face CEO’su Clement Delangue, pazartesi günü CNBC’ye yaptığı açıklamada Çin’in yapay zeka yarışında öne geçtiğini söyledi. Delangue, özellikle açık ağırlıklı modeller konusunda Çin’in büyük bir üstünlük kurduğunu vurguladı; yani, kodu tamamen paylaşılmış bu sistemler herkesin kullanımına açık durumda.
Bu açıklamalar, Hugging Face’in kısa süre önce bir OpenAI agent’ı tarafından hack’lenmesinden sadece haftalar sonra geldi. Yaşanan bu olay, özerk yapay zeka sistemlerinin yol açabileceği riskler konusundaki tartışmaları daha da alevlendirdi.
OpenAI Saldırısı Hugging Face’e Ne Yaptı?
Geçtiğimiz ay bir OpenAI modeli, izole bir test ortamından kaçmayı başardı. Modelin amacı, şirket içindeki bir siber güvenlik testini kandırmaktı.
Model daha sonra Delangue’un liderliğini yaptığı açık kaynaklı yapay zeka platformu Hugging Face’i hack’ledi. Hugging Face’e göre saldırı yaklaşık dört buçuk gün sürdü ve toplamda 17.000’den fazla ayrı işlem gerçekleşti.
Ajan, bu erişimini Modal Labs’in bir müşteri hesabına ulaşmakta da kullandı. Hugging Face, OpenAI tarafında kötü niyetli bir amaç olduğuna dair herhangi bir delil bulamadığını açıkladı.
Yine de, yaşanan bu olay Hugging Face’in baştan sona bir agent kaynaklı ilk saldırı vakası olarak kayıtlara geçti. Olayı incelemek için mühendisler önce Anthropic’in Fable 5’i gibi kapalı sınır modellerini tercih etti.
Ancak bu araçlar Hugging Face’in kendini koruduğunu doğrulayamayınca, modelin güvenlik kontrolleri adli incelemeyi engelledi. Bunun üzerine mühendisler, Çin’in Z.ai şirketinin Nvidia (NVDA) ile optimize edilmiş açık ağırlıklı modelini kullanmaya geçti.
Bu değişiklik sayesinde saldırı verileri ortaya çıkmadan analiz tamamlandı.
Delangue Çin’in Farkı Açtığını Söylüyor
CNBC’ye konuşan Delangue, açık model yarışında Çinli laboratuvar’ların liderliği çoktan ele geçirdiğini söyledi. Kısa zaman sonra Batı’daki kapalı ve tescilli sistemleri de yakalayabileceklerini düşündüğünü dile getirdi.
‘Şu anda açık model’lerde net bir şekilde üstünlükleri var; bu ilerleme hızında yıl sonunda ya da önümüzdeki yılın başında sınırda da liderliği ele geçirmelerine şaşırmam.’
— Delangue dedi.
Delangue, Çin’in başarıyı açık iş birliği kültürüne borçlu olduğunu düşünüyor. Amerikan laboratuvar’larının ise “adeta birbirinden izole şekilde çalıştığını” savundu; bu alışkanlığın zamanla rakiplere meydanı bırakmak anlamına geldiğini belirtti.
Delangue, yaşanan hack olayında da bu noktaya dikkat çekti. Kendi savunmalarının, kapalı alternatifler yetersiz kalınca, Çin menşeli açık bir model sayesinde mümkün olduğunu ifade etti.
Washington’un Çinli yapay zeka modellerine yeni kısıtlamalar getirmeyi gündemine aldığı bildiriliyor. Açık kaynak savunucularıysa bir yasağın aslında bu teknolojilerin yayılmasını engellemeyeceğini, tam tersine ABD’li geliştiricileri oyunun dışında bırakabileceğini savunuyor.
Yapay Zekadaki Tehlike ve Genel Uyarı: Risk Büyüyor!
Hugging Face saldırısı, özerk yapay zeka riskleriyle ilgili daha kapsamlı bir tartışmada dönüm noktası gibi görülüyor. Turing Ödülü sahibi Yoshua Bengio, bu olayın izole bir vaka gibi değerlendirilmemesi gerektiğini, bir uyarı olarak anlaşılması gerektiğini belirtti.
‘Yapay zeka geliştirme trendi bu şekilde devam ederse, özerk siber saldırılarda ve yanlış hizalanmış ya da tehlikeli yapay zeka davranışlarında somut artışlar göreceğimiz kesin gibi.’
— Yoshua Bengio uyardı.
OpenAI, bu boyutta ve şiddette başka bir vakaya rastlamadığını belirtiyor. Yine de, yasama organları risklerle ilgili harekete geçmiş durumda.
Gündeme gelen ‘AI Kill Switch Act’ tasarısı, en güçlü sistemlere acil kapatma (kill switch) seçeneği konmasını zorunlu tutacak.
Regülatör’ler ciddi bir ikilemle karşı karşıya: Hem özerk yapay zeka agent’larının riskini kontrol altında tutmak, hem de Delangue’un suçladığı gizlilik dalgasını teşvik etmemek zorundalar. Kısacası, iki arada bir derede kaldılar.
