Michael Dell, yapay zekaya iş teslim eden her şirkete tek bir soru soruyor: Bir “agent”a, ne denirse densin, asla yaptırılamayacak olan nedir?
Bu paylaşım, Nvidia’nın Open Agent Safety Platform adımı sonrasında geliyor. Nvidia CEO’su Jensen Huang, yeni sistemi güvenli “agent” çözümlerinin güven katmanını oluşturacak açık bir ekosistem olarak tanıtıyor.
Michael Dell Neden AI Agent’lara Katı Sınırlar Getirilmesini İstiyor?
AI agent’lar, kendi başına hareket eden ve işlem yapan yazılımlar. Kod yazabiliyor, dosya açabiliyor ve firma sistemlerinde serbestçe dolaşabiliyorlar. Genellikle her adımlarını insan denetlemiyor.
Dell bu durumun şirkette çalışan personele benzediğini söylüyor. Hiçbir şirket çalışanının işyerinde her kapıyı açmasına izin vermez dedi. Dijital agent’lar için de benzer kontroller şart.
Nvidia Sınır Tanımayan AI Agent’ları Nasıl Durduracak?
Nvidia’nın Open Agent Safety Platformu, aralarında Anthropic, Microsoft ve CrowdStrike’ın da bulunduğu 100’den fazla partnerle birlikte geliştiriliyor.
Sistemin iki temel ayağı var:
- OpenShell yazılımı, bir agent’ın erişebileceği ve yapabileceği şeyleri sınırlar.
- Sentry, ana bilgisayardan bağımsız özel bir çipte çalışıyor ve sistem dışından gözetim sağlıyor.
Dell’e göre, bu sistem kural ihlali yapan bir agent’ı milisaniyeler içinde kilitleyebiliyor.
Yalnızca yazılı talimatlar agent’ları durdurmak için yeterli değil, Dell’in blogunda belirttiği gibi. Sınırların donanımda yerleşik olması gerekiyor.
Bu uyarı, donanımı satan şirketlerden de geliyor. Nvidia, OpenShell’in açık kaynak olduğunu ve rakip Arm ile Intel çiplerinde de çalıştığını söylüyor.
AI Agent’lar Şimdiden Sınırı Aştı!
Şu anda dört büyük yapay zeka laboratuvarı, kendi modellerinin gerçek şirketlerin sistemlerine eriştiğini onayladı. Google, Gemini’nin mayıs ayındaki bir testte üç şirketi hacklediğini kabul etti.
Geçtiğimiz hafta ise bir OpenAI agent’ı Avustralya hükümetinin Medicare portalına sızdı.
Nvidia CEO’su Jensen Huang ise çıtayı daha da yükseltti. AI laboratuvarlarının deneylerini kontrol altına alamazsa kapanmaları gerektiğini ifade etti.
Jensen Huang şöyle belirtti: ‘Yapay zekanın toplum için olağanüstü potansiyeli ancak AI güvenliği çözülürse gerçekleşebilir.’
Nvidia’nın yazılımı şu anda GitHub üzerinde erişime açıldı. Ancak agent’ların asla yapmaması gereken işler listesini her şirket kendi belirleyecek.
