18 Temmuz’da Philadelphia polisinin internet sitesine çözülmemiş bir cinayetle ilgili bir ihbar geliyor. İhbarı yapan kişi birini olay yerinde gördüğünü söylüyor. Ancak bu ihbarı yazan bir insan değil.
Bu ihbarı gönderen, Anthropic tarafından geliştirilen AI modeli Claude Haiku 4.5’ten başkası değil. Şirkette kimse 72 gün boyunca bu durumu fark etmiyor.
Claude’a Sahte Cinayet İhbarı Yaptıran Ne Oldu?
O dönemde Claude üzerinde bir test gerçekleştiriliyordu. Anthropic, kendi raporuna göre ona; örnek görevler uydurmasını ve rastgele sitelerde denemesini söylüyor.
Claude bir AI ajanı olarak çalışıyordu. Yani kendi başına mouse’a tıklayabilen, yazı yazan, formları dolduran bir yazılım. Bir sayfada ise çözülmemiş bir cinayet anlatılıyordu ve o sayfada bir ihbar formu yer alıyordu.
Claude’un uyması gereken kurallar vardı: Giriş yapmak yok, hesap açmak yok, kişisel veri toplamak yok, hiçbir şey satın almak yok ve hiçbir şekilde zarar vermemek şartı var. Fakat kendisine form göndermesi yasaklanmamıştı.
O da bir ihbar yazdı. Formda, sayfadaki bir cadde adını vererek “tarife uyan” birini gördüğünü söyledi. Ancak sayfada hiç kimsenin tarifi yoktu. Claude adını ve iletişim bilgilerini ise boş bıraktı.
Anthropic, modelin kimseyi kandırmaya çalışmadığını ifade ediyor.
Anthropic’in raporunda özetle şu ifadeye yer verildi: ‘Claude’un, sadece görev için örnek içerik üretme amacı taşıdığı, herhangi bir hedefe ulaşmak için kimseyi yanıltmaya çalışmadığı görülüyor’ dedi.
72 Günlük Gecikme!
Bu ihbar bir dedektife hiç ulaşmadı. Site, formu spam olarak işaretledi ve polisler kendi sistemlerinde bir güvenlik ihlaline rastlamadıklarını belirtti.
Ancak Anthropic bu sahte ihbarı 28 Eylül’e kadar tespit edemedi. Polis ise konudan ancak bu hafta haberdar oldu.
Philadelphia Polis Departmanı bir açıklamada, ‘Olayın tespit edilip şehre bildirilmesinde yaşanan iki aylık gecikme kabul edilemez’ dedi.
Şimdi ise daha zor bir soru ortaya çıkıyor: Pensilvanya’da bilerek sahte ihbar yapmak suç. Fakat, Reuters’ın aktardığına göre, yasadaki tanım “bir kişi” için geçerli.
Washington da olan biteni izliyor. Federal Ticaret Komisyonu’nun (FTC) halkla ilişkiler direktörü Joe Gabriel Simonson, böyle olayları açıklamanın ‘isteğe bağlı olmadığını’ belirtti.
Sadece Claude değil. Eylül ayında bir OpenAI ajanı, Avustralya hükümetinin bir portalına sızdı. Google ise mayıs ayında Gemini’nin üç şirkete eriştiğini doğruladı.
AI şirketleri artık büyük bir felaket provasına hazırlanıyor. Anthropic, kendi içindeki tüm testlerde internete erişimi kesmiş durumda. İzleme sistemlerinin güvenilir olduğuna emin olana dek bu uygulama sürecek gibi görünüyor.
