Yapay zeka (AI) ajanlarına artan yatırım, sanayi devriminden bile daha dönüştürücü olabilecek yaygın otomasyonun geleceğini işaret ediyor. Her teknolojik yenilikte olduğu gibi, AI ajanları da geliştirilme süreçlerinde sorunlarla karşılaşacak. Sorumlu kullanım ve AI ajanlarının tam potansiyelini gerçekleştirmek için sürekli iyileştirme şart olacak.
Consensus Hong Kong’da, BeInCrypto, DWF Labs’ta Yönetici Ortak olan Andrei Grachev ile AI ajanlarının kitlesel benimsenmesinde karşılaştığı ana zorluklar ve yaygın kullanımın nasıl görünebileceği hakkında röportaj yaptı.
Geleneksel Teknoloji Sektörleri ve Web3, Yapay Zekayı Benimsiyor
Bu noktada, yapay zekanın (AI) benimsenmesinin yakında kaçınılmaz olacağını söylemek güvenli. Meta, Amazon, Alphabet ve Microsoft gibi teknoloji devleri, 2025 yılında AI ve veri merkezlerine 320 milyar Dolar’a kadar yatırım yapmayı planladıklarını açıkladılar.
ABD Başkanı Trump, göreve başladığı ilk hafta Stargate adlı yeni bir özel ortak girişimi duyurdu. Bu girişim, AI veri merkezi geliştirmeye odaklanıyor. OpenAI, Softbank ve Oracle’dan oluşan bu girişim, Amerika Birleşik Devletleri genelinde 20 büyük AI veri merkezi kurmayı planlıyor.
İlk yatırımın 100 milyar Dolar olması bekleniyor ve genişleme planları, toplamı 2029 yılına kadar 500 milyar Dolar’a çıkarabilir.
Web3 projeleri de AI’ya benzer yatırımlar yapıyor. Aralık ayında, önde gelen bir kripto para girişim sermayesi şirketi olan DWF Labs, otonom AI teknolojilerinde yeniliği hızlandırmak için 20 milyon Dolar’lık bir AI ajan fonu başlattı.
Bu ayın başlarında, NEAR protokolünü destekleyen NEAR Foundation, NEAR teknolojisi üzerine inşa edilen tamamen otonom ve doğrulanabilir ajanların geliştirilmesini ölçeklendirmeye odaklanan kendi 20 milyon Dolar’lık fonunu duyurdu.
‘Tarih gösteriyor ki otomatikleştirilebilecek her şey otomatikleştirilecek ve kesinlikle bazı iş ve normal yaşam süreçleri AI ajanları tarafından ele geçirilecek’ dedi Grachev BeInCrypto’ya.
Ancak AI geliştikçe, kötüye kullanım potansiyeli de artan bir endişe haline geliyor.
Yapay Zeka Ajanlarının Kötüye Kullanımı
Web3’te, AI ajanları hızla ana akım haline geliyor. Piyasa analizi ve otonom kripto para trading gibi çeşitli yetenekler sunuyorlar.
Ancak, artan entegrasyonları da önemli zorluklar getiriyor. Kötü niyetli aktörler tarafından AI’nın kötüye kullanımı, basit kimlik avı kampanyalarından sofistike fidye yazılımı saldırılarına kadar senaryoları kapsayan büyük bir endişe kaynağıdır.
2022’nin sonlarından bu yana üretken AI’nın yaygın erişilebilirliği, içerik oluşturmayı kökten değiştirdi ve teknolojiyi kötüye kullanmak isteyen kötü niyetli aktörleri çekti. Bu hesaplama gücünün demokratikleşmesi, düşman yeteneklerini artırdı ve daha az sofistike tehdit aktörleri için giriş engelini potansiyel olarak düşürdü.
Entrust’un bir raporuna göre, AI araçlarıyla kolaylaştırılan dijital belge sahtekarlıkları, fiziksel sahtekarlıkları geride bıraktı ve 2024 yılında %244 yıllık artış gösterdi. Bu arada, deepfake’ler tüm biyometrik dolandırıcılıkların %40’ını oluşturdu.
‘Zaten dolandırıcılıklar için kullanılıyor. İnsanları yanlış tanıtmak ve seslerini yanlış tanıtmak için video görüşmelerinde kullanılıyor’ dedi Grachev.
Bu tür istismar örnekleri zaten haber manşetlerine çıktı. Bu ayın başlarında, Hong Kong’daki çok uluslu bir şirkette çalışan bir finans çalışanı, deepfake teknolojisi kullanan dolandırıcılara 25 milyon Dolar’lık bir ödemeyi onaylaması için kandırıldı.
Çalışan, şirketin mali işler müdürü de dahil olmak üzere meslektaşları olduğuna inandığı kişilerle bir video görüşmesine katıldı. Başlangıçta tereddüt etmesine rağmen, diğer katılımcılar gerçekçi görünüp ses çıkardığı için ödeme işlemini gerçekleştirdi. Daha sonra tüm katılımcıların deepfake üretimleri olduğu ortaya çıktı.
Erken Benimsemeden Ana Akım Kabulüne
Grachev, bu tür kötü niyetli kullanımların kaçınılmaz olduğuna inanıyor. Teknolojik gelişimin genellikle başlangıçta hatalarla birlikte geldiğini ve teknolojinin olgunlaştıkça bu hataların azaldığını belirtiyor. Grachev, bu görüşünü kanıtlamak için iki farklı örnek verdi: World Wide Web’in ilk aşamaları ve Bitcoin.
‘İnternet’in pornografik sitelerden başladığını hatırlamalıyız. İlk Bitcoin gibi, uyuşturucu satıcılarından başladı ve sonra gelişti’ dedi.
Birçok rapor Grachev ile aynı fikirde. Yetişkin eğlence endüstrisinin, İnternet’in erken benimsenmesi ve gelişiminde önemli bir rol oynadığını öne sürüyorlar. Tüketici tabanı sağlamanın ötesinde, VCR’ler, video akışı, sanal gerçeklik ve her türlü iletişim gibi teknolojilere öncülük etti.
Pornografi, bir giriş aracı olarak hareket etti. Yetişkin eğlence endüstrisi, tarihsel olarak yeni teknolojilerin tüketici tarafından benimsenmesini yönlendirmiştir.
Yeniliklerin erken benimsenmesi ve uygulanması, özellikle izleyicisinin taleplerini başarıyla karşıladığında, genellikle daha geniş ana akım benimsemeye yol açar.
‘Eğlence ile başladı, ama eğlence birçok insanı çekti. Sonra bu kitle üzerinde bir şeyler inşa edebilirsiniz’ dedi Grachev.
Zamanla, yetişkin eğlencesinin sıklığını ve erişilebilirliğini sınırlamak için de önlemler alındı. Yine de, bugün İnternet’in sunduğu birçok hizmetten biri olmaya devam ediyor.
Bitcoin’in Darknet’ten Devrime Yolculuğu
Bitcoin’in evrimi, İnternet’in ilk kullanım alanlarına yakından benziyor. Bitcoin’in erken benimsenmesi, karanlık ağ pazarları ve uyuşturucu kaçakçılığı, dolandırıcılık ve kara para aklama gibi yasadışı faaliyetlerle önemli ölçüde ilişkilendirildi. Pseudonymous yapısı ve küresel fon transferlerinin kolaylığı, suçlular için çekici hale getirdi.
Suç faaliyetlerinde kullanılmaya devam etmesine rağmen, Bitcoin birçok meşru uygulama buldu. Kripto paraların temelini oluşturan blockchain teknolojisi, gerçek dünya sorunlarına çözümler sunar ve geleneksel finansal sistemleri sarsar.
Henüz çok yeni endüstriler olsalar da, kripto para ve blockchain uygulamaları gelişmeye devam edecek. Grachev’e göre, aynı durum yapay zeka teknolojisinin kademeli olarak kullanılmasıyla da gerçekleşecek. Ona göre, hatalar öğrenmek ve buna göre ayarlamalar yapmak için hoş karşılanmalıdır.
‘Dolandırıcılığın önce gerçekleştiğini ve ardından insanların bunu nasıl önleyeceklerini düşünmeye başladıklarını her zaman hatırlamalıyız. Elbette olacak, ama bu normal bir süreç, bir öğrenme eğrisi,’ dedi Grachev.
Ancak, bu tür durumların gelecekte de yaşanacağını bilmek, kimin sorumlu tutulması gerektiği konusunda soruları da beraberinde getiriyor.
Sorumluluk Endişeleri
Bir ajanın eylemleri nedeniyle zarar meydana geldiğinde sorumluluğu belirlemek, karmaşık bir yasal ve etik meseledir. Yapay zekayı nasıl sorumlu tutacağımız sorusu kaçınılmaz olarak ortaya çıkıyor.
Yapay zeka sistemlerinin karmaşıklığı, zarar için sorumluluğu belirlemede zorluklar yaratır. “Kara kutu” doğası, öngörülemeyen davranışları ve sürekli öğrenme yetenekleri, bir şeyler ters gittiğinde kimin suçlu olduğu konusundaki tipik fikirleri uygulamayı zorlaştırır.
Ayrıca, yapay zeka geliştirme ve dağıtımında birden fazla tarafın yer alması, sorumluluk değerlendirmelerini karmaşık hale getirir ve yapay zeka hatalarının suçluluğunu belirlemeyi zorlaştırır.
Sorumluluk, tasarım veya üretim hataları için üreticiye, kodla ilgili sorunlar için yazılım geliştiricisine veya talimatları takip etmeyen, güncellemeleri yüklemeyen veya güvenliği sağlamayan kullanıcıya ait olabilir.
‘Bence tüm bu şeyler çok yeni ve bundan öğrenebilmeliyiz. Gerekirse bazı yapay zeka ajanlarını durdurabilmeliyiz. Ama benim bakış açıma göre, eğer kötü niyetle yapılmadıysa, kimse sorumlu değildir çünkü bu gerçekten yeni bir şey,’ dedi Grachev BeInCrypto’ya.
Ancak, ona göre, bu tür durumlar sürekli yeniliği etkilememek için dikkatle yönetilmelidir.
‘Bu girişimciyi suçlarsanız, yenilikleri öldürür çünkü insanlar korkar. Ama eğer kötü bir şekilde çalışırsa, doğru, sonunda çalışabilir. Onu durdurmanın, öğrenmenin, geliştirmemenin ve yeniden öğrenmenin bir yoluna ihtiyacımız var,’ diye ekledi Grachev.
Ancak, ince çizgi özellikle daha aşırı senaryolarda çok ince kalıyor.
Sorumlu Yapay Zeka Benimsemesi İçin Güven Sorunları
Yapay zekanın geleceği hakkında konuşurken yaygın bir korku, yapay zeka ajanlarının insanlardan daha güçlü hale geldiği durumlarla ilgilidir.
‘Bu konuda birçok film var. Diyelim ki polis veya hükümet kontrolleri ya da bir savaşta bir ordu hakkında konuşuyorsak, elbette otomasyon büyük bir korku gibi. Bazı şeyler o kadar büyük bir seviyede otomatikleştirilebilir ki insanlara zarar verebilir,’ dedi Grachev.
Böyle bir senaryonun gerçekleşip gerçekleşmeyeceği sorulduğunda, Grachev teorik olarak olabileceğini söyledi. Yine de, gelecekte ne olacağını bilemeyeceğini kabul etti.
Ancak, bu tür durumlar, insanlar ve yapay zeka arasındaki temel güven sorunlarının bir örneğidir. Grachev, bu soruna yaklaşmanın en iyi yolunun, yapay zekanın gerçekten yardımcı olabileceği kullanım alanlarına insanları maruz bırakmak olduğunu söylüyor.
‘Yapay zeka, insanların inanması için zor olabilir. Bu yüzden basit bir şeyle başlamalı, çünkü yapay zeka ajana güven, birinin güvenilir olduğunu açıklamasıyla inşa edilmeyecek. İnsanlar onu kullanmaya alışmalı. Örneğin, kripto para hakkında konuşuyorsanız, bir meme başlatabilirsiniz, diyelim ki Pump.fun’da, ama neden sesli mesajla başlatmayasınız? Yapay zeka ajanlarıyla, sadece ‘lütfen şunu ve bunu başlat’ diyen bir sesli mesaj gönderin ve başlatılır. Ve sonra bir sonraki adım, ajana daha önemli kararlarla güvenmek olur,’ dedi.
Sonuç olarak, yaygın yapay zeka benimsenmesine giden yol, şüphesiz olağanüstü ilerlemeler ve öngörülemeyen zorluklarla işaretlenecektir.
Bu gelişen sektörde yeniliği sorumlu uygulama ile dengelemek, yapay zekanın tüm insanlığa fayda sağladığı bir geleceği şekillendirmek için kritik olacaktır.
Sorumluluk Reddi
Sorumluluk Reddi: Trust Project yönergelerine uygun olarak BeInCrypto, haberlerde tarafsız ve şeffaf raporları garanti eder. Bu haber makalesi doğru ve güncel bilgi vermeyi amaçlamaktadır. Ancak okuyucuların bu içeriğe dayalı herhangi bir karar vermeden önce tüm bilgileri bağımsız olarak doğrulamaları ve bir profesyonele danışmaları tavsiye edilir.
