Manus, GAIA Benchmark testinde çığır açan sonuçlar elde etti, AI gelişim yolu tartışmalarına yol açtı

Manus, GAIA Benchmark testinde olağanüstü performans sergileyerek benzer seviyedeki büyük dil modellerini geride bıraktı. Bu başarı, Manus'un karmaşık görevleri bağımsız bir şekilde tamamlama yeteneğine sahip olduğunu göstermektedir; örneğin, sözleşme maddeleri analizi, strateji geliştirme ve çözüm üretimi gibi çok sayıda aşamayı içeren uluslararası ticaret müzakerelerini ele alabilmektedir. Manus'un avantajları üç ana alanda öne çıkmaktadır: dinamik hedef bölme, çok modlu akıl yürütme ve bellek artırıcı öğrenme. Karmaşık görevleri yüzlerce uygulanabilir alt göreve ayırabilirken, çeşitli veri türlerini işleyebilmekte ve pekiştirmeli öğrenme sayesinde karar verme verimliliğini sürekli artırarak hata oranını düşürebilmektedir.

Manus'un ortaya çıkışı, sektörde AI gelişim yolları üzerine yeniden bir tartışma başlattı: Gelecek, genel yapay zeka (AGI) için tek tip bir modele doğru mu gidecek, yoksa çoklu zeka sistemlerinin (MAS) işbirliğiyle mi yönlendirilecek?

Bu soru Manus'un tasarım felsefesini içeriyor ve iki olası gelişim yönünü ima ediyor:

1. AGI Yolu: Tekil zeka sisteminin yeteneklerini sürekli geliştirerek, insanın bütünsel karar verme seviyesine yavaş yavaş yaklaşmasını sağlamak.

2. MAS yolu: Manus'u süper koordinatör olarak konumlandırmak, binlerce uzmanlık alanındaki akıllı varlıkların işbirliği yapmasını sağlamak.

Yüzeyde, bu teknoloji yollarındaki bir farklılık ile ilgili, aslında AI gelişimindeki temel çelişkileri yansıtıyor: Verimlilik ile güvenliği nasıl dengeleyebiliriz? Tek bir zeki sistem AGI'ye yaklaştıkça, karar alma sürecinin şeffaf olmama riski artar; ancak çoklu zeki ajanların iş birliği riski dağıtsa da, iletişim gecikmeleri nedeniyle kritik karar anlarını kaçırabilir.

Manus'un ilerlemesi, AI gelişiminin doğasında bulunan riskleri görünmez bir şekilde büyütmektedir. Örneğin:

1. Veri gizliliği sorunları: Sağlık alanında, Manus'un hastaların genom verilerine gerçek zamanlı erişime ihtiyacı olabilir; finansal müzakerelerde ise, henüz açıklanmayan şirket finansal bilgileriyle ilgili olabilir.

2. Algoritma Önyargısı: İstihdam sürecinde, Manus belirli gruplara haksız maaş önerileri sunabilir; hukuki sözleşme incelemesi sırasında, yeni sektörlerle ilgili maddelerde %50'ye kadar yanlış değerlendirme oranı olabilir.

3. Karşıt Saldırı Açığı: Hackerlar, belirli ses sinyalleri enjekte ederek Manus'un müzakerelerde rakibin teklif aralığını yanlış değerlendirmesine neden olabilir.

Bu sorunlar, endişe verici bir eğilimi vurgulamaktadır: Akıllı sistemler ne kadar güçlü olursa, potansiyel saldırı yüzeyi de o kadar genişler.

Web3 alanında, güvenlik her zaman dikkat çekici bir konu olmuştur. Ethereum'un kurucusu Vitalik Buterin'in "imkansız üçgen" teorisi (blok zinciri ağlarının aynı anda güvenilirlik, merkezsizleşme ve ölçeklenebilirlik sağlanamayacağı) çeşitli kripto teknolojilerinin gelişimine ilham vermiştir:

1. Sıfır Güven Güvenlik Modeli: "Asla Güvenme, Her Zaman Doğrula" ilkesine uyarak, her erişim talebi için katı kimlik doğrulama ve yetkilendirme uygulanır.

2. Merkeziyetsiz Kimlik (DID): Merkezi bir kayıt kuruluşuna ihtiyaç duymadan kimlik tanıma standardı, yeni bir merkeziyetsiz dijital kimlik yönetimi sağlamaktadır.

3. Tam Homomorfik Şifreleme (FHE): Şifrelenmiş durumda veriler üzerinde hesaplama yapılmasına izin verir, orijinal verilerin korunması gereken bulut bilişim ve veri dış kaynak kullanımı senaryolarında uygundur.

Bu teknolojiler arasında, tamamen homomorfik şifrelemenin AI çağında güvenlik sorunlarını çözmenin anahtarı olarak kabul edildiği düşünülmektedir. Aşağıdaki birkaç seviyede koruma sağlayabilir:

1. Veri düzeyi: Kullanıcı tarafından girilen tüm bilgiler (biyometrik veriler, ses vb.) şifreli bir durumda işlenir, hatta Manus bile orijinal veriyi çözememektedir.

2. Algoritma düzeyi: FHE aracılığıyla "şifreli model eğitimi" gerçekleştirerek, geliştiricilerin bile AI'nin karar verme sürecini doğrudan anlamasını engellemek.

3. İşbirliği Boyutu: Birden fazla akıllı varlık arasındaki iletişim eşik şifrelemesi kullanır; bu, tek bir düğümün ele geçirilmesi durumunda bile küresel veri sızıntısına yol açmaz.

Web3 güvenlik teknolojileri sıradan kullanıcılar için uzak görünebilir, ancak herkesin çıkarlarıyla yakından ilişkilidir. Bu zorlu ortamda, güvenlik önlemlerini sürekli güçlendirmek, "soğan" olmaktan kaçınmanın anahtarıdır.

Dikkate değer birkaç proje şunlardır:

• uPort: Ethereum ana ağında yayınlanan en eski merkeziyetsiz kimlik projelerinden biri olabilir.
• NKN: Sıfır güven güvenlik modeli konusunda önemli başarılar elde etti.
• Mind Network: İlk ana ağda çevrimiçi olan FHE projesi olarak, birçok tanınmış kurumla işbirliği kurmuştur.

Güvenlik projeleri genellikle spekülatörlerin ilgisini çekmese de, AI ve blockchain teknolojisinin uzun vadeli gelişimi için hayati öneme sahiptir. AI teknolojisi insan zekâsı seviyesine yaklaştıkça, geleneksel olmayan savunma sistemleri giderek daha önemli hale gelmektedir. FHE yalnızca mevcut güvenlik sorunlarını çözmekle kalmaz, aynı zamanda gelecekteki güçlü AI dönemine de temel oluşturur. AGI'ye giden yolda, FHE artık isteğe bağlı bir seçenek olmaktan çıkıp hayatta kalmak için bir gereklilik haline gelmiştir.