Manus, GAIA Benchmark testinde çığır açan bir ilerleme kaydetti.

Son zamanlarda, Manus GAIA Benchmark testinde dikkat çekici bir başarı elde etti ve performansı benzer düzeydeki büyük dil modellerini aştı. Bu, Manus'un uluslararası ticari müzakereler gibi karmaşık görevleri bağımsız olarak tamamlayabileceği anlamına geliyor; sözleşme maddelerinin ayrıştırılması, stratejik öngörü, çözüm geliştirme gibi işlemleri gerçekleştirebiliyor ve hatta hukuk ve finans ekiplerini koordine edebiliyor.

Manus'un avantajları esasen üç alanda ortaya çıkmaktadır: dinamik hedef parçalama yeteneği, çapraz mod analizi yeteneği ve bellek güçlendirilmiş öğrenme yeteneği. Büyük görevleri yüzlerce uygulanabilir alt göreve bölebilir, çeşitli veri türlerini aynı anda işleyebilir ve pekiştirmeli öğrenme ile sürekli olarak kendi karar verme verimliliğini artırarak hata oranını düşürebilir.

Bu atılım, sektörde AI evrimi yolları üzerine tartışmaları yeniden alevlendirdi: Gelecek AGI'nin tek başına egemen olacağı mı, yoksa çoklu zeka sistemlerinin (MAS) işbirliği içinde mi ön planda olacağı?

Manus'un tasarım felsefesi iki olasılığı gizlice barındırıyor:

1. AGI yolu: Bireysel zeka seviyesini sürekli olarak yükselterek, insanın kapsamlı karar verme yeteneğine yaklaşmasını sağlamak.

2. MAS yolu: Süper koordinatör olarak, binlerce dikey alan akıllı ajanının iş birliği yapmasını yönlendirmek.

Yüzeyde, bu farklı yolların ayrışmasıdır, aslında tartışılan AI gelişiminde verimlilik ile güvenliğin nasıl dengeleneceği konusudur. Tekil zeka AGI'ye ne kadar yakınsa, karar alma sürecinin kara kutulaşma riski o kadar artar; oysa çoklu zeka işbirliği riski dağıtsa da, iletişim gecikmeleri nedeniyle kritik karar anlarını kaçırma riski bulunur.

Manus'un evrimi, veri gizliliği, algoritma yanlılığı ve karşıt saldırılar gibi AI gelişiminin içsel risklerini görünmez bir şekilde büyütmektedir. Tıbbi senaryolarda, Manus'un hastaların genom verilerine anlık erişim sağlaması gerekmektedir; finansal müzakerelerde, şirketlerin kamuya açıklanmayan mali bilgileri söz konusu olabilir. İşe alım müzakerelerinde, belirli gruplara daha düşük maaş önerileri verilebilir; hukuki sözleşme incelemelerinde ise yeni ortaya çıkan sektör şartlarındaki yanlış değerlendirme oranı yarıya yakın olabilir. Ayrıca, hackerlar belirli ses frekanslarını yerleştirerek, Manus'un müzakerelerde rakiplerinin teklif aralığını yanlış değerlendirmesine neden olabilir.

Bu sorunlar, daha akıllı sistemlerin saldırı yüzeyinin de o kadar geniş olduğunu vurgulayan önemli bir noktayı öne çıkarıyor.

Web3 alanında, güvenlik her zaman dikkat çeken bir konu olmuştur. V tanrısının ortaya koyduğu "imkansız üçgen" (blok zinciri ağlarının aynı anda güvenlik, merkeziyetsizlik ve ölçeklenebilirlik sağlaması mümkün değildir) temelinde, çeşitli kriptografi yöntemleri türetilmiştir:

1. Sıfır Güven Güvenlik Modeli: Temel ilke "Hiç kimseye güvenme, her zaman doğrula" dır, her erişim isteği için sıkı kimlik doğrulama ve yetkilendirme vurgulanmaktadır.

2. Merkezi Olmayan Kimlik (DID): Varlıkların merkezi bir kayıt defterine bağımlı olmaksızın doğrulanabilir ve kalıcı bir şekilde tanınmasını sağlamak için bir dizi tanımlayıcı standart.

3. Tam Homomorfik Şifreleme (FHE): Verileri şifrelemeden herhangi bir hesaplama yapmaya izin veren ileri düzey bir şifreleme teknolojisidir.

Bunlar arasında, FHE, AI çağındaki güvenlik sorunlarını çözmek için anahtar teknoloji olarak görülmektedir. Aşağıdaki birkaç düzeyde etkili olabilir:

1. Veri düzeyi: Kullanıcı tarafından girilen tüm bilgiler (biyometrik özellikler, ses tonu dahil) şifreli bir şekilde işlenir, hatta AI sistemi bile orijinal verilere erişemez.

2. Algoritma düzeyi: FHE ile "şifreli model eğitimi" gerçekleştiriliyor, bu durumda geliştiriciler bile AI'nın karar verme süreçlerini göremez.

3. İşbirliği Boyutu: Birden fazla akıllı ajan arasındaki iletişim eşik şifreleme kullanır, tek bir düğümün kırılması küresel veri sızıntısına neden olmaz.

Web3 güvenlik alanında, farklı yönlerde birçok proje keşif yapmaktadır. Ancak, güvenlik projeleri genellikle spekülatörlerin dikkatini çekmez. Gelecekte, AI teknolojisinin sürekli gelişimiyle birlikte, FHE gibi güvenlik teknolojilerinin önemi giderek artacaktır. AGI'ye giden yolda, bu teknolojiler sadece mevcut sorunları çözmek için araç değil, aynı zamanda gelecekteki güçlü AI çağının gereklilikleridir.