🫡 @Mira_Network yeni bir yaklaşım benimsemek istiyor - AI'nın kendi başına karar vermesi yerine, AI'nın "üst katmanında" durarak, AI'nın söylediklerinin doğru olup olmadığını doğrulamakla özel olarak ilgilenen bir sistem kurmak daha iyi. Şu anda herkes AI'nın ne kadar boğa olduğundan bahsediyor, ama gerçekten uygulanabilir senaryolar oldukça sınırlı.
Sonuçta, AI'nın şu anki en büyük sorunu "güvenilmez" olmasıdır - mantıklı görünen içerikler yazabiliyor, ancak yakından bakıldığında içinde sıkça sahte bilgiler barındırdığını görebiliyorsunuz. Bu sorun sohbet botlarında pek sorun değil, ama sağlık, hukuk, finans gibi yüksek riskli senaryolara uygulandığında tamamen geçersiz hale geliyor.
Yapay zeka neden böyle? Bir ana sebep, "doğruluk" ve "istikrar" arasında her zaman dengeyi sağlayamamasıdır. Onun daha istikrarlı bir çıktı vermesini istiyorsanız, eğitim verilerini daha temiz bir şekilde toplamanız gerekir, bu da kolayca önyargıları beraberinde getirebilir. Öte yandan, onu gerçek dünyaya daha yakın, daha kapsamlı hale getirmek istiyorsanız, birçok çelişkili bilgiyi dahil etmeniz gerekir; bu durumda model "güvenilir bir şekilde konuşmaktan" uzaklaşır, yani halüsinasyon yapma olasılığı artar.
Bu yöntem, AI'ya bir "gerçeklik doğrulayıcı" eklemeye benziyor. AI önce içerik üretir, ardından Mira bu içerikleri küçük yargılara ayırır ve bunları doğrulamak için birden fazla bağımsız modele gönderir, bu sonuçların güvenilir olup olmadığını kontrol eder. Birden fazla model uzlaşmaya vardıktan sonra, bir doğrulama raporu oluşturmak için zincir üzerindeki düğümler aracılığıyla bir rapor oluşturulur, bu da "doğrulanmış" damgası anlamına gelir.
Bu yön oldukça ilginç, çünkü AI'nın "beyni"ni değiştirmek yerine ona bir "denetim sistemi" ekliyor. Eğer bu sistem gerçekten iyi çalışırsa, gelecekte AI'nın daha karmaşık ve daha yüksek riskli işler yapmasına güvenle izin verebiliriz, örneğin otomatik sözleşme yazma, otomatik kod inceleme ve hatta bağımsız karar verme. İşte bu gerçek AI altyapısı.
Anahtar, @KaitoAI üzerinde bir listeleme etkinliğinin olmasıdır, son zamanlarda @arbitrum @Aptos @0xPolygon @shoutdotfun $ENERGY'nin de popülaritesi oldukça yüksek.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
🫡 @Mira_Network yeni bir yaklaşım benimsemek istiyor - AI'nın kendi başına karar vermesi yerine, AI'nın "üst katmanında" durarak, AI'nın söylediklerinin doğru olup olmadığını doğrulamakla özel olarak ilgilenen bir sistem kurmak daha iyi. Şu anda herkes AI'nın ne kadar boğa olduğundan bahsediyor, ama gerçekten uygulanabilir senaryolar oldukça sınırlı.
Sonuçta, AI'nın şu anki en büyük sorunu "güvenilmez" olmasıdır - mantıklı görünen içerikler yazabiliyor, ancak yakından bakıldığında içinde sıkça sahte bilgiler barındırdığını görebiliyorsunuz. Bu sorun sohbet botlarında pek sorun değil, ama sağlık, hukuk, finans gibi yüksek riskli senaryolara uygulandığında tamamen geçersiz hale geliyor.
Yapay zeka neden böyle? Bir ana sebep, "doğruluk" ve "istikrar" arasında her zaman dengeyi sağlayamamasıdır. Onun daha istikrarlı bir çıktı vermesini istiyorsanız, eğitim verilerini daha temiz bir şekilde toplamanız gerekir, bu da kolayca önyargıları beraberinde getirebilir. Öte yandan, onu gerçek dünyaya daha yakın, daha kapsamlı hale getirmek istiyorsanız, birçok çelişkili bilgiyi dahil etmeniz gerekir; bu durumda model "güvenilir bir şekilde konuşmaktan" uzaklaşır, yani halüsinasyon yapma olasılığı artar.
Bu yöntem, AI'ya bir "gerçeklik doğrulayıcı" eklemeye benziyor. AI önce içerik üretir, ardından Mira bu içerikleri küçük yargılara ayırır ve bunları doğrulamak için birden fazla bağımsız modele gönderir, bu sonuçların güvenilir olup olmadığını kontrol eder. Birden fazla model uzlaşmaya vardıktan sonra, bir doğrulama raporu oluşturmak için zincir üzerindeki düğümler aracılığıyla bir rapor oluşturulur, bu da "doğrulanmış" damgası anlamına gelir.
Bu yön oldukça ilginç, çünkü AI'nın "beyni"ni değiştirmek yerine ona bir "denetim sistemi" ekliyor. Eğer bu sistem gerçekten iyi çalışırsa, gelecekte AI'nın daha karmaşık ve daha yüksek riskli işler yapmasına güvenle izin verebiliriz, örneğin otomatik sözleşme yazma, otomatik kod inceleme ve hatta bağımsız karar verme. İşte bu gerçek AI altyapısı.
Anahtar, @KaitoAI üzerinde bir listeleme etkinliğinin olmasıdır, son zamanlarda @arbitrum @Aptos @0xPolygon @shoutdotfun $ENERGY'nin de popülaritesi oldukça yüksek.