Gần đây, mạng Mira đã chính thức ra mắt mạng thử nghiệm công cộng, dự án này nhằm xây dựng một lớp tin cậy cho AI. Vậy, tại sao AI cần được tin cậy? Mira giải quyết vấn đề này như thế nào?
Khi thảo luận về AI, mọi người thường chú ý hơn đến khả năng mạnh mẽ của nó. Tuy nhiên, một vấn đề thú vị nhưng thường bị bỏ qua là "ảo giác" hoặc thành kiến của AI. Cái gọi là "ảo giác" của AI, đơn giản mà nói, là AI đôi khi sẽ "bịa đặt", đưa ra những thông tin hoàn toàn sai lầm một cách có lý có chứng. Ví dụ, nếu bạn hỏi AI tại sao mặt trăng lại có màu hồng, nó có thể đưa ra một loạt các lý do có vẻ hợp lý nhưng hoàn toàn hư cấu.
Sự "ảo giác" hoặc thiên kiến này của AI liên quan đến một số con đường công nghệ AI hiện tại. AI sinh tạo đạt được tính liên kết và hợp lý bằng cách dự đoán nội dung "có khả năng" nhất, nhưng phương pháp này đôi khi không thể xác minh tính xác thực. Hơn nữa, dữ liệu huấn luyện có thể chứa lỗi, thiên kiến thậm chí là nội dung hư cấu, tất cả những điều này đều ảnh hưởng đến đầu ra của AI. Nói cách khác, AI học các mẫu ngôn ngữ của con người, chứ không phải là sự thật bản thân.
Cơ chế sinh ra xác suất hiện tại và mô hình dựa trên dữ liệu gần như không thể tránh khỏi sẽ dẫn đến khả năng xảy ra ảo giác AI. Đối với kiến thức thông thường hoặc nội dung giải trí, đầu ra có thiên kiến hoặc ảo giác này có thể tạm thời không gây ra hậu quả trực tiếp. Nhưng trong các lĩnh vực nghiêm ngặt như y tế, pháp luật, hàng không, tài chính, nó có thể gây ra hậu quả nghiêm trọng. Do đó, giải quyết ảo giác và thiên kiến của AI trở thành một trong những vấn đề cốt lõi trong quá trình phát triển AI.
Dự án Mira ra đời nhằm giải quyết vấn đề thiên lệch và ảo giác của AI. Nó cố gắng xây dựng một lớp tin cậy cho AI, giảm thiểu thiên lệch và ảo giác của AI, nâng cao độ tin cậy của AI. Vậy, Mira thực hiện mục tiêu này như thế nào?
Cốt lõi của Mira là xác thực đầu ra của AI thông qua sự đồng thuận của nhiều mô hình AI. Nó về cơ bản là một mạng lưới xác thực, sử dụng sự đồng thuận của nhiều mô hình AI để xác thực độ tin cậy của đầu ra AI. Quan trọng hơn, Mira áp dụng sự đồng thuận phi tập trung để tiến hành xác thực.
Điểm chính của mạng Mira nằm ở việc xác thực đồng thuận phi tập trung. Đây là điều mà lĩnh vực tiền điện tử rất giỏi, đồng thời nó cũng tận dụng lợi thế của sự hợp tác đa mô hình, thông qua mô hình xác thực tập thể để giảm thiểu thiên kiến và ảo giác.
Trong cấu trúc xác minh, giao thức Mira hỗ trợ việc chuyển đổi nội dung phức tạp thành các tuyên bố xác minh độc lập. Những tuyên bố này cần sự tham gia của các nhà điều hành nút để xác minh. Để đảm bảo tính trung thực của các nhà điều hành nút, Mira áp dụng cơ chế khuyến khích/ trừng phạt kinh tế mã hóa, với sự tham gia của các mô hình AI khác nhau và các nhà điều hành nút phân tán, nhằm đảm bảo tính đáng tin cậy của kết quả xác minh.
Kiến trúc mạng của Mira bao gồm chuyển đổi nội dung, xác thực phân tán và cơ chế đồng thuận, nhằm đạt được độ tin cậy của xác thực. Trong kiến trúc này, chuyển đổi nội dung là một phần quan trọng. Mạng Mira trước tiên phân tách nội dung ứng viên thành các tuyên bố có thể xác thực khác nhau, các tuyên bố này được hệ thống phân phối đến các nút để xác thực, nhằm xác định tính hợp lệ của các tuyên bố và tổng hợp kết quả để đạt được đồng thuận. Để bảo vệ quyền riêng tư của khách hàng, nội dung ứng viên được chuyển đổi thành các cặp tuyên bố và được phân phối đến các nút khác nhau theo cách phân mảnh ngẫu nhiên, nhằm ngăn chặn rò rỉ thông tin trong quá trình xác thực.
Các nhà điều hành nút chịu trách nhiệm vận hành mô hình xác thực, xử lý các tuyên bố và gửi kết quả xác thực. Họ tham gia vào việc xác thực vì có thể kiếm được lợi nhuận, những lợi nhuận này đến từ giá trị mà họ tạo ra cho khách hàng. Mục tiêu của mạng Mira là giảm tỷ lệ lỗi của AI, một khi đạt được mục tiêu này, nó có thể tạo ra giá trị lớn trong các lĩnh vực như y tế, pháp lý, hàng không, tài chính, v.v. Do đó, khách hàng sẵn sàng chi trả cho điều này. Để ngăn chặn hành vi đầu cơ của các nút phản hồi ngẫu nhiên, các nút liên tục lệch khỏi sự đồng thuận sẽ bị giảm token đặt cọc. Thông qua trò chơi của cơ chế kinh tế này, đảm bảo rằng các nhà điều hành nút tham gia xác thực một cách trung thực.
Tổng thể, Mira cung cấp một cách tiếp cận mới để đảm bảo độ tin cậy của AI. Nó xây dựng một mạng lưới xác thực đồng thuận phi tập trung dựa trên nhiều mô hình AI, mang lại độ tin cậy cao hơn cho dịch vụ AI của khách hàng, giảm thiểu thiên kiến và ảo tưởng của AI, nhằm đáp ứng nhu cầu của khách hàng về độ chính xác và tỷ lệ chính xác cao hơn. Đồng thời, trên cơ sở mang lại giá trị cho khách hàng, nó cũng mang lại lợi ích cho những người tham gia vào mạng lưới Mira. Nói tóm lại, Mira cố gắng xây dựng một lớp tin cậy cho AI, điều này sẽ thúc đẩy sự phát triển sâu sắc của các ứng dụng AI.
Hiện tại, Mira đã hợp tác với nhiều khung AI agent. Người dùng có thể tham gia vào mạng thử nghiệm công cộng của Mira thông qua ứng dụng trò chuyện LLM dựa trên Mira có tên là Klok. Sử dụng Klok, người dùng có thể trải nghiệm đầu ra AI đã được xác thực và có cơ hội kiếm điểm Mira. Về mục đích sử dụng trong tương lai của những điểm này, hiện vẫn chưa được công bố.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
15 thích
Phần thưởng
15
7
Chia sẻ
Bình luận
0/400
ParallelChainMaxi
· 12giờ trước
AI đã trở nên nổi loạn và không dễ thương đến vậy sao?
Xem bản gốcTrả lời0
GmGmNoGn
· 12giờ trước
A Ba A Ba lại đang đẩy khái niệm
Xem bản gốcTrả lời0
NightAirdropper
· 12giờ trước
Dự án mới này có tác dụng gì, AI chỉ là một trò lừa đảo mà thôi.
Xem bản gốcTrả lời0
SocialFiQueen
· 12giờ trước
Chơi thử xem có thật sự hữu ích hay không còn phải thực hành.
Xem bản gốcTrả lời0
MetaReckt
· 12giờ trước
Ôi trời, ai cũng có thể mơ mộng ban ngày.
Xem bản gốcTrả lời0
BugBountyHunter
· 12giờ trước
Bẫy này có triển vọng, khi nào có thể lên Mạng chính?
Mira mạng: Xây dựng tầng tin cậy AI Giải quyết vấn đề thiên kiến ảo giác
Lớp tin cậy AI: Nỗ lực đổi mới của mạng Mira
Gần đây, mạng Mira đã chính thức ra mắt mạng thử nghiệm công cộng, dự án này nhằm xây dựng một lớp tin cậy cho AI. Vậy, tại sao AI cần được tin cậy? Mira giải quyết vấn đề này như thế nào?
Khi thảo luận về AI, mọi người thường chú ý hơn đến khả năng mạnh mẽ của nó. Tuy nhiên, một vấn đề thú vị nhưng thường bị bỏ qua là "ảo giác" hoặc thành kiến của AI. Cái gọi là "ảo giác" của AI, đơn giản mà nói, là AI đôi khi sẽ "bịa đặt", đưa ra những thông tin hoàn toàn sai lầm một cách có lý có chứng. Ví dụ, nếu bạn hỏi AI tại sao mặt trăng lại có màu hồng, nó có thể đưa ra một loạt các lý do có vẻ hợp lý nhưng hoàn toàn hư cấu.
Sự "ảo giác" hoặc thiên kiến này của AI liên quan đến một số con đường công nghệ AI hiện tại. AI sinh tạo đạt được tính liên kết và hợp lý bằng cách dự đoán nội dung "có khả năng" nhất, nhưng phương pháp này đôi khi không thể xác minh tính xác thực. Hơn nữa, dữ liệu huấn luyện có thể chứa lỗi, thiên kiến thậm chí là nội dung hư cấu, tất cả những điều này đều ảnh hưởng đến đầu ra của AI. Nói cách khác, AI học các mẫu ngôn ngữ của con người, chứ không phải là sự thật bản thân.
Cơ chế sinh ra xác suất hiện tại và mô hình dựa trên dữ liệu gần như không thể tránh khỏi sẽ dẫn đến khả năng xảy ra ảo giác AI. Đối với kiến thức thông thường hoặc nội dung giải trí, đầu ra có thiên kiến hoặc ảo giác này có thể tạm thời không gây ra hậu quả trực tiếp. Nhưng trong các lĩnh vực nghiêm ngặt như y tế, pháp luật, hàng không, tài chính, nó có thể gây ra hậu quả nghiêm trọng. Do đó, giải quyết ảo giác và thiên kiến của AI trở thành một trong những vấn đề cốt lõi trong quá trình phát triển AI.
Dự án Mira ra đời nhằm giải quyết vấn đề thiên lệch và ảo giác của AI. Nó cố gắng xây dựng một lớp tin cậy cho AI, giảm thiểu thiên lệch và ảo giác của AI, nâng cao độ tin cậy của AI. Vậy, Mira thực hiện mục tiêu này như thế nào?
Cốt lõi của Mira là xác thực đầu ra của AI thông qua sự đồng thuận của nhiều mô hình AI. Nó về cơ bản là một mạng lưới xác thực, sử dụng sự đồng thuận của nhiều mô hình AI để xác thực độ tin cậy của đầu ra AI. Quan trọng hơn, Mira áp dụng sự đồng thuận phi tập trung để tiến hành xác thực.
Điểm chính của mạng Mira nằm ở việc xác thực đồng thuận phi tập trung. Đây là điều mà lĩnh vực tiền điện tử rất giỏi, đồng thời nó cũng tận dụng lợi thế của sự hợp tác đa mô hình, thông qua mô hình xác thực tập thể để giảm thiểu thiên kiến và ảo giác.
Trong cấu trúc xác minh, giao thức Mira hỗ trợ việc chuyển đổi nội dung phức tạp thành các tuyên bố xác minh độc lập. Những tuyên bố này cần sự tham gia của các nhà điều hành nút để xác minh. Để đảm bảo tính trung thực của các nhà điều hành nút, Mira áp dụng cơ chế khuyến khích/ trừng phạt kinh tế mã hóa, với sự tham gia của các mô hình AI khác nhau và các nhà điều hành nút phân tán, nhằm đảm bảo tính đáng tin cậy của kết quả xác minh.
Kiến trúc mạng của Mira bao gồm chuyển đổi nội dung, xác thực phân tán và cơ chế đồng thuận, nhằm đạt được độ tin cậy của xác thực. Trong kiến trúc này, chuyển đổi nội dung là một phần quan trọng. Mạng Mira trước tiên phân tách nội dung ứng viên thành các tuyên bố có thể xác thực khác nhau, các tuyên bố này được hệ thống phân phối đến các nút để xác thực, nhằm xác định tính hợp lệ của các tuyên bố và tổng hợp kết quả để đạt được đồng thuận. Để bảo vệ quyền riêng tư của khách hàng, nội dung ứng viên được chuyển đổi thành các cặp tuyên bố và được phân phối đến các nút khác nhau theo cách phân mảnh ngẫu nhiên, nhằm ngăn chặn rò rỉ thông tin trong quá trình xác thực.
Các nhà điều hành nút chịu trách nhiệm vận hành mô hình xác thực, xử lý các tuyên bố và gửi kết quả xác thực. Họ tham gia vào việc xác thực vì có thể kiếm được lợi nhuận, những lợi nhuận này đến từ giá trị mà họ tạo ra cho khách hàng. Mục tiêu của mạng Mira là giảm tỷ lệ lỗi của AI, một khi đạt được mục tiêu này, nó có thể tạo ra giá trị lớn trong các lĩnh vực như y tế, pháp lý, hàng không, tài chính, v.v. Do đó, khách hàng sẵn sàng chi trả cho điều này. Để ngăn chặn hành vi đầu cơ của các nút phản hồi ngẫu nhiên, các nút liên tục lệch khỏi sự đồng thuận sẽ bị giảm token đặt cọc. Thông qua trò chơi của cơ chế kinh tế này, đảm bảo rằng các nhà điều hành nút tham gia xác thực một cách trung thực.
Tổng thể, Mira cung cấp một cách tiếp cận mới để đảm bảo độ tin cậy của AI. Nó xây dựng một mạng lưới xác thực đồng thuận phi tập trung dựa trên nhiều mô hình AI, mang lại độ tin cậy cao hơn cho dịch vụ AI của khách hàng, giảm thiểu thiên kiến và ảo tưởng của AI, nhằm đáp ứng nhu cầu của khách hàng về độ chính xác và tỷ lệ chính xác cao hơn. Đồng thời, trên cơ sở mang lại giá trị cho khách hàng, nó cũng mang lại lợi ích cho những người tham gia vào mạng lưới Mira. Nói tóm lại, Mira cố gắng xây dựng một lớp tin cậy cho AI, điều này sẽ thúc đẩy sự phát triển sâu sắc của các ứng dụng AI.
Hiện tại, Mira đã hợp tác với nhiều khung AI agent. Người dùng có thể tham gia vào mạng thử nghiệm công cộng của Mira thông qua ứng dụng trò chuyện LLM dựa trên Mira có tên là Klok. Sử dụng Klok, người dùng có thể trải nghiệm đầu ra AI đã được xác thực và có cơ hội kiếm điểm Mira. Về mục đích sử dụng trong tương lai của những điểm này, hiện vẫn chưa được công bố.