🫡 @Mira_Network muốn đổi cách suy nghĩ để phá vỡ thế bế tắc — thay vì để AI tự quyết định, tốt hơn là xây dựng một hệ thống đứng ở "tầng trên" của AI, chuyên chịu trách nhiệm xác minh xem những gì AI nói có đúng hay không. Bây giờ mọi người đều nói AI có bao nhiêu 牛, nhưng những tình huống thực sự có thể triển khai thì thực sự rất hạn chế.
Nói cho cùng, vấn đề lớn nhất của AI hiện nay chính là "không đáng tin cậy" - nó có thể viết ra những nội dung có vẻ rất logic, nhưng khi bạn xem kỹ, bạn sẽ phát hiện ra bên trong thường xuyên có những điều giả mạo. Vấn đề này thì còn chấp nhận được trong các chatbot, nhưng một khi áp dụng vào các lĩnh vực rủi ro cao như y tế, pháp luật, tài chính thì hoàn toàn không thể chấp nhận.
AI tại sao lại như vậy? Một lý do cốt lõi là nó luôn không thể cân bằng giữa "độ chính xác" và "tính ổn định". Nếu bạn muốn nó xuất ra một cách ổn định hơn, bạn phải thu thập dữ liệu huấn luyện sạch hơn, kết quả là dễ dàng đưa vào sự thiên lệch. Ngược lại, nếu bạn muốn nó gần gũi hơn với thế giới thực, bao quát hơn, bạn phải đưa vào nhiều thông tin mâu thuẫn, mô hình sẽ trở nên "nói không đáng tin cậy", tức là dễ bị ảo giác.
Cách này giống như việc trang bị cho AI một "người kiểm tra sự thật". AI trước tiên xuất nội dung, sau đó Mira sẽ phân tách nội dung này thành từng đoạn nhỏ để đánh giá, rồi giao cho nhiều mô hình độc lập để xác minh xem những kết luận này có đáng tin cậy không. Sau khi nhiều mô hình đạt được sự đồng thuận, một báo cáo xác minh sẽ được tạo ra thông qua các nút trên chuỗi, tương đương với việc đánh dấu "đã được kiểm tra".
Hướng đi này rất thú vị, vì nó không phải là để thay đổi "não" của AI, mà là trang bị cho AI một "hệ thống giám sát". Nếu hệ thống này thực sự hoạt động tốt, trong tương lai chúng ta có thể yên tâm để AI thực hiện những công việc phức tạp hơn, rủi ro cao hơn, chẳng hạn như tự động viết hợp đồng, tự động kiểm tra mã, thậm chí ra quyết định độc lập. Đây mới thực sự là cơ sở hạ tầng AI.
Điều quan trọng là nó có hoạt động bảng xếp hạng trên @KaitoAI, gần đây @arbitrum @Aptos @0xPolygon @shoutdotfun $ENERGY cũng đang rất hot.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
🫡 @Mira_Network muốn đổi cách suy nghĩ để phá vỡ thế bế tắc — thay vì để AI tự quyết định, tốt hơn là xây dựng một hệ thống đứng ở "tầng trên" của AI, chuyên chịu trách nhiệm xác minh xem những gì AI nói có đúng hay không. Bây giờ mọi người đều nói AI có bao nhiêu 牛, nhưng những tình huống thực sự có thể triển khai thì thực sự rất hạn chế.
Nói cho cùng, vấn đề lớn nhất của AI hiện nay chính là "không đáng tin cậy" - nó có thể viết ra những nội dung có vẻ rất logic, nhưng khi bạn xem kỹ, bạn sẽ phát hiện ra bên trong thường xuyên có những điều giả mạo. Vấn đề này thì còn chấp nhận được trong các chatbot, nhưng một khi áp dụng vào các lĩnh vực rủi ro cao như y tế, pháp luật, tài chính thì hoàn toàn không thể chấp nhận.
AI tại sao lại như vậy? Một lý do cốt lõi là nó luôn không thể cân bằng giữa "độ chính xác" và "tính ổn định". Nếu bạn muốn nó xuất ra một cách ổn định hơn, bạn phải thu thập dữ liệu huấn luyện sạch hơn, kết quả là dễ dàng đưa vào sự thiên lệch. Ngược lại, nếu bạn muốn nó gần gũi hơn với thế giới thực, bao quát hơn, bạn phải đưa vào nhiều thông tin mâu thuẫn, mô hình sẽ trở nên "nói không đáng tin cậy", tức là dễ bị ảo giác.
Cách này giống như việc trang bị cho AI một "người kiểm tra sự thật". AI trước tiên xuất nội dung, sau đó Mira sẽ phân tách nội dung này thành từng đoạn nhỏ để đánh giá, rồi giao cho nhiều mô hình độc lập để xác minh xem những kết luận này có đáng tin cậy không. Sau khi nhiều mô hình đạt được sự đồng thuận, một báo cáo xác minh sẽ được tạo ra thông qua các nút trên chuỗi, tương đương với việc đánh dấu "đã được kiểm tra".
Hướng đi này rất thú vị, vì nó không phải là để thay đổi "não" của AI, mà là trang bị cho AI một "hệ thống giám sát". Nếu hệ thống này thực sự hoạt động tốt, trong tương lai chúng ta có thể yên tâm để AI thực hiện những công việc phức tạp hơn, rủi ro cao hơn, chẳng hạn như tự động viết hợp đồng, tự động kiểm tra mã, thậm chí ra quyết định độc lập. Đây mới thực sự là cơ sở hạ tầng AI.
Điều quan trọng là nó có hoạt động bảng xếp hạng trên @KaitoAI, gần đây @arbitrum @Aptos @0xPolygon @shoutdotfun $ENERGY cũng đang rất hot.