Machine Learning Lạc Quan: Dịch Vụ AI Blockchain Hiệu Quả và Chi Phí Thấp
Optimistic máy học ( OPML ) là một công nghệ mới, cho phép suy diễn và đào tạo/tinh chỉnh mô hình AI trên hệ thống blockchain. So với ZKML, OPML cung cấp dịch vụ ML kinh tế hơn và hiệu quả hơn, với ngưỡng tham gia thấp hơn. Hiện tại, PC thông thường không cần GPU cũng có thể chạy các mô hình ngôn ngữ lớn, như 26GB kích thước của 7B-LLaMA.
OPML áp dụng cơ chế trò chơi xác minh để đảm bảo tính phi tập trung và sự đồng thuận có thể xác minh của dịch vụ ML. Quy trình của nó như sau:
Người yêu cầu khởi động nhiệm vụ dịch vụ ML
Máy chủ hoàn thành nhiệm vụ và gửi kết quả lên chuỗi.
Kết quả kiểm tra của người xác nhận, nếu có tranh chấp thì khởi động trò chơi xác thực.
Hợp đồng thông minh tiến hành trọng tài cuối cùng
Trò chơi xác thực một giai đoạn của OPML tương tự như ủy thác tính toán (RDoC). Nó xây dựng một máy ảo cho việc thực thi ngoài chuỗi và trọng tài trên chuỗi, và triển khai một thư viện DNN nhẹ chuyên biệt để nâng cao hiệu suất suy diễn AI. Hình ảnh máy ảo được quản lý thông qua cây Merkle, chỉ tải lên chuỗi giá trị băm gốc.
Hạn chế chính của trò chơi xác thực một giai đoạn là tất cả các phép toán phải được thực hiện trong máy ảo, không thể tận dụng tối đa việc tăng tốc GPU/TPU. Để giải quyết vấn đề này, OPML đã đề xuất giao thức xác thực đa giai đoạn. Trong giao thức đa giai đoạn, chỉ giai đoạn cuối cần tính toán trong VM, các giai đoạn khác có thể thực hiện linh hoạt trong môi trường cục bộ, từ đó cải thiện hiệu suất một cách đáng kể.
Lấy mô hình LLaMA làm ví dụ, quy trình làm việc của OPML hai giai đoạn như sau:
Giai đoạn thứ hai thực hiện xác minh trò chơi trên đồ thị tính toán, có thể sử dụng CPU hoặc GPU đa luồng.
Giai đoạn đầu tiên sẽ chuyển đổi tính toán của nút đơn thành các lệnh VM để xác thực.
So với OPML một giai đoạn, OPML đa giai đoạn có thể đạt được tốc độ tính toán tăng α lần, trong đó α là tỷ lệ tăng tốc của GPU hoặc tính toán song song. Ngoài ra, kích thước cây Merkel của OPML đa giai đoạn cũng nhỏ hơn đáng kể so với OPML một giai đoạn.
Để đảm bảo tính nhất quán của kết quả ML, OPML đã sử dụng thuật toán số cố định và thư viện số thực dựa trên phần mềm. Những công nghệ này có thể giảm thiểu ảnh hưởng của lỗi làm tròn số thực và đảm bảo tính nhất quán của kết quả trên các nền tảng.
Tổng thể, OPML cung cấp một giải pháp hiệu quả, chi phí thấp và mở rộng cho các dịch vụ AI trên Blockchain. Nó không chỉ hỗ trợ suy diễn mô hình mà còn có thể được sử dụng cho việc đào tạo mô hình, là một khung học máy đa năng.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
9 thích
Phần thưởng
9
3
Chia sẻ
Bình luận
0/400
RumbleValidator
· 11giờ trước
Hiệu suất xác minh vượt xa mong đợi, tôi rất ủng hộ kiến trúc như vậy.
Xem bản gốcTrả lời0
BlockchainThinkTank
· 11giờ trước
Khuyên mọi người nên cẩn thận trong việc phán đoán, các dự án ML tương tự đã thất bại vào năm 2018, cần suy nghĩ kỹ trước khi chạy theo.
Xem bản gốcTrả lời0
DancingCandles
· 11giờ trước
bull à bạn thân không cần card đồ họa cũng có thể làm AI
Optimistic học máy: Con đường cách mạng dịch vụ AI Blockchain
Machine Learning Lạc Quan: Dịch Vụ AI Blockchain Hiệu Quả và Chi Phí Thấp
Optimistic máy học ( OPML ) là một công nghệ mới, cho phép suy diễn và đào tạo/tinh chỉnh mô hình AI trên hệ thống blockchain. So với ZKML, OPML cung cấp dịch vụ ML kinh tế hơn và hiệu quả hơn, với ngưỡng tham gia thấp hơn. Hiện tại, PC thông thường không cần GPU cũng có thể chạy các mô hình ngôn ngữ lớn, như 26GB kích thước của 7B-LLaMA.
OPML áp dụng cơ chế trò chơi xác minh để đảm bảo tính phi tập trung và sự đồng thuận có thể xác minh của dịch vụ ML. Quy trình của nó như sau:
Trò chơi xác thực một giai đoạn của OPML tương tự như ủy thác tính toán (RDoC). Nó xây dựng một máy ảo cho việc thực thi ngoài chuỗi và trọng tài trên chuỗi, và triển khai một thư viện DNN nhẹ chuyên biệt để nâng cao hiệu suất suy diễn AI. Hình ảnh máy ảo được quản lý thông qua cây Merkle, chỉ tải lên chuỗi giá trị băm gốc.
Hạn chế chính của trò chơi xác thực một giai đoạn là tất cả các phép toán phải được thực hiện trong máy ảo, không thể tận dụng tối đa việc tăng tốc GPU/TPU. Để giải quyết vấn đề này, OPML đã đề xuất giao thức xác thực đa giai đoạn. Trong giao thức đa giai đoạn, chỉ giai đoạn cuối cần tính toán trong VM, các giai đoạn khác có thể thực hiện linh hoạt trong môi trường cục bộ, từ đó cải thiện hiệu suất một cách đáng kể.
Lấy mô hình LLaMA làm ví dụ, quy trình làm việc của OPML hai giai đoạn như sau:
So với OPML một giai đoạn, OPML đa giai đoạn có thể đạt được tốc độ tính toán tăng α lần, trong đó α là tỷ lệ tăng tốc của GPU hoặc tính toán song song. Ngoài ra, kích thước cây Merkel của OPML đa giai đoạn cũng nhỏ hơn đáng kể so với OPML một giai đoạn.
Để đảm bảo tính nhất quán của kết quả ML, OPML đã sử dụng thuật toán số cố định và thư viện số thực dựa trên phần mềm. Những công nghệ này có thể giảm thiểu ảnh hưởng của lỗi làm tròn số thực và đảm bảo tính nhất quán của kết quả trên các nền tảng.
Tổng thể, OPML cung cấp một giải pháp hiệu quả, chi phí thấp và mở rộng cho các dịch vụ AI trên Blockchain. Nó không chỉ hỗ trợ suy diễn mô hình mà còn có thể được sử dụng cho việc đào tạo mô hình, là một khung học máy đa năng.