Manus đạt được thành tựu đột phá trong bài kiểm tra điểm chuẩn GAIA, gây ra tranh cãi về lộ trình phát triển AI

Manus đã thể hiện hiệu suất vượt trội trong bài kiểm tra điểm chuẩn GAIA, vượt qua các mô hình ngôn ngữ lớn cùng cấp. Thành tựu này cho thấy Manus có khả năng hoàn thành các nhiệm vụ phức tạp một cách độc lập, chẳng hạn như xử lý các cuộc đàm phán thương mại xuyên quốc gia, bao gồm phân tích điều khoản hợp đồng, lập chiến lược và tạo ra các giải pháp ở nhiều giai đoạn khác nhau. Ưu điểm của Manus chủ yếu nằm ở ba khía cạnh: phân giải mục tiêu động, suy luận đa phương tiện và học tập tăng cường trí nhớ. Nó có thể phân chia các nhiệm vụ phức tạp thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu khác nhau và liên tục nâng cao hiệu quả quyết định cũng như giảm tỷ lệ sai sót thông qua học tập tăng cường.

Sự xuất hiện của Manus lại kích thích cuộc thảo luận trong ngành về lộ trình phát triển AI: Tương lai có phải là hướng tới một mô hình thống nhất của trí tuệ nhân tạo tổng quát (AGI), hay là sự dẫn dắt hợp tác của các hệ thống đa tác nhân (MAS)?

Vấn đề này liên quan đến triết lý thiết kế của Manus, gợi ý hai hướng phát triển có thể xảy ra:

1. Đường đi của AGI: Thông qua việc liên tục nâng cao khả năng của một hệ thống trí tuệ đơn lẻ, làm cho nó dần dần tiến gần đến mức độ ra quyết định tổng hợp của con người.

2. Đường MAS: Xác định Manus là siêu điều phối viên, chỉ huy hàng ngàn tác nhân chuyên môn làm việc cùng nhau.

Bề ngoài, đây là sự khác biệt về con đường công nghệ, nhưng thực tế phản ánh mâu thuẫn cơ bản trong sự phát triển của AI: làm thế nào để cân bằng hiệu suất và an toàn? Khi một hệ thống thông minh đơn lẻ càng gần AGI, rủi ro về tính không minh bạch trong quá trình ra quyết định càng cao; trong khi sự hợp tác giữa nhiều tác nhân thông minh mặc dù có thể phân tán rủi ro, nhưng có thể bỏ lỡ thời điểm ra quyết định quan trọng do độ trễ trong giao tiếp.

Sự tiến bộ của Manus vô hình chung phóng đại những rủi ro vốn có trong phát triển AI. Ví dụ:

1. Vấn đề quyền riêng tư dữ liệu: Trong lĩnh vực y tế, Manus có thể cần truy cập theo thời gian thực vào dữ liệu gen của bệnh nhân; trong các cuộc đàm phán tài chính, có thể liên quan đến thông tin tài chính chưa công bố của doanh nghiệp.

2. Thiên kiến thuật toán: Trong quá trình tuyển dụng, Manus có thể đưa ra các đề xuất lương không công bằng cho các nhóm cụ thể; khi xem xét hợp đồng pháp lý, có thể có tỷ lệ sai sót lên đến 50% đối với các điều khoản của ngành mới nổi.

3. Lỗ hổng tấn công đối kháng: Hacker có thể thông qua việc cấy ghép tín hiệu âm thanh cụ thể, dẫn đến việc Manus sai lầm trong việc đánh giá phạm vi báo giá của đối thủ trong thương lượng.

Những vấn đề này làm nổi bật một xu hướng đáng lo ngại: Hệ thống thông minh càng mạnh mẽ, thì bề mặt tấn công tiềm năng của nó cũng càng rộng.

Trong lĩnh vực Web3, an ninh luôn là một chủ đề được quan tâm. Lý thuyết "Tam giác không thể" do Vitalik Buterin, người sáng lập Ethereum, đưa ra (mạng lưới blockchain không thể đồng thời đạt được an ninh, phi tập trung và khả năng mở rộng) đã truyền cảm hứng cho sự phát triển của nhiều công nghệ mã hóa:

1. Mô hình bảo mật không tin cậy: Tuân theo nguyên tắc "Không bao giờ tin tưởng, luôn xác minh" để thực hiện xác thực và ủy quyền nghiêm ngặt cho mỗi yêu cầu truy cập.

2. Danh tính phi tập trung (DID): một tiêu chuẩn nhận dạng không cần cơ quan đăng ký tập trung, tạo ra quản lý danh tính số phi tập trung mới.

3. Mã hóa toàn đồng (FHE): cho phép thực hiện tính toán trên dữ liệu trong trạng thái mã hóa, phù hợp với các tình huống điện toán đám mây và thuê ngoài dữ liệu cần bảo vệ dữ liệu gốc.

Trong số các công nghệ này, mã hóa toàn đồng nhất được coi là công nghệ then chốt để giải quyết các vấn đề bảo mật trong thời đại AI. Nó có thể cung cấp bảo vệ ở một số cấp độ sau:

1. Khía cạnh dữ liệu: Tất cả thông tin do người dùng nhập (bao gồm đặc điểm sinh học, giọng nói, v.v.) được xử lý trong trạng thái mã hóa, ngay cả Manus cũng không thể giải mã dữ liệu gốc.

2. Khía cạnh thuật toán: Thực hiện "huấn luyện mô hình mã hóa" thông qua FHE, khiến ngay cả các nhà phát triển cũng không thể hiểu trực tiếp quá trình ra quyết định của AI.

3. Khía cạnh hợp tác: Giao tiếp giữa các tác nhân thông minh sử dụng mã hóa ngưỡng, ngay cả khi một nút đơn lẻ bị xâm phạm, cũng sẽ không dẫn đến rò rỉ dữ liệu toàn cầu.

Mặc dù công nghệ an ninh Web3 có thể có vẻ xa lạ đối với người dùng thông thường, nhưng chúng có liên quan mật thiết đến lợi ích của mọi người. Trong môi trường đầy thách thức này, việc tăng cường các biện pháp an ninh liên tục là chìa khóa để tránh trở thành "cỏ".

Một số dự án đáng chú ý bao gồm:

• uPort: Có thể là dự án danh tính phi tập trung đầu tiên được phát hành trên mạng chính Ethereum.
• NKN: Đã có những thành tựu trong mô hình an ninh không tin cậy.
• Mind Network: Là dự án FHE đầu tiên ra mắt trên mạng chính, đã thiết lập quan hệ hợp tác với nhiều tổ chức nổi tiếng.

Mặc dù các dự án an toàn thường không được các nhà đầu tư đầu cơ ưa chuộng, nhưng chúng lại rất quan trọng cho sự phát triển lâu dài của công nghệ AI và blockchain. Khi công nghệ AI ngày càng tiến gần đến trình độ thông minh của con người, các hệ thống phòng thủ phi truyền thống trở nên ngày càng quan trọng. FHE không chỉ giải quyết các vấn đề an ninh hiện tại, mà còn đặt nền tảng cho kỷ nguyên AI mạnh mẽ trong tương lai. Trên con đường hướng tới AGI, FHE đã từ một tùy chọn trở thành một điều cần thiết để tồn tại.