Nhóm mật mã của Nillion đang làm việc rất chăm chỉ! Bài báo Fission của chúng tôi vừa được chấp nhận tại Hội nghị IEEE 2025 về Truyền thông và An ninh Mạng, @ComSoc. _____ Suy diễn LLM riêng tư đã bị mắc kẹt trong một sự đánh đổi tồi tệ: Bạn có thể sử dụng mật mã như MPC hoặc FHE và giữ bí mật nhưng chậm, hoặc đi nhanh bằng cách sử dụng enclaves, nhưng có nguy cơ rò rỉ dữ liệu. Fission của Nillion giải quyết sự đánh đổi đó. Đây là một cách mới để chạy các mô hình ngôn ngữ lớn một cách an toàn và hiệu quả bằng cách kết hợp MPC với một mạng lưới các nhà đánh giá nhanh, an toàn (có thể chạy trong các enclaves an toàn). _____ Fission chạy các phần nhạy cảm của mô hình dưới MPC. Sau đó, nó chia nhỏ các đầu ra trung gian, xáo trộn chúng giữa nhiều bên đánh giá và yêu cầu họ tính toán các lớp tiếp theo. Khi hoàn tất, các đầu ra quay lại MPC cho vòng tiếp theo. MPC Đánh giá → Xáo trộn → Chia nhỏ → Đánh giá → Chia lại → Lặp lại. Điều này cho phép chúng tôi giữ thông tin riêng tư được bảo vệ, trong khi chuyển tải các khối tính toán nặng cho phần cứng đáng tin cậy, mà không bao giờ để một bên nào đó quá nhiều. Fission là một bước tiến hướng tới việc làm cho các LLM riêng tư trở nên thực tiễn, mà không hy sinh tốc độ hay an ninh. Khám phá bài báo tại đây:
6,32K