Nillions kryptografiteam lagar full mat! Vårt Fission-papper blev precis accepterat vid 2025 IEEE Conference on Communications and Network Security, @ComSoc. _____ Privat LLM-inferens har fastnat i en dålig kompromiss: Du kan antingen använda kryptografi som MPC eller FHE och förbli privat men långsam, eller gå snabbt med enklaver, men riskera att läcka data. Nillions fission löser den kompromissen. Det är ett nytt sätt att köra stora språkmodeller på ett säkert och effektivt sätt genom att kombinera MPC med ett nätverk av snabba, säkra utvärderare (som kan köras i säkra enklaver). _____ Fission kör känsliga delar av modellen under MPC. Sedan delar den upp de mellanliggande utdata, blandar dem mellan flera utvärderarparter och låter dem beräkna nästa lager. När du är klar går utgångarna in i MPC igen för nästa omgång. MPC Utvärdera → blanda → dela → utvärdera → dela vidare → upprepa. På så sätt kan vi hålla den privata informationen skyddad, samtidigt som vi avlastar tunga beräkningsbitar till betrodd maskinvara, utan att någonsin ge en part för mycket. Fission är ett steg mot att göra privata LLM:er praktiska, utan att offra hastighet eller säkerhet. Dyk ner i tidningen här: