Команда криптографии Nillion усердно работает! Наша работа по Fission только что была принята на Конференцию IEEE 2025 по коммуникациям и безопасности сетей, @ComSoc. _____ Частная инференция LLM застряла в плохом компромиссе: вы можете использовать криптографию, такую как MPC или FHE, и оставаться приватным, но медленным, или идти быстро, используя защищенные окружения, но рисковать утечкой данных. Fission от Nillion решает этот компромисс. Это новый способ безопасного и эффективного запуска больших языковых моделей, комбинируя MPC с сетью быстрых, безопасных оценщиков (которые могут работать в защищенных окружениях). _____ Fission запускает чувствительные части модели под MPC. Затем он делит промежуточные выходные данные, перемешивает их между несколькими сторонами оценщиков и заставляет их вычислять следующие слои. После завершения выходные данные снова попадают в MPC для следующего раунда. MPC Оценка → Перемешивание → Деление → Оценка → Повторное распределение → Повторить. Это позволяет нам защищать частную информацию, одновременно разгружая тяжелые вычисления на доверенное оборудование, не передавая одной стороне слишком много. Fission — это шаг к тому, чтобы сделать частные LLM практичными, не жертвуя скоростью или безопасностью. Погрузитесь в статью здесь:
6,31K