跳到正文
arXiv 隐私论文· Hanieh Totonchi Asl·· 1 天前AI 评分38

Interflow:用算法-硬件协同设计打破边缘隐私 AI 的离线-在线壁垒

Interflow: Breaking the Offline-Online Barrier for Private AI at the Edge

AI 导读

Interflow 是一种算法-硬件协同设计,将 MPC 相关随机数生成与在线执行按批次流水线重叠,避免存储不足导致的停机补数。在 Zynq UltraScale+ ZCU102 上,CNN 与 transformer 非线性算子吞吐分别提升至多 1.55 倍和 1.48 倍,ResNet-50 与 BERT-base 加速至多 1.26 倍和 1.21 倍,内存占用降低至多 37%。

来源:arXiv 隐私论文 · arxiv.org