Interflow软硬件协同设计加速MPC非线性推理
热点事件观察中
Interflow软硬件协同设计加速MPC非线性推理
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Hanieh Totonchi Asl 等人提出 Interflow 软硬件协同设计,把 MPC 相关随机数生成与在线执行按批次流水线重叠,避免因存储不足而停机补数。 在 Zynq UltraScale+ ZCU102 上,该设计使 CNN 与 transformer 非线性算子吞吐分别提升至多 1.55 倍和 1.48 倍,ResNet-50 与 BERT-base 加速至多 1.26 倍和 1.21 倍,内存占用降低至多 37%。上述数据来自作者在 arXiv 发布的论文。
AI 根据报道生成 · 49 分钟前更新
最新进展10月20日 08:30
Interflow:用算法-硬件协同设计打破边缘隐私 AI 的离线-在线壁垒报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- arXiv 隐私论文Interflow:用算法-硬件协同设计打破边缘隐私 AI 的离线-在线壁垒
Interflow 是一种算法-硬件协同设计,将 MPC 相关随机数生成与在线执行按批次流水线重叠,避免存储不足导致的停机补数。在 Zynq UltraScale+ ZCU102 上,CNN 与 transformer 非线性算子吞吐分别提升至多 1.55 倍和 1.48 倍,ResNet-50 与 BERT-base 加速至多 1.26 倍和 1.21 倍,内存占用降低至多 37%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。