跳到正文
arXiv 隐私论文· Zhiyu Wang·· 19 小时前AI 评分31

EvoCache:用公共缓存锚点加速浏览器端大语言模型分发

EvoCache: Accelerating Browser Large Language Model Delivery with Public Cache Anchors

AI 导读

EvoCache 是浏览器管理的 LLM 分发系统,通过浏览器预存的公共缓存锚点无损重建网站请求的发布者版本,网站只指定目标、锚点选择与重建均由浏览器完成。对 1000 个公开仓库的审计发现,最热门的 100 个 LLM 中有 61 个由多个发布者提供,98.1% 的重叠版本无法被整文件缓存复用。

来源:arXiv 隐私论文 · arxiv.org