普思APP APP下载二维码 扫码下载 APP 公众号 公众号二维码 扫码关注公众号 社群 投稿
登录 注册 退出
思普博客 AI资讯+
热门搜索:
快讯

标签:小红书

共 8 篇文章
小红书联手北大上交提出HYPIC,混合注意力大模型首token延迟平均降3.25倍 AI

小红书联手北大上交提出HYPIC,混合注意力大模型首token延迟平均降3.25倍

小红书联合北大、上交提出HYPIC,首个在混合注意力大模型上实现位置无关缓存的服务系统。针对线性层缓存转移算子、全注意力层采用缝合窗口、系统级并行加速冷请求,三......

普思 2026-07-17 21:14:16 6 阅读