8月14日小红书开源280B参数MoE模型dots3-note preview,华为昇腾0 Day适配;8月19日Stripe以75亿美元收购AI路由平台Ope......
小红书联合北大、上交提出HYPIC,首个在混合注意力大模型上实现位置无关缓存的服务系统。针对线性层缓存转移算子、全注意力层采用缝合窗口、系统级并行加速冷请求,三......