FINHOT / AI 与硬科技 / 论文研究
Apple 参与研究提出 Weighted State Souping,用于高效长上下文检索
Apple 参与的研究提出 Weighted State Souping:让 SSM 分别编码文档、工具定义或记忆记录等 token 块并缓存状态,再学习查询相关权重来组合缓存状态,以构建下游查询上下文。
信源原题:Weighted State Souping for Efficient Long-Context Retrieval
摘要供资讯阅读参考,请核对原文。 反馈与更正 →