FinHot.

FINHOT / AI 与硬科技 / 论文研究

Apple 参与研究提出 Weighted State Souping,用于高效长上下文检索

Apple · Machine Learning Research

Apple 参与的研究提出 Weighted State Souping:让 SSM 分别编码文档、工具定义或记忆记录等 token 块并缓存状态,再学习查询相关权重来组合缓存状态,以构建下游查询上下文。

信源原题:Weighted State Souping for Efficient Long-Context Retrieval

阅读来源原文 ↗

摘要供资讯阅读参考,请核对原文。 反馈与更正 →

返回相关资讯 →