上下文压缩（Context Compression）技术有哪些？如何减少token消耗？

日期：2026-09-27
标签：#面试 #AI应用开发 #RAG #知识工程
难度：中等
来源：牛面题目详情

一句话答案

上下文压缩是在不丢失回答所需证据的前提下减少输入token，可通过过滤、摘要和内容抽取实现。

面试回答要点

• 先重排与去重，剔除无关切片。
• 对长证据抽取与问题相关的句子或生成摘要，同时保留出处。
• 用答案质量、证据覆盖率、延迟与token费用共同评估压缩效果。

自测

• 不看笔记，用 60 秒回答：上下文压缩（Context Compression）技术有哪些？如何减少token消耗？
• 结合自己的项目，补充一个具体场景、指标或取舍。