LLM中间件

Headroom：LLM应用的上下文优化层，压缩工具输出与RAG结果，节省Token

Headroom作为LLM应用的上下文优化层，能在模型处理前压缩工具输出、数据库结果、文件读取及RAG结果。在保持答案质量不变的前提下，大幅减少Token消耗，提升效率并降低成本。