Edgee Codex Compressor V2

我们对Codex进行了单独测试，并与通过Edgee的压缩网关处理后的Codex进行了比较，都是在同一个代码库、使用同一个模型和相同的工作流程下进行的。结果显示，Codex加上Edgee的组合使用的输入令牌减少了49.5%，缓存命中率从76.1%提高到了85.4%，总会话成本降低了35.6%。这篇文章将详细分析为什么上下文压缩能让Codex变得更高效、更节省，并且在不牺牲有用输出的前提下显著降低运行成本。