先了解这件事
AI 综述
2024年8月2日,DeepSeek为API上线磁盘上下文缓存功能(Context Caching on Disk),将预期会被复用的内容缓存在分布式磁盘阵列上,检测到重复输入时直接读取缓存而不再重新计算。据DeepSeek API更新日志,缓存命中部分按每百万token $0.014计费,API成本最高降低90%,官方称历史数据显示用户平均节省超过50%。该服务对所有用户自动开启,无需改动代码或接口;但只有从第0个token起前缀完全相同的请求才会命中,缓存以64 token为存储单位,小于64 token的内容不会被缓存。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
DeepSeek API 上线磁盘上下文缓存，价格最高降低 90%事件进展
1 个已确认进展
- 来源：DeepSeek API 更新日志
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月9日
DeepSeek API 更新日志一手精选
DeepSeek API 上线磁盘上下文缓存，价格最高降低 90%
DeepSeek 为 API 推出 Context Caching on Disk，把预期会被复用的内容缓存在分布式磁盘阵列上，检测到重复输入时直接读取缓存而不再重新计算。缓存命中部分按每百万 token $0.014 计费，API 成本最高降低 90%，官方称历史数据显示用户平均节省超过 50%。该服务对所有用户自动开启，无需改动代码或接口，但只有从第 0 个 token 起前缀完全相同的请求才会命中，缓存以 64 token 为存储单位，小于 64 token 的内容不会被缓存。