DeepSeek Imposes Usage Limits on App and Web Versions Due to Compute Shortage
English text is being prepared.
Due to tight supply of compute resources, DeepSeek has introduced usage limits for its App and web-based chat services for ordinary users, including no longer supporting long conversations that have existed for more than 7 days without active interaction, a cap of about 40,000 characters per single input, and limits on daily conversation quotas. Industry analysis suggests the move is intended to reclaim KV cache resources occupied by idle sessions and prioritize the inference needs of active users. According to DeepSeek's official status page, there have been multiple service interruptions since October, and from August to October the availability of the V4.1 Flash API was 99.46%, while the V4 Pro API was 99.74%.
Why read this
AI score 65
The original article outlines the specific rules of the limits and the compute pressure behind them, so readers can understand how the strain on inference resources is passed on to ordinary users.
Topics
Body
11月16日,科创版日报,因算力资源供给紧张,DeepSeek面向普通用户的App及网页版对话服务推出限额使用措施。
据多名用户反馈,DeekSeek出现弹窗提示,受算力约束,不再支持存续超过7天且无活跃交互的长对话,这类闲置会话将无法接续使用,与此同时下调单次输入文本上限,当前单次输入文字上限约为4万字。此外,还会限制每日的对话额度,当用户日使用量达到上限时,会提示“因服务器繁忙,使用额度已达上限” 。
行业分析认为,该调整意在回收闲置会话占用的KV缓存资源,优先保障活跃用户的推理需求。KV缓存是大模型为加速对话、保留下文上下文而驻留在GPU显存中的中间数据,长对话会持续累积KV缓存,长期闲置会话会持续占用稀缺显存资源。
DeepSeek的算力持续承压,10月以来出现过多次服务中断,状态页记录8起故障。据DeepSeek官方状态页的事件记录,分别发生在10月2日、10月8日、10月12日(当日两次)、10月15日、10月20日、10月27日、11月3日,包含两类不同等级异常,并非全部为完全宕机:其中以性能降级居多,表现为响应变慢、生成延迟高、偶发请求失败,用户仍有概率提交对话;少数为部分中断。
其中,10月15日故障持续超过4小时,C端网页、App对话服务与V4 Pro、V4.1 Flash API同步受限,也是10月影响范围最大、持续时间最长的一次故障,事后 DeepSeek针对API用户推出赠金补偿方案,并称“坚决杜绝同类问题再次发生”。其余故障大多持续数分钟至数十分钟,部分仅波及搜索附属工具,不影响基础对话能力。
据DeepSeek官方状态页,8月至10月,V4.1 Flash API可用性为99.46%,V4 Pro API为99.74%。有媒体折成时间直观估算,一年8760小时,99.46%意味着用户平均每年有47.3个小时用不了Flash;V4 Pro对应的是约22.8小时。
11月13日,DeepSeek正式开放全家桶应用API。在原有API中开启对应参数,即可获得深度思考搜索、文件输入等对话功能;语音及相关底层能力也已开放独立接口(含OCR、ASR、TTS等),支持单独或组合调用。开发者可以在自己的应用中轻松实现复杂的对话功能,甚至1:1复刻出完整的DeepSeek App。
在算力供给承压背景下,DeepSeek陆续推出多项技术、定价与调度手段主动调节算力负载。
除了减少KV缓存压力,节约昂贵的HBM显存,DeepSeek在定价调度上对API 服务启用峰谷分时定价,闲时价格为高峰时段一半,引导开发者错峰调用,平滑峰值流量。调度机制上,API侧维持独立并发限额,deepseek-flash、v4-pro分别设置2500、500账号并发上限,与C端服务资源池隔离。
科技日报10月报道,DeepSeek计划在乌兰察布建设GW级数据中心,部署至少16万颗国产AI芯片。如完成,这里将成为国内规模靠前的国产AI推理算力集群,整个集群预计2027年底至2028年初逐步投产。
另据中国新闻周刊,10月DeepSeek完成二轮融资1055亿元,投后估值6155亿元,腾讯、宁德时代等近30家机构入局。DeepSeek官方没有发布公告确认融资金额、估值、资金用途。市场认为,本轮资金首要投向为算力基础设施建设,同时用于大模型训练、研发团队扩充,支撑模型迭代等。
API聚合平台OpenRouter的周度调用榜单上,统计周期10月19日至25日,DeepSeek10月17日更新的 V4.1-Flash-1017 版本以33.6 万亿Token的周调用量位列榜单第一,环比增幅 801%;旧版V4.1 Flash同步以18万亿Token排在第二位,该周期榜单前五席位全部由国内大模型占据。
算力供给紧张并非DeepSeek单独遇到的问题,海内外头部AI厂商普遍面临推理、训练算力资源承压的局面,行业也纷纷加码投入智算中心与算力硬件。
国内多家科技公司管理层在财报沟通会提及,算力利用率处于高位、硬件供给紧张,资本开支主要投向AI基础设施、服务器与芯片采购,用于自有大模型训练、推理及云客户AI需求。
海外方面,OpenAI、Anthropic等公司同样持续锁定远期算力资源,通过长期大额算力合同锁定未来数年的芯片与机房资源,支撑模型迭代与用户调用增长。OpenAI与AWS签署7年期算力合作协议,承诺投入380亿美元,分批获取数十万颗英伟达GPU算力,集群部署周期覆盖至2027年以后;Anthropic在IPO招股书中披露,已和谷歌达成至少1145亿美元算力采购承诺,协议周期至 2033年7月。
本文来自微信公众号“界面新闻”,作者:沈霄戈,36氪经授权发布。