3月1日,DeepSeek在知乎官方账号发布题为《DeepSeek-V3/R1推理系统概览》的文章。
文章披露了DeepSeek-V3/R1推理系统采用大规模跨节点专家并行(EP)技术来实现更大的吞吐和更低的延迟。为提升整个系统效率和GPU利用率,DeepSeek尽可能地为每个GPU分配均衡的计算负载、通信负载。
文章还披露了DeepSeek的成本、利润等关键信息。
DeepSeek-V3和R1的所有服务均使用H800 GPU。由于服务负荷白天高、晚上低,DeepSeek实现一套机制,在白天负荷高的时候用所有节点部署推理服务,晚上负荷低的时候减少推理节点。
2月27日至2月28日的24个小时内,DeepSeek-V3和R1推理服务占用节点总和,峰值占用为278个节点,平均占用226.75个节点(每个节点为8个H800 GPU)。假定GPU租赁成本为2美元/小时,总成本为87072美元/天。
若所有tokens的输入和输出全部按照DeepSeek R1的定价计算,理论上DeepSeek一天的总收入为562027美元,成本利润率高达545%。不过,由于DeepSeek-V3定价低于R1,且网页端和应用程序免费,仅部分服务产生收入,再加上非高峰时段设有夜间折扣,其实际收入不及理论数值。
2月26日,DeepSeek在官网宣布,北京时间每日00:30至08:30的夜间空闲时段,DeepSeek开放平台推出错峰优惠活动。在此期间,API调用价格大幅下调:DeepSeek-V3降至原价的50%,DeepSeek-R1更是低至25%。DeepSeek称,鼓励用户充分利用这一时段享受更经济更流畅的服务体验。
“DeepSeek开源周”自2月24日启动,期间DeepSeek陆续开源了众多最新技术进展,包括FlashMLA、DeepEP、DeepGEMM和3FS四个开源项目以及DualPipe、EPLB等代码库。这些开源成果在业内引发了热烈讨论。
- 随机文章
- 热门文章
- 热评文章
- 拍客|果园用无人机运送橙子单次可运约120斤:节约七八个人力
- 公安顺藤摸瓜,从100杯奶茶订单侦破跑分洗钱诈骗案
- 庆祝《哪吒2》票房破百亿江西一景区推出凭票根免门票活动今
- 别不当回事!男子牙疼数日,没想到是心肌梗死
- 南京师范大学一副院长被举报出轨女博士,校方回应
- 购买瓷砖、沙发、智能门锁均可补贴!山东家装厨卫焕新实施方案
- 手工饺子馄饨包子现包现售、直达餐桌——乌鲁木齐市面食企业打
- 文学花边·现场丨上海作协换届,马伯庸等6人增选为主席团委员