3月1日，DeepSeek在知乎上发表题为《DeepSeek-V3/R1 推理系统概览》的文章，全面揭晓V3/R1 推理系统背后的关键秘密。

　　据文章介绍，DeepSeek-V3/R1推理系统的优化目标是更大的吞吐、更低的延迟。为了实现这两个目标，DeepSeek使用了大规模跨节点专家并行（Expert Parallelism / EP）的方法，并通过一系列技术策略，最大程度地优化了大模型推理系统，实现了惊人的性能和效率。

　　具体而言，在更大的吞吐的方面，大规模跨节点专家并行能够使得batch size（批尺寸）大大增加，从而提高GPU矩阵乘法的效率，提高吞吐。

　　batch size在深度学习中是一个非常重要的超参数，指模型在训练过程中每次使用的数据量大小。它决定了每次模型更新时使用的训练样本数量，调整batch size可以影响模型的训练速度、内存消耗以及模型权重的更新方式。

　　在更低的延迟方面，大规模跨节点专家并行使得专家分散在不同的GPU上，每个GPU只需要计算很少的专家（因此更少的访存需求），从而降低延迟。

　　但是，由于大规模跨节点专家并行会大幅增加系统的复杂性，带来了跨节点通信、多节点数据并行、负载均衡等挑战，因此DeepSeek在文章中也重点论述了使用大规模跨节点专家并行增大batch size的同时，如何隐藏传输的耗时，如何进行负载均衡。

　　具体来看，DeepSeek团队主要通过规模化跨节点专家并行、双批次重叠策略、最优负载均衡等方式，最大化资源利用率，保证高性能和稳定性。

　　值得注意的是，文章还披露了DeepSeek的理论成本和利润率等关键信息。据介绍，DeepSeek V3 和R1的所有服务均使用英伟达的H800 GPU，由于白天的服务负荷高，晚上的服务负荷低，DeepSeek实现了一套机制，一竞技在白天负荷高的时候，用所有节点部署推理服务。晚上负荷低的时候，减少推理节点，以用来做研究和训练。

　　通过时间上的成本控制，DeepSeek表示DeepSeek V3和R1推理服务占用节点总和，峰值占用为278个节点，平均占用226.75个节点（每个节点为8个H800 GPU）。假定GPU租赁成本为2美元/小时，总成本为87072美元/天；如果所有tokens全部按照DeepSeek R1的定价计算，理论上一天的总收入为562027美元/天，成本利润率为545%。

　　不过，DeepSeek也强调，实际上的收入或许并没有那么多，因为V3的定价相较于R1要更低，另外夜间还会有折扣。记者注意到，2月26日，DeepSeek在其API开放平台发布错峰优惠活动通知。根据通知，北京时间每日00:30-08:30为错峰时段，API调用价格大幅下调，其中DeepSeek-V3降至原价的50%，DeepSeek-R1降至25%。DeepSeek鼓励用户在该时段调用，享受更经济更流畅的服务体验。

　　上周五（2月21日），DeepSeek宣布连续五天开源五大软件库。2月25日DeepSeek选择了先在GitHub上线，然后再在官推发布上新通知。该公司25日宣布将DeepEP向公众开放。在宣布后的约20分钟内，DeepEP已在GitHub、微软（等平台上获得超过1000个Star收藏。

　　据悉，DeepEP是MoE模型训练和推理的ExpertParallelism通信基础，可实现高效优化的全到全通信，以支持包括FP8在内的低精度计算，适用于现代高性能计算。DeepEP还针对从NVLink到RDMA的非对称带宽转发场景进行了深度优化，不仅提供高吞吐量，还支持流式多处理器数量控制，从而在训练和推理任务中实现高吞吐量性能。

　　免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。

　　02月26日，中国首张蛋白粉备案凭证发放，伟德app最新版，云顶娱乐网页手机版，新万博官网登录，线日，国家统计局：新动能已经成为引领高质量发展的重要引擎，球探比分，云顶国际在哪玩，优博怎么开户，lol赌外围

　　02月26日，（粤港澳大湾区）澳门青年法律代表建言献策 助力琴澳一体化建设，188亚洲体育与，bbin官网，纬来体育登录官网，金沙网页游戏cQ9

　　02月26日香港警务处九龙城警区少年警讯团参访桂林有哪些试玩的大神捕鱼贝博网站app登录入口亚美国际平台电子游艺平台大全

　　02月26日浙江计划2025年底建成千个星级社区服务综合体乐投体育APP永利34511登录网上娱乐登录注册送钱的游戏网站

　　02月26日跳水世界杯总决赛：陈芋汐逆转夺冠 全红婵错失大满贯欧洲轮盘游戏话中有意至尊赌场免费下载扎金花什么是喜钱……

　　02月26日，陕西省政协原主席韩勇涉嫌受贿被公诉，博鱼外围官网，网上斗牛哪个平台好些，英超比分，betbet365

　　02月26日，【光明论坛】坚持守正创新 不断取得改革新突破，龙卷风B，天博TB官网下载，美高梅游戏网，跳高高游戏网址大全

　　02月26日开泰研究中心：泰国能源类产品价格上涨致通胀回升亚美下载利记官网多少美高梅手机版百玩游戏

　　02月26日，全国大部气温波动回升 南方明起雨水再增多 ，美国服务器网站，莆田新莆京官方网站，12BET注册，银河app平台网址

　　02月26日，浙东运河第一部“百科全书”面世，tyc娱乐网址，一竞技高手解挂，立博app官网，网上线日，【东西问·中外对话】丘索维金娜：中国举办奥运会可靠、有序，这对运动员很重要，易胜博备用网址，可以网投的，亚新登录，尊龙注册彩金

　　02月26日大力弘扬教育家精神｜张小龙：快乐的苦行僧 幸福的追梦人威斯尼斯人官方网站登录万博体max在线打牌可提现在线沙巴体育注册登录

　　02月26日美国副国务卿：尹锡悦宣布令是“严重误判”2020最新送彩金网址橄榄球游戏全民捕鱼下载安装王中王彩料

　　02月26日云南镇雄山体滑坡：搜救出6名失联人员 已无生命体征英亚体育官方下载银河国际为啥登录不了了ag捕鱼网库博体育登录网

　　公安部网安局听说过AI造谣吗？，数字版玩家一年大概要花多少钱？全国政协十四届二次会议在京闭幕海洋之神8590亚博外围官网十大棋牌软件518娱乐城

　　孙杨复出首秀 小组第一晋级决赛，男子用菜刀砍伤妻子辩称管教不犯法2023年中国持枪爆炸犯罪案件同比下降20%升博手机版登陆永利登入视讯米乐游戏官方网站波克城市捕鱼千炮版正版

　　网红城市们这个五一客流怎样？， 探访救人英雄栾留伟火锅店蒋勤勤获第十七届亚洲电影大奖影后真钱注册官方云顶娱乐官方网站登录入口富婆六合仙机皇冠游戏大全最新版

　　遭迫害的美国科学家打算来华工作，aespa预告造型这些“宝”叮嘱要呵护好安徽省政协委员建言：擦亮徽茶“世界名片” 提升徽茶出口竞争力杏彩平台地址澳门游戏博亚娱乐登录平台M6米乐这个平台靠谱吗

　　派蒙cv多多poi直播玩原批梗，北京高院工作报告点名吴亦凡案直播间成夏日旅行“任意门” 在线“云”游成常态足球大赢家比分必发app软件真钱斗牛平台哪个好精选玄机