在“灵晟”国产超算登顶最新一期环球超等蓄意机TOP500榜单后，清程极智与“灵晟”聚会完成纯CPU MoE模子散播式推理决策：

16节点即可运动驱动DeepSeek-V3/R1-671B模子，在batch_size=2048时，输出隐约量与80张主流GPU集群至极。

这不仅是一次HPC与AI和会的时期突破，也提供了一个不雅察国产算力怎么从基础门径转变为Token坐褥智商的新样本：当算力、模子与推理软件被系统级协同优化，超算不再只做事于传统科学蓄意，也不错成为抓续坐褥大模子Token的“工场”。

架构纠正：

“灵晟”筑就AI大模子推理新基石

为何要在超算上跑AI？产业需求揭示了两大中枢动因：

一是步伐和会，科学蓄意物理模子与数据驱动的AI深度衔尾，催生颠覆性科研恶果；二是效力升迁，超算平台通异常峰驱动AI任务，最大化诈欺算力资源。

以此为视角扫视“灵晟”，其最大的亮点在于架构层面的原生超智和会。

算力侧：不同于单纯堆砌专用加快卡的传统旅途，“灵晟”在自研的LX2 CPU中引入矩阵加快单元并支抓多精度，结尾片上HPC算力与AI算力的深度和会。尤为要害的是，CPU集成了片上内存（高带宽内存），可提供TB级带宽，相较传统CPU结尾了十倍跃升，为大模子推理中的无数目并发惩办提供了填塞的带宽保险。

汇注侧：自研的“灵启”汇注支抓μs级低时延传输，具备可延长至200万端口、10万节点的超大范畴组网智商。这种极低时延、极高延长性的互联特质，灵验排斥了散播式推理中的通讯瓶颈。

硬件转换仅仅第一步。“灵晟”LX2 CPU与GPU/NPU架构存在内容互异，要将大模子从“专卡”平滑搬动至“通卡”，必须攻克软件层面的重重难关。

软硬协同：

开释超智和会滂沱算力

HPC与AI虽属不同蓄意范式，但在中枢优化想路上却一脉交流——均依赖算子优化、蓄意与访存交流、活水线并行及多级并行等技巧，以充分开释硬件性能。

衔尾“灵晟”平台硬件特质及自研软件，清程极智从多个时期维度对大模子推理进行了深度加快。

1. 面向“灵晟”LX2 CPU的算子斥地与优化

针对“灵晟”自研软硬件，清程极智完成了算子的重构：基于LX2 CPU的矩阵运算领导集，衔尾OpenMP与自研编译器结尾蓄意算子；基于自研通讯库构建通讯算子。

借助自研长入并行加快库——该库具备蓄意图语义延长、分享内存通讯加快、多线程迤逦优化及硬件特质概括等中枢智商，清程极智施行紧密化的领导序列截止，应用蓄意讳饰访存、异步活水线迤逦等优化战略。

针对无依赖联系的多个算子，团队切分线程池，散播线程并行度，让少数线程负责并行度低的算子，多数线程负责并行度高的算子。举例Shared expert与EP通讯同期进行，实测透露，MoE推理时延1440μs大幅裁减至980μs。

2. 面向“灵晟”集群的多脉络并行推理优化

LX2 CPU招揽NUMA架构并集成片上内存，衔尾“灵启”汇注的刚硬互联智商，与DeepSeek大EP（Expert Parallelism，大家并行）架构自然契合，具备极佳的集群延长性。

基于此，清程极智施行了多维度的并行战略优化：生动设置张量并行（TP）、活水线并行（PP）、大家并行（EP）及数据并行（DP），构建多脉络夹杂并行推理决策。

在DeepSeek部署上，团队招揽EP256的大范畴大家并行设置，大家权重的全量划分部署，节点内TP16，节点间DP16，并针对Attention模块，想象了定制化夹杂并行战略，充分开释了LX2平台的算力密度与通讯智商。

3. MTP（Multi-Token Prediction）时期加抓

在上述优化基础上，清程极智引入了DeepSeek MTP加快时期，一次推理产生多个token，再并行考证每个token否正确，显赫升迁了单央求的输出速度。团队还深化讨论了不同并发范畴下MTP加快比与预计深度的筹商性，抓续调优以结尾最好推理效果。

碎裂范围：

引颈超智和会新范式

基于“灵晟”种种性算力架构的转换与清程极智的AI推理加快时期，得胜结尾了DeepSeek模子的高效部署，最初结尾纯CPU MoE模子散播式推理，16节点即可运动驱动DeepSeek-V3/R1-671B模子，在batch_size=2048时，输出隐约量与80张主流GPU集群至极。

从一次时期突破，

到面向末端可请托的高质地“Token做事”

这次灵晟超算协作落地的时期恶果，绝非单次有时的时期攻关突破，而是国产算力软硬衔尾价值的有劲印证，更是清程极智历久深耕国产化算力适配、抓续打磨AI推理工程智商的势必搁置，全标的彰显了公司老到的国产算力Token量产与请托实力。

现时国产算力产业已迈入新阶段，行业核肉痛点早已从“有无算力硬件”转向“能否将硬件算力转变为雄厚、高效、可落地的Token做事”。

单纯的硬件峰值算力策划无法着实响应履行AI坐褥力，唯有通过深度的软件适配、算子优化、通讯协同与并行战略重构，能力买通硬件算力到大模子Token做事的齐备链路，让国产算力从硬件资源真确转变为可商用、高性价比的AI坐褥力，而这恰是软硬协同和会的中枢趣味与产业价值。

本次纯CPU MoE模子散播式推理决策的得胜落地，中枢依托两大中枢撑抓：一是灵晟超算原生超智和会的国产化硬件底座，LX2 CPU、片上高带宽内存与灵启超低时延汇注，构建了适配大模子推理的优质国产硬件体系；二是清程极智多年深耕国产化赛说念的时期积淀。

相较于行业通用的适配移植花样，清程极智永久安身国产算力架构特质作念原生优化，不套用国外GPU适配逻辑，历久深耕国产CPU、国产超算偏激他国产算力的推理适配、算子迭代、集群并行优化等中枢时期，累积了一套老到、适配种种国产异构算力的系统化优化步伐论，这亦然本次突破得以结尾的中枢根基。

依托历久的国产化时期积淀，清程极智具备了齐备的国产算力Token工场量产请托智商。不同于碎屑化的时期优化，清程打造的是一套从硬件适配、软件优化、算力迤逦到Token高效产出的全链路系统化智商。

本次协作中，清程团队针对灵晟硬件特质完成算子重构、蓄意通讯协同优化、多脉络夹杂并行部署与MTP时期叠加加快，并非衰退的时期叠加，而是精确适配国产超算架构的成套工程化落地，得胜将灵晟超算的硬件算力后劲，高效转变为高隐约、低时延、可延长的Token坐褥产能，让国产超算解脱传统科学蓄意的单一用途，隆重纳入大模子AI做事的坐褥体系。

所谓Token做事，中枢是跳出传统算力评价想维，扬弃单纯以节点数目、峰值算力为中枢的硬件评价法度，以末端业务可感知的Token产出效率、单元算力资本、推理时延、做事雄厚性等产业落地维度预推测力价值，设立一套齐备的算力坐褥评价体系：不再单纯比拼节点数、峰值算力，而是预计单元算力、单元能耗、单元资本下的Token产出隐约、推理时延、做事雄厚性与可用性。其内容是把衰退的算力硬件、模子、软件系统，整合为法度化、可量产、可请托的AI坐褥力。

这次与灵晟超算的深度协作，是清程极智国产化深耕之路的要紧标杆性落地。它充分说明，国产自主可控的超算硬件，搭配原土企业深耕打磨的自研推理软件与系统化优化智商，完好意思大概并排主流GPU集群的大模子推理效力，结尾高性能Token量产。

同期也印证了清程极智的中枢竞争力：不啻于单点时期突破，更具备将种种国产算力硬件，法度化、工程化转变为可抓续请托的AI Token坐褥力的齐备智商。

将来，跟着国产算力生态抓续完善、异构硬件不停丰富，清程极智将抓续依托本身软硬协同优化上风，抓续深化国产化全场景适配智商，拓展更多国产算力载体的Token工场落地场景赌钱app下载，激动国产算力从“可用”全面走向“好用、高产、低资本”，为国产AI基础门径的范畴化商用落地筑牢中枢产能根基。