哔哩哔哩

凤凰网科技讯 8月24日，摩尔线程正式发布《MTT S5000 Prefill-as-a-Service技术白皮书》，基于旗舰级AI训推一体智算卡MTT S5000，提出Prefill-Decode异构解耦方案，面向AI Agent、代码生成、超长文档分析等长上下文推理场景，旨在破解推理成本瓶颈。    记者今天了解到，针对舆论关注的河北省张家口市康保县“白菜收购环节蘸取甲醛溶液”问题，国务院食安办、农业农村部、市场监管总局高度重视，第一时间指导属地调查核实，依法从严从快处置，对涉事白菜流向进行追查，严防问题产品流入市场。

B | 同时举一反三，组织各地立即开展白菜等易腐蔬菜专项抽检和市场排查，一旦发现违法违规行为，将严惩重处、决不姑息，切实维护人民群众饮食安全。

C | 白皮书指出，大模型输入上下文规模进入百K至1M级别后，Prefill（预填充，计算密集型）与Decode（解码，访存密集型）在同一资源池混跑造成结构性算力错配。

D | 解决方案是将二者彻底解耦，分别运行在各自最契合的硬件资源池上，实现单位Token基础设施成本大幅下降。                        　　(总台央视记者 张萍 李晶晶)          　　此前报道          　　河北省张家口市康保县人民政府22日发布情况通报：针对网上反映的“白菜收购环节蘸取甲醛溶液”相关问题，康保县第一时间组织农业农村、市场监管、公安等部门开展实地核查调查。MTT S5000硬件特性与Prefill任务高度契合：提供高稠密算力压缩首字时延，原生支持FP8全精度计算，并全面兼容CUDA及PyTorch、vLLM等主流推理框架。

E | 经初步核查，视频反映情况属实，系收购商为蔬菜运输保鲜，在装运过程中的违法行为。【编辑:王琴】。

F | 实测数据显示，在64K上下文场景下，单机Prefill吞吐达95,920 tok/s，按智谱API定价测算，满负载下单机月收入可达64.6万元；400K极限长序列场景TPM达2.6MTokens，吞吐平稳可控。摩尔线程表示，大模型产业竞争下半场本质上是推理效率与商业回报的较量，该方案旨在帮助企业在万亿参数与Agent时代降低总拥有成本。

G | 完整白皮书已在官网发布。