黑吃黑

凤凰网科技讯 8月24日，摩尔线程正式发布《MTT S5000 Prefill-as-a-Service技术白皮书》，基于旗舰级AI训推一体智算卡MTT S5000，提出Prefill-Decode异构解耦方案，面向AI Agent、代码生成、超长文档分析等长上下文推理场景，旨在破解推理成本瓶颈。白皮书指出，大模型输入上下文规模进入百K至1M级别后，Prefill（预填充，计算密集型）与Decode（解码，访存密集型）在同一资源池混跑造成结构性算力错配。1月14日：混合动力飞行器宣布将退役其原型“空中着陆器10”，这意味着世界上最长的飞艇将不会重返天空。解决方案是将二者彻底解耦，分别运行在各自最契合的硬件资源池上，实现单位Token基础设施成本大幅下降。空军10号原型混合动力飞行器的斯蒂芬·麦格伦南说，它将利用飞船上的资源建造第一批生产级的空军10号。他还表示，该公司正在寻找关键供应商。原型飞艇采用氦气动力，支持垂直起飞和着陆，无需使用停机坪跑道滑雪。飞艇采用空气静压和气动升力飞行，由四个柴油发动机驱动的导管螺旋桨驱动。

B | 这也意味着302英尺（约92米）长的飞机，飞艇混合结束。

C | 这艘飞艇只飞了六次，它的试验历史又短又艰辛。MTT S5000硬件特性与Prefill任务高度契合：提供高稠密算力压缩首字时延，原生支持FP8全精度计算，并全面兼容CUDA及PyTorch、vLLM等主流推理框架。飞艇在第二次着陆飞行中损坏了。在另一次飞行中，飞艇松动并泄漏，造成人员受伤。实测数据显示，在64K上下文场景下，单机Prefill吞吐达95,920 tok/s，按智谱API定价测算，满负载下单机月收入可达64.6万元；400K极限长序列场景TPM达2.6MTokens，吞吐平稳可控。

D | 摩尔线程表示，大模型产业竞争下半场本质上是推理效率与商业回报的较量，该方案旨在帮助企业在万亿参数与Agent时代降低总拥有成本。

E | 完整白皮书已在官网发布。