醉玲珑

凤凰网科技讯 8月24日，摩尔线程正式发布《MTT S5000 Prefill-as-a-Service技术白皮书》，基于旗舰级AI训推一体智算卡MTT S5000，提出Prefill-Decode异构解耦方案，面向AI Agent、代码生成、超长文档分析等长上下文推理场景，旨在破解推理成本瓶颈。白皮书指出，大模型输入上下文规模进入百K至1M级别后，Prefill（预填充，计算密集型）与Decode（解码，访存密集型）在同一资源池混跑造成结构性算力错配。“能再次参加这项赛事让我非常兴奋，因为这是一项水平极高的比赛，对手也都非常强，所以我对此充满期待。解决方案是将二者彻底解耦，分别运行在各自最契合的硬件资源池上，实现单位Token基础设施成本大幅下降。“从小我就把征战英超作为自己的目标之一，小时候我看了无数场英超比赛，所以能来到这里让我激动万分，如今我已经在这个联赛踢了三年，我真的非常享受这里的一切。”对于水晶宫的主场，迪萨西说：“我脑海中首先浮现的是加盟切尔西第一年来这里踢的比赛，那是我对这座球场最初的记忆。我知道在水晶宫的主场比赛有多么艰难，球迷们的助威声非常、非常震撼，所以现在我很期待能站在他们这一边。”“可以这么说，我是一个充满激情的后卫，喜欢拼命防守，愿意为球队付出，并尽我所能去帮助球队。”对于同曼城的比赛，迪萨西说：“本周五我们将迎来一场硬仗，显然我们需要球迷的支持来全取三分，因为每一场比赛我们的目标都是拿下三分。MTT S5000硬件特性与Prefill任务高度契合：提供高稠密算力压缩首字时延，原生支持FP8全精度计算，并全面兼容CUDA及PyTorch、vLLM等主流推理框架。我对这场比赛充满期待，希望球迷们的呐喊能助推我们赢下这场胜利。实测数据显示，在64K上下文场景下，单机Prefill吞吐达95,920 tok/s，按智谱API定价测算，满负载下单机月收入可达64.6万元；400K极限长序列场景TPM达2.6MTokens，吞吐平稳可控。摩尔线程表示，大模型产业竞争下半场本质上是推理效率与商业回报的较量，该方案旨在帮助企业在万亿参数与Agent时代降低总拥有成本。

四 | 完整白皮书已在官网发布。