StepFun 发布拥有 100 万 token 上下文窗口的 Step 5 Preview 大模型

StepFun 于 2026 年 9 月 20 日正式推出 Step 5 Preview，并于同日开放 API 访问。该模型采用稀疏专家混合（Mixture-of-Experts）架构，专为长时程智能体工作负载设计，涵盖 AI 编程、软件工程、金融分析和专业知识工作。它支持文本和图像输入，上下文窗口达 100 万 token--使长篇文档和庞大的代码仓库能够容纳于单次 API 调用之中。

该模型采用 92 层的窄而深 Transformer 布局，而非更宽的网络结构，StepFun 认为更深的架构能在长时间预填充（prefill）操作中为推理提供更长的信息路径。为应对百万 token 会话带来的计算需求，Step 5 Preview 引入了稀疏分组查询注意力（Sparse Grouped-Query Attention）并结合分块式 token 合并（block-wise token merging），将索引器和 top-k 选择的成本降至更密集基线的约八分之一。

在 Artificial Analysis 智能指数上，Step 5 Preview 得分 44，与 Kimi K3 Max 持平，在保持竞争力的同时，成本显著低于 GPT-5.6 Sol 等前沿模型。该模型的输出生成速度为每秒 99.8 个 token，首 token 延迟为 2.96 秒。定价为每百万输入 token 1 美元、每百万输出 token 2.70 美元，并提供 95% 的缓存折扣。

开放权重定于 2026 年 10 月 15 日发布，不过目前 Hugging Face 仓库中仅包含一个 .gitattributes 文件。StepFun 表示，其训练侧重于在策略长时程强化学习（on-policy long-horizon reinforcement learning），并采用了包括负载感知调度、MTP-3 投机解码、FP8 MoE 以及 KV 缓存卸载等技术，使长时程强化学习任务的端到端速度提升超过三倍。