StepFunが100万トークンコンテキストのLLM「Step 5 Preview」を公開

StepFunは2026年9月20日、Step 5 Previewを正式にリリースし、同日中にAPIアクセスを開放した。同モデルはスパースなMixture-of-Expertsアーキテクチャを採用し、AIコーディング、ソフトウェアエンジニアリング、金融分析、専門的な知識労働を含む長期的なエージェントワークロード向けに設計されている。テキストと画像の入力をサポートし、コンテキストウィンドウは100万トークン--長大な文書や大規模なコードリポジトリを単一のAPI呼び出しに収めることが可能だ。

同モデルは、より幅広いネットワークではなく92層の狭く深いTransformerレイアウトを採用しており、StepFunは、深いアーキテクチャほど長大なprefill処理中の推論においてより長い情報経路を提供すると主張している。100万トークンのセッションの計算需要を管理するため、Step 5 Previewはブロック単位のトークンマージを伴うSparse Grouped-Query Attentionを組み込み、インデクサおよびtop-k選択のコストを、より高密度なベースラインの約8分の1に削減している。

Artificial AnalysisのIntelligence Indexで、Step 5 Previewは44点を記録し、Kimi K3 Maxと並ぶ一方、GPT-5.6 Solのようなフロンティアモデルより大幅に低いコストを維持しながら競争力を確保している。同モデルは毎秒99.8トークンで出力を生成し、初回トークンまでの時間は2.96秒。価格は入力100万トークンあたり1ドル、出力100万トークンあたり2.70ドルに設定され、95%のキャッシュ割引が利用可能だ。

オープンウェイトは2026年10月15日に予定されているが、Hugging Faceのリポジトリには現在.gitattributesファイルしか含まれていない。StepFunは、負荷を考慮したスケジューリング、MTP-3投機的デコーディング、FP8 MoE、KVキャッシュオフロードといった技術を含む、オンポリシーの長期的強化学習を重視したトレーニングを報告しており、長期的な強化学習タスクにおいてエンドツーエンドで3倍以上の高速化を達成したとしている。