Skill · Claude Platform Documentation & Anthropic Blog
Claude Batch APIで大量データを50%割引で処理する
写真: Taylor Vick Unsplashより
ClaudeのBatch APIは最大1万件のリクエストを24時間以内に非同期で処理し、通常のちょうど半額で済む。大規模データセットの分析、サポートチケットの分類、リアルタイム応答が重要でない文書リポジトリの処理に最適で、高コストな1件ずつのAPI呼び出しを経済的な一括処理に変える。
Batch APIは、レイテンシよりもコストが重要な、時間に敏感でないワークロードのために専用に作られている。リクエストごとに課金される個別のAPI呼び出しを行う代わりに、最大1万件のリクエストを含むバッチファイルを送信すると、Claudeがすべてを非同期で処理し、結果を一括で返す。入力トークンと出力トークンのいずれも標準価格の50%だ。1つのバッチは完了まで24時間未満で、夜間の処理パイプラインに理想的だ。
実用的な応用例を考えてみよう。カスタマーサクセスのチームが、共通する苦情カテゴリを特定し、回答を提案し、優先度レベルをタグ付けするために2,000件のサポートチケットを分析する必要があるとする。各チケットを標準料金で個別にAPIに通すと500ドルかかる。同じ2,000件のチケットを1つのバッチとして処理すれば250ドルだ。午後5時にバッチを送信すれば、翌朝9時までに結果が得られ、チームのスタンドアップでのレビューに間に合う。大規模に文書を処理するチーム(四半期報告書の分析、契約書からのデータ抽出、コードリポジトリのレビュー)にとって、Batch APIは分析を経済的に実行可能にする。
ワークフローは単純だ。リクエストをJSONLファイル(1行につき1リクエスト)として整形し、そのファイルを添えてbatchesエンドポイントを呼び出し、バッチIDを受け取り、完了をポーリングする。APIはスロットリングされたリクエストを含め、再試行を自動的に処理するので、手動の再試行を管理する必要はない。出力は入力と同じ順序で返されるため、結果を元のデータに容易に対応付けられる。
Claudeのバッチ処理は現在、Anthropic APIでClaude Opus 5、Claude Opus 4.8、Claude Opus 4.7、Claude Sonnet、Haikuモデルをサポートしている。Amazon Bedrock経由でClaudeを利用する顧客はすでにバッチ推論を利用でき、Google Cloud Vertex AIのサポートはプレビュー中だ。定期的にパイプラインを運用するチームにとって、計算は複利的に効いてくる。月5万件の文書を50%割引で処理すれば、数千ドルの節約になり、以前は採算が取れなかったことが今では標準的な実務になる。
情報源とクレジット