速度と遅延
出力速度(tok/s)、最初のトークンまでの時間(TTFT)、最初の回答トークンまでの時間を比べます。出力が速くても、推論の待ち時間が長いモデルがあります。データは Artificial Analysis の公開値です。
Celeris-1 は出力 818 tok/s、Tiny Aya Global は TTFT 0.20 秒です。
出力速度
出力速度の上位 30 件です。出力速度と TTFT が揃うモデルが対象です。回答開始、知能、コストの欠測値は「—」と表示します。
| # | モデル | 開発元 | 知能 | tok/s | TTFT (秒) | 回答開始 (秒) | $/タスク |
|---|---|---|---|---|---|---|---|
| 1 | Celeris-1 | Celeris | — | 818 | 0.68 | 0.68 | — |
| 2 | Mercury 2.5 | Inception | — | 526 | 2.18 | 2.18 | — |
| 3 | Muse Ember (max) | Meta | 36 | 425 | 5.17 | 5.17 | 0.14 |
| 4 | Muse Ember (xhigh) | Meta | 34 | 419 | 4.09 | 4.09 | 0.12 |
| 5 | Gemini 3.5 Flash-Lite | 12 | 297 | 4.91 | 4.91 | 0.69 | |
| 6 | Beam 1.0 | Reflection | 18 | 274 | 0.75 | 6.70 | 0.28 |
| 7 | Nemotron 3.5 Lightning | NVIDIA | 6 | 269 | 0.89 | 13.34 | 0.31 |
| 8 | Claude Haiku 5.5 (max) | Anthropic | 36 | 255 | 184.39 | 184.39 | 0.41 |
| 9 | K2 Horizon 375B A23B | Institute of Foundation Models | 18 | 244 | 4.80 | 17.71 | 0.00 |
| 10 | NVIDIA Nemotron Nano 9B V2 | NVIDIA | — | 233 | 0.76 | 0.76 | — |
| 11 | Claude Haiku 5.5 (xhigh) | Anthropic | 35 | 230 | 58.27 | 58.27 | 0.25 |
| 12 | Nemotron 3.5 Super VL | NVIDIA | 14 | 226 | 1.14 | 17.14 | 0.56 |
| 13 | Claude Haiku 5.5 (high) | Anthropic | 30 | 223 | 21.99 | 21.99 | 0.16 |
| 14 | Claude Haiku 5.5 (medium) | Anthropic | 25 | 219 | 11.02 | 11.02 | 0.09 |
| 15 | Nova Micro | Amazon | — | 214 | 1.35 | 1.35 | — |
| 16 | Claude Haiku 5.5 (low) | Anthropic | 19 | 207 | 6.26 | 6.26 | 0.04 |
| 17 | Nemotron 3 Ultra | NVIDIA | 12 | 203 | 1.75 | 4.93 | 2.21 |
| 18 | Agnes 2.5 Pro Theta | Sapiens AI | 24 | 197 | 2.14 | 5.83 | 0.57 |
| 19 | Nemotron 3 Nano | NVIDIA | — | 195 | 1.14 | 8.76 | — |
| 20 | NVIDIA Nemotron Nano 9B V2 (non-reasoning) | NVIDIA | — | 186 | 1.25 | 1.25 | — |
| 21 | Command A+ | Cohere | 6 | 183 | 1.00 | 18.30 | 0.00 |
| 22 | Ling 3.0 Tiny | InclusionAI | — | 180 | 3.85 | 11.97 | — |
| 23 | Gemini 4 Hydrogen (xhigh) 新 | 54 | 174 | 46.64 | 46.64 | 3.16 | |
| 24 | gpt-oss-120b (low) | OpenAI | — | 174 | 1.16 | 2.35 | — |
| 25 | Gemini 4 Hydrogen (medium) 新 | 41 | 173 | 11.40 | 11.40 | 0.80 | |
| 26 | DeepSeek V4.1 Flash 1017 (high) | DeepSeek | 29 | 172 | 1.31 | 21.80 | 0.46 |
| 27 | DeepSeek V4.1 Flash 1017 (max) | DeepSeek | 33 | 171 | 1.25 | 44.55 | 0.60 |
| 28 | North Mini Code | Cohere | 3 | 171 | 0.65 | 5.46 | 0.00 |
| 29 | Nemotron 3 Nano (non-reasoning) | NVIDIA | — | 170 | 0.86 | 0.86 | — |
| 30 | Gemini 4 Hydrogen (high) 新 | 51 | 169 | 16.80 | 16.80 | 1.87 |
最初のトークンまでの待ち時間
TTFT の短い上位 20 件です。同値の場合は出典の掲載順を保持します。
| # | モデル | 開発元 | 知能 | TTFT (秒) | 回答開始 (秒) | tok/s |
|---|---|---|---|---|---|---|
| 1 | Tiny Aya Global | Cohere | — | 0.20 | 0.20 | 130 |
| 2 | Phi-4 Multimodal | Microsoft | — | 0.39 | 0.39 | 22 |
| 3 | North Mini Code | Cohere | 3 | 0.65 | 5.46 | 171 |
| 4 | Celeris-1 | Celeris | — | 0.68 | 0.68 | 818 |
| 5 | Beam 1.0 | Reflection | 18 | 0.75 | 6.70 | 274 |
| 6 | NVIDIA Nemotron Nano 9B V2 | NVIDIA | — | 0.76 | 0.76 | 233 |
| 7 | Nemotron 3 Nano (non-reasoning) | NVIDIA | — | 0.86 | 0.86 | 170 |
| 8 | Nemotron 3.5 Lightning | NVIDIA | 6 | 0.89 | 13.34 | 269 |
| 9 | Reka Flash 3 | Reka AI | — | 0.89 | 5.98 | 61 |
| 10 | Step 5 Preview | StepFun | 29 | 0.92 | 23.76 | 128 |
| 11 | Gemma 4 31B | 4 | 0.96 | 52.46 | 32 | |
| 12 | Command A+ | Cohere | 6 | 1.00 | 18.30 | 183 |
| 13 | Qwen3.5 9B (non-reasoning) | Alibaba | — | 1.02 | 1.02 | 119 |
| 14 | Apodex 1.1 | Apodex | 14 | 1.08 | 18.94 | 112 |
| 15 | gpt-oss-20b (high) | OpenAI | — | 1.10 | 34.23 | 146 |
| 16 | Llama 4 Scout | Meta | — | 1.10 | 1.10 | 99 |
| 17 | Nemotron 3.5 Super VL | NVIDIA | 14 | 1.14 | 17.14 | 226 |
| 18 | Qwen3 Omni 30B A3B | Alibaba | — | 1.14 | 1.14 | 74 |
| 19 | Nemotron 3 Nano | NVIDIA | — | 1.14 | 8.76 | 195 |
| 20 | Qwen3 Omni 30B A3B (Reasoning) | Alibaba | — | 1.15 | 28.55 | 85 |
推論ティアと待ち時間
- Claude Haiku 5.5 (max) は 255 tok/s、TTFT は 184.39 秒です。
- Claude Sonnet 5.5 (medium with fallback) の TTFT は 4.28 秒、max は 296.60 秒です。
- 回答開始は最初の回答トークンまでの待ち時間です。推論が先に出るモデルでは TTFT より長くなる場合があります。
提供環境や測定条件によって速度・遅延は変わります。ここに示すのは取得時点の公開値で、個々のリクエストの応答時間を保証しません。