自前のGPUはAPIより安いか、OpenRouterが分かれ目を試算
執筆・監修: 佐々木 航公開 更新 4 分で読めます
重みが公開されたモデルをAPIで使い続けていると、自社でGPUを借りて動かしたほうが安いのでは、と考える時期が来ます。複数の提供元のAPIをまとめて使えるOpenRouterは11月12日、その分かれ目を計算した記事を公開しました。答えを左右するのは、GPUがどれだけの時間働いているか、つまり稼働率です。
分かれ目は、借り賃と同じ1時間分のAPI代の比
GPUの借り賃は、使っていない時間にも1時間ごとにかかります。APIは、使ったトークンの分しかかかりません。そこでOpenRouterは、GPUの1時間の借り賃を、そのGPUが1時間めいっぱい働いたときと同じ量のトークンをAPIで頼んだ場合の代金で割りました。たとえば30%なら、借りた時間の3割以上GPUが働かないと、APIより高くつくという意味です。エンジニアの手間や、混む時間に備えた余りのGPUは含めていないため、実際の分かれ目はこれより高いはずです。
APIの料金は、送った内容を残さない(ZDR)窓口の10月8日の値で比べました。同じ重みでも提供元で値段は大きく違い、出力の料金はQwen3.8 27Bで最大3.5倍、DeepSeek V4.1 Flashで13倍近くの開きでした。
小さいモデルは元が取れ、大きいモデルは取れない
| モデルとGPU | 1時間の借り賃 | APIより安くなる稼働率 | |
|---|---|---|---|
| 最安の窓口と | 中央値と | ||
| Qwen3.8 27BRTX 3090を1枚借りる | $0.50 | 12% | 8% |
| Qwen3.8 27B手持ちのRTX 3090(電気代だけ) | $0.05 | 1% | 1% |
| DeepSeek V4.1 FlashB200を2枚借りる | $3.70 | 76% | 37% |
| DeepSeek V4.1 FlashB200を2枚借りる(高めの店) | $6.79 | 勝てない | 68% |
| DeepSeek V4.1 FlashH200を4枚借りる | $2.90 | 勝てない | 82% |
OpenRouterの11月12日の試算。借り賃はGPU1枚の1時間あたり、APIの料金は送った内容を残さない窓口の10月8日の値です。Qwen3.8 27Bの1行目は会話の使い方を想定した推定の値、2行目は短い頼みの場合の値です。GPUの速さは、公開されたベンチマークの値を使っています。
差が出たのは、APIの値段とGPUの安さの釣り合いです。Qwen3.8 27Bは、出力100万トークンあたり1.49〜5.25ドルとAPIが高めな一方、1時間0.50ドルのRTX 3090 1枚で1時間に約340万トークンを出せます。月に直すと、借りた3090は365ドルで、会話の使い方なら出力1億7,000万トークンほどで元が取れる計算です。反対にDeepSeek V4.1 Flashは、データを残さない窓口だけで24か所が客を取り合い、最安の出力は100万トークンあたり0.18ドルです。B200を2枚の構成は月に5,402ドルかかり、最安のAPIに勝つには27億トークンの出力が要ります。
ただし、安い3090には速さの代償があります。64人分の頼みを同時にさばくことで量を稼ぐため、1人あたりは1秒に約15トークンしか出ません。Qwen3.8 27BのAPIの窓口は、中央値で1秒に45トークン、最も速いところで474トークンでした。考えてから答えるモデルでは、待ち時間はさらに延びます。
「100万トークン1セント」の安さの正体
自前で動かすと100万トークンあたり1セントほど、という試算も出回っています。OpenRouterによれば、その多くは入力のトークンで数えた値です。エージェントの使い方では、トークンの99%が入力で、その95%は前に送った内容の使い回し(キャッシュ)です。キャッシュの入力はAPIでもほぼただなので、比べても差が出にくい部分です。出力のトークンで数え直すと、H200を1時間2.90ドルで借りた場合で100万トークンあたり3.49ドルで、最安のAPIの0.18ドルの約19倍です。
読み取れること
日本の会社が自前のGPUを考えるなら、まず見たいのは稼働率です。社内の人が営業時間だけ使うなら、1週間168時間のうち40時間しか動かず、稼働率は高くても24%にとどまります。この条件では、大きなMoEのモデルを借りたGPUで動かしても、APIより高くつく計算です。27B級の小さなモデルなら元が取れる見込みはありますが、APIの値下げで分かれ目はすぐ動きます。10月19日に出た安い窓口と比べると、3090の分かれ目は約29%に上がりました。
もう1つは、データの置き場所です。OpenRouterは、データを残さない窓口の指定や、地域を限る指定で、多くのプライバシーの求めに応えられるとしています。ただ、記事で紹介した地域の指定はEUとアメリカの2つで、日本の中に限る選び方は出てきません。データを国内に置くことが条件なら、費用だけでは決まらず、自前のサーバーや国内のサービスが候補に残ります。国内では、リコーがオンプレLLMキットのGPUサーバーを月額で貸し出すと発表しました。提供元ごとの精度の違いは、fp8やfp4の量子化で答えは落ちるかの検証が参考になります。
YOBITSUGI AIで使えるか
試算に使ったQwen3.8 27BとDeepSeek V4.1 Flashは、YOBITSUGI AIからは使えません。
出典
- Self-Hosted LLM vs API: When Does Self-Hosting Pay Off(OpenRouterブログ・2026年11月12日)