ローカルLLM(自分のPCで動かす大規模言語モデル)用のPCは、VRAM 12GB+RAM 64GB が基準です。これはローカル推論エンジン「Strata」で Qwen3.8-Flash-Next(総125B・活性6BのMoE)を動かす場合の話で、Strata の作者が検証に使っているPCと同じ水準。公式の資料では、この組み合わせで標準の量子化が全サイズ入るとされています。
GPU、RAM、SSDのどこにお金をかけるかを、公式の資料の数字で整理しました。筆者が実機で測ったのは RTX 5090/RAM 128GB の1構成だけです。情報は2026年10月31日時点(JST)のもので、本文の [一次] などの印の意味は末尾の「検証メモ」にまとめています。
用語メモ:MoE=たくさんの専門家(エキスパート)のうち一部だけを使う仕組み。量子化=モデルを小さくする代わりに品質が落ちうる処理。
Strata そのものの説明は入門記事にあります。
Strataとは?必要スペックと導入手順
本記事はv0.2.8時点の情報です。現在のサイトで確かめた最新はv0.2.9で、1ビット版の追加(Windows ではテストされていません)と Strix Halo・Linux の高速化が主な差です。詳しくはStrata v0.2.9の変更点まとめを見てください。v0.2.10 は当サイトでは未検証です。
ローカルLLM用PCで優先する順番
Strata の作者は、重視する順番を次のように説明しています。[一次]
VRAM容量 > RAM容量と帯域 > GPUの速さ
なぜこの順番なのかは、Strata の仕組みから分かります。[一次]
- Qwen3.8-Flash-Next は、24,576個のエキスパート(48層×512)を持ち、1トークンで使うのは約10個です
- GPU には、常に使う部分と、よく使うエキスパートを置きます(キャッシュ)
- RAM には、全エキスパートを置きます
- GPU にないエキスパートは、CPU が並行して計算します
- SSD には、28.8GB の n-gram 表(よく出る単語の並びの表)を置きます
VRAM が 1GB 増えるごとに、約700個多くのエキスパートを GPU に置けます。置けた分は、CPU が計算しなくて済む。そのため、GPUの速さよりも、VRAMの容量が効くとされています。[一次]
RAM は、全エキスパートを入れる場所です。RAM が足りないと、モデルを SSD から読むことになり、大幅に遅くなります。SSD は必須です。[一次]
ローカルLLM用PCの3つの構成案(VRAM 12GB・RAM 64GB を基準に)
ここからの3案は、公式の資料の数字をもとに、この記事で分類したスペック帯です。製品の指定ではありません。製品名や総額は書いていません。
まず、量子化ごとに必要なメモリ(RAM+VRAM)です。[一次]
| 量子化 | RAM+VRAM の目安 |
|---|---|
| Q2_0 | 37.6GB |
| IQ2_XS | 39.2GB |
| IQ3_XXS | 47.0GB |
| IQ3_S | 54.8GB |
RAM の目安は「エキスパート分+約10GB」です。64GB なら全サイズが入り(IQ3_S はほかのアプリを閉じる)、48GB なら Q2_0 と IQ2_XS が入ります。[一次]
案A:最低ライン(VRAM 12GB+RAM 48GB)
- 入るもの:Q2_0、IQ2_XS
- 入らないもの:IQ3_XXS、IQ3_S(目安を超える)
- 速度の目安:作者の検証機(RAM 64GB)での数字は下の「速度の目安」の節を参照。RAM 48GB での速度の資料はありません
- 向く人:いまのPCに RAM 48GB 前後があり、まず試したい人
案B:基準(VRAM 12GB+RAM 64GB)
- 入るもの:標準の4サイズすべて(IQ3_S はほかのアプリを閉じる)
- 速度の目安:作者の検証機(RTX 5070 12GB、Ryzen 5 7600、DDR5 64GB)と同じ水準。短い会話で Q2_0 が94 tok/s(作者の自己申告・未検証)
- 向く人:量子化を選んで比べたい人。これから RAM を足すなら、まずここを目指す
案C:余裕(VRAM 24GB以上+RAM大きめ)
- 入るもの:標準の4サイズに加えて、RAM の容量しだいで大きい量子化
- できること:VRAM 24GB以上だと、画像を読む部分(視覚エンコーダ)が GPU で動く(約1〜1.4GB を使う)。24GB未満では CPU で動き、1枚に数秒かかる[一次]
- 大きい量子化:Unsloth 版(UD-IQ4_XS〜Q8_0)は、全エキスパートを RAM に載せるなら約72〜136GB、ダウンロードは94〜188GB[一次]
- 別のモデル:DeepSeek V4.1 は VRAM 12GB以上、RAM 46GB以上(64GB推奨)、NVMe SSD が必要で、ダウンロードは239〜274GB。大きいモデルほど SSD に頼るため遅くなる[一次]
- 向く人:大きい量子化や別のモデルも試したい人、画像入力をよく使う人
筆者の実測(RTX 5090/RAM 128GB/Win11)では、VRAM 32GB でもロード後に GPU をほぼ使い切りました(Q2_0 で 31,440 MiB/32,607 MiB)。エキスパートのキャッシュは Q2_0 で14,930個分、IQ3_S で9,943個分。strata.exe の使用メモリは Q2_0 で約69.3GB、IQ3_S で約84.3GB で、ロード後の空き RAM は Q2_0 で27.0GB、IQ3_S で11.4GB でした。
ローカルLLM用PCで避けたい構成
公式の資料では、次の構成を避けるよう書かれています。[一次]
- VRAM 8GB のカード:SSD に頼るため遅い
- Windows+AMD:派生版の Strata-T8 は視覚(画像入力)に対応していない
- RAM 32GB で IQ3_S:目安の容量に足りない
なお、資料には「v0.1.38 で 6GB のカードでも起動できるようになった」という記載もあります。ただし、起動できることと実用的な速さで動くことは別で、速度の資料はありません。8GB や 6GB のカードは「起動はできるようになったが、遅いとされる」と考えてください。
ローカルLLMの速度の目安(自己申告)
作者の数字(自己申告・未検証)
作者の検証機(RTX 5070 12GB、Ryzen 5 7600、DDR5 64GB)での、短い会話の出力速度です。エンジン0.1.26(Q2_0 のみ0.1.36)で測ったもので、作者は「全面的な再測定はしていない」と注記しています。[一次・作者の自己申告]
| 量子化 | 短い会話(tok/s) |
|---|---|
| Q2_0 | 94 |
| IQ2_XS | 79 |
| IQ3_XXS | 62 |
| IQ3_S | 53 |
ほかのGPUでの作者の数字です(いずれも自己申告・未検証)。[一次・作者の自己申告]
- RX 9070 XT 16GB(Linux):Q2_0 が60、IQ2_XS が52、Coder が44 tok/s
- DeepSeek V4.1:RTX 5070 12GB で4〜6、RTX 3060 12GB で9〜11、Radeon AI PRO R9700 で21〜25 tok/s
tok/s=1秒あたりに出せるトークン(文字のかたまり)の数。大きいほど速い。
投稿者の数字(自己申告・未検証)
Reddit には、同じ RTX 5070 12GB/DDR5 64GB/Ryzen 5 7600 の構成で、128K のときに Q2_0 が65.1、IQ2_XS が52.0、IQ3_XXS が44.8 tok/s だったという投稿があります。[二次・投稿者の自己申告]
作者の表とは、エンジンの版などの条件が違います。そのまま比べることはできず、数字の違いは条件の差によるものかもしれません。
12GB VRAM+64GB RAM のノートPCで、Strata では51、llama.cpp では23 tok/s だったという投稿もあります。同じ条件での公式な比較ではありません。[二次・投稿者の自己申告]
コミュニティの実測は、公式の docs/COMMUNITY_BENCHMARKS.md に集まっています(RTX 5090、3060、RX 9070 など)。
筆者の環境(RTX 5090/RAM 128GB/Win11)
筆者の実測(RTX 5090/RAM 128GB/Win11)です。コンテキスト128K、短い会話の出力は Q2_0 で177.5〜222.5 tok/s、IQ3_S で98.6〜150.4 tok/s。約4,600トークン入力時の出力は Q2_0 で204.1〜221.2 tok/s、IQ3_S で149.9〜177.1 tok/s でした(各3回)。
筆者の RTX 5090 では、作者の RTX 5070 12GB の数字より速く出ました。VRAM が大きいほどエキスパートを GPU に多く置けるという、作者の説明と合う結果です。ただし、CPU、RAM、エンジンの版も違うため、GPU だけの差とは言えません。
ローカルLLM用PCの価格は未確認
米ドルでの価格を伝える記事はありますが、ページ本体は確認できておらず、価格は未確認です。日本円での価格は調べていません。メモリやGPUの価格は変わりやすいので、購入前に必ず販売ページで確認してください。
RTX 5060 Ti 16GB は VRAM 16GB のカードですが、Strata での速度の資料はありません。この記事では性能を書きません。
ローカルLLMの日本語の品質は未確認
日本語の品質は未確認です。公式の評価は見つかりませんでした。なお、コード向けの Coder 版は、日本語を含む CJK(中国語・日本語・韓国語)と一般用途が弱いとされています。量子化の違いは別の記事で詳しく説明しています。
量子化の選び方
ローカルLLM用PCを買う前のチェックリスト
いますぐ買う必要はありません。まず、いまのPCで足りるかを確かめます。
- □ OS とGPU が対応しているか(NVIDIA は RTX 20/30/40/50。AMD は対応機種が決まっている)
- □ VRAM は 12GB 以上か
- □ RAM は 48GB 以上か(64GB なら全サイズ)
- □ SSD に 66〜76GB 程度+MTP 約6GB の空きがあるか
- □ 画像入力をよく使うなら、VRAM 24GB 以上か
- □ 価格は販売ページで確かめたか(この記事では未確認)
SSD の空きは、筆者の環境の数字も目安になります。Q2_0 のデータフォルダは、初回に作られる experts.bin(31.64 GiB)なども含めて合計100.24GB でした。このときの MTP は PCに以前からあったファイルが使われたので、この合計には入っていません。
RAM 不足で困ったときの対処は、トラブル対処集にまとめています。
トラブル対処集
よくある質問(FAQ)
Q. ローカルLLMにはGPUの速さが一番大事ですか?
Strata の作者は、VRAM容量、RAM容量と帯域、GPUの速さの順で重視すると説明しています。速いGPUより、VRAMが大きいGPUのほうが効くとされています。
Q. RAMは何GBあればいいですか?
Qwen3.8-Flash-Next の標準の量子化なら、64GB で全サイズ、48GB で Q2_0 と IQ2_XS が目安です。
Q. VRAM 8GBのGPUでも動きますか?
公式の資料では、8GB のカードは SSD に頼るため遅いとされ、避ける構成に入っています。
Q. いくらくらいかかりますか?
価格は未確認です。購入前に販売ページで確かめてください。
まとめ
- 重視する順番は、VRAM容量 > RAM容量と帯域 > GPUの速さ
- 基準は VRAM 12GB+RAM 64GB(作者の検証機と同じ水準)
- 最低ラインは VRAM 12GB+RAM 48GB(Q2_0 と IQ2_XS まで)
- VRAM 24GB以上なら、画像を読む部分が GPU で動く
- 8GB のカード、RAM 32GB で IQ3_S は避ける
- 価格と日本語の品質は未確認
Strataとは?必要スペックと導入手順 量子化の選び方 トラブル対処集
検証メモ
根拠の区分
- [一次]:公式の資料(Strata の README・docs など)にある内容
- [二次]:Reddit などの第三者の情報
- 自己申告:作者や投稿者が自分の環境で測って公表した数字。筆者は確かめていません
実測の条件
- 2026年10月31日、RTX 5090/RAM 128GB/Win11、Strata v0.2.8、コンテキスト128K
- temperature 0、reasoning_effort none。クライアント側で測った値で、Q2_0 と IQ3_S を各3回
- 案A・案B の構成は、筆者は試していません。3案は公式の資料の数字をこの記事で分類したものです
未確認のこと
- PCやパーツの価格
- 日本語の品質
- RAM 48GB、VRAM 8GB や 6GB のカードでの速度
参考リンク
- Strata(GitHub):https://github.com/Niko1221/Strata
- docs/MODELS.md:https://github.com/Niko1221/Strata/blob/main/docs/MODELS.md
- docs/HOW_IT_WORKS.md:https://github.com/Niko1221/Strata/blob/main/docs/HOW_IT_WORKS.md
- docs/COMMUNITY_BENCHMARKS.md:https://github.com/Niko1221/Strata/blob/main/docs/COMMUNITY_BENCHMARKS.md
- Reddit(投稿者の自己申告):https://www.reddit.com/r/LocalLLaMA/comments/1wp7zyb/qwen38flashnext_on_12gb_vram_65_tokens_per_second/
- Reddit(投稿者の自己申告):https://www.reddit.com/r/LocalLLaMA/comments/1wtv43r/qwen38_flash_next_istadaslab_gguf_50ts_tg_and/
