Strata(ストラタ)で Qwen3.8-Flash-Next を動かすときの量子化を選ぶ最初の手がかりは RAM です。48GB なら Q2_0 か IQ2_XS、64GB 以上なら標準の4サイズ(Q2_0、IQ2_XS、IQ3_XXS、IQ3_S)から選べます。
そのほかの選択肢が、Coder と Swift 1.5 です。
この記事では、それぞれの違いを公式の資料で整理し、自分のRAM・VRAMと用途で選ぶための考え方を紹介します。筆者の環境(RTX 5090/RAM 128GB/Windows 11)で測った速度も載せました。情報は2026年10月31日時点(JST)のものです。本文の [一次] などの印の意味は、末尾の「検証メモ」にまとめています。
Strata が何かは、入門記事で説明しています。
Strataとは?必要スペックと導入手順
量子化はモデルを小さくする処理、GGUFはそのファイル形式
- 量子化:モデルの数値を少ないビット数で表して、モデルを小さくすること。小さくなる代わりに、品質が落ちることがある
- GGUF:llama.cpp などで使われる、量子化したモデルのファイル形式
Strataの量子化を選ぶ3つの軸
- メモリ:RAM+VRAM に入るか。入らないと SSD から読むため大幅に遅くなる
- 速度:ビット数が少ないほど速い傾向
- 用途:一般の会話か、コードか
標準の4サイズ(ISTA-DASLab):Q2_0/IQ2_XS/IQ3_XXS/IQ3_S
Strata が第一に推奨するのは、ISTA-DASLab の4つのサイズです。[一次]
メモリの表
| 量子化 | RAM+VRAM の目安 | 公式の説明 |
|---|---|---|
| Q2_0 | 37.6GB | 最速 |
| IQ2_XS | 39.2GB | 速い |
| IQ3_XXS | 47.0GB | 遅め |
| IQ3_S | 54.8GB | 最も遅い。公開テストで原モデルに並ぶ品質(作者側の説明) |
ダウンロードは66〜76GB程度(小さいほうの3サイズ)です。初回の起動で MTP(先読みの層)の約6GBも取得します。[一次]
速度の表(作者の自己申告・未検証)
作者の検証機(RTX 5070 12GB、Ryzen 5 7600、DDR5 64GB。エンジン0.1.26、Q2_0 のみ0.1.36)での数字です。作者は「全面的な再測定はしていない」と注記しています。[一次・作者の自己申告]
| 量子化 | 短い会話(tok/s) | 128K(tok/s) | 32Kのプロンプト読み(tok/s) |
|---|---|---|---|
| Q2_0 | 94 | 76 | 2,650 |
| IQ2_XS | 79 | 63 | 2,090 |
| IQ3_XXS | 62 | 49 | 1,750 |
| IQ3_S | 53 | 46 | 1,620 |
| Coder(IQ1_M) | 55 | 43 | 2,180 |
RX 9070 XT 16GB(Linux)では、短い会話で Q2_0 が60、IQ2_XS が52、Coder が44 tok/s です(作者の自己申告)。[一次・作者の自己申告]
Reddit には、RTX 5070 12GB で128Kのとき Q2_0 が65.1、IQ2_XS が52.0、IQ3_XXS が44.8 tok/s だったという投稿もあります。作者の表とは条件が違うため、速度は条件で変わる、と考えてください。[二次・投稿者の自己申告]
Coder IQ1_M:コード向け
ISTA-DASLab のコード向けの版です。[一次]
- 各層512個のうち、256個のエキスパートだけを残している
- シャード1(最初に読むファイル)は29.6GB。RAM 32GB級のPCが対象
- 作者らの報告では、SWE-bench Verified で原モデルの91%、LiveCodeBench で99%(作者の自己申告・未検証)
- 日本語を含む CJK(中国語・日本語・韓国語)と、一般用途は弱い
数字は作者らの報告で、「コーディングで原モデル並み」とは言い切れません。
Swift 1.5:思考が短いファインチューン
UkisAI による、第三者のファインチューン(追加学習した版)です。[一次]
- メモリは同じサイズの原版と同じ
- 答える前の「思考」が短い。それが良いかどうかは用途しだい
- Hugging Face で実在を確認(2026年9月24日作成、ダウンロード759,095)。Strata は同じ日に対応
- ライセンスは独自の “swift-open-license-1.0″。条件の精査は未確認
そのほかの選択肢
| 種類 | 特徴 |
|---|---|
| Unsloth UD-IQ4_XS〜Q8_0 | 品質は高いが、全エキスパートを RAM に載せるなら約72〜136GB。ダウンロード94〜188GB |
| Gyro-S/Gyro-M(agentionai) | 27.6GB/35GB とメモリが最小。遅く、品質は低め |
| NVFP4(3種) | 約80GB の RAM。ダウンロード102〜128GB。NVIDIA 専用 |
どれも公式の資料の数字です。[一次]
品質の数字の読み方
公式の QUANTS.md には、「Q8_0 と同じ先頭トークンになる率」という数字があります。[一次]
| 量子化 | Q8_0 と同じ先頭トークンになる率 |
|---|---|
| UD-Q4_K_XL | 93.1% |
| UD-IQ4_XS | 88.9% |
| IQ3_S | 87.7% |
これは、実際の作業での優劣とは別の物差しです。作者の「IQ3_S は公開テストで原モデルに並ぶ」という説明と、この指標は、別のものを測っています。この数字を「IQ3_S は原モデルに並ぶ」の根拠として読まないでください。
RAM容量別の選び方の早見表
| RAM | 選べる量子化の目安 |
|---|---|
| 32GB級 | Coder(コード専用) |
| 48GB | Q2_0、IQ2_XS |
| 64GB | 標準の4サイズすべて(IQ3_S はほかのアプリを閉じる) |
| もっと大きい | Unsloth の大きい版も視野に |
RAM の目安は「エキスパート分+約10GB」です。[一次]
RAM を増やすか迷ったら、PCの選び方の記事を見てください。RAM 不足で動かないときは、トラブル対処集へ。
ローカルLLM用PCの買い方 トラブル対処集
筆者の環境での実測(RTX 5090/RAM 128GB/Win11)
2026年10月31日に、同じプロンプトで測りました。コンテキスト128K、temperature 0、reasoning_effort none、クライアント側で計測です。VRAM が24GB以上あるため、画像を読む部分(視覚エンコーダ)は GPU で動いています。
速度の比較
| 量子化 | 短い会話(入力27トークン)の出力 | 約4,600トークン入力時の出力 | 入力の読み込み |
|---|---|---|---|
| Q2_0 | 177.5/222.5/202.3 tok/s | 204.1/221.2/220.5 tok/s | 約6,200〜6,300 tok/s |
| IQ3_S | 98.6/145.5/150.4 tok/s | 149.9/171.2/177.1 tok/s | 約4,950〜4,980 tok/s |
この環境では、IQ3_S の出力は Q2_0 の長い入力で約7.7割、短い会話で約6.5割の速さでした。どちらも作者の検証機(RTX 5070 12GB)の数字より速いのは、VRAM が大きく、GPU に置けるエキスパートが多いためと考えられます(エキスパートのキャッシュは Q2_0 が14,930個分、IQ3_S が9,943個分)。
| 項目 | Q2_0 | IQ3_S |
|---|---|---|
| 実際のダウンロード | 約66.4GB+画像読み取り0.85GB | 約54.8GB+MTP 約6.5GB(モデルは2つのファイルで、全体は約83.6GB。約54.8GB は1つ目のファイルの大きさで、2つ目の約28.8GB は Q2_0 と共通のため、再ダウンロードされなかった) |
| 起動の開始から使えるまで | 約58分 | 約57分 |
| うちロード | 約10分(うち experts.bin 31.64 GiB を 0.11 GiB/s で読み込み) | 約14.6分(うち GGUF の 46.84 GiB を 0.08 GiB/s で読み込み) |
| ロード後の GPU 使用 | 31,440 MiB | 31,138 MiB |
| strata.exe の使用メモリ | 約69.3GB | 約84.3GB |
GiB/s はエンジンのログにある読み込みの数字で、ロード全体の速さではありません。容量と速度から計算すると Q2_0 は約4.8分(31.64÷0.11)、IQ3_S は約9.8分(46.84÷0.08)で、ロード全体の約10分・約14.6分より短くなります。
ロードが遅いのは、Windows でのエキスパートの読み込みが遅いという Issue #3897 と同じ種類の症状です。0.11 と 0.08 GiB/s は筆者のエンジンログの値で、Issue の報告は約0.15 GiB/s です。
日本語の出力
Q2_0 では、日本語で答えは返ってきましたが、「工作流」「连线」「AI绘画」「推理速度」のように中国語の簡体字や語がまじり、句読点に全角の「,」が出ることがありました。
IQ3_S では、同じ4つのプロンプト(説明文・要約・箇条書き・コード)で、中国語の語や字のまじりは見られませんでした。ただし、それぞれ1回ずつ試しただけなので、IQ3_S なら日本語が良い、とまでは言えません。
コードの出力
Q2_0 でコードを書かせると、コードは出力されましたが、docstring(関数の説明文)の一部が中国語になりました。
IQ3_S のコード出力でも、中国語のまじりは見られませんでした(1回のみの観察)。コードの正しさは評価していません。
ライセンスの注意
モデルのライセンスは、Strata 本体(MIT)とは別です。[一次]
- ISTA 版の Hugging Face のカードは apache-2.0 と表記している。ただし、元モデル(Qwen Community License 1.0)の条件が残ると考えるのが安全(法的な判断は未確認)
- Swift 1.5 は独自ライセンス(条件の精査は未確認)
- NVFP4 は NVIDIA Open Model Agreement
よくある質問(FAQ)
Q. 初めてならどれを選べばいいですか?
RAM 48GB なら Q2_0 か IQ2_XS、64GB 以上なら4サイズから選べます。まずは最速の Q2_0 で動くかを確かめるのが分かりやすいです。
Q. IQ3_Sのほうが日本語は良いですか?
公式の評価は見つかっていません。筆者の環境では、Q2_0 の出力に中国語の語がまじり、IQ3_S では見られませんでしたが、各1回の観察なので、品質の差とまでは言えません。
Q. Coderは普段使いにも向いていますか?
公式の資料では、Coder は一般用途と日本語を含む CJK が弱いとされています。普段使いなら、全エキスパートを持つ標準のサイズが向いています。
まとめ
- 第一の候補は ISTA-DASLab の4サイズ。速さは Q2_0、品質の説明は IQ3_S が上
- RAM 48GB なら Q2_0/IQ2_XS、64GB なら全サイズ
- Coder はコード専用で、日本語は弱い
- Swift 1.5 は思考が短い第三者の版。ライセンスは独自
- 「同じ先頭トークンになる率」は、実際の作業の優劣とは別の物差し
- 日本語の品質は未確認。筆者の環境では Q2_0 で中国語の語がまじり、IQ3_S では見られなかった(各1回の観察)
Strataとは?必要スペックと導入手順 ローカルLLM用PCの買い方 トラブル対処集
検証メモ
根拠の区分
- [一次]:公式の資料(Strata の docs、Hugging Face のカードなど)にある内容
- [二次]:Reddit などの第三者の情報
- 自己申告:作者や投稿者が自分の環境で測って公表した数字。筆者は確かめていません
実測の条件
- ロードの内訳:Q2_0 は experts.bin(31.64 GiB)を読みます。IQ3_S は experts.bin を作らず、GGUF を直接読みます(46.84 GiB)。IQ3_S のログには、PLE 表の準備の231秒も出ています。残りの時間の内訳は記録していません。
- 回数:速度は各3回、日本語とコードの出力は各1回の観察です。temperature 0 でも、Q2_0 の短い会話の出力トークン数は 87/86/66 と回ごとに変わりました。
未確認のこと
- 日本語の品質の差(公式の評価は見つかっていません)
- コードの正しさ
- Swift 1.5 のライセンスの条件と、ISTA 版のライセンスの法的な判断
参考リンク
- Strata(GitHub):https://github.com/Niko1221/Strata
- docs/MODELS.md:https://github.com/Niko1221/Strata/blob/main/docs/MODELS.md
- docs/INSTALL.md:https://github.com/Niko1221/Strata/blob/main/docs/INSTALL.md
- docs/QUANTS.md:https://github.com/Niko1221/Strata/blob/main/docs/QUANTS.md
- ISTA-DASLab の GGUF:https://huggingface.co/ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF
- Swift 1.5:https://huggingface.co/ukisai/Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-GGUF
- Reddit(投稿者の自己申告):https://www.reddit.com/r/LocalLLaMA/comments/1wp7zyb/qwen38flashnext_on_12gb_vram_65_tokens_per_second/
