Strataの量子化の選び方|Q2_0・IQ2_XS・IQ3_XXS・IQ3_S・Coder・Swift 1.5の違い

この記事について(広告・アフィリエイトリンクはありません)

Strata 本体とモデルは無料で入手できます。

Strata(ストラタ)で Qwen3.8-Flash-Next を動かすときの量子化を選ぶ最初の手がかりは RAM です。48GB なら Q2_0 か IQ2_XS、64GB 以上なら標準の4サイズ(Q2_0、IQ2_XS、IQ3_XXS、IQ3_S)から選べます。

そのほかの選択肢が、Coder と Swift 1.5 です。

この記事では、それぞれの違いを公式の資料で整理し、自分のRAM・VRAMと用途で選ぶための考え方を紹介します。筆者の環境(RTX 5090/RAM 128GB/Windows 11)で測った速度も載せました。情報は2026年10月31日時点(JST)のものです。本文の [一次] などの印の意味は、末尾の「検証メモ」にまとめています。

Strata が何かは、入門記事で説明しています。
Strataとは?必要スペックと導入手順

量子化はモデルを小さくする処理、GGUFはそのファイル形式

  • 量子化:モデルの数値を少ないビット数で表して、モデルを小さくすること。小さくなる代わりに、品質が落ちることがある
  • GGUF:llama.cpp などで使われる、量子化したモデルのファイル形式

Strataの量子化を選ぶ3つの軸

  1. メモリ:RAM+VRAM に入るか。入らないと SSD から読むため大幅に遅くなる
  2. 速度:ビット数が少ないほど速い傾向
  3. 用途:一般の会話か、コードか

標準の4サイズ(ISTA-DASLab):Q2_0/IQ2_XS/IQ3_XXS/IQ3_S

Strata が第一に推奨するのは、ISTA-DASLab の4つのサイズです。[一次]

メモリの表

量子化RAM+VRAM の目安公式の説明
Q2_037.6GB最速
IQ2_XS39.2GB速い
IQ3_XXS47.0GB遅め
IQ3_S54.8GB最も遅い。公開テストで原モデルに並ぶ品質(作者側の説明)

ダウンロードは66〜76GB程度(小さいほうの3サイズ)です。初回の起動で MTP(先読みの層)の約6GBも取得します。[一次]

速度の表(作者の自己申告・未検証)

作者の検証機(RTX 5070 12GB、Ryzen 5 7600、DDR5 64GB。エンジン0.1.26、Q2_0 のみ0.1.36)での数字です。作者は「全面的な再測定はしていない」と注記しています。[一次・作者の自己申告]

量子化短い会話(tok/s)128K(tok/s)32Kのプロンプト読み(tok/s)
Q2_094762,650
IQ2_XS79632,090
IQ3_XXS62491,750
IQ3_S53461,620
Coder(IQ1_M)55432,180

RX 9070 XT 16GB(Linux)では、短い会話で Q2_0 が60、IQ2_XS が52、Coder が44 tok/s です(作者の自己申告)。[一次・作者の自己申告]

Reddit には、RTX 5070 12GB で128Kのとき Q2_0 が65.1、IQ2_XS が52.0、IQ3_XXS が44.8 tok/s だったという投稿もあります。作者の表とは条件が違うため、速度は条件で変わる、と考えてください。[二次・投稿者の自己申告]

Coder IQ1_M:コード向け

ISTA-DASLab のコード向けの版です。[一次]

  • 各層512個のうち、256個のエキスパートだけを残している
  • シャード1(最初に読むファイル)は29.6GB。RAM 32GB級のPCが対象
  • 作者らの報告では、SWE-bench Verified で原モデルの91%、LiveCodeBench で99%(作者の自己申告・未検証)
  • 日本語を含む CJK(中国語・日本語・韓国語)と、一般用途は弱い

数字は作者らの報告で、「コーディングで原モデル並み」とは言い切れません。

Swift 1.5:思考が短いファインチューン

UkisAI による、第三者のファインチューン(追加学習した版)です。[一次]

  • メモリは同じサイズの原版と同じ
  • 答える前の「思考」が短い。それが良いかどうかは用途しだい
  • Hugging Face で実在を確認(2026年9月24日作成、ダウンロード759,095)。Strata は同じ日に対応
  • ライセンスは独自の “swift-open-license-1.0″。条件の精査は未確認

そのほかの選択肢

種類特徴
Unsloth UD-IQ4_XS〜Q8_0品質は高いが、全エキスパートを RAM に載せるなら約72〜136GB。ダウンロード94〜188GB
Gyro-S/Gyro-M(agentionai)27.6GB/35GB とメモリが最小。遅く、品質は低め
NVFP4(3種)約80GB の RAM。ダウンロード102〜128GB。NVIDIA 専用

どれも公式の資料の数字です。[一次]

品質の数字の読み方

公式の QUANTS.md には、「Q8_0 と同じ先頭トークンになる率」という数字があります。[一次]

量子化Q8_0 と同じ先頭トークンになる率
UD-Q4_K_XL93.1%
UD-IQ4_XS88.9%
IQ3_S87.7%

これは、実際の作業での優劣とは別の物差しです。作者の「IQ3_S は公開テストで原モデルに並ぶ」という説明と、この指標は、別のものを測っています。この数字を「IQ3_S は原モデルに並ぶ」の根拠として読まないでください。

RAM容量別の選び方の早見表

RAM選べる量子化の目安
32GB級Coder(コード専用)
48GBQ2_0、IQ2_XS
64GB標準の4サイズすべて(IQ3_S はほかのアプリを閉じる)
もっと大きいUnsloth の大きい版も視野に

RAM の目安は「エキスパート分+約10GB」です。[一次]

RAM を増やすか迷ったら、PCの選び方の記事を見てください。RAM 不足で動かないときは、トラブル対処集へ。
ローカルLLM用PCの買い方 トラブル対処集

筆者の環境での実測(RTX 5090/RAM 128GB/Win11)

2026年10月31日に、同じプロンプトで測りました。コンテキスト128K、temperature 0、reasoning_effort none、クライアント側で計測です。VRAM が24GB以上あるため、画像を読む部分(視覚エンコーダ)は GPU で動いています。

速度の比較

量子化短い会話(入力27トークン)の出力約4,600トークン入力時の出力入力の読み込み
Q2_0177.5/222.5/202.3 tok/s204.1/221.2/220.5 tok/s約6,200〜6,300 tok/s
IQ3_S98.6/145.5/150.4 tok/s149.9/171.2/177.1 tok/s約4,950〜4,980 tok/s

この環境では、IQ3_S の出力は Q2_0 の長い入力で約7.7割、短い会話で約6.5割の速さでした。どちらも作者の検証機(RTX 5070 12GB)の数字より速いのは、VRAM が大きく、GPU に置けるエキスパートが多いためと考えられます(エキスパートのキャッシュは Q2_0 が14,930個分、IQ3_S が9,943個分)。

項目Q2_0IQ3_S
実際のダウンロード約66.4GB+画像読み取り0.85GB約54.8GB+MTP 約6.5GB(モデルは2つのファイルで、全体は約83.6GB。約54.8GB は1つ目のファイルの大きさで、2つ目の約28.8GB は Q2_0 と共通のため、再ダウンロードされなかった)
起動の開始から使えるまで約58分約57分
うちロード約10分(うち experts.bin 31.64 GiB を 0.11 GiB/s で読み込み)約14.6分(うち GGUF の 46.84 GiB を 0.08 GiB/s で読み込み)
ロード後の GPU 使用31,440 MiB31,138 MiB
strata.exe の使用メモリ約69.3GB約84.3GB

GiB/s はエンジンのログにある読み込みの数字で、ロード全体の速さではありません。容量と速度から計算すると Q2_0 は約4.8分(31.64÷0.11)、IQ3_S は約9.8分(46.84÷0.08)で、ロード全体の約10分・約14.6分より短くなります。

ロードが遅いのは、Windows でのエキスパートの読み込みが遅いという Issue #3897 と同じ種類の症状です。0.11 と 0.08 GiB/s は筆者のエンジンログの値で、Issue の報告は約0.15 GiB/s です。

日本語の出力

Q2_0 では、日本語で答えは返ってきましたが、「工作流」「连线」「AI绘画」「推理速度」のように中国語の簡体字や語がまじり、句読点に全角の「,」が出ることがありました。

IQ3_S では、同じ4つのプロンプト(説明文・要約・箇条書き・コード)で、中国語の語や字のまじりは見られませんでした。ただし、それぞれ1回ずつ試しただけなので、IQ3_S なら日本語が良い、とまでは言えません。

コードの出力

Q2_0 でコードを書かせると、コードは出力されましたが、docstring(関数の説明文)の一部が中国語になりました。

IQ3_S のコード出力でも、中国語のまじりは見られませんでした(1回のみの観察)。コードの正しさは評価していません。

ライセンスの注意

モデルのライセンスは、Strata 本体(MIT)とは別です。[一次]

  • ISTA 版の Hugging Face のカードは apache-2.0 と表記している。ただし、元モデル(Qwen Community License 1.0)の条件が残ると考えるのが安全(法的な判断は未確認)
  • Swift 1.5 は独自ライセンス(条件の精査は未確認)
  • NVFP4 は NVIDIA Open Model Agreement

よくある質問(FAQ)

Q. 初めてならどれを選べばいいですか?

RAM 48GB なら Q2_0 か IQ2_XS、64GB 以上なら4サイズから選べます。まずは最速の Q2_0 で動くかを確かめるのが分かりやすいです。

Q. IQ3_Sのほうが日本語は良いですか?

公式の評価は見つかっていません。筆者の環境では、Q2_0 の出力に中国語の語がまじり、IQ3_S では見られませんでしたが、各1回の観察なので、品質の差とまでは言えません。

Q. Coderは普段使いにも向いていますか?

公式の資料では、Coder は一般用途と日本語を含む CJK が弱いとされています。普段使いなら、全エキスパートを持つ標準のサイズが向いています。

まとめ

  • 第一の候補は ISTA-DASLab の4サイズ。速さは Q2_0、品質の説明は IQ3_S が上
  • RAM 48GB なら Q2_0/IQ2_XS、64GB なら全サイズ
  • Coder はコード専用で、日本語は弱い
  • Swift 1.5 は思考が短い第三者の版。ライセンスは独自
  • 「同じ先頭トークンになる率」は、実際の作業の優劣とは別の物差し
  • 日本語の品質は未確認。筆者の環境では Q2_0 で中国語の語がまじり、IQ3_S では見られなかった(各1回の観察)

Strataとは?必要スペックと導入手順 ローカルLLM用PCの買い方 トラブル対処集

この記事の検証環境

RTX 5090(32GB)/ Ryzen 9 9950X3D / 128GB / Windows 11 / Strata v0.2.8 / Qwen3.8-Flash-Next Q2_0・IQ3_S(コンテキスト128K)/ 2026年10月31日
これまでの検証の一覧はこちら

検証メモ

根拠の区分

  • [一次]:公式の資料(Strata の docs、Hugging Face のカードなど)にある内容
  • [二次]:Reddit などの第三者の情報
  • 自己申告:作者や投稿者が自分の環境で測って公表した数字。筆者は確かめていません

実測の条件

  • ロードの内訳:Q2_0 は experts.bin(31.64 GiB)を読みます。IQ3_S は experts.bin を作らず、GGUF を直接読みます(46.84 GiB)。IQ3_S のログには、PLE 表の準備の231秒も出ています。残りの時間の内訳は記録していません。
  • 回数:速度は各3回、日本語とコードの出力は各1回の観察です。temperature 0 でも、Q2_0 の短い会話の出力トークン数は 87/86/66 と回ごとに変わりました。

未確認のこと

  • 日本語の品質の差(公式の評価は見つかっていません)
  • コードの正しさ
  • Swift 1.5 のライセンスの条件と、ISTA 版のライセンスの法的な判断

参考リンク

この記事を書いた人
こまたろ

画像生成 AI に興味を持ったのがきっかけで、3年ほど前から ComfyUI を触っています。始めたころは今ほど情報がそろっておらず、何時間もかけて整えた環境が翌日のアップデートで動かなくなったこともありました。

KOBO Lab は、自分の学び直しと、これから ComfyUI を始める人が同じところでつまずかないようにと思って始めたサイトです。初心者も中級者も、迷ったときに開くサイトを目指しています。

検証は、RTX 5090 を積んだ自作 PC 1台で、実際に動かして確かめています。作業を楽にするための自作ツールも作っています。

記事は、運営者自身の経験と検証をもとに、Claudeで下書きを作り、GrokボットとMuseでも添削や確認をして仕上げています。

KOBO Lab の新しい記事を受け取る
ローカルLLM
KOBO Lab の新しい記事を受け取る
タイトルとURLをコピーしました