AIしるべ
DenseとMoEの2構成を持つ日本語推論モデルの概念図

ELYZA-Thinking 1.0とは?国産llm-jp-4モデル2種を比較

33B Denseと32B-A3B MoEの違い、日本語ベンチマーク、学習方法、Apache 2.0、vLLMでの導入と商用利用時の注意点を解説します。

「国産の日本語LLMを社内で動かしたい」と決めても、次に迷うのがモデル選びです。ELYZA-Thinking 1.0には、33BのDenseモデルと32B-A3BのMoEモデルがあり、名前だけではどちらを選ぶべきか分かりにくいからです。

本記事では、ELYZA-Thinking 1.0の2モデルについて、公式モデルカードと公開ベンチマークをもとに、構成、学習方法、日本語性能、導入手順、商用利用時の注意点を整理します。

ELYZA-Thinking 1.0とは

ELYZA-Thinking 1.0は、株式会社ELYZAがllm-jp-4をベースにMid-training、教師あり微調整(SFT)、検証可能な報酬を用いた強化学習(RLVR)を行った、日本語・英語対応の推論モデルです。

2026年10月2日に次の2モデルがApache License 2.0で公開されました。

  • ELYZA-Thinking-1.0-llm-jp-4-33b:330億パラメータのDenseモデル
  • ELYZA-Thinking-1.0-llm-jp-4-32b-a3b:320億パラメータ規模のMoEモデル

どちらも日本国内で一から事前学習されたllm-jp-4を土台とし、その後の学習をELYZAが行っています。日本語の数学、コード、STEM、複数制約を含む指示、日本固有の知識、ツール利用を重視している点が特徴です。

ここでいう「国産」は開発経路を示すものであり、すべての用途で海外モデルより高性能という意味ではありません。公式評価でも、比較対象が上回る項目があります。用途別の実測が必要です。

33B Denseと32B-A3B MoEの違い

最初に押さえたいのは、DenseとMoEの計算方法の違いです。

Denseモデルは、推論時に原則としてモデル全体を使います。挙動を理解しやすく、品質を優先した検証の基準に向きます。一方、MoEは入力に応じて一部のExpertへ処理を振り分ける設計です。総パラメータ数を確保しながら、推論時の計算量を抑えることを狙います。

比較項目33B Dense32B-A3B MoE
ベースモデルllm-jp-4-33b-basellm-jp-4-32b-a3b-base
構成DenseMixture-of-Experts
公式モデルサイズ表示33B32B
公式総合平均61.6958.46
公式日本語平均62.1859.61
向く検証品質を優先する基準評価MoEの効率を生かす運用実験

上の平均値はELYZAのモデルカードに掲載された評価です。単純に3ポイント差だから33Bが常に優れている、とは判断できません。ハードウェア、量子化、入力長、推論エンジン、サンプリング設定で速度と品質は変わります。

学習はどのように行われたか

1. Mid-training

数学、コーディング、STEMの推論データを日本語化し、英語データも保持しています。Agent向けデータでは、ツール名、引数、JSON構造を保ちながら日本語へローカライズしています。

2. SFT

思考過程を含む数百万件の合成例を使用し、その約半分を高品質な日本語データとしています。回答は教師モデルが生成し、数式の同値性、単体テスト、ルールチェッカーなど、プログラムで確認できたものを選別したと説明されています。

また、ふりがなや漢数字など、日本語特有の条件を含む複雑な指示データ、日本語WikipediaとWikidataをもとにした知識データも使われています。

3. RLVR

数学、コード、日本語知識、複雑な指示、ツール利用を、検証可能な報酬でまとめて学習しています。回答の同値性、テスト実行、制約チェック、ツール呼び出しや最終環境状態を使って報酬を計算する方式です。

この構成は、正解判定が可能なタスクには相性が良い一方、創造性、対人コミュニケーション、価値判断のように単一の正解を置きにくい業務の品質を保証するものではありません。

ベンチマークから分かること

33Bモデルは、公式評価で次の数値を記録しています。

  • 日本語知識のJMMLU:84.69
  • 日本語指示追従のM-IFEval-ja:85.84
  • 日本語コードのJHumanEval:95.73
  • 日本語Function CallingのNejumi BFCL:46.53

MoEモデルは、同じ指標でJMMLU 81.05、M-IFEval-ja 81.75、JHumanEval 95.37、Nejumi BFCL 41.89です。

コード生成は両モデルとも強い結果ですが、Function Callingには改善余地があります。さらに、公式比較では並列ツール呼び出しが評価対象から除外されています。複数APIを同時に扱うAgentへ導入する場合、ベンチマークの点数だけで判断せず、実際のツール定義と業務シナリオで試してください。

比較対象のQwenやGemmaが上回る項目も多いため、「国産だから採用」ではなく、データ管理、利用条件、日本語業務への適合、推論費用を含めて評価するのが現実的です。関連するモデルはQwen3.8-27Bも参照できます。

vLLMで試すときの要点

公式モデルカードはvLLMを推奨しています。33Bモデルの場合、基本的な起動コマンドは次の構成です。

vllm serve elyza/ELYZA-Thinking-1.0-llm-jp-4-33b \
  --max-model-len 65536 \
  --trust-remote-code \
  --reasoning-parser llmjp4 \
  --tool-call-parser llmjp_harmony \
  --enable-auto-tool-choice

実際には、モデルに同梱されたparser pluginを事前に取得し、vLLMから読み込む必要があります。MoE版では公式例が--moe-backend tritonも指定しています。一般的なTransformersからも読み込めますが、推論モデルは最終回答の前に長い推論を生成する場合があるため、出力トークン数とタイムアウトを短く設定しすぎないようにします。

Hugging Faceには公式のモデルカードとSafetensorsがあり、量子化版が公開されればOllamaやllama.cpp互換アプリから試せる選択肢もあります。ただし、非公式量子化は元モデルと同じ品質とは限りません。

商用利用で確認すること

モデルカード上のライセンスはApache License 2.0で、商用利用可能と案内されています。ただし、ライセンスだけで本番投入の可否は決まりません。

最低限、次を確認してください。

  1. 利用したモデルと重みのバージョンを固定する
  2. 入力データに個人情報や秘密情報が含まれるか確認する
  3. 生成物の正確性、著作権、差別表現を用途別に評価する
  4. 外部ツールへ渡す引数と権限を制限する
  5. 重要操作の前に人間の承認を置く
  6. プロンプト、ツール呼び出し、最終結果の監査ログを残す
  7. モデル更新時に回帰テストを再実行する

Apache 2.0はモデル出力の正確性や、業務で扱う第三者データの権利を保証しません。法務・セキュリティ確認は別途必要です。

どちらのモデルを選ぶべきか

33B Denseが向くケース

  • 日本語の指示追従や知識回答を品質優先で評価したい
  • まず比較基準となるモデルを決めたい
  • MoE固有の運用要素を増やしたくない

32B-A3B MoEが向くケース

  • MoE対応の推論基盤をすでに運用している
  • 同時実行数や推論費用を含めて効率を測りたい
  • 33Bとの品質差を自社タスクで比較できる

最初から一方に決める必要はありません。同じ50〜100件程度の代表タスクを使い、正答率、ツール成功率、応答時間、GPUメモリ、1件あたり費用、人間の修正時間を比較する方法が安全です。

ELYZA Voice Agentとの関係

同日に発表されたELYZA Voice Agentは、電話やアプリで日本語のリアルタイム対話を行い、予約変更、申請、情報照会などの手続きまで支援する企業向けサービスです。

ELYZA-Thinking 1.0は公開モデル、Voice Agentは実業務へ導入するサービスであり、同じものではありません。モデル単体を自社で運用したい場合はELYZA-Thinking、音声対話から業務システム連携まで伴走支援を求める場合はVoice Agent、という違いがあります。

導入判断

ELYZA-Thinking 1.0は、日本語の推論、複雑な指示、コード、ツール利用を重視した公開モデルとして、国内でモデルを管理したい組織に有力な選択肢を増やしました。特に、学習方法、モデルカード、詳細なベンチマーク、導入例が公開されている点は評価しやすい材料です。

一方、公開スコアだけで業務適合性は決まりません。33B Denseと32B-A3B MoEを同じ社内タスクで測り、精度と運用コストを分けて判断してください。関連するオープンモデルや推論基盤は開発・プログラミングと学習・リサーチから探せます。

公式資料

執筆者

davie chen

2026/10/03

カテゴリー

ニュースレター

AIの最新情報を受け取る

新しいAIツールや活用ガイドをメールでお届けします