Muse Glimmer 30Bとは
Muse Glimmer 30Bは、Meta Superintelligence Labが公開した約296億パラメータのマルチモーダルAIモデルです。Muse Sparkから蒸留され、一般的な消費者向けハードウェア上で動くローカルAIエージェントを主な用途としています。
テキストと画像を入力でき、複数段階の推論、ツール呼び出し、コーディング、失敗時の再試行を一つのモデルで扱います。ライセンスはApache 2.0で、商用・研究用途が想定されています。
主な特徴
- エージェント向け設計：長い手順の計画、連続したツール呼び出し、エラーからの復旧を重視しています。
- 画像理解：専用の約18億パラメータViT-G/14エンコーダーを持ち、スクリーンショット、図表、文書をテキストと一緒に処理できます。
- 131,072トークン以上のコンテキスト：長いコードや資料を扱う用途を想定しています。
- ローカル実行向け量子化：約4bitの量子化版は重みを20GB未満に抑え、24GB／32GB級のメモリ環境を対象にしています。
- DFlash推測デコード：付属のドラフターモデルで複数トークンを提案し、生成を高速化します。
- 推論強度の調整：low、medium、high、xhighから速度と品質のバランスを選べます。
動作環境の目安
公式モデルカードでは、K-Quant-17GB版が24GB、別の量子化版が32GB、完全精度版が64GB VRAMを対象としています。実際に必要なメモリは、コンテキスト長、画像入力、KVキャッシュ、同時実行数でも変化します。
Ollama v0.32.7ではApple Silicon向けMLX版の初期サポートが追加され、次のコマンドで試せます。
ollama run muse-glimmer:30b-mlxOllamaの基本情報やローカルAI実行ツールの比較も合わせて確認してください。
日本語で使うときの注意
モデルカードは100以上の言語データで学習したと説明していますが、すべての言語で評価したわけではなく、日本語専用の品質保証もありません。導入前に、日本語の長文要約、敬語、固有名詞、英語ログを含むコーディング課題で評価してください。
安全に使うために
ローカル実行でも、モデルがツールや外部サービスへ接続すれば実世界へ影響します。削除、公開、送信、課金など不可逆な操作は人間の確認を残し、ネットワークとファイル権限を絞ってください。Metaも、追加ガードレールと用途別の安全性評価を推奨しています。