Ollama

主な特徴

コマンド一つでオープンモデルを取得し、ローカルPC上で会話やAPI利用を始められる実行基盤です。必要に応じてクラウドの大規模モデルも利用できます。

こんな人におすすめ

データを手元に置きたい開発者、オフライン環境でAIを動かしたい人、自作アプリからローカルモデルを呼び出したい人に適しています。

利用時のポイント

快適に動くモデルサイズはPCのメモリやGPUに左右されます。最初は小さめのモデルから試すと安心です。