ローカルLLMとは
ローカルLLM（Local LLM）とは、クラウドサービスに依存せず、個人のPC・サーバー・オンプレミス環境で直接実行する大規模言語モデルのことです。データプライバシーの完全な保護、インターネット接続不要での利用、APIコストの削減などの利点から、個人ユーザーや企業での利用が拡大しています。
ローカルLLMの実行環境
llama.cpp、Ollama、LM Studio、GPT4Allなどのツールにより、一般的なPCやMacでもLLMを簡単に実行できるようになっています。量子化技術（GGUF形式など）により、8GB〜16GBのRAMでも7B〜13Bパラメータのモデルが動作可能です。
利用可能なモデル
LLaMA 3、Mistral、Phi-3、Gemma、Command R+など、多数のオープンウェイトモデルがローカル実行に対応しています。日本語に強いモデルとしては、ELYZA-japanese-Llama、Japanese StableLMなども利用可能です。
ローカルLLMの意義
データをクラウドに送信する必要がないためプライバシーが完全に保護され、機密情報を扱う業務にも安心して利用できます。AI民主化の具体的な実践として、個人が自分のAIを所有・制御できる環境の実現に貢献しています。