インターネット経由でクラウド上のAIを使うのではなく、自分のパソコンや社内サーバ上でAIモデルを動かす仕組みです。最大の特徴は、入力した文章やファイルが外部に送信されないため、社外秘情報や個人的なメモを扱う際の有力な選択肢になります。
| 項目 | クラウド AI (ChatGPT等) | ローカル LLM |
|---|---|---|
| 情報の扱い | 入力内容が外部サービスへ送られる | 原則として手元で処理され外部に送られない |
| 性能 | 最新・高性能なモデルを使える | 手元のマシンスペック(メモリ・GPU)に依存する |
| 向いている用途 | 高品質な文章作成、複雑な推論、画像生成 | 機密性の高い草稿、社内実験、オフライン利用 |
| ツール名 | 特徴と初心者向けノウハウ |
|---|---|
| LM Studio | GUIで直感的にモデルを探し、ダウンロードし、チャットできるアプリ。「ローカルで動くChatGPT」として最初の一歩におすすめ。 |
| Ollama | コマンドラインから簡単にローカルAIを実行できる環境。Open WebUIなどと組み合わせて使うことが多い。 |
| Open WebUI | ブラウザ上でChatGPT風の画面を提供するUI。社内サーバに設置して複数人で共有する用途に向く。 |
| Jan | GUIで扱いやすいオープンソースのChatGPT代替アプリ。 |
ローカルで動かすには「モデル（脳のようなもの）」をダウンロードする必要があります。最初は 7B〜8B パラメータ程度の小さめのモデルから試すのがおすすめです（巨大なモデルはPCのメモリを大量に消費します）。