社内ローカル AI：導入・モデル管理ガイド

研究開発チーム山田泰司／ 2026年10月30日

社内利用者が Open WebUI でモデルを選択できるようにするための、管理者向け手順です。Apple Silicon Mac 上の LM Studio と、Docker で動く Open WebUI を組み合わせます。

役割：利用者のブラウザ → Open WebUI（画面・アカウント・履歴）→ LM Studio（モデルの管理・推論 API）→ AI モデル。
今回の Kisagai ではメモリ 32 GB、Open WebUI の公開ポート 3001、LM Studio の API ポート 1234 で動作を確認しました。以下の新規導入例は、既存環境を再構築する指示ではありません。

1. LM Studio をインストールする

LM Studio 公式サイトから、対象 Mac に対応するインストーラーを取得します。
配布形式に従ってアプリケーションをインストールし、起動します。
モデルのダウンロード先に空き容量があることを確認します。保存容量と実行時メモリは別で、空きディスクが多くても大きなモデルを動かせるとは限りません。

2. Docker Desktop と Open WebUI を導入する

まず Docker Desktop for Mac を導入して起動し、ターミナルで docker version を確認します。Docker Desktop および Open WebUI の利用条件は、組織での利用に合うか確認してください。

新規構築する場合のみ、次のように起動できます。既存の open-webui コンテナがある場合は、そのまま再実行せず既存設定を確認してください。

openssl rand -hex 32

表示された値を、下の 生成した秘密の値 に置き換えます。値は公開せず保管し、コンテナを作り直す際も同じ値を使います。

docker run -d \
  --name open-webui \
  -p 3001:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  -e WEBUI_SECRET_KEY='生成した秘密の値' \
  --restart always \
  ghcr.io/open-webui/open-webui:main

この例の :main は更新されるタグです。継続運用では、検証済みのリリースタグやダイジェストに固定し、バックアップを取ってから更新してください。open-webui ボリュームにはアカウント・履歴・設定等が保存されます。削除しないでください。

同じ Mac のブラウザで http://localhost:3001 を開き、初期管理者を登録します。初期設定は管理者が行い、一般利用者の登録・承認方針も設定します。

社内の他端末へ案内する URL は、サーバー名・ネットワーク・ファイアウォール・HTTPS や SSH 転送の構成に合わせて決めます。localhost は各利用者自身の端末を指すので、そのまま配布しないでください。本例のポート公開は他端末からも到達し得るため、公開範囲を社内の必要範囲に制限します。

3. LM Studio にモデルを追加する

左側の「Model Search」を開き、下表の配布名で検索します。
今回は MLX・4bit 版を選んでダウンロードします。同じ系列にも GGUF、MLX、量子化の異なる版があります。
上部のモデル選択からダウンロード済みモデルを選び、読み込みます。必要なら「モデル読み込みパラメータを手動で選択」をオンにします。
最初はコンテキスト長を 8192 とし、LM Studio の新規チャットで短い日本語の質問を送って動作を確認します。

検索する配布名	今回の確認
`lmstudio-community/Qwen3-0.6B-MLX-4bit`	軽量な試用モデル。Kisagai 上で日本語応答を確認。
`lmstudio-community/Qwen3-14B-MLX-4bit`	より大きな比較用モデル。Kisagai 上で日本語応答を確認。画面上の保存サイズは 8.32 GB。

上記は今回の実測確認であり、同時利用や長文処理の性能保証ではありません。コンテキストを増やすと必要メモリも増えます。モデルのライセンスも確認してください。

4. LM Studio の API サーバーを起動する

「Model Server」（バージョンによって Developer / Local Server）を開きます。
サーバーを起動し、Status: Running を確認します。今回のポートは 1234 です。
「Loaded Models」で使いたいモデルが READY であることを確認します。
別端末や LAN アドレス経由で接続する場合は、Server Settings の Serve on Local Network を有効にし、表示される到達先を確認します。

今回表示された到達先は http://192.168.1.197:1234、14B の API モデル識別子は qwen3-14b-mlx でした。IP アドレスは環境によって変わります。LAN 公開は必要な接続元に限定し、LM Studio の認証を有効にする場合は Open WebUI にも対応する API キーを設定します。

5. Open WebUI の接続を設定する

管理者アカウントで設定を開き、左メニューの「管理者」内の「AI」→「接続」へ進みます。「サービス」欄の個人用「接続」（ダイレクトコネクション）とは別です。

「OpenAI API」を有効にします。「OpenAI API」は接続方式の名称で、ここでは外部の OpenAI サービスではなく社内の LM Studio に接続します。
「OpenAI API 接続の管理」で接続を追加、または既存の LM Studio 接続を確認します。動作中の接続があれば追加し直す必要はありません。
下表に従って URL と認証を設定し、接続を有効にして保存します。

環境	接続先 URL の例
今回の既存設定（動作確認済み）	`http://192.168.1.197:1234/v1`
Open WebUI が Docker、LM Studio が同じ Mac 本体	`http://host.docker.internal:1234/v1`
別のサーバー上の LM Studio	`http://接続可能なサーバー名またはIP:1234/v1`

Docker 内の localhost はコンテナ自身です。ブラウザで開く Open WebUI の URL と、Open WebUI サーバーから LM Studio へ接続する URL は区別してください。認証なしの LM Studio ではキーを空欄にし、入力が必須の画面ならダミー値を指定します。認証ありなら実際のキーを使用します。

6. 追加したモデルを利用者画面に反映する

管理者の「AI」→「接続」で、「ベースモデルリストをキャッシュ」横の丸い矢印（↻）を押し、一覧を更新します。
設定を閉じ、新規チャットのモデル選択に qwen3-0.6b-mlx や qwen3-14b-mlx が表示されるか確認します。必要ならブラウザを再読み込みします。
各モデルを選んで短い質問を送り、実際に回答が返ることを確認します。今回、管理者アカウントで両モデルの応答を確認しました。
一般利用者のアカウントでもモデルの表示・選択・応答を確認します。表示されない場合は管理者のモデル設定やアクセス権、接続側のモデル制限を確認します。この確認は今回まだ未実施です。

一覧への表示と、メモリへの読み込みは別です。未読み込みモデルの扱いは LM Studio の自動読み込み設定に依存します。最初は使うモデルを明示的に読み込み、切り替え時の待ち時間や同時利用時の負荷を確かめてください。

7. 運用とトラブル時の確認

LM Studio の API サーバーと Docker / Open WebUI が起動している必要があります。Mac の再起動後の復旧やスリープ時の挙動も確認します。
モデル一覧が古いときは一覧を更新します。接続できないときは API の到達先・ポート・認証・ファイアウォールを確認します。
failed to initialize MTL0 backend は今回 LFM3 の GGUF 版で発生しました。エンジン 2.66.0、GPU オフロード無効、アプリ再起動でも解消せず、原因は未特定です。一方、上記 Qwen3 の MLX 版は動作しました。
コンテキスト不足では、短い新規チャットで切り分け、必要に応じてメモリ使用量を見ながら読み込み設定を調整します。
ローカル推論でも、外部検索、追加ツール、埋め込み、音声等の接続先は別途確認します。履歴・添付ファイル・ログの保存先と閲覧権限、バックアップの扱いも決めておきます。

参考資料

画面の名称は 2026年10月30日の操作記録を基準にしています。ソフトウェアの更新で変わることがあります。