機密情報を守りながらAI自動化を実現する ── n8n × ローカルLLM × Claude Codeの実践

はじめに：なぜ「ローカルLLM」なのか

業務自動化ツール n8n を導入する企業が増えています。ワークフローの中でLLM（大規模言語モデル）を活用すれば、
メールの要約、問い合わせの分類、レポートの下書き作成など、これまで人手に頼っていた作業を大幅に効率化できます。

しかし、ここで立ちはだかるのが 機密情報の問題 です。

OpenAI や Google のクラウドLLMを利用すると、社内データ──顧客情報、契約書、人事データ、財務情報──が
インターネットを経由して外部サーバーに送信されます。
「学習には使用しません」というポリシーがあっても、現場ではなお慎重な判断が求められます。

こうした課題に対して有効なのが、ローカルLLM（自社環境で動作するLLM） という選択肢です。

ローカルLLMとは

ローカルLLMとは、OpenAI等のAPIに依存せず、自社が管理するサーバー上で直接動作するLLM を指します。
オープンソースモデルの急速な進化により、2024年以降、実用的な選択肢として一気に注目を集めています。

代表的なオープンソースモデル

ローカルLLMのメリットとデメリット

メリット

• データが自社環境から外に出ない
• API利用料が発生しない（主にインフラ費用のみ）
• カスタマイズやファインチューニングの自由度が高い
• ネットワーク障害時でも動作しやすい

デメリット

• GPUサーバーの初期構築・運用コストがかかる
• 最先端の商用モデルと比較すると性能差がある場合がある
• 運用・保守の人的リソースが必要になる

Ollama：ローカルLLMを「誰でも動かせる」ツール

Ollama は、ローカルLLMの導入ハードルを大きく下げるオープンソースツールです。

従来、ローカルLLMを動かすには、CUDAドライバの設定、モデル変換、推論サーバー構築など、多くの専門知識が必要でした。
Ollamaはそれらを、極めてシンプルな操作に集約します。

# Ollamaをインストールして、すぐにLlama 3.1を起動
ollama run llama3.1:8b

Ollamaの主な特徴

1. OpenAI互換API：既存のOpenAI SDKや各種ツールから接続しやすい
2. モデルの自動管理：ダウンロード、キャッシュ、バージョン管理を簡略化
3. GPU自動検出：NVIDIA GPUを認識して最適化実行しやすい
4. 軽量：単一バイナリで動作し、Docker運用にも向く

特に重要なのが OpenAI互換API です。n8nをはじめ、多くのツールはOpenAI形式のAPIに対応しているため、
エンドポイントURLを差し替えるだけでローカルLLMに切り替えられます。

Claude Codeで AWS に Ollama を構築する

Ollamaをローカルマシンで動かすのは簡単ですが、チームで利用できるサーバーとしてクラウドに構築するとなると、
VPC、セキュリティグループ、GPUインスタンス、コンテナ、スケジューラーなど、検討事項が一気に増えます。

そこで有効だったのが、Claude Code の活用です。

Claude Codeとは

Claude Code は Anthropic が提供するCLIツールで、ターミナル上でClaudeと対話しながら、
コード生成・編集・デプロイを進められます。
ファイルの読み書き、コマンド実行、複数ファイルにまたがる修正などを、
自然言語ベースで進められるのが特徴です。

実際の構築プロセス

Claude Codeに「OllamaをAWSのGPUインスタンスにデプロイするCDKプロジェクトを作って」と指示すると、
以下のような構成が自動生成されました。

[ユーザー / n8n] → [Public IP:11434] → [ECS Service on GPU Instance]
│
├─ Ollama Container（NVIDIA GPU）
├─ Llama 3.1:8b
└─ EBS gp3（モデル永続化）

Claude Codeが自動設計・実装した要素

特筆すべきは、セキュリティとコスト最適化が初期段階から設計に組み込まれていたことです。
手作業でゼロから設計すれば数日かかる内容が、Claude Codeとの対話により数時間で形になりました。

デプロイも1コマンド

# 自分のIPを許可してデプロイ
cdk deploy -c allowedCidr=$(curl -s ifconfig.me)/32

月額コストは、Spotインスタンス利用・営業時間のみ稼働の条件で 約88ドル。
24時間運用と比較して、約58%のコスト削減を実現しました。

n8nへの繋ぎ込み：驚くほど簡単

Ollamaのサーバーが立ち上がれば、n8nとの連携は非常にシンプルです。
OllamaはOpenAI互換APIを提供するため、n8nの OpenAI互換ノード からそのまま接続できます。

n8n側の設定

1. Credentials設定
   Base URL: http://<OllamaのPublic IP>:11434/v1
   API Key: 任意の文字列（Ollamaはデフォルトで認証不要）
2. AI Agentノードを追加
   n8nのAI Agent / Chat Modelノードを配置
3. モデルを指定
   llama3.1:8b を入力

これだけで、n8nのワークフロー内からローカルLLMを呼び出せるようになります。

Claude Codeを使えば、n8nからのアクセス許可もスムーズです。CDKのコンテキスト変数として
n8nNatCidr を渡すだけで、n8nサーバーのIPをファイアウォールルールへ追加できます。

cdk deploy -c allowedCidr=<自分のIP>/32 -c n8nNatCidr=<n8nのNAT IP>/32

実際のOllamaからの返事例

ここでは、Ollama上の Llama 3.1 8B が実際にどのような応答を返すのか、
代表的なビジネスユースケースで見ていきます。

ユースケース1：問い合わせメールの分類

curl http://<OLLAMA_IP>:11434/api/generate -d '{
"model": "llama3.1:8b",
"prompt": "以下のメールを「見積依頼」「クレーム」「一般問合せ」「解約」のいずれかに分類してください。\n\nメール本文：\n先日購入した製品Aについて、納品書に記載の金額と請求書の金額が異なっています。至急確認をお願いします。",
"stream": false
}'

ユースケース2：社内文書の要約

curl http://<OLLAMA_IP>:11434/api/generate -d '{
"model": "llama3.1:8b",
"prompt": "以下の議事録を3行で要約してください。\n\n議事録：\n2025年第1四半期の売上は前年比15%増の3.2億円。主要因はB2B SaaS事業の新規契約増加（前年比+40件）。一方、レガシー製品の保守契約は解約率が8%に上昇。次四半期はカスタマーサクセス部門の増員（3名）とオンボーディングプロセスの改善に注力する方針。予算として追加で1,500万円を計上予定。",
"stream": false
}'

ユースケース3：定型メールのドラフト作成

curl http://<OLLAMA_IP>:11434/api/chat -d '{
"model": "llama3.1:8b",
"messages": [
{"role": "system", "content": "あなたはビジネスメールの作成アシスタントです。丁寧かつ簡潔な日本語で返信を作成してください。"},
{"role": "user", "content": "取引先の田中様に、来週火曜14時の打合せ日程を確認するメールを書いてください。場所はオンライン（Zoom）です。"}
],
"stream": false
}'

いずれの応答も、GPU利用時でおおむね 2〜4秒程度 で返答可能です。
クラウドLLMほどの精度ではない場面もありますが、分類・要約・定型文作成 のような
構造化タスクでは十分実用的です。

まとめ：Claude Codeが変えるインフラ構築の在り方

本記事で紹介した流れを整理すると、次のようになります。

1. 課題認識：機密データをクラウドLLMへ送信できない
2. 技術選定：Ollama + Llama 3.1 によるローカルLLM環境を採用
3. インフラ構築：Claude Codeが AWS CDK でGPUサーバーを設計・実装
4. 連携：n8nからOpenAI互換APIで接続
5. 運用開始：営業時間のみ稼働するコスト最適化運用

従来であれば、AWS GPUインスタンスの設計、CDKコード実装、セキュリティ設定、スケジューラー構築まで含めると、
インフラエンジニアが数日〜1週間かけるような作業でした。

しかしClaude Codeを活用することで、VPC設計からECSタスク定義、EventBridgeスケジューラーまで、
対話ベースで数時間のうちに完成させることができます。しかも、IMDSv2の強制やEBS暗号化といった
セキュリティのベストプラクティスも初期状態から盛り込みやすいのが大きな利点です。

※ 本記事で紹介したOllamaサーバーのAWS構成は、営業時間のみ稼働する前提で、月額約88ドルから運用可能です。