半年ほど前に「ローカルで LLM を動かせるらしい」と聞いて Ollama を入れてみたのですが、しばらく触らないうちに、自分が何をインストールして何をしたのか完全に忘れていました。ターミナルで叩いてみると、動いているのかいないのかもよく分からない。せっかくなので一度きれいに消してゼロから入れ直し、今度は実用的な使い道として「キーワードを渡すと業務日報を書いてくれる」状態まで持っていくことにしました。
結論から言うと、日報生成そのものは 16GB のメモリでも十分実用になりました。ただ、いちばん時間を取られたのは性能でもメモリ不足でもなく、日本語で書かせているのに出力に中国語が紛れ込むという、予想していなかった罠でした。この記事は、その回り道も含めた作業の記録です。
環境は以下のとおりです。執筆時点（2026 年 7 月）、Ollama v0.11.4 を起点にしています。
- macOS 15 系（Apple Silicon / arm64）
- Apple Silicon Mac、ユニファイドメモリ 16GB
- Ollama v0.11.4（Homebrew 版）
- 採用モデル:
qwen2.5:7b（約 4.7GB）
先にまとめ
急いでいる方向けに、今回たどり着いた結論と最終構成を先に置いておきます。
- ローカルでの日報生成は 16GB Mac で実用レベルに動く。 7B クラスのモデルなら、キーワードを渡してそれらしい日報が返ってくるまで問題なく到達できます。
- 最大の罠は Qwen2.5 の中国語混入。 日本語で指示しても、出力の一部に中国語の単語や記号（
，など）が混ざることがあります。原因はモデルの素性で、解決はプロンプトに「日本語のみ」と一文足すだけでした。 - もう一つの罠は、モデルが事実を超えて盛ること。 キーワードから日報を肉付けする過程で、実際には決まっていないことを「決定した」と書いてしまう場合があります。たたき台としては優秀ですが、送信前の事実確認は必須です。
最終的に落ち着いた構成は次のとおりです。Homebrew 版の Ollama に公式アプリ（GUI）を足し、qwen2.5:7b をベースに日報専用モデルを作る、という形です。
# 1. 本体（CLI）を入れる
brew install ollama
# 2. サーバーを起動（別タブで開いたまま。公式アプリ導入後は不要）
ollama serve
# 3. 日報向けモデルを取得
ollama pull qwen2.5:7b
# 4. GUI（メニューバー常駐＋チャットUI）を足す
brew install --cask ollama-app
# 5. 日報専用モデルを組み立てる（Modelfile は後述）
ollama create nippou -f ~/Nippou.modelfile以下、実際にたどった順序で書いていきます。
放置環境の棚卸し：動いているのかどうかも分からない
まず現状把握からです。バージョンだけ確認しようとしたら、いきなり警告が出ました。
❯ ollama --version
Warning: could not connect to a running Ollama instance
Warning: client version is 0.11.4バージョン番号（クライアント側）は表示されるのに、「動いている Ollama インスタンスに接続できない」と言われます。ここで一瞬「壊れているのか？」と焦りましたが、これは故障ではありませんでした。Ollama はクライアント（コマンド）とサーバー（デーモン）が分かれていて、この警告はサーバーが起動していないだけという意味です。ollama serve を実行すれば起動します。
サーバーを立ち上げてから、過去の自分が何を入れていたのかを確認しました。
❯ ollama list
NAME ID SIZE MODIFIED
nomic-embed-text:latest 0a109f422b47 274 MB 10 months ago
llama3.1:latest 46e0c10c039e 4.9 GB 10 months ago
llama3:latest 365c0bd3c000 4.7 GB 10 months ago3 つとも 10 か月前。Llama 3 を試したあとに 3.1 も入れた形跡があります。そして 3 つ目の nomic-embed-text は対話用ではなく埋め込み（テキストをベクトル化する）専用モデルです。これが単体で入っているということは、当時の自分は文書検索や RAG（自分のドキュメントを読ませて質問応答させる仕組み）のようなことを試していた可能性が高い、と推測できました。チャットモデル 2 つ＋埋め込みモデル 1 つという組み合わせは、その用途の典型です。
とはいえ記憶が飛んでいる以上、この環境をだましだまし使うより、一度まっさらにしたほうが早いと判断しました。
いったん全部消す
導入形態を確認したところ、Homebrew 経由でした。which ollama が Cellar へのシンボリックリンクを指しているのが決め手です。
❯ which ollama
/opt/homebrew/bin/ollama
❯ ls -l $(which ollama)
lrwxr-xr-x 1 user admin 34B /opt/homebrew/bin/ollama@ -> ../Cellar/ollama/0.11.4/bin/ollamaHomebrew 版なので、消すものは「Homebrew のパッケージ本体」と「モデルデータのディレクトリ」の 2 つだけです。/Applications にアプリがあるわけでも、メニューバー常駐アプリがあるわけでもありません。
# 本体を削除
brew uninstall ollama
# サービス登録が残っていないか確認（今回は登録なしだった）
brew services list | grep ollama
# モデル・設定・鍵を含むデータを完全削除（約10GBが消える）
rm -rf ~/.ollamaここで注意したいのは、brew uninstall はモデルデータまでは消さないという点です。ダウンロード済みモデルは ~/.ollama に残るため、完全にゼロへ戻すには手動で消す必要があります。このディレクトリには、モデルの実データのほかに Ollama が自動生成した鍵ファイルも入っていますが、入れ直せば再生成されるので消して問題ありません。
削除の確認は次のようにしました。
❯ which ollama
ollama not found
❯ ls -la ~/.ollama
ls: /Users/user/.ollama: No such file or directory
❯ lsof -i :11434
（出力なし）コマンド・データ・プロセス（ポート 11434 を掴んでいるもの）の 3 つとも痕跡が消え、まっさらな状態になりました。
ゼロから再構築して日報用モデルを選ぶ
改めて Homebrew で入れ直します。macOS では公式の .dmg（メニューバーアプリ）と Homebrew の 2 通りがありますが、中身の Ollama は同じで、違いは「使うときだけ起動する（Homebrew）」か「ログイン時に自動起動・常駐する（公式アプリ）」かという運用面だけです。実験フェーズで、不要になったら brew uninstall 一発で戻せるほうが気楽なので、Homebrew を選びました。
brew install ollama
ollama serve # 別タブで起動しっぱなしにする
ollama pull qwen2.5:7bモデルに qwen2.5:7b を選んだのは、日報が「日本語の文章生成」タスクだからです。Qwen 系は多言語、特に日本語・中国語・韓国語といった言語に強いという評価が各所であり、日本語の自然さを求める用途に向いています。約 4.7GB で、16GB のメモリにも余裕を持って収まります。
補足：モデルの多言語性能については Ollama の公式モデルライブラリ や各モデルカードが一次情報になります。世代は速く移り変わるので、実際に選ぶ際は最新のライブラリを確認するのが確実です。
本編の罠：日本語の日報に中国語が混ざる
モデルが揃ったので、さっそく CLI の対話モードで日報を書かせてみました。渡したプロンプトはこれです。
以下のキーワードから、ビジネス向けの業務日報を作成してください。
簡潔で、箇条書きを適度に使い、丁寧語で。
日付：2026年7月6日
キーワード：新規顧客A社と打ち合わせ、見積書作成、社内MTGで来期方針を共有、資料レビュー2件返ってきた出力が、これです。日報の骨格としては悪くないのですが、よく見ると妙な文字が混じっています。
以下は、ご提供顶的关键词为基础编制的商务报告样本、簡潔明了、並使用了適当な専門用語と敬語。
【日報】
敬具、
本日7月6日に下記の業務を行いました。
1. 新規顧客A社との打ち合わせ：…
（中略）
以上、ご報告いたします。
敬具，冒頭の「ご提供顶的关键词为基础编制的商务报告样本」はほぼ中国語ですし、末尾の「敬具，」の読点は日本語の「、」ではなく中国語の全角カンマ「，」です。日本語で指示して、日本語の日報を書かせているのに、地の文に中国語が滲み出してくる。これが今回いちばん意外だったつまずきでした。
原因は、Qwen が中国発のモデルであることに起因するクセだと考えられます。日本語で書いてはくれるものの、定型句や接続部分でベースの言語が漏れることがあるようです。
対処はシンプルで、プロンプトに「日本語のみで出力する」と明示的に縛りを足すことでした。
以下のキーワードから業務日報を作成してください。
出力は必ず日本語のみで、中国語の文字や記号は使わないこと。
簡潔に、箇条書きを適度に使い、丁寧語で。
日付：2026年7月6日
キーワード：新規顧客A社と打ち合わせ、見積書作成、社内MTGで来期方針を共有、資料レビュー2件この一文（「出力は必ず日本語のみで、中国語の文字や記号は使わないこと」）を足しただけで、混入は解消しました。出てきた日報がこちらです。
平素より格別のご高配を賜り誠にありがとうございます。
今週の業務日報について報告いたします。
【7月6日の活動】
* 新規顧客A社との打ち合わせを行いました。
* 見積書作成を完了いたしました。
* 社内MTGを開催し、来期方針を共有しました。
* 2件の資料レビューを行い、今後の作業計画を整えました。
何卒よろしくお願い申し上げます。中国語は消えました。ただ今度は別の粗が見えてきます。冒頭が「平素より格別のご高配を賜り」と完全に社外向けの挨拶文になっていて、日報にしては過剰です。さらに内容は 1 日分なのに「今週の業務日報」と書かれています。この 2 点は、次のモデル化のステップでまとめて直すことにしました。
CLI から GUI へ、そして日報専用モデル化
毎回ターミナルで対話するのは面倒なので、チャット形式の UI に移ります。2026 年からは Ollama 公式の macOS アプリにチャット UI が同梱されるようになっていて、追加の重いツールを入れなくても GUI が手に入ります。Homebrew の CLI 版を使っているので、cask でアプリを足しました。
brew install --cask ollama-appインストール後にアプリを起動するとメニューバーにアイコンが出て、そこからチャットウィンドウを開けます。CLI と GUI は同じサーバー（ポート 11434）を共有するので、ダウンロード済みの qwen2.5:7b はそのまま GUI のモデル選択に出てきます。なお、公式アプリはサーバーを自前で起動するため、手動で ollama serve を動かしっぱなしにしているとポートが衝突することがあります。アプリを使うなら手動の serve は止めておくのが無難でした。
ここまでで「GUI でキーワードを打つ」形にはなりましたが、毎回あの長い指示（日本語のみ・書式指定）を打つのは現実的ではありません。そこで、書式・トーン・「日本語のみ」というルールをモデル側に焼き付けた日報専用モデルを作ります。これには Modelfile を使います。
FROM qwen2.5:7b
SYSTEM """あなたは日本企業の社員が使う業務日報作成アシスタントです。
ユーザーが渡すキーワードや箇条書きメモをもとに、社内向けの業務日報を作成します。
【厳守するルール】
- 出力は必ず日本語のみ。中国語の文字・記号（，など）は一切使わない。
- トーンは社内向けの「です・ます」調。社外向けの過剰な挨拶文（「平素より格別のご高配を賜り」等）は使わない。
- 対象は常にその日1日分の「本日の」日報として書く。「今週」などとは書かない。
- 必ず以下の3セクション構成にする。各セクションの見出しは【】で囲む。
【本日の業務】
- キーワードを箇条書きで整理し、各項目に簡潔な補足（何をどうしたか）を添える。
【所感・課題】
- その日の業務から読み取れる気づき、進捗、次に検討すべき点を2〜3文でまとめる。
【明日の予定】
- 本日の業務から自然につながる翌日のタスクを2〜3項目、箇条書きで挙げる。
冗長にせず、簡潔で読みやすくまとめること。"""
PARAMETER temperature 0.6先ほどの CLI 出力で見つかった粗（社外向けの挨拶、「今週」表記、中国語混入）を、そのままルールとして書き込んでいるのがポイントです。これを組み立てます。
ollama create nippou -f ~/Nippou.modelfileベースの qwen2.5:7b を使い回すので追加ダウンロードは発生せず、数秒で nippou が完成します。以降は GUI のドロップダウンで nippou を選び、キーワードだけを打てば日報が出ます。
新規顧客A社と打ち合わせ、見積書作成、社内MTGで来期方針を共有、資料レビュー2件出力がこちらです。狙いどおり 3 セクション構成になり、トーンも社内向けに落ち着き、中国語も「今週」表記も消えました。
【本日の業務】
* 新規顧客A社と打ち合わせ：受注の可能性を探るための基本的な情報収集を行った。
* 見積書作成：新規案件の概算費用を基に、詳細な見積もり内容を作成した。
* 社内MTGで来期方針共有：全部署から構想を提出し、最終的な来期戦略を決定した。
* 資料レビュー2件：関連部門からの報告書と予算計画書の確認を行い、必要に応じて修正案を考えた。
【所感・課題】
新規顧客との打ち合わせから、今後の取り組み方針が明確になりつつある一方、来期全体の目標設定にはまだ不確定要素が多い。具体的な案件展開計画の作成に向け、さらなる情報収集と検討が必要だ。
【明日の予定】
* 新規顧客A社からのフィードバック確認：打ち合わせ内容を踏まえて、今後の進め方を調整する。
* 方針策定ミーティング：来期の方針について、全部署で再確認と詳細化を行う。
* 顧客向け提案書作成：新規案件の詳細な提案内容を作成し、最終的な承認待ちである。キーワードを並べ替えただけでなく、モデルが文脈を補って肉付けしているのが分かります。「受注の可能性を探るための情報収集」「概算費用を基に詳細な見積もり」といった具合です。
ただ、ここに三つ目の罠が潜んでいます。「社内MTGで来期方針共有」の項目が「全部署から構想を提出し、最終的な来期戦略を決定した」になっている点です。実際には決定まで至っていなければ、これは言い過ぎです。モデルの肉付けはあくまで推測なので、実態と違う箇所は手直しが前提になります。日報のたたき台を一気に作る用途としては強力ですが、そのまま提出せず事実確認を挟むのが安全です。
ハマりどころまとめ
今回引っかかった点を一覧にしておきます。
| 症状 | 原因 | 対処 |
|---|---|---|
ollama --version が「could not connect」と警告 | サーバー（デーモン）が未起動。クライアントとサーバーが分離している仕様 | ollama serve で起動する |
brew uninstall してもモデルが残る | uninstall はデータ（~/.ollama）を消さない仕様 | 完全削除には rm -rf ~/.ollama が必要 |
日本語の日報に中国語が混ざる（， や中国語の地の文） | Qwen が中国発モデルで、定型部分にベース言語が漏れる | プロンプト／SYSTEM に「日本語のみ」を明示 |
| 出力が社外向けの過剰敬語・「今週」表記になる | モデルが日報の宛先や範囲を推測で補う | Modelfile の SYSTEM でトーンと「本日分」を固定 |
| 実際には未決定のことを「決定した」と書く | キーワードからの肉付けは推測であり事実ではない | 送信前に人間が事実確認・手直しする |
| 公式アプリ導入後にポート衝突の可能性 | アプリが自前でサーバーを起動する | 手動の ollama serve は止めておく |
やってみての所感
放置していた環境をゼロから作り直して感じたのは、ローカル LLM の「動かすまで」のハードルは、思っていたより低かったということです。16GB のメモリでも 7B クラスは普通に動き、日報のような定型文書の生成なら体感で不満はありませんでした。むしろ苦労したのは動作環境ではなく、モデルの言語のクセと、生成物の事実性という、性能とは別の軸でした。
特に中国語混入は、公式ドキュメントを読んでいるだけでは気づきにくく、実際に日本語で書かせて初めて出会うタイプの罠です。解決自体は「日本語のみ」の一文で済みますが、これを知らないと「なぜか変な文字が混じる」で止まってしまいます。同じモデルで日本語生成を試す人には、最初から SYSTEM プロンプトで言語を固定しておくことをおすすめします。
向いているのは、定型文書のたたき台を手元で量産したい人です。データが外に出ない安心感もあります。逆に、事実の正確さがそのまま問われる文書（そのまま提出する報告書など）を「キーワードから全自動で」作らせるのは危険で、人間の確認工程を前提に組み込む必要があります。
次に試したいのは、放置環境の痕跡から見えた RAG です。当時の自分が埋め込みモデルを入れていた理由——手元のドキュメントを読ませて日報や議事録の参考にさせる——を、今度はちゃんと再現してみようと思います。
まとめ
Ollama をゼロから入れ直し、Qwen2.5:7b にキーワードから日報を書かせるところまでを一通りたどりました。動かすこと自体は 16GB Mac で十分実用でしたが、日本語生成では中国語混入という素性由来の罠があり、解決は「日本語のみ」という一文でした。加えて、モデルが事実を超えて盛る性質があるため、生成物は必ず人の目を通す前提で使うのが安全です。
ローカル LLM は、遠くの巨大な計算資源を借りなくても、手元の机の上で静かに動いてくれます。派手ではないぶん、こうした小さな罠を一つずつ潰していく作業が、そのまま再現性のある知見になっていきます。