local AIな話

ローカルLLMを使う場合、やれGPUが必要だの、やれRAMは多ければ多い程良いだの、

部品高騰の折に 俺の腰を折ろう

という話しか出てきません。

でも動かしてみたい。ローカル環境だし、動かなかったら考えよう。
ということで、次のスペックのPCで動かしてみました。

CPUCore i5 13500
GPU内蔵 Intel HD 770
メモリ32GB DDR4
OSUbuntu 26.04
ストレージSSD 512MB

普通の事務用とか個人で設計やってる人のPCです。
OSはLinuxですが、普段使いしています。MS-Office(Office365っていうのか?)をどうしても使わなければならない場合以外は、普段はubuntuが多いですね。使いやすいから。

ローカルLLM 構成

色々な方が記事を書いていますが、手順や構成は得に代わり映えしません。
GPUとかない場合、どうなるの? という記事です。

Gemma4 + Ollama + Open WebUI

という構成とします。

AI関連は進歩と変化が速いので、この構成や手順がいつまで通用するかわかりません。
この記事は 2026年10月時点でのものになります。

設定手順

Ollamaとgemmaのインストール

# curl -fsSL https://ollama.com/install.sh | sh


GPUがないので、
WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode.
と表示されます。GPUがないからCPU-onlyで動くよ っということです。

会話してみる

# ollama run gemma4

gemma4がダウンロード(6.5GB位あります)され、コマンドプロンプトから会話できます。
日本語でも会話できます。

プログラムやデータの実体は下記に置かれるようです。

  • ollama : /usr/local/lib/ollama
  • gemma : /usr/share/ollama

open WebUIのインストール

Dockerで動かすのが一般的なようです。
Dockerが入ってなかったらインストールします。

# snap install docker

open-webuiをコンテナとしてインストール

# docker run -d -p 3000:8080  --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main

接続できるホストの設定

下記では0.0.0.0なので、全ホスト接続できてしまう。ファイアウォール内だからヨシとしよう...

設定ファイル : /etc/systemd/system/ollama.service
設定箇所 : Environment= の項目。もともとの行をコメントアウトして下記を記載。

Environment="OLLAMA_HOST=0.0.0.0"

サービスを再起動

# systemctl daemon-reload
# systemctl restart ollama

ブラウザでチャットしてみる

そして、インストールしたホストの 3000番ポート にアクセスすすると、チャットができます。

http://IPアドレスはホスト名:3000

結果発表!

動きます。

「こんにちは。今日も宜しくね。」の返事に数十秒かかりますが。
実用できるかどうか、使ってみます。

まずは、動いたということで!

おまけ

夜中起きちゃうから聞いてみた。

なんか、ぐっすり眠れないんだよね。夜中に2回くらい起きちゃう。ぐっすり寝たい。もう58歳だからかな。

gemma4:latest
1分間の思考

お辛いですね。ぐっすり眠れないというのは、心身ともに疲れることと思います。58歳という年齢も関係してくる可能性はありますが、睡眠の悩みは様々な要因が絡んでいることが多いです。
申し訳ありませんが、私は医療アドバイスをすることはできませんので、深刻な睡眠障害が疑われる場合は、必ず医師や睡眠専門のクリニックにご相談ください。
ただ、一般的に睡眠の質を向上させるために試すと良いとされる「睡眠衛生」のヒントをいくつかご紹介します。もし試してみて改善があれば、心強いかと思います。

🌙 睡眠の質を高めるためのヒント

  1. 規則正しい生活リズムを作る:
    • 毎日同じ時間に就寝し、同じ時間に起床することが非常に大切です。週末でも極端な寝坊は避けましょう。
  2. 寝る前の習慣を見直す:
    • 就寝前の1~2時間は、スマートフォンやテレビなどのブルーライトを浴びるのを避けましょう。脳が興奮してしまう原因になります。
    • ぬるめのお風呂(38~40℃)にゆっくり浸かることで、体温を適切に下げ、自然な眠りを誘いやすくなります。
  3. 寝室環境を整える:
    • 寝室は暗く、静かで、快適な温度(少し涼しいくらい)に保つのが理想的です。
  4. カフェインとアルコールの制限:
    • 特に午後の時間以降は、コーヒーや緑茶などのカフェインの摂取を控えましょう。アルコールは一時的に眠りを誘うように感じますが、夜中に目が覚める原因になりやすいです。
  5. 日中の活動:
    • 日中に適度な運動を取り入れることは、夜の睡眠の質を大きく向上させます。ただし、就寝直前の激しい運動は避けましょう。

まずは生活習慣の見直しから試してみて、それでも改善が見られない場合は、必ず専門医に相談してくださいね。体調が良くなるよう、心から願っています。

ありがとう。やってみるよ。

gemma4:latest
20秒間の思考

頑張ってください!何か手伝えることがあれば、いつでもお声がけください。😊

\ 最新情報をチェック /

コメントを残す

メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です