ホーム / APIなしでAIを動かす
GUIDE 02 / 実践
APIなしでAIを動かす
Windowsで小型AIを実際に起動
まずは他社のAI APIを使わずに、PCの中で文章生成AIを実際に動かします。この記事はWindowsを中心に説明します。
01. 用意するもの
- Windows 10/11 のPC(64bit)
- インターネット接続(初回ダウンロード時)
- モデルとソフトを入れる空き容量
PCの性能に注意
メモリ8GBでも小型モデルを試せる場合がありますが、快適さはCPU・メモリ・他のソフトの使用量によります。大きなモデルは遅くなるか起動できないことがあります。
02. Ollamaをインストールする
公式のWindows向けOllamaダウンロードを開いてインストールします。インストール後、PowerShellを開きます。
03. モデルを起動
次のコマンドで小型のQwen3(0.6B)を取得し、そのまま会話画面を開けます。初回はダウンロードが必要です。
TERMINAL / CODE
ollama run qwen3:0.6b文章を入力して回答が出たら成功です。終了するときは /bye と入力します。
04. インストール済みモデルを確認
TERMINAL / CODE
ollama list動いているモデルを調べる場合は、次のコマンドを使います。
TERMINAL / CODE
ollama ps05. 次にやること
1
同じ質問を5回試す
回答の安定性・言語・速度を確認する。
2
モデルを比較する
余裕があればより大きなモデルも試し、品質と負荷の差を調べる。
3
専門用途へ進む
独自資料を参照させるRAGか、追加学習を検討する。
大切な区別
ここまでの作業は「既存AIをローカルで実行」した状態です。独自AIの作成・追加学習とは区別しましょう。