ローカルLLM（Qwen3.8 27B）にゲーミングPCで2週間コーディングさせた結果
数年前にゲーム用として購入したデスクトップPCがここ最近は置物になっていました。GPUはGeForce RTX 4090です。当時それなりの覚悟で買ったパーツに電源すら入らない期間が続くと、さすがに勿体無い気持ちになります。
私が使用しているのはHPのBTOモデル「OMEN 45L」で、実際の実機は以下です。少し古いモデルなので、公式では現在は販売終了しています。
最新モデルは「OMEN MAX 45L」というモデルで、5090が乗ってるようです。
PC・デスク周りについて詳細が知りたい方は以下も参考にしてください。
閑話休題。一方で、開発でほぼ毎日使っているClaude Codeの月額プランには利用枠があり、こちらは常に足りません。トークン効率を改善する小手先のテクニックも色々ありますが、個人環境でできる改善には限度があります。
そんな矢先に現れたのが「Qwen 3.8 27B」というローカルLLMモデルの公開でした。開発しているのはAlibaba Cloudというアリババグループの企業のようです。
We promised open weights for Qwen3.8. Now, time to meet them! 🎉
— Qwen (@Alibaba_Qwen) August 14, 2026
⚡ Qwen3.8-27B:
- A native multimodal dense model. With just 27B parameters, it outperforms Qwen3.7-Plus overall and shines in real-world coding & office workflows.
- 262K native context, easily extendable to 1M… pic.twitter.com/QuN8oWkG4C
ちらほらとラップトップや一般向けのゲーミングPCでも動いたというような報告が散見されたので、手を動かす機械的な一部のタスクだけでもローカルLLMに委託できないか？という微かな期待を持って試してみようとしたのがきっかけです。
今回は、そのゲーミングPCにローカルLLMを住まわせて、コーディング作業を任せてみた2週間の記録です。なお、このブログの筆者の本業はプロダクトデザイナーであり、ローカルLLM周りにおいては素人であることにご留意ください。
この記事のターゲット
Claude Codeなどのコーディング支援AIを日常的に使っている方
AIの月額プランの利用枠が足りないと感じている方
家に使っていないハイエンドGPU搭載のゲーミングPCが眠っている方
調査を始めた段階での期待値は低め
正直に言うと、始める前はあんまり期待していませんでした。
そもそもローカルLLMというものに造詣が深くないので、家庭用のグラフィックボードで動くLLMが実務の戦力になるイメージを持っていませんでしたが、初期のChatGPTのようなテキスト生成がお試しで動けばいいな〜という期待値で、ちょっと試して満足したらすぐ潰すつもりで調べ始めました。
あわよくば、ClaudeやCodexには設計や判断といった考える仕事だけをさせて、機械的に手を動かす系のタスクはローカルに委託する構想ができたらいいな〜という目論見はありました。
導入環境
以下は筆者の導入環境の参考情報です。
PC本体：OMEN 45L
OS：Windows 11 Pro
GPU：GeForce RTX 4090（VRAM：24GB）
CPU：Core i9-14900K
メモリ：64GB
推論サーバー：llama.cppのllama-server
導入モデル：Qwen3.8-27B
Q4_K_M量子化（Quantization）のGGUF形式で、ファイルサイズは約19GB
文脈長：64Kトークン
モデル本体の19GBと合わせて、24GBのビデオメモリにぎりぎり収まる容量
MTPという投機的デコードの仕組みを有効にしたところ、生成速度は実測で毎秒42.9トークンから71.5トークンに向上しました
ネットワーク構成：呼び出し側のMacへの接続は、諸事情でTailscaleを使用
ざっくり言うと、19GBのAI本体をグラフィックボードに読み込ませて、手元のMacから呼び出せるようにした構成です。
細かい導入手順は割愛しますが、llama.cppの導入からモデルの入手、起動設定までは、Claudeなどに調査してもらいながら公式の情報に沿えば、素人でも進められる範囲でした。
まずは機械的なタスクを任せてみる
設計や作業の切り分けとしては、Claude Codeが統括し、実際にプログラムを書く作業は、Qwenが隔離されたSandboxの中で進めます。Qwenのアウトプットは、実装したQwen自身ではなくCodex などの別のAIがレビューする、という構成を構築しました。
全部を任せる構成にしなかったのは。期待値が低いことと、そもそも得体の知れないローカルLLMにどこまでさせて良いのか見当がつかないので怖かったからですが、結果的にはこの構成でも一定の能力をベンチマークできました。
レビュー役を実装役と別系統にした効果としても、実装役のQwenも私も見落としていた不具合を、検品役だけが拾ってくれた場面がありました。
ベンチマーク水準は想定の6割くらい
2週間で任せたタスクは85回でした。主なタスクは以下の通りです。
このブログのバックエンドなどのメンテ系タスク
趣味開発の自作アプリの開発とテスト
クレカなどの支払いキャッシュフローのデータベースをインプットして、最適な支払い方法を推論させるタスク、など
手直しなしで一発通過したのは52回、率にすると61%です。
導入初日の8月19日はもっと低く、8回委託して問題ない通過は3回でした。委託した作業が制限時間内に終わらず、途中で打ち切られる時間切れが多発しました。
タスク不発33回の内訳
不合格だった33回を1件ずつ調べて不発の原因をClaudeに分類させました。ざっくりは以下の通りです。
実行環境の問題が21回
最多は、呼び出す側の仕組みが1回の作業を600秒で打ち切る設定になっていたことによる時間切れ
その他は、Sandbox上の制約など
Claudeのオーケストレーション側の指 示書に不備があったのが5回
Claudeの指示の矛盾に気づいて、Qwenが適切に作業を止めたのが4回
長丁場の作業で、途中の引き継ぎメモが崩れたのが2回
Qwen自身のモデル能力に起因する出力不備は1回
個人的に一番驚いたのは、Qwenが指示ミスに気づいてタスクを止めた4回です。その中の1件は、渡した指示が既存の仕組みと矛盾していることを見抜いて、「この指示のままでは既存のテストを壊すので、仕様の見直しが要ります」と作業を止めて報告してきました。
家庭用のパソコンで動くAIがClaude（Opus5）の設計ミスを差し戻した、という事実には驚きを禁じ得ません。
時間切れの対策として、長い作業を分割して待てる仕組みに変えた直後の日のタスク実行は問題なく通過しました。つまり合格6割という数字がベンチマークしていたのは、AIの実力ではなく、オペレーション上の環境とオーケストレーション側のハーネスだった、という話になりますね。
速さは実用に足るのか？
ClaudeやCodexといった最先端のクラウドAIと比べると、Qwenは決して速い方ではありませんが、遅すぎるというほどでもない気はしています。以下は参考値です。
Claude Sonnet 5（reasoning effort max、Anthropic API経由）: 毎秒86.3トークン
GPT-5.6 Luna（max、OpenAI API経由）: 毎秒127.0トークン
Qwen3.8-27B（ローカル）: 毎秒71.5トークン
手元の実測値
ただ、ClaudeやCodexのサブスクプランの利用枠は5時間ごとの区切りで管理されていて、使い切るとリセットまで手持ち無沙汰になります。その間もローカルのQwenは枠を気にせず黙々と動き続けるので、Claude Code側のOpus 5と組み合わせる使い方では、緊急度の低いメンテ系のタスクや、趣味開発レベルでは十分実用の範囲でした。
実際に使っていても、待たされる原因はモデルの生成速度そのものより、タイムアウト対策の作業時間制限や64Kの文脈の上限といった環境側の制約に引っかかることのほうが多い印象です。この待たされ方はモデルの賢さの問題ではないので、環境側の調整でまだポテンシャルがありそうです。
タスクの委託の仕方のコツ
Claudeがいくつか委託方法を試した中で一定ワークしてそうだったのが、自由に書かせずに選択肢から選ばせる方法でした。
趣味開発の自作アプリで、カードゲームのカード300枚の分類を任せたとき、あらかじめ許容する答えの一覧を渡したところ、667個の答えのうち一覧の外に飛び出したのは2個だけでした。自由記述で同じ種類の作業をさせると答えの表記が発散しやすいことがわかりました。
他には、返却値のフォーマットは崩れる前提で受け取るなど、指定した形式をきっちり守ってくれるとは限らないので、思考の途中経過が答えに混ざったりすることもあるようでした。受け取る側が多少の崩れを吸収できる作りにしておくと良さそうです。
全体的には、答えを機械的に判定できるタスクのパフォーマンスが高いようでした。テストの成否で正解がわかる仕事 は安心して任せやすそうです。逆に、正解の確認手段が「うまくできました」という本人の申告しかない仕事は、検品のしようがないので、ClaudeやCodexは「Qwenのうまくできましたは信用しません」などと宣っていました。
ゲームとの同居はどうなったのか？
VRAMはAIとゲームで奪い合いになるため、デスクトップに「Qwen停止」「Qwen起動」のショートカットを置いて、ゲームの前にワンクリックで起動と停止できるようにしました。止めたまま呼び出してしまっても、Mac側は数秒で不在と判定してフォールバックするようにしていました。
結論を言うと、この2週間はほぼゲームを起動しませんでした。（元々FF14を起動してましたが、Switch2でもできるようになったので困っていない）
AIに実装を任せて自分は企画や設計を考えることに時間を使っているので、ゲーミングPCは常時待機状態になっています。ゲーミングPCの新しい遊び方と言えなくもありません。（電気代はちょっと怖い）
おわりに
ローカルLLMは実用になるのか。2週間時点の所感としては、タスクを絞って適切に頼めば思ってるよりは使えた。ただし、勝手に賢く働いてくれるわけではない、という感じです。もし遊ばせているゲーミングPCをお持ちの方は、ローカルLLMの下宿先として試してみるのは悪くないかも？
通過率の数字は、環境の整備とともにまだ動いている途中です。なので、結論づけるのは時期尚早と思います。運用が一区切りしたら、続きをまた記事に書いてみようと思います。
