ある日突然、「AOOSTAR GEM12 8845HS」というミニPCを購入してしまった私ですが、
ミニPCの中身に興味があったので、PC筐体を開けて色々と分解・パーツ交換してみました。
前回の記事で遂に「最強のミニPC（自称）！！」が完成しました。
現在のミニPCの構成は以下になります。
| PCパーツ種類 | 構成PCパーツ名 |
| CPU | AMD Ryzen 7 8845HS |
| グラフィック | AMD Radeon 780M（APU内蔵） |
| グラフィック | NVIDIA GeForce RTX4060ti 16GB（OcuLink接続） |
| メモリ | Crucial 128GB Kit(2x64GB) DDR5-5600 SODIMM CT2K64G56C46S5 |
| SSD（OS用） | Crucial T500 2TB Gen4 NVMe M.2 CT2000T500SSD8JP |
| SSD | ORICO IG740PRO 4TB PCIe 4.0 M.2 NVMe 2280 |
| RAMdisk | Crucial 128GB Kitより16GB割り当て（一時ファイル展開用） |
| wifi | Qualcomm QCNCM865 Wifi7+BT5.3 |
| OS | Windows11 pro |
ミニPC自体のパワーアップはここで一旦終了となります。
ローカルLLMが進化してきている！
最近、AI界隈ではローカルLLMモデルが急速に進化してきています。
LLM（Large Language Model：大規模言語モデル）は、性能が高いモデルは100～1000GBなどの大容量メモリが必要といわれています。
そんな中、VRAM24～32GBなど比較的小容量のメモリでも高性能なLLMが発表されました。
2026年4月2日にGoogleは「Gemma 4 31B」を発表し、それに続いて4月22日中国Alibabaは「Qwen3.6-27B」を発表しました。
上記LLMは以前のモデルと比較してAI性能が格段に向上したとのことです。
「Gemma 4 31B」と「Qwen3.6-27B」の両方のモデルは、4bit量子化されたモデルであれば１つのグラフィックカードのVRAM（24～32GB）にデータが全部乗るため、ローカルLLMとして高速に推論することができます。
しかし、現在発売されているグラフィックカードはハイエンド価格帯の製品以外はVRAMが16GB以下のとても小容量なのが問題となっています。
2025年夏頃は皆「GeForce RTX5080super 24GB」の発売を強く望んでいました。
昨今のメモリチップ高騰により「RTX5000シリーズsuper」が頓挫してしまいました。
ローカルLLMはグラフィックカードではなく、「CPU+メインメモリ」でも動作させることができます。
以前の記事では「GeForce RTX4060ti 16GB」を使用して「GPT-OSS-120B」をメインメモリに展開して動作させました。
簡単な質問は13 tok/sec程度の速度が出ていましたが、少し複雑な質問になると7 tok/secまで速度が落ちてしまいました。
快適なAI環境を求めるならば、強力なグラフィックカードが今後必要になると実感した結果でした。
そこでAI用に「GeForce RTX5090」を追加購入することも考えましたが、現在の価格は50～60万円と気軽に手が出ない存在になってしまいました・・・
2025年夏頃にSNSでグラフィックカードのVRAMを増やす改造をする国内業者がいることが話題になりました。
2025年12月に「PC Watch」さんもグラフィックカード改造について記事にされていました。
「GeForce RTX4090」をVRAM48GBへ改造するという記事です。
「NVIDIA RTX PRO 6000 Blackwell」のVRAM96GBには敵いませんが、VRAM48GB化はとても魅力的な改造です。
しかし、RTX4090は中古でも40万円前後と高価な値段です・・・
そんなこんなで諦めた矢先、2025年12月に「RTX4080」や「RTX4080super」をVRAM32GB化する手法が開発されたとの情報が入ってきました。
「RTX4080super」なら私でも中古でお手頃な価格で購入できます。
居ても立っても居られず、私も上記業者様へ「GeForce RTX4080super」の改造について依頼しちゃいました。
「GeForce RTX4080super」のVRAMが32GBになった！！
この業者さん大人気なのでしょうね。 待つこと約2ヶ月・・・
「GAINWARD phantom RTX4090」のガワをまとって我が家に帰ってきました！！！！
どこから見てもRTX4090にしか見えません。
重量もずっしり重いです・・・RTX4090の冷却システムなら十分冷えるに違いありません！！
さっそく「GeForce RTX4080super 32GB」を「Minisforum DEG1」に取り付けてみます。
「Minisforum DEG1」に取り付けるPC電源は奮発してATX3.1 PCIe5.1対応の「CORSAIR RM850x 850W」にしちゃいました！
装着完了！！ 見た目からして重厚感がありますね、何か強そうです！！
そしてミニPC「AOOSTAR GEM12改」とOCuLink接続します。
Windows11を起動して最新のドライバを当てます。
デバイスマネージャーでは問題なく「GeForce RTX4080super」として認識されています。
GPU-Zでグラフィックカード情報を確認したところ、「GeForce RTX4080super」でありながらMemory sizeがしっかり「32GB」と表示されています！！
VRAMが32GBあると心の余裕がありますね。
「GeForce RTX4080super 32GB」を全開で動かすとFANがうるさいので、PL80%設定にして消費電力を下げて運用することにしました。
「GeForce RTX4080super 32GB」の仮想ライバルとして、同じVRAM容量の「Radeon AI PRO R9700 32GB」と「Intel Arc Pro B70 32GB」があります。
「GeForce RTX4080super 32GB」のメモリ帯域幅は「736.3 GB/s」であり、「Radeon AI PRO R9700 32GB」の 640GB/sや、「Intel Arc Pro B70 32GB」の 608 GB/s と比較して十分勝っているスペックです。
ライバル達と比較して「GeForce RTX4080super 32GB」の優位な点は、NVIDIA謹製の「CUDA資産」を利用できる事です。CUDAとは機械学習、ディープラーニング、科学技術計算、シミュレーション、画像や映像処理などの処理を効率的に行うことができるソフトウェアプラットフォームです。
「GeForce RTX」製品群はCUDAを手軽に使用できるグラフィックカードなのが特徴です。
「GeForce RTX4080super 32GB」には期待しかありません！！
ローカルLLMをLM Studioで動かしてみた
「最強のミニPC（自称）のAOOSTAR GEM12改」に「GeForce RTX4080super 32GB」を組み合わせて超強力なAI環境が出来上がってしまいました！！
AIプラットフォームは「LM Studio」を使用します。
「Gemma 4 31B」の4bit量子化されたモデルをダウンロードして使用します。
コンテキスト長はデフォルトでは「4096」ですが、少し増やして「16779」にしてみました。
「Gemma 4 31B 4bit量子化モデル」の推論速度は28 tok/sec前後出ています。
実際の推論スピードはこんな感じです↓
これくらいのスピードであれば十分実用的だと思います。（個人的感想です）
質問に対する返答内容もほとんど問題無い精度でした。（個人的感想です）
Web情報ではRTX5090だと60 tok/sec前後の推論速度が出るようなので、「GeForce RTX4080super 32GB」は約半分の性能だという事になります。
推論速度に影響する要因としてメモリ帯域幅が挙げられます。
メモリ帯域幅はRTX5090の「1,792 GB/s」に対して、RTX4080superは「736.3 GB/s」なので順当な結果と考えられます。
「Gemma 4 31B 4bit量子化モデル」のコンテキスト長「16779」設定時のVRAM使用量は24.9GBなので「GeForce RTX4080super 32GB」の性能を十分に活かすことができています。
推論時のグラフィックカード消費電力は250W前後とRTX5090と比較して省電力です。
室温24℃条件下でGPU温度は51℃と、冷却システムは問題無くFANもうるさくなりません。
まとめ
ミニPCへOCuLink接続の「Minisforum DEG1」を使用することで外部グラフィックカードを使用することができます。
今回はVRAMを32GBへ増量した「GeForce RTX4080super 32GB」を使用することで、「Gemma4 31B」等のある程度VRAMを要求するローカルLLMを快適に動作させることができました。
『ミニPC』+『強力な外部グラフィックカード』の組み合わせは、AI用途にとって省電力かつ快適に運用ができるひとつの選択肢になったと証明できたのではないでしょうか？
「GeForce RTX4080super 32GB」への改造は故障に対して自己責任であり、公式ドライバが今後も使用できるか保証はないため万人にお勧めできない方法ということは皆さんへ一言伝えなければなりません。
上記デメリットを全て受け入れた上で運用するならば、とても魅力的な製品だと思います。
今回のグラフィックカード強化により、以前と比べて快適に使用できるAIモデルが増えたので、今後様々なAIに触れていきたいと思います。
こちらの記事も合わせて読んでね
コメント