Beelink GTR9 Pro (AMD Ryzen AI Max+ 395 RAM128GB)が到着しました。
現在所有しているPCで一番高価なものになってしまいました。$1,985.00(305,998円)
さらにDHLから輸入消費税と立替納税手数料で3,580円請求されました。
主な目的はLLMのモデルgpt-oss-120bを使用することです。
現状gpt-oss-120bを動作させることができる機種で一般に入手できるものは他のメーカーも含めて30万円程度のAMD Ryzen AI Max+ 395 RAM128GBの機種か50万円以上のMacしかない状況なので、これでも安い方です。
主な仕様は過去記事の最後の方に書いてありますので、参照してください。
blog-e.uosoft.net
CPUはAMD Ryzen AI Max+ 395で16コア32スレッドです。
メインメモリは128GBあり、ここからVRAMに割り当てます。
VRAMの容量は64GBと96GBを選択でき、デフォルトは96GBです。
性能も目安として3DMarkのTime Spyを実際に実行してみました。
この数値はGeForce RTX 4060搭載のゲーミングノートPCを超えてます。
blog-e.uosoft.net
目的のLM Studioでgpt-oss-120bを実行してみました。
プロンプトに「生成AIって何?」と入力した結果ですが、32.89token/s出ました。
VRAM使用量は61GBでしたので、割り当ても64GBにしてみたら25token/sまで落ちました。どうも余裕があった方が良さそうです。
gpt-oss-20bでも試してみたところ、こちらは61.51token/sでした。
気になる消費電力ですが、アイドル時は25W前後、通常作業時は40~60W、3Dゲームをすると120W以上、LLMやベンチマーク実行時は160Wでした。
ミニPCとしては結構電気を食うイメージで、ゲーミングノートPCをTurboモードで動作させてる感じです。
これではちょっと多いなと思い、動作モードの変更ができないかBIOSの設定を見てみました。
デフォルトはバランスモードで、他にはパフォーマンスモードでした。
ECO Modeの設定をEnabledにしてみました。
CPUのTDPを45Wに制限するようです。
これで消費電力がアイドル時は20W前後、通常作業時は20~40W、3DゲームやLLMやベンチマーク実行時は100W前後になりました。
Web上でこのブログを書いてる最中で27W前後です。
これで普段使用しているゲーミングノートPCのサイレントモードと同等になりました。
気になるパフォーマンスですが、3DMarkのTime Spyの結果
60Wも減少しているのに思ったより低下は少なく、普段使用しているゲーミングノートPCのサイレントモードより高い結果となりました。
gpt-oss-120bの実行も31.37token/sとほとんど低下してません。
静音性も高く、160Wの高負荷時でもゲーミングノートPCのサイレントモードの高負荷時より静かです。
不明な点がありまして、電源OFFの状態でも5Wの電力が流れてます。
電源OFF時でもUSBに電力が流れているのでこのコントローラ関係が消費してると思われますが、BIOSの設定でOFFにできるか探してみましたが、不明のままでした。
使用してないときに無駄な電力が気になるので、手元にスイッチのある延長電源ケーブルを注文しました。
また欠点として、前面にUSB-Cが1つしかありません。まだUSB-CもUSB-Aもそこそこ使用し、同時に2個以上を接続することもあるので不便に感じます。
USBの延長ケーブルか、簡単なUSBハブを用意して裏面にあるUSB端子も有効活用しようと考えてます。
https://www.bee-link.com/products/beelink-gtr9-pro-amd-ryzen-ai-max-395
GMKTEK EVO-X2は騒音の問題で躊躇しましたが、Beelink GTR9 Proにして良かったと思います。
自宅サーバ用途で考えてましたが、3Dゲームも快適で気に入ったのでメイン機として使うことにしました。
次にメイン機を変えた時はこちらを自宅サーバにしようと思ってます。
