roobrief開発者のためのITニュース

ハードウェア

NVIDIA RTX Spark搭載PCが予約開始、128GBの開発ボックスは5,999ドル

128GBのローカルAI向けPCが「買える製品」になったが、価格はアナリストの予想(2,899ドル、約46万円)の2倍を超える5,999ドル(約95万円)だ。

NVIDIAのPC向けチップRTX Sparkを使った製品が予約受付に入った。Microsoftは新しいSurfaceの予約を開始し、そのうち128GBの統合メモリ(CPUとGPUが1つのメモリを共有する方式)を備えた開発者向けデスクトップ「Surface RTX Spark Dev Box」は、米国で5,999ドルだ。クラウドを使わず、大きなAIモデルを自分のPCで動かしたい開発者に新しい選択肢が加わったが、期待されていた価格帯ではない。

RTX Sparkはどんなチップか

RTX Sparkは、今年のComputex(台湾で開かれる大規模なIT見本市)で公開されたWindows向けのArmベースのスーパーチップだ。NVIDIAがMediaTekと共同で設計し、MicrosoftとWindows対応を進めた。報じられている仕様は次のとおり。

  • GPU:CUDAコア(NVIDIA GPUの計算ユニット)6,144基、第5世代Tensorコア(AI計算専用のユニット)
  • CPU:Grace CPU(NVIDIAのArmベースCPU)、最大20コア
  • AI演算性能:最大1ペタフロップス(1秒間に1000兆回の計算)。理論上の最大値で、数値を4ビットに縮めて速く計算するFP4を基準に、不要な計算を飛ばすスパース性を適用した値だ。
  • メモリ:最大128GBのLPDDR5X(省電力で高速なメモリ規格)統合メモリ

仕様はMicrosoftとNVIDIAの公式発表に基づく。メモリ帯域幅(速度)はNVIDIAの製品ページにも載っていない。

いま買える製品と価格

製品 メモリ 価格(米国) 出荷
Surface Laptop Ultra 最大128GB 2,599ドル(約41万円)から。128GB・1TBの最上位は5,899.99ドル(約93万円) 10月16日から
Surface RTX Spark Dev Box 128GB + 2TB SSD 5,999ドル(約95万円) 11月(Microsoft.comのみ)
ASUS ProArt P16 最大128GB 128GB構成の米国価格は公式資料で確認できず。米国ストアの64GB構成は4,399.99ドル(約70万円) 10月16日
  • 価格はいずれも予約時点のものだ。ASUS自身が示しているのは米国の開始価格2,599.99ドル(約41万円)だけだ。
  • Dev BoxはAMDのRyzen AI Halo(3,999ドル、約63万円)より2,000ドル(約32万円)高い。同じ128GBクラスでは、NVIDIAのDGX Spark(4,699ドル、約74万円)よりも高い。

確認できなかった点

  • 「1,000億パラメーター超のモデルをローカルでファインチューニング」:ファインチューニングとは、既存のモデルを特定の用途向けに追加で学習させることだ。Microsoftの公式記事は、1,200億を超えるパラメーターのAIモデルに対応すると述べている。ただし「ファインチューニング」という表現は記事にない。計算上は、1,000億パラメーターのモデルを4ビットに圧縮すると約50GBで、128GBに収まる。ただし「収まる」というだけで、実際の速度やファインチューニングの方式(モデルの一部だけを調整するLoRAなど)は製品ごとの検証が必要だ。
  • 「2,899ドル級」:この数字は、発売前にモルガン・スタンレーのアナリストが128GB構成について出した予想だ。実際の予約価格は5,999ドルである。

開発者に起こりうる変化

以下は報道をもとにした筆者の推測と助言だ。

  • Windowsでもまた、CUDAベースのローカル開発ができるようになる可能性がある。 ただし、Windows on Arm(Armチップで動くWindows)でPyTorch(AI開発ライブラリ)や、ローカルAI実行ソフトのOllama、llama.cpp、vLLMがどれだけ動くかは、発売後のレビューを待つ必要がある。
  • 容量だけでなく速度(帯域幅)を確認したい。 同じ128GBでも、帯域幅によって文字が出てくる速さは大きく変わる。この製品の帯域幅はまだ確認できていない。
  • 価格に見合うかで判断したい。 同じ128GBクラスのDGX Spark(4,699ドル)やRyzen AI Halo(3,999ドル)と比べ、本当にWindowsが必要かが基準になる。
  • まだ予約の段階だ。 Dev Boxは米国限定で11月出荷のため、実際の性能レビューは1か月後になる。

今後の注目点

RTX Sparkのメモリ帯域幅とローカルLLMのベンチマーク、Windows on ArmでのCUDAとPyTorchの互換性、そして他のメーカー(Dell、HP、Lenovo、MSI)の価格。

円換算は10月14日の為替レート(1ドル≒158円)によるおおよその値だ。

出典

出典: blogs.windows.com

← 戻る