パソコン GPUのVRAMを何が使っているかわかる無料ツール「gputaskman」公開 ローカルLLMのKVキャッシュも推定表示
Microsoftの開発者Scott Hanselman氏が、GPUをどのプロセスが使っているかを表示する無料ツール「gputaskman」を公開しました。プロセスごとのVRAMに加え、ローカルLLMの重みやKVキャッシュの推定内訳も確認できます。対応環境とWindowsでの試し方、未署名配布の注意点をまとめます。
ローカルAI
パソコン パソコン M6搭載iMacが11月6日発売、24万9800円から 「AI処理最大5倍」の条件と2モデルの違い
AppleがM6搭載の24インチiMacを発表。国内価格は24万9800円からで11月6日発売。M4比最大5倍とされるAI処理の測定条件と、10コア・12コアモデルで変わるポートや外部ディスプレイ対応を整理します。
AI NVIDIA、Nemotron 3.5とBoltシリーズを発表 PCで動かせるローカルAI向けモデルも
NVIDIAがAIモデル「Nemotron 3.5 Super VL」と、PCなど手元の機器で動かすBoltシリーズを発表。Bolt 74B-A9Bの特徴、対応ツール、公開予定の軽量版E4B、一般ユーザーへの影響を整理します。