NVIDIAがエンタープライズ・エッジ向けオープンLLMを発表

NVIDIAは、1200億パラメータのNemotron 3.5 Super VLと2種のBoltエッジモデルを公開しました。これらはエージェントやマルチモーダル用途向けで、全モデルでオープンウェイト・データセット・レシピが利用可能です。

Super VL・Boltモデルの特徴

  • Nemotron 3.5 Super VL：1200億パラメータ、オープン、エージェント用途で同等モデル比5倍高速を謳う。
  • Bolt 74B-A9B 24GB：24GBメモリで動作、エッジ・ローカル用途向け。
  • Bolt E4B 4GB：JetsonやGeForce RTX向け、10月23日公開予定。

証拠・仕組み

  • Super VL・Bolt 74B-A9Bは即日利用可、Bolt E4Bは10月23日公開。
  • オープンなウェイト・データセット・レシピで完全なカスタマイズとオンプレ運用が可能。
  • 既に複数企業がSuper VLを自社用途で微調整中。

個人開発者への意味

高性能エージェントモデルをローカルで運用でき、クラウド依存を回避。独自用途への微調整も容易です。

実務的判断

NVIDIAの性能主張は強いですが、実際の効果は今後の独立ベンチマークや事例で要確認。まずは自分の環境で試すのが有効です。