NVIDIA面向企业与边缘推出开源LLM

NVIDIA发布了Nemotron 3.5 Super VL（1200亿参数）及两款Bolt边缘模型，主打智能体与多模态应用。所有模型均开放权重、数据集和训练配方，便于用户自定义和本地部署。

Super VL与Bolt模型亮点

  • Nemotron 3.5 Super VL：120B参数，开源，面向高吞吐智能体任务，声称速度为同类5倍。
  • Bolt 74B-A9B 24GB：本地边缘模型，24GB显存，2比特量化，适配RTX/DGX Spark等硬件。
  • Bolt E4B 4GB：面向对话和物理智能体，适配Jetson和GeForce RTX，10月23日上线。

证据与机制

  • Super VL与Bolt 74B-A9B已上线，Bolt E4B将于10月23日发布。
  • 开放权重、数据集和配方，支持完全自定义和本地部署。
  • 多家机构已在自有数据和任务上微调Super VL。

对独立开发者的意义

开发者可本地部署高性能智能体模型，避免云依赖，数据与定制完全可控。开放生态也便于针对垂直场景微调。

实用判断

尽管NVIDIA性能宣称强劲，实际效果仍需社区基准测试验证。建议开发者在自身工作流中试用，并关注社区反馈。