楼主: M260528111544MK
176 0

[CAIE资讯] 英伟达刚开源Nemotron 3:单GPU就能跑,智能体效率暴涨 [推广有奖]

  • 0关注
  • 0粉丝

编辑管理员

教授

92%

还不是VIP/贵宾

-

威望
0 级
论坛币
0 个
通用积分
62.8567
学术水平
5 点
热心指数
5 点
信用等级
5 点
经验
7010 点
帖子
1397
精华
0
在线时间
3 小时
注册时间
2026-5-28
最后登录
2026-11-10

楼主
M260528111544MK 发表于 2026-6-2 01:15:00 来自手机 |AI写论文

+2 论坛币
k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群
赵安豆老师微信:zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

感谢您参与论坛问题回答

经管之家送您两个论坛币!

+2 论坛币
关注CAIE,国内头部AI人才认证、培训体系,助你在职场升职加薪。

今天凌晨,全球AI领导者英伟达开源了最新Nemotron 3系列模型。

Nemotron 3一共有Nano、Super和Ultra三种参数,并且引入突破性的混合潜在专家混合架构,显著提升模型推理效率与扩展能力,使开发者能够大规模构建并部署高可靠性的多智能体协作系统。

NVIDIA创始人兼CEO黄仁勋表示:“开放创新是AI进步的基石,借助Nemotron家族模型,我们正将先进AI转化为开放平台,为开发者提供大规模构建智能体系统所需的透明度和效率。”

作为当前最高效的开放模型家族,Nemotron 3系列的核心亮点在于创新的混合专家混合架构。这一技术突破直接回应了开发者在构建多智能体系统时面临的通信开销大、上下文偏移、推理成本高等核心痛点,同时通过开放透明的特性,让开发者能够充分信任模型对复杂工作流的自动化处理能力。

从具体型号来看,三款模型各有侧重、精准适配不同场景需求。Nemotron 3 Nano是一款拥有300亿参数的小型模型,每次仅激活30亿参数即可完成目标任务,是当前计算成本效率最高的模型。

其独特的混合MoE架构带来了显著性能提升,与上一代Nemotron 2 Nano相比,token吞吐量提高4倍,推理token生成减少60%,大幅降低了推理成本;

同时配备100万token的上下文窗口,能够记忆更多信息,在长流程、多步骤任务中展现出更强的信息关联能力和准确性。独立AI基准测试机构Artificial Analysis将其评为同尺寸模型中最开放、最高效且准确性领先的产品,目前已优化适用于软件调试、内容摘要、AI助手工作流和低推理成本的信息检索等场景。

Nemotron 3 Super则是一款高精度推理模型,拥有约1000亿参数,每token最多激活100亿参数,专为需要多个智能体协作完成复杂任务的场景设计,核心优势在于低延迟处理能力。

而定位为大型推理引擎的Nemotron 3 Ultra,参数规模达到约5000亿,每token最多激活500亿参数,将成为需要深度研究和战略规划的复杂AI工作流的核心动力。

值得一提的是,Super和Ultra版本采用了英伟达超高效率的4位NVFP4训练格式,依托NVIDIA Blackwell架构,在不牺牲高精度格式准确性的前提下,大幅降低了内存需求并加快了训练速度,让大型模型能够在现有基础设施上完成训练。

在部署与可用性方面,Nemotron 3 Nano已率先登陆HuggingFace,并通过Baseten、DeepInfra等多家推理服务提供商开放使用;企业用户可在Couchbase、DataRobot等企业AI和数据基础设施平台上获取该模型,公共云用户后续也将能通过AWSAmazon Bedrock、Google Cloud、Microsoft Foundry等平台使用。

同时,Nemotron 3 Nano还以NVIDIANIM微服务的形式提供,支持在NVIDIA加速基础设施上实现安全、可扩展的部署,保障用户的隐私与控制权。按照规划,Nemotron 3Super和Ultra版本将于2026年上半年正式推出。

目前,Nemotron系列模型已获得众多行业领先企业的青睐,包括Accenture、Cadence、CrowdStrike、ServiceNow、Zoom等早期采用者正将其集成到制造、网络安全、软件开发、媒体通信等领域的AI工作流中。

ServiceNow董事长兼CEO BillMc Dermott表示:“ServiceNow的智能工作流自动化与Nemotron 3的结合,将继续以无与伦比的效率、速度和准确性定义行业标准。”而Perplexity则通过智能体路由器,实现了Nemotron 3 Ultra等开放模型与专有模型的协同工作,确保AI助手在速度、效率和规模上的卓越表现。

此外,GeneralCatalyst、Mayfield等投资机构的投资组合公司也在探索利用Nemotron 3构建AI协作伙伴,加速从原型到企业级部署的创新进程。

开源地址:https://huggingface.co/nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-FP8

想系统掌握AI核心技能、获取行业认可资质?

CAIE注册人工智能工程师认证

助你拓宽职业赛道,成为AI领域持证实力派

图片

点击下方阅读原文,即刻跳转至CAIE官网,了解更多AI相关信息

二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

关键词:GPU 智能体 Intelligence Artificial Microsoft

您需要登录后才可以回帖 登录 | 我要注册

本版微信群
扫码
拉您进交流群
GMT+8, 2026-11-11 16:38