英偉達(dá)在人工智能領(lǐng)域再次投下重磅炸彈，正式推出專為大規(guī)模AI智能體設(shè)計(jì)的新一代開(kāi)源模型——Nemotron 3 Super。這款擁有1200億參數(shù)的模型，在性能上直逼行業(yè)頂尖水平，其推理速度較前代提升3倍，吞吐量更是暴漲5倍，成為OpenClaw領(lǐng)域的又一強(qiáng)力競(jìng)爭(zhēng)者。

Nemotron 3 Super采用創(chuàng)新的Mamba-MoE混合架構(gòu)，有效解決了多智能體協(xié)同中的性能瓶頸問(wèn)題。作為Nemotron 3家族的最新成員，該模型實(shí)現(xiàn)了三大技術(shù)突破：原生采用NVFP4精度進(jìn)行預(yù)訓(xùn)練，引入全新的LatentMoE混合專家架構(gòu)，以及加入多Token預(yù)測(cè)（MTP）層。這些創(chuàng)新使得模型在單位算力和單位參數(shù)的準(zhǔn)確率上達(dá)到極致優(yōu)化。

在基準(zhǔn)測(cè)試中，Nemotron 3 Super表現(xiàn)出色。在Pinchbench測(cè)試中穩(wěn)居開(kāi)源模型榜首，在OpenClaw任務(wù)成功率上達(dá)到85.6%，性能與Claude Opus 4.6、GPT-5.4等頂尖模型不相上下。更令人矚目的是，英偉達(dá)決定將超過(guò)10萬(wàn)億Token的預(yù)訓(xùn)練和后訓(xùn)練數(shù)據(jù)集、完整訓(xùn)練方法論，以及15個(gè)強(qiáng)化學(xué)習(xí)環(huán)境全部開(kāi)源，供全球開(kāi)發(fā)者使用。

針對(duì)多智能體應(yīng)用面臨的兩大挑戰(zhàn)——上下文爆炸和"思考稅"，Nemotron 3 Super提供了有效解決方案。該模型支持100萬(wàn)token的上下文窗口，在OpenClaw環(huán)境下可完整保留工作流狀態(tài)，確保邏輯一致性。同時(shí)，通過(guò)創(chuàng)新的架構(gòu)設(shè)計(jì)，大幅降低了多智能體應(yīng)用的成本和延遲，使其更具實(shí)際部署價(jià)值。

在架構(gòu)設(shè)計(jì)上，Nemotron 3 Super的88層網(wǎng)絡(luò)采用周期性交替排列，Mamba-2層與少量Transformer注意力層相結(jié)合，既保證了高效的序列建模，又實(shí)現(xiàn)了跨位置的長(zhǎng)距離信息路由。這種設(shè)計(jì)使其吞吐量較前代提升5倍，準(zhǔn)確率提升2倍，在輸入輸出序列較長(zhǎng)時(shí)表現(xiàn)尤為突出。

LatentMoE架構(gòu)的引入是該模型的另一大亮點(diǎn)。通過(guò)將Token從高維隱藏空間投射到低維潛在空間進(jìn)行路由和計(jì)算，顯著減少了專家參數(shù)加載量和跨卡通信量。這種設(shè)計(jì)使得模型能夠在不增加推理成本的情況下，激活更多專家，從而提升準(zhǔn)確率。英偉達(dá)官方表示，這種設(shè)計(jì)相當(dāng)于"花1個(gè)專家的成本，激活4個(gè)專家"。

多Token預(yù)測(cè)（MTP）技術(shù)的加入，進(jìn)一步提升了模型性能。與傳統(tǒng)單token預(yù)測(cè)不同，MTP要求模型在每個(gè)位置預(yù)測(cè)多個(gè)未來(lái)token，迫使其理解更復(fù)雜的因果關(guān)系和文本結(jié)構(gòu)。這不僅提高了模型質(zhì)量，還通過(guò)原生投機(jī)解碼大幅降低了生成延遲，且額外算力開(kāi)銷極小。

預(yù)訓(xùn)練階段，Nemotron 3 Super采用兩階段策略：第一階段使用20萬(wàn)億token的多樣化數(shù)據(jù)，覆蓋網(wǎng)頁(yè)、代碼、數(shù)學(xué)、學(xué)術(shù)等多個(gè)領(lǐng)域；第二階段使用5萬(wàn)億token的高質(zhì)量數(shù)據(jù)，重點(diǎn)提升準(zhǔn)確率。這種訓(xùn)練方式使基礎(chǔ)模型在MMLU等基準(zhǔn)測(cè)試中取得優(yōu)異成績(jī)，超越同等規(guī)模的其他模型。

在后訓(xùn)練方面，英偉達(dá)將重點(diǎn)放在提升AI智能體能力上。SFT階段使用超過(guò)700萬(wàn)樣本、800億token的數(shù)據(jù)，其中Agent相關(guān)任務(wù)占比高達(dá)36%。RL階段則通過(guò)多環(huán)境訓(xùn)練、軟件工程專項(xiàng)訓(xùn)練、RLHF和MTP恢復(fù)四步走策略，顯著提升了模型在數(shù)學(xué)推理、長(zhǎng)上下文處理和軟件工程等任務(wù)上的表現(xiàn)。

Nemotron 3 Super的高精度工具調(diào)用能力，為OpenClaw智能體在多個(gè)領(lǐng)域的應(yīng)用開(kāi)辟了新可能。在軟件開(kāi)發(fā)中，AI可一次性加載整個(gè)代碼庫(kù)，實(shí)現(xiàn)端到端的代碼生成和調(diào)試；在財(cái)務(wù)分析領(lǐng)域，模型可直接處理數(shù)千頁(yè)報(bào)告，大幅提升工作效率。這種能力也使自主Agent在網(wǎng)絡(luò)安全等高風(fēng)險(xiǎn)環(huán)境中能夠更可靠地執(zhí)行任務(wù)。

據(jù)悉，多家科技公司已開(kāi)始將Nemotron 3 Super集成到自家產(chǎn)品中。Perplexity將其用于搜索服務(wù)，CodeRabbit等公司將其應(yīng)用于軟件開(kāi)發(fā)智能體，生命科學(xué)領(lǐng)域的Edison Scientific等機(jī)構(gòu)則利用其進(jìn)行深度文獻(xiàn)檢索和分子結(jié)構(gòu)分析。有消息稱英偉達(dá)正在開(kāi)發(fā)名為NemoClaw的開(kāi)源AI智能體平臺(tái)，旨在為企業(yè)市場(chǎng)提供安全可靠的解決方案。