英偉達(dá)近日宣布，其NVIDIA Blackwell平臺已完成對DeepSeek-V4-Pro與DeepSeek-V4-Flash兩款大模型的適配工作。開發(fā)者可通過NVIDIA NIM微服務(wù)直接下載部署，或基于SGLang、vLLM框架實(shí)現(xiàn)定制化推理，為AI應(yīng)用開發(fā)提供更靈活的技術(shù)路徑。

在模型參數(shù)配置上，DeepSeek-V4-Pro以1.6萬億總參數(shù)量與490億激活參數(shù)的組合，專注于復(fù)雜推理場景；而DeepSeek-V4-Flash則采用2840億總參數(shù)量與130億激活參數(shù)的輕量化設(shè)計，主打高速響應(yīng)需求。兩款模型均支持百萬級Token上下文窗口與最高38.4萬Token的輸出能力，可覆蓋長文檔分析、代碼生成等核心應(yīng)用場景，并采用MIT開源協(xié)議保障技術(shù)共享。

性能測試顯示，DeepSeek-V4-Pro在NVIDIA GB200 NVL72集群上實(shí)現(xiàn)每用戶每秒150個token的基準(zhǔn)性能，通過vLLM框架的Day 0優(yōu)化方案，可在Blackwell B300架構(gòu)上快速完成部署。隨著Dynamo編譯器、NVFP4量化技術(shù)及CUDA內(nèi)核的持續(xù)優(yōu)化，模型推理效率有望進(jìn)一步提升。

在部署生態(tài)構(gòu)建方面，SGLang框架提供低延遲、均衡負(fù)載及最大吞吐量三種優(yōu)化模式，滿足不同場景的性能需求；vLLM框架則支持跨100個以上GPU節(jié)點(diǎn)的分布式推理，并集成工具調(diào)用與推測解碼功能，為大規(guī)模AI服務(wù)提供技術(shù)支撐。這種多框架兼容的設(shè)計，顯著降低了開發(fā)者將模型落地至生產(chǎn)環(huán)境的門檻。