在CES 2025盛會上，NVIDIA宣布了一項重大突破，為PC開發者和發燒友帶來全新的AI體驗。該公司推出了NVIDIA NIM?微服務和AI Blueprint，旨在幫助用戶在個人電腦上構建AI智能體和創意工作流。

NVIDIA此次發布的亮點之一，是其能夠在NVIDIA RTX? AI PC上本地運行的基礎模型。這些模型通過全新GeForce RTX? 50系列GPU加速，提供高達2375 AI TOPS和32GB顯存的強勁性能。RTX 50系列GPU基于NVIDIA Blackwell架構，是首批支持FP4計算精度的消費級GPU。與前代產品相比，其AI推理性能提升了2倍，使得生成式AI模型能夠以更小的顯存占用空間在本地運行。

長期以來，GeForce?一直是AI開發者的得力助手。早在2012年，首個由GPU加速的深度學習網絡AlexNet就是在GeForce GTX 580上訓練的。而在去年的AI研究論文中，超過30%都提及了對GeForce RTX的使用。現在，借助生成式AI和RTX AI PC，任何人都有機會成為開發者。

NVIDIA NIM微服務通過簡單的圖形用戶界面（GUI），使得獲取和部署最新的生成式AI模型變得輕而易舉。借助新一代低代碼和無代碼工具，如AnythingLLM、ComfyUI和LangFlow，發燒友可以在復雜的工作流中輕松使用AI模型。這些微服務為數字人、內容創作等應用提供了易于使用的預配置參考工作流。

NVIDIA還宣布了一系列來自頂尖模型開發者的適用于RTX AI PC的NIM微服務，包括Black Forest Labs、meta、Mistral和Stability AI等。這些服務涵蓋了從大語言模型（LLM）到視覺語言模型、圖像生成、語音、檢索增強生成（RAG）的嵌入模型、PDF提取和計算機視覺等多個應用場景。

Black Forest Labs的首席執行官Robin Rombach表示：“支持FP4計算精度的GeForce RTX 50系列GPU，將使一大批此前僅適用于大型數據中心的模型得以在PC上運行。通過將Flux打造成NVIDIA NIM微服務，我們可以讓更多的用戶以更快的速度部署和體驗AI，同時提供超乎想象的性能。”

NVIDIA還推出了Llama Nemotron，這是一系列開放許可的基礎模型，能夠在各類代理式任務中提供極高的精度。Llama Nemotron Nano模型將作為面向RTX AI PC和工作站的NIM微服務提供，在指令遵循、工具調用、聊天、代碼和數學等代理式AI任務方面表現出色。

微軟副總裁、Windows業務負責人Pavan Davuluri也對此表示支持：“AI正在快速驅動Windows 11 PC的創新，適用于Linux的Windows子系統（WSL）和Windows Copilot Runtime為Windows 11上的AI開發提供了出色的跨平臺環境。NVIDIA NIM微服務為Windows PC提供優化，為開發者和發燒友提供了可立即集成到其Windows應用中的AI模型，從而進一步加速了Windows用戶的AI功能部署。”

運行在RTX AI PC上的NIM微服務將兼容先進的AI開發和智能體框架，包括AI Toolkit for VSCode、AnythingLLM、ComfyUI、CrewAI、Flowise AI、LangChain、LangFlow和LM Studio等。開發者可以通過行業標準端點，將基于這些框架構建的應用和工作流連接到運行NIM微服務的AI模型，無論在云端、數據中心、工作站還是PC上，都可以通過統一的接口使用最新技術。

為了向RTX發燒友和開發者展示使用NIM微服務構建AI智能體和助手的方法，NVIDIA首次公開了Project R2X。這是一款具有視覺能力的PC虛擬形象，可以讓用戶需要的信息觸手可及，協助用戶使用桌面應用、進行視頻會議、閱讀和總結文檔等。該虛擬形象采用全新生成式AI算法NVIDIA RTX Neural Faces渲染而成，并通過基于擴散原理的全新NVIDIA Audio2Face?-3D模型驅動動畫。

NVIDIA NIM微服務和AI Blueprint將從2月起開始提供，首發支持的硬件包括GeForce RTX 50系列、GeForce RTX 4090和4080以及NVIDIA RTX 6000和5000 GPU。未來，還將陸續提供對其他GPU的支持。宏碁、華碩、戴爾、惠普、聯想、微星和雷蛇將推出支持NIM的RTX AI PC。