為了幫助全球開發者、企業更好的開發客製大模型和生成式AI產品，例如，聊天機器人、編程程式碼助手等。
NVIDIA宣布推出了NeMo Curator、NeMo Customizer和NeMo Evaluator等微服務的早期存取計劃。這些微服務涵蓋了從數據整理、客製到評估的所有開發階段，簡化了使用者構建自訂生成式AI模型的流程。
體驗地址：https://developer.nvidia.com/nemo-microservices
NVIDIA NeMo是一個端到端的平台，可用於在任何地方開發客製的生成式AI，包括用於訓練、微調、檢索增強生成、防護欄、數據策劃和預訓練模型的工具。它在技術堆疊的各個層面提供服務，從框架到高級API端點。
作為NVIDIA CUDA-X微服務的一部份，NeMo API端點是建立在NVIDIA庫之上的，為企業提供了一個簡單的路徑，可以開始構建客製的生成式AI。
在早期存取計劃中，開發人員可以請求存取NeMo Curator、NeMo Customizer和NeMo Evaluator微服務。這些微服務共同使企業能夠構建企業級客製生成式人工智能，並更快地將解決方案推向市場。
NeMo Curator微服務幫助開發人員篩選數據進行預訓練和微調，而NeMo Customizer則實作微調和對齊。最後，借助NeMo Evaluator，開發人員可以評估這些模型與學術或自訂基準的對比情況，並確定改進的方向。
NeMo Curator是一種可延伸且支持GPU加速的數據整理微服務，用於為預訓練和客製生成式AI模型準備高質素數據集。Curator簡化了數據整理任務，如數據下載、文本提取、清洗、質素過濾、精確/模糊去重以及多語言下遊任務凈化。
NeMo Customizer是一個高效能、可延伸的微服務，簡化了特定領域用例的大語言模型的微調和對齊。該微服務支持兩種流行的參數高效微調技術LoRA和p-tuning。
此外，為了幫助開發者評估客製大模型，輝達NeMo Evaluator（評估器）可自動評估各種學術和客製基準上的客製生成式AI模型，適用於任何雲或數據中心。
NeMo Evaluator支持透過一組選定的學術基準進行自動評估，包括超越模仿遊戲基準（BIG-Bench）、多語言、大型程式碼評估工具和毒性。
支持對自訂數據集進行評估，NeMoEvaluator提供的指標包括準確率、召回率導向的摘要評估（ROUGE）、F1和精確匹配。還可以利用大語言模型作為評判標準，對模型響應進行全面評估。
開發人員透過使用 NVIDIA API 目錄中支持的任何 NVIDIA NIM 支持的大語言模型來評估 MT-Bench 數據集上的模型效能。
