肯睿Cloudera攜手NVIDIA,進(jìn)一步擴(kuò)展NVIDIA微服務(wù)的生成式AI功能
近日,可信的企業(yè)人工智能數(shù)據(jù)公司肯睿Cloudera宣布進(jìn)一步擴(kuò)大其與NVIDIA的合作。Cloudera Powered by NVIDIA將把NVIDIA AI Enterprise軟件平臺中的企業(yè)級NVIDIA NIM微服務(wù)集成到Cloudera Data Platform上的AI/ML工作流程服務(wù)Cloudera Machine Learning中,為客戶提供快速、安全和精簡化的生產(chǎn)級端到端生成式AI工作流程。
本文引用地址:http://2s4d.com/article/202403/456598.htm結(jié)合專為大語言模型(LLM)優(yōu)化的綜合全棧平臺后,企業(yè)數(shù)據(jù)在推動企業(yè)生成式AI應(yīng)用從試點(diǎn)到生產(chǎn)的過程中,發(fā)揮了至關(guān)重要的作用。借助NVIDIA NIM和NeMo Retriever微服務(wù),開發(fā)人員能夠?qū)I模型與他們的業(yè)務(wù)數(shù)據(jù)(包括文本、圖像和各種可視化圖,如條形圖、折線圖和餅圖等)相關(guān)聯(lián),生成高度準(zhǔn)確且符合上下文語境的回答。NVIDIA AI Enterprise提供專為構(gòu)建、自定義和部署企業(yè)級LLM而優(yōu)化的運(yùn)行時,使用上述微服務(wù)的開發(fā)人員可以通過它部署應(yīng)用。Cloudera Machine Learning充分利用NVIDIA微服務(wù),將高性能AI工作流程、AI平臺軟件和加速計(jì)算應(yīng)用于數(shù)據(jù),使客戶能夠從他們委托Cloudera管理的企業(yè)數(shù)據(jù)中挖掘出價值。
肯睿Cloudera 將推出多項(xiàng)集成NVIDIA微服務(wù)的功能。Cloudera Machine Learning 將通過集成NVIDIA微服務(wù)支持的模型和應(yīng)用服務(wù),提升所有工作負(fù)載的模型推理性能。借助這項(xiàng)全新的AI模型服務(wù)功能,客戶部署在公有云和私有云上的模型都能實(shí)現(xiàn)容錯、低延遲服務(wù)和自動擴(kuò)展。此外,Cloudera Machine Learning 還將提供集成式 NVIDIA NeMo Retriever 微服務(wù),簡化自定義 LLM 與企業(yè)數(shù)據(jù)的連接。用戶可通過這項(xiàng)功能構(gòu)建基于檢索增強(qiáng)生成(RAG)的生產(chǎn)級應(yīng)用。
Cloudera此前曾與NVIDIA合作,通過將NVIDIA RAPIDS Accelerator for Apache Spark集成到Cloudera Data Platform,利用GPU優(yōu)化數(shù)據(jù)處理?,F(xiàn)在,隨著NVIDIA微服務(wù)計(jì)劃的加入以及與NVIDIA AI Enterprise 的集成,Cloudera Data Platform 將成為可提供精簡化端到端混合 AI 管道的平臺。
未來,各個行業(yè)的企業(yè)都將能夠更加快速、直觀地構(gòu)建、自定義和部署支持變革性生成式AI的 LLM,包括加快開發(fā)時間的編碼協(xié)作機(jī)器人、自動執(zhí)行客戶互動和服務(wù)的聊天機(jī)器人、快速處理文檔的文本摘要應(yīng)用、精簡化的上下文搜索等各種應(yīng)用。這些創(chuàng)新技術(shù)使整個企業(yè)的數(shù)據(jù)和高級AI流程變得更加簡單和快捷,最大程度地縮短了實(shí)現(xiàn)業(yè)務(wù)價值的時間,增加了收入來源并優(yōu)化了成本。
肯睿Cloudera AI/ML產(chǎn)品副總裁Priyank Patel表示:“Cloudera正在通過集成NVIDIA NIM和CUDA-X微服務(wù),為Cloudera Machine Learning提供助力,幫助客戶將AI熱潮轉(zhuǎn)化為實(shí)實(shí)在在的業(yè)務(wù)成果。除了為客戶提供強(qiáng)大的生成式AI功能和性能外,此次集成的成果還將助力企業(yè)做出更加準(zhǔn)確且及時的決策,同時減少預(yù)測中的不準(zhǔn)確性、幻覺和錯誤。這些都是適應(yīng)當(dāng)今數(shù)據(jù)環(huán)境的關(guān)鍵因素?!?/p>
NVIDIA企業(yè)產(chǎn)品副總裁 Justin Boitano 表示:“企業(yè)迫切希望將其海量數(shù)據(jù)運(yùn)用于生成式AI,創(chuàng)造出定制化的輔助系統(tǒng)和生產(chǎn)力工具。通過將NVIDIA NIM微服務(wù)集成到Cloudera Data Platform,開發(fā)人員能夠更加輕松且靈活地部署推動業(yè)務(wù)轉(zhuǎn)型的LLM。”
Cloudera將在AI時代的開發(fā)者峰會NVIDIA GTC上展示全新的AI功能。本屆GTC于3月18日至21日在加利福尼亞州圣何塞市的圣何塞麥克內(nèi)里會展中心舉行,參加者包括影響AI和加速計(jì)算領(lǐng)域下一步發(fā)展方向的企業(yè)與創(chuàng)新者。
評論