紅帽O(jiān)penShift AI加速混合云中的生成性AI采用

為專業(yè)合作伙伴生態(tài)系統(tǒng)提供強(qiáng)大、可擴(kuò)展的基礎(chǔ)，包括IBM下一代AI創(chuàng)新成果watsonx.ai

中國(guó)北京 – 紅帽峰會(huì) – 2023年5月29日 – 世界領(lǐng)先的開源解決方案供應(yīng)商紅帽日前宣布為紅帽OpenShift AI再添多項(xiàng)新功能。紅帽OpenShift AI基于開源技術(shù)，以紅帽OpenShift和紅帽OpenShift 數(shù)據(jù)科學(xué)為基礎(chǔ)進(jìn)行構(gòu)建，并在此基礎(chǔ)上進(jìn)一步擴(kuò)展后，能夠?yàn)?/span>IT領(lǐng)導(dǎo)者提供一致且可擴(kuò)展的基礎(chǔ)，同時(shí)為數(shù)據(jù)科學(xué)家和開發(fā)人員創(chuàng)建專業(yè)合作伙伴生態(tài)系統(tǒng)，幫助他們獲取AI領(lǐng)域的創(chuàng)新成果。為實(shí)現(xiàn)這一目的，紅帽OpenShift AI為IBM watsonx.AI的生成式AI服務(wù)提供支撐。作為IBM的人工智能平臺(tái)，watsonx.ai可以擴(kuò)展企業(yè)各方面的智能應(yīng)用和服務(wù)，推進(jìn)下一代基礎(chǔ)模型的采用。 

隨著GPT-4和LLaMA等大型語(yǔ)言模型 (LLM) 成為主流，所有領(lǐng)域和行業(yè)的研究人員，及應(yīng)用開發(fā)人員都在探索如何從這些以及其他基礎(chǔ)模型中獲益?？蛻艨梢允褂冕槍?duì)特定領(lǐng)域的數(shù)據(jù)對(duì)商業(yè)或開源模型進(jìn)行微調(diào)，使其更準(zhǔn)確地匹配特定的用例。AI模型的初始訓(xùn)練會(huì)耗費(fèi)大量基礎(chǔ)設(shè)施資源，需要使用專門的平臺(tái)和工具，然后才能考慮服務(wù)、調(diào)整和模型管理。如果沒有一個(gè)能夠滿足這些需求的平臺(tái)，企業(yè)在實(shí)際使用AI/ML方面往往會(huì)面臨諸多局限性。 

OpenShift AI通過采用一致的基礎(chǔ)設(shè)施進(jìn)行訓(xùn)練、部署和推理而應(yīng)對(duì)這些挑戰(zhàn)，以充分發(fā)揮AI的潛力。

面向開放混合云的AI 

紅帽OpenShift AI為創(chuàng)建用于生產(chǎn)環(huán)境的AI/ML模型，以及運(yùn)行最終應(yīng)用提供了標(biāo)準(zhǔn)化基礎(chǔ)，有助于消除多項(xiàng)障礙。OpenShift AI為紅帽OpenShift提供了一致性、易用性和從云到邊緣的部署選項(xiàng)。平臺(tái)工程師可以根據(jù)數(shù)據(jù)科學(xué)家和開發(fā)人員的需求創(chuàng)建可擴(kuò)展的配置。OpenShift AI可用于微調(diào)現(xiàn)有的模型，從而節(jié)省初始模型訓(xùn)練成本，加速實(shí)現(xiàn)價(jià)值的速度，并使AI可供專業(yè)數(shù)據(jù)科學(xué)家之外的其他人員使用。 

紅帽OpenShift AI提供了多種可選的技術(shù)合作伙伴產(chǎn)品，包括Anaconda、IBM Watson Studio、Intel OpenVINO和AI Analytics Toolkit、NVIDIA AI Enterprise以及Starburst。作為OpenShift生態(tài)系統(tǒng)的一部分，該解決方案還可接入另外30個(gè)AI/ML認(rèn)證合作伙伴的產(chǎn)品。 

對(duì)于需要滿足特定監(jiān)管和合規(guī)要求的客戶，包括物理隔離和無(wú)連接的環(huán)境，他們可以使用OpenShift AI準(zhǔn)備數(shù)據(jù)，并在本地開發(fā)、訓(xùn)練和部署模型。客戶還可以在公有云中開發(fā)模型，并使用相同的一致工具和接口在本地或邊緣部署模型，從而提供獨(dú)特的混合MLOps環(huán)境，推動(dòng)IT運(yùn)營(yíng)、數(shù)據(jù)科學(xué)和應(yīng)用開發(fā)人員之間的協(xié)作。 

OpenShift AI的基礎(chǔ)經(jīng)過驗(yàn)證，使客戶能夠在本地或通過云服務(wù)使用OpenShift的原生GPU加速功能更可靠地?cái)U(kuò)展，從而對(duì)基礎(chǔ)模型進(jìn)行訓(xùn)練。 

紅帽OpenShift AI最新增強(qiáng)的功能包括：

?  用于AI/ML實(shí)驗(yàn)跟蹤和自動(dòng)化ML工作流的部署管道，可幫助數(shù)據(jù)科學(xué)家和智能應(yīng)用開發(fā)人員更快地迭代機(jī)器學(xué)習(xí)項(xiàng)目，并將自動(dòng)化結(jié)合到應(yīng)用部署和更新中。

?  模型服務(wù)現(xiàn)在包括GPU對(duì)推理的支持，以及可以提高推理性能的定制模型服務(wù)運(yùn)行時(shí)，并改進(jìn)了基礎(chǔ)模型的部署。

?  模型監(jiān)控使企業(yè)能夠通過中央儀表板來(lái)管理性能和運(yùn)營(yíng)指標(biāo)。

OpenShift AI助力IBM watsonx和Ansible Lightspeed

紅帽OpenShift AI為IBM人工智能技術(shù)的最新成果提供了基礎(chǔ)，包括IBM Watson Code Assistant，可為您的IT組織和開發(fā)團(tuán)隊(duì)提供針對(duì)特定領(lǐng)域的人工智能。 

Ansible Lightspeed將IBM Watson Code Assistant的強(qiáng)大能力帶到Ansible中，使不同技能等級(jí)的用戶都能使用人工智能生成的建議編寫Ansible操作手冊(cè)。Ansible Lightspeed有助于提高Ansible用戶的生產(chǎn)力，無(wú)論他們?cè)谧詣?dòng)化方面的熟練程度如何，都能用英語(yǔ)命令創(chuàng)建Ansible操作手冊(cè)。 

各行各業(yè)的企業(yè)紛紛使用紅帽OpenShift AI推動(dòng)AI/ML創(chuàng)新，其中包括：

?  Atruvia，為全球金融機(jī)構(gòu)提供IT服務(wù)（包括人工智能）的德國(guó)公司，部署了基于紅帽OpenShift AI的數(shù)據(jù)科學(xué)平臺(tái)。

?  Clalit Health Care Services，以色列最大的醫(yī)療服務(wù)機(jī)構(gòu)，選擇使用紅帽OpenShift AI作為構(gòu)建臨床研究人工智能模型的基礎(chǔ)。

?  Guidehouse，全球咨詢和管理服務(wù)提供商，選擇使用紅帽OpenShift AI作為綜合平臺(tái)的組成部分。

?  Tirando X Colombia，哥倫比亞一家以生殖健康為核心業(yè)務(wù)的非營(yíng)利組織，部署了紅帽OpenShift AI用于優(yōu)化其AI/ML工作。

?  Veripark，為金融服務(wù)組織提供解決方案的全球供應(yīng)商，使用紅帽OpenShift 數(shù)據(jù)科學(xué)構(gòu)建了可以同時(shí)在云端和本地平臺(tái)上運(yùn)行的全球AI/ML解決方案。

支持證言 

Chris Wright，紅帽首席技術(shù)官兼全球工程高級(jí)副總裁 

“在充分利用人工智能獲得好處方面，基礎(chǔ)模型可以為企業(yè)提供實(shí)實(shí)在在的好處，但仍需要在訓(xùn)練和微調(diào)方面進(jìn)一步投資，以滿足企業(yè)的獨(dú)特需求。紅帽的企業(yè)級(jí)AI愿景依托紅帽OpenShift AI的當(dāng)前能力而制定，為基礎(chǔ)模型在生產(chǎn)中的訓(xùn)練、維護(hù)、微調(diào)和實(shí)際使用奠定了靈活而且可擴(kuò)展的基礎(chǔ)。最重要的是，OpenShift AI依然是OpenShift，這意味著IT組織信任并理解它，并且可以擴(kuò)展AI/ML的應(yīng)用范圍，從而滿足當(dāng)前和未來(lái)需求。”

Liora Shechter，Clalit首席信息官

“Clalit正在經(jīng)歷IT基礎(chǔ)架構(gòu)的演變和革新，而OpenShift是我們想要依賴的關(guān)鍵新基礎(chǔ)架構(gòu)之一。”

Sebastian Jaramillo，Tirando x Colombia社會(huì)創(chuàng)新經(jīng)理 

 “在紅帽團(tuán)隊(duì)和紅帽OpenShift 數(shù)據(jù)科學(xué)的指導(dǎo)下，我們?cè)趹?yīng)用中成功優(yōu)化了端到端ML/AI流程管理。這個(gè)平臺(tái)對(duì)于推進(jìn)我們的工作至關(guān)重要，并將對(duì)我們的業(yè)務(wù)增長(zhǎng)產(chǎn)生重大影響。我們?yōu)椴捎脤?duì)社會(huì)產(chǎn)生積極影響的技術(shù)而深感自豪。”