助力規(guī)?;_發(fā)應(yīng)用模型
北京2023年12月6日 /美通社/ -- 亞馬遜云科技在2023 re:Invent全球大會上,宣布推出五項(xiàng)Amazon SageMaker新功能,幫助客戶加速構(gòu)建、訓(xùn)練和部署大語言模型和其他基礎(chǔ)模型。隨著模型不斷改變各行各業(yè)的客戶體驗(yàn),Amazon SageMaker讓企業(yè)更輕松快速地構(gòu)建、訓(xùn)練和部署支持各種生成式AI使用場景的機(jī)器學(xué)習(xí)模型。為了成功使用模型,客戶需要先進(jìn)的功能來高效管理模型的開發(fā)、使用和性能。這就是Falcon 40B和180B、IDEFICS、Jurassic-2、Stable Diffusion以及StarCoder等大多數(shù)業(yè)內(nèi)領(lǐng)先的模型都在Amazon SageMaker上訓(xùn)練的原因。
今天的宣布包括了一項(xiàng)新功能,進(jìn)一步增強(qiáng)了Amazon SageMaker的模型擴(kuò)展能力并加速了模型的訓(xùn)練。此外,Amazon SageMaker推出的另一項(xiàng)新功能,能夠通過降低模型部署成本和延遲時間,優(yōu)化了管理托管的機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施。亞馬遜云科技還推出了新的SageMaker Clarify功能,可以讓客戶在負(fù)責(zé)任地使用AI的基礎(chǔ)上,根據(jù)質(zhì)量參數(shù)更輕松地選擇正確模型。為了幫助客戶在企業(yè)范圍內(nèi)應(yīng)用這些模型,亞馬遜云科技還在Amazon SageMaker Canvas中引入了新的無代碼功能,讓客戶更快、更容易地使用自然語言指令準(zhǔn)備數(shù)據(jù)。同時,Amazon SageMaker Canvas繼續(xù)推動模型構(gòu)建和定制的普及,讓客戶更輕松地使用模型提取洞察、進(jìn)行預(yù)測和使用企業(yè)專有數(shù)據(jù)生成內(nèi)容。這些創(chuàng)新均基于Amazon SageMaker豐富的功能,幫助客戶實(shí)現(xiàn)規(guī)模化機(jī)器學(xué)習(xí)創(chuàng)新。開始使用Amazon SageMaker,請?jiān)L問aws.amazon.com/sagemaker。
足夠的可伸縮算力的就位、海量數(shù)據(jù)的爆炸,以及機(jī)器學(xué)習(xí)技術(shù)的快速進(jìn)步,正在促使包含數(shù)十億參數(shù)模型的興起,使它們能夠執(zhí)行各種任務(wù),如撰寫博客文章、生成圖像、解決數(shù)學(xué)問題、進(jìn)行對話和根據(jù)文檔回答問題。如今,成千上萬的客戶,例如3M、阿斯利康(AstraZeneca)、法拉利(Ferrari)、LG AI Research、瑞安航空(RyanAir)、湯森路透(Thomson Reuters)和先鋒領(lǐng)航集團(tuán)(Vanguard)等,每月在Amazon SageMaker進(jìn)行超過1.5萬億次的推理請求。此外,像AI21 Labs、Stability AI和Technology Innovation Institute等客戶也正借助Amazon SageMaker訓(xùn)練擁有數(shù)十億參數(shù)的模型。隨著客戶從構(gòu)建主要針對特定任務(wù)的模型轉(zhuǎn)向構(gòu)建支持生成式AI的大型通用模型,他們必須處理大量數(shù)據(jù)集并進(jìn)行更復(fù)雜的基礎(chǔ)設(shè)施設(shè)置,同時在這個過程中還要不斷優(yōu)化成本和性能。客戶還希望能夠構(gòu)建和定制自己的模型,以創(chuàng)造獨(dú)特的客戶體驗(yàn),體現(xiàn)企業(yè)的聲音、風(fēng)格和服務(wù)。自2017年推出以來,Amazon SageMaker已經(jīng)新增了380多個功能和特性,為客戶提供了規(guī)?;瘶?gòu)建、訓(xùn)練和部署可投入生產(chǎn)的大規(guī)模模型所需的一切。
"機(jī)器學(xué)習(xí)是近年來影響深遠(yuǎn)的技術(shù)變革之一,所有企業(yè)組織都對模型產(chǎn)生了濃厚的興趣。這也給那些希望快速構(gòu)建、訓(xùn)練和部署模型的客戶帶來了新的挑戰(zhàn)。" 亞馬遜云科技人工智能和機(jī)器學(xué)習(xí)副總裁Bratin Saha表示,"從加速訓(xùn)練、優(yōu)化托管成本、降低延遲到簡化基礎(chǔ)模型的評估,再到擴(kuò)展無代碼模型的構(gòu)建能力,我們的使命是讓各種規(guī)模的企業(yè)平等地使用高質(zhì)量、高成本效益的機(jī)器學(xué)習(xí)模型。今天,我們再次增強(qiáng)Amazon SageMaker,通過全托管、專門構(gòu)建的新功能幫助客戶充分獲得他們在機(jī)器學(xué)習(xí)方面的投資回報。"
新功能讓客戶更輕松快速地訓(xùn)練和操作模型,驅(qū)動生成式AI的應(yīng)用
隨著生成式AI的持續(xù)發(fā)展,許多新興應(yīng)用都將依賴于模型。然而,大多數(shù)企業(yè)在調(diào)整基礎(chǔ)設(shè)施以滿足新模型需求時存在困難,很難高效地實(shí)現(xiàn)規(guī)?;?xùn)練和操作。今天,Amazon SageMaker增加了兩項(xiàng)全新功能,旨在幫助減輕規(guī)?;?xùn)練和部署模型的負(fù)擔(dān)。
Amazon SageMaker HyperPod消除了為訓(xùn)練模型而構(gòu)建、優(yōu)化機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施的繁重工作,將訓(xùn)練時間縮短了高達(dá)40%。Amazon SageMaker HyperPod預(yù)置了Amazon SageMaker的分布式訓(xùn)練庫,使客戶能夠自動將訓(xùn)練工作負(fù)載分布到數(shù)千個加速器上,以便并行處理工作負(fù)載,提高模型性能。此外,Amazon SageMaker HyperPod通過定期保存檢查點(diǎn)以確保用戶能夠不間斷地訓(xùn)練模型。當(dāng)訓(xùn)練過程中發(fā)生硬件故障時,Amazon SageMaker HyperPod會自動檢測故障、修復(fù)或替換有故障的實(shí)例,并從最后保存的檢查點(diǎn)恢復(fù)訓(xùn)練,無需客戶手動管理這一過程,協(xié)助客戶在分布式環(huán)境中進(jìn)行數(shù)周或數(shù)月的訓(xùn)練而無需中斷。
新功能能夠幫助客戶評估任意模型,并根據(jù)使用場景選擇更適合的模型
現(xiàn)在,客戶在為生成式AI應(yīng)用程序挑選模型時有很多選擇,他們希望能快速比較這些模型,并根據(jù)相關(guān)質(zhì)量和負(fù)責(zé)任的AI參數(shù)(如準(zhǔn)確性、公平性和魯棒性)找到更適合的選擇。然而,當(dāng)比較執(zhí)行相同功能(例如文本生成或摘要)或?qū)儆谕幌盗校ɡ鏔alcon 40B與Falcon 180B)的模型時,每個模型在各種負(fù)責(zé)任的AI參數(shù)上表現(xiàn)都不相同。即使是在兩個不同數(shù)據(jù)集上微調(diào)相同的模型,性能也存在差異,這將很難確定哪個版本效果更佳。如要開始比較模型,企業(yè)必須先花費(fèi)數(shù)天時間識別相關(guān)標(biāo)準(zhǔn),設(shè)置評估工具并對每個模型進(jìn)行評估。盡管客戶可以訪問公開可用的模型標(biāo)準(zhǔn),但他們通常無法根據(jù)代表特定使用場景的提示詞來評估模型的性能。此外,這些標(biāo)準(zhǔn)通常難以理解,也不適用于評估品牌聲音、相關(guān)性和風(fēng)格。另外,企業(yè)還需經(jīng)過耗時的手動分析結(jié)果的過程,并對每個新使用場景或微調(diào)模型重復(fù)此過程。
Amazon SageMaker Clarify現(xiàn)在可以幫助客戶根據(jù)所選參數(shù)評估、比較和選擇適合特定使用場景的最佳模型,以支持企業(yè)負(fù)責(zé)任地使用AI。借助Amazon SageMaker Clarify的新功能,客戶可以輕松提交自己的模型進(jìn)行評估,或通過Amazon SageMaker JumpStart選擇模型。在Amazon SageMaker Studio中,客戶可以選擇要針對給定任務(wù)進(jìn)行比較的模型,例如問答或內(nèi)容摘要。然后,客戶選擇評估參數(shù)并上傳自己的提示詞數(shù)據(jù)集,或者從內(nèi)置的公開數(shù)據(jù)集中進(jìn)行選擇。對于需要復(fù)雜人工判斷的敏感標(biāo)準(zhǔn)或精細(xì)內(nèi)容,客戶可以選擇使用自己的員工或由SageMaker Ground Truth提供的托管工作人員,使用反饋機(jī)制在幾分鐘內(nèi)審查回復(fù)。一旦客戶完成設(shè)置過程,Amazon SageMaker Clarify將會運(yùn)行評估并生成報告,以便客戶可以根據(jù)性能標(biāo)準(zhǔn)快速評估、比較和選擇最佳模型。
全新的Amazon SageMaker Canvas增強(qiáng)功能使客戶更輕松、更快速地將生成式AI集成到工作流程中
Amazon SageMaker Canvas幫助客戶構(gòu)建機(jī)器學(xué)習(xí)模型并生成預(yù)測,而無需編寫代碼。此次發(fā)布擴(kuò)展了Amazon SageMaker Canvas現(xiàn)有的即用功能,幫助客戶在無代碼環(huán)境中使用模型來支持各種使用場景。
Hugging Face是一家領(lǐng)先的機(jī)器學(xué)習(xí)公司和開放平臺,它為AI構(gòu)建提供了開放的基礎(chǔ)模型以及創(chuàng)建模型所需的工具。"Hugging Face一直在使用Amazon SageMaker HyperPod創(chuàng)建重要的最新開放基礎(chǔ)模型,如StarCoder、IDEFICS和Zephyr,這些模型已被下載了數(shù)百萬次。"Hugging Face產(chǎn)品負(fù)責(zé)人Jeff Boudier表示,"Amazon SageMaker HyperPod專為高可用和性能構(gòu)建的功能使我們的開放科學(xué)團(tuán)隊(duì)能夠?qū)W⒂趧?chuàng)新,并改進(jìn)基礎(chǔ)模型的構(gòu)建方式,而非管理基礎(chǔ)設(shè)施。Amazon SageMaker HyperPod能夠檢測到機(jī)器學(xué)習(xí)硬件故障,并快速替換有故障的硬件,且不會中斷正在進(jìn)行的模型訓(xùn)練。由于我們的團(tuán)隊(duì)需要快速創(chuàng)新,該自動化作業(yè)恢復(fù)功能幫助我們在基礎(chǔ)模型訓(xùn)練過程中減少中斷情況,讓我們在一年內(nèi)便節(jié)省了數(shù)百小時的訓(xùn)練時間。"
領(lǐng)先的人工智能客戶關(guān)系管理(CRM)平臺Salesforce,憑借數(shù)據(jù)、AI和CRM,提高了生產(chǎn)力,創(chuàng)造了可信的客戶體驗(yàn)。 "我們對基礎(chǔ)模型采用了開放的方式,而Amazon SageMaker是一個至關(guān)重要的組成部分,幫助我們擴(kuò)展架構(gòu)并加速市場推廣。"Salesforce工程副總裁Bhavesh Doshi表示,"利用新的Amazon SageMaker推理功能,我們能夠?qū)⑺心P头湃雴我坏腁mazon SageMaker端點(diǎn),該端點(diǎn)可以自動處理所有資源分配和計(jì)算資源共享,在提高性能的同時降低了基礎(chǔ)模型的部署成本。"
湯森路透(Thomson Reuters)是一家領(lǐng)先的信息領(lǐng)域提供商,也是全球值得信賴的新聞機(jī)構(gòu)之一。 "我們的工程師面臨的一個挑戰(zhàn)是在高峰季節(jié)有效管理客戶呼叫資源,以確保雇傭合適數(shù)量的客服人員來處理激增的咨詢。"Thomson Reuters人工智能、商業(yè)智能和數(shù)據(jù)平臺副總裁Maria Apazoglou表示,"對包含呼叫量、等待時間、日期等關(guān)鍵指標(biāo)的呼叫中心數(shù)據(jù)進(jìn)行歷史分析是一項(xiàng)耗時的任務(wù)。我們的團(tuán)隊(duì)正在利用Amazon SageMaker Canvas中新的數(shù)據(jù)準(zhǔn)備和定制功能,對公司數(shù)據(jù)進(jìn)行模型訓(xùn)練,從而識別影響高峰時段呼叫量的模式和趨勢,這讓我們使用自有數(shù)據(jù)構(gòu)建機(jī)器學(xué)習(xí)模型變得非常簡便。我們期待通過Amazon SageMaker Canvas增加對基礎(chǔ)模型的使用,而無需編寫任何代碼。"