本文介紹了企業(yè)級用戶如何通過Azure OpenAI(國際版)PTU預(yù)留自服務(wù)模式快速部署預(yù)留吞吐量的模型,同時節(jié)省成本——企業(yè)級用戶有預(yù)留一個月或預(yù)留一年的兩種PTU(預(yù)配置吞吐量單位)自服務(wù)選項。
#1
購買預(yù)留實例前您需要了解
當(dāng)您購買Azure OpenAI(國際版)PTU預(yù)留Reservations時,您需要為您的訂閱選擇對應(yīng)的Azure區(qū)域、數(shù)量,確保您成功部署了PTU,然后在部署之后將成功部署的PTU數(shù)量添加到預(yù)留Reservations購物車,然后選擇您想購買的預(yù)留時長,完成預(yù)留購買。
購買PTU預(yù)留實例后,與PTU預(yù)留實例相匹配的Azure OpenAI(國際版)PTU使用將不再按小時費率收費。
PTU預(yù)留實例僅適用于PTU部署,不包括標(biāo)準(zhǔn)Pay-as-you-go(按需付費)部署的API或微調(diào)模型API等其他服務(wù)。Azure OpenAI(國際版)PTU自服務(wù)模式的可用quota不保證容量可用性。為了確保容量可用性,推薦的最佳實踐是在購買PTU預(yù)留實例之前先創(chuàng)建PTU完成部署。
當(dāng)PTU預(yù)留實例到期時,Azure OpenAI(國際版)PTU部署如果不刪除則將繼續(xù)運(yùn)行,但會按小時收費。
您可以選擇在購買時或在PTU預(yù)留續(xù)訂設(shè)置中啟用PTU預(yù)留實例的自動續(xù)訂。通過Azure OpenAI(國際版)PTU預(yù)留實例自動續(xù)訂,PTU預(yù)留實例將使用相同的預(yù)留實例訂單ID進(jìn)行續(xù)訂,而不是購買新的預(yù)留實例。您也可以選擇在續(xù)訂設(shè)置中,用PTU新預(yù)留實例替換當(dāng)前預(yù)留實例,當(dāng)預(yù)留實例到期時,將自動購買替換的PTU預(yù)留實例。默認(rèn)情況下,替換預(yù)留實例具有與到期預(yù)留實例相同的屬性。您可以在續(xù)訂設(shè)置中選擇更改名稱、計費頻率、期限或數(shù)量。任何具有reservation(預(yù)留)權(quán)限和subscription used for billing(用于計費的訂閱)權(quán)限的用戶都可以設(shè)置續(xù)訂。
#2
購買前選擇合適的大小
Azure OpenAI(國際版)PTU預(yù)留實例大小應(yīng)基于您通過部署消耗的總PTU數(shù)量決定。預(yù)留實例購買以一個PTU為增量,但PTU部署需要滿足每個模型的最低部署單元數(shù)量。
例如,假設(shè)您總共消耗100個PTU預(yù)配置吞吐量單位,您希望為全部消耗的PTU購買預(yù)留實例,因此您應(yīng)該購買100個PTU預(yù)留實例數(shù)量。
#3
購買Azure OpenAI(國際版)
PTU預(yù)留實例
您可以在Azure門戶1中購買Azure OpenAI(國際版)PTU預(yù)留實例,對包年預(yù)留提供兩種付費模式供您選擇:提前全部預(yù)付或按月支付費用2,兩種付費模式的價格相同。購買PTU預(yù)留實例前您需要注意:
您必須在Azure訂閱中具有Owner角色或預(yù)留實例購買者角色。
對于企業(yè)訂閱,必須在Azure門戶3中啟用Reserved Instances policy(預(yù)留實例政策)選項。如果該設(shè)置被禁用,只有EA管理員才能啟用。
直接企業(yè)客戶可以在Azure門戶4中的Policies(政策)菜單中更新Reserved Instances policy(預(yù)留實例政策)設(shè)置。
對于云解決方案提供商(CSP)計劃,只admin agents(管理員代理)或sales agents(銷售代理)可以購買Azure OpenAI(國際版)預(yù)留實例。
#4
購買的具體步驟
1.登錄Azure門戶
2.選擇“所有服務(wù)(All services)”>“預(yù)留實例”,然后選擇“Azure OpenAI”。
3.選擇一個訂閱。使用訂閱列表選擇用于支付預(yù)留實例費用的訂閱。訂閱的支付方式將被用于支付預(yù)留實例費用。訂閱類型必須是企業(yè)協(xié)議(提供編號:MS-AZR-0017P或MS-AZR-0148P)、Microsoft客戶協(xié)議或pay-as-you-go(提供編號:MS-AZR-0003P或MS-AZR-0023P)。
-對于企業(yè)訂閱,費用從注冊的Azure預(yù)付款(以前稱為貨幣承諾monetary commitment)余額中扣除,或者作為超額費用收取。
-對于pay-as-you-go訂閱,費用將按訂閱的信用卡或發(fā)票付款方式收取。
4.選擇一個范圍(Scope)。使用范圍列表選擇訂閱范圍。您可以在購買后更改預(yù)留實例的范圍。
-單一資源組范圍——僅將預(yù)留實例折扣應(yīng)用于選定資源組中的匹配資源。
-單一訂閱范圍——將預(yù)留實例折扣應(yīng)用于選定訂閱中的匹配資源。
-共享范圍——將預(yù)留實例折扣應(yīng)用于billing context(計費環(huán)境)中的所有符合條件的訂閱中的匹配資源。如果訂閱被移動到不同的billing context,則優(yōu)惠將不再適用于該訂閱。它將繼續(xù)適用于billing context中的其他訂閱。
對于企業(yè)客戶,billing context是EA注冊。預(yù)留實例共享范圍將包括注冊中的多個Microsoft Entra租戶。
對于Microsoft客戶協(xié)議客戶,計費范圍是計費配置文件。
對于pay-as-you-go客戶,共享范圍是由帳戶管理員創(chuàng)建的所有pay-as-you-go訂閱。
-管理組——將預(yù)留實例折扣應(yīng)用于同時屬于管理組和計費范圍的訂閱列表中的匹配資源。管理組范圍適用于整個管理組層次結(jié)構(gòu)中的所有訂閱。要為管理組購買預(yù)留實例,您必須至少擁有管理組的讀取權(quán)限,并且是計費訂閱的預(yù)留實例所有者或預(yù)留實例購買者。
5.選擇受預(yù)留實例覆蓋的Azure區(qū)域,然后選擇“添加到購物車”。
6.在購物車中,選擇要購買的PTU預(yù)配置單位數(shù)量。例如,選擇數(shù)量為100將覆蓋每小時最多100個已部署的PTU預(yù)配置單位。
7.選擇“下一步:查看+購買”并查看您的購買選擇及其價格。
8.選擇“立即購買”。
9.購買后,您可以選擇“查看此預(yù)留實例”以查看您的購買狀態(tài)。
#5
取消、交換或退款預(yù)留實例
您可以在一定限制內(nèi)取消或退款預(yù)留實例。有關(guān)更多信息,請參閱Azure預(yù)留實例的自助交換和退款5。請注意,Azure OpenAI(國際版)PTU預(yù)留實例不允許交換。
如果您想申請Azure OpenAI(國際版)預(yù)留實例的退款,您可以按照以下步驟進(jìn)行:
1.登錄到Azure門戶并轉(zhuǎn)到“預(yù)留實例”頁面。
2.選擇您想要退款的Azure OpenAI(國際版)預(yù)留實例,然后選擇“退還”。
3.在“退還預(yù)留實例”頁面,查看退款金額并選擇退還原因。
4.選擇“退還預(yù)留實例”。
5.查看條款和條件并選擇同意。
退款金額基于剩余期限的按比例計算和預(yù)留實例的當(dāng)前價格。退款金額作為信用應(yīng)用于您的Azure賬戶。
請求退款后,預(yù)留實例會被取消,您可以在Azure門戶的“預(yù)留實例”頁面查看退款請求的狀態(tài)。
在12個月滾動窗口中,您計費范圍內(nèi)(例如EA、Microsoft客戶協(xié)議和Microsoft合作伙伴協(xié)議)所有取消預(yù)留實例承諾的總和不得超過50,000美元。
#6
PTU預(yù)留實例折扣應(yīng)用到
Azure OpenAI(國際版)
購買Azure OpenAI(國際版)PTU預(yù)留實例后,預(yù)留實例折扣會自動應(yīng)用于該區(qū)域內(nèi)部署的預(yù)配置單位,并包含在預(yù)留實例范圍內(nèi)。預(yù)留折扣適用于按需計費的預(yù)配置吞吐量所產(chǎn)生的使用量。
#7
PTU預(yù)留實例折扣的應(yīng)用
Azure OpenAI(國際版)PTU預(yù)留實例的應(yīng)用基于每小時去比較購買的預(yù)留數(shù)量和已部署的PTU數(shù)量。已部署PTU的總和達(dá)到預(yù)留數(shù)量的部分通過預(yù)留實例支付,而超出預(yù)留PTU的部分將按小時付費的費率收費。需要記住以下幾點:
Partial-hour部署的PTU按部署存在的分鐘數(shù)按比例計算。例如,一個存在15分鐘的100 PTU部署將在一個小時內(nèi)被視為25 PTU部署(15分鐘是一個小時的1/4,因此在該小時內(nèi)僅考慮部署PTU的1/4進(jìn)行計費和預(yù)留實例應(yīng)用)。
部署在應(yīng)用預(yù)留實例之前根據(jù)預(yù)留實例范圍進(jìn)行匹配。例如,范圍限定為單個訂閱的預(yù)留實例只覆蓋該訂閱內(nèi)的部署。其他訂閱的部署將按小時付費的費率收費,除非它們被其他預(yù)留實例覆蓋。
預(yù)留實例價格覆蓋預(yù)留PTU的全天候部署。在部署的PTU少于預(yù)留PTU的期間,所有部署的PTU將由預(yù)留實例覆蓋,但未使用的多余預(yù)留PTU時間則無法結(jié)轉(zhuǎn)到其他時間內(nèi)。
#8
折扣示例
以下示例顯示了Azure OpenAI(國際版)預(yù)留實例折扣的應(yīng)用方式,取決于部署情況。
示例1——與已部署單位完全相同大小的預(yù)留實例。例如,您購買了100個PTU的預(yù)留實例,并部署了100個PTU。在此示例中,您只需支付預(yù)留實例價格。
示例2——比已部署單位大的預(yù)留實例。例如,您購買了300個PTU的預(yù)留實例,但只部署了100個PTU。在此示例中,預(yù)留實例折扣應(yīng)用于100個PTU。預(yù)留實例中的其余200個PTU將未使用,且不會結(jié)轉(zhuǎn)到未來的計費期間。
示例3——比已部署單位小的預(yù)留實例。例如,您購買了200個PTU的預(yù)留實例,并部署了600個PTU。在此示例中,預(yù)留實例折扣應(yīng)用于已使用的200個PTU。其余400個PTU按按需付費的費率收費。
示例4——與兩個部署總量相同的預(yù)留實例。例如,您購買了200個PTU的預(yù)留實例,并有兩個每個100 PTU的部署。在此示例中,折扣應(yīng)用于已部署單位的總和。
#9
增加Azure OpenAI(國際版)
預(yù)留實例的大小
如果您想增加Azure OpenAI(國際版)預(yù)留實例的大小,可以使用上述步驟購買更多Azure OpenAI(國際版)預(yù)留實例。
文中參考鏈接
1.https://ms.portal.azure.com/#view/Microsoft_Azure_Reservations/ReservationsBrowseBlade
2.https://learn.microsoft.com/zh-cn/azure/cost-management-billing/reservations/prepare-buy-reservation
3.https://learn.microsoft.com/zh-cn/azure/cost-management-billing/manage/direct-ea-administration#view-and-manage-enrollment-policies
4.https://ms.portal.azure.com/#view/Microsoft_Azure_GTM/ModernBillingMenuBlade/~/AllBillingScopes
5.https://learn.microsoft.com/zh-cn/azure/cost-management-billing/reservations/exchange-and-refund-azure-reservations