Amazon Bedrock提供模型定制化服務

AWS昨（23）日發(fā)布AI平臺Amazon Bedrock最新服務Custom Model Import預覽版，可讓企業(yè)用戶將模型上傳Bedrock微調并為特定應用定制化。

Amazon Bedrock提供如Mistral或Llama等基礎模型，供企業(yè)選擇以打造生成式AI應用，有些用戶會為特定使用場景微調或定制化模型。另一些企業(yè)則是自建基礎架構，使用Mistral或Llama等模型定制化并開發(fā)AI應用。之前，企業(yè)用戶必須在Bedrock以外的其他環(huán)境上進行定制化。問題是，這類環(huán)境的部署需要一定能力，而對Bedrock用戶而言，這還會使開發(fā)人員必須在不同模型環(huán)境間切換，造成經驗的不連續(xù)。

最新公布工具可解決定制化環(huán)境的部署問題。首先是Custom Model Import，訴求讓用戶將定制化模型導入Bedrock，一方面保留定制化成果，另一方面又能在安全的云計算平臺上使用模型。導入Bedrock后，用戶就能通過Bedrock的API調用，以隨需（on-demand）方式訪問模型，并為基礎、定制化及導入的模型創(chuàng)建一致化經驗。最新工具支持Mistral、Llama及Flan T5等。

另一方面，針對Bedrock上想定制化模型的用戶，AWS昨日也宣布預覽一項新功能。新功能讓用戶從Amazon SageMaker機器學習平臺及Amazon S3以Hugging Face safetensors格式導入自訂權重以定制化模型，之后就能以隨需方式訪問模型。本功能支持Meta Llama 2、Llama 3及Mistral。

這樣一來用戶可以使用Bedrock上為寫程序特化的Code Llama模型，或是以自有數據微調模型后，再將模型導入Bedrock。二項新功能目前都僅在美國測試。美國用戶可通過Bedrock控制臺主頁開始導入模型或權重。