Amazon Bedrock上新自定義模型導入功能

在到處都是大模型的今天，如果這些大模型不能根據(jù)企業(yè)的具體需求進行定制化調整，它們的優(yōu)勢可能就要大打折扣，甚至在特定的業(yè)務場景中顯得“食之無味棄之可惜”。因此，如何將這些大模型靈活地融入到實際業(yè)務中，通過定制化的模型和數(shù)據(jù)驅動的策略來推動業(yè)務的持續(xù)增長和創(chuàng)新，已經(jīng)成為每位業(yè)務決策者必須深思熟慮并積極解決的關鍵問題。這不僅關乎技術的運用，更涉及到戰(zhàn)略的布局和創(chuàng)新的實踐。

亞馬遜云科技宣布Amazon Bedrock自定義模型導入新功能正式可用。通過該項新功能，客戶可以使用統(tǒng)一API導入企業(yè)的自定義模型，并與現(xiàn)有基礎模型一起使用，從部署和擴展模型的復雜性中真正解放，降低基礎架構或模型生命周期的管理成本。

Amazon Bedrock是亞馬遜云科技一項完全托管的服務，通過單一API提供來自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI和亞馬遜等領先人工智能公司的高性能基礎模型，用于構建具有安全性、隱私性和負責任的人工智能應用程序。通過Amazon Bedrock支持的Meta Llama、Mistral Mixtral、IBM Granite等微調模型和基于開源架構開發(fā)的專有模型，搭配無服務器按需訪問模式，客戶可以快速上手，使用企業(yè)數(shù)據(jù)高效定制模型，并將Amazon Bedrock的服務和功能集成，加速生成式AI應用開發(fā)，實現(xiàn)統(tǒng)一且連貫的開發(fā)體驗。

新功能的優(yōu)勢

-更靈活地使用現(xiàn)有微調模型

無需重新創(chuàng)建或訓練模型，避免浪費前期投入，有效加快開發(fā)進程。

-與Amazon Bedrock功能的一體化集成

導入的自定義模型可集成Amazon Bedrock的內置服務和功能（如知識庫、Guardrails、Agent、模型評估等），實現(xiàn)基礎模型與自定義模型間的無縫切換。

-基于無服務器的按需訪問

無需花費精力在基礎設施管理或擴展問題，幫助客戶專注生成式AI應用開發(fā)。

-廣泛的兼容性，提供更多模型選擇

不止于Meta Llama（v.2、3、3.1和3.2）、Mistral 7B、Mixtral 8x7B、Flan和IBM Granite模型（如Granite 3B-Code、8B-Code、20B-Code和34B-Code），Amazon Bedrock支持導入流行的模型架構，客戶可以根據(jù)特定需求和用例，從Amazon SageMaker和Amazon S3中導入Hugging Face Safetensors等格式的自定義權重文件。

-通過API簡化訪問方式

將企業(yè)的微調模型與Amazon Bedrock Converse API結合使用，簡化并統(tǒng)一模型的訪問方式。

立即體驗新功能

亞馬遜云科技深知客戶的關鍵需求是使用自己的數(shù)據(jù)定制模型，并保留微調模型及其部署過程的所有權和使用權。即使客戶能通過多種高效、低成本的方式微調模型，但托管模型階段會有一系列挑戰(zhàn)，客戶非常關注以下五個方面。

-利用現(xiàn)有定制模型的投資，精細化把控定制過程；

-通過Amazon Bedrock的API訪問自定義模型或基本模型時，獲得一致的開發(fā)體驗；

-通過全托管的無服務器服務實現(xiàn)輕松部署；

-使用按需推理，盡可能降低生成式AI工作負載的成本；

-獲得企業(yè)級安全和隱私工具的支持。

Amazon Bedrock自定義模型導入功能就是為了解決這些問題。

現(xiàn)已正式可用

Amazon Bedrock自定義模型導入功能現(xiàn)已在US-East-1（弗吉尼亞北部）和US-West-2（俄勒岡）亞馬遜云科技區(qū)域的Amazon Bedrock中正式推出。請參閱完整區(qū)域列表獲取最新動態(tài)。