應(yīng)用核心和基礎(chǔ)設(shè)施軟件，盡在亞馬遜云科技Marketplace生成式AI合作伙伴產(chǎn)品

亞馬遜云科技Marketplace可以幫助您利用領(lǐng)先的技術(shù)進(jìn)行創(chuàng)新，其中包括來自70余個類別、超過4,000家賣家的15,000余種產(chǎn)品，當(dāng)然，也包括生成式AI相關(guān)產(chǎn)品。本篇內(nèi)容將探討亞馬遜云科技Marketplace上可用的核心和基礎(chǔ)設(shè)施軟件產(chǎn)品。

您能夠多快開始使用生成式AI？

毫無疑問，2023年是生成式AI的轉(zhuǎn)折點(diǎn)。廣泛適用的用例與用戶需求相結(jié)合，為各種類型和規(guī)模的組織采用這項改變游戲規(guī)則的技術(shù)帶來了緊迫性。亞馬遜云科技合作伙伴網(wǎng)絡(luò)已準(zhǔn)備就緒，通過產(chǎn)品和解決方案幫助您快速高效地部署生成式AI工作負(fù)載，從而更快地實(shí)現(xiàn)生成式AI的全部潛力。

自2023年4月亞馬遜云科技推出生成式AI服務(wù)以來，亞馬遜云科技Marketplace上的生成式AI合作伙伴產(chǎn)品列表一直在快速發(fā)展。這些產(chǎn)品讓您可以訪問整個技術(shù)棧的各個層面（見下圖1所示的亞馬遜云科技生成式AI技術(shù)棧的三個層面）的正確工具和資源，以推動成功的生成式AI解決方案并使其具備擴(kuò)展能力。

圖1：亞馬遜云科技生成式AI技術(shù)棧

為了幫助您廣泛了解合作伙伴解決方案，我將分享亞馬遜云科技Marketplace合作伙伴產(chǎn)品的分類框架。我將它們分為核心（生成式AI的核心產(chǎn)品，如基礎(chǔ)模型和向量數(shù)據(jù)庫）和基礎(chǔ)設(shè)施軟件產(chǎn)品、特定用例的軟件和咨詢產(chǎn)品，以及按客戶階段分類的生成式AI專業(yè)服務(wù)產(chǎn)品。在本文中，我將重點(diǎn)介紹核心和基礎(chǔ)設(shè)施軟件產(chǎn)品（如下圖2所示）。

圖2：亞馬遜云科技Marketplace上的

核心和基礎(chǔ)設(shè)施合作伙伴產(chǎn)品

核心和基礎(chǔ)設(shè)施軟件產(chǎn)品

可分為三大類：

1、基礎(chǔ)模型（FMs）和向量數(shù)據(jù)庫

2、大型語言模型運(yùn)營（LLMOps）、可觀測性以及安全和隱私工具

3、計算服務(wù)、推理端點(diǎn)和預(yù)置產(chǎn)品

基礎(chǔ)模型（FMs）和向量數(shù)據(jù)庫

基礎(chǔ)模型和向量數(shù)據(jù)庫是生成式AI系統(tǒng)的核心組件。基礎(chǔ)模型賦予系統(tǒng)理解和響應(yīng)提示的能力，而向量數(shù)據(jù)庫用于存儲和檢索各種數(shù)據(jù)點(diǎn)，基礎(chǔ)模型利用這些數(shù)據(jù)點(diǎn)來提高響應(yīng)的準(zhǔn)確性和可靠性。利用亞馬遜云科技Marketplace中的基礎(chǔ)模型和向量數(shù)據(jù)庫合作伙伴產(chǎn)品，可幫助您快速啟動項目，并確信您獲得了經(jīng)過專家開發(fā)和支持的技術(shù)，這些技術(shù)與亞馬遜云科技無縫集成，簡化了部署和管理，優(yōu)化了性能和可擴(kuò)展性。

基礎(chǔ)模型是在廣泛的通用數(shù)據(jù)上訓(xùn)練的復(fù)雜機(jī)器學(xué)習(xí)模型，能夠生成原創(chuàng)內(nèi)容并以自然語言進(jìn)行對話。您可以從Amazon SageMaker和Amazon Bedrock上提供的數(shù)十種前沿基礎(chǔ)模型中進(jìn)行選擇。除此之外，亞馬遜云科技Marketplace還提供來自A121 Labs、Cohere、Stability.ai、LightOn、Jina AI、Voyage AI、Upstage、Alt Inc、Nomic、Maritaca AI、NCSOFT和Twelve Labs等合作伙伴的基礎(chǔ)模型。

Amazon Bedrock是一項全托管服務(wù)，通過單一API提供來自AI21 Labs、Cohere、Meta、Mistral AI、Stability.ai和Amazon等領(lǐng)先生成式AI公司的基礎(chǔ)模型選擇。

Amazon SageMaker JumpStart是一個機(jī)器學(xué)習(xí)中心，提供對基礎(chǔ)模型、內(nèi)置算法和預(yù)構(gòu)建的機(jī)器學(xué)習(xí)解決方案的訪問，您可以在幾個步驟內(nèi)部署它們。它提供了對來自AI21 Labs、Amazon、Cohere、Hugging Face、Stability.ai、Meta AI、LightOn等知名模型提供商的基礎(chǔ)模型的訪問。

合作伙伴故事：Cohere

Cohere全球合作伙伴關(guān)系負(fù)責(zé)人Vinod Devan表示，很自豪能夠成為亞馬遜云科技合作伙伴網(wǎng)絡(luò)的一部分，企業(yè)客戶可以在亞馬遜云科技Marketplace上訪問我們領(lǐng)先的大型語言模型。我們相信生成式AI對企業(yè)具有巨大潛力，我們致力于與亞馬遜云科技合作，幫助公司從概念驗證階段進(jìn)入生產(chǎn)階段。Cohere的Command和Embed模型具有高度可擴(kuò)展性，并針對高級RAG功能進(jìn)行了優(yōu)化，可提供準(zhǔn)確的信息和引用，從而減少幻覺。我們找到了一個與我們同樣重視數(shù)據(jù)隱私和客戶安全的合作伙伴，通過與亞馬遜云科技合作，我們能夠向大量企業(yè)提供我們最先進(jìn)的大型語言模型，企業(yè)可以利用生成式AI的力量來簡化工作流程、個性化客戶體驗并創(chuàng)造真正的業(yè)務(wù)價值。我們期待繼續(xù)幫助企業(yè)客戶發(fā)揮生成式AI的全部潛力，提高生產(chǎn)力和效率。

向量數(shù)據(jù)庫可讓您存儲和檢索作為高維點(diǎn)的向量。它們通常用于支持視覺、語義和多模態(tài)搜索。它們還可以與生成式AI文本模型配對，創(chuàng)建提供對話式搜索體驗的智能代理。向量數(shù)據(jù)庫在生成式AI的最常見實(shí)現(xiàn)模式之一——檢索增強(qiáng)生成（RAG）中扮演著關(guān)鍵角色，并非常適合實(shí)現(xiàn)推薦和個性化用例。

一些向量數(shù)據(jù)庫在亞馬遜云科技Marketplace上以軟件即服務(wù)（SaaS）的形式提供。其中包括DataStax Astra DB、Elastic Cloud的Elasticsearch Service、Weaviate、Pinecone、MongoDB Atlas、Zilliz、Qdrant、Redis、Neo4j Aura、SingleStore、Kx Kdb Insights、CrateDB和Couchbase Capella。Franz Inc AllegroGraph和Unum UniStore CE則以Amazon機(jī)器映像（AMI）的形式提供。

合作伙伴故事：MongoDB

Scalestack聯(lián)合創(chuàng)始人和CEO Elio Narciso表示，通過選擇亞馬遜云科技作為其云提供商，Scalestack能夠保持較低的云成本并實(shí)現(xiàn)數(shù)據(jù)使用的彈性。Scalestack還使用MongoDB Atlas Vector Search進(jìn)行RAG，以便對大型數(shù)據(jù)集執(zhí)行快速搜索并利用向量相似性。Scalestack的使命是幫助組織釋放銷售生產(chǎn)力，我們與MongoDB和亞馬遜云科技的關(guān)系對此至關(guān)重要。使用Scalestack的生成式AI，客戶顯著減少了研究時間并大幅提高了生產(chǎn)力。客戶的銷售代表生產(chǎn)力提高了40%，GTM團(tuán)隊平均在Scalestack上獲得了53倍的投資回報率，這是由Scalestack影響的收入增量衡量的。

LLMOps、可觀測性以及安全和隱私工具

這些工具用于優(yōu)化生成式AI系統(tǒng)的可靠性、性能和安全性。LLMOps從降低部署和運(yùn)行大型語言模型的復(fù)雜性開始，而可觀測性工具則在模型運(yùn)行后提供其行為見解。高級安全和隱私工具對于緩解處理敏感或私人數(shù)據(jù)所固有的風(fēng)險至關(guān)重要。亞馬遜云科技Marketplace可讓您快速輕松地查找、購買和開始使用這些工具。更好的是，您可以從受信任的合作伙伴那里獲得精心策劃的選擇，幫助您加速云創(chuàng)新。

LLMOps和可觀測性工具對于加快生成式AI項目的價值實(shí)現(xiàn)時間并降低運(yùn)營管理復(fù)雜性至關(guān)重要。它們還可以為高度監(jiān)管行業(yè)的企業(yè)提供可解釋性。亞馬遜云科技Marketplace上的SaaS產(chǎn)品包括CraftAI MLOps平臺、Comet MLOps、Arthur、Abacus.AI平臺、Weights&Biases AI開發(fā)平臺和Union Cloud。還有一個AMI選項LangGenius Dify，以及一個在Amazon SageMaker上的選項Mphasis Factual Consistency Metric-LLMOps。

安全和隱私工具有助于保護(hù)生成式AI應(yīng)用程序并維護(hù)隱私。亞馬遜云科技Marketplace上的SaaS解決方案包括Bosch的AIShield GuArdIan、Add Value Machine的企業(yè)生成式AI安全中心、Portal26的AI TRiSM、MixMode實(shí)時威脅檢測和響應(yīng)、Compliance.sh基于生成式AI的安全合規(guī)性自動化，以及Blink Ops Blink安全自動化協(xié)作助手。

合作伙伴故事：AIShield

一家大型跨國工程和科技公司希望利用大型語言模型和生成式AI驅(qū)動的內(nèi)部聊天機(jī)器人。他們意識到，在構(gòu)建、解釋和審查代碼時，借助生成式AI聊天機(jī)器人可以顯著提高軟件工程師的生產(chǎn)力，因此他們開始評估實(shí)施和使用挑戰(zhàn)。為了負(fù)責(zé)任和謹(jǐn)慎地實(shí)施，在軟件工程師編碼過程中使用的聊天機(jī)器人內(nèi)部，有必要實(shí)施嚴(yán)格的控制措施，以防止知識產(chǎn)權(quán)流失、數(shù)據(jù)泄露、越獄嘗試、侵犯版權(quán)以及引入代碼漏洞，從而確保合規(guī)的編碼環(huán)境并遵守安全代碼實(shí)踐。

AIShield CEO&CTO Manojkumar Parmar表示，利用亞馬遜云科技基礎(chǔ)設(shè)施和我們創(chuàng)新的方法，我們構(gòu)建了一個系統(tǒng)，能夠熟練地吸收組織的編碼標(biāo)準(zhǔn)并在生成的代碼中執(zhí)行合規(guī)性檢查——無論是作為大型語言模型的輸入還是輸出。作為結(jié)果，該公司現(xiàn)在能夠?qū)⒅R產(chǎn)權(quán)和數(shù)據(jù)泄露風(fēng)險降低90%，同時將越獄嘗試的有效性提高近400%，并保持使用生成式AI帶來的開發(fā)人員生產(chǎn)力提升。IT開發(fā)團(tuán)隊中的聊天機(jī)器人開發(fā)人員只需五行代碼更改就能集成GuArdIan中間件，并在不到2小時內(nèi)部署GuArdIan功能。此外，GuArdIan的交互式響應(yīng)可作為一種重要的學(xué)習(xí)工具，通過區(qū)分適當(dāng)和不當(dāng)?shù)牟樵儊碓鰪?qiáng)開發(fā)人員與大型語言模型交互時的行為。實(shí)時監(jiān)控允許立即采取行動應(yīng)對潛在的安全和安全風(fēng)險。推理和可觀察性功能為查詢決策提供了詳細(xì)的解釋，有助于合規(guī)審計并加強(qiáng)了負(fù)責(zé)任的生成式AI使用。

亞馬遜云科技Marketplace還提供了不同的部署選項，可根據(jù)特定需求和偏好進(jìn)行定制，例如使用AMI啟動預(yù)配置了軟件堆棧的虛擬機(jī)（VM）、在Amazon Elastic Container Service（Amazon ECS）的托管環(huán)境中運(yùn)行容器化應(yīng)用程序，或通過Amazon Elastic Kubernetes Services（Amazon EKS）使用Kubernetes編排功能。這些選項來自諸如Philterd Airlock、SpinSys MDACA PrivateGPT with Keycloak、Private AI:Detect、Redact and Anonymize PII以及Tonic等合作伙伴。

合作伙伴故事：Elastic

Randstad Group Netherlands全球安全運(yùn)維負(fù)責(zé)人Stijn Holzhauer表示，多年來，Randstad一直在使用Elastic Security運(yùn)行其安全運(yùn)營中心（SOC）、進(jìn)行深入可見性監(jiān)控并響應(yīng)云工作負(fù)載中的威脅。現(xiàn)在，我們正在尋求安全地在生產(chǎn)環(huán)境中利用生成式AI進(jìn)行檢測工程，尤其是對于我們規(guī)模雖小但實(shí)力強(qiáng)勁的安全團(tuán)隊。我們期待實(shí)施Elastic的AI Assistant，以縮短調(diào)查時間、減少技能短缺的影響并提高我們的檢測能力。

平臺、計算服務(wù)、推理端點(diǎn)和預(yù)置產(chǎn)品

這一類別的產(chǎn)品有助于開發(fā)、部署和管理生成式AI模型。它們提供了創(chuàng)建、訓(xùn)練、部署和使用生成式AI所需的工具、基礎(chǔ)設(shè)施和解決方案。由于使用了云計算，它們?yōu)槟峁┝藬U(kuò)展性、靈活性和可訪問性，讓您能夠利用生成式AI的強(qiáng)大功能，而無需大量硬件資源或?qū)ｉT的內(nèi)部專業(yè)知識。

生成式AI平臺產(chǎn)品提供了應(yīng)用程序、庫或框架以及用于開發(fā)、部署和管理生成式AI模型的基礎(chǔ)設(shè)施。它們的范圍從端到端平臺到低代碼和無代碼開發(fā)平臺。SaaS解決方案包括Fireworks AI、Stratio Generative AI Data Fabric、Arcee.ai SLM Adaptation System、IBM watsonx Orchestrate、FriendliAI Friendli Dedicated Endpoints、Reconify、Vectara GenAI Platform、Saturn Cloud、TrustPortal for Amazon Web Services Generative AI和Articul8 AI。

還有通過AMI、Amazon CloudFormation模板、Amazon Elastic Compute Cloud（Amazon EC2）和Amazon EKS提供的解決方案，包括NVIDIA AI Enterprise、Intel Distribution of OpenVINO Toolkit、Ai Bloks llmware for Enterprise-Grade LLM Applications、ZS Max.AI Platform、Datasaur.ai LLM Labs和ecosystem.Ai platform。計算服務(wù)、推理端點(diǎn)和預(yù)置產(chǎn)品提供了各種履行選項，例如SaaS模式下的OctoAI和Amazon SageMaker中的MK1 Flywheel?；贏MI和Amazon CloudFormation模板的解決方案包括Meetrix.io和Apps4Rent產(chǎn)品。

一站式滿足您的生成式AI需要

在亞馬遜云科技，我們很高興能與您合作，利用生成式AI來幫助您重塑客戶體驗、創(chuàng)建新應(yīng)用程序并提高生產(chǎn)力。我們最近推出了亞馬遜云科技Marketplace生成式AI合作伙伴解決方案頁面，幫助您快速輕松地找到值得信賴和安全的生成式AI解決方案。該頁面展示了生成式AI模型、工具、應(yīng)用程序和專業(yè)服務(wù)的列表，旨在加速創(chuàng)新。您可以將其作為起點(diǎn)，尋找一家生成式AI解決方案提供商，幫助您啟動轉(zhuǎn)型之旅。