人工智能（AI）是我們這一代出現(xiàn)的最具變革性的技術(shù)之一，它為成為向善的力量并推動(dòng)經(jīng)濟(jì)增長提供了機(jī)會(huì)。擁有數(shù)千億個(gè)參數(shù)的大型語言模型（LLM）的發(fā)展解鎖了新的生成式AI用例，以改善客戶體驗(yàn)、提高員工工作效率等等。在亞馬遜云科技，我們始終致力于以負(fù)責(zé)任的方式利用AI，與客戶攜手開發(fā)和使用AI系統(tǒng)，并將安全性、公平性和保密性放在首位。
隨著ISO 42001的發(fā)布，AI行業(yè)達(dá)到了一個(gè)重要的里程碑。簡而言之，ISO 42001是一項(xiàng)國際管理體系標(biāo)準(zhǔn)，為組織內(nèi)部的AI系統(tǒng)管理提供了指導(dǎo)方針。它為組織建立了一個(gè)框架，以便系統(tǒng)性地應(yīng)對和控制與開發(fā)和部署AI有關(guān)的風(fēng)險(xiǎn)。ISO 42001強(qiáng)調(diào)對負(fù)責(zé)任的AI實(shí)踐的承諾，鼓勵(lì)各組織針對其AI系統(tǒng)采取特定的控制措施，促進(jìn)全球互操作性，并為負(fù)責(zé)任AI的開發(fā)和部署奠定基礎(chǔ)。
對AI的信任至關(guān)重要，而整合ISO 42001等促進(jìn)AI治理的標(biāo)準(zhǔn)，是通過支持負(fù)責(zé)任的使用方法來贏得公眾信任的一種方式。
作為廣泛的國際主題專家社區(qū)的一部分，亞馬遜云科技自2021年以來一直積極參與ISO 42001的開發(fā)，并為該標(biāo)準(zhǔn)的最終發(fā)布奠定基礎(chǔ)。
國際標(biāo)準(zhǔn)促進(jìn)了在開發(fā)和實(shí)施負(fù)責(zé)任的AI解決方案方面的全球合作。也許與以往的任何其他技術(shù)不同，應(yīng)對這些挑戰(zhàn)需要科技公司、政策制定者、社區(qū)團(tuán)體、科學(xué)家和其他各方的合作和真正的多學(xué)科努力，而國際標(biāo)準(zhǔn)可以發(fā)揮重要作用。
國際標(biāo)準(zhǔn)是幫助各組織將國內(nèi)監(jiān)管要求轉(zhuǎn)化為合規(guī)機(jī)制（包括工程實(shí)踐）的重要工具，這些機(jī)制在很大程度上具有全球互操作性。有效的標(biāo)準(zhǔn)有助于減少人們對什么是AI以及負(fù)責(zé)任的AI涉及哪些內(nèi)容的困惑，并有助于行業(yè)專注于減少潛在危害。亞馬遜云科技正與不同的國際利益相關(guān)者合作，以改善有關(guān)各種主題的新興AI標(biāo)準(zhǔn)，包括風(fēng)險(xiǎn)管理、數(shù)據(jù)質(zhì)量、偏見和透明度。
遵守新的ISO 42001標(biāo)準(zhǔn)是組織表現(xiàn)出追求卓越的決心，以便負(fù)責(zé)任地開發(fā)和部署AI系統(tǒng)和應(yīng)用的途徑之一。我們將繼續(xù)推動(dòng)ISO 42001標(biāo)準(zhǔn)的采用，并期待與客戶合作，共同實(shí)現(xiàn)這一目標(biāo)。
我們致力于為負(fù)責(zé)任的AI的未來投資，并幫助制定國際標(biāo)準(zhǔn)，以維護(hù)我們的客戶以及我們共同生活和在其中運(yùn)營的社區(qū)的利益。
亞馬遜云科技在標(biāo)準(zhǔn)和技術(shù)領(lǐng)域持續(xù)投入研發(fā)資源，在re:Invent 2023上，我們基于Amazon Bedrock發(fā)布了一系列防護(hù)機(jī)制防護(hù)機(jī)制（含預(yù)覽版），可以根據(jù)您的應(yīng)用程序要求和負(fù)責(zé)任的AI策略實(shí)施定制的防護(hù)措施。
作為負(fù)責(zé)任的AI戰(zhàn)略的一部分，您現(xiàn)在可以使用Guardrails for Amazon Bedrock（預(yù)覽版），通過實(shí)施針對您的用例和負(fù)責(zé)任的AI政策定制的保障措施，促進(jìn)用戶與您的生成式AI應(yīng)用程序之間的安全交互。
亞馬遜云科技致力于以負(fù)責(zé)任的、以人為本的方式開發(fā)生成式AI，注重教育和科學(xué)，幫助開發(fā)人員在整個(gè)AI生命周期中整合負(fù)責(zé)任的AI。有了適用于Amazon Bedrock的Guardrails，您可以始終如一地實(shí)施保障措施，以提供符合公司政策和原則的相關(guān)、安全的用戶體驗(yàn)。Guardrails可幫助您定義拒絕主題和內(nèi)容過濾器，以從用戶與應(yīng)用程序之間的交互中刪除不良和有害內(nèi)容。這為基礎(chǔ)模型（FM）中內(nèi)置的任何保護(hù)措施提供了額外的控制級別。
為您的所有應(yīng)用程序提供一致的
AI安全級別
用于Amazon Bedrock的Guardrails可根據(jù)用例特定策略評估用戶輸入和AI響應(yīng)，并提供額外的保護(hù)層，而不受底層AI的影響。Guardrails可應(yīng)用于各種FM，包括Anthropic Claude、Meta Llama 2、Cohere Command、AI21 Labs Jurassic和Amazon Titan Text，以及微調(diào)模型?？蛻艨梢詣?chuàng)建多個(gè)護(hù)欄，每個(gè)護(hù)欄配置不同的控制組合，并在不同的應(yīng)用和用例中使用這些護(hù)欄。Guardrails還可以與亞馬遜Bedrock的代理集成，以構(gòu)建與您的負(fù)責(zé)任AI政策相一致的生成式AI應(yīng)用。
阻止生成式AI應(yīng)用程序中的不良主題
企業(yè)認(rèn)識(shí)到需要管理生成式AI應(yīng)用中的交互，以獲得相關(guān)且安全的用戶體驗(yàn)。他們希望進(jìn)一步自定義交互，使其保持在與其業(yè)務(wù)相關(guān)的主題上，并與公司政策保持一致。使用簡短的自然語言描述，Guardrails for Amazon Bedrock可讓您在應(yīng)用程序的上下文中定義一組要避免的主題。Guardrails會(huì)檢測并阻止屬于受限主題的用戶輸入和調(diào)頻響應(yīng)。例如，金融助手可以避免與投資建議相關(guān)的主題。
根據(jù)負(fù)責(zé)任的AI政策過濾有害內(nèi)容
Guardrails for Amazon Bedrock提供可配置閾值的內(nèi)容過濾器，可過濾仇恨、侮辱、性和暴力類別的有害內(nèi)容。大多數(shù)FM已經(jīng)提供了內(nèi)置保護(hù)，以防止生成有害響應(yīng)。除這些保護(hù)措施外，Guardrails還允許您配置不同類別的閾值，以過濾有害的交互。Guardrails可自動(dòng)評估用戶查詢和FM響應(yīng)，以檢測并幫助防止屬于受限類別的內(nèi)容。例如，電子商務(wù)網(wǎng)站可以設(shè)計(jì)其在線助手，避免使用仇恨言論或侮辱等不當(dāng)語言。
響應(yīng)PII以保護(hù)用戶隱私（即將推出）
Guardrails for Amazon Bedrock可讓您檢測用戶輸入和FM響應(yīng)中的個(gè)人身份信息（PII）。根據(jù)使用案例，您可以選擇性地拒絕包含PII的輸入，或在調(diào)頻響應(yīng)中編輯PII。例如，在從呼叫中心的客戶和座席對話記錄生成摘要時(shí)，您可以編輯用戶的個(gè)人信息。
AWS
專欄
閩公網(wǎng)安備 35010202001226號
