·保障AI的用戶和AI服務提供商安全,監(jiān)管身份驗證和零信任功能
·在跨團隊、應用和API中優(yōu)先考慮AI服務的使用
·實現(xiàn)基于OpenAI、云服務提供商、開源社區(qū)等AI服務和模型的集成自動化
西雅圖,2024年11月20日–F5(NASDAQ:FFIV)日前宣布推出搶先體驗版F5 AI網(wǎng)關(AI Gateway),以簡化企業(yè)在推動AI部署過程中應用、API和大語言模型(LLMs)間的交互。這一強大的容器化解決方案能夠優(yōu)化性能、可觀測性和保護能力,從而顯著降低成本。通過與F5的產(chǎn)品組合深度集成,AI網(wǎng)關為安全和運營團隊提供了采用AI服務的無縫途徑,以大幅提升數(shù)據(jù)輸出質(zhì)量并帶來卓越的用戶體驗。
根據(jù)F5發(fā)布的《人工智能應用策略現(xiàn)狀報告》顯示,75%的企業(yè)正在部署AI。與眾多現(xiàn)代應用一樣,AI服務主要通過API進行交付和使用。然而,企業(yè)在設計和擴展支持AI的應用和服務時,卻面臨著更多額外挑戰(zhàn)。例如,高效運營需要密切監(jiān)控GPU計算成本、系統(tǒng)響應速度等日益重要的指標,同時還需應對不斷涌現(xiàn)的合規(guī)性要求。
Kunal Anand
F5首席創(chuàng)新官
“LLM正在為用戶打造全新的生產(chǎn)力水平,并提升用戶體驗,但它們同時也需要在推理階段進行監(jiān)督、深度檢查,并防御新型威脅。通過滿足這些新要求并與F5值得信賴的API流量管理解決方案集成,我們將幫助客戶在日益復雜的威脅環(huán)境中,自信且高效地部署AI驅(qū)動的應用?!?/p>
現(xiàn)實世界中的AI解決方案需要在整個數(shù)據(jù)生態(tài)系統(tǒng)中優(yōu)化請求、響應和快速交互。F5 AI網(wǎng)關通過觀察、優(yōu)化并保護大量用戶和自動化變量,從而降低成本、減少惡意威脅并確保合規(guī)性。
F5 AI網(wǎng)關旨在于客戶及其應用的AI發(fā)展中找到最佳契合點。該網(wǎng)關可部署在任何云或數(shù)據(jù)中心,并原生集成F5 NGINX及BIG-IP平臺,從而在傳統(tǒng)、多云或邊緣部署中充分利用F5領先的應用安全和交付服務。此外,該解決方案的開放可擴展性將允許企業(yè)開發(fā)和定制由F5 AI網(wǎng)關執(zhí)行的可編程安全和控制。這些流程可輕松更新并動態(tài)應用,以實現(xiàn)對安全策略和合規(guī)要求的即時響應。
Shari Lava
IDC人工智能和自動化高級總監(jiān)
“AI驅(qū)動的應用將在未來幾年成為幾乎所有企業(yè)和組織的基石。F5在其應用堆棧服務中引入AI網(wǎng)關,為客戶提供了在構(gòu)建AI應用架構(gòu)方面更大的靈活性,同時實現(xiàn)更強的保護和模型優(yōu)化?!?/p>
F5 AI網(wǎng)關可為用戶帶來以下價值:
·通過自動檢測和修復提供安全和合規(guī)性策略實施,以應對OWASP發(fā)布的大語言模型應用程序十大風險;
·利用語義緩存卸載LLM中的重復任務,提升用戶體驗并降低運營成本;
·簡化集成流程,允許開發(fā)人員得以專注于構(gòu)建AI驅(qū)動的應用,而不是管理復雜的基礎架構(gòu);
·優(yōu)化本地和第三方LLM的負載平衡、流量路由和速率限制,以保持服務可用性并提升性能;
·提供單一API接口,供開發(fā)人員用于訪問他們選擇的AI模型。
Austin Geraci
WorldTech IT首席技術(shù)官
“F5的AI網(wǎng)關是我們AI戰(zhàn)略中不可或缺的一部分。借助該項技術(shù),我們的客戶能夠開發(fā)內(nèi)部和外部的AI應用,這些應用能夠處理大量查詢,而不降低站點和應用性能。F5提供的領先應用安全和交付能力,可加速大規(guī)模AI體驗。通過采用F5 AI網(wǎng)關,僅語義緩存和智能流量路由即可顯著降低成本,同時F5服務的統(tǒng)一性也為客戶節(jié)省了數(shù)百小時的集成工作。”