646
·保障AI的用戶和AI服務(wù)提供商安全，監(jiān)管身份驗證和零信任功能
·在跨團(tuán)隊、應(yīng)用和API中優(yōu)先考慮AI服務(wù)的使用
·實現(xiàn)基于OpenAI、云服務(wù)提供商、開源社區(qū)等AI服務(wù)和模型的集成自動化
西雅圖，2024年11月20日– F5(NASDAQ: FFIV)日前宣布推出搶先體驗版F5 AI網(wǎng)關(guān)(AI Gateway)，以簡化企業(yè)在推動AI部署過程中應(yīng)用、API和大語言模型(LLMs)間的交互。這一強(qiáng)大的容器化解決方案能夠優(yōu)化性能、可觀測性和保護(hù)能力，從而顯著降低成本。通過與F5的產(chǎn)品組合深度集成，AI網(wǎng)關(guān)為安全和運(yùn)營團(tuán)隊提供了采用 AI 服務(wù)的無縫途徑，以大幅提升數(shù)據(jù)輸出質(zhì)量并帶來卓越的用戶體驗。
根據(jù) F5 發(fā)布的《人工智能應(yīng)用策略現(xiàn)狀報告》顯示，75% 的企業(yè)正在部署AI。與眾多現(xiàn)代應(yīng)用一樣，AI服務(wù)主要通過 API 進(jìn)行交付和使用。然而，企業(yè)在設(shè)計和擴(kuò)展支持AI的應(yīng)用和服務(wù)時，卻面臨著更多額外挑戰(zhàn)。例如，高效運(yùn)營需要密切監(jiān)控GPU計算成本、系統(tǒng)響應(yīng)速度等日益重要的指標(biāo)，同時還需應(yīng)對不斷涌現(xiàn)的合規(guī)性要求。
F5首席創(chuàng)新官Kunal Anand表示，“LLM正在為用戶打造全新的生產(chǎn)力水平，并提升用戶體驗，但它們同時也需要在推理階段進(jìn)行監(jiān)督、深度檢查，并防御新型威脅。通過滿足這些新要求并與F5值得信賴的API流量管理解決方案集成，我們將幫助客戶在日益復(fù)雜的威脅環(huán)境中，自信且高效地部署 AI 驅(qū)動的應(yīng)用?！?/p>
現(xiàn)實世界中的AI解決方案需要在整個數(shù)據(jù)生態(tài)系統(tǒng)中優(yōu)化請求、響應(yīng)和快速交互。F5 AI網(wǎng)關(guān)通過觀察、優(yōu)化并保護(hù)大量用戶和自動化變量，從而降低成本、減少惡意威脅并確保合規(guī)性。
F5 AI網(wǎng)關(guān)旨在于客戶及其應(yīng)用的 AI 發(fā)展中找到最佳契合點。該網(wǎng)關(guān)可部署在任何云或數(shù)據(jù)中心，并原生集成F5 NGINX及BIG-IP平臺，從而在傳統(tǒng)、多云或邊緣部署中充分利用F5領(lǐng)先的應(yīng)用安全和交付服務(wù)。此外，該解決方案的開放可擴(kuò)展性將允許企業(yè)開發(fā)和定制由F5 AI網(wǎng)關(guān)執(zhí)行的可編程安全和控制。這些流程可輕松更新并動態(tài)應(yīng)用，以實現(xiàn)對安全策略和合規(guī)要求的即時響應(yīng)。
IDC人工智能和自動化高級總監(jiān)Shari Lava表示，“AI驅(qū)動的應(yīng)用將在未來幾年成為幾乎所有企業(yè)和組織的基石。F5在其應(yīng)用堆棧服務(wù)中引入AI網(wǎng)關(guān)，為客戶提供了在構(gòu)建 AI 應(yīng)用架構(gòu)方面更大的靈活性，同時實現(xiàn)更強(qiáng)的保護(hù)和模型優(yōu)化?！?/p>
F5 AI網(wǎng)關(guān)可為用戶帶來以下價值：
· 通過自動檢測和修復(fù)提供安全和合規(guī)性策略實施，以應(yīng)對OWASP發(fā)布的大語言模型應(yīng)用程序十大風(fēng)險;
· 利用語義緩存卸載LLM中的重復(fù)任務(wù)，提升用戶體驗并降低運(yùn)營成本;
· 簡化集成流程，允許開發(fā)人員得以專注于構(gòu)建AI驅(qū)動的應(yīng)用，而不是管理復(fù)雜的基礎(chǔ)架構(gòu);
· 優(yōu)化本地和第三方LLM的負(fù)載平衡、流量路由和速率限制，以保持服務(wù)可用性并提升性能;
· 提供單一 API 接口，供開發(fā)人員用于訪問他們選擇的AI模型。
WorldTech IT首席技術(shù)官Austin Geraci表示，“F5 的AI網(wǎng)關(guān)是我們AI戰(zhàn)略中不可或缺的一部分。借助該項技術(shù)，我們的客戶能夠開發(fā)內(nèi)部和外部的AI應(yīng)用，這些應(yīng)用能夠處理大量查詢，而不降低站點和應(yīng)用性能。F5 提供的領(lǐng)先應(yīng)用安全和交付能力，可加速大規(guī)模AI體驗。通過采用F5 AI網(wǎng)關(guān)，僅語義緩存和智能流量路由即可顯著降低成本，同時F5服務(wù)的統(tǒng)一性也為客戶節(jié)省了數(shù)百小時的集成工作。”
更多資源：
·?F5 AI網(wǎng)關(guān)產(chǎn)品頁面
·?F5 AI網(wǎng)關(guān)概述
·?F5 AI網(wǎng)關(guān)博客文章
