加入星計劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴散
  • 作品版權(quán)保護
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入

虹科干貨丨Redis?Enterprise?自動分層技術(shù):大數(shù)據(jù)集高性能解決方案

2023/10/23
2883
服務(wù)支持:
技術(shù)交流群

完成交易后在“購買成功”頁面掃碼入群,即可與技術(shù)大咖們分享疑惑和經(jīng)驗、收獲成長和認同、領(lǐng)取優(yōu)惠和紅包等。

虛擬商品不可退

當(dāng)前內(nèi)容為數(shù)字版權(quán)作品,購買后不支持退換且無法轉(zhuǎn)移使用。

加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論
放大
實物圖
相關(guān)方案
  • 方案介紹
    • 一、問題:內(nèi)存有限且昂貴
    • 二、自動分層的工作原理
    • 三、數(shù)據(jù)案例
    • 四、應(yīng)用場景
  • 相關(guān)文件
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

引導(dǎo)語:越來越多的應(yīng)用程序依賴于龐大的數(shù)據(jù)集合,而這些應(yīng)用程序必須快速響應(yīng)。借助自動分層,Redis Enterprise 7.2 幫助開發(fā)人員輕松創(chuàng)建超快的應(yīng)用程序。何樂而不為?

簡介(朋友圈):企業(yè)業(yè)務(wù)一直依賴于其收集的數(shù)據(jù),但這些數(shù)據(jù)集正在不斷增長。即使需要提取的數(shù)據(jù)存儲量非常龐大,Redis Enterprise 7.2也能使應(yīng)用程序能以最快的速度檢索和處理數(shù)據(jù)。利用自動分層技術(shù),可以識別冷數(shù)據(jù)和熱數(shù)據(jù),并分別存儲在內(nèi)存和固態(tài)硬盤上,顯著提升了系統(tǒng)響應(yīng)速度,優(yōu)化內(nèi)存占用的同時降低硬件成本要求。

Redis將數(shù)據(jù)存儲在內(nèi)存中,因此應(yīng)用程序能以最快的速度檢索和處理數(shù)據(jù)。然而,隨著應(yīng)用程序需要處理的數(shù)據(jù)越多,存儲數(shù)據(jù)集所需的內(nèi)存越大,所耗費的成本則更高,Redis Enterprise自動分層技術(shù)能很好地化解這個兩難的局面。

一、問題:內(nèi)存有限且昂貴

當(dāng)應(yīng)用程序訪問的數(shù)據(jù)量很大,例如達到TB級時,開發(fā)人員就面臨著內(nèi)存有限的問題,他們一般使用基于磁盤的解決方案來在幕后支持 Redis。這樣一來,開發(fā)人員就不得不在應(yīng)用程序中構(gòu)建整個數(shù)據(jù)管理系統(tǒng),這意味著他們要把時間花在不相干的任務(wù)上。

利用 Redis Enterprise 的自動分層功能,開發(fā)人員可以使用固態(tài)硬盤(SSD)作為可用內(nèi)存的一部分,將大容量數(shù)據(jù)庫擴展到SSD中。Redis Enterprise 可以隨時識別哪些數(shù)據(jù)應(yīng)留在內(nèi)存中,哪些數(shù)據(jù)應(yīng)留在固態(tài)硬盤上,從而將吞吐量提高一倍,并將延遲減半。

因此,開發(fā)人員無需編寫額外的代碼或?qū)W習(xí)其他新技術(shù)。通過將動態(tài) RAM 與高速外部存儲相結(jié)合,Redis Enterprise 可以輕松高效地使用系統(tǒng)資源,同時還能快速訪問熱數(shù)據(jù)。

二、自動分層的工作原理

自動分層可自動管理數(shù)據(jù)。它會將熱數(shù)據(jù)轉(zhuǎn)移到 DRAM,并智能地將未使用的數(shù)據(jù)轉(zhuǎn)移到 SSD。這為依賴大型數(shù)據(jù)集的應(yīng)用帶來了新的可能性。

通過將訪問頻率較低的冷數(shù)據(jù)轉(zhuǎn)移到固態(tài)硬盤,開發(fā)人員可以優(yōu)化內(nèi)存使用,降低與大容量內(nèi)存需求相關(guān)的成本。

實際上,這可以使數(shù)據(jù)量大的應(yīng)用程序運行得更快,而無需開發(fā)人員額外付出。與僅使用 DRAM 的部署相比,它還能節(jié)省高達 70% 的基礎(chǔ)硬件設(shè)施成本。而且,由于自動分層可以高效地自動管理數(shù)據(jù)訪問模式,因此您無需花費時間(計算或人工篩選)來識別熱數(shù)據(jù)和冷數(shù)據(jù)。

為了增強這一功能,Redis 與創(chuàng)新的鍵值存儲引擎 Speedb 建立了戰(zhàn)略合作伙伴關(guān)系。我們將其技術(shù)整合為默認的自動分層引擎。

集成 Speedb 后,Redis Enterprise 的性能顯著提升,在訪問相同資源的情況下,吞吐量翻倍,延遲減半。這大大拓寬了可利用自動分層優(yōu)勢的用例范圍。在這一改進之后,Redis Enterprise 使用自動分層的數(shù)據(jù)庫規(guī)模由每個內(nèi)核 5k ops/秒增至10k ops/秒。

通過自動分層使核心吞吐量加倍

三、數(shù)據(jù)案例

我們來看一個案例。

下圖展示了自動分層在實際工作負載場景中的性能演變示例。藍色條代表使用以前的存儲引擎(RocksDB)的 Redis Enterprise 6.4,紅色條代表使用 Speedb 的 Redis Enterprise 7.2。在基礎(chǔ)設(shè)施方面,我們使用 I4i.8xlarge AWS 實例在 10 個分片上托管 1TB 數(shù)據(jù)庫,為實現(xiàn)高可用性,采用總共 20 個分片,為 1,024 個客戶端提供服務(wù)。

為了模擬最標準的 Redis 用例,我們在 20% DRAM 和 80% SSD 的配置上定義了兩種不同的有效載荷(1KiB 和 10KiB),并提供了三種可能的使用模式:平衡讀/寫(1:1)、重讀(1:4)和重寫(4:1)。在這兩種情況下,我們測量了以每秒操作數(shù)為單位的吞吐量和相應(yīng)的延遲。以下圖表顯示了結(jié)果。

RAM/SSD數(shù)據(jù)占比2:8,單次操作1KB值

與 RS 6.4 (RocksDB) 相比,RS 7.2 (Speedb) 改進了:

  • 85% 命中率時:每秒操作次數(shù)增加 1.4 倍至 1.6 倍,同時延遲降低高達 2.4 倍
  • 50% 命中率時:每秒操作次數(shù)增加 1.9 倍至 2.3 倍,同時延遲降低高達 3.8 倍

RAM/SSD數(shù)據(jù)占比2:8,單次操作10KB值

與 RS 6.4 (RocksDB) 相比,RS 7.2 (Speedb) 改進了:

  • 85% 命中率時:每秒操作次數(shù)增加 2.3 倍至 3.0 倍,同時延遲降低高達 3.0 倍
  • 50% 命中率時:每秒操作次數(shù)增加 2.1 倍至 3.5 倍,同時延遲降低高達 3.5 倍

在所有情況下,帶有 Speedb 的 Redis Enterprise 7.2 都具有更好的吞吐量,這意味著維持這種性能水平所需的應(yīng)用程序速度更快,基礎(chǔ)設(shè)施更少。

四、應(yīng)用場景

自動分層尤其適用于將數(shù)據(jù)分為熱數(shù)據(jù)和冷數(shù)據(jù)的情況。

1.移動銀行

讓我們來看看移動銀行應(yīng)用的例子。

如今,每個人的移動設(shè)備上都有銀行應(yīng)用程序。用戶登錄應(yīng)用程序,獲取余額,查看最后一筆交易,并獲取其他相對較小和集中的信息。每個人都希望這一過程流暢、簡單、即時。這些數(shù)據(jù)就是我們的熱數(shù)據(jù),存放在 Redis Enterprise 數(shù)據(jù)庫的 DRAM 中。

用戶希望獲得更多信息的情況并不常見,例如舊交易記錄--也許是兩年前的稅務(wù)數(shù)據(jù)。用戶需要訪問這些數(shù)據(jù),但數(shù)據(jù)訪問速度并不那么重要。這種數(shù)據(jù)集是我們的冷數(shù)據(jù),可以保存在高速外部存儲如固態(tài)硬盤中。

2.游戲行業(yè)

速度在游戲行業(yè)也很重要。例如,游戲應(yīng)用對延遲有嚴格要求。另外,從本質(zhì)上講,游戲是一種潮流。隨著時間的推移,游戲公司會積累越來越多的用戶數(shù)據(jù),并將其存儲在用戶資料數(shù)據(jù)庫中,但并非所有用戶都是活躍用戶。通過自動分層,活躍用戶的資料數(shù)據(jù)可以存儲在 DRAM 中,而其他用戶的數(shù)據(jù)則存儲在 SSD 中。

虹科是Redis原廠的中國區(qū)戰(zhàn)略合作伙伴。我們持續(xù)關(guān)注各行業(yè)當(dāng)下急切需求,專注于為企業(yè)解答疑問,制定專屬服務(wù),提供一站式數(shù)據(jù)庫和商業(yè)智能解決方案。了解更多【企業(yè)級數(shù)據(jù)庫解決方案】及【企業(yè)緩存指南】,歡迎前往虹科云科技官網(wǎng)https://hongcloudtech.com/

聯(lián)系虹科工程師:15528663362

聯(lián)系方式鏈接:https://t.dustess.com/Fc6fpUjg

  • 虹科干貨丨Redis Enterprise 自動分層技術(shù):大數(shù)據(jù)集高性能解決方案.docx

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風(fēng)險等級 參考價格 更多信息
BCM5241A1KMLG 1 Broadcom Limited Ethernet Transceiver, PACKAGE
$1.66 查看
KSZ8851SNLI 1 Microchip Technology Inc DATACOM, ETHERNET TRANSCEIVER, PQCC32
$5.06 查看
ADM3053BRWZ-REEL7 1 Analog Devices Inc Signal and Power Isolated CAN Transceiver with Integrated Isolated DC-to-DC Converter

ECAD模型

下載ECAD模型
$12.3 查看

相關(guān)推薦

電子產(chǎn)業(yè)圖譜

虹科是一家資源整合及技術(shù)服務(wù)落地供應(yīng)商,與全球頂尖公司深度技術(shù)合作,專注于制造業(yè)、汽車、生物、醫(yī)藥、測試與測量、廣播電視與媒體、通信、網(wǎng)絡(luò)安全、光電等領(lǐng)域,為客戶提供:智能自動化、工業(yè)物聯(lián)網(wǎng)、智能感知、數(shù)字化+AR、光電、網(wǎng)絡(luò)安全、測試測量、衛(wèi)星與無線通信、醫(yī)藥環(huán)境監(jiān)測與驗證、生命科學(xué)、汽車電子、汽車維修診斷、云科技等解決方案。虹科始終致力于為行業(yè)客戶提供創(chuàng)新及前端的產(chǎn)品和技術(shù)解決方案,為科技社會發(fā)展助力加碼。