Google無服務(wù)器流媒體分析服務(wù)Dataflow Prime現(xiàn)可自動(dòng)垂直縮放

來源:十輪網(wǎng)
作者:十輪網(wǎng)
時(shí)間:2022-09-01
2305
Google云計(jì)算在無服務(wù)器流媒體分析服務(wù)Dataflow Prime,添加垂直自動(dòng)縮放功能,通過自動(dòng)擴(kuò)展運(yùn)算單元(Worker)內(nèi)存,來提高Dataflow Prime的性能,由于是垂直擴(kuò)展,因此用戶也就不需要手動(dòng)調(diào)整運(yùn)算單元的配置。

1303_dataflow_vertical_autoscaling_google_cloud_blog.jpg

Google云計(jì)算在無服務(wù)器流媒體分析服務(wù)Dataflow Prime,添加垂直自動(dòng)縮放功能,通過自動(dòng)擴(kuò)展運(yùn)算單元(Worker)內(nèi)存,來提高Dataflow Prime的性能,由于是垂直擴(kuò)展,因此用戶也就不需要手動(dòng)調(diào)整運(yùn)算單元的配置。

Dataflow Prime供用戶使用Apache Beam SDK或是Dataflow模板,編寫資料處理邏輯,并由Dataflow處理工作管線的優(yōu)化、執(zhí)行和可擴(kuò)展性,Google提到,在部分情況下,用戶需要手動(dòng)選擇內(nèi)存等資源,如此系統(tǒng)才能獲得更佳的性能和降低成本。

調(diào)整資源是一個(gè)耗時(shí)的試錯(cuò)過程,且同時(shí)可能需要調(diào)整多個(gè)運(yùn)算單元,才可能達(dá)到工作管線最佳配置,此外,當(dāng)資料處理需求發(fā)生變化時(shí),靜態(tài)配置可能就不適用。Google云計(jì)算現(xiàn)在于Dataflow Prime提供垂直自動(dòng)縮放功能,滿足這些配置調(diào)整需求。

垂直自動(dòng)縮放功能會(huì)持續(xù)觀察流媒體傳輸工作管線中,內(nèi)存不足(OOM)事件和內(nèi)存使用的狀況,并依此觸發(fā)內(nèi)存縮放,當(dāng)內(nèi)存利用率很高,垂直自動(dòng)縮放功能便會(huì)替換更大內(nèi)存容量的運(yùn)算單元,Google提到,這個(gè)過程是迭代的,因此可能需要數(shù)分鐘的時(shí)間。

反之,當(dāng)內(nèi)存使用率較低,便會(huì)縮減使用較少內(nèi)存容量的運(yùn)算單元。系統(tǒng)會(huì)觀察工作管線的歷史資料,來考量縮減規(guī)模的方式,以確保工作管線的穩(wěn)定性,垂直自動(dòng)縮放會(huì)采用較保守的方式進(jìn)行縮減,盡可能減少工作管線中斷。

立即登錄,閱讀全文
原文鏈接:點(diǎn)擊前往 >
文章來源:十輪網(wǎng)
版權(quán)說明:本文內(nèi)容來自于十輪網(wǎng),本站不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。文章內(nèi)容系作者個(gè)人觀點(diǎn),不代表快出海對(duì)觀點(diǎn)贊同或支持。如有侵權(quán),請(qǐng)聯(lián)系管理員(zzx@kchuhai.com)刪除!
相關(guān)文章
新版GKE可管理最多6.5萬集群節(jié)點(diǎn),超越AWS、Azure 10倍
新版GKE可管理最多6.5萬集群節(jié)點(diǎn),超越AWS、Azure 10倍
Google Cloud公布最新Google Kubernetes Engine版本,號(hào)稱可支持最高達(dá)65,000個(gè)節(jié)點(diǎn)的服務(wù)器集群,以執(zhí)行超大型AI模型。
Google Cloud
云服務(wù)
云計(jì)算
2024-11-15
Google Cloud細(xì)說AI變現(xiàn)途徑:用戶一年暴增10倍
Google Cloud細(xì)說AI變現(xiàn)途徑:用戶一年暴增10倍
Google云計(jì)算平臺(tái)(Google Cloud)首席執(zhí)行官Thomas Kurian在高盛舉行的會(huì)議上,說明了該公司究竟是通過哪些途徑將AI變現(xiàn)。
Google Cloud
谷歌云
云計(jì)算
2024-09-13
云計(jì)算平臺(tái)GCP的服務(wù)存在權(quán)限提升漏洞,未經(jīng)授權(quán)的攻擊者可借此訪問敏感數(shù)據(jù)
云計(jì)算平臺(tái)GCP的服務(wù)存在權(quán)限提升漏洞,未經(jīng)授權(quán)的攻擊者可借此訪問敏感數(shù)據(jù)
7月24日安全企業(yè)Tenable披露影響Google Cloud Platform(GCP)的權(quán)限提升漏洞ConfusedFunction,這項(xiàng)弱點(diǎn)發(fā)生在名為Cloud Functions的無服務(wù)器運(yùn)算服務(wù),以及稱作Cloud Build的CICD渠道服務(wù)。
Google Cloud
谷歌云
云計(jì)算
2024-07-27
Gemini為核心,Google云計(jì)算AI戰(zhàn)略聚焦云服務(wù)和生產(chǎn)力GAI
Gemini為核心,Google云計(jì)算AI戰(zhàn)略聚焦云服務(wù)和生產(chǎn)力GAI
過去一年,企業(yè)GAI應(yīng)用的風(fēng)潮席卷全球,成了三大公有云積極搶攻的新戰(zhàn)場(chǎng),微軟靠著OpenAI助攻,去年在這場(chǎng)云計(jì)算GAI大戰(zhàn)中取得先機(jī),而Google后來居上,靠著自家PaLM模型和GAI生產(chǎn)力工具來迎戰(zhàn),AWS則是到去年底年會(huì)上,對(duì)于企業(yè)GAI應(yīng)用布局才有比較完整的布局與披露。
Google Cloud
谷歌云
云計(jì)算
2024-05-04
優(yōu)質(zhì)服務(wù)商推薦
更多
掃碼登錄
打開掃一掃, 關(guān)注公眾號(hào)后即可登錄/注冊(cè)
加載中
二維碼已失效 請(qǐng)重試
刷新
賬號(hào)登錄/注冊(cè)
小程序
快出海小程序
公眾號(hào)
快出海公眾號(hào)
商務(wù)合作
商務(wù)合作
投稿采訪
投稿采訪
出海管家
出海管家