Google云計(jì)算在無服務(wù)器流媒體分析服務(wù)Dataflow Prime,添加垂直自動(dòng)縮放功能,通過自動(dòng)擴(kuò)展運(yùn)算單元(Worker)內(nèi)存,來提高Dataflow Prime的性能,由于是垂直擴(kuò)展,因此用戶也就不需要手動(dòng)調(diào)整運(yùn)算單元的配置。
Dataflow Prime供用戶使用Apache Beam SDK或是Dataflow模板,編寫資料處理邏輯,并由Dataflow處理工作管線的優(yōu)化、執(zhí)行和可擴(kuò)展性,Google提到,在部分情況下,用戶需要手動(dòng)選擇內(nèi)存等資源,如此系統(tǒng)才能獲得更佳的性能和降低成本。
調(diào)整資源是一個(gè)耗時(shí)的試錯(cuò)過程,且同時(shí)可能需要調(diào)整多個(gè)運(yùn)算單元,才可能達(dá)到工作管線最佳配置,此外,當(dāng)資料處理需求發(fā)生變化時(shí),靜態(tài)配置可能就不適用。Google云計(jì)算現(xiàn)在于Dataflow Prime提供垂直自動(dòng)縮放功能,滿足這些配置調(diào)整需求。
垂直自動(dòng)縮放功能會(huì)持續(xù)觀察流媒體傳輸工作管線中,內(nèi)存不足(OOM)事件和內(nèi)存使用的狀況,并依此觸發(fā)內(nèi)存縮放,當(dāng)內(nèi)存利用率很高,垂直自動(dòng)縮放功能便會(huì)替換更大內(nèi)存容量的運(yùn)算單元,Google提到,這個(gè)過程是迭代的,因此可能需要數(shù)分鐘的時(shí)間。
反之,當(dāng)內(nèi)存使用率較低,便會(huì)縮減使用較少內(nèi)存容量的運(yùn)算單元。系統(tǒng)會(huì)觀察工作管線的歷史資料,來考量縮減規(guī)模的方式,以確保工作管線的穩(wěn)定性,垂直自動(dòng)縮放會(huì)采用較保守的方式進(jìn)行縮減,盡可能減少工作管線中斷。