新BigQuery推薦器可提供用戶表格分區(qū)與分群優(yōu)化建議

來源:十輪網(wǎng)
作者:十輪網(wǎng)
時間:2023-06-01
2324
Google云計算推出BigQuery推薦器,通過分析工作負(fù)載和表格,協(xié)助用戶對表格進(jìn)行分區(qū)(Partitioning)或是分群(Clustering),以優(yōu)化成本支出。

2023-05-30-3.00.40.jpg

Google云計算推出BigQuery推薦器,通過分析工作負(fù)載和表格,協(xié)助用戶對表格進(jìn)行分區(qū)(Partitioning)或是分群(Clustering),以優(yōu)化成本支出。

所謂的資料表分區(qū),是將大表格分為多個區(qū)段,每個區(qū)段可包含特定時窗的資料,因此像是針對特定時間范圍的資料查詢,BigQuery就僅需要查詢該時間范圍的分區(qū),而不需要掃描整個表格。而分群則是根據(jù)用戶定義的字段,對表格進(jìn)行排序,因此當(dāng)用戶在查詢特定值的資料時,BigQuery就可以快速定位包含該數(shù)值的資料區(qū)塊。

這兩種方法都可以提高特定類型的查詢性能,像是使用過濾條件的查詢,和對資料進(jìn)行聚合的查詢。

不過,決定資料分區(qū)或是分群的最佳策略并不容易,尤其在大型數(shù)據(jù)庫中,優(yōu)化查詢工作變得非常復(fù)雜,每個表格可能包含數(shù)百萬和數(shù)十億筆資料,要人工決定分區(qū)還是分類,不只需要專業(yè)知識,還會耗費(fèi)大量時間。而且數(shù)據(jù)庫用戶具有不同的查詢需求,查詢觸及表格的不同部分和字段,要預(yù)測查詢模式進(jìn)行優(yōu)化,是一件困難的事。

BigQuery推薦器會分析過去30天每個項目的工作負(fù)載執(zhí)行情況,并尋找表格資料缺乏效率的掃描,通過減少不必要的資料掃描,減少成本并增加查詢速度。推薦器會運(yùn)用機(jī)器學(xué)習(xí)技術(shù),提供可以優(yōu)化資料訪問的建議。

推薦器主要會對大于100 Gb的表格分區(qū),10 Gb以上的表格則是提供分類建議,官方提到,過小的表格的優(yōu)化效益不高,且成效難以預(yù)測。用戶要使用推薦器有幾種方式,除了直接在UI上操作,也可以在推薦器集成中心Recommendation Hub中以控制臺操作,或是使用推薦器API。

立即登錄,閱讀全文
原文鏈接:點(diǎn)擊前往 >
文章來源:十輪網(wǎng)
版權(quán)說明:本文內(nèi)容來自于十輪網(wǎng),本站不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。文章內(nèi)容系作者個人觀點(diǎn),不代表快出海對觀點(diǎn)贊同或支持。如有侵權(quán),請聯(lián)系管理員(zzx@kchuhai.com)刪除!
相關(guān)文章
新版GKE可管理最多6.5萬集群節(jié)點(diǎn),超越AWS、Azure 10倍
新版GKE可管理最多6.5萬集群節(jié)點(diǎn),超越AWS、Azure 10倍
Google Cloud公布最新Google Kubernetes Engine版本,號稱可支持最高達(dá)65,000個節(jié)點(diǎn)的服務(wù)器集群,以執(zhí)行超大型AI模型。
Google Cloud
云服務(wù)
云計算
2024-11-15
Google Cloud細(xì)說AI變現(xiàn)途徑:用戶一年暴增10倍
Google Cloud細(xì)說AI變現(xiàn)途徑:用戶一年暴增10倍
Google云計算平臺(Google Cloud)首席執(zhí)行官Thomas Kurian在高盛舉行的會議上,說明了該公司究竟是通過哪些途徑將AI變現(xiàn)。
Google Cloud
谷歌云
云計算
2024-09-13
云計算平臺GCP的服務(wù)存在權(quán)限提升漏洞,未經(jīng)授權(quán)的攻擊者可借此訪問敏感數(shù)據(jù)
云計算平臺GCP的服務(wù)存在權(quán)限提升漏洞,未經(jīng)授權(quán)的攻擊者可借此訪問敏感數(shù)據(jù)
7月24日安全企業(yè)Tenable披露影響Google Cloud Platform(GCP)的權(quán)限提升漏洞ConfusedFunction,這項弱點(diǎn)發(fā)生在名為Cloud Functions的無服務(wù)器運(yùn)算服務(wù),以及稱作Cloud Build的CICD渠道服務(wù)。
Google Cloud
谷歌云
云計算
2024-07-27
Gemini為核心,Google云計算AI戰(zhàn)略聚焦云服務(wù)和生產(chǎn)力GAI
Gemini為核心,Google云計算AI戰(zhàn)略聚焦云服務(wù)和生產(chǎn)力GAI
過去一年,企業(yè)GAI應(yīng)用的風(fēng)潮席卷全球,成了三大公有云積極搶攻的新戰(zhàn)場,微軟靠著OpenAI助攻,去年在這場云計算GAI大戰(zhàn)中取得先機(jī),而Google后來居上,靠著自家PaLM模型和GAI生產(chǎn)力工具來迎戰(zhàn),AWS則是到去年底年會上,對于企業(yè)GAI應(yīng)用布局才有比較完整的布局與披露。
Google Cloud
谷歌云
云計算
2024-05-04
優(yōu)質(zhì)服務(wù)商推薦
更多