AWS開(kāi)源文件客戶(hù)端Mountpoint,供用戶(hù)在本地文件系統(tǒng)掛載S3對(duì)象

來(lái)源:十輪網(wǎng)
作者:十輪網(wǎng)
時(shí)間:2023-03-17
1395
AWS開(kāi)源適用于Amazon S3的文件客戶(hù)端MountpointAlpha測(cè)試版,Mountpoint以程序語(yǔ)言Rust開(kāi)發(fā),能將本地文件系統(tǒng)的API調(diào)用,轉(zhuǎn)換成為S3對(duì)象的API調(diào)用,適合用于處理PB級(jí)資料,或是跨數(shù)千個(gè)執(zhí)行實(shí)例的讀取密集資料湖工作負(fù)載。

mountpoint-for-amazon-s3-local-file-system-command-line-tools-1024x511.jpg

AWS開(kāi)源適用于Amazon S3的文件客戶(hù)端MountpointAlpha測(cè)試版,Mountpoint以程序語(yǔ)言Rust開(kāi)發(fā),能將本地文件系統(tǒng)的API調(diào)用,轉(zhuǎn)換成為S3對(duì)象的API調(diào)用,適合用于處理PB級(jí)資料,或是跨數(shù)千個(gè)執(zhí)行實(shí)例的讀取密集資料湖工作負(fù)載。

AWS開(kāi)發(fā)Mountpoint的原因,官方解釋?zhuān)驗(yàn)椴糠仲Y料湖用戶(hù)使用特定領(lǐng)域的工具,這些工具輸入和輸出皆為本地文件系統(tǒng)的文件,而不支持S3對(duì)象API。像是開(kāi)源的Linux基因組學(xué)研究工具便需要對(duì)本地文件系統(tǒng)讀取定序資料,又或是機(jī)器學(xué)習(xí)訓(xùn)練工作管線,也需要在本地文件系統(tǒng)存儲(chǔ)檢查點(diǎn)文件。

用戶(hù)要將這些應(yīng)用串聯(lián)上S3可能是一件復(fù)雜的工作,又或是缺乏應(yīng)用程序的源碼,因此也無(wú)法完成這樣的目標(biāo)。Mountpoint是開(kāi)源文件客戶(hù)端,能夠讓Linux應(yīng)用程序簡(jiǎn)單地連接到S3存儲(chǔ)桶,并且使用文件API訪問(wèn)對(duì)象,Mountpoint擅長(zhǎng)處理需要平行讀取、生成大量S3資料,且不需要更新既有S3對(duì)象的任務(wù)。

Mountpoint使用戶(hù)能夠?qū)3存儲(chǔ)桶或是前綴,映射到執(zhí)行實(shí)例的文件系統(tǒng)命名空間,把存儲(chǔ)桶的內(nèi)容當(dāng)作本地文件一樣取用,對(duì)S3進(jìn)行GET和PUT操作,并且在不需要更改程序代碼和擔(dān)心性能配置下,就可達(dá)到每秒TB級(jí)的聚合吞吐量。

不過(guò),Mountpoint畢竟不是通用網(wǎng)絡(luò)文件系統(tǒng),因此存在一些文件操作限制,目前Alpha測(cè)試版還不支持寫(xiě)入對(duì)象,官方提到,未來(lái)Mountpoint也只會(huì)支持串行寫(xiě)入新對(duì)象。因此需要執(zhí)行跨執(zhí)行實(shí)例或是用戶(hù)協(xié)作的共享文件應(yīng)用程序,AWS建議使用FSx或是EFS等全托管文件服務(wù)。

當(dāng)資料湖應(yīng)用程序不需要使用其他文件系統(tǒng)文件讀取大型對(duì)象,或是只需要對(duì)單一節(jié)點(diǎn)寫(xiě)入對(duì)象,則Mountpoint便是可高性能訪問(wèn)S3的好用工具。AWS目前已經(jīng)發(fā)布Mountpoint Alpha測(cè)試版,用戶(hù)可以在GitHub上取用程序代碼。

立即登錄,閱讀全文
AWS
原文鏈接:點(diǎn)擊前往 >
文章來(lái)源:十輪網(wǎng)
版權(quán)說(shuō)明:本文內(nèi)容來(lái)自于十輪網(wǎng),本站不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。文章內(nèi)容系作者個(gè)人觀點(diǎn),不代表快出海對(duì)觀點(diǎn)贊同或支持。如有侵權(quán),請(qǐng)聯(lián)系管理員(zzx@kchuhai.com)刪除!
相關(guān)文章
Amazon EC2 Trn2實(shí)例正式可用,多款算力新品正式推出!
Amazon EC2 Trn2實(shí)例正式可用,多款算力新品正式推出!
在2024亞馬遜云科技re:Invent全球大會(huì)上,亞馬遜云科技宣布Amazon Trainium2 Server正式可用,并推出全新的Amazon Trainium2 UltraServer,讓用戶(hù)以?xún)?yōu)越的性?xún)r(jià)比訓(xùn)練和部署最新的人工智能模型,以及未來(lái)的大語(yǔ)言模型(LLM)和基礎(chǔ)模型。
AWS
云服務(wù)
亞馬遜云科技
2024-12-14
重磅推出Amazon Nova模型系列
重磅推出Amazon Nova模型系列
在2024亞馬遜云科技re:Invent全球大會(huì)上,亞馬遜云科技宣布推出新一代基礎(chǔ)模型Amazon Nova,這些模型在多種任務(wù)上展現(xiàn)出頂尖智能,且具備行業(yè)領(lǐng)先的性?xún)r(jià)比。
AWS
云服務(wù)
亞馬遜云科技
2024-12-14
部署時(shí)間從數(shù)年減至數(shù)月,ERP讓業(yè)務(wù)增長(zhǎng)起飛!
部署時(shí)間從數(shù)年減至數(shù)月,ERP讓業(yè)務(wù)增長(zhǎng)起飛!
作為現(xiàn)代企業(yè)管理的中樞,卓越的ERP系統(tǒng)能夠提供企業(yè)一個(gè)集成化的平臺(tái),實(shí)現(xiàn)財(cái)務(wù)、人力資源、供應(yīng)鏈和客戶(hù)服務(wù)等關(guān)鍵職能的自動(dòng)化和智能化管理。
AWS
云服務(wù)
亞馬遜云科技
2024-12-14
你使用的云,足夠有韌性嗎?
你使用的云,足夠有韌性嗎?
權(quán)威研究機(jī)構(gòu)Frost&Sullivan最新發(fā)布了白皮書(shū)《你使用的云足夠有韌性嗎?需要關(guān)注的云基礎(chǔ)架構(gòu)設(shè)計(jì)關(guān)鍵要素》,旨在幫助企業(yè)深入了解云基礎(chǔ)設(shè)施韌性,并提供選擇最具彈性云服務(wù)提供商(CSP)的指南。
AWS
云服務(wù)
亞馬遜云科技
2024-12-14
優(yōu)質(zhì)服務(wù)商推薦
更多
掃碼登錄
打開(kāi)掃一掃, 關(guān)注公眾號(hào)后即可登錄/注冊(cè)
加載中
二維碼已失效 請(qǐng)重試
刷新
賬號(hào)登錄/注冊(cè)
小程序
快出海小程序
公眾號(hào)
快出海公眾號(hào)
商務(wù)合作
商務(wù)合作
投稿采訪
投稿采訪
出海管家
出海管家