自動(dòng)化遷移七牛云的數(shù)據(jù)到阿里云OSS

來(lái)源: 簡(jiǎn)書
作者:Vimiix
時(shí)間:2020-12-14
18798
本文分享自動(dòng)化遷移七牛云的數(shù)據(jù)到阿里云OSS具體步驟。

背景

近期收到兩封七牛云發(fā)來(lái)的郵件:

測(cè)試域名回收通知

您的賬號(hào)xxx在七牛云融合CDN加速平臺(tái)有以下測(cè)試域名還剩7個(gè)自然日會(huì)被系統(tǒng)自動(dòng)回收

由于,我博客所有的圖片文件都是存儲(chǔ)在七牛云的,這個(gè)域名也使用了一年多了,怎么突然要回收呢?

上網(wǎng)一搜才知道,大概是有什么不法分子之類的,使用七牛云的免費(fèi)空間傳播色情暴力之類的內(nèi)容,被Godday制裁了,現(xiàn)在新申請(qǐng)的bucket只能使用一個(gè)月,要想綁定域名,還得備案操作。俺這小博客,也就自己玩玩的一個(gè)國(guó)外服務(wù)器,也備不了案啊。

無(wú)奈,看網(wǎng)上很多人都是被回收了才知道自己的圖片都訪問(wèn)不了。還好我習(xí)慣性的看這些推送郵件,給自己留了一周時(shí)間用來(lái)備份轉(zhuǎn)移。既然免費(fèi)的不好用了,微博之類的圖床不好遷移,所以就買了一年阿里云的OSS服務(wù)。

雖然我的圖片還算不是很多,但要是一張一張手動(dòng)下載再上傳到阿里云,也是不小的工作量,而且太浪費(fèi)時(shí)間了。

于是,今天就花了點(diǎn)時(shí)間寫了一個(gè)自動(dòng)化遷移工具(move_qiniuyun_to_alioss),并開(kāi)源到GitHub了,沒(méi)什么復(fù)雜的操作,就是把圖片down下來(lái),本地備份一份數(shù)據(jù),然后再通過(guò)阿里云的API接口直接上傳到指定的bucket。

因?yàn)閿?shù)據(jù)量不大,也沒(méi)考慮使用FIFO,異步之類的(看情況以后再優(yōu)化吧,一切以需求為導(dǎo)向)。

雖然小,但還是希望盡量做到通用化,我把所有的配置參數(shù)都抽到了config.py文件中。每個(gè)人根據(jù)自己的配置修改,直接就可以用了。

以下為類unix系統(tǒng)的教程

準(zhǔn)備工作

使用tool/目錄中的七牛云工具qshell-darwin-x64:

注:qshell使用指南請(qǐng)參考:https://github.com/qiniu/qshell

配置訪問(wèn)騎牛云的account的access_key和secret_key

拉一份要搬移的七牛云bucket的文件清單:

# 需要先設(shè)置一下七牛云的 ak, sk
# 獲取地址 https://portal.qiniu.com/user/key
./tool/qshell-darwin-x64 account ak sk
# 分別是 執(zhí)行程序 命令行 bucket_name 生成的文件名
./tool/qshell-darwin-x64 listbucket2 vimiix-blog-data listbucket.txt

執(zhí)行完以后正常會(huì)在當(dāng)前目錄生成一個(gè)listbucket.txt的文件,準(zhǔn)備工作就做好了。

修改配置文件

根據(jù)config文件中的注釋將每個(gè)參數(shù)設(shè)置為自己對(duì)應(yīng)的值即可。

AliOss AccessKeyID和AccessKeySecret獲取地址

https://usercenter.console.aliyun.com/#/manage/ak

執(zhí)行

這個(gè)工具使用到了阿里云的oss2包,需要版本大于3,但看官網(wǎng)寫著最高支持到Python3.5

所以我的虛擬環(huán)境也使用的Python3.5,建議你也這么做,省的麻煩。

# 創(chuàng)建虛擬環(huán)境,不需要單獨(dú)隔離環(huán)境的,可以直接在系統(tǒng)的 3 版本上安裝依賴包
virtualenv --python=python3.5 venv --no-site-package

# 激活虛擬環(huán)境
source venv/bin/activate

# 安裝依賴包
pip install -r pip-req.txt

# 執(zhí)行
python main.py

執(zhí)行結(jié)果

微信圖片_20201214110631.png

大功告成!

項(xiàng)目地址

https://github.com/vimiix/move_qiniuyun_to_alioss

作者:Vimiix

鏈接:https://www.jianshu.com/p/bb1b5aa87da6

立即登錄,閱讀全文
版權(quán)說(shuō)明:
本文內(nèi)容來(lái)自于簡(jiǎn)書,本站不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。文章內(nèi)容系作者個(gè)人觀點(diǎn),不代表快出海對(duì)觀點(diǎn)贊同或支持。如有侵權(quán),請(qǐng)聯(lián)系管理員(zzx@kchuhai.com)刪除!
相關(guān)文章
一文詳解阿里云AI大基建
一文詳解阿里云AI大基建
面向AI時(shí)代,阿里云基礎(chǔ)設(shè)施是如何創(chuàng)新與發(fā)展的?計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)、服務(wù)器、集群、可觀測(cè)等,阿里云全新升級(jí)的AI Infra到底有哪些重磅更新?
阿里云
云服務(wù)
2024-11-022024-11-02
AI時(shí)代云安全新范式,阿里云安全能力全線升級(jí)!
AI時(shí)代云安全新范式,阿里云安全能力全線升級(jí)!
AI時(shí)代,云安全面臨著新的挑戰(zhàn),不僅要持續(xù)面對(duì)以往的傳統(tǒng)問(wèn)題,更需要全新理念落地于產(chǎn)品設(shè)計(jì)、技術(shù)演進(jìn)、架構(gòu)設(shè)計(jì),才能實(shí)現(xiàn)效果、性能、和成本的最優(yōu)解。
AI
阿里云
云服務(wù)
2024-09-272024-09-27
連續(xù)四年!阿里云領(lǐng)跑中國(guó)公有云大數(shù)據(jù)平臺(tái)
連續(xù)四年!阿里云領(lǐng)跑中國(guó)公有云大數(shù)據(jù)平臺(tái)
近日,國(guó)際數(shù)據(jù)公司(IDC)發(fā)布《中國(guó)大數(shù)據(jù)平臺(tái)市場(chǎng)份額,2023:數(shù)智融合時(shí)代的真正到來(lái)》報(bào)告——2023年中國(guó)大數(shù)據(jù)平臺(tái)公有云服務(wù)市場(chǎng)規(guī)模達(dá)72.2億元人民幣,其中阿里巴巴市場(chǎng)份額保持領(lǐng)先,占比達(dá)40.2%,連續(xù)四年排名第一。
阿里云
云服務(wù)
2024-09-182024-09-18
直降算力成本!阿里云容器計(jì)算服務(wù)ACS正式商業(yè)化
直降算力成本!阿里云容器計(jì)算服務(wù)ACS正式商業(yè)化
今日,阿里云容器計(jì)算服務(wù)ACS正式商業(yè)化,綜合算力成本最高可降55%。
阿里云
云服務(wù)
2024-08-242024-08-24
優(yōu)質(zhì)服務(wù)商推薦
更多
掃碼登錄
打開(kāi)掃一掃, 關(guān)注公眾號(hào)后即可登錄/注冊(cè)
加載中
二維碼已失效 請(qǐng)重試
刷新
賬號(hào)登錄/注冊(cè)
小程序
快出海小程序
公眾號(hào)
快出海公眾號(hào)
商務(wù)合作
商務(wù)合作
投稿采訪
投稿采訪
出海管家
出海管家