騰訊云：在TKE中使用Velero遷移復(fù)制集群資源

來源：騰訊云原生

作者：李全江

時間：2021-02-24

Velero（以前稱為Heptio Ark）是一個開源工具，可以安全地備份和還原，執(zhí)行災(zāi)難恢復(fù)以及遷移Kubernetes集群資源和持久卷。

概述

Velero（以前稱為Heptio Ark）是一個開源工具，可以安全地備份和還原，執(zhí)行災(zāi)難恢復(fù)以及遷移Kubernetes集群資源和持久卷，可以在TKE集群或自建Kubernetes集群中部署Velero用于：

·備份集群并在丟失的情況下進(jìn)行還原。

·將集群資源遷移到其他集群。

·將生產(chǎn)集群復(fù)制到開發(fā)和測試集群。

本文將介紹使用Velero實現(xiàn)TKE集群間的無縫遷移復(fù)制集群資源的操作步驟。

遷移原理

在需要被遷移的集群和目標(biāo)集群上都安裝Velero實例，并且兩個集群的Velero實例指向相同的騰訊云COS對象存儲位置，使用Velero在需要被遷移的集群執(zhí)行備份操作生成備份數(shù)據(jù)存儲到騰訊云COS，然后在目標(biāo)集群上使用Velero執(zhí)行數(shù)據(jù)的還原操作實現(xiàn)遷移，遷移原理如下：

640.webp.jpg

前提條件

·已注冊騰訊云賬戶[2]。

·已開通騰訊云COS服務(wù)。

·已有需要被遷移的TKE集群（以下稱作集群A），已創(chuàng)建遷移目標(biāo)的TKE集群（以下稱作集群B），創(chuàng)建TKE集群請參閱創(chuàng)建集群[3]。

·集群A和集群B都需要安裝Velero實例（1.5版本以上），并且共用同一個騰訊云COS存儲桶作為Velero后端存儲，安裝步驟請參閱配置存儲和安裝Velero[4]。

注意事項

1.從1.5版本開始，Velero可以使用Restic備份所有pod卷，而不必單獨注釋每個pod。默認(rèn)情況下，此功能允許用戶使用restic備份所有pod卷，但以下卷情況除外：

·掛載默認(rèn)Service Account Secret的卷

·掛載的hostPath類型卷

·掛載Kubernetes secrets和configmaps的卷

本示例需要Velero 1.5以上版本且啟用restic[5]來備份持久卷數(shù)據(jù)，請確保在安裝Velero階段開啟--use-restic和--default-volumes-to-restic參數(shù)，安裝步驟請參閱配置存儲和安裝Velero[6]。

2.在執(zhí)行遷移過程中，請不要對兩邊集群資源做任何CRUD操作，以免在遷移過程中造成數(shù)據(jù)差異，最終導(dǎo)致遷移后的數(shù)據(jù)不一致。

3.盡量保證集群B和集群A工作節(jié)點的CPU、內(nèi)存等規(guī)格配置相同或不要相差太大，以免出現(xiàn)遷移后的Pods因資源原因無法調(diào)度導(dǎo)致Pending的情況。

操作步驟

在集群A創(chuàng)建備份

可以手動執(zhí)行備份操作，也可以給velero設(shè)置定期自動備份，設(shè)置方法可以使用velero schedule-h查看。本示例將以default、default2命名空間的資源情況作比較驗證，下圖可以看到集群A中兩個命名空間下的Pods和PVC資源情況：

提示：可以指定在備份期間執(zhí)行一些自定義Hook操作。比如，需要在備份之前將運行應(yīng)用程序的內(nèi)存中的數(shù)據(jù)持久化到磁盤。有關(guān)備份Hook的更多信息請參閱備份Hook[7]。

其中，集群中的minio對象存儲服務(wù)使用了持久卷，并且已經(jīng)上傳了一些圖片數(shù)據(jù)，如下圖所示：

640 (1).png

執(zhí)行下面命令來備份集群中不包含velero命名空間（velero安裝的默認(rèn)命名空間）資源的其他所有資源，如果想自定義需要備份的集群資源范圍，可使用velero create backup-h查看支持的資源篩選參數(shù)。

velero backup create<BACKUP-NAME>--exclude-namespaces<NAMESPACE>

本示例我們創(chuàng)建一個“default-all”的集群備份，備份過程如下圖所示：

640 (2).png

備份任務(wù)狀態(tài)顯示是“Completed”時，說明備份任務(wù)完成，可以通過velero backup logs|grep error命令檢查是否有備份操作發(fā)生錯誤，沒有輸出則說明備份過程無錯誤發(fā)生，如下圖所示：

注意：請確保備份過程未發(fā)生任何錯誤，假如velero在執(zhí)行備份過程中發(fā)生錯誤，請排查解決后重新執(zhí)行備份。

640 (3).png

備份完成后，臨時將備份存儲位置更新為只讀模式（非必須，這可以防止在還原過程中Velero在備份存儲位置中創(chuàng)建或刪除備份對象）：

kubectl patch backupstoragelocation default --namespace velero \

--type merge \

--patch '{"spec":{"accessMode":"ReadOnly"}}'

在集群B執(zhí)行還原

在執(zhí)行還原操作前集群B中default、default2命名空間下沒有任何工作負(fù)載資源，查看結(jié)果如下圖：

640 (4).png

臨時將集群B中Velero備份存儲位置也更新為只讀模式（非必須，這可以防止在還原過程中Velero在備份存儲位置中創(chuàng)建或刪除備份對象）：

kubectl patch backupstoragelocation default --namespace velero \

--type merge \

--patch '{"spec":{"accessMode":"ReadOnly"}}'

提示：可以選擇指定在還原期間或還原資源后執(zhí)行自定義Hook操作。例如，可能需要在數(shù)據(jù)庫應(yīng)用程序容器啟動之前執(zhí)行自定義數(shù)據(jù)庫還原操作。有關(guān)還原Hook的更多信息請參閱還原Hook[8]。

在還原操作之前，需確保集群B中的Velero資源與云存儲中的備份文件同步。默認(rèn)同步間隔是1分鐘，可以使用--backup-sync-period來配置同步間隔。可以使用下面命令查看集群A的備份是否已同步:

velero backup get <BACKUP-NAME>

獲取備份成功檢查無誤后，執(zhí)行下面命令還原所有內(nèi)容到集群B中：

velero restore create --from-backup <BACKUP-NAME>

本示例執(zhí)行還原過程如下圖：

640 (5).png

等待還原任務(wù)完成后查看還原日志,可以使用下面命令查看還原是否有報錯和跳過信息：

# 查看遷移時是否有錯誤的還原信息

velero restore logs <BACKUP-NAME> | grep error

# 查看遷移時跳過的還原操作

velero restore logs <BACKUP-NAME> | grep skip

從下圖可以看出沒有發(fā)生錯誤的還原步驟，但是有很多“skipped”步驟，是因為我們在備份集群資源時備份了不包含velero命名空間的所有集群資源，有一些同類型同名的集群資源已經(jīng)存在了，如kube-system下的集群資源，當(dāng)還原過程中有資源沖突時，velero會跳過還原的操作步驟。所以實際上還原過程是正常的，可以忽略這些“skipped”日志，假如有特殊情況可以分析下日志看看。

640 (6).png