Data transfer Hub 迁移S3


Data Transfer Hub部署 文档


1. 数据传输解决方案概述:

数据传输解决方案可以为 Amazon Simple Storage Service (Amazon S3) 对象和 Amazon Elastic Container Registry (Amazon ECR) 映像提供安全、可扩展且可追踪的数据传输。使用数据传输解决方案,您可以轻松的将其他本地IDC、其他云的文件、对象存储迁移至AWS。

支持各类数据源:

1.                      阿里云OSS

2.                      腾讯云COS

3.                      七牛云Kodo

4.                      兼容S3云存储服务

5.                      容器镜像迁移:Docker Hub、Google GCR、传输到Amazon ECR

2. 解决方案架构图

数据传输解决方案 | 架构图


3. 解决方案部署

部署模板链接

https://docs.aws.amazon.com/solutions/latest/data-transfer-hub/aws-cloudformation-template.html 


1)                      选择合适的部署区域,点击Launch solution按钮进行部署

图形用户界面, 文本, 应用程序, 电子邮件

描述已自动生成

2)                      保持默认点击下一步

图形用户界面, 文本, 应用程序, 电子邮件

描述已自动生成


3)                      User Pool 输入管理邮箱,建议使用常用邮箱部署完成后会将临时账户和密码发送至邮箱点击下一步

img4

4)                      部署成功后管理邮箱会收到来自AWS的邮见,包含用户名和密码。

img5


5)                      部署成功后,在CloudFormation控制台可以看到 绿色 CREATE_COMPLETE

img6


4. 创建复制任务

1)                      查看登陆URL,在CloudFormation控制台-点击输出- PortalUrl  复制到浏览器打开

img7

2)                      使用AdminEmail和临时密码登录。(前面创建Data Transfer Hub 时创建的邮箱和临时密码)

图形用户界面, 应用程序, 网站

描述已自动生成

a.       设置新的帐户密码。

b.       (可选)验证您的电子邮件地址以恢复帐户。

3)                      验证完成后,系统将打开网页控制台。

图形用户界面, 应用程序, 网站, Teams

描述已自动生成

4)                      点击创建新任务

图形用户界面, 应用程序, Teams

描述已自动生成

5)                      引擎类型选择S3 – 点击下一步

图形用户界面, 应用程序

描述已自动生成

数据源设置

1)                      阿里云数据源凭证添加,在阿里云RAM控制台创建AKSK(需确保具有OSS桶相关权限)

图形用户界面, 文本, 应用程序

描述已自动生成

2)                      添加刚才在阿里云创建的AKSKAWS Secrets Manager服务

图形用户界面, 应用程序

描述已自动生成

3)                      创建复制任务,设置好数据源和目标桶点击创建任务

图片包含 图形用户界面

描述已自动生成图形用户界面, 文本, 应用程序

描述已自动生成


5. 监控任务状态

1)                      监控任务状态,可以在DTH任务列表观察任务的状态

表格

描述已自动生成

2)                      错误日志查看,点击Error可以直接跳转到日志流

图形用户界面, 文本, 应用程序

描述已自动生成

3)                      CloudWatch监控,可以通过CloudWatch监控面板来判断复制任务是否开始,Network指标传输数据量

图形用户界面, 应用程序

描述已自动生成

图形用户界面

描述已自动生成