基于Alluxio的云环境部署流程说明
基于Alluxio的云环境部署流程说明
1. 基于 EasyData_LTS-V6.2.2 版本部署整套集群服务
为满足相关中台服务的固有依赖,在部署 Alluxio 服务及其上游各服务之前,可先在环境上部署一整套 EasyData_LTS-V6.2.2 版本的服务, 包含所有基础服务和中台服务。
2. 部署 Alluxio 服务
可基于环境实际情况部署 Alluxio 服务,可选择 HDFS 或其他类型存储(如云存储)为底层存储。
具体部署方式可参考Alluxio部署说明
3. 部署 HttpFS 服务
部署 HttpFS 服务时选择 Alluxio 依赖。
部署步骤具体可参考HttpFs服务部署说明
HttpFS服务的Grafana报表需要单独导入,相关的json文件可以咨询运维获取
4. 导入一个Fake的HDFS实例
为了满足后续相关中台服务的部署和适配需要,需要导入一个Fake的HDFS实例,作为相关中台服务的依赖。
详细内容可以参导入Fake的HDFS实例
5. 在 Ranger 服务上创建 Alluxio 相关 Service。
类似 HDFS 服务,可以为 Alluxio 服务在 Ranger 服务创建相关 Service, 对辅助 Alluxio 进行权限权利 如下图所示:
6. 部署 Yarn 服务
部署 Yarn 服务时选择 Alluxio 依赖,而非 HDFS 依赖
部署 Yarn 服务的节点上必须要有 Alluxio 服务的 worker 组件。
部署步骤具体可参考Yarn服务部署说明
7. 部署 Hive 服务
部署 Hive 服务时选择 Alluxio 依赖,而非 HDFS 依赖
部署 Hive 服务的节点上必须要有 Alluxio 服务的 worker 组件。
需要配置 Ranger 服务上的 Alluxio 相关的 Service。
建议新部署一个Zookeeper用作此Hive服务的依赖,避免与180套件的Hive产生冲突
部署步骤具体可参考Hive服务部署说明 8. 部署 Spark 服务
部署 Spark 服务时选择 Alluxio 依赖,而非 HDFS 依赖
部署 Spark 服务的节点上必须要有 Alluxio 服务的 worker 组件。
部署步骤具体可参考Spark服务部署说明
9. 部署 Kyuubi 服务
部署 Kyuubi 服务时选择 Alluxio 依赖。
部署 Kyuubi 服务的节点上必须要有 Alluxio 服务的 worker 组件。
建议依赖第5步新部署的Zookeeper,避免与180套件的kyuubi产生冲突。
部署步骤具体可参考Kyuubi服务部署说明
10. 部署 Impala 服务
部署 impala 服务时选择 Alluxio 依赖
部署步骤具体可参Impala服务部署说明
11. 中台服务对接 Alluxio
中台服务对接 Alluxio 可参考3.3章中台服务Alluxio对接步骤
以上内容对您是否有帮助?