HDFS服务部署

服务安装

下面使用EasyOps平台来说明HDFS服务安装部署的操作流程。

点击顶部服务标签,进入服务管理页面。

在左侧的组件导航栏选择HDFS服务后,在服务实例列表栏右端,点击添加服务实例。

在弹出的服务安装向导窗口中,输入新安装的服务实例名称和选择服务实例所属的集群名称(服务分组)

注意

使用 Yaml 配置文件进行服务安装可以参考一键部署流程

Generated

下一步进入服务版本选择界面。对于适配了多个版本的服务,可以选择要部署的版本。HDFS服务选择2.9.2-1.1.1.2并确定

Generated

下一步选择服务安装的服务器列表

Generated

可以从主机列表上看到当前服务器的基本配置和已经安装的组件数量,并据此来选择新服务部署的节点。HDFS的最小化部署需要两台机器,推荐部署大于等于三台机器。

下一步设置服务拓扑

Generated

HDFS服务强依赖Kerberos,Zookeeper,Ranger,平台会推荐默认的依赖,需要注意检查zookeeper是否带kerberos认证

在主机列表选择每个组件中待加入的节点,可对每个组件的节点进行增删。

hdfs包含五个组件:journalnode,namenode,datanode,zkfc,client。journalnode,namenode,zkfc最小安装节点数量均为2,同时zkfc必须与namenode部署在相同节点,journal也推荐与namenode在相同节点,

需要注意官方推荐jounalnode部署数量应为奇数,所以最好选择部署3个节点,除namenode所在节点外任意另选一台即可。datanode和client最小部署数量为0。

下一步进入服务配置界面

Generated

Generated

Generated

Generated

默认情况下,平台会为服务生成一个配置组在默认的配置组中,HDFS默认配置会提供以下几个分组:global分组,全局配置;env分组,对应hadoop-env.sh中的配置;core-site分组,对应core-site.xml中的配置;hdfs-site分组,对应hdfs-site.xml中的配置;log4j分组,对应log4j.properties中的配置;ranger_plugin分组,对应ranger插件相关配置 ;对应配置的名称和含义可参考服务配置章节。用户也可以通过新建配置组来自己生成服务的配置组

点击默认的配置组名称,可以进入配置编辑页面(必选)。可参考配置组操作流程

配置组配置支持版本回溯,通过选择不同的版本号即可应用

也可以选择该服务已存在的配置组和版本,将其应用到新部署的节点

暂时不需要使用extra_vars功能

配置组修改完毕应用后,执行下一步就开始服务安装。安装过程中可查看安装日志,成功后可查看服务日志。

Generated

服务安装完毕后,在服务实例详情页面的组件标题栏的QuickUrls下拉菜单栏处访问hdfs namnode的web ui。

Generated