NDH 6.6.5-YS(华泰标品交付版本)

组件升级

  1. EasyOps 升级 2.0.5.9:
    • 大规模集群场景下同步配置等性能优化;
    • 组件扩容时支持不启动选项,换盘后启动 DN/NM/Impalad 自动创建目录;
    • 支持批量删除组件实例,组件实例状态/配置状态新增搜索框,组件实例列表列顺序优化;
    • 服务变更向导支持输入搜索版本号;组件"更新导出值"功能拆分为独立功能;
    • 解决扩容机器 nologin 导致扩容失败、华泰重启 DN 变未知等问题。
  2. Access 升级 1.8.0(注册 1.0.9):修复 JDK17 场景 Spark 鉴权失败问题;Spark/Kyuubi access 插件升级至 0.1.9。
  3. Hadoop 统一升级 3.3.0-1.6.0:
    • HDFS 慢 DataNode 监控与处理(含慢节点检测文案优化);DN 配置项热加载;HDFS 目录操作冻结;
    • HDFS balance 优化(从备 NN 读取块);支持配置跳过进入公共回收站路径;华泰大 DN 场景文件关闭超时优化;
    • HDFS 升级支持不依赖 ranger、升级不刷新 keytab、client 升级与其他角色保持一致;
    • YARN 集成 Spark ESS 3.3.1.30;YARN 扩容 NM 支持启动可选、提前 refresh node,修复 YARN 升级 NM 不启动问题;
    • Router 底层子集群 handler 隔离机制,同步配置保存历史备份、同步配置优化;
    • hadoop 相关组件与 zookeeper Xss 调整为 512k。
  4. Impala 升级 4.1.0-6.7.2-hive2:支持 Impala HA(catalogd HA、statestored HA),正确设置 statestored 的 catalog_service_host 并开启 enable_check_catalogd_registering。
  5. Spark 升级 3.3.4.62:
    • 支持 Native Engine(Gluten 1.1.2.5),建议配置 NVME SSD 作为 Shuffle 盘,ESS 须升级至 3.1+;按架构分发 gluten jars(ARM CentOS 8 暂不支持);
    • 支持 JDK17(含 ARM,音乐 17322 个 Spark3.3 任务客户端已切至 3.3),spark-env.sh 尊重已提供的 JAVA_HOME;
    • 合入 SPARK-37618:Shuffle 引用失效时通知 ESS 删除 Block,及时释放磁盘空间(需开启 spark.shuffle.service.removeShuffle=true)。
  6. EasyEagle 升级 2.5.5:新增存储资源监控与治理能力(含数据资产非表目录统计、表压缩格式获取,Hive 数仓表默认压缩格式改为 ZSTD)。
  7. NDHManager 升级 1.5.4(含 1.5.3 过渡):添加 NodeManager 后不再需要重启 NDHManager,支持透传日志自动清理周期。
  8. HDFSMetaService(MetaWorker)解除安装在 NN 节点限制,nameservice ID 参数化。

重要功能

  1. 支持 OpenJDK 与毕晟 JDK 混合部署(更新 ARM 毕昇 JDK 版本)。
  2. 新增 NameNode 一键迁移功能。
  3. router client 组件 playbook 去掉 gather_fact 逻辑,优化性能。

重要修复

  1. 修复生产环境手动修改配置相关问题(router hadoop.security.auth_to_local、datanode 扩容不重启 playbook、impala 内存参数配置等)。