NDH6.6.5-YS
更新时间: 2026-06-18 13:33:15
阅读 178
NDH 6.6.5-YS(华泰标品交付版本)
组件升级
- EasyOps 升级 2.0.5.9:
- 大规模集群场景下同步配置等性能优化;
- 组件扩容时支持不启动选项,换盘后启动 DN/NM/Impalad 自动创建目录;
- 支持批量删除组件实例,组件实例状态/配置状态新增搜索框,组件实例列表列顺序优化;
- 服务变更向导支持输入搜索版本号;组件"更新导出值"功能拆分为独立功能;
- 解决扩容机器 nologin 导致扩容失败、华泰重启 DN 变未知等问题。
- Access 升级 1.8.0(注册 1.0.9):修复 JDK17 场景 Spark 鉴权失败问题;Spark/Kyuubi access 插件升级至 0.1.9。
- Hadoop 统一升级 3.3.0-1.6.0:
- HDFS 慢 DataNode 监控与处理(含慢节点检测文案优化);DN 配置项热加载;HDFS 目录操作冻结;
- HDFS balance 优化(从备 NN 读取块);支持配置跳过进入公共回收站路径;华泰大 DN 场景文件关闭超时优化;
- HDFS 升级支持不依赖 ranger、升级不刷新 keytab、client 升级与其他角色保持一致;
- YARN 集成 Spark ESS 3.3.1.30;YARN 扩容 NM 支持启动可选、提前 refresh node,修复 YARN 升级 NM 不启动问题;
- Router 底层子集群 handler 隔离机制,同步配置保存历史备份、同步配置优化;
- hadoop 相关组件与 zookeeper Xss 调整为 512k。
- Impala 升级 4.1.0-6.7.2-hive2:支持 Impala HA(catalogd HA、statestored HA),正确设置 statestored 的 catalog_service_host 并开启 enable_check_catalogd_registering。
- Spark 升级 3.3.4.62:
- 支持 Native Engine(Gluten 1.1.2.5),建议配置 NVME SSD 作为 Shuffle 盘,ESS 须升级至 3.1+;按架构分发 gluten jars(ARM CentOS 8 暂不支持);
- 支持 JDK17(含 ARM,音乐 17322 个 Spark3.3 任务客户端已切至 3.3),spark-env.sh 尊重已提供的 JAVA_HOME;
- 合入 SPARK-37618:Shuffle 引用失效时通知 ESS 删除 Block,及时释放磁盘空间(需开启 spark.shuffle.service.removeShuffle=true)。
- EasyEagle 升级 2.5.5:新增存储资源监控与治理能力(含数据资产非表目录统计、表压缩格式获取,Hive 数仓表默认压缩格式改为 ZSTD)。
- NDHManager 升级 1.5.4(含 1.5.3 过渡):添加 NodeManager 后不再需要重启 NDHManager,支持透传日志自动清理周期。
- HDFSMetaService(MetaWorker)解除安装在 NN 节点限制,nameservice ID 参数化。
重要功能
- 支持 OpenJDK 与毕晟 JDK 混合部署(更新 ARM 毕昇 JDK 版本)。
- 新增 NameNode 一键迁移功能。
- router client 组件 playbook 去掉 gather_fact 逻辑,优化性能。
重要修复
- 修复生产环境手动修改配置相关问题(router hadoop.security.auth_to_local、datanode 扩容不重启 playbook、impala 内存参数配置等)。
文档反馈
以上内容对您是否有帮助?