Hadoop深度运维:Apache集群原地升级Ambari-HDP(12)
本次Hadoop升级,预支了6个小时的停服窗口期。但运维中的每一项工作,仍然要不断地压缩操作时长。
1)能前置的工作尽量前置:
新机器准备,新机器操作系统统一;ambari-server安装& ams安装;ambari集群配置文件准备。这里着重说下Ambari集群的配置脚本化。在改为Ambari集群后,首先要把所有slave节点加入Ambari托管,再梳理老集群所有组件的所有配置,然后apply到Ambari集群上。
而在Ambari添加节点&更改每一个组件的配置,如果通过webUI逐项更改,都耗时太长。经过调研,我们将以上所有工作自动化:
使用API安装组件,提升效率;使用configs.py设置配置参数,节约手动配置时间,例如在ambari-server节点上:python/var /lib/ambari-server/resources/s/ configs.py -n $cluster -l $hostname -c hadoop-env -a set -f hadoop-env.json
2)充分压缩单项操作的操作时长:
操作自动化。
此次升级工作中,我们采用的是Ansible自动化工具来批量执行大量操作,包括停止集群脚本、etc_hosts 配置脚本、bashrc 配置脚本、agent 刷配置脚本、测试脚本。根据需要,预先编写好playbook并在ansible-AWX中配置妥当,就可以在升级过程中一键执行。不仅省去了手工执行的时间消耗,并行执行也大大提高操作效率,压缩操作时长。
推荐阅读
- 无尽梦魇|魔兽世界TBC:深度解析“翠绿的宝珠”对哪些职业保值
- 李九|S组才是真正的宝藏!解说李九深度分析KPL秋季赛第三轮,爆发到了
- 王者荣耀|英雄联盟手游被指抄袭王者荣耀?王者玩家看好了,这叫深度还原
- fpx战队|深度分析:FPX四个0-1的惨败原因,S11的FPX能否登顶外战第一耻辱
- 银河战士融合|传《银河战士融合》初代正开发中,深度重制,明年E3前发售
- 王者荣耀|原神:雷神与心海选谁?深度解析避免踩坑,帮你做出正确选择
- iqoo8|为什么这几年中国LOL这么强?深度解析!另有一个问题亟待解决
- RNG|赛前BB机:RNGVSLNG,谁能晋级四强?深度分析,让我们一起讨论下
- 喋血复仇|和平精英:AKM vs M762深度对比测评,KS阿神带你详细了解
- 穿越火线|CF:深度分析,存在感为0的英雄级武器是怎么混到这一步的