网站建设资讯

NEWS

网站建设资讯

Hadoop部署常用的小脚本有哪些

本篇内容介绍了“Hadoop部署常用的小脚本有哪些”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!

成都服务器托管,创新互联提供包括服务器租用、德阳服务器托管、带宽租用、云主机、机柜租用、主机租用托管、CDN网站加速、域名注册等业务的一体化完整服务。电话咨询:13518219792

最近抛弃非ssh连接的Hadoop集群部署方式了,还是回到了用ssh key 验证的方式上了。这里面就有些麻烦,每台机器都要上传公钥。恰恰我又是个很懒的人,所以写几个小脚本完成,只要在一台机器上面就可以做公钥的分发了。

首先是生成ssh key脚本:

#!/bin/sh ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys

ssh-keygen一般来说需要输入passphrase,但是一般都是三个回车过去了,我懒的输入,加上-P ''就不用了。

然后是添加公钥到从节点的脚本:

#!/bin/sh read -p "输入远端服务器IP: " ip ssh-copy-id -o StrictHostKeyChecking=no -i ~/.ssh/id_rsa.pub root@$ip ssh root@$ip 'sed -i "s/^#RSAAuthentication\ yes/RSAAuthentication\ yes/g" /etc/ssh/sshd_config' ssh root@$ip 'sed -i "s/^#PubkeyAuthentication\ yes/PubkeyAuthentication yes/g" /etc/ssh/sshd_config' ssh root@$ip 'sed -i "s/^#PermitRootLogin\ yes/PermitRootLogin\ yes/g" /etc/ssh/sshd_config' ssh root@$ip 'service sshd restart' hostname=`ssh root@${ip} 'hostname'` echo "添加主机名和IP到本地/etc/hosts文件中" echo "$ip    $hostname" >> /etc/hosts echo "远端主机主机名称为$hostname, 请查看 /etc/hosts 确保该主机名和IP添加到主机列表文件中" echo "主机公钥复制完成"

然后是第三个脚本读取主机列表然后把/etc/hosts复制到所有主机上:

#!/bin/sh cat /etc/hosts | while read LINE do     ip=`echo $LINE | awk '{print $1}' | grep -v "::" | grep -v "127.0.0.1"`     echo "Copying /etc/hosts to ${ip}"     scp -o StrictHostKeyChecking=no /etc/hosts root@${ip}:/etc/ done

“Hadoop部署常用的小脚本有哪些”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注创新互联网站,小编将为大家输出更多高质量的实用文章!


文章题目:Hadoop部署常用的小脚本有哪些
分享路径:http://cdweb.net/article/podoop.html