当前位置:首页>开发>正文

hadoop官网配置项怎么找 hadoop配置bashrc和profile有什么区别

2023-06-14 18:51:12 互联网 未知 开发

 hadoop官网配置项怎么找 hadoop配置bashrc和profile有什么区别

hadoop官网配置项怎么找

假设HADOOP_HOME是hadoop安装目录,
如果hadoop版本是0.20.2的话,那么其默
认配置(也许就是你说的官方配置)文件
就是以下几个:
$HADOOP_HOME/src/core/core-default.xml
$HADOOP_HOME/src/hdfs/hdfs-default.xml

$HADOOP_HOME/src/mapred/mapred-default.xml

hadoop配置bashrc和profile有什么区别

/etc/profile、/etc/bashrc、~/.bash_profile、~/.bashrc很容易混淆,他们之间有什么区别?它们的作用到底是什么?
/etc/profile: 用来设置系统环境参数,比如$PATH. 这里面的环境变量是对系统内所有用户生效的。
/etc/bashrc: 这个文件设置系统bash shell相关的东西,对系统内所有用户生效。只要用户运行bash命令,那么这里面的东西就在起作用。
~/.bash_profile: 用来设置一些环境变量,功能和/etc/profile 类似,但是这个是针对用户来设定的,也就是说,你在/home/user1/.bash_profile 中设定了环境变量,那么这个环境变量只针对 user1 这个用户生效.
~/.bashrc: 作用类似于/etc/bashrc, 只是针对用户自己而言,不对其他用户生效。
另外/etc/profile中设定的变量(全局)的可以作用于任何用户,而~/.bashrc等中设定的变量(局部)只能继承/etc/profile中的变量,他们是"父子"关系.
~/.bash_profile 是交互式、login 方式进入 bash 运行的,意思是只有用户登录时才会生效。
~/.bashrc 是交互式 non-login 方式进入 bash 运行的,用户不一定登录,只要以该用户身份运行命令行就会读取该文件。

如何搭建50t的hadoop集群

先决条件
确保在你集群中的每个节点上都安装了所有必需软件。
获取Hadoop软件包。
安装
安装Hadoop集群通常要将安装软件解压到集群内的所有机器上。
通常,集群里的一台机器被指定为 NameNode,另一台不同的机器被指定为JobTracker。这些机器是masters。余下的机器即作为DataNode也作为TaskTracker。这些机器是slaves。
我们用HADOOP_HOME指代安装的根路径。通常,集群里的所有机器的HADOOP_HOME路径相同。
配置
接下来的几节描述了如何配置Hadoop集群。
配置文件
对Hadoop的配置通过conf/目录下的两个重要配置文件完成:
hadoop-default.xml - 只读的默认配置。
hadoop-site.xml - 集群特有的配置。
要了解更多关于这些配置文件如何影响Hadoop框架的细节,请看这里。
此外,通过设置conf/hadoop-env.sh中的变量为集群特有的值,你可以对bin/目录下的Hadoop脚本进行控制。
集群配置
要配置Hadoop集群,你需要设置Hadoop守护进程的运行环境和Hadoop守护进程的运行参数。
Hadoop守护进程指NameNode/DataNode 和JobTracker/TaskTracker。
配置Hadoop守护进程的运行环境
管理员可在conf/hadoop-env.sh脚本内对Hadoop守护进程的运行环境做特别指定。
至少,你得设定JAVA_HOME使之在每一远端节点上都被正确设置。
管理员可以通过配置选项HADOOP_*_OPTS来分别配置各个守护进程。 下表是可以配置的选项。

在docker中搭建hadoop集群有什么好方法配置ip

1. 该问题是由于docker在启动暂停或退出的container时会初始化系统文件如/etc/hosts等四个文件。导致依赖于ip主机名对应关系的hadoop集群无法工作。
2. 可利用编写脚本调用expect在管理机上推送示例文件(这个示例文件内容需要脚本采用for循环得出当前所有节点容器ip主机名对应关系)并将其内容追加到每个容器的/etc/hosts后
3. 说明:
#docker ps -q > config/container_id.txt
4. 生成一个容器id示例文件遍历这个示例文件,并组装到另一个container_ip-host.txt示例文件。
5. shell脚本中调用./expect-run.exp expect脚本。使用其期望应答功能ssh登录到各个节点,分别发送container_ip-host.txt示例文件,并且分别将内容追加到每个容器的/etc/hosts后。
备注:完全本人手打回复。

最新文章

随便看看