当前位置:首页>开发>正文

如何确定hadoop集群节点的个数 Hadoop是什么

2023-07-07 01:24:21 互联网 未知 开发

 如何确定hadoop集群节点的个数 Hadoop是什么

如何确定hadoop集群节点的个数

1.运行环境 三台装有centOS 6.3 的电脑 OpenJDK 1.6 2下载hadoop,加压到你要放置的目录,最好是解压到/opt或者/usr/local目录下 3 创建hadoop群组和hadoop用户 groupadd hadoop useradd hadoop -g hadoop 更改hadoop 用户的密码 在命令行输入:

Hadoop是什么?

Hadoop是一个用于运行应用程序在大型集群的廉价硬件设备上的框架。Hadoop为应用程序透明的提供了一组稳定/可靠的接口和数据运动。在Hadoop中实现了Google的MapReduce算法,它能够把应用程序分割成许多很小的工作单元,每个单元可以在任何集群节点上执行或重复执行。此外,Hadoop还提供一个分布式文件系统用来在各个计算节点上存储数据,并提供了对数据读写的高吞吐率。由于应用了map/reduce和分布式文件系统使得Hadoop框架具有高容错性,它会自动处理失败节点。已经在具有600个节点的集群测试过Hadoop框架。

hadoop到底是什么

1、是一个文件系统。相比较WinXP,它可以同时利用多台机器
2、装WinXP,1个WinXP系统你只能装在一台机器上。而1个Hadoop系统可以装在一台机上,也可以装在很多机器上。
3、用WinXP保存一个文件,肯定就保存在一台机器上,而Hadoop就不同,一个文件可能会被拆成很多份,分别放在不同的机器上,而你通过Hadoop不需要知道他们具体存到哪里,可以象WinXP下一样访问1个文件。
4、安装WinXP只需要1台标准的个人电脑做为它的底层需求,而Hadoop还需要Linux系统 JAVA做为它的底层需求。

5、WinXP有个漂亮的操作界面,非富的其它功能,一般用户都可以很方便的使用它;而Hadoop没有这些,很多功能都要通过敲命令,甚至写代码才能使用它。

Hadoop集群的主节点会存储数据吗

主节点不会存储数据,数据节点专门存储数据,主节点存储了元数据信息。
主节点的磁盘中存储了文件到块的关系,集群启动后,数据节点会报告名字节点 机器和块的关系,这两个关系组合起来便可找到文件所在机器的位置。
如果名字节点所在的机器也配置到slave文件里,那么此台机器即是名字节点也是数据节点!

最新文章