企业级hadoop集群选型配置

  • Post author:
  • Post category:其他



硬件配置


处理器: 2个四核2-2.5GHz的CPU

内存: 16-24GB

存储器:4 * 2TB SATA硬盘(不需要RAID)

网络: 千兆以太网



软件配置

操作系统: 发型版的

64位


linux(CentOS, Ubuntu, Redhat)



Hadoop版本: 免费的有Apache, CDH,付费的有华为,EMC,INTEL的



JDK: 64位的jdk, 32最大只能支持3G内存






淘宝的hadoop集群规模

1700个节点,数据总量17PB,每天增长20TB, 每天的MR任务有4万个

Master节点包括Jobtracker, Namenode, SecondNamenode

硬件配置: 16CPU*4核, 96G内存

Slave节点包括Tasktracker和Datanode

硬件配置: 8~16CPU*4核,16~24G内存




网络的拓扑结构
企业级hadoop集群选型配置 - rocker_xu - rocker_xu的大数据博客




版权声明:本文为spring8743原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。