Hadoop0.20.2+Ubuntu13.04配置和WordCount测试

其实这篇博客写的有些晚了，之前做过一些总结后来学校的事给忘了，这几天想重新拿来玩玩发现有的东西记不住了，翻博客发现竟然没有，好吧，所以赶紧写一份留着自己用吧，这东西网上有很多，不过也不是完全适用，所以还是自己留一份吧，废话完毕。 因为之前留...

Ubuntu12.04上使用Hadoop2.2.0 用户权限设置

本文介绍安装Hadoop 2.2.0 single node。 首先准备一个虚拟机，Ubuntu 12.04.4 Java环境： 1.root@hm1:~# mvn --version 2.Apache Maven3.1.1(0728685237757ffbf44136acec0402957f723d9a;2013-09-1715:22:22+0000) 3.Maven home: /usr/apache-maven-3.1.1 4....

centos集群上安装ganglia-3.6.0监控hadoop-2.2.0和hbase-0.96.0

Ganglia 是 UC Berkeley 发起的一个开源监视项目，设计用于测量数以千计的节点。每台计算机都运行一个收集和发送度量数据（如处理器速度、内存使用量等）的名为 gmond 的守护进程。它将从操作系统和指定主机中收集。接收所有度量数据的主机可以显示这些数据...

hadoop分布式集群搭建

hadoop版本：hadoop-0.20.205.0-1.i386.rpm 下载地址：http://www.fayea.com/apache-mirror/hadoop/common/hadoop-0.20.205.0/ jdk版本：jdk-6u35-linux-i586-rpm.bin 下载地址：http://www.oracle.com/technetwork/java/javase/downloads/jdk6u35-downloads-...

Hadoop常用配置总结

Hadoop守护进程日志存放目录：可以用环境变量${Hadoop_LOG_DIR}进行配置，默认情况下是${HADOOP_HOME}/logs 1．配置类型节点的环境变量 在配置集群的时候可以在conf/hadoop-env.sh配置不同节点的环境变量： Daemon ConfigureOptions NameNode HADOOP_NAMENOD...

hadoop 优化0

1.hadoop-env.sh：该文件用来配置hadoop所需的特殊环境变量： JAVA与HADOOP环境变量的设置（如果在~/.bash_profile中设置了环境变量，这里可以不进行配置） export JAVA_HOME=/home/admin/deploy/java6 exportHADOOP_HOME=/home/admin/deploy/hadoop-0.20.2...

Hadoop集群作业调度算法

Hadoop集群中有三种作业调度算法，分别为FIFO，公平调度算法和计算能力调度算法 先来先服务（FIFO） FIFO比较简单，hadoop中只有一个作业队列，被提交的作业按照先后顺序在作业队列中排队，新来的作业插入到队尾。一个作业运行完后，总是从队首取下一个作业...

《Linux keepalived与lvs的深入分析》二之虚拟服务器配置分析

一)概述 在本篇文章里,我们会涉及两部份内容,一个是LVS,另一个则是keepalived. 即我们用LVS和keepalived实现了负载均衡及高可用的服务器. LVS有实现三种IP负载均衡技术和八种连接调度算法.并且LVS集群采用三层结构,即负载调度器,服务器池,共享存储. 1)负载调...

《Linux keepalived与lvs的深入分析》二之虚拟服务器配置分析

六)虚拟服务器配置分析 virtual_server vip 端口{}是虚拟服务器配置定义部份. 下面的示例是lvs1中的配置: virtual_server 10.1.1.166 80 { delay_loop 6 lb_algo wrr lb_kind DR persistence_timeout 60 protocol TCP real_server 10.1.1.163 80 { TCP_CHECK...

《Linux keepalived与lvs的深入分析》三之负载调度算法

七)负载调度算法 1)轮叫调度（Round Robin）(简称rr) 调度器通过轮叫调度算法将外部请求按顺序轮流分配到集群中的真实服务器上,它均等地对待每一台服务器,而不管服务器上实际的连接数和系统负载. 下面看一下轮叫调度的效果,如下: while ((1)); do ipvsadm -l...