Hadoop单节点安装部署

从零开始 机器环境 Distributor ID:CentOS Description: CentOS release 5.8 (Final) Release: 5.8 Codename: Final jdk 版本 java version 1.6.0_45 hadoop 版本 2.5.2 http://mirrors.cnnic.cn/apache/hadoop/common/hadoop-2.5.2/ 安装jdk: 从甲骨文官方...

Hadoop中HDFS读取文件的原理剖析

Hadoop文件存储的一些逻辑与简单原理，既然后写入，那肯定要读取分析数据咯，下面我在白话一下hdfs中文件读取的逻辑与简单原理。 第一步：跟写入文件一样，首先客户端会调用DistributedFilesyStem 对象的open（）方法来打开文件，这个方法要做的事情就是：Di...

Hadoop中HDFS写入文件的原理剖析

要为即将到来的大数据时代最准备不是，下面的大白话简单记录了Hadoop中HDFS在存储文件时都做了哪些个事情，位将来集群问题的排查提供一些参考依据。 步入正题 创建一个新文件的过程： 第一步：客户端通过DistributedFilesystem 对象中的creat（）方法来创建...

LVS-入门试用

LVS是Linux Virtual Server的简写，意即Linux虚拟服务器，是一个虚拟的服务器集群系统。本项目在1998年5月由章文嵩博士成立，是中国国内最早出现的自由软件项目之一。目前有三种IP负载均衡技术（VS/NAT、VS/TUN和VS/DR）； 十种调度算法（rrr|wrr|lc|wlc|lbl...

Hadoop-HDFS源码学习草记

HDFS protocol: Block 块定义，组成（blockId,numBytes,generationStamp），定义问块文件的文件命名为blk_{blockId},存储的最小单位。 BlockListAsLongs：每个Block块可以由3个long的数字表达，使用long[]存储Block[],主要用于datanode高效的上报给namenode...

Keepalived + LVS(DR) 高可用负载均衡集群

1、方案说明 目标是搭建企业级的高可用负载均衡集群服务。采用Keepalived + LVS + Tomcat + Memcache Session Manager + Memcached解决方案。其中： LVS：Linux Virtual Server是 Linux 虚拟服务器，可以把多台服务器虚拟为一个虚拟 IP ，同时实现各种负载均...

tomcat6_apache2.2_ajp 负载均衡加集群实战分享

环境： -------------------------------------------- 一台apache2.2服务器,三台tomcat服务器： apache2.2服务器 1.ip:192.168.1.20 2.只装apache软件:httpd-2.2.6.tar.bz2 安装路径:/usr/local/apache2 tomcat服务器：均配置相同的应用。 1.集群名：balanc...

用apache和tomcat搭建集群(负载均衡)

一、集群和负载均衡的概念 （一）集群的概念 集群（Cluster）是由两台或多台节点机（服务器）构成的一种松散耦合的计算节点集合，为用户提供网络服务或应用程序(包括数据库、Web服务和文件服务等)的单一客户视图，同时提供接近容错机的故障恢复能力。集群系...

Red Hat Linux，Apache2.0+Weblogic9.2负载均衡集群安装配置

JDK安装步骤 1. 以root身份登录系统 2. 到java.sun.com去下载JDK1.5 for LINUX的rpm，是个jdk-1_5_0_11-linux-i586-rpm.bin的文件. 3. 通过chmod ＋x jdk-1_5_x-rc-linux-i586-rpm.bin命令使其获得可执行权限 4. 执行./jdk-1_5_0_11-linux-i586-rpm.bin 5....

nginx+keepalived配置高可用HTTP群集

Nginx不仅是一款优秀的WEB 服务器 ,同时可以根据nginx的反代理可以 配置 成强大的负载均衡器.这里就介绍如何把nginx 配置 成负载均衡器,并结合keepalived 配置 高 可用 的集群. 一般集群主要 架构 为: 前端为负载均衡器两个:主/备,两种工作方式,一种是备机待...