关于Hadoop结合RDBMS应用的一些思考

最近一段时间一直在从事和hadoop相关的工作，主要是技术内容学习、安装配置优化以及一些框架结构的设计。在此期间，我对于RDBMS和Hadoop的结合应用有了一些自己的看法，写出来大家共同探讨一下。 1、为什么要用Hadoop 这个在网上已近有很多的人说过这个问题...

HadoopDB：混合分布式系统

HadoopDB 是一个 Mapreduce 和传统关系型数据库的结合方案，以充分利用 RDBMS 的性能和 Hadoop 的容错、分布特性。2009 年被 Yale 大学教授 Abadi 提出，继而商业化为 Hadapt，据称从 VC 那儿拉到了 10M 刀投资。 本文是对 HadoopDB 论文的总结。其中不免掺...

hadoop安装与WordCount例子

1、JDK安装 下载网址： http://www.oracle.com/technetwork/java/javase/downloads/jdk-6u29-download-513648.html 如果本地有安装包，则用SecureCRT连接Linux机器，然后用rz指令进行上传文件； 下载后获得jdk-6u29-linux-i586-rpm.bin文件，使用sh jdk-6u29-...

linux集群时间同步

说明：由于hadoop集群对时间要求很高，所以集群内主机要经常同步。本文档适合ubuntu、redhat系列。 注：很多内容是在网上摘录，然后试验后总结，如有疑问可留言探讨。 1.设置主机时间准确（任意机器都可）。//如果不需要同步网络时间则可以省略这一步 1.1查...

centos6下安装部署hadoop2.2

环境准备 1、操作系统:centos6.0 64位 2、hadoop版本：hahadoop-2.2.0 安装和配置步骤具体如下： 1、主机和ip分配如下 ip地址 主机名 用途 192.168.1.112 hadoop1 namenode 192.168.1.113 hadoop2datanode 192.168.1.114 hadoop3 datanode 192.168.1.115 had...

Hadoop 2.0+YARN启动脚本分析与实战经验

start-all.sh脚本现在已经废弃，推荐使用start-dfs.sh和start-yarn.sh分别启动HDFS和YARN。 在新一代的Hadoop里面HDFS称为了统一存储的平台，而YARN成为了统一计算的平台。 （1）调用start-dfs.sh启动HDFS。之后JPS会出现NameNode,DataNode,SecondaryNameNod...

no datanode to stop

昨晚整了半天，遇上的问题是通过start-all.sh无法启动datanode，然后关闭时就会报no datanode to stop ，引起这个的原因是因为我多次格式化，导致namespaceID不一致，解决方法也就简单了，修改Salve里的current/VERSION里的namespaceID,将其设置成与namenode...

hadoop 关闭进程时报错no 进程 to stop

翻看了yarn-deamon.sh stop部分的脚本： (stop) if[-f$pid];then TARGET_PID=`cat$pid` ifkill-0$TARGET_PID/dev/null21;then echostopping$command kill$TARGET_PID sleep$YARN_STOP_TIMEOUT ifkill-0$TARGET_PID/dev/null21;then echo$commanddidnotstopgr...

Hadoop平台配置总结

hadoop的配置，个人感觉是非常容易出问题。一个原因是要配置的地方多，还有个原因就是集群配置要在几台机器上都配置正确，才能保证配置好hadoop，跑起任务。 经过昨晚加今天上午的折腾，总算成功配好了集群模式，其中苦不堪言啊，中间好几次都想要放弃。这里...

Pacemaker集群管理 实现DRBD存储及应用高可用

本次实验目的，使用Pacemaker实现DRBD存储及应用高可用 实验环境： 系统版本：CentOS release 6.5 (Final)_x64 node1: ip :192.168.0.233 #写进/etc/hosts文件中 node2: ip :192.168.0.234 vip: 192.168.0.183 注意：1.两台机器务必写静态ip，切记莫用dhcp获...