欢迎光临IT网Linux学习频道

当前位置: > Linux集群 > Hadoop >
  • [Hadoop] Warning: $HADOOP_HOME is deprecated. hadoop1.0.... 日期:2014-11-04 18:35:41 点击:89 好评:0

    Warning: $HADOOP_HOME is deprecated. hadoop1.0.... hadoop 1.0.1版本执行hadoop命令的时候,经常出现 Warning: $HADOOP_HOME is deprecated. 经过查看hadoop-1.0.1的hadoop和hadoop-config.sh脚本,发现对于HADDP_HOME做了判断 解决方法如下: 1.在配置文...

  • [Hadoop] ubuntu hadoop 部署笔记 日期:2014-11-04 18:35:16 点击:189 好评:0

    单机模式部署 一、Jdk安装 命令:sudo apt-get install openjdk-6-jdk 目录:/usr/lib/jvm/java-6-openjdk 配置环境变量: nano /etc/environment 在其中添加如下两行: CLASSPATH=./:/usr/lib/jvm/java-6-openjdk/lib JAVA_HOME=/usr/lib/jvm/java-6-openjd...

  • [Hadoop] 运行hadoop中wordcount时没有反应 日期:2014-11-04 18:34:25 点击:69 好评:0

    解决方案: hadoop@ubuntu118:~/hadoop-1.0.2$ bin/hadoop dfsadmin -safemode leave hadoop@ubuntu118:~/hadoop-1.0.2$ bin/hadoop dfs -chmod -R 777 /tmp...

  • [Hadoop] Hadoop管理员的十个最佳实践 日期:2014-11-04 18:33:24 点击:127 好评:0

    前言 接触Hadoop有两年的时间了,期间遇到很多的问题,既有经典的NameNode和JobTracker内存溢出故障,也有HDFS存储小文件问题,既有任务调度问题,也有MapReduce性能问题.遇到的这些问题有些是Hadoop自身的缺陷(短板),有些则是使用的不当。 在解决问题的...

  • [Hadoop] Hadoop FS Shell命令大全 日期:2014-11-04 18:32:56 点击:106 好评:0

    调用文件系统(FS)Shell命令应使用 bin/hadoop fs args 的形式。 所有的的FS shell命令使用URI路径作为参数。URI格式是 scheme://authority/path 。对HDFS文件系统,scheme是 hdfs ,对本地文件系统,scheme是 file 。其中scheme和authority参数都是可选的,...

  • [Hadoop] 运行wordcount时显示Could not obtain block 日期:2014-11-04 18:32:27 点击:72 好评:0

    该文章接上面hadoop运行wordcount时卡住不动,接着下面 hadoop@ubuntu118:~/hadoop-1.0.2$ bin/hadoop dfsadmin -safemode leave Warning: $HADOOP_HOME is deprecated. Safe mode is OFF hadoop@ubuntu118:~/hadoop-1.0.2$ bin/hadoop jar hadoop-examples-...

  • [Hadoop] hadoop各配置文件中各配置项详细说明 日期:2014-11-04 18:31:59 点击:120 好评:0

    3.1. 环境变量 hadoop-env.sh name value 含义 JAVA_HOME /usr/java/jdk1.6.0_30 JDK 所在路径 3.2. HDFS 配置 3.2.1. 配置 core-site.xml Name value 含义 fs.default.name hdfs://namenode 指定默认的文件系统,默认端口 8020 。 io.file.buffer.size 6553...

  • [Hadoop] hadoop 性能调优 日期:2014-11-04 18:25:22 点击:72 好评:0

    http://wenku.baidu.com/view/3a86c118964bcf84b9d57bce.html (不错的一个调优资料)...

  • [Hadoop] hadoop负载均衡与垃圾回收 日期:2014-11-04 18:24:53 点击:69 好评:0

    负载均衡 负载的均衡,是分布式系统中一个永恒的话题,要让大家各尽其力齐心干活,发挥各自独特的优势,不能忙得忙死闲得闲死,影响战斗力。而且,负载均衡也是一个复杂的问题,什么是均衡,是一个很模糊的概念。比如,在分布式文件系统中,总共三百个数据块...

  • [Hadoop] hadoop安全机制 日期:2014-11-04 18:24:18 点击:130 好评:0

    1.背景 1.1 共享Hadoop集群 当前大一点的公司都采用了共享Hadoop集群的模式,这种模式可以减小维护成本,且避免数据过度冗余,增加硬件成本。共享Hadoop是指:(1)管理员把研发人员分成若干个队列,每个队列分配一定量的资源,每个用户或者用户组 只能 使...

栏目列表
推荐内容