这是Hadoop学习全程记录第1篇,在这篇里我将介绍一下如何在Linux下安装Hadoop1.x。
先说明一下我的开发环境:
虚拟机:VMware8.0;
操作系统:CentOS6.4;
版本:jdk1.8;hadoop1.2.1
①下载hadoop1.2.1,网盘:链接: https://pan.baidu.com/s/1sl5DMIp 密码: 5p67
下载jdk1.8,网盘:链接: https://pan.baidu.com/s/1boN1gh5 密码: t36h
将 jdk-8u144-linux-x64.tar.gz 解压至 /home/wyt/jdk8 文件夹下,将 hadoop-1.2.1.tar.gz 解压至 /home/wyt/hadoop 文件夹下。
②配置jdk及hadoop环境变量:修改/etc/profile文件
vim /etc/profile//输入I,进入编辑模式
export JAVA_HOME=/home/wyt/jdk8export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/libexport HADOOP_HOME=/home/wyt/hadoopexport PATH=$PATH:$HADOOP_HOME/bin:$JAVA_HOME/bin
//按Esc,按Shift,输入:wqsource /etc/profile //保存并退出
③测试
java,javac,java -versionhadoop
④修改hadoop配置文件
<!-- hadoop-env.sh -->export JAVA_HOME=/usr/java/jdk8<!-- core-site.xml --> <property> <name>hadoop.tmp.dir</name> <value>/hadoop</value> </property> <property> <name>dfs.name.dir</name> <value>/hadoop/name</value> </property> <property> <name>fs.default.name</name> <value>hdfs://localhost:9000</value> </property><!-- hdfs-site.xml --><property><name>dfs.data.dir</name><value>/hadoop/data</value></property><!-- mapred-site.xml --><property><name>mapred.job.tracker</name><value>localhost:9001</value></property>
并在hadoop安装目录下新建data、name、tmp文件夹。
⑤名称节点格式化,并查看运行状态
hadoop namenode -format//cd 命令切换至 hadoop/bin/文件夹下,输入 ls 命令查看start-all.shjps //查看运行状态,运行正常的话需要多次输入密码//最后结果为:// Jps// JobTracker// NameNode// DataNode// SecondaryNameNode// NodeManager
⑥测试hdfs
//常用hdfs命令:hadoop fs -ls /查看目录hadoop fs -put a.txt /user/hadoop/放入hadoop fs -cat /user/hadoop/a.txt 查看内容hadoop fs -rmr /output:删除文件/文件夹
附:linux常用命令:
cd .. //返回上级目录cd ~ //返回Home目录cd / //返回根目录cd var/ //进入var/文件夹下(使用tab)su - //超级管理员模式ifconfig //查看ip
附:其他常用linux操作软件:
//windows与虚拟机centos文件传输:filezilla;Xftp 5;或者安装VMware Tools(可便捷使用剪切板及文件复制功能)//脱离虚拟机centos输入命令行:Xshell 5
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持VeVb武林网。
新闻热点
疑难解答
图片精选