配置hadoop环境变量的参数 linux配置hadoop环境变量

单节点集群模式,也称为伪分布式模式,只需要一个节点就可以运行。这种模式一般只用于学习或开发和测试。在实际中,仍然使用多节点分布。1.环境变量的配置为了方便地执行Hadoop程序,需要配置很多系统环境变量。主要有以下变量将HADOOP_HOME设置为HADOOP的安装路径。导出HADO...

单节点集群模式,也称为伪分布式模式,只需要一个节点就可以运行。这种模式一般只用于学习或开发和测试。在实际中,仍然使用多节点分布。

1.环境变量的配置

为了方便地执行Hadoop程序,需要配置很多系统环境变量。主要有以下变量

将HADOOP_HOME设置为HADOOP的安装路径。

导出HADOOP _ HOME =/HOME/HD user/HADOOP

将hadoop添加到路径。如上所述,hadoop的运行文件在bin和***in目录下。设置路径后,我们可以在任何地方执行hadoop命令。

导出路径= $ HADOOP _ HOME/bin:$ HADOOP _ HOME/***in

设置其他hadoop环境变量

导出HADOOP _ MAPRED _ HOME = $ HADOOP _ HOME

导出HADOOP _ COMMON _ HOME = $ HADOOP _ HOME

导出HADOOP_HDFS_HOME=$HADOOP_HOME

导出YARN_HOME=$HADOOP_HOME

链接库的相关设置

导出HADOOP _ COMMON _ LIB _ NATIVE _ DIR = $ HADOOP _ HOME

export HADOOP _ OPTS = "-DJ ava . library . path = $ HADOOP _ HOME/lib "

导出J***A _ LIBRARY _ PATH = $ HADOOP _ HOME/lib/native:$ J***A _ LIBRARY _ PATH

与配置Jdk的系统环境变量的方法一致,我们只需要将需要配置的系统变量添加到。用户主目录中的bashrc文件。打开Ubuntu虚拟机,然后打开Xshell连接登录虚拟机,执行命令vim。用户主目录中的bashrc。

在新框中输入I进入编辑模式,然后在文件末尾输入以下内容

按esc退出编辑模式,输入:wq保存并退出。

输入来源。bashrc命令在命令行中更新系统环境变量。

更新后,我们可以通过echo $HADOOP_HOME测试系统变量是否添加成功,如下图所示。

Hadoop的默认模式是非分布式模式(本地模式),不需要其他配置就可以运行。非分布式或单个Java进程便于调试。在这里,我们可以在本地模式下运行一些Hadoop自带的MapReduce实例,验证Hadoop可以正常运行,同时体验一下MapReduce在Hadoop中运行的命令格式。在命令行输入

Cd hadoop/ #进入hadoop安装文件目录

Mkdir。/input #在hadoop文件夹下创建一个输入文件

比较/etc/hadoop/*。xml。/input #将配置文件作为输入文件

。/bin/hadoop jar
。/share/Hadoop/MapReduce/Hadoop-MapReduce-examples-*。加·格雷普。/输入。/output ‘DFS[a-z .]+’#在MapReduce中运行grep示例,过滤符合正则表达式dfs[a-z]+的单词并统计其出现次数,将结果放入输出文件夹。有关正则表达式的更多信息,请参见附录三:正则表达式快速查找表。

猫。/output/* #查看运行结果

删除的文件使用以下命令

RM-r ./输出

RM-r ./输入

Hadoop也可以在单个节点上以伪分布式模式运行。此时,Hadoop进程作为一个单独的Java进程运行,节点同时充当NameNode和DataNode,同时读取HDFS中的文件。这种模式需要修改相应的配置文件,我们将在下面详细解释。

本文来自是我太自作多情投稿,不代表舒华文档立场,如若转载,请注明出处:https://www.chinashuhua.cn/24/483233.html

打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
() 0
上一篇 03-31
下一篇 03-31

相关推荐

  • php时间代码 php变量和字符串拼接

    对于一门编程语言来说,对文件和目录的操作是其最基本的功能。我们日常生活中最常见的图片上传、文件上传等功能,都需要文件和目录操作的支持。今天我们先简单学习一下PHP中关于目录操作的一些类和函数。目录分隔符和路径分隔符我们先来看两个常量,分别是目录和路径的分隔符

    2023-07-27 01:02:01
    753 0
  • java配置环境变量步骤 java开发环境的搭建方法

    前面的操作和WIN7系统基本相同。可以看看我之前的文章。在[系统变量]中,双击[路径]环境变量。点击【新建】,我们需要自己新建一行。首先,在JDK安装目录中找到bin文件夹,打开bin文件夹,点击地址栏,***路径信息,粘贴到新建对话框中。可以上移到第一位(建议,不是必须,方

    2023-07-18 01:46:01
    272 0
  • php全局变量有哪些 php的安装和配置教程

    我们之前学过J***A,应该熟悉变量的概念。这里我们再次回顾变量,重点是PHP变量和J***A变量的区别。学习J***A时,我们知道J***A变量有三个要素(数据类型、变量名、变量值);使用J***A变量有三个步骤(首先声明,然后在使用前赋值)。PHP变量灵活易用。1.什么是变量?变量是在程

    2023-06-26 09:19:01
    850 0
  • Java环境变量配置 java环境变量配置步骤

    Java环境变量配置文章目录Java环境变量配置1.下载jdk2.安装jdk2.1 单击exe文件安装(一路下一步)2.2安装成功3.配置环境变量3.1找到环境变量配置页面3.2点击环境变量进行如下设置(所有的设置都在系统变量中设置)新建环境变量2.配置J***A_HOME4.检查是否成功5.jdk配置成功1.

    2023-06-19 06:04:01
    826 0

评论列表

联系我们

在线咨询: QQ交谈

邮件:admin@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信