hadoop完整安装教程(附带jdk1.8+vim+ssh安装)

        本篇带领大家在uabntu20虚拟机上安装hadoop,其中还包括jdk1.8、ssh、vim的安装教程,(可能是)史上最全的安装教程!!!若有疑问可以在评论区或者私信作者。建议在虚拟机上观看此博客,便于复制粘贴。同时要注意自己设置的用户名是否与本篇博客的用户名相同,若不同的话请注意自己修改。


一、创建hadoop用户并且提高权限

  • sudo useradd -m hadoop -s /bin/bash
  • sudo passwd hadoop
  • sudo adduser hadoop sudo

二、更新apt

1.切换到hadoop用户

先重启虚拟机,在切换hadoop用户,更新系统权限

2.更新apt

  • sudo apt-get update 

3.下载vim用户修改文件

  • sudo apt-get install vim

  • 继续执行,输入y 


三、下载ssh

1.下载ssh

  • sudo apt-get install openssh-server

  • 输入y进行安装

2.在本机登录ssh

  • ssh localhost 
(1)输入yes并设置密码

(2)推荐设置成无密码,接着上一步继续输入即可
  • exit                           # 退出刚才的 ssh localhost
  • cd ~/.ssh/                     # 若没有该目录,请先执行一次ssh localhost
  • ssh-keygen -t rsa              # 会有提示,都按回车就可以
  • cat ./id_rsa.pub >> ./authorized_keys  # 加入授权 


四、安装jdk1.8

1.安装

  • sudo apt install openjdk-8-jdk -y

2.验证

  • java -version
  • javac -version


五、安装hadoop

1.安装hadoop

  • wget https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-3.4.1/hadoop-3.4.1.tar.gz -P ~/Downloads

也可以在镜像网站选择你想要的版本更换在路径上

Index of /apache/hadoop/common

 2.解压并移动到/usr/local

  • cd ~/Downloads
  • sudo tar -zxvf hadoop-3.4.1.tar.gz -C /usr/local
  • cd /usr/local
  • sudo mv hadoop-3.4.1 hadoop
  • sudo chown -R hadoop /usr/local/hadoop


 3.查看jdk安装路径

  • readlink -f $(which java)

  • nano ~/.bashrc

将下面的代码写入文件,ctrl+o保存-回车确认-ctrl+x退出

export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64(你的java实际路径)
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop 

保存并执行

  • source ~/.bashrc

六、配置 Hadoop 文件

1. hadoop-env.sh文件

  • nano $HADOOP_HOME/etc/hadoop/hadoop-env.sh

找到这一行:

export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64

填入你 Java 的安装路径,比如:

/usr/lib/jvm/java-8-openjdk-amd64

2. core-site.xml文件

  • nano $HADOOP_HOME/etc/hadoop/core-site.xml

添加内容如下:

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>

3. hdfs-site.xml文件

  • nano $HADOOP_HOME/etc/hadoop/hdfs-site.xml

内容如下:

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
  <property>
    <name>dfs.namenode.name.dir</name>
    <value>file:/home/hadoop/hadoopdata/hdfs/namenode</value>
  </property>
  <property>
    <name>dfs.datanode.data.dir</name>
    <value>file:/home/hadoop/hadoopdata/hdfs/datanode</value>
  </property>
</configuration>

创建对应目录:

  • mkdir -p ~/hadoopdata/hdfs/namenode
  • mkdir -p ~/hadoopdata/hdfs/datanode


七、启动 Hadoop

1. 格式化 HDFS

  • hdfs namenode -format

如果看到 Successfully formatted,说明格式化成功。或者启动一下试试

2. 启动服务

  • start-dfs.sh start-yarn.sh

使用 jps 查看进程:

  • jps

你应该能看到:NameNodeDataNodeResourceManagerNodeManager 等进程。

 

  • 输入图片中其他的命令,用于测试文件系统功能

八、访问 Hadoop Web UI

  • HDFS 管理界面:http://localhost:9870

  • YARN 管理界面:http://localhost:8088


        若安装中出现了问题,可以在评论区讨论或者私信作者。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.pswp.cn/pingmian/83202.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Flutter、React Native、Unity 下的 iOS 性能与调试实践:兼容性挑战与应对策略(含 KeyMob 工具经验)

移动端跨平台开发逐渐成为常态&#xff0c;Flutter、React Native、Unity、Hybrid App 等框架在各类 iOS 项目中频繁出现。但随之而来的&#xff0c;是一系列在 iOS 设备上调试难、性能数据采集难、日志整合难的问题。 今天这篇文章&#xff0c;我从实际项目出发&#xff0c;聊…

PyCharm接入DeepSeek,实现高效AI编程

介绍本土AI工具DeepSeek如何结合PyCharm同样实现该功能。 一 DeepSeek API申请 首先进入DeepSeek官网&#xff1a;DeepSeek 官网 接着点击右上角的 “API 开放平台“ 然后点击API keys 创建好的API key&#xff0c;记得复制保存好 二 pycharm 接入deepseek 首先打开PyCh…

Cinnamon开始菜单(1):获取应用数据

看了半天&#xff1a;/usr/share/cinnamon/applets/menucinnamon.org&#xff0c;终于挖到了精髓。 Cinnamon.AppSystem.get_default() 获取系统应用数据 get_tree() 获取树机构 get_root_directory() 获取根目录 iter() 遍历 get_name() 获取名称 get_desktop_file_id()…

git reset --hard HEAD~1与git reset --hard origin/xxx

git reset --hard HEAD~1与git reset --hard origin/xxx git reset --hard origin/xxx有时候会太长&#xff0c;手工输入略微繁琐&#xff0c;可以考虑&#xff1a; git reset --hard HEAD~1 替代。 或者使用这种方式 git reset撤销当前分支所有修改&#xff0c;恢复到最近一…

鸿蒙OSUniApp PWA开发实践:打造跨平台渐进式应用#三方框架 #Uniapp

UniApp PWA开发实践&#xff1a;打造跨平台渐进式应用 前言 在过去的一年里&#xff0c;我们团队一直在探索如何利用UniApp框架开发高性能的PWA应用。特别是随着鸿蒙系统的普及&#xff0c;我们积累了不少有价值的实践经验。本文将分享我们在开发过程中的技术选型、架构设计和…

ansible自动化playbook简单实践

方法一&#xff1a;部分使用ansible 基于现有的nginx配置文件&#xff0c;定制部署nginx软件&#xff0c;将我们的知识进行整合 定制要求&#xff1a; 启动用户&#xff1a;nginx-test&#xff0c;uid是82&#xff0c;系统用户&#xff0c;不能登录 启动端口82 web项目根目录/…

【Office】Excel两列数据比较方法总结

在Excel中&#xff0c;比较两列数据是否相等有多种方法&#xff0c;以下是常用的几种方式&#xff1a; 方法1&#xff1a;使用公式&#xff08;返回TRUE/FALSE&#xff09; 在空白列&#xff08;如C列&#xff09;输入公式&#xff0c;向下填充即可逐行比较两列&#xff08;如…

day 42

知识点回顾 1.回调函数 2.lambda函数 3.hook函数的模块钩子和张量钩子 4.Grad-CAM的示例 一。回调函数示例 Hook本质是回调函数&#xff0c;所以我们先介绍一下回调函数。回调函数是作为参数传递给其他函数的函数&#xff0c;其目的是在某个特定事件发生时被调用执行。这…

10.安卓逆向2-frida hook技术-frida基本使用-frida指令(用于hook)

免责声明&#xff1a;内容仅供学习参考&#xff0c;请合法利用知识&#xff0c;禁止进行违法犯罪活动&#xff01; 内容参考于&#xff1a;图灵Python学院 工具下载&#xff1a; 链接&#xff1a;https://pan.baidu.com/s/1bb8NhJc9eTuLzQr39lF55Q?pwdzy89 提取码&#xff1…

LLM-MPC混合架构:车载大语言模型用来增强自动驾驶系统

1. 概述 2025年&#xff0c;苏黎世研究团队在RSS2025会议上正式提出「LLM-MPC混合架构」&#xff0c;标志着大语言模型&#xff08;LLM&#xff09;在自动驾驶系统中的实用化迈出关键一步。该方案旨在解决传统深度学习模型在极端交通场景中泛化能力不足的问题。通过在车载终端…

解释k8s种ConfigMap和Secret的作用,如何在Pod中挂载环境变

一、ConfigMap & Secret 核心定位 属于Kubernetes的配置管理特性&#xff0c;用于解耦应用与配置 1. ConfigMap 作用&#xff1a;存储非敏感配置数据 存储内容&#xff1a; 环境变量命令行参数配置文件&#xff08;如JSON/XML/YAML&#xff09;系统参数&#xff08;如J…

Android --- ObjectAnimator 和 TranslateAnimation有什么区别

文章目录 2. 作用范围和功能2. 动画表现3. 是否修改 View 的属性4. 适用场景5. 性能总结&#xff1a; ObjectAnimator 和 TranslateAnimation 都是 Android 中常用的动画类型&#xff0c;但它们有以下几个关键的区别&#xff1a; 2. 作用范围和功能 ObjectAnimator&#xff1a…

3d GIS数据来源与编辑工具

1、卫星遥感 2、航空摄影测量 3、地面实测技术 全站仪 3维扫描 3D GIS数据制作全流程详解 一、数据采集&#xff1a;多源数据获取 3D GIS数据的制作需从多维度采集地理空间信息&#xff0c;以下是主要采集方式及适用场景&#xff1a; &#xff08;一&#xff09;遥感与航测…

实验设计与分析(第6版,Montgomery)第4章随机化区组,拉丁方, 及有关设计4.5节思考题4.26~4.27 R语言解题

本文是实验设计与分析&#xff08;第6版&#xff0c;Montgomery著&#xff0c;傅珏生译) 第章随机化区组&#xff0c;拉丁方&#xff0c; 及有关设计4.5节思考题4.26~4.27 R语言解题。主要涉及方差分析&#xff0c;正交拉丁方。 batch <- c(rep("batch1",5), rep(…

linux创建虚拟网卡和配置多ip

1.展示当前网卡信息列表&#xff1a; linux上&#xff1a; ip a ifconfigwindows上&#xff1a; ipconfig 2.创建虚拟网卡对&#xff1a; sudo ip link add name veth0 type veth peer name veth1 在 ip link add 命令中&#xff0c;type 参数可以指定多种虚拟网络设备类型&…

分布式项目保证消息幂等性的常见策略

Hello&#xff0c;大家好&#xff0c;我是灰小猿&#xff01; 在分布式系统中&#xff0c;由于各个服务之间独立部署&#xff0c;各个服务之间依靠远程调用完成通信&#xff0c;再加上面对用户重复点击时的重复请求等情况&#xff0c;所以如何保证消息消费的幂等性是在分布式或…

微信小程序(uniapp)对接腾讯云IM

UniApp 对接腾讯云 IM&#xff08;即时通讯&#xff09;完整指南 一、项目背景与需求分析 随着社交场景的普及&#xff0c;即时通讯功能已成为移动应用的标配。腾讯云 IM&#xff08;Tencent IM&#xff0c;即 TIM&#xff09;提供稳定可靠的即时通讯服务&#xff0c;支持单聊…

Portainer安装指南:多节点监控的docker管理面板-家庭云计算专家

背景 Portainer 是一个轻量级且功能强大的容器管理面板&#xff0c;专为 Docker 和 Kubernetes 环境设计。它通过直观的 Web 界面简化了容器的部署、管理和监控&#xff0c;即使是非技术用户也能轻松上手。Portainer 支持多节点管理&#xff0c;允许用户从一个中央控制台管理多…

[Redis] Redis命令在Pycharm中的使用

初次学习&#xff0c;如有错误还请指正 目录 String命令 Hash命令 List命令 set命令 SortedSet命令 连接pycharm的过程见&#xff1a;[Redis] 在Linux中安装Redis并连接桌面客户端或Pycharm-CSDN博客 redis命令的使用见&#xff1a;[Redis] Redis命令&#xff08;1&#xf…

计算机网络:物理层

目录 一、物理层的基本概念 二、物理层下面的传输媒体 2.1 导引型传输媒体 2.1.1 同轴电缆 2.1.2 双绞线 2.1.3 光纤 2.1.4 电力线 2.2 非导引型传输媒体 2.2.1 无线电波 2.2.2 微波 2.2.3 红外线 2.2.4 可见光 三、传输方式 3.1 串行与并行 3.2 同步与异步 3.…