Hadoop 大数据集群部署实战课程资源汇总
文章导航
课程设计报告模板资源下载
复制
课程设计报告要求
- 必须使用老师提供的课程设计报告模板。
- 必须保留封面
- 实验步骤每一步都有详细的文字操作步骤说明,步骤顺序号,截图。
- 截图只需要截关键部分信息,不能全屏截图。可以用红色框或箭头标注截图重点信息。推荐使用 Snipaste(官网下载或网盘下载) 进行截图和标记。
课程设计报告提交截止时间和地址
后续会公布链接,请各位同学登录网站 https://heis.gitee.io/hadoop-training-summary查看。
课程内容
课程设计报告提交
19级计算机2班 截止日期:2021/6/7(周一)
http://xzc.cn/dNqDFUUidd
19级计算机4班 截止日期:2021/6/21(周一)
http://xzc.cn/i8HCP37KAY
Hadoop 官方手册
官方 Hadoop 完全分布式教程
常用命令
vi/vim 命令图

查看IP地址等网络配置信息
ip a
复制
修改包括IP等网络配置命令
| |
| vim /etc/sysconfig/network-scripts/ifcfg-eth0 |
| |
| vim /etc/sysconfig/network-scripts/ifcfg-ens33 |
复制
| |
| IPADDR=10.0.0.11 |
| |
| PREFIX=24 |
| |
| GATEWAY=10.0.0.254 |
| |
| DNS1=233.5.5.5 |
复制
查看某项服务状态
systemctl status 服务名称 -l
复制
查看一系列服务状态,例如下面是查看筛选包含nova关键字的服务。
systemctl --all | grep nova
复制
查看进程端口等信息
netstat -tulpn
复制
netstat -tulpn|grep mysql
复制
卸载软件
yum remove 软件名称
复制
查看日志
- Hadoop 的日志通常都在
$HADOOP_HOME/logs
下,可以使用tail
命令进行对日志尾部进行输出。
查看所有相关服务状态
systemctl -a|grep nova
复制
修改系统时间
date -s 2021/03/11
复制
date -s 10:38:29
复制
clock -w
复制
修改 Linux 用户密码
passwd
复制
- 修改指定用户密码,注意需要提升到 root 权限才能修改。
passwd 指定用户名
复制
切换 Linux 用户
su 用户名
复制
递归修改目录下所有文件或目录的owner和group。
- 例如修改 /opt/hadoop 下所有文件或目录,owner 设置为 hadoop,group 设置为 wheel。
chown hadoop:wheel -R /opt/hadoop
复制
遇到 Permission Deny 如何解决。
(1)确保当前用户对该文件或目录拥有权限,可以使用以下命令进行查看。
ls -l
复制
(2)使用 chown 权限修改文件或目录的owner。
(3)使用 chmod 命令修改文件或目录的权限。
| [hadoop@nodea9999 sbin]$ ll start-hdp.sh |
| -rw-r--r-- 1 hadoop wheel 119 Mar 19 22:56 start-hdp.sh |
复制
- 通过运行 chmod 命令进行修改,获取执行权限。
[hadoop@nodea9999 sbin]$ chmod -744 start-hdp.sh
复制
| [hadoop@nodea9999 sbin]$ ll start-hdp.sh |
| -rwxr--r-- 1 hadoop wheel 119 Mar 19 22:56 start-hdp.sh |
复制
如何清除 HDFS 回收站内容
hadoop fs -expunge
复制
如何不经过回收站直接删除 HDFS 文件
hdfs dfs -rm -skipTrash 文件路径
复制