117笔记问答在CentOS上搭建HDFS集群的步骤如下：
- 环境准备：
- 安装JDK：确保所有节点上安装了JDK 1.8或更高版本。
- 配置网络：确保所有节点在同一个网络中，并且可以互相访问。
- 安装Hadoop：
- 在主节点（NameNode）上下载并解压Hadoop安装包。
- 配置Hadoop环境变量，如
HADOOP_HOME、HADOOP_CONF_DIR等。
- 配置Hadoop配置文件：
core-site.xml：配置HDFS的默认文件系统和临时目录。hdfs-site.xml：配置数据块大小、副本数等。mapred-site.xml（可选）：配置MapReduce框架。yarn-site.xml（可选）：配置YARN资源管理。
- 配置SSH免密登录：
- 在所有节点上生成SSH密钥对。
- 将公钥复制到其他节点的
~/.ssh/authorized_keys文件中，实现免密登录。
- 格式化NameNode：
- 在主节点上运行
hdfs namenode -format命令初始化文件系统。
- 启动HDFS集群：
- 在主节点上运行
start-dfs.sh脚本启动HDFS集群。 - 在DataNode上运行
start-dfs.sh脚本启动DataNode。
- 验证集群状态：
- 使用
jps命令检查NameNode、DataNode等进程是否正常运行。 - 访问HDFS的Web界面或使用
hdfs dfs命令测试文件系统的功能。
- 高可用性配置（可选）：
- 配置JournalNode。
- 配置ZooKeeper集群以实现NameNode的高可用性。
- 修改
hdfs-site.xml文件以启用高可用性特性，如dfs.nameservices、dfs.ha.namenodes等。
请注意，以上步骤是一个基本的指南，具体的配置可能会根据你的集群规模和需求有所不同。在实际操作中，还需要考虑防火墙设置、SELinux配置、网络策略等因素。此外，对于生产环境，建议使用最新稳定版本的Hadoop，并参考官方文档进行详细配置。