本文为您介绍 E-MapReduce 中常用文件的路径。您可以登录 Master 节点查看常用文件的安装路径。
大数据组件目录
软件安装目录在/usr/lib/emr/current/xxx下,例如:
- Hadoop:/usr/lib/emr/current/hadoop
- Spark :/usr/lib/emr/current/spark
- Hive:/usr/lib/emr/current/hive
- Flink:/usr/lib/emr/current/flink
- Flume:/usr/lib/emr/current/flume
- Presto:/usr/lib/emr/current/presto
- Proton:/usr/lib/emr/current/proton
您也可以通过登录 Master 节点,执行 env |grep xxx 命令查看软件的安装目录。 例如,执行以下命令,查看 Hadoop 的安装目录。
env |grep hadoop
返回如下信息,其中/usr/lib/emr/current/hadoop为 Hadoop 的安装目录。
HADOOP_LIBEXEC_DIR=/usr/lib/emr/current/hadoop/libexec
HADOOP_CONF_DIR=/etc/emr/hadoop/conf
HADOOP_HOME=/usr/lib/emr/current/hadoop
OLDPWD=/usr/lib/emr/current/hadoop
日志目录
组件日志目录在/var/log/emr/xxx下,例如:
- Yarn ResourceManager 日志:/var/log/emr/yarn/hadoop-yarn-resourcemanager-master-1-1.emr-xxx.log
- Yarn NodeNanager 日志:/var/log/emr/yarn/hadoop-yarn-nodemanager-core-1-1.emr-xxx.log
- HDFS NameNode 日志:/var/log/emr/hdfs/hadoop-hdfs-namenode-master-1-2.emr-xxx.log
- HDFS DataNode 日志:/var/log/emr/hdfs/hadoop-hdfs-datanode-core-1-2.emr-xxx.log
- Hive Metastore 日志:/var/log/emr/hive/metastore.out
- Presto Coordinator/Worker 日志:/var/log/emr/presto/log/server.log
- Proton MetaServer 日志:/var/log/emr/proton/metaserver/proton-metaserver.log
配置文件
配置文件目录在/etc/emr/xxx/conf下,例如:
- Hadoop:/etc/emr/hadoop/conf
- Spark:/etc/emr/spark/conf
- Hive:/etc/emr/hive/conf
- Flink:/etc/emr/flink/conf
- Flume:/etc/emr/flume/conf
- Presto:/etc/emr/presto/conf
- Proton:/etc/emr/proton/conf
如果您需要修改配置文件中的参数,请登录 E-MapReduce 控制台操作,通过 SSH 方式只能浏览配置文件中的参数。