spark分布式安装配置

女爷i 2022-03-22 03:46 273阅读 0赞

1.配置worker

vim conf/slaves.template

2.配置master

vim spark-env.sh

export JAVA_HOME=/usr/local/jdk1.8.0_201

export SCALA_HOME=/usr/local/scala

export HADOOP_HOME=/usr/local/hadoop

export HADOOP_CONF_DIR=/usr/local/hadoop/etc/hadoop

export SPARK_MASTER_HOST=master

export SPARK_MASTER_PORT=7077

export SPARK_WORKER_MEMORY=3g

export SPARK_WORKER_CORES=2

export SPARK_WORKER_INSTANCES=1

发表评论

表情:
评论列表 (有 0 条评论,273人围观)

还没有评论,来说两句吧...

相关阅读