Spark-local本地环境搭建

承接上一个文档《 》

解压spark编译好的压缩包

Spark-local本地环境搭建

<code>sudo tar -zxvf spark-2.0.2-bin-2.7.3.tgz -C /opt/bigdata/spark/<code>
Spark-local本地环境搭建

Spark-local本地环境搭建

修改配置文件

Spark-local本地环境搭建

添加内容

Spark-local本地环境搭建

启动hdfs

namenode和datanode

测试spark自带的例子

计算圆周率

<code>./bin/run-example SparkPi/<code>
Spark-local本地环境搭建

Spark-local本地环境搭建

Spark-local本地环境搭建

第二个测试

<code>./bin/run-example SparkPi 100/<code>
Spark-local本地环境搭建

启动sparkshell

Spark-local本地环境搭建

退出spark shell的命令是 :quit

Spark-local本地环境搭建

修改日志打印级别(可选)

Spark-local本地环境搭建

修改文件

Spark-local本地环境搭建

<code>修改log4j.logger.org.apache.spark.repl.Main=INFO这句话就可以了/<code>
Spark-local本地环境搭建


分享到:


相關文章: