
Win10下安装spark(本地模式)_windows
添加spark系统环境变量:
发布日期:2021-05-08 03:56:50
浏览次数:31
分类:精选文章
本文共 1225 字,大约阅读时间需要 4 分钟。
Win10下安装spark(本地模式)
相关软件及环境准备:
win10 需要提前安装anaconda java 环境:JDK1.8 版本 hadoop运行在windows环境的插件: hadoop-2.7.1(winutils-master) spark包:spark-2.4.4-bin-hadoop2.7spark-2.4.4-bin-hadoop2.7 和winutils-master 下载
链接:https://pan.baidu.com/s/1BFy8xm5bcf-14AWu1nExDg&shfl=sharepset 提取码:mvkv
用到的环境变量
SPARK_HOME C:\file\spark_package\spark-2.4.4-bin-hadoop2.7PYTHONPATH C:\file\spark_package\spark-2.4.4-bin-hadoop2.7\pythonpip install py4j JAVA_HOME C:\Program Files\Java\jdk1.8.0_162\bin
使用 Spark 的第一步是下载和解压缩。我们先从下载预编译版本的 Spark 开始。访问 http:// spark.apache.org/downloads.html, 选 择 包 类 型 为“Pre-built for Hadoop 2.4 and later”( 为 Hadoop 2.4 及更新版本预编译的版本),然后选择“Direct Download”直接下载
安装spark
把包解压到这个目录下
C:\file\spark_package\spark-2.4.4-bin-hadoop2.7
#添加spark环境变量SPARK_HOME 为 C:\file\spark_package\spark-2.4.4-bin-hadoop2.7Path添加 %SPARK_HOME%\bin
添加完环境变量后,可以打开一个cmd运行pyspark即可用spark使用 spark


安装配置hadoop
访问官方http://hadoop.apache.org/releases.html
或者百度云盘 解压到路径 C:\file\hadoop-2.7.1 2、配置增加系统环境变量:
HADOOP_HOME C:\file\hadoop-2.7.1
在系统环境变量Path增加:%HADOOP_HOME%\bin

cd C:\file\spark_package\spark-2.4.4-bin-hadoop2.7
进入你的 Spark 目录然后输入: bin/pyspark 即可或者启动cmd,输入 : pyspark 也可进入
可参靠此篇文章:
https://www.cnblogs.com/momogua/p/9285930.html发表评论
最新留言
路过按个爪印,很不错,赞一个!
[***.219.124.196]2025年03月24日 08时39分15秒
关于作者

喝酒易醉,品茶养心,人生如梦,品茶悟道,何以解忧?唯有杜康!
-- 愿君每日到此一游!
推荐文章
Redis进阶实践之十八 使用管道模式提高Redis查询的速度
2021-05-09
SQL注入
2021-05-09
#2036:改革春风吹满地
2021-05-09
MPI Maelstrom POJ - 1502 ⭐⭐ 【Dijkstra裸题】
2021-05-09
P1379 八数码难题 ( A* 算法 与 IDA_star 算法)
2021-05-09
算法学习笔记: 珂朵莉树
2021-05-09
Codeforces Round #664 题解(A ~ C)
2021-05-09
Problem A - Sequence with Digits (数学推导)
2021-05-09
Problem 330A - Cakeminator (思维)
2021-05-09
LeetCode75 颜色分类 (三路快排C++实现与应用)
2021-05-09
docker基础:容器生命周期管理命令
2021-05-09
Shell脚本学习指南
2021-05-09
C#开发BIMFACE系列35 服务端API之模型对比6:获取模型构建对比分类树
2021-05-09
C# 规范建议
2021-05-09
C语言+easyX图形库的推箱子实现
2021-05-09
反汇编-流程控制语句-2-循环控制语句分析
2021-05-09
调试vs2019代码的流程
2021-05-09
游戏外挂基础-概述
2021-05-09
脱壳与加壳-加壳-6-代码实现加密导入表
2021-05-09
Typora配置PicGo时,提示Failed to fetch
2021-05-09