成人午夜视频全免费观看高清-秋霞福利视频一区二区三区-国产精品久久久久电影小说-亚洲不卡区三一区三区一区

pythonsparkwindowspycharmpyspark環(huán)境配置

1、下載如下
python spark windows pycharm pyspark環(huán)境配置

金牛ssl適用于網(wǎng)站、小程序/APP、API接口等需要進行數(shù)據(jù)傳輸應(yīng)用場景,ssl證書未來市場廣闊!成為創(chuàng)新互聯(lián)建站的ssl證書銷售渠道,可以享受市場價格4-6折優(yōu)惠!如果有意向歡迎電話聯(lián)系或者加微信:13518219792(備注:SSL證書合作)期待與您的合作!

放在D盤
添加 SPARK_HOME = D:\spark-2.3.0-bin-hadoop2.7。

  • 并將 %SPARK_HOME%/bin 添加至環(huán)境變量PATH。
  • 然后進入命令行,輸入pyspark命令。若成功執(zhí)行。則成功設(shè)置環(huán)境變量

python spark windows pycharm pyspark環(huán)境配置

找到pycharm sitepackage目錄
python spark windows pycharm pyspark環(huán)境配置

右鍵點擊即可進入目錄,將上面D:\spark-2.3.0-bin-hadoop2.7里面有個/python/pyspark目錄拷貝到上面的 sitepackage目錄
python spark windows pycharm pyspark環(huán)境配置

安裝 py4j
python spark windows pycharm pyspark環(huán)境配置

試驗如下代碼:

from __future__ import print_function
import sys
from operator import add
import os

# Path for spark source folder
os.environ['SPARK_HOME'] = "D:\spark-2.3.0-bin-hadoop2.7"
# Append pyspark to Python Path
sys.path.append("D:\spark-2.3.0-bin-hadoop2.7\python")
sys.path.append("D:\spark-2.3.0-bin-hadoop2.7\python\lib\py4j-0.9-src.zip")
from pyspark import SparkContext
from pyspark import SparkConf

if __name__ == '__main__':
    inputFile = "D:\Harry.txt"
    outputFile = "D:\Harry1.txt"
    sc = SparkContext()
    text_file = sc.textFile(inputFile)
    counts = text_file.flatMap(lambda line: line.split(' ')).map(lambda word: (word, 1)).reduceByKey(lambda a, b: a + b)
    counts.saveAsTextFile(outputFile)

計算成功即可

標題名稱:pythonsparkwindowspycharmpyspark環(huán)境配置
網(wǎng)站網(wǎng)址:http://jinyejixie.com/article20/jjheco.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供App開發(fā)、微信公眾號、移動網(wǎng)站建設(shè)、虛擬主機外貿(mào)網(wǎng)站建設(shè)、Google

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

小程序開發(fā)
枞阳县| 衡东县| 大田县| 云安县| 那曲县| 嫩江县| 北辰区| 武威市| 宣威市| 长岛县| 辽源市| 会东县| 浦东新区| 武穴市| 利川市| 丹东市| 龙陵县| 山西省| 昭平县| 工布江达县| 铁岭市| 奉节县| 青冈县| 枞阳县| 义马市| 彭州市| 建始县| 林州市| 温州市| 长乐市| 泰兴市| 滦南县| 行唐县| 梁河县| 道孚县| 都匀市| 秭归县| 浮山县| 湟源县| 江西省| 浦东新区|