2.安装Spark与Python练习

一、安装Spark

1.检查基础环境hadoop,jdk

2.下载spark

在之前实验已下载安装

3.解压，重命名，权限

在之前实验已完成

4.配置文件

5.环境变量

6.试运行Python代码

二、Python编程练习：英文文本的词频统计

1.准备文本文件

2.读文件

path=\'/home/hadoop/test.txt\'

with open(path) as f:
    text=f.read()

3.预处理：大小写，标点符号，停用词，分词

 words = text.lower().split()
for c in \'!\"#$%^&*()_+-=@[]{}|\\?/<>,.:;~·`、“”‘’\':
t={}
       text = text.replace(c, \" \")

4.统计每个单词出现的次数，排序

for word in words:
     t[word]=t.get(word,0)+1
tlist=list(t.items())
tlist.sort(key=lambda x:x[1],reverse=True)
print(tlist)

5.结果写文件

text = open(\"ttest.txt\", \"w\", encoding=\'UTF-8\')
text.write(str(tlist))

来源：https://www.cnblogs.com/gzbblogs/p/15972592.html
本站部分图文来源于网络，如有侵权请联系删除。