一、說明
本文主要講述采集貓眼電影用戶評論進(jìn)行分析,相關(guān)爬蟲采集程序可以爬取多個電影評論。
運(yùn)行環(huán)境:Win10/Python3.5。
分析工具:jieba、wordcloud、pyecharts、matplotlib。
基本流程:下載內(nèi)容 ---> 分析獲取關(guān)鍵數(shù)據(jù) ---> 保存本地文件 ---> 分析本地文件制作圖表
注意:本文所有圖文和源碼僅供學(xué)習(xí),請勿他用,轉(zhuǎn)發(fā)請注明出處!
本文主要參考:https://mp.weixin.qq.com/s/mTxxkwRZPgBiKC3Sv-jo3g
二、開始采集
2.1、分析數(shù)據(jù)接口:
為了健全數(shù)據(jù)樣本,數(shù)據(jù)直接從移動端接口進(jìn)行采集,連接如下,其中橙色部分為貓眼電影ID,修改即可爬取其他電影。
鏈接地址:http://m.maoyan.com/mmdb/comments/movie/1208282.json?v=yes&offset=15&startTime=
接口返回的數(shù)據(jù)如下,主要采集(昵稱、城市、評論、評分和時間),用戶評論在 json['cmts'] 中:
2.2、爬蟲程序核心內(nèi)容(詳細(xì)可以看后面源代碼):
>啟動腳本需要的參數(shù)如下(腳本名+貓眼電影ID+上映日期+數(shù)據(jù)保存的文件名):.\myMovieComment.py 1208282 2016-11-16 myCmts2.txt
>下載html內(nèi)容:download(self, url),通過python的requests模塊進(jìn)行下載,將下載的數(shù)據(jù)轉(zhuǎn)成json格式
def download(self, url): """下載html內(nèi)容""" print("正在下載URL: "+url) # 下載html內(nèi)容 response = requests.get(url, headers=self.headers) # 轉(zhuǎn)成json格式數(shù)據(jù) if response.status_code == 200: return response.json() else: # print(html.status_code) print('下載數(shù)據(jù)為空!') return ""
本文標(biāo)題:Python采集貓眼兩萬條數(shù)據(jù)對《無名之輩》影評進(jìn)行分析-創(chuàng)新互聯(lián)
標(biāo)題來源:http://jinyejixie.com/article8/dphsop.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供用戶體驗、搜索引擎優(yōu)化、網(wǎng)站營銷、品牌網(wǎng)站建設(shè)、服務(wù)器托管、微信小程序
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容