成人午夜视频全免费观看高清-秋霞福利视频一区二区三区-国产精品久久久久电影小说-亚洲不卡区三一区三区一区

Python爬蟲的json模塊與jsonpath模塊-創(chuàng)新互聯(lián)

創(chuàng)新互聯(lián)www.cdcxhl.cn八線動(dòng)態(tài)BGP香港云服務(wù)器提供商,新人活動(dòng)買多久送多久,劃算不套路!

創(chuàng)新互聯(lián)建站從2013年開始,先為宜城等服務(wù)建站,宜城等地企業(yè),進(jìn)行企業(yè)商務(wù)咨詢服務(wù)。為宜城企業(yè)網(wǎng)站制作PC+手機(jī)+微官網(wǎng)三網(wǎng)同步一站式服務(wù)解決您的所有建站問題。

Python爬蟲的json模塊與jsonpath模塊?很多新手對(duì)此不是很清楚,為了幫助大家解決這個(gè)難題,下面小編將為大家詳細(xì)講解,有這方面需求的人可以來學(xué)習(xí)下,希望你能有所收獲。

JSON(JavaScript Object Notation)是一種輕量級(jí)的數(shù)據(jù)交換格式,它使得人們很容易的進(jìn)行閱讀和編寫。同時(shí)也方便了機(jī)器進(jìn)行解析和生成。適用于進(jìn)行數(shù)據(jù)交互的場景,比如網(wǎng)站前臺(tái)與后臺(tái)之間的數(shù)據(jù)交互。JSON和XML相比較可謂不相上下。

Python 3.X中自帶了JSON模塊,直接import json就可以使用了。

官方文檔:http://docs.python.org/library/json.html

Json在線解析網(wǎng)站:http://www.json.cn/#

JSON

json簡單來說就是JavaScript中的對(duì)象和數(shù)組,所以這兩種結(jié)構(gòu)就是對(duì)象和數(shù)組兩種結(jié)構(gòu),通過這兩種結(jié)構(gòu)可以表示各種復(fù)雜的結(jié)構(gòu)。

對(duì)象:對(duì)象在js中表示為{ }括起來的內(nèi)容,數(shù)據(jù)結(jié)構(gòu)為{key1: value1, key2:value2, ...}的鍵值對(duì)的結(jié)構(gòu),在面向?qū)ο蟮恼Z言中,key為對(duì)象的屬性,value為對(duì)應(yīng)的屬性值,所以很容易理解,取值方法為 對(duì)象.key 獲取屬性值,這個(gè)屬性值的類型可以是數(shù)字、字符串、數(shù)組、對(duì)象。

數(shù)組:數(shù)組在js中是[ ]括起來的內(nèi)容,數(shù)據(jù)結(jié)構(gòu)為['Python', ‘JavaScript', 'C++', ...],取值方式和所有語言一樣,使用索引獲取,字段值的類型可以是數(shù)字、字符串、數(shù)組、對(duì)象。

json模塊

json模塊提供了四個(gè)功能:dumps、dump、loads、load,用于字符串和Python數(shù)據(jù)類型間進(jìn)行轉(zhuǎn)換。

1.json.dumps()

實(shí)現(xiàn)Python類型轉(zhuǎn)化為Json字符串,返回一個(gè)str對(duì)象,從Python到Json的類型轉(zhuǎn)換對(duì)照如下:

Python爬蟲的json模塊與jsonpath模塊

#!/usr/bin/python3
# -*- coding:utf-8 -*-
 
import json
 
listStr = [1, 2, 3, 4]
tupleStr = (1, 2, 3, 4)
dictStr = {"city": "北京", "name": "螞蟻"}
 
print(json.dumps(listStr))
# [1, 2, 3, 4]
 
print(type(json.dumps(listStr)))
# <class 'str'>
 
print(json.dumps(tupleStr))
# [1, 2, 3, 4]
 
print(type(json.dumps(tupleStr)))
# <class 'str'>
 
# 注意:json.dumps() 序列化時(shí)默認(rèn)使用的ascii編碼
# 添加參數(shù) ensure_ascii=False 禁用ascii編碼,按utf-8編碼
print(json.dumps(dictStr, ensure_ascii = False))
# {"city": "北京", "name": "螞蟻"}
 
print(type(json.dumps(dictStr, ensure_ascii = False)))
# <class 'str'>

2.json.dump()

 將Python內(nèi)置類型序列化為Json對(duì)象后寫入文件

#!/usr/bin/python3
# -*- coding:utf-8 -*-
 
import json
 
listStr = [{"city": "北京"}, {"name": "螞蟻"}]
json.dump(listStr, open("listStr.json", "w", encoding = "utf-8"), ensure_ascii = False)
 
dictStr = {"city": "北京", "name": "螞蟻"}
json.dump(dictStr, open("dictStr.json", "w", encoding = "utf-8"), ensure_ascii = False)

3.json.loads()

把Json格式字符串解碼轉(zhuǎn)換成Python對(duì)象,從Json到Python的類型轉(zhuǎn)換對(duì)照如下:

Python爬蟲的json模塊與jsonpath模塊

#!/usr/bin/python3
# -*- coding:utf-8 -*-
__author__ = 'mayi'
 
import json
 
strList = '[1, 2, 3, 4]'
 
strDict = '{"city": "北京", "name": "螞蟻"}'
 
print(json.loads(strList))
# [1, 2, 3, 4]
 
# json數(shù)據(jù)自動(dòng)按utf-8存儲(chǔ)
print(json.loads(strDict))
# {'city': '北京', 'name': '螞蟻'}

4.json.load()

讀取文件中Json形式的字符串,轉(zhuǎn)換成Python類型

#!/usr/bin/python3
# -*- coding:utf-8 -*- 
import json
 
strList = json.load(open("listStr.json", "r", encoding = "utf-8"))
print(strList)
# [{'city': '北京'}, {'name': '螞蟻'}]
 
strDict = json.load(open("dictStr.json", "r", encoding = "utf-8"))
print(strDict)
# {'city': '北京', 'name': '螞蟻'}

JsonPath

JsonPath是一種信息抽取類庫,是從JSON文檔中抽取指定信息的工具,提供多種語言實(shí)現(xiàn)版本,包括:JavaScript、Python、PHP和Java。

JsonPath對(duì)于JSON來說,相當(dāng)于XPATH對(duì)于XML。

下載地址:https://pypi.python.org/pypi/jsonpath

安裝方法:下載后解壓之后執(zhí)行 python setup.py install

官方文檔:http://goessner.net/articles/JsonPath

JsonPath與XPath語法對(duì)比:

JsonPath結(jié)構(gòu)清晰,可讀性高,復(fù)雜度低,非常容易匹配,下表中對(duì)應(yīng)了XPath的用法。

Python爬蟲的json模塊與jsonpath模塊

示例:

以拉勾網(wǎng)城市JSON文件:http://www.lagou.com/lbs/getAllCitySearchLabels.json 為例,獲取所有的城市名稱。

#!/usr/bin/python3
# -*- coding:utf-8 -*-
 
import urllib.request
import json
import jsonpath
 
# 拉勾網(wǎng)城市JSON文件
url = 'http://www.lagou.com/lbs/getAllCitySearchLabels.json'
# User-Agent頭
header = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.71 Safari/537.36'}
 
# url 連同 headers,一起構(gòu)造Request請(qǐng)求,這個(gè)請(qǐng)求將附帶 chrome 瀏覽器的User-Agent
request = urllib.request.Request(url, headers = header)
 
# 向服務(wù)器發(fā)送這個(gè)請(qǐng)求
response = urllib.request.urlopen(request)
 
# 獲取頁面內(nèi)容:bytes
html = response.read()
 
# 轉(zhuǎn)碼:bytes轉(zhuǎn)str
html = html.decode("utf-8")
 
# 把json格式字符串轉(zhuǎn)換成python對(duì)象
obj = json.loads(html)
 
# 從根節(jié)點(diǎn)開始,匹配name節(jié)點(diǎn)
city_list = jsonpath.jsonpath(obj, '$..name')
 
# 打印獲取的name節(jié)點(diǎn)
print(city_list)
# 打印其類型
print(type(city_list))
 
# 寫入本地磁盤文件
with open("city.json", "w", encoding = "utf-8") as f:
    content = json.dumps(city_list, ensure_ascii = False)
    f.write(content)

看完上述內(nèi)容是否對(duì)您有幫助呢?如果還想對(duì)相關(guān)知識(shí)有進(jìn)一步的了解或閱讀更多相關(guān)文章,請(qǐng)關(guān)注創(chuàng)新互聯(lián)-成都網(wǎng)站建設(shè)公司行業(yè)資訊頻道,感謝您對(duì)創(chuàng)新互聯(lián)的支持。

分享文章:Python爬蟲的json模塊與jsonpath模塊-創(chuàng)新互聯(lián)
本文來源:http://jinyejixie.com/article2/hgooc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供商城網(wǎng)站、手機(jī)網(wǎng)站建設(shè)、自適應(yīng)網(wǎng)站動(dòng)態(tài)網(wǎng)站、面包屑導(dǎo)航用戶體驗(yàn)

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)

手機(jī)網(wǎng)站建設(shè)
梁平县| 崇明县| 西藏| 桃园县| 长治县| 时尚| 托克逊县| 宁城县| 海安县| 兴海县| 潮安县| 普洱| 石渠县| 尤溪县| 瓮安县| 淮安市| 陆川县| 密云县| 衡阳县| 静宁县| 西峡县| 小金县| 九龙城区| 根河市| 滨海县| 宜丰县| 南丹县| 清新县| 营山县| 咸宁市| 横峰县| 霍邱县| 冀州市| 大化| 揭西县| 蒙山县| 齐河县| 金乡县| 永顺县| 确山县| 塘沽区|