創(chuàng)新互聯(lián)www.cdcxhl.cn八線動(dòng)態(tài)BGP香港云服務(wù)器提供商,新人活動(dòng)買多久送多久,劃算不套路!
創(chuàng)新互聯(lián)建站從2013年開始,先為宜城等服務(wù)建站,宜城等地企業(yè),進(jìn)行企業(yè)商務(wù)咨詢服務(wù)。為宜城企業(yè)網(wǎng)站制作PC+手機(jī)+微官網(wǎng)三網(wǎng)同步一站式服務(wù)解決您的所有建站問題。Python爬蟲的json模塊與jsonpath模塊?很多新手對(duì)此不是很清楚,為了幫助大家解決這個(gè)難題,下面小編將為大家詳細(xì)講解,有這方面需求的人可以來學(xué)習(xí)下,希望你能有所收獲。
JSON(JavaScript Object Notation)是一種輕量級(jí)的數(shù)據(jù)交換格式,它使得人們很容易的進(jìn)行閱讀和編寫。同時(shí)也方便了機(jī)器進(jìn)行解析和生成。適用于進(jìn)行數(shù)據(jù)交互的場景,比如網(wǎng)站前臺(tái)與后臺(tái)之間的數(shù)據(jù)交互。JSON和XML相比較可謂不相上下。
Python 3.X中自帶了JSON模塊,直接import json就可以使用了。
官方文檔:http://docs.python.org/library/json.html
Json在線解析網(wǎng)站:http://www.json.cn/#
JSON
json簡單來說就是JavaScript中的對(duì)象和數(shù)組,所以這兩種結(jié)構(gòu)就是對(duì)象和數(shù)組兩種結(jié)構(gòu),通過這兩種結(jié)構(gòu)可以表示各種復(fù)雜的結(jié)構(gòu)。
對(duì)象:對(duì)象在js中表示為{ }括起來的內(nèi)容,數(shù)據(jù)結(jié)構(gòu)為{key1: value1, key2:value2, ...}的鍵值對(duì)的結(jié)構(gòu),在面向?qū)ο蟮恼Z言中,key為對(duì)象的屬性,value為對(duì)應(yīng)的屬性值,所以很容易理解,取值方法為 對(duì)象.key 獲取屬性值,這個(gè)屬性值的類型可以是數(shù)字、字符串、數(shù)組、對(duì)象。
數(shù)組:數(shù)組在js中是[ ]括起來的內(nèi)容,數(shù)據(jù)結(jié)構(gòu)為['Python', ‘JavaScript', 'C++', ...],取值方式和所有語言一樣,使用索引獲取,字段值的類型可以是數(shù)字、字符串、數(shù)組、對(duì)象。
json模塊
json模塊提供了四個(gè)功能:dumps、dump、loads、load,用于字符串和Python數(shù)據(jù)類型間進(jìn)行轉(zhuǎn)換。
1.json.dumps()
實(shí)現(xiàn)Python類型轉(zhuǎn)化為Json字符串,返回一個(gè)str對(duì)象,從Python到Json的類型轉(zhuǎn)換對(duì)照如下:
#!/usr/bin/python3 # -*- coding:utf-8 -*- import json listStr = [1, 2, 3, 4] tupleStr = (1, 2, 3, 4) dictStr = {"city": "北京", "name": "螞蟻"} print(json.dumps(listStr)) # [1, 2, 3, 4] print(type(json.dumps(listStr))) # <class 'str'> print(json.dumps(tupleStr)) # [1, 2, 3, 4] print(type(json.dumps(tupleStr))) # <class 'str'> # 注意:json.dumps() 序列化時(shí)默認(rèn)使用的ascii編碼 # 添加參數(shù) ensure_ascii=False 禁用ascii編碼,按utf-8編碼 print(json.dumps(dictStr, ensure_ascii = False)) # {"city": "北京", "name": "螞蟻"} print(type(json.dumps(dictStr, ensure_ascii = False))) # <class 'str'>
2.json.dump()
將Python內(nèi)置類型序列化為Json對(duì)象后寫入文件
#!/usr/bin/python3 # -*- coding:utf-8 -*- import json listStr = [{"city": "北京"}, {"name": "螞蟻"}] json.dump(listStr, open("listStr.json", "w", encoding = "utf-8"), ensure_ascii = False) dictStr = {"city": "北京", "name": "螞蟻"} json.dump(dictStr, open("dictStr.json", "w", encoding = "utf-8"), ensure_ascii = False)
3.json.loads()
把Json格式字符串解碼轉(zhuǎn)換成Python對(duì)象,從Json到Python的類型轉(zhuǎn)換對(duì)照如下:
#!/usr/bin/python3 # -*- coding:utf-8 -*- __author__ = 'mayi' import json strList = '[1, 2, 3, 4]' strDict = '{"city": "北京", "name": "螞蟻"}' print(json.loads(strList)) # [1, 2, 3, 4] # json數(shù)據(jù)自動(dòng)按utf-8存儲(chǔ) print(json.loads(strDict)) # {'city': '北京', 'name': '螞蟻'}
4.json.load()
讀取文件中Json形式的字符串,轉(zhuǎn)換成Python類型
#!/usr/bin/python3 # -*- coding:utf-8 -*- import json strList = json.load(open("listStr.json", "r", encoding = "utf-8")) print(strList) # [{'city': '北京'}, {'name': '螞蟻'}] strDict = json.load(open("dictStr.json", "r", encoding = "utf-8")) print(strDict) # {'city': '北京', 'name': '螞蟻'}
JsonPath
JsonPath是一種信息抽取類庫,是從JSON文檔中抽取指定信息的工具,提供多種語言實(shí)現(xiàn)版本,包括:JavaScript、Python、PHP和Java。
JsonPath對(duì)于JSON來說,相當(dāng)于XPATH對(duì)于XML。
下載地址:https://pypi.python.org/pypi/jsonpath
安裝方法:下載后解壓之后執(zhí)行 python setup.py install
官方文檔:http://goessner.net/articles/JsonPath
JsonPath與XPath語法對(duì)比:
JsonPath結(jié)構(gòu)清晰,可讀性高,復(fù)雜度低,非常容易匹配,下表中對(duì)應(yīng)了XPath的用法。
示例:
以拉勾網(wǎng)城市JSON文件:http://www.lagou.com/lbs/getAllCitySearchLabels.json 為例,獲取所有的城市名稱。
#!/usr/bin/python3 # -*- coding:utf-8 -*- import urllib.request import json import jsonpath # 拉勾網(wǎng)城市JSON文件 url = 'http://www.lagou.com/lbs/getAllCitySearchLabels.json' # User-Agent頭 header = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.71 Safari/537.36'} # url 連同 headers,一起構(gòu)造Request請(qǐng)求,這個(gè)請(qǐng)求將附帶 chrome 瀏覽器的User-Agent request = urllib.request.Request(url, headers = header) # 向服務(wù)器發(fā)送這個(gè)請(qǐng)求 response = urllib.request.urlopen(request) # 獲取頁面內(nèi)容:bytes html = response.read() # 轉(zhuǎn)碼:bytes轉(zhuǎn)str html = html.decode("utf-8") # 把json格式字符串轉(zhuǎn)換成python對(duì)象 obj = json.loads(html) # 從根節(jié)點(diǎn)開始,匹配name節(jié)點(diǎn) city_list = jsonpath.jsonpath(obj, '$..name') # 打印獲取的name節(jié)點(diǎn) print(city_list) # 打印其類型 print(type(city_list)) # 寫入本地磁盤文件 with open("city.json", "w", encoding = "utf-8") as f: content = json.dumps(city_list, ensure_ascii = False) f.write(content)
看完上述內(nèi)容是否對(duì)您有幫助呢?如果還想對(duì)相關(guān)知識(shí)有進(jìn)一步的了解或閱讀更多相關(guān)文章,請(qǐng)關(guān)注創(chuàng)新互聯(lián)-成都網(wǎng)站建設(shè)公司行業(yè)資訊頻道,感謝您對(duì)創(chuàng)新互聯(lián)的支持。
分享文章:Python爬蟲的json模塊與jsonpath模塊-創(chuàng)新互聯(lián)
本文來源:http://jinyejixie.com/article2/hgooc.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供商城網(wǎng)站、手機(jī)網(wǎng)站建設(shè)、自適應(yīng)網(wǎng)站、動(dòng)態(tài)網(wǎng)站、面包屑導(dǎo)航、用戶體驗(yàn)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容