進(jìn)入智聯(lián)招聘官網(wǎng),在搜索界面輸入‘?dāng)?shù)據(jù)分析師',界面跳轉(zhuǎn),按F12查看網(wǎng)頁源碼,點擊network
選中XHR,然后刷新網(wǎng)頁
可以看到一些Ajax請求, 找到畫紅線的XHR文件,點擊可以看到網(wǎng)頁的一些信息
在Header中有Request URL,我們需要通過找尋Request URL的特點來構(gòu)造這個請求網(wǎng)址,
點擊Preview,可以看到我們所需要的信息就存在result中,這信息基本是json格式,有些是列表;
下面我們通過Python爬蟲來爬取上面的信息;
代碼如下:
import requests from urllib.parse import urlencode import json #from requests import codes #import os #from hashlib import md5 #from multiprocessing.pool import Pool #import re def get_page(offset): params = { 'start': offset, 'pageSize': '90', 'cityId': '530', 'salary': '0,0', 'workExperience': '-1', 'education': '-1', 'companyType': '-1', 'employmentType': '-1', 'jobWelfareTag': '-1', 'kw': '數(shù)據(jù)分析師', 'kt': '3', '_v': '0.77091902', 'x-zp-page-request-id': '8ff0aa73bf834b408f46324e44d89b84-1562722989022-210101', 'x-zp-client-id': '2dc4c9a4-e80d-4488-84a3-03426dd69a1e' } base_url = 'https://fe-api.zhaopin.com/c/i/sou?' url = base_url + urlencode(params) try: resp = requests.get(url) print(url) if 200 == resp.status_code: print(resp.json()) return resp.json() except requests.ConnectionError: return None def get_information(json_page): if json_page.get('data'): results = json_page.get('data').get('results') for result in results: yield { 'city': result.get('city').get('display'), 'company': result.get('company').get('name'), #'welfare':result.get('welfare'), 'workingExp':result.get('workingExp').get('name'), 'salary':result.get('salary'), 'eduLevel':result.get('eduLevel').get('name') } print('succ') def write_to_file(content): with open('result.txt','a',encoding='utf-8') as f: print(type(json.dumps(content))) f.write(json.dumps(content,ensure_ascii=False)+'\n') def main(offset): json_page=get_page(offset) for content in get_information(json_page): write_to_file(content) if __name__=='__main__': for i in range(10): main(offset=90*i)
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機、免備案服務(wù)器”等云主機租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價比高”等特點與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場景需求。
網(wǎng)站名稱:Python爬取智聯(lián)招聘數(shù)據(jù)分析師崗位相關(guān)信息的方法-創(chuàng)新互聯(lián)
分享路徑:http://jinyejixie.com/article6/dejgig.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供搜索引擎優(yōu)化、網(wǎng)站制作、用戶體驗、網(wǎng)站策劃、網(wǎng)站導(dǎo)航、動態(tài)網(wǎng)站
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容