本篇文章給大家分享的是有關(guān)Python中怎么利用aiohttp制作一個(gè)異步爬蟲，小編覺得挺實(shí)用的，因此分享給大家學(xué)習(xí)，希望大家閱讀完這篇文章后可以有所收獲，話不多說，跟著小編一起來看看吧。

克州網(wǎng)站建設(shè)公司成都創(chuàng)新互聯(lián)公司,克州網(wǎng)站設(shè)計(jì)制作，有大型網(wǎng)站制作公司豐富經(jīng)驗(yàn)。已為克州上千余家提供企業(yè)網(wǎng)站建設(shè)服務(wù)。企業(yè)網(wǎng)站搭建\成都外貿(mào)網(wǎng)站建設(shè)公司要多少錢，請(qǐng)找那個(gè)售后服務(wù)好的克州做網(wǎng)站的公司定做！

簡(jiǎn)介

asyncio可以實(shí)現(xiàn)單線程并發(fā)IO操作，是Python中常用的異步處理模塊。關(guān)于asyncio模塊的介紹，筆者會(huì)在后續(xù)的文章中加以介紹，本文將會(huì)講述一個(gè)基于asyncio實(shí)現(xiàn)的HTTP框架——aiohttp，它可以幫助我們異步地實(shí)現(xiàn)HTTP請(qǐng)求，從而使得我們的程序效率大大提高。

本文將會(huì)介紹aiohttp在爬蟲中的一個(gè)簡(jiǎn)單應(yīng)用。

在原來的項(xiàng)目中，我們是利用Python的爬蟲框架scrapy來爬取當(dāng)當(dāng)網(wǎng)圖書暢銷榜的圖書信息的。在本文中，筆者將會(huì)以兩種方式來制作爬蟲，比較同步爬蟲與異步爬蟲(利用aiohttp實(shí)現(xiàn))的效率，展示aiohttp在爬蟲方面的優(yōu)勢(shì)。

同步爬蟲

首先，我們先來看看用一般的方法實(shí)現(xiàn)的爬蟲，即同步方法，完整的Python代碼如下：

'''
同步方式爬取當(dāng)當(dāng)暢銷書的圖書信息
'''
import time
import requests
import pandas as pd
from bs4 import BeautifulSoup
# table表格用于儲(chǔ)存書本信息
table = []
# 處理網(wǎng)頁
def download(url):
html = requests.get(url).text
# 利用BeautifulSoup將獲取到的文本解析成HTML
soup = BeautifulSoup(html, "lxml")
# 獲取網(wǎng)頁中的暢銷書信息
book_list = soup.find('ul', class_="bang_list clearfix bang_list_mode")('li')
for book in book_list:
info = book.find_all('div')
# 獲取每本暢銷書的排名，名稱，評(píng)論數(shù)，作者，出版社
rank = info[0].text[0:-1]
name = info[2].text
comments = info[3].text.split('條')[0]
author = info[4].text
date_and_publisher = info[5].text.split()
publisher = date_and_publisher[1] if len(date_and_publisher) >= 2 else ''
# 將每本暢銷書的上述信息加入到table中
table.append([rank, name, comments, author, publisher])
# 全部網(wǎng)頁
urls = ['http://bang.dangdang.com/books/bestsellers/01.00.00.00.00.00-recent7-0-0-1-%d' % i for i in range(1, 26)]
# 統(tǒng)計(jì)該爬蟲的消耗時(shí)間
print('#' * 50)
t1 = time.time() # 開始時(shí)間
for url in urls:
download(url)
# 將table轉(zhuǎn)化為pandas中的DataFrame并保存為CSV格式的文件
df = pd.DataFrame(table, columns=['rank', 'name', 'comments', 'author', 'publisher'])
df.to_csv('E://douban/dangdang.csv', index=False)
t2 = time.time() # 結(jié)束時(shí)間
print('使用一般方法，總共耗時(shí)：%s' % (t2 - t1))
print('#' * 50)

輸出結(jié)果如下：

##################################################
使用一般方法，總共耗時(shí)：23.522345542907715
##################################################

程序運(yùn)行了23.5秒，爬取了500本書的信息，效率還是可以的。我們前往目錄中查看文件，如下：

異步爬蟲

接下來我們看看用aiohttp制作的異步爬蟲的效率，完整的源代碼如下：

'''
異步方式爬取當(dāng)當(dāng)暢銷書的圖書信息
'''
import time
import aiohttp
import asyncio
import pandas as pd
from bs4 import BeautifulSoup
# table表格用于儲(chǔ)存書本信息
table = []
# 獲取網(wǎng)頁（文本信息）
async def fetch(session, url):
async with session.get(url) as response:
return await response.text(encoding='gb18030')
# 解析網(wǎng)頁
async def parser(html):
# 利用BeautifulSoup將獲取到的文本解析成HTML
soup = BeautifulSoup(html, "lxml")
# 獲取網(wǎng)頁中的暢銷書信息
book_list = soup.find('ul', class_="bang_list clearfix bang_list_mode")('li')
for book in book_list:
info = book.find_all('div')
# 獲取每本暢銷書的排名，名稱，評(píng)論數(shù)，作者，出版社
rank = info[0].text[0:-1]
name = info[2].text
comments = info[3].text.split('條')[0]
author = info[4].text
date_and_publisher = info[5].text.split()
publisher = date_and_publisher[1] if len(date_and_publisher) >=2 else ''
# 將每本暢銷書的上述信息加入到table中
table.append([rank,name,comments,author,publisher])
# 處理網(wǎng)頁
async def download(url):
async with aiohttp.ClientSession() as session:
html = await fetch(session, url)
await parser(html)
# 全部網(wǎng)頁
urls = ['http://bang.dangdang.com/books/bestsellers/01.00.00.00.00.00-recent7-0-0-1-%d'%i for i in range(1,26)]
# 統(tǒng)計(jì)該爬蟲的消耗時(shí)間
print('#' * 50)
t1 = time.time() # 開始時(shí)間
# 利用asyncio模塊進(jìn)行異步IO處理
loop = asyncio.get_event_loop()
tasks = [asyncio.ensure_future(download(url)) for url in urls]
tasks = asyncio.gather(*tasks)
loop.run_until_complete(tasks)
# 將table轉(zhuǎn)化為pandas中的DataFrame并保存為CSV格式的文件
df = pd.DataFrame(table, columns=['rank','name','comments','author','publisher'])
df.to_csv('E://douban/dangdang.csv',index=False)
t2 = time.time() # 結(jié)束時(shí)間
print('使用aiohttp，總共耗時(shí)：%s' % (t2 - t1))
print('#' * 50)

我們可以看到，這個(gè)爬蟲與原先的一般方法的爬蟲的思路和處理方法基本一致，只是在處理HTTP請(qǐng)求時(shí)使用了aiohttp模塊以及在解析網(wǎng)頁時(shí)函數(shù)變成了協(xié)程(coroutine)，再利用aysncio進(jìn)行并發(fā)處理，這樣無疑能夠提升爬蟲的效率。它的運(yùn)行結(jié)果如下：

##################################################
使用aiohttp，總共耗時(shí)：2.405137538909912
##################################################

2.4秒，如此神奇！??！再來看看文件的內(nèi)容：

以上就是Python中怎么利用aiohttp制作一個(gè)異步爬蟲，小編相信有部分知識(shí)點(diǎn)可能是我們?nèi)粘９ぷ鲿?huì)見到或用到的。希望你能通過這篇文章學(xué)到更多知識(shí)。更多詳情敬請(qǐng)關(guān)注創(chuàng)新互聯(lián)成都網(wǎng)站設(shè)計(jì)公司行業(yè)資訊頻道。

另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內(nèi)外云服務(wù)器15元起步，三天無理由+7*72小時(shí)售后在線，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢(shì)，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應(yīng)用場(chǎng)景需求。

網(wǎng)站名稱：Python中怎么利用aiohttp制作一個(gè)異步爬蟲-創(chuàng)新互聯(lián)
當(dāng)前地址：http://jinyejixie.com/article32/dsidsc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站改版、網(wǎng)站設(shè)計(jì)、ChatGPT、自適應(yīng)網(wǎng)站、品牌網(wǎng)站設(shè)計(jì)、虛擬主機(jī)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)