【SEO優(yōu)化推廣】:搜索引擎蜘蛛抓取配額是什么？
2016-11-12 分類： 網站建設
一月份時，Google新的SEO代言人Gary Illyes在Google官方博客上發(fā)了一篇帖子：What Crawl Budget Means for Googlebot，討論了搜索引擎蜘蛛抓取份額相關問題。對大中型網站來說，這是個頗為重要的SEO問題，有時候會成為網站自然流量的瓶頸。
的帖子總結一下Gary Illyes帖子里的以及后續(xù)跟進的很多博客、論壇帖子的主要內容，以及我自己的一些案例和理解。
強調一下，以下這些概念對百度同樣適用。
什么是搜索引擎蜘蛛抓取份額？顧名思義，抓取份額是搜索引擎蜘蛛花在一個網站上的抓取頁面的總的時間上限。對于特定網站，搜索引擎蜘蛛花在這個網站上的總成都SEO知識時間是相對固定的，不會無限制地抓取網站所有頁面。
抓取份額的英文Google用的是crawl budget，直譯是爬行預算，我覺得不太能說明是什么意思，所以用抓取份額表達這個概念。
抓取份額是由什么決定的呢？這牽扯到抓取需求和抓取速度限制。
抓取需求抓取需求，crawl demand，指的是搜索引擎“想”抓取特定網站多少頁面。
決定抓取需求的主要有兩個因素。一是頁面權重，網站上有多少頁面達到了基本頁面權重，搜索引擎就想抓取多少頁面。二是索引庫里頁面是否太久沒更新了。說到底還是頁面權重，權重高的頁面就不會太久不更新。
頁面權重和網站權重又是息息相關的，提高網站權重，就能使搜索引擎愿意多抓取頁面。
抓取速度限制搜索引擎蜘蛛不會為了抓取更多頁面，把人家網站服務器拖垮，所以對某個網站都會設定一個抓取速度的上限，crawl rate limit，也就是服務器能承受的上限，在這個速度限制內，蜘蛛抓取不會拖慢服務器、影響用戶訪問。
服務器反應速度夠快，這個速度限制就上調一點，抓取加快，服務器反應速度下降，速度限制跟著下降，抓取減慢，甚至停止抓取。
所以，抓取速度限制是搜索引擎“能”抓取的頁面數(shù)。
抓取份額是由什么決定的？抓取份額是考慮抓取需求和抓取速度限制兩者之后的結果，也就是搜索引擎“想”抓，同時又“能”抓的頁面數(shù)。
網站權重高，頁面內容質量高，頁面夠多，服務器速度夠快，抓取份額就大。
小網站沒必要擔心抓取份額小網站頁面數(shù)少，即使網站權重再低，服務器再慢，每天搜索引擎蜘蛛抓取的再少，通常至少也能抓個幾百頁，十幾天怎么也全站抓取一遍了，所以幾千個頁面的網站根本不用擔心抓取份額的事。數(shù)萬個頁面的網站一般也不是什么大事。每天幾百個訪問要是能拖慢服務器，SEO就不是主要需要考慮的事了。
大中型網站可能需要考慮抓取份額幾十萬頁以上的大中型網站，可能要考慮抓取份額夠不夠的問題。
抓取份額不夠，比如網站有1千萬頁面，搜索引擎每天只能抓幾萬個頁面，那么把網站抓一遍可能需要幾個月，甚至一年，也可能意味著一些重要頁面沒辦法被抓取，所以也就沒排名，或者重要頁面不能及時被更新。
要想網站頁面被及時、充分抓取，首先要保證服務器夠快，頁面夠小。如果網站有海量高質量數(shù)據(jù)，抓取份額將受限于抓取速度，提高頁面速度直接提高抓取速度限制，因而提高抓取份額。
百度站長平臺和Google Search Console都有抓取數(shù)據(jù)。如下圖某網站百度抓取頻次：
上圖是SEO每天一貼這種級別的小網站，頁面抓取頻次和抓取時間（取決于服務器速度和頁面大?。]有什么大關系，說明沒有用完抓取份額，不用擔心。
有的時候，抓取頻次和抓取時間是有某種對應關系的，如下圖另一個大些的網站：
可以看到，抓取時間改善（減小頁面尺寸、提高服務器速度、優(yōu)化數(shù)據(jù)庫），明顯導致抓取頻次上升，使更多頁面被抓取收錄，遍歷一遍網站更快速。
Google Search Console里更大點站的例子：
最上面的是抓取頁面數(shù)，中間的是抓取數(shù)據(jù)量，除非服務器出錯，這兩個應該是對應的。最下面的是頁面抓取時間?？梢钥吹?，頁面下載速度夠快，每天抓取上百萬頁是沒有問題的。
當然，像前面說的，能抓上百萬頁是一方面，搜索引擎想不想抓是另一方面。
大型網站另一個經常需要考慮抓取份額的原因是，不要把有限的抓取份額浪費在無意義的頁面抓取上，導致應該被抓取的重要頁面卻沒有機會被抓取。
浪費抓取份額的典型頁面有：
大量過濾篩選頁面。這一點，幾年前關于無效URL爬行索引的帖子里有詳細討論。站內復制內容低質、垃圾內容日歷之類的無限個頁面上面這些頁面被大量抓取，可能用完抓取份額，該抓的頁面卻沒抓。
怎樣節(jié)省抓取份額？當然首先是降低頁面文件大小，提高服務器速度，優(yōu)化數(shù)據(jù)庫，降低抓取時間。
然后，盡量避免上面列出的浪費抓取份額的東西。有的是內容質量問題，有的是網站結構問題，如果是結構問題，最簡單的辦法是robots文件禁止抓取，但多少會浪費些頁面權重，因為權重只進不出。
某些情況下使用鏈接nofollow屬性可以節(jié)省抓取份額。小網站，由于抓取份額用不完，加nofollow是沒有意義的。大網站，nofollow是可以在一定程度上控制權重流動和分配的，精心設計的nofollow會使無意義頁面權重降低，提升重要頁面權重。搜索引擎抓取時會使用一個URL抓取列表，里面待抓URL是按頁面權重排序的，重要頁面權重提升，會先被抓取，無意義頁面權重可能低到搜索引擎不想抓取。
最后幾個說明：
版權屬于: 中新虛擬主機
版權所有。轉載時必須以鏈接形式注明作者和原始出處及本聲明。SEO整理分享！
網頁名稱：【SEO優(yōu)化推廣】:搜索引擎蜘蛛抓取配額是什么？
鏈接分享：http://jinyejixie.com/news/66564.html
成都網站建設公司_創(chuàng)新互聯(lián)，為您提供云服務器、網站設計、做網站、靜態(tài)網站、Google、網站設計公司
聲明：本網站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)
猜你還喜歡下面的內容
- 攝影網站開發(fā)中所需要注意的環(huán)節(jié)由哪些 2016-11-11
- 網站開發(fā)對于企業(yè)發(fā)展方面有什么幫助呢 2016-11-11
- 網站開發(fā)都要有哪些流程 2016-11-11
- 酒店網站開發(fā)需要多少錢？ 2016-11-11
- 網站二次開發(fā)都有哪些優(yōu)勢 2016-11-11
- 如何開發(fā)一個企業(yè)需要的網站 2016-11-11
- 外貿網站開發(fā)整體要求都需要注意那些呢 2016-11-11
- 企業(yè)對于網站開發(fā)持有了解的原因是什么 2016-11-11
- 企業(yè)網站做優(yōu)化的難易程度都與什么有關？ 2016-11-12
- 教育類網站開發(fā)主要方向及價值所體現(xiàn)的具體關鍵點是什么 2016-11-11
- 宣傳網站開發(fā)需要注意什么 2016-11-11
- 如何設計一個優(yōu)秀的企業(yè)網站？ 2016-11-13
- 藝術品收藏網站開發(fā)的價值在哪里呢 2016-11-11
- 什么樣的網站才是企業(yè)需要的網站？ 2016-11-11
- 網站開發(fā)中對于頁面的設計理念應該怎么來看 2016-11-13
- 企業(yè)如何判斷網站開發(fā)費用是貴了還是便宜了 2016-11-11
- 為什么企業(yè)開發(fā)網站大多數(shù)都找的網站開發(fā)公司 2016-11-11
- 網站開發(fā)中主要的頁面元素從哪里提取呢 2016-11-11
- 企業(yè)對于網站開發(fā)后期的維護是怎么來看的 2016-11-11