很多朋友在剛做爬蟲的時候會遇到一個問題，明明我已經(jīng)使用爬蟲代理ip了，開開心心地去抓取某一個網(wǎng)站，正想去泡一杯咖啡，發(fā)現(xiàn)爬蟲程序終止了， 一查，真實ip被封了，這時候會非常納悶，我明明用了代理ip了啊，為什么我的真實IP還是會被封呢？是不是IP質(zhì)量與問題？我被代理IP提供商給欺騙了？

成都創(chuàng)新互聯(lián)公司是一家專注于成都網(wǎng)站建設(shè)、網(wǎng)站設(shè)計與策劃設(shè)計,馬關(guān)網(wǎng)站建設(shè)哪家好?成都創(chuàng)新互聯(lián)公司做網(wǎng)站,專注于網(wǎng)站建設(shè)十余年,網(wǎng)設(shè)計領(lǐng)域的專業(yè)建站公司;建站業(yè)務(wù)涵蓋:馬關(guān)等地區(qū)。馬關(guān)做網(wǎng)站價格咨詢:18980820575

當(dāng)然不排除這個可能，比如使用透明代理，目標(biāo)服務(wù)器明確知道你使用了代理，也能知道你的真實IP,當(dāng)然會被封禁；又如普匿代理，目標(biāo)服務(wù)器知道你是一只披著羊皮的狼，當(dāng)然也會封禁你的真實IP；而如果使用高匿代理ip,高匿ip代理則是和正常家庭上網(wǎng)一樣，沒有什么區(qū)別。如果使用透明代理、普匿代理被目標(biāo)服務(wù)器識別后被封IP，那應(yīng)該就是代理IP的質(zhì)量不行。但是，使用高匿代理IP后，還是被封IP，這到底是怎么回事呢？

首先我們要清楚地知道，爬蟲程序為什么需要代理IP？代理IP有什么作用？代理IP的原理是什么？之所以需要代理IP，是因為單IP頻繁的爬取某個目標(biāo)服務(wù)器，會對服務(wù)器造成巨大負載，服務(wù)器自然要作出一定的限制（限制訪問頻率或者限制訪問次數(shù)，其根本是減少服務(wù)器壓力），那如果超出限制的頻率或者次數(shù)呢，反爬程序就會工作，比如把這個IP封禁，或者把整段IP進行封禁。而代理IP的作用就是代替被封的IP繼續(xù)爬取，當(dāng)?shù)竭_了那個閾值時，這個代理IP一樣會被封的，然后封了一個代理IP，還有千千萬萬個代理IP，前仆后繼，只為完成爬取任務(wù)。由此可見，代理IP被封是很正常的，很多朋友認為，我用了代理IP，為什么要封我，我是不是買了個垃圾IP代理？然后就來找客服投訴，說自己被騙了，要求退款。

其實封IP有很多種原因，上面那種被封情況是不可避免的，并不是使用了代理IP就不會被封了。但也有不正常被封的，比如使用了“垃圾代理”（透明代理）。還有使用了高匿代理ip，也沒有爬取幾次就被封了的情況，這是為什么呢？那是因為沒有很好的模擬人工訪問服務(wù)器的行為，也就是說爬取策略不當(dāng)，比如沒有清除cookie等原因，也有可能是目標(biāo)服務(wù)器的反爬策略升級了，代理IP被封的原因有很多種，而找出原因，讓每個代理IP能發(fā)揮出最大的作用則是爬蟲工作者的工作職責(zé)，也就是升級爬蟲策略。

上文中我們提到，當(dāng)超出限制的頻率或者次數(shù)呢，反爬程序就會工作，比如把這個IP封禁，或者把整段IP進行封禁。這也就是為什么有些代理IP可用率低的原因，因為當(dāng)某個IP段被封禁后，你撥出的下一個IP也是被封禁的，所以不可用，造成整體IP可用率很低，浪費很多時間，這是為什么呢？

因為很多ADSL撥號的代理IP，撥出來的IP是連號的， 這樣的IP顯得很假，跟正常用戶訪問的區(qū)別也很大，所以會有很多反爬程序會設(shè)置封禁整段IP地址，造成批量IP不可用，所以最好的IP資源是IP分散分布的不連號的，能夠有效地提高各項業(yè)務(wù)的效率。

本文標(biāo)題：文章正在審核中為什么使用了爬蟲代理ip,真實IP還是被封禁了？
文章地址：http://jinyejixie.com/article38/gdjdpp.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供外貿(mào)建站、手機網(wǎng)站建設(shè)、網(wǎng)站營銷、電子商務(wù)、App設(shè)計、Google

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)