好程序員 Python 學(xué)習(xí)路線之 python 爬蟲入門 ， 隨著網(wǎng)絡(luò)的迅速發(fā)展，萬(wàn)維網(wǎng)成為大量信息的載體，如何有效地提取并利用這些信息成為一個(gè)巨大的挑戰(zhàn)。搜索引擎 (Search Engine) ，例如傳統(tǒng)的通用搜索引擎 AltaVista ， Yahoo! 和 Google 等，作為一個(gè)輔助人們檢索信息的工具成為用戶訪問(wèn)萬(wàn)維網(wǎng)的入口和指南。但是，這些通用性搜索引擎也存在著一定的局限性 .

創(chuàng)新互聯(lián)公司長(zhǎng)期為數(shù)千家客戶提供的網(wǎng)站建設(shè)服務(wù)，團(tuán)隊(duì)從業(yè)經(jīng)驗(yàn)10年，關(guān)注不同地域、不同群體，并針對(duì)不同對(duì)象提供差異化的產(chǎn)品和服務(wù)；打造開放共贏平臺(tái)，與合作伙伴共同營(yíng)造健康的互聯(lián)網(wǎng)生態(tài)環(huán)境。為芒康企業(yè)提供專業(yè)的成都做網(wǎng)站、網(wǎng)站制作，芒康網(wǎng)站改版等技術(shù)服務(wù)。擁有十年豐富建站經(jīng)驗(yàn)和眾多成功案例,為您定制開發(fā)。

　　 1. 什么是爬蟲，即網(wǎng)絡(luò)爬蟲，大家可以理解為在網(wǎng)絡(luò)上爬行的一直蜘蛛，互聯(lián)網(wǎng)就比作一張大網(wǎng)，而爬蟲便是在這張網(wǎng)上爬來(lái)爬去的蜘蛛咯，如果它遇到資源，那么它就會(huì)抓取下來(lái)。想抓取什么？這個(gè)由你來(lái)控制它咯。

　　 比如它在抓取一個(gè)網(wǎng)頁(yè)，在這個(gè)網(wǎng)中他發(fā)現(xiàn)了一條道路，其實(shí)就是指向網(wǎng)頁(yè)的超鏈接，那么它就可以爬到另一張網(wǎng)上來(lái)獲取數(shù)據(jù)。這樣，整個(gè)連在一起的大網(wǎng)對(duì)這之蜘蛛來(lái)說(shuō)觸手可及，分分鐘爬下來(lái)不是事兒。

　　 2. 瀏覽網(wǎng)頁(yè)的過(guò)程

　　 在用戶瀏覽網(wǎng)頁(yè)的過(guò)程中，我們可能會(huì)看到許多好看的圖片，我們會(huì)看到幾張的圖片以及百度搜索框，這個(gè)過(guò)程其實(shí)就是用戶輸入網(wǎng)址之后，經(jīng)過(guò) DNS 服務(wù)器，找到服務(wù)器主機(jī)，向服務(wù)器發(fā)出一個(gè)請(qǐng)求，服務(wù)器經(jīng)過(guò)解析之后，發(fā)送給用戶的瀏覽器 HTML 、 JS 、 CSS 等文件，瀏覽器解析出來(lái)，用戶便可以看到形形色色的圖片了。

　　 因此，用戶看到的網(wǎng)頁(yè)實(shí)質(zhì)是由 HTML 代碼構(gòu)成的，爬蟲爬來(lái)的便是這些內(nèi)容，通過(guò)分析和過(guò)濾這些 HTML 代碼，實(shí)現(xiàn)對(duì)圖片、文字等資源的獲取。

　　 3.URL 的含義

　　 URL ，即統(tǒng)一資源定位符，也就是我們說(shuō)的網(wǎng)址，統(tǒng)一資源定位符是對(duì)可以從互聯(lián)網(wǎng)上得到的資源的位置和訪問(wèn)方法的一種簡(jiǎn)潔的表示，是互聯(lián)網(wǎng)上標(biāo)準(zhǔn)資源的地址?；ヂ?lián)網(wǎng)上的每個(gè)文件都有一個(gè)唯一的 URL ，它包含的信息指出文件的位置以及瀏覽器應(yīng)該怎么處理它。

　　 URL 的格式由三部分組成：

　　 ①第一部分是協(xié)議 ( 或稱為服務(wù)方式 ) 。

　　 ②第二部分是存有該資源的主機(jī) IP 地址 ( 有時(shí)也包括端口號(hào) ) 。

　　 ③第三部分是主機(jī)資源的具體地址，如目錄和文件名等。

　　 爬蟲爬取數(shù)據(jù)時(shí)必須要有一個(gè)目標(biāo)的 URL 才可以獲取數(shù)據(jù)，因此，它是爬蟲獲取數(shù)據(jù)的基本依據(jù)，準(zhǔn)確理解它的含義對(duì)爬蟲學(xué)習(xí)有很大幫助。

　　 4. 環(huán)境的配置

　　 學(xué)習(xí) Python ，當(dāng)然少不了環(huán)境的配置，最初我用的是 Notepad++ ，不過(guò)發(fā)現(xiàn)它的提示功能實(shí)在是太弱了，于是，在 Windows 下我用了 PyCharm ，在 Linux 下我用了 Eclipse for Python ，另外還有幾款比較優(yōu)秀的 IDE.

文章名稱：好程序員Python學(xué)習(xí)路線之python爬蟲入門-創(chuàng)新互聯(lián)
文章鏈接：http://jinyejixie.com/article42/cshhec.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供手機(jī)網(wǎng)站建設(shè)、自適應(yīng)網(wǎng)站、網(wǎng)站營(yíng)銷、網(wǎng)站設(shè)計(jì)、服務(wù)器托管、外貿(mào)網(wǎng)站建設(shè)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)