如何用PHP做網(wǎng)絡(luò)爬蟲

其實(shí)用PHP來爬會非常方便，主要是PHP的正則表達(dá)式功能在搜集頁面連接方面很方便，另外PHP的fopen、file_get_contents以及l(fā)ibcur的函數(shù)非常方便的下載網(wǎng)頁內(nèi)容。

目前創(chuàng)新互聯(lián)公司已為1000多家的企業(yè)提供了網(wǎng)站建設(shè)、域名、雅安服務(wù)器托管、網(wǎng)站托管、服務(wù)器租用、企業(yè)網(wǎng)站設(shè)計(jì)、茌平網(wǎng)站維護(hù)等服務(wù)，公司將堅(jiān)持客戶導(dǎo)向、應(yīng)用為本的策略，正道將秉承"和諧、參與、激情"的文化，與客戶和合作伙伴齊心協(xié)力一起成長，共同發(fā)展。

具體處理方式就是建立就一個(gè)任務(wù)隊(duì)列，往隊(duì)列里面插入一些種子任務(wù)和可以開始爬行，爬行的過程就是循環(huán)的從隊(duì)列里面提取一個(gè)URL，打開后獲取連接插入隊(duì)列中，進(jìn)行相關(guān)的保存。隊(duì)列可以使用數(shù)組實(shí)現(xiàn)。

當(dāng)然PHP作為但線程的東西，慢慢爬還是可以，怕的就是有的URL打不開，會死在那里。

如何用php 編寫網(wǎng)絡(luò)爬蟲?

pcntl_fork或者swoole_process實(shí)現(xiàn)多進(jìn)程并發(fā)。按照每個(gè)網(wǎng)頁抓取耗時(shí)500ms，開200個(gè)進(jìn)程，可以實(shí)現(xiàn)每秒400個(gè)頁面的抓取。

curl實(shí)現(xiàn)頁面抓取，設(shè)置cookie可以實(shí)現(xiàn)模擬登錄

simple_html_dom 實(shí)現(xiàn)頁面的解析和DOM處理

如果想要模擬瀏覽器，可以使用casperJS。用swoole擴(kuò)展封裝一個(gè)服務(wù)接口給PHP層調(diào)用

在這里有一套爬蟲系統(tǒng)就是基于上述技術(shù)方案實(shí)現(xiàn)的，每天會抓取幾千萬個(gè)頁面。

PHP爬蟲和基于命令行的Python爬蟲有什么差別

php和python 寫爬蟲采集一些簡單的都可以，但是相對來說python更好，更方便，有很多現(xiàn)成的庫和方法支持直接解析網(wǎng)站，剖析你需要的數(shù)據(jù)，而php需要你大部分正則匹配，麻煩。

php中curl爬蟲 怎么樣通過網(wǎng)頁獲取所有鏈接

本文承接上面兩篇，本篇中的示例要調(diào)用到前兩篇中的函數(shù)，做一個(gè)簡單的URL采集。一般php采集網(wǎng)絡(luò)數(shù)據(jù)會用file_get_contents、file和cURL。不過據(jù)說cURL會比file_get_contents、file更快更專業(yè)，更適合采集。今天就試試用cURL來獲取網(wǎng)頁上的所有鏈接。示例如下：

?php

/*

* 使用curl 采集hao123.com下的所有鏈接。

*/

include_once('function.php');

$ch = curl_init();

curl_setopt($ch, CURLOPT_URL, '');

// 只需返回HTTP header

curl_setopt($ch, CURLOPT_HEADER, 1);

// 頁面內(nèi)容我們并不需要

// curl_setopt($ch, CURLOPT_NOBODY, 1);

// 返回結(jié)果，而不是輸出它

curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);

$html = curl_exec($ch);

$info = curl_getinfo($ch);

if ($html === false) {

echo "cURL Error: " . curl_error($ch);

}

curl_close($ch);

$linkarr = _striplinks($html);

// 主機(jī)部分，補(bǔ)全用

$host = '';

if (is_array($linkarr)) {

foreach ($linkarr as $k = $v) {

$linkresult[$k] = _expandlinks($v, $host);

}

}

printf("p此頁面的所有鏈接為：/ppre%s/pren", var_export($linkresult , true));

?

function.php內(nèi)容如下（即為上兩篇中兩個(gè)函數(shù)的合集）：

?php

function _striplinks($document) {

preg_match_all("'s*as.*?hrefs*=s*(["'])?(?(1) (.*?)\1 | ([^s]+))'isx", $document, $links);

// catenate the non-empty matches from the conditional subpattern

while (list($key, $val) = each($links[2])) {

if (!empty($val))

$match[] = $val;

} while (list($key, $val) = each($links[3])) {

if (!empty($val))

$match[] = $val;

}

// return the links

return $match;

}

/*===================================================================*

Function: _expandlinks

Purpose: expand each link into a fully qualified URL

Input: $links the links to qualify

$URI the full URI to get the base from

Output: $expandedLinks the expanded links

*===================================================================*/

function _expandlinks($links,$URI)

{

$URI_PARTS = parse_url($URI);

$host = $URI_PARTS["host"];

preg_match("/^[^?]+/",$URI,$match);

$match = preg_replace("|/[^/.]+.[^/.]+$|","",$match[0]);

$match = preg_replace("|/$|","",$match);

$match_part = parse_url($match);

$match_root =

$match_part["scheme"]."://".$match_part["host"];

$search = array( "|^http://".preg_quote($host)."|i",

"|^(/)|i",

"|^(?!http://)(?!mailto:)|i",

"|/./|",

"|/[^/]+/../|"

);

$replace = array( "",

$match_root."/",

$match."/",

"/",

"/"

);

$expandedLinks = preg_replace($search,$replace,$links);

return $expandedLinks;

}

?

php主要是做什么的

php主要的作用如下：

1、輔助開發(fā)，可以用php來輔助其他的東西來做開發(fā)，比如電子地圖。

2、開發(fā)框架，可以用php來開發(fā)框架，也可以用來完成軟件的建立。

3、網(wǎng)站，php最簡單的應(yīng)用就是制作網(wǎng)站，包括數(shù)據(jù)庫類操作、社區(qū)、系統(tǒng)和管理。

4、寫爬蟲，寫爬蟲也就是我們說的數(shù)據(jù)采集，雖然不是php的強(qiáng)項(xiàng)，但只要你的php技術(shù)足夠好，也是可以用php來寫的。

php一般考的證如下

1、Zend Certified Engineer：是美國Zend Technologies公司的PHP工程師認(rèn)證證書，而且這也是全球第一個(gè)PHP認(rèn)證考試，含金量最高。

2、PHP專業(yè)工程師聯(lián)合證：PHP專業(yè)工程師聯(lián)合證是國內(nèi)首個(gè)由業(yè)界名企業(yè)聯(lián)合簽發(fā)的PHP行業(yè)培訓(xùn)認(rèn)證考試，含金量較高，是一個(gè)較為權(quán)威的證件，但它需要經(jīng)過專業(yè)培訓(xùn)機(jī)構(gòu)培訓(xùn)后才能參與認(rèn)證。

3、國家教育部“崗位任職合格證書”：它是為社會培養(yǎng)實(shí)踐能力和管理能力結(jié)合的管理型技術(shù)人才為主要特色、全國性的培訓(xùn)認(rèn)證考試，認(rèn)證的英文縮寫是“SIC”，它的優(yōu)點(diǎn)是花費(fèi)小，缺點(diǎn)是耗時(shí)長。

當(dāng)前文章：Php數(shù)據(jù)采集爬蟲 php采集網(wǎng)頁數(shù)據(jù)
URL標(biāo)題：http://jinyejixie.com/article48/dodopep.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供定制網(wǎng)站、網(wǎng)站內(nèi)鏈、搜索引擎優(yōu)化、App開發(fā)、網(wǎng)站策劃、全網(wǎng)營銷推廣

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)