成人午夜视频全免费观看高清-秋霞福利视频一区二区三区-国产精品久久久久电影小说-亚洲不卡区三一区三区一区

常見的搜索引擎蜘蛛

2020-01-18    分類: 網(wǎng)站建設(shè)

SEO,一定要知道搜索引擎,搜索引擎用來爬行和訪問頁面的程序被稱為蜘蛛(spider),也稱為機器人(bot)。 搜索引擎蜘蛛訪問網(wǎng)站頁面時類似于普通用戶使用的瀏覽器。蜘蛛程序發(fā)出頁面訪問 請求后,服務(wù)器返回HTML代碼,蜘蛛程序把收到的代碼存入原始頁面數(shù)據(jù)庫。搜索引擎 為了提高爬行和抓取速度,都使用多個蜘蛛并發(fā)分布爬行。

蝴蛛訪問任何一個網(wǎng)站時,都會先訪問網(wǎng)站根目錄下的robots.txt文件。如果robots.txt 文件禁止搜索引擎抓取某些文件或目錄,蜘蛛將遵守協(xié)議,不抓取被禁止的網(wǎng)址。

和瀏覽器一樣,搜索引擎蜘蛛也有標明自己身份的代理名稱,站長可以在日志文件中 看到搜索引擎的特定代理名稱,從而辨識搜索引擎蜘蛛。下面列出常見的搜索引擎蜘蛛 名稱:

? Baiduspider+(+http://www.baidu.com/search/spider.htm)百度蝴蛛

? Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html) 雅虎中國蜘蛛

? Mozilla/5.0 (compatible; Yahoo! Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp) 英文雅虎蜘蛛

? Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html) Google 蝴蛛

? msnbot/1.1 (+http://search.msn.com/msnbot.htm)微軟 Bing 蝴蛛

? Sogou+web+robot+(+http://www.sogou.com/docs/help/webmasters.htm#07)搜狗蝴蛛

? Sosospider+(+http://help.soso.com/webspider.htm)搜搜蝴蛛

? Mozilla/5.0 (compatible; YodaoBot/1.0; http://www.yodao.com/help/webmaster/spider/;) 有道蜘蛛

網(wǎng)站標題:常見的搜索引擎蜘蛛
分享URL:http://jinyejixie.com/news20/81220.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供定制網(wǎng)站、ChatGPT、網(wǎng)頁設(shè)計公司、網(wǎng)站維護、關(guān)鍵詞優(yōu)化靜態(tài)網(wǎng)站

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

網(wǎng)站建設(shè)網(wǎng)站維護公司
新邵县| 威宁| 巫山县| 沅江市| 南郑县| 巴彦县| 长武县| 商都县| 隆回县| 唐河县| 四子王旗| 巫溪县| 准格尔旗| 深水埗区| 铜山县| 贞丰县| 武川县| 宜城市| 阿尔山市| 图木舒克市| 辽阳县| 米易县| 东港市| 石林| 衡东县| 洪洞县| 利川市| 上虞市| 登封市| 左贡县| 安吉县| 凌云县| 蓝田县| 保亭| 怀安县| 崇义县| 儋州市| 措勤县| 莎车县| 工布江达县| 廊坊市|