很多剛接觸SEO的朋友還不怎么了解robots是什么，其實(shí)robots是一個(gè)跟目錄文件，雖然操作和用處極為簡單，但是它在SEO優(yōu)化推廣中的有著至關(guān)重要的意義。

它的用處就是指定哪些搜索引擎蜘蛛可以抓取內(nèi)容，以及禁止搜索引擎蜘蛛抓取網(wǎng)站的部分或全部內(nèi)容?？吹竭@里想必已經(jīng)明白了吧，就是說不小心禁止某個(gè)搜索引擎抓?。ū热绨俣龋?，那么在這搜索引擎上就不會有收錄更別說排名了，也就搜索不到網(wǎng)站里面的任何內(nèi)容。

那么怎么使用呢？

Robots.txt 文件放在網(wǎng)站根目錄下，并且該文件是可以通過互聯(lián)網(wǎng)進(jìn)行訪問的。 該文件必須能夠通過 打開并看到里面的內(nèi)容。

如果要調(diào)整改動就需要通過FTP鏈接服務(wù)器進(jìn)行改動了，云主機(jī)可以通過遠(yuǎn)程桌面直接修改，有些主機(jī)供應(yīng)商的管理后臺有支持文件控制的也可以直接操作修改。

里面涉及到的幾個(gè)點(diǎn)分別是【User-agent】【Disallow】【Allow】【Sitemap】

User-agent：用于描述搜索引擎robot的名字，在"robots.txt"文件中，如果有多條User-agent記錄說明有多個(gè)robot會受到該協(xié)議的限制，對該文件來說，至少要有一條User-agent記錄。如果該項(xiàng)的值設(shè)為*，則該協(xié)議對任何機(jī)器人均有效，在"robots.txt"文件中，"User-agent:*"這樣的記錄只能有一條。

Disallow：用于描述不希望被訪問到的一個(gè)URL，這個(gè)URL可以是一條完整的路徑，也可以是部分的，任何以Disallow開頭的URL均不會被robot訪問到。

標(biāo)題名稱：SEO優(yōu)化中Robots的設(shè)置至關(guān)重要
路徑分享：http://jinyejixie.com/news/60970.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站維護(hù)、品牌網(wǎng)站建設(shè)、網(wǎng)站制作、App開發(fā)、App設(shè)計(jì)、用戶體驗(yàn)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)