robots.txt文件同時也有一定的風險，里面的隱私文檔最好不要寫在里面，否則的話容易給攻擊者指明了網(wǎng)站的目錄結(jié)構(gòu)和私密數(shù)據(jù)所在的位置。設(shè)置訪問權(quán)限，對您的隱私內(nèi)容實施密碼保護，這樣，攻擊者便無從進入。

　　1)robots.txt必須放置在站點的根目錄下，而且文件名必須全部小寫。

　　2)不要在robots.txt文件中設(shè)置所有的文件都可以被搜索蜘蛛抓取。

　　3)為安全考慮，建議很重要的文件夾不要寫在robots.txt文件中。

　　常見搜索引擎蜘蛛Robots名字：

　　百度Baiduspider ：http://www.baidu.com

　　360搜索360Spider：https://www.so.com/

　　SOSOSosospider：https://www.sogou.com/

　　有道YoudaoBot/YodaoBot：http://www.yodao.com/

　　搜狗Sogou News Spider：https://www.sogou.com/

　　MSNmsnbot/msnbot-media：http://www.msn.com/zh-cn

　　谷歌Googlebot ：http://www.google.com

　　雅虎Inktomi Slurp ：http://www.yahoo.com

　　必應(yīng)MSNBOT ：http://search.msn.com

網(wǎng)站題目：robots.txt使用時的注意事項
網(wǎng)站鏈接：http://jinyejixie.com/news7/162557.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供虛擬主機、動態(tài)網(wǎng)站、品牌網(wǎng)站制作、營銷型網(wǎng)站建設(shè)、Google、網(wǎng)站制作

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)