發(fā)布者:大尋網(wǎng)絡(luò)|TIME : 2017-01-02
廈門網(wǎng)站建設(shè):為什么網(wǎng)站要寫robots協(xié)議
robot協(xié)議
與百度抓取的協(xié)議,此文件是百度蜘蛛第一個抓取的文件??梢远x搜索引擎抓取哪些部分,不能抓取哪些部分。
特殊符號及常用詞組
/;代表根目錄 *:可代替多個字符 $:終止
Disallow 禁止搜索引擎抓取部分
Allow 允許搜索引擎抓取
User-agent 定義搜索引擎
編寫格式
頂頭大寫 全英文狀態(tài)編寫 冒號后的空格要注意!
Disallow: /
對于圖片的抓取設(shè)置編寫
Disallow: /*jpeg$
動態(tài)鏈接*來代替編碼
Disallow: /*?*
robots作為網(wǎng)站與百度接觸的第一個文件,重要程度可見一斑。是網(wǎng)站優(yōu)化的第一步,讓百度的收錄我們要他收錄的內(nèi)容,這是我們在優(yōu)化上做到的最大程度的主動。(廈門網(wǎng)站建設(shè)文章來自百度新聞)
聯(lián)系地址:廈門市軟件園二期望海路19號之二502-1
電話:0592-5786385
傳真:0592-5786385
QQ:413141903