沈陽SEO

你也許并不希望你網(wǎng)站的一些頁面被抓取到，因為如果它們出現(xiàn)在搜索結(jié)果里對用戶可能是沒多大意義的。如果你想阻止搜索引擎爬取你的網(wǎng)頁，Google網(wǎng)站管理員工具有一個很好用的robots.txt生成器來幫助你創(chuàng)建這個文件。另外如果你希望子域名里的一些內(nèi)容不被爬取，你需要在子域名的目錄下再新建一個robots.txt文件。你也可以在我們的網(wǎng)站管理員幫助中心獲得更多robots.txt的信息。關(guān)于

這里也有其它更便捷的方式來阻止你的內(nèi)容出現(xiàn)在搜索結(jié)果里，比如說在robots meta標簽里添加”NOINDEX”，使用htaccess來為一些目錄加密或者使用Google網(wǎng)站管理員工具來移除某些已經(jīng)被索引的內(nèi)容。Google工程師 Matt Cutts一個幫助視頻里粗略地介紹了各種URL排除原理的注意事項。

robots.txt實踐經(jīng)驗   

1、為那些敏感的內(nèi)容使用更加安全的方案——通過robots.txt來阻止一些敏感或者機密的內(nèi)容。之所以這樣做的是因為如果那些你在robots.txt里阻止的鏈接出現(xiàn)互聯(lián)網(wǎng)上（比如說來源記錄），搜索引擎就很可能引用這些URLs（不過僅難是URL，不會含有標題或者內(nèi)容片段）。還有一些不遵守機器人排除標準的流氓搜索引擎則會違背robots.txt上的指令。最后一些好奇的用戶就會去查看你robots.txt是聲明阻止的目錄或者子目錄，并猜測那些你不想被看到的內(nèi)容。所以對內(nèi)容加密或者通過 .htaccess實現(xiàn)密碼保護會是更安全的選擇。當然你需要避免：
    ·允許看起來像搜索結(jié)果一樣的頁面被爬取。（用戶并不喜歡扔給自己一張搜索頁面，全是一些沒有多大意義的結(jié)果。）
    ·允許大量的自動生成的頁面被抓取，而里面大多都是相同或者差異甚微的內(nèi)容。“像這些100000張幾乎像復(fù)制的頁面被搜索引擎索引了有多大意義呢？”
    ·允許代理服務(wù)器創(chuàng)建的URLs被爬取