本篇分享的是廈門(mén)中恒公司SEO團(tuán)隊(duì)里的一位站長(zhǎng)的親身經(jīng)歷，下面是他的自述：

　　在之前自己廈門(mén)SEO博客經(jīng)過(guò)了多次改版，想要利用robots.txt來(lái)屏蔽了一些頁(yè)面的收錄，來(lái)防止重復(fù)頁(yè)面的產(chǎn)生，本來(lái)wordpress就自帶了很多頁(yè)面，就會(huì)導(dǎo)致非常多的重復(fù)頁(yè)面，就算你只有一片文章，wordpress也會(huì)給你生成許多頁(yè)面，但是內(nèi)容都幾乎相同，只是聚合的因子不同，這樣就對(duì)我們做SEO造成了不小的影響，新站上線，就很有可能導(dǎo)致被搜索引擎K掉，或者權(quán)重難以提升，今天廈門(mén)SEO就給大家說(shuō)說(shuō)如何利用robots來(lái)屏蔽掉一些頁(yè)面，控制搜索引擎的爬取。

　　今日從新列舉一下常見(jiàn)的robots.txt實(shí)際使役中的誤區(qū)：

　　誤區(qū)1：Allow包含的范圍超過(guò)Disallow，而且位置在Disallow面前。

　　譬如有眾多人這么寫(xiě)：

　　User-agent： *

　　Allow： /

　　Disallow： /mulu/

　　想讓所有蜘蛛抓取本站除/mulu/下邊的url以外的所有頁(yè)面，禁阻抓取/mulu/下邊的所有url。

　　搜引得擎蜘蛛執(zhí)行的規(guī)則是從上到下，這么會(huì)導(dǎo)致第二句命令無(wú)效。也就是說(shuō)禁阻抓取/mulu/目次這條規(guī)則是無(wú)效的。不錯(cuò)的是Disallow應(yīng)當(dāng)在Allow之上，這么才會(huì)生效。

　　誤區(qū)2：.Disallow命令和Allow命令然后沒(méi)有以斜杠”/”開(kāi)頭。

　　這個(gè)也很容易被偏廢，譬如有人這么寫(xiě)Disallow： 123.html ，這種是沒(méi)管用的。斜杠”/”表達(dá)的是文件對(duì)于根目次的位置，假如不帶的話，灑脫無(wú)法判斷url是哪個(gè)，所以是不對(duì)的。

　　正確的應(yīng)當(dāng)是Disallow： /123.html，這么能力屏蔽/123.html這個(gè)文件，這條規(guī)則能力生效。

　　誤區(qū)3.：屏蔽的目次后沒(méi)有帶斜杠”/”。

　　也就是譬如想屏蔽抓取/mulu/這個(gè)目次，有點(diǎn)人這么寫(xiě)Disallow： /mulu。那么這么是否正確呢？

　　首先這么寫(xiě)（Disallow： /mulu）委實(shí)可以屏蔽/mulu/下邊的所有url，然而同時(shí)也屏蔽了類(lèi)似/mulu123.html這種開(kāi)頭為/mulu的所有頁(yè)面，效果等同于Disallow： /mulu*。

　　正確的做法是，假如只想屏蔽目次，那么務(wù)必在結(jié)尾帶上斜杠”/”。

　　看到這里，不知道大家對(duì)robots.txt有沒(méi)有一個(gè)深刻一些的認(rèn)識(shí)呢？之前自己廈門(mén)SEO博客改版，因?yàn)樾薷膔obots.txt導(dǎo)致了搜索引擎不收錄，其實(shí)最根本的原因還是因?yàn)轭l繁修改robots.txt造成的，所以robots.txt最好建站初期就設(shè)定好，然后盡量少修改，不然會(huì)造成搜索引擎的不信任。