一個(gè)網(wǎng)站如果”/robots.txt”不存在或者為空文件，那么說(shuō)明此網(wǎng)站對(duì)于所有的搜索引擎robot，該網(wǎng)站都是開(kāi)放的。


從京東和淘寶的robots.txt文件協(xié)議來(lái)看，robots.txt文件要講究語(yǔ)法的.
三個(gè)語(yǔ)法
1、User-agent ——用于描述搜索引擎robot的名字，定義搜索引擎類(lèi)型。
2、Disallow ——不希望被訪(fǎng)問(wèn)的一組URL,定義禁止抓取收錄地址。
3、Allow——希望被訪(fǎng)問(wèn)的一組UR。
a、  *      匹配0或多個(gè)任意字符。
b、  $      結(jié)束符。 

首先寫(xiě)User-agent：
A、U必須大寫(xiě)，后面的小寫(xiě)，緊接著冒號(hào) ——這里還要注意一點(diǎn)：輸入法必須調(diào)成英文狀態(tài)，都是英文狀態(tài)下的）
B、空一格再定義搜索引擎類(lèi)型。比如定義百度蜘蛛


再寫(xiě)
Disallow ——不希望被訪(fǎng)問(wèn)的一組URL,定義禁止抓取收錄地址，或 Allow——希望被訪(fǎng)問(wèn)的一組UR。
Disallow: /(空一格，一撇)
Allow: /(空一格，一撇)

舉例：

1. 禁止所有搜索引擎訪(fǎng)問(wèn)網(wǎng)站的任何部分

User-agent: *

Disallow: /

2. 僅禁止Baiduspider訪(fǎng)問(wèn)您的網(wǎng)站

User-agent: Baiduspider

Disallow: /

3.禁止Google索引你的網(wǎng)站。

User-agent: Googlebot

Disallow: /

4.除了百度以外，其他一切搜索引擎禁止索引你的網(wǎng)站。

User-agent: Baiduspider

Allow: /

User-agent: *

Disallow: /

5. 禁止所有搜索引擎訪(fǎng)問(wèn)install這個(gè)目錄以及install這個(gè)目錄下的所有文件

User-agent: *

Disallow: /install

6.禁止百度搜索引擎訪(fǎng)問(wèn)admin目錄；允許訪(fǎng)問(wèn)images目錄。

User-agent: Baiduspider

Disallow: /admin

Allow: /images

7.禁止百度搜索引擎訪(fǎng)問(wèn)網(wǎng)站所有.jpg的圖片

User-agent: Baiduspider

Disallow: /*.jpg$

8.禁止百度搜索引擎訪(fǎng)問(wèn)網(wǎng)站所有的圖片

User-agent: Baiduspider

Disallow: /*.jpg$

Disallow: /*.png$

Disallow: /*.gif$

9.禁止所有搜索引擎訪(fǎng)問(wèn)admin目錄下所有php文件；允許訪(fǎng)問(wèn)asp文件。

User-agent: *

Disallow: /admin/*.php$

Allow: /admin/*.asp$

10.禁止所有搜索引擎索引網(wǎng)站中所有的動(dòng)態(tài)路徑。

User-agent: *

Disallow: /*?*

重點(diǎn)區(qū)分以下兩種：

a、禁止搜索引擎訪(fǎng)問(wèn)faq目錄下的所有文件

User-agent: *

Disallow: /faq/     

例1：http://m.boundlesssupremacy.com/faq/1.html 不能訪(fǎng)問(wèn)

例2：http://m.boundlesssupremacy.com/faq1.html 能訪(fǎng)問(wèn)

b、禁止搜索引擎訪(fǎng)問(wèn)以faq開(kāi)頭的所有文件

User-agent: *

Disallow: /faq

例1：http://m.boundlesssupremacy.com/faq/1.html 不能訪(fǎng)問(wèn)

例2：http://m.boundlesssupremacy.com/faq1.html 不能訪(fǎng)問(wèn)