神目

慧眼看世界 - 一个值得收藏的网站

当前位置：首页 » 神目笔记 » 正文

禁止搜索引擎收录网站文章的一些技巧

747 人参与 2022年07月17日 00:55 分类 : 神目笔记评论

1. 我在robots.txt中设置了禁止百度收录我网站的内容，为何还出现在百度搜索结果中？如果其他网站链接了您robots.txt文件中设置的禁止收录的网页，那么这些网页仍然可能会出现在百度的搜索结果中，但您的网页上的内容不会被抓取、建入索引和显示，百度搜索结果中展示的仅是其他网站对您相关网页的描述。

2. 禁止搜索引擎跟踪网页的链接，而只对网页建索引

如果您不想搜索引擎追踪此网页上的链接，且不传递链接的权重，请将此元标记置入网页的部分：

如果您不想百度追踪某一条特定链接，百度还支持更精确的控制，请将此标记直接写在某条链接上：

要允许其他搜索引擎跟踪，但仅防止百度跟踪您网页的链接，请将此元标记置入网页的部分：

3. 禁止搜索引擎在搜索结果中显示网页快照，而只对网页建索引

要防止所有搜索引擎显示您网站的快照，请将此元标记置入网页的部分：

要允许其他搜索引擎显示快照，但仅防止百度显示，请使用以下标记：

注：此标记只是禁止百度显示该网页的快照，百度会继续为网页建索引，并在搜索结果中显示网页摘要。

4. 我想禁止百度图片搜索收录某些图片，该如何设置？

禁止Baiduspider抓取网站上所有图片、禁止或允许Baiduspider抓取网站上的某种特定格式的图片文件可以通过设置robots实现，请参考“robots.txt文件用法举例”中的例10、11、12。

5. robots.txt文件的格式

“robots.txt”文件包含一条或更多的记录，这些记录通过空行分开（以CR,CR/NL, or NL作为结束符），每一条记录的格式如下所示：

在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。该文件中的记录通常以一行或多行User-agent开始，后面加上若干Disallow和Allow行,详细情况如下：

User-agent:

该项的值用于描述搜索引擎robot的名字。在”robots.txt”文件中，如果有多条User-agent记录说明有多个robot会受到”robots.txt”的限制，对该文件来说，至少要有一条User-agent记录。如果该项的值设为*，则对任何robot均有效，在”robots.txt”文件中，”User-agent:*”这样的记录只能有一条。如果在”robots.txt”文件中，加入”User- agent:SomeBot”和若干Disallow、Allow行，那么名为”SomeBot”只受到”User-agent:SomeBot”后面的 Disallow和Allow行的限制。

Disallow:

该项的值用于描述不希望被访问的一组URL，这个值可以是一条完整的路径，也可以是路径的非空前缀，以Disallow项的值开头的URL不会被 robot访问。例如”Disallow:/help”禁止robot访问/help.html、/helpabc.html、/help /index.html，而”Disallow:/help/”则允许robot访问/help.html、/helpabc.html，不能访问 /help/index.html。”Disallow:”说明允许robot访问该网站的所有url，在”/robots.txt”文件中，至少要有一条Disallow记录。如果”/robots.txt”不存在或者为空文件，则对于所有的搜索引擎robot，该网站都是开放的。

Allow:

该项的值用于描述希望被访问的一组URL，与Disallow项相似，这个值可以是一条完整的路径，也可以是路径的前缀，以Allow项的值开头的URL 是允许robot访问的。例如”Allow:/hibaidu”允许robot访问/hibaidu.htm、/hibaiducom.html、 /hibaidu/com.html。一个网站的所有URL默认是Allow的，所以Allow通常与Disallow搭配使用，实现允许访问一部分网页同时禁止访问其它所有URL的功能。

需要特别注意的是Disallow与Allow行的顺序是有意义的，robot会根据第一个匹配成功的Allow或Disallow行确定是否访问某个URL。

使用”*”and”$”：

Baiduspider支持使用通配符”*”和”$”来模糊匹配url。

“$” 匹配行结束符。

“*” 匹配0或多个任意字符。

注：我们会严格遵守robots的相关协议，请注意区分您不想被抓取或收录的目录的大小写，我们会对robots中所写的文件和您不想被抓取和收录的目录做精确匹配，否则robots协议无法生效。

6. URL匹配举例

Allow或Disallow的值	URL	匹配结果
/tmp	/tmp	yes
/tmp	/tmp.html	yes
/tmp	/tmp/a.html	yes
/tmp	/tmphoho	no

/Hello*	/Hello.html	yes
/He*lo	/Hello,lolo	yes
/Heap*lo	/Hello,lolo	no
html$	/tmpa.html	yes
/a.html$	/a.html	yes
htm$	/a.html	no

7. robots.txt文件用法举例

例1. 禁止所有搜索引擎访问网站的任何部分下载该robots.txt文件	User-agent: * Disallow: /
例2. 允许所有的robot访问 (或者也可以建一个空文件 “/robots.txt”)	User-agent: * Allow: /
例3. 仅禁止Baiduspider访问您的网站	User-agent: Baiduspider Disallow: /
例4. 仅允许Baiduspider访问您的网站	User-agent: Baiduspider Allow: /User-agent: * Disallow: /
例5. 仅允许Baiduspider以及Googlebot访问	User-agent: Baiduspider Allow: /User-agent: Googlebot Allow: /User-agent: * Disallow: /
例6. 禁止spider访问特定目录在这个例子中，该网站有三个目录对搜索引擎的访问做了限制，即robot不会访问这三个目录。需要注意的是对每一个目录必须分开声明，而不能写成 “Disallow: /cgi-bin/ /tmp/”。	User-agent: * Disallow: /cgi-bin/ Disallow: /tmp/ Disallow: /~joe/
例7. 允许访问特定目录中的部分url	User-agent: * Allow: /cgi-bin/see Allow: /tmp/hi Allow: /~joe/look Disallow: /cgi-bin/ Disallow: /tmp/ Disallow: /~joe/
*例8. 使用””限制访问url** 禁止访问/cgi-bin/目录下的所有以”.htm”为后缀的URL(包含子目录)。	User-agent: * Disallow: /cgi-bin/*.htm
例9. 使用”$”限制访问url 仅允许访问以”.htm”为后缀的URL。	User-agent: * Allow: /*.htm$ Disallow: /
例10. 禁止访问网站中所有的动态页面	User-agent: * Disallow: /?
例11. 禁止Baiduspider抓取网站上所有图片仅允许抓取网页，禁止抓取任何图片。	User-agent: Baiduspider Disallow: /.jpg$ Disallow: /.jpeg$ Disallow: /.gif$ Disallow: /.png$ Disallow: /*.bmp$
例12. 仅允许Baiduspider抓取网页和.gif格式图片允许抓取网页和gif格式图片，不允许抓取其他格式图片	User-agent: Baiduspider Allow: /.gif$ Disallow: /.jpg$ Disallow: /.jpeg$ Disallow: /.png$ Disallow: /*.bmp$
例13. 仅禁止Baiduspider抓取.jpg格式图片	User-agent: Baiduspider Disallow: /*.jpg$

8. robots.txt文件参考资料

robots.txt文件的更具体设置,请参看以下链接：

Web Server Administrator’s Guide to the Robots Exclusion Protocol

HTML Author’s Guide to the Robots Exclusion Protocol

The original 1994 protocol description, as currently deployed

The revised Internet-Draft specification, which is not yet completed or implemented

如果大家对禁止搜索引擎收录的方法还有别的疑问，大家可以到[学院同学汇][学习讨论] 《禁止搜索引擎收录的方法》讨论帖中发表自己的看法，我们的工作人员会关注这里并与大家进行探讨。

如何只禁止百度搜索引擎收录抓取网页

1、编辑robots.txt文件，设计标记为:

User-agent: Baiduspider

Disallow: /

以上robots文件将实现禁止所有来自百度的抓取。

这里说一下百度的user-agent，Baiduspider的user-agent是什么？

百度各个产品使用不同的user-agent：

产品名称对应user-agent

无线搜索 Baiduspider

图片搜索 Baiduspider-image

视频搜索 Baiduspider-video

新闻搜索 Baiduspider-news

百度搜藏 Baiduspider-favo

百度联盟 Baiduspider-cpro

商务搜索 Baiduspider-ads

网页以及其他搜索 Baiduspider

你可以根据各产品不同的user-agent设置不同的抓取规则，以下robots实现禁止所有来自百度的抓取但允许图片搜索抓取/image/目录：

User-agent: Baiduspider

Disallow: /

User-agent: Baiduspider-image

Allow: /image/

请注意：Baiduspider-cpro和Baiduspider-ads抓取的网页并不会建入索引，只是执行与客户约定的操作，所以不遵守robots协议，这个就需要和百度的人联系才能解决了。

如何只禁止Google搜索引擎收录抓取网页，方法如下：

编辑robots.txt文件，设计标记为:

User-agent: googlebot

Disallow: /

在网站首页代码<head>与</head>之间，加入<meta name=”robots” content=”noarchive”>代码，此标记禁止搜索引擎抓取网站并显示网页快照。

在网站首页代码<head>与</head>之间，加入<meta name=”Baiduspider” content=”noarchive”>即可禁止百度搜索引擎抓取网站并显示网页快照。

在网站首页代码<head>与</head>之间，加入<meta name=”googlebot” content=”noarchive”>即可禁止谷歌搜索引擎抓取网站并显示网页快照。

另外当我们的需求很怪异的时候，比如下面这几种情况:

1. 网站已经加了robots.txt，还能在百度搜索出来？

因为搜索引擎索引数据库的更新需要时间。虽然Baiduspider已经停止访问您网站上的网页，但百度搜索引擎数据库中已经建立的网页索引信息，可能需要数月时间才会清除。另外也请检查您的robots配置是否正确。如果您的拒绝被收录需求非常急迫，也可以通过投诉平台反馈请求处理。

2. 希望网站内容被百度索引但不被保存快照，我该怎么做？

Baiduspider遵守互联网meta robots协议。您可以利用网页meta的设置，使百度显示只对该网页建索引，但并不在搜索结果中显示该网页的快照。和robots的更新一样，因为搜索引擎索引数据库的更新需要时间，所以虽然您已经在网页中通过meta禁止了百度在搜索结果中显示该网页的快照，但百度搜索引擎数据库中如果已经建立了网页索引信息，可能需要二至四周才会在线上生效。

希望被百度索引，但是不保存网站快照，如下代码解决：

如果要禁止所有的搜索引擎保存你网页的快照，那么代码就是下面的：

常用的一些代码组合：

<META NAME=”ROBOTS” CONTENT=”INDEX,FOLLOW”>：可以抓取本页，而且可以顺着本页继续索引别的链接

<META NAME=”ROBOTS” CONTENT=”NOINDEX,FOLLOW”>：不许抓取本页，但是可以顺着本页抓取索引别的链接

<META NAME=”ROBOTS” CONTENT=”INDEX,NOFOLLOW”>：可以抓取本页，但是不许顺着本页抓取索引别的链接

<META NAME=”ROBOTS” CONTENT=”NOINDEX,NOFOLLOW”>：不许抓取本页，也不许顺着本页抓取索引别的链接

版权声明 1. 文章编辑：神目网
2. 本站网址：https://www.sxlog.com
3. 注意：本站所有内容未经允许禁止转载！
4. 所有权：神目网保留对本站的所有权，包括但不限于修改、删除、更新网站内容等。

本文链接：https://www.sxlog.com/post/1566.html

商务合作 - Email：admin@sxlog.com