各位网站管理员,
您之前是否遇到过百度搜索结果中个别网页无摘要显示的现象,或发生过网站部分内容不收录的问题,站长平台提示您出现这两种情况可能是由于网站设置了 robots.txt文件引起的。为了能够让站长更方便的了解网站页面在出现上述问题时是否是由于设置了robots文件,百度网页搜索结果中上线了 robots.txt文件提示。当网站使用robots.txt文件禁止百度收录网站的部分或全部内容,百度将会在搜索结果中给出robots.txt的提示,让站长及时了解网站在搜索结果中无摘要显示的原因,同时可在搜索结果中点击“了解详情”,查看网站详细的robots信息,确认是否是由于 robots.txt的误设置而导致的封禁。
robots.txt介绍:robots.txt是搜索引擎访问网站时查看的第一个文件,这个文件用于指定spider在该网站上的抓取范围。部分网站由于存在不想被搜索引擎收录的内容,会使用robots.txt文件来屏蔽网站的部分内容或者全部内容。若网站对百度spider设置了 robots.txt文件,百度会遵循robots协议,不去抓取封禁的结果,但是考虑到用户在搜索引擎中有搜索该网站地址的需求,搜索结果中会根据搜索需求展示网站的标题及网址,但不会显示网站的摘要。
主要展现形式如下所示:
【点击图片进入下一页或下一篇】
网站robots.txt详情介绍页面:
【点击图片进入下一页或下一篇】
- 看不过瘾?点击下面链接!
- 腾讯林松涛:做精准营销把握大数据机遇
- 当当李国庆谈创新:C2B模式大幅压缩行业成本
- 互联网江湖龙虎斗:四大门派解析互联网生态
- LinkedIn创始人霍夫曼:创始人何时退居二线
- APP上演魔法:三个杭州小伙做手游吸金千万
- 社交讨论平台Branch将会是社区网站的未来?