如何让网站robots.txt不泄露后台等安全秘密
搞过网站的朋友都知道robots.txt文件是用来限制搜索引擎不乱抓取,只抓取我们希望被收录的内容的。比如我们网站的后台就不希望被搜索抓取,那么robots文件需要这样写:
User-agent: *
Disallow: /admin/
但是这样我们很容易发现了一个问题,如果有人要破解攻击的话,很容易就知道了后台,一下子就清楚了网站的结构。
我们并不想这样!
有没有办法让robots.txt既能限制搜索引擎,又不泄露后台地址和隐私目录呢?有!
一、使用通配符(*):
User-agent: *
Disallow: /a*/
这样的写法,禁止所有的搜索引擎抓取根目录下a开头的目录。当您的后台是admok165的话,还有谁会看到呢?
二、只写目录前几个字母,不写全:
User-agent: *
Disallow: /ad
这种的写法,是禁止所有的搜索引擎抓取根目录下ad开头的目录。
最后说明一下,以上这两种方法,需要网站目录没有相同字母开头的,例如ad目录,如果有两个一样的,那需在robots.txt文件里再加上一个字母区别开来。
免责声明:本站所有文章和图片均来自用户分享和网络收集,文章和图片版权归原作者及原出处所有,仅供学习与参考,请勿用于商业用途,如果损害了您的权利,请联系网站客服处理。
织梦DedeCms 五步必做SEO优化方法2018-07-21
百度搜索引擎爬行蜘蛛IP大全2018-07-21
cms系统是什么?为什么要做cms系统?2019-01-22
404 not found是什么意思?解析网站设置404页面好处2019-05-28
seo是什么职业2018-08-08
网站XSS跨站脚本漏洞的危害有哪些2019-02-21
详细说明网站出现500错误的解决方案2019-05-16
黑帽SEO是什么?黑帽SEO能做吗2019-02-13
想做商城网站不要用模板做不利推广2018-08-14
301重定向是什么?301重定向怎么做?2019-01-25