众所周知，使用robots.txt文件可以对爬虫能否爬页面进行声明，但是这只是一个“君子协定”，有人遵守也有人不遵守，所以还需要对页面进行一个声明，加入meta代码
<meta name="robots" content="noindex">
这样才能有效的对爬虫进行封禁，例如本站就是如此，但是这是一个双刃剑，禁止爬虫的同时，SEO就不那么友好了