在做seo的时候站长们一早要做的事,其实是要查看昨天的网站日志,分析下昨天那些蜘蛛来过网站,蜘蛛都抓取了哪些信息,这些信息是不是想让他抓取,如果有些信息不想蜘蛛去看或抓取,就把那些资料屏蔽了,写好规则不让蜘蛛看。
具体如何操作呢?首先说下网站日志,不管你是用虚拟机还是独立服务器的建站工具,都可以下载网站的日志,都有地方去下载。虚拟机的功能面板就有下载地方,独立服务器是在不懂和IDC厂家联系,提交工单解决。网站日志下载后,解压后都是以文件.log的后缀,这样才能被工具识别。
首先介绍查看网站日志的工具网站:
登录网站后,点击左下方的“选着文件”,选择你要分析的日志文件上传,点击“分析”按钮,显示当天日志信息展现。
右边会展示当天有多少蜘蛛来到网站,上面的信息展示了蜘蛛查看了那些页面,你看看这些信息,如果有不想被蜘蛛抓取或查看的文件夹,就在robots文件中写上屏蔽这些文件路径,蜘蛛一般10天左右就不会在光顾这些文件了。做seo还是的工具很重要,建议使用linux系统,使用旗鱼云梯来建站。
总结:学会查看日志文件,发现有大量404文件出现,就要看蜘蛛为啥去看这些文件,在robots里屏蔽,这样蜘蛛才规矩抓取你的页面,而不是其他文件。
文章来源于,刘亮个人博客:
上一篇:【芜湖网站建设】企业网站公司网站应该如何做好 下一篇:网站seo优化中有哪些误区需要避免呢?
推荐阅读
相关阅读
最新文章
随机文章