什么是蜘蛛黑洞及如何避免
 |  |  |  |
| 【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
| 【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种，可能是由于网站程序细节上的处理不到位而形成，也有可能是黑帽 SEO 手段的故意为止，总之这就是对搜索引擎非常不友好，并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞？ 2 2.如何避免蜘蛛黑洞？ 2.1 相关文章1.什么是蜘蛛黑洞？
百度官方早在几年前就对蜘蛛黑洞做过解释：对于百度搜索引擎来说，蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多，及内容雷同但具体参数不同的动态 URL ，就像一个无限循环的“黑洞”将 spider 困住，Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”，通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据，而通过百度可以查到仅有 1 条首页结果，其中大量的重复页面均是由于动态 URL 链接造成，只要文章的 ID 一致，其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能，通过筛选功能产生的网页经常会被搜索引擎大量抓取，而这其中很大一部分检索价值不高，如“500-1000 之间价格的租房”，首先网站（包括现实中）上基本没有相关资源，其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取，只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞？
由于蜘蛛黑洞大多是由于动态 URL 链接造成，一方面是从网站技术上杜绝这样的情况，保证动态 URL 的唯一性，非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞，robots.txt 的文件用法中有这样一条规则：Disallow: /*?* ，即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式，对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面，为 Baiduspider 提供了更友好的网站结构，避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则，主流的搜索引擎都是能够支持和遵守的，能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- VirMach - 存储型 VPS 少量补货 1T 硬盘$7 月全球[VPS测评]
- HostYun→17.1 元 月 512MB 内存 10GB SSD 空虚拟空间(主机)
- 彩虹数据日本 CN2 GIA VPS 速度及综合性能测评,最高 30M 日本VPS[主机]
- 大盘机 $6.95 月 1G 内存 1T 硬盘 5T 流量 1 个 IP全球[VPS测评]
- CN2 $14.99 半年 768M 内存 20G 硬盘 750G 流量全球[VPS测评]
- Krypt→L03-L05 季付以上 6 折 L02-L05 年付 6 全球[VPS测评]
- 便宜 VPS 3.5 刀每月 512M 内存 500G 流量 20G 全球[VPS测评]
- 促销 sharktech 鲨鱼机房→VPS 全场 75 折 独立服务器 独立服务器[U]
- CloudFlare 的 DNS 1.1.1.1 和 新出的免费 Clo全球[VPS测评]
- curl CURLOPT_TIMEOUT_MS 小于 1 秒无效的解决方全球[VPS测评]
- CloudCone→$12.95 年 256MB 内存 10GB 空间 虚拟空间(主机)
- Kvmla 全场 vps 终身七折+送 1G 内存,2 核 2G 仅 6香港VPS[主机]
- Server4You→€4 月 4GB 内存 100GB SSD 空间 虚拟空间(主机)
- WordPress搜索插件：Ivory Search全球[VPS测评]
- 更换收费 SSL 和 DNSPOD国际版收费服务全球[VPS测评]
- Alpha bd → 18$ 月 孟加拉VPS Linux 2核2G30全球[VPS测评]
- TPE海缆故障通报-完成修复全球[VPS测评]
- MoonVM,香港HKT家宽VPS服务器,动态IP一键切换,1G带宽任意香港VPS[主机]
- Vultr新用户100美金 最新活动来啦！新用户充值活动来了，充100美全球[VPS测评]
- 快速云：怎么连接vps？VPS的用途有哪些？全球[VPS测评]
- 阁天互联怎么样?香港cn2云服务器 圣何塞cn2vps仅20/月香港VPS[主机]
- 阿里云免备案服务器怎么样?阿里云香港服务器价格多少钱一年?香港VPS[主机]
- 消费复苏形势良好，我们将多措并举实施扩大内需政策全球[VPS测评]
- 做跨境电商，如何打造私域流量？全球[VPS测评]
- 向日葵-漏洞科普：海外云服务器三种漏洞修复方法快收藏起来！全球[VPS测评]
- 无忧云：香港大埔/荃湾云服务器5折优惠,可叠加优惠码,国内高防78元起香港VPS[主机]
- CentOS 7.x 系统安装和配置redis-7.0.4集群全球[VPS测评]
- asiacloud怎么样?香港云服务器(cn2 gia),6折优惠,1GWINDOWS
- HostXen：双十一新用户香港、日本vps,送20元代金券,充值300日本VPS[主机]
- 菜单选中标记CSS3动画效果全球[VPS测评]
转载请注明原文地址:http://140.238.13.167:12355/read-224842.html