什么是蜘蛛黑洞及如何避免
 |  |  |  |
| 【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
| 【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种，可能是由于网站程序细节上的处理不到位而形成，也有可能是黑帽 SEO 手段的故意为止，总之这就是对搜索引擎非常不友好，并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞？ 2 2.如何避免蜘蛛黑洞？ 2.1 相关文章1.什么是蜘蛛黑洞？
百度官方早在几年前就对蜘蛛黑洞做过解释：对于百度搜索引擎来说，蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多，及内容雷同但具体参数不同的动态 URL ，就像一个无限循环的“黑洞”将 spider 困住，Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”，通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据，而通过百度可以查到仅有 1 条首页结果，其中大量的重复页面均是由于动态 URL 链接造成，只要文章的 ID 一致，其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能，通过筛选功能产生的网页经常会被搜索引擎大量抓取，而这其中很大一部分检索价值不高，如“500-1000 之间价格的租房”，首先网站（包括现实中）上基本没有相关资源，其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取，只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞？
由于蜘蛛黑洞大多是由于动态 URL 链接造成，一方面是从网站技术上杜绝这样的情况，保证动态 URL 的唯一性，非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞，robots.txt 的文件用法中有这样一条规则：Disallow: /*?* ，即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式，对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面，为 Baiduspider 提供了更友好的网站结构，避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则，主流的搜索引擎都是能够支持和遵守的，能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- spinservers→$99 月-Dual E5 2630v3 64G全球[VPS测评]
- 适合做站 LOCVPS→美国圣何塞 CN2 线路 VPS 德国 CN2 美国VPS[主机]
- 日本 VPS 8 美元每月 512M 内存 20G ssd 10T 流量日本VPS[主机]
- 便宜 €28 每年 1 核 CPU 2G 内存 20G SSD 3T 流全球[VPS测评]
- 玩具-Friendhosting→$1.75 起 首付 5 折 KVM 全球[VPS测评]
- dogyun→香港“阿里云”线路 VPS 45 元 月 三网直连带 cn香港VPS[主机]
- nat.bz→64 元 月 512MB 内存 5GB SSD 空间 20虚拟空间(主机)
- bacloud→8.5 折优惠 1Gbps 不限流量 VPS 除美国 立美国VPS[主机]
- 乐云 CDN→香港 日本 韩国等节点 不限流量 月付 60 元日本VPS[主机]
- 微基主机→深港 IPLC 莞港 IPLC 等转发服务 5Mbps-20M全球[VPS测评]
- 便宜 VPS PacificRack→$9.99 每年 1 核 CPU 全球[VPS测评]
- 搬瓦工换机房提示 Migration backend is curren全球[VPS测评]
- 宝塔面板免费版如何开启 waf 防火墙全球[VPS测评]
- 代码实现类似大前端DUX WordPress主题评论列表显示楼层全球[VPS测评]
- Digital-VM 全场VPS 6折促销，提供10Gbps大带宽VPS全球[VPS测评]
- 搬瓦工又一次关闭免费更换IP服务全球[VPS测评]
- Bizfly Cloud 越南河内VNPT VPS 测试(电信直连)全球[VPS测评]
- Virmach 日本东京VPS 测试（周瑜打黄盖系列）日本VPS[主机]
- signaltransmitter-德国 0.99欧 LXC 仅有ipv全球[VPS测评]
- 微基主机520常规优惠 虚拟主机2G三年付200元全球[VPS测评]
- 修罗香港IPLC → 1核 256M内存 单向50GB 15mbps →香港VPS[主机]
- 言車新车｜大阳VPS125混动踏板，长续航，代步通勤9980元起全球[VPS测评]
- VPS到底有什么用？全球[VPS测评]
- 搬瓦工：美国香港cn2 gia线路VPS,10Gbps带宽,移动+联通企美国VPS[主机]
- 什么是Bootstrap？全球[VPS测评]
- edgeNAT：全场6折优惠，韩国CN2、美国CN2、香港CN2月付36韩国VPS[主机]
- 弘速科技：香港安畅CN2 GIA/弹性云服务器10元/月,2核1GB/2香港VPS[主机]
- 邢志宏：加快推动高质量建设跨境电商综试区起势成势全球[VPS测评]
- 什么是分布式拒绝服务攻击，其原理及防范措施全球[VPS测评]
- 恒创科技怎么样?香港美国云服务器/独服/高防全场2.5折起美国VPS[主机]
转载请注明原文地址:http://140.238.13.167:12355/read-223169.html