什么是蜘蛛黑洞及如何避免
 |  |  |  |
| 【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
| 【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种，可能是由于网站程序细节上的处理不到位而形成，也有可能是黑帽 SEO 手段的故意为止，总之这就是对搜索引擎非常不友好，并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞？ 2 2.如何避免蜘蛛黑洞？ 2.1 相关文章1.什么是蜘蛛黑洞？
百度官方早在几年前就对蜘蛛黑洞做过解释：对于百度搜索引擎来说，蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多，及内容雷同但具体参数不同的动态 URL ，就像一个无限循环的“黑洞”将 spider 困住，Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”，通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据，而通过百度可以查到仅有 1 条首页结果，其中大量的重复页面均是由于动态 URL 链接造成，只要文章的 ID 一致，其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能，通过筛选功能产生的网页经常会被搜索引擎大量抓取，而这其中很大一部分检索价值不高，如“500-1000 之间价格的租房”，首先网站（包括现实中）上基本没有相关资源，其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取，只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞？
由于蜘蛛黑洞大多是由于动态 URL 链接造成，一方面是从网站技术上杜绝这样的情况，保证动态 URL 的唯一性，非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞，robots.txt 的文件用法中有这样一条规则：Disallow: /*?* ，即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式，对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面，为 Baiduspider 提供了更友好的网站结构，避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则，主流的搜索引擎都是能够支持和遵守的，能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- 微信支付接入报错→curl 出错 错误码:60全球[VPS测评]
- 疯狂猜成语 图猜成语一个人用嘴吹出一个成字是什么成语？全球[VPS测评]
- Hosteons→KVM 八折 OpenVZ 年付五折 不限流量 免费升全球[VPS测评]
- 跑 BT 不错-Ikoula→€9.99 月 Celeron®G3900全球[VPS测评]
- CN2 $7 月 512M 内存 10G SSD 500G 流量 20M香港VPS[主机]
- 阿里云 - 轻量应用服务器香港新加坡多机房可选 最低 24 元 月香港VPS[主机]
- jQuery 选择自定义属性为指定内容的元素全球[VPS测评]
- jquery 批量选中 checkbox 并且获取所有选中 checkb全球[VPS测评]
- JQuery 获取 select 选中项的文本与值全球[VPS测评]
- Windows 提示→“出现了一个问题 导致程序停止正常工作。请关闭该程WINDOWS
- 事字的一半和两个功字是什么成语？全球[VPS测评]
- 疯狂猜成语 图猜成语一只兔子三个洞是什么成语？全球[VPS测评]
- 企鹅小屋→27 元 月 1GB 内存 20GB SSD 空间 1TB 流虚拟空间(主机)
- 通过whos.amung.us实时统计WordPress博客在线人数全球[VPS测评]
- RAKsmart机房8月促销，便宜独立服务器最低月付30美元，爆款VPS独立服务器[U]
- 建站云服务器选择高效云盘还是SSD硬盘？全球[VPS测评]
- REGXA → 首月2.5$ 1C1G15G硬盘 1Gbps无限流量 新全球[VPS测评]
- 自适应bootstrap左侧导航可关闭全球[VPS测评]
- Linux chown -R 指令介绍与使用全球[VPS测评]
- 6种样式社交论坛网站HTML5模板 - Social全球[VPS测评]
- 企鹅小屋：深港IPLC节点，0.25元/G流量，不用不花钱全球[VPS测评]
- 咖啡主机：享受7、8折促销 美国vps仅需15.4元/月 香港vps仅需美国VPS[主机]
- 品光网络:香港美国免备案云服务器超低价,2核2G2M年付仅750元/年美国VPS[主机]
- JGKVM：1核/512M/30G/600G/30Mbps/洛杉矶CN2全球[VPS测评]
- HostKVM香港云地VPS,2核4G内存折后$8.4/月,30M大带宽香港VPS[主机]
- 青云互联：香港CN2 GIA VPS,月付15.2起;日本CN2 VPS日本VPS[主机]
- 青云互联：香港vps全场终身8折优惠,CN2线路,提供大带宽vps,月付香港VPS[主机]
- 云米科技：香港安畅/美国Cera/日本CN2机房，海外云服务器最低11元日本VPS[主机]
- 咖啡主机：享受7、8折促销 美国vps仅需15.4元/月 香港vps仅需美国VPS[主机]
- 恒创科技：香港/美国云服务器2折起,年度特价低至13元/月,新购送京东E美国VPS[主机]
转载请注明原文地址:http://140.238.13.167:12355/read-223406.html