什么是蜘蛛黑洞及如何避免
 |  |  |  |
| 【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
| 【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种，可能是由于网站程序细节上的处理不到位而形成，也有可能是黑帽 SEO 手段的故意为止，总之这就是对搜索引擎非常不友好，并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞？ 2 2.如何避免蜘蛛黑洞？ 2.1 相关文章1.什么是蜘蛛黑洞？
百度官方早在几年前就对蜘蛛黑洞做过解释：对于百度搜索引擎来说，蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多，及内容雷同但具体参数不同的动态 URL ，就像一个无限循环的“黑洞”将 spider 困住，Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”，通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据，而通过百度可以查到仅有 1 条首页结果，其中大量的重复页面均是由于动态 URL 链接造成，只要文章的 ID 一致，其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能，通过筛选功能产生的网页经常会被搜索引擎大量抓取，而这其中很大一部分检索价值不高，如“500-1000 之间价格的租房”，首先网站（包括现实中）上基本没有相关资源，其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取，只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞？
由于蜘蛛黑洞大多是由于动态 URL 链接造成，一方面是从网站技术上杜绝这样的情况，保证动态 URL 的唯一性，非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞，robots.txt 的文件用法中有这样一条规则：Disallow: /*?* ，即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式，对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面，为 Baiduspider 提供了更友好的网站结构，避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则，主流的搜索引擎都是能够支持和遵守的，能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- LOCVPS→38.5 元 月 XEN-2GB 40GB 3M 香港机房香港VPS[主机]
- 一个粗的环字一个窄的燕字是什么成语？全球[VPS测评]
- HostKoala→$12.8 年 3GB NVMe 空间 300GB 虚拟空间(主机)
- 大盘鸡 BackupTank→$10 月 1GB 内存 1TB 空间 2虚拟空间(主机)
- VirMach 首付 7 折 KVM 年付 4.9 美元起 可选洛杉矶 全球[VPS测评]
- word 文档回车后有点或者其他符号怎么办?全球[VPS测评]
- Zcloudme→$59.5 月 2*E5-2620v3 32G 内存 香港VPS[主机]
- $4 月 512M 内存 20G SSD 1Gbps 不限流量 KVM 日本VPS[主机]
- 劳动节促销 华为云→云服务器 1 折优惠中 1 核 2G 1M 套餐年付全球[VPS测评]
- RAKsmart→圣何塞 G 口不限服务器低至每月 199 美元 买 1全球[VPS测评]
- 三优云 uuuvps→香港 美国 日本 CN2 KVM 全场 8 折 买日本VPS[主机]
- Dell 笔记本开机提示→The AC power adapter wa全球[VPS测评]
- PacificRack→$9.99 年 KVM-1GB 13GB 2TB全球[VPS测评]
- 博客 SSL 检测 PCI DSS 不合规的解决方法全球[VPS测评]
- LNMP一键脚本命令行升级LNMP最新版本、MySQL、PHP、Ngin全球[VPS测评]
- coalcloud 碳云-镇江联通（三线）使用记录全球[VPS测评]
- 长三角地区的算力需求规模到底有多大？全球[VPS测评]
- 私有云架设之优选拓普龙S465-24高密度存储服务器机箱评测解析全球[VPS测评]
- 做跨境电商一个月都有多少收入？全球[VPS测评]
- 桔子数据,香港安畅BGP大带宽VPS 首月五折体验 三网直连 14元/月香港VPS[主机]
- 瓜云互联怎么样?香港/美国洛杉矶CN2高防vps 50G月付34元美国VPS[主机]
- 啤啤云怎么样?香港CN2线路vps,有香港安畅机房,全部9折,38.7元香港VPS[主机]
- EdgeNAT,香港CN2+BGP vps 带宽5M 月付72元香港VPS[主机]
- Rustrot-深绿色UI电商网站模板HTML5框架全球[VPS测评]
- 亿速云双12年终回馈：云服务器2折活动,订单满100元减50元全球[VPS测评]
- 景林网络：香港CN2vps,1核1G3M月付35元;美国高防vps,48美国VPS[主机]
- 腾讯云美国硅谷服务器/香港/新加坡：1核1G(Linux)云服务器仅28美国VPS[主机]
- 阳帝云：3月优惠活动,香港GIA/香港TG/洛杉矶200G硬防vps,首香港VPS[主机]
- 月神科技：香港沙田CN2 GIA VPS,1核/1G/10M/40GSS香港VPS[主机]
- 2020畅行云双11活动：海内外云服务器超低1.5折,2核2G5M云主机全球[VPS测评]
转载请注明原文地址:http://140.238.13.167:12355/read-222732.html