什么是蜘蛛黑洞及如何避免
 |  |  |  |
| 【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
| 【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种，可能是由于网站程序细节上的处理不到位而形成，也有可能是黑帽 SEO 手段的故意为止，总之这就是对搜索引擎非常不友好，并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞？ 2 2.如何避免蜘蛛黑洞？ 2.1 相关文章1.什么是蜘蛛黑洞？
百度官方早在几年前就对蜘蛛黑洞做过解释：对于百度搜索引擎来说，蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多，及内容雷同但具体参数不同的动态 URL ，就像一个无限循环的“黑洞”将 spider 困住，Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”，通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据，而通过百度可以查到仅有 1 条首页结果，其中大量的重复页面均是由于动态 URL 链接造成，只要文章的 ID 一致，其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能，通过筛选功能产生的网页经常会被搜索引擎大量抓取，而这其中很大一部分检索价值不高，如“500-1000 之间价格的租房”，首先网站（包括现实中）上基本没有相关资源，其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取，只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞？
由于蜘蛛黑洞大多是由于动态 URL 链接造成，一方面是从网站技术上杜绝这样的情况，保证动态 URL 的唯一性，非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞，robots.txt 的文件用法中有这样一条规则：Disallow: /*?* ，即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式，对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面，为 Baiduspider 提供了更友好的网站结构，避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则，主流的搜索引擎都是能够支持和遵守的，能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- 促销 iON→圣何塞线路改善 8 折优惠一个月 1 核 2G 50G S全球[VPS测评]
- 特价服务器 hostsolutions→2*E5-2450 32G 48全球[VPS测评]
- 便宜 VPS $8.75 每年 256M 内存 500G 月流量 强势补全球[VPS测评]
- AuroraCloud→240 元 月 1GB 内存 30GB SSD 虚拟空间(主机)
- 樊云→美国 cn2 VPS+免费 50G 防御+不限流量 40 元 月 美国VPS[主机]
- raksmart→美国 cn2 vps+日本 VPS 不限流量 $50 WINDOWS
- DMIT→$14.9 月 洛杉矶 CN2 GIA VPS 1GB 内存 全球[VPS测评]
- PHPExcel 循环生成 sheet 报错 You tried to 全球[VPS测评]
- 按时计费 $3.5 月 1G 内存 15G SSD 1TB 流量@1Gb全球[VPS测评]
- CN2 GIA ￥249 年 512M 内存 20G SSD 1Gbps全球[VPS测评]
- 疯狂猜成语 图猜成语一个而两个志上面还有一个圆圈是什么成语？全球[VPS测评]
- AlexHost→€11.8 年 1.5GB 内存 10GB SSD 空虚拟空间(主机)
- 稳定 搬瓦工 DC6 机房 CN2 GIA 线路 512M 套餐 年付 全球[VPS测评]
- OneVPS→日本东京 能看美区 Netflix 1Gbps 不限流量 日本VPS[主机]
- Contabo德国老牌商家新上新加坡数据中心，前1000名用户免设置费；美国VPS[主机]
- xhostfire-挪威 芬兰 6.99美元月付 1核1.5GB内存15全球[VPS测评]
- idc.wiki 160M内存 3G硬盘 400G流量 100M带宽 K全球[VPS测评]
- 世界杯季疫情突发，跨境电商订单排队，义乌商人面临难题全球[VPS测评]
- 老六云怎么样?香港cn2vps月付23元香港NTT月付9.9元香港VPS[主机]
- 云计算拯救互联网巨头？全球[VPS测评]
- 八成企业看好出海投资 防止“溺水”需重视这一点全球[VPS测评]
- 数字化东风已来，亚马逊云科技跨境电商合作企业招募大会即将开启全球[VPS测评]
- tudcloud：香港vps/2核/2GB/20GB空间/不限流量/KV虚拟空间(主机)
- 香港云服务器对于建站有什么便捷的地方？香港VPS[主机]
- 持续高温！长沙所有初中新生停止军训！全球[VPS测评]
- 加拿大以“国安”为由禁止华为、中兴参与5G建设全球[VPS测评]
- tudcloud：香港vps终身7折，香港服务器终身9折，移动访问尤其优香港VPS[主机]
- 安国云：1核/1G/20G硬盘/1Mbp不限流量/香港cdia,月付18香港VPS[主机]
- 华为S2300 系列交换机如何修改密码？全球[VPS测评]
- 腾讯云香港服务器价格,腾讯云香港云主机多少钱一年?香港VPS[主机]
转载请注明原文地址:http://140.238.13.167:12355/read-224417.html