什么是蜘蛛黑洞及如何避免
![]() | ![]() | ![]() | ![]() |
| 【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
| 【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |

蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种,可能是由于网站程序细节上的处理不到位而形成,也有可能是黑帽 SEO 手段的故意为止,总之这就是对搜索引擎非常不友好,并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞? 2 2.如何避免蜘蛛黑洞? 2.1 相关文章1.什么是蜘蛛黑洞?
百度官方早在几年前就对蜘蛛黑洞做过解释:对于百度搜索引擎来说,蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多,及内容雷同但具体参数不同的动态 URL ,就像一个无限循环的“黑洞”将 spider 困住,Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”,通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据,而通过百度可以查到仅有 1 条首页结果,其中大量的重复页面均是由于动态 URL 链接造成,只要文章的 ID 一致,其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能,通过筛选功能产生的网页经常会被搜索引擎大量抓取,而这其中很大一部分检索价值不高,如“500-1000 之间价格的租房”,首先网站(包括现实中)上基本没有相关资源,其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取,只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞?
由于蜘蛛黑洞大多是由于动态 URL 链接造成,一方面是从网站技术上杜绝这样的情况,保证动态 URL 的唯一性,非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞,robots.txt 的文件用法中有这样一条规则:Disallow: /*?* ,即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式,对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面,为 Baiduspider 提供了更友好的网站结构,避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则,主流的搜索引擎都是能够支持和遵守的,能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- PHP 判断字符串是否以指定字符(串)开头的方法全球[VPS测评]
- krypt 免费 wordpress 空间数据测试及 plesk 面板使虚拟空间(主机)
- DEFENDBULL 防御牛→1 元 月 免备 不限流量 抗 DDoS 全球[VPS测评]
- 人太多了-Hosteons→洛杉矶 VPS 1 核 512M 内存 5G全球[VPS测评]
- 便宜 VPS 21 刀 年 512M 内存 100M 宽带不限量 hos全球[VPS测评]
- 搬瓦工 VPS 一键安装 Windows 系统教程WINDOWS
- MoeCloud→350 元 月 2 核 2GB 内存 20GB SSD香港VPS[主机]
- 新商家慎重-HostUp→7 美金 年 1 核 1G 1T 流量 荷兰服全球[VPS测评]
- porkbun - 域名注册.com 首年仅需 2 美刀全球[VPS测评]
- NameSilo→.xyz .top 等域名 首年 0.99 美金 一次全球[VPS测评]
- 便宜 VPS 1.97 卢布 天 512M 内存 5G SSD 1Gbp全球[VPS测评]
- LOCVPS12月新上韩国VPS全场八折2G内存40G硬盘15M带宽BG韩国VPS[主机]
- 基于CentOS系统的VPS安全设置与优化全球[VPS测评]
- 忘记WordPress后台密码要如何找回或修改密码全球[VPS测评]
- Virtual-11.6$ 月 蒙古国VPS 1核1G内存20G硬盘 1全球[VPS测评]
- 什么是IconFont ?iconfont 的使用和解析全球[VPS测评]
- 2020年国外VPS哪个最好?教你学会选择国外VPS全球[VPS测评]
- MoonVM,香港HKT家宽VPS服务器,动态IP一键切换,1G带宽任意香港VPS[主机]
- edgeNAT双十二:韩国VPS/美国CN2/香港CN2VPS主机,月付韩国VPS[主机]
- 阿里云香港服务器多少钱一年?香港云服务器租用年付价格表香港VPS[主机]
- 恒星云:香港沙田CN2VPS低至9.9元/起_国内BGP云服务器4核4G香港VPS[主机]
- 云服务器都是有哪些特点?全球[VPS测评]
- PangHost:香港CN2云服务器VPS月付29元,美国洛杉矶高防vp美国VPS[主机]
- 恒星云:高防服务器优惠活动,成都高防云服务器及辽宁香港服务器特惠活动香港VPS[主机]
- gcorelabs:KVM主机€1.08/月起,香港/俄罗斯/亚太/欧美香港VPS[主机]
- HostKvm,香港云地VPS,全场八折,三网直连,电信CN2,2核4G香港VPS[主机]
- 六一云:香港CN2/洛杉矶高防85折优惠,CDN半年优惠,充值返利送水杯香港VPS[主机]
- 一万网络双蛋狂欢活动:2核2G5M云服务器仅377.46元/年全球[VPS测评]
- GreenCloudVPS:5折、6折优惠,日本、新加坡、香港等KVM 日本VPS[主机]
- 香港cn2线路服务器哪里好?香港cn2服务器推荐哪家好?香港VPS[主机]
转载请注明原文地址:http://140.238.13.167:12355/read-224030.html











