什么是蜘蛛黑洞及如何避免
 |  |  |  |
| 【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
| 【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种，可能是由于网站程序细节上的处理不到位而形成，也有可能是黑帽 SEO 手段的故意为止，总之这就是对搜索引擎非常不友好，并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞？ 2 2.如何避免蜘蛛黑洞？ 2.1 相关文章1.什么是蜘蛛黑洞？
百度官方早在几年前就对蜘蛛黑洞做过解释：对于百度搜索引擎来说，蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多，及内容雷同但具体参数不同的动态 URL ，就像一个无限循环的“黑洞”将 spider 困住，Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”，通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据，而通过百度可以查到仅有 1 条首页结果，其中大量的重复页面均是由于动态 URL 链接造成，只要文章的 ID 一致，其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能，通过筛选功能产生的网页经常会被搜索引擎大量抓取，而这其中很大一部分检索价值不高，如“500-1000 之间价格的租房”，首先网站（包括现实中）上基本没有相关资源，其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取，只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞？
由于蜘蛛黑洞大多是由于动态 URL 链接造成，一方面是从网站技术上杜绝这样的情况，保证动态 URL 的唯一性，非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞，robots.txt 的文件用法中有这样一条规则：Disallow: /*?* ，即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式，对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面，为 Baiduspider 提供了更友好的网站结构，避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则，主流的搜索引擎都是能够支持和遵守的，能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- 一个 form 表单中两个(或多个)提交按钮,分别提交到不同页面或者不同全球[VPS测评]
- 2019 年双十一主机活动汇总（便宜 VPS 便宜虚拟主机一网打尽）全球[VPS测评]
- GeorgeDatacenter→$10 月 32GB 内存 100GB虚拟空间(主机)
- 宝塔面板回收站位置 宝塔面板回收站在哪里全球[VPS测评]
- Bacloud→新增荷兰机房 八五折 支持支付宝 芝加哥&立陶宛等全球[VPS测评]
- 真实测评 桔子 VPS→美国 Cera 洛杉矶数据中心 三网回程 CN2美国VPS[主机]
- 宝塔面板 nginx 安装的 wordpress 或者 typecho 全球[VPS测评]
- 看奈飞 VPS Onevps→$4 月 不限流量 日本 新加坡机房 支持日本VPS[主机]
- 干货推荐 新 老用户都可以买→腾讯云服务器（VPS） 包括“香港”等多香港VPS[主机]
- iWFHosting→$57 月-E3 1230v2 16GB 2TB 全球[VPS测评]
- GigsGigsCloud→$88 年 500MB 内存 10GB SS虚拟空间(主机)
- HostKvm 双节促销 全场8折 新上架韩国VPS plan2/Pla韩国VPS[主机]
- XIU 主题在首页最新发布文章标题后添加 NEW 图标 XIU 主题美化全球[VPS测评]
- AkkoCloud上新圣何塞CN2GIA VPS 512M内存/10G硬全球[VPS测评]
- TmhHost 十月新上日本 CN2 线路 VPS 带宽3Mbps 20日本VPS[主机]
- 网站配置HSTS协议的好处和必要性全球[VPS测评]
- ZeptoVM 2018圣诞优惠全球[VPS测评]
- HostKVM香港云地VPS,2核4G内存折后$8.4/月,30M大带宽香港VPS[主机]
- 全球云lovps,香港CN2线路vps 新品七折月付49元香港VPS[主机]
- 什么是云服务器？云服务器怎么登陆？全球[VPS测评]
- 六一云：香港CN2/洛杉矶高防85折优惠,CDN半年优惠,充值返利送水杯香港VPS[主机]
- 青果云：香港云主机2核1G3M30G,香港vps仅售59元/月香港VPS[主机]
- ucloud香港服务器怎么样？听听这些网友们怎么说的香港VPS[主机]
- 雪花云怎么样?雪花云香港云服务器1核1G2M仅19元/月香港VPS[主机]
- 好云：国内云服务器2核2G5M优惠,仅350元/年;香港/海外云服务器,香港VPS[主机]
- 56云服务器：国内云服务器2核2G5M仅377.46元/年;香港物理服务香港VPS[主机]
- 亚当云怎么样?香港安畅cn2vps带宽10M月付28元香港VPS[主机]
- 香港云服务器怎么选？云服务器性能测评对比香港VPS[主机]
- locvps：香港云地多线路BGP云服务器,三网直连,6折终身优惠中,稳香港VPS[主机]
- 阳帝云：新年快乐666个现金优惠券,香港CN2 GIA、美国CN2高防V美国VPS[主机]
转载请注明原文地址:http://140.238.13.167:12355/read-223693.html