什么是蜘蛛黑洞及如何避免
 |  |  |  |
| 【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
| 【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种，可能是由于网站程序细节上的处理不到位而形成，也有可能是黑帽 SEO 手段的故意为止，总之这就是对搜索引擎非常不友好，并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞？ 2 2.如何避免蜘蛛黑洞？ 2.1 相关文章1.什么是蜘蛛黑洞？
百度官方早在几年前就对蜘蛛黑洞做过解释：对于百度搜索引擎来说，蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多，及内容雷同但具体参数不同的动态 URL ，就像一个无限循环的“黑洞”将 spider 困住，Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”，通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据，而通过百度可以查到仅有 1 条首页结果，其中大量的重复页面均是由于动态 URL 链接造成，只要文章的 ID 一致，其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能，通过筛选功能产生的网页经常会被搜索引擎大量抓取，而这其中很大一部分检索价值不高，如“500-1000 之间价格的租房”，首先网站（包括现实中）上基本没有相关资源，其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取，只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞？
由于蜘蛛黑洞大多是由于动态 URL 链接造成，一方面是从网站技术上杜绝这样的情况，保证动态 URL 的唯一性，非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞，robots.txt 的文件用法中有这样一条规则：Disallow: /*?* ，即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式，对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面，为 Baiduspider 提供了更友好的网站结构，避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则，主流的搜索引擎都是能够支持和遵守的，能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- 补货 搬瓦工→DC6 机房 CN2 GIA 线路补货了 2.5Gbps 全球[VPS测评]
- TheStack→$7 月 4 核 4GB 内存 60GB 空间 2TB虚拟空间(主机)
- layer .tips 没有回调函数怎么办？全球[VPS测评]
- Kuai Che Dao→$35.6 半年 512MB 内存 10GB 虚拟空间(主机)
- 搬瓦工→新增 10Gbps 带宽的 cn2 gia 线路 VPS 移动+全球[VPS测评]
- Hostshare→日本 香港 美国 XEN-2GB 内存套餐每月 45日本VPS[主机]
- 竟然有人要？-Hostigger→$15 年 1GB 内存 10GB S全球[VPS测评]
- HostYun→15.3 元 月 512MB 内存 10GB SSD 空虚拟空间(主机)
- friendhosting→春季促销 全场 8 个机房的不限流量 VPS全球[VPS测评]
- 便宜 20 元 月 512M 内存 20G 硬盘 1Gbps 不限流量 全球[VPS测评]
- 便宜实惠 腾讯云秒杀→1 核 2G 1M 带宽 ￥88 元每年 2 核 全球[VPS测评]
- TerraHost→€15 月 i5 3470+ 8G 内存 500GB全球[VPS测评]
- Hostsolutions→罗马尼亚 KVM VPS 不限版权 永久 5虚拟空间(主机)
- FastCache→有香港直连节点 100GB 通用流量包 18.8 元香港VPS[主机]
- WordPress插件：mk-sitemap实现网站地图全球[VPS测评]
- GigsGigsCloud 新加坡 VPS CLOUDLET SG K1全球[VPS测评]
- 升级为单向流量! RFChost → 洛杉矶Premium → CN2全球[VPS测评]
- 香港云服务器的优势有哪些方面香港VPS[主机]
- 向日葵-漏洞科普：海外云服务器三种漏洞修复方法快收藏起来！全球[VPS测评]
- 跨境电商洋码头生死攸关：买手流失资金被冻结保全全球[VPS测评]
- 亿恩科技香港云服务器 2核2G服务器特价700元/年香港VPS[主机]
- cmivps：全场7折,香港不限流量VPS,Windows系统,LinuWINDOWS
- 傲游主机：香港cn2高防云主机,159元/月/2核/2GB/40GB/2香港VPS[主机]
- 源云主机,香港沙田VPS CN2 1核1G 24/月 NTT 50M 9香港VPS[主机]
- PQhosting：香港HE/乌克兰/俄罗斯/荷兰/摩尔多瓦vps主机/香港VPS[主机]
- 云米科技：新春欢庆,香港云服务器/美国高防vps服务器全场八折,支持按天美国VPS[主机]
- 易梦云：香港/美国vps优惠活动，2核1G3M云主机仅16元/月美国VPS[主机]
- 企鹅小屋：香港ntt vps,大带宽直连,1核/1G/2T流量/半年15香港VPS[主机]
- 阳帝云：香港大宽带vps仅15元/月;美国vps200G防御仅28元/月美国VPS[主机]
- 一万网络双蛋狂欢活动：2核2G5M云服务器仅377.46元/年全球[VPS测评]
转载请注明原文地址:http://140.238.13.167:12355/read-225866.html