什么是蜘蛛黑洞及如何避免
 |  |  |  |
| 【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
| 【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种，可能是由于网站程序细节上的处理不到位而形成，也有可能是黑帽 SEO 手段的故意为止，总之这就是对搜索引擎非常不友好，并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞？ 2 2.如何避免蜘蛛黑洞？ 2.1 相关文章1.什么是蜘蛛黑洞？
百度官方早在几年前就对蜘蛛黑洞做过解释：对于百度搜索引擎来说，蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多，及内容雷同但具体参数不同的动态 URL ，就像一个无限循环的“黑洞”将 spider 困住，Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”，通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据，而通过百度可以查到仅有 1 条首页结果，其中大量的重复页面均是由于动态 URL 链接造成，只要文章的 ID 一致，其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能，通过筛选功能产生的网页经常会被搜索引擎大量抓取，而这其中很大一部分检索价值不高，如“500-1000 之间价格的租房”，首先网站（包括现实中）上基本没有相关资源，其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取，只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞？
由于蜘蛛黑洞大多是由于动态 URL 链接造成，一方面是从网站技术上杜绝这样的情况，保证动态 URL 的唯一性，非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞，robots.txt 的文件用法中有这样一条规则：Disallow: /*?* ，即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式，对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面，为 Baiduspider 提供了更友好的网站结构，避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则，主流的搜索引擎都是能够支持和遵守的，能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- racknerd→“白色情人节”便宜 VPS 限量 100 个 $18.全球[VPS测评]
- 便宜 日主机→美国洛杉矶 CN2 GIA 线路 1Gbps 端口 月付 美国VPS[主机]
- CloudCone→域名邮箱服务 10GB 空间 每月可发 1000 封虚拟空间(主机)
- LOVPS 七折 香港 4G 内存 60G 硬盘 3M 带宽 月付 47香港VPS[主机]
- DNSPOD→个人专业版首年仅 18 元全球[VPS测评]
- 桔子数据→28 元 月 1GB 内存 40GB SSD 空间 500GB虚拟空间(主机)
- CN2 GIA $34.5 年 768M 内存 35G 硬盘 600G 全球[VPS测评]
- PHP 判断是否是手机等移动设备的方法全球[VPS测评]
- 搬瓦工→新增 10Gbps 带宽的 cn2 gia 线路 VPS 移动+全球[VPS测评]
- 如何合理设计WordPress博客菜单全球[VPS测评]
- 博客 SSL 检测 PCI DSS 不合规的解决方法全球[VPS测评]
- Typecho 在小皮面板中添加伪静态规则全球[VPS测评]
- 搬瓦工新增日本大阪软银机房 DC6 CN2 GIA-E 可转入日本机房日本VPS[主机]
- Linode VPS日本Tokyo 2机房速度和性能 是否值得选择日本VPS[主机]
- 曾经最大跨境电商平台团队收缩，只剩20人丨GoingGlobal周报全球[VPS测评]
- 2.45亿、成都公安（大数据基座-服务器）采购：神码、虹信、海康、超聚变全球[VPS测评]
- 冀青云怎么样?香港CN2-GIA vps月28元/香港NTT 月9元香港VPS[主机]
- 人力资源管理系统前端Web模板 - SmartHR全球[VPS测评]
- 个人如何做跨境电商？全球[VPS测评]
- 印象云：1核/1G/40G固态/800G/50Mbps/洛杉矶高防vps全球[VPS测评]
- 初忆云：香港美国cn2云服务器30元;香港cn2高防vps30元,美国1美国VPS[主机]
- 极光KVM：美国香港vps CN2 GIA专线高速稳定,BGP服务器低至美国VPS[主机]
- edgenat,低价年付促销活动,香港vps 4核8G仅300元/年,美美国VPS[主机]
- 如何设置必应api 自动推送网站全球[VPS测评]
- 水墨云：特惠香港、日本、韩国、洛杉矶小内存vps;IPLC专线/海外CN日本VPS[主机]
- 天生云：香港沙田CN2 GIA VPS,1核1G40G/2M带宽,月付8香港VPS[主机]
- edgeNAT双十二：韩国VPS/美国CN2/香港CN2VPS主机,月付韩国VPS[主机]
- CubeCloud,香港cn2,美国cn2 gia线路vps主机,2核1美国VPS[主机]
- 金斗云双12活动：全场8折起，美国圣何塞CN2 GIA高防VPS20元/美国VPS[主机]
- HostHatch：1核/2GB/20GB空间/KVM/香港/洛杉矶/纽虚拟空间(主机)
转载请注明原文地址:http://140.238.13.167:12355/read-227091.html