什么是蜘蛛黑洞及如何避免
 |
 |
 |
 |
| 【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
| 【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种，可能是由于网站程序细节上的处理不到位而形成，也有可能是黑帽 SEO 手段的故意为止，总之这就是对搜索引擎非常不友好，并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞？ 2 2.如何避免蜘蛛黑洞？ 2.1 相关文章1.什么是蜘蛛黑洞？
百度官方早在几年前就对蜘蛛黑洞做过解释：对于百度搜索引擎来说，蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多，及内容雷同但具体参数不同的动态 URL ，就像一个无限循环的“黑洞”将 spider 困住，Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”，通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据，而通过百度可以查到仅有 1 条首页结果，其中大量的重复页面均是由于动态 URL 链接造成，只要文章的 ID 一致，其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能，通过筛选功能产生的网页经常会被搜索引擎大量抓取，而这其中很大一部分检索价值不高，如“500-1000 之间价格的租房”，首先网站（包括现实中）上基本没有相关资源，其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取，只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞？
由于蜘蛛黑洞大多是由于动态 URL 链接造成，一方面是从网站技术上杜绝这样的情况，保证动态 URL 的唯一性，非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞，robots.txt 的文件用法中有这样一条规则：Disallow: /*?* ，即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式，对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面，为 Baiduspider 提供了更友好的网站结构，避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则，主流的搜索引擎都是能够支持和遵守的，能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- 易探云：香港BGP/CN2高防云服务器租用价格表 香港VPS[主机]
- 快快数据测评：香港CN2云服务器,2核/1G/5M带宽,低至24元/月 香港VPS[主机]
- 硅云香港服务器怎么样?看网友们是怎么评价的 香港VPS[主机]
- 加拿大以“国安”为由禁止华为、中兴参与5G建设 全球[VPS测评]
- 又有美议员窜访台，中国驻美大使馆：“中方将对美国的挑衅采取果断的反制措施 美国VPS[主机]
- 向日葵-漏洞科普：海外云服务器三种漏洞修复方法快收藏起来！ 全球[VPS测评]
- 源云主机,香港沙田VPS CN2 1核1G 24/月 NTT 50M 9 香港VPS[主机]
- 轻云互联,香港美国vps终身8.8折17元/月起,cn2直连线路,50G 美国VPS[主机]
- 亿速云香港服务器助力企业出海 有哪些具体的特点和优势? 香港VPS[主机]
- 奇异互动,2核4G香港云服务器仅655元/年,注册领550元新手大礼包 香港VPS[主机]
- 酷锐云双十一活动：美国vps、香港vps云主机,2核4G4M,50元/首 美国VPS[主机]
- edgenat,低价年付促销活动,香港vps 4核8G仅300元/年,美 美国VPS[主机]
- 印象云：1核/1G/40G固态/800G/50Mbps/洛杉矶高防vps 全球[VPS测评]
- uuuvps：香港大带宽vps低至239元/年;香港服务器720元/e3 香港VPS[主机]
- 月神云活动：香港大带宽vps、美国CN2普防、美国原生IP、日本东京首月 日本VPS[主机]
- RAKsmart：E3服务器秒杀$30/月起,韩国服务器,香港/日本/美 站群服务器[IP]
- UCloud快杰型海外云主机：可选香港/上海/北京/日本/新加坡/韩国/ 日本VPS[主机]
- 水墨云：特惠香港、日本、韩国、洛杉矶小内存vps;IPLC专线/海外CN 日本VPS[主机]
- ucloud云主机怎么样?ucloud云服务器1核2G仅52元/年起;香 香港VPS[主机]
- 宝塔面板nginx中的网站如何添加身份验证？ 全球[VPS测评]
- Mineserver：香港CMI大带宽云服务器38元/月起(300M不限 香港VPS[主机]
- 恒创科技：海外服务器3折优惠,美国/香港云服务器2核4G2M仅958元/ 美国VPS[主机]
- 创意加载进度HTML动画特效，SVG+CSS3实现的动画死神来了load 全球[VPS测评]
- 兼容移动和PC的loading加载和toast消息插件 全球[VPS测评]
- 性价比最高的VPS网络评测 全球[VPS测评]
- CIO和其他IT领导者充分利用边缘计算增强业务的4个关键 全球[VPS测评]
- VPS到底有什么用？ 全球[VPS测评]
- 华为S2300 系列交换机如何修改密码？ 全球[VPS测评]
- 桔子数据,香港安畅BGP大带宽VPS 首月五折体验 三网直连 14元/月 香港VPS[主机]
- 企鹅小屋怎么样?深港IPLC专线销售 500M大带宽/2核1G内存/55 全球[VPS测评]
转载请注明原文地址: http://140.238.13.167:12355/read-222732.html