什么是Baiduspider - 百度蜘蛛?

作者: admin 日期: 2018-04-14 10:10:11 人气: - 评论: 0

什么是Baiduspider - 百度蜘蛛?百度是如何收录到那么多网页的呢?这个百度用以抓取互联网上数以亿计的网页的程序,就叫做Baiduspider - 百度蜘蛛。  它是一个程序,夜以继日得在互联网上找寻新的URL,接着抓取URL上的内容,返回到百度的网页暂存数据库。  百度用来抓取网页内容的程序,叫做Baiduspider,抓取其他内容的蜘蛛,则是新的名字:

 

 

 

    产品名称                  对应user-agent

 

 

 

    网页搜索                Baiduspider

 

 

 

    无线搜索                Baiduspider-mobile

 

 

 

    图片搜索                Baiduspider-image

 

 

 

    视频搜索                Baiduspider-video

 

 

 

    新闻搜索                Baiduspider-news

 

 

 

    百度搜藏                Baiduspider-favo

 

 

 

    百度联盟                Baiduspider-cpro  不少朋友会在自己的网站日志里看到这个蜘蛛Baiduspider-cpro,现在我们明白它是百度联盟蜘蛛,用以百度联盟程序匹配相应的广告。


相关内容

发表评论
更多 网友评论0 条评论)
暂无评论


Copyright © 2012-2014 我爱点击网 - 专业提供广告点击网站流量服务提供商 Inc. 保留所有权利。 Powered by TWCMS 2.0.3

页面耗时0.0183秒, 内存占用1.74 MB, 访问数据库13次