51汇集网:免费高速下载,安全放心!

登录   注册 软件提交 最近更新 热门排行
您现在的位置: 首页- 软件下载- 编程开发- 编程工具- WebMagic下载
WebMagic 0.7.3 最新版
50%
50%

WebMagic 0.7.3 最新版

  • 软件介绍
  • 软件截图
  • 相关下载
  • 相关文章
点击评论

Tags:

51汇集网提供《WebMagic》0.7.3 最新版下载,该软件为免费软件,文件大小为13.41 MB,推荐指数3颗星,作为国产软件中的顶尖厂商,完全可以放心下载哦!

WebMagic中文版是java上面经常的需要的一款爬虫类型的工具,现在就可以试试最新的0.7.3版本,功能以及使用上面都是完全的免费的,欢迎大家下载使用!

WebMagic 0.7.3 最新版

中文版功能

WebMagic是一个简单灵活的Java爬虫框架。基于WebMagic,你可以快速开发出一个高效、易维护的爬虫。webmagic采用完全模块化的设计,功能覆盖整个爬虫的生命周期(链接提取、页面下载、内容抽取、持久化),支持多线程抓取,分布式抓取,并支持自动重试、自定义UA/cookie等功能。

常见问题

(1)由于我这个爬虫的抓取有分页,而且它的分页通过js跳转的,抽取出来感觉有点麻烦,我想直接得到所有的信息,发现可以通过输入url地址请求得到所有的信息(这是网站的一个小问题,它没有设置每页数据记录条数的范围),但是需要登录才可以进行url地址的访问,就要使用cookie模拟登录。

(2)下面分析有关登录信息的cookie,我使用的是chrome,点击如图位置,会看到此网站的cookie,(如果已经访问了一段时间了,可以清除所有cookie然后重新登录再访问,否则可能会有很多的cookie,分析起来不方便),由于只有5个cookie,直接加上就可以访问了

WebMagic 0.7.3更新内容

本次更新增加了Downloader模块的一些功能。

#609 修复HttpRequestBody没有默认构造函数导致无法反序列化的bug。

#631 HttpRequestBody的静态构造函数不再抛出UnsupportedEncodingException受检异常。

#571 Page对象增加bytes属性,用于获取二进制数据。下载纯二进制页面时,请设置request.setBinarayContent(true),这样对于二进制内容不会尝试转换为String,减小开销。

#629 在HttpUriRequestConverter中会自动对一些导致URI异常的字符进行转移或过滤。

#610 自动识别编码时,可以识别Content-Type中charset为大写的情况。

#627 支持为Request单独设置页面编码,兼容同一站点多种编码方式的情况。

#613 Page对象增加charset属性,其值为request/site中设置的charset,或者为自动检测的charset(未定义时)。

#606 升级jsonpath到2.4.0

相关版本

下载WebMagic 0.7.3 最新版

普通下载地址:
暂无下载资源

软件评论

请自觉遵守互联网相关政策法规,评论内容只代表网友观点,与本站立场无关!
  验证码:   登录   注册
评论列表
暂无评论,快抢沙发