Pholcus 爬虫 v0.8.0,支持 HTML 风格动态规则_html/css_WEB-ITnose
程序员文章站
2022-05-18 13:29:45
...
近日,Pholcus 升级 v0.8.0 版本了,最大的亮点就是:终于突破规则需要静态编译的局制,增加支持HTML风格的动态规则。以后交流分享规则变得更加方便,随之而来将会是愈加完善的生态圈。
以下是具体更新内容:
一、初步支持HTML风格的动态规则
二、添加配置文件,便于修改数据库配置等信息
三、重新规划软件依赖文件目录
├─pholcus 软件
│
├─pholcus 依赖文件目录
│ ├─pholcus.ini 配置文件
│ │
│ ├─proxy.lib 代理IP列表库
│ │
│ ├─spider.lib 动态规则目录
│ │ └─xxx.pholcus.html 动态规则文件
│ │
│ ├─phantomjs 程序文件
│ │
│ ├─logs 日志目录
│ │
│ ├─history 历史记录目录
│ │
└─└─cache 临时缓存目录
四、增强代理IP功能
五、增强状态控制功能
六、为Spider结构体添加定时器
七、增强Request结构体序列化与反序列化的可靠性
八、Web界面的外部资源文件全部打包进软件
九、更新下载器Surfer至0.9版本,性能更佳
上一篇: PHP创建验证码时,参数的作用