nodejs中request库使用HTTPS代理的方法
程序员文章站
2022-06-24 13:10:06
正在尝试改用nodejs编写爬虫,http请求库选择了 ,用起来还是挺简单的。
现在有个需求,需要用fiddler抓包我发出去的请求,以便和浏览器发出去的包进行对比。...
正在尝试改用nodejs编写爬虫,http请求库选择了 ,用起来还是挺简单的。
现在有个需求,需要用fiddler抓包我发出去的请求,以便和浏览器发出去的包进行对比。
因为需要解密https报文,需要让node要么忽略证书安全,要么信任fiddler的ca证书。
网上找了一圈,总结如下:
方法一:设置环境变量
- 设置环境变量node_tls_reject_unauthorized=0
- 即"不拒绝未认证的证书"
- 但是直接修改系统环境变量比较危险,因为会影响到所有nodejs的程序;比较稳妥的办法是脚本中调用process.env["node_tls_reject_unauthorized"] = 0; 这样仅对本进程生效
方法二:每请求单独设置忽略证书安全
- 上述方法还是有一定风险,因为当前nodejs进程都受此全局设置影响
- 可以在request的options中添加rejectunauthorized: false选项来针对单个请求忽略证书检查
- 当然也可以用request.defaults直接设置默认选项
const request = require("request").defaults({ proxy: "http://127.0.0.1:8888", rejectunauthorized: false, }) request.get("https://www.baidu.com").on("response", console.log)
方法三:使用fiddler的ca证书
- 这个方法是最稳妥的,不会让你的子系统产生任何溢出影响
- 首先在fiddler内把其根证书导出到桌面:tools -> options -> https -> actions -> export root certificate to desktop
- 导出的文件是个.cer证书,经测试nodejs不直接支持,需要用openssl转换成pem格式(我的openssl是cygwin装的)
- openssl x509 -inform der -in fiddlerroot.cer -outform pem -out fiddler.pem
- 把转换出来的fiddler.pem放到你的程序能访问的位置
- 使用ca选项来指定ca证书
const request = require("request").defaults({ proxy: "http://127.0.0.1:8888", ca: require("fs").readfilesync("path/to/fiddler.pem", {encoding: "utf-8"}), }) request.get("https://www.baidu.com").on("response", console.log)
另外:request当然也支持自签名证书,不过我暂时没这方面需求,就没继续摸索了
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
上一篇: DIV固定宽度和动态拉伸混合水平排列
下一篇: Java 十大排序算法之冒泡排序刨析
推荐阅读
-
Nginx中的用户认证配置及阻止用户使用代理访问的方法
-
nodejs中request库使用HTTPS代理-踩坑者日常-SegmentFault思否
-
Python机器学习之scikit-learn库中KNN算法的封装与使用方法
-
PHP5中使用PDO连接数据库的方法
-
深入学习nodejs中的async模块的使用方法
-
Python使用pymysql从MySQL数据库中读出数据的方法
-
使用Python中tkinter库简单gui界面制作及打包成exe的操作方法(二)
-
使用JAVA中的动态代理实现数据库连接池 JavaSQLJDBC应用服务器互联网
-
使用composer命令加载vendor中的第三方类库 的方法
-
Python GUI教程之在PyQt5中使用数据库的方法