Python3爬虫mitmproxy的安装步骤
mitmproxy是一个支持http和https的抓包程序,类似fiddler、charles的功能,只不过它通过控制台的形式操作。
此外,mitmproxy还有两个关联组件,一个是mitmdump,它是mitmproxy的命令行接口,利用它可以对接python脚本,实现监听后的处理;另一个是mitmweb,它是一个web程序,通过它以清楚地观察到mitmproxy捕获的请求。
本节中,我们就来了解一下mitmproxy、mitmdump和mitmweb的安装方式。
1. 相关链接
github:
官方网站:
pypi:
官方文档:
mitmdump脚本:
下载地址:
dockerhub:
2. pip安装
最简单的安装方式还是使用pip,直接执行如下命令即可安装:
pip3 install mitmproxy
这是最简单和通用的安装方式,执行完毕之后即可完成mitmproxy的安装,另外还附带安装了mitmdump和mitmweb这两个组件。如果不想用这种方式安装,也可以选择后面列出的专门针对各个平台的安装方式或者docker安装方式。
3. windows下的安装
可以到github上的releases页面(链接为:https://github.com/mitmproxy/mitmproxy/releases/)获取安装包,如图1-59所示。
图1-59 下载页面
比如,当前的最新版本为2.0.2,则可以选择下载windows下的exe安装包mitmproxy-2.0.2-windows-installer.exe,下载后直接双击安装包即可安装。
注意,在windows上不支持mitmproxy的控制台接口,但是可以使用mitmdump和mitmweb。
4. linux下的安装
在linux下,可以下载编译好的二进制包(下载地址https://github.com/mitmproxy/mitmproxy/releases/),此发行包一般是最新版本,它包含了最新版本的mitmproxy和内置的python 3环境,以及最新的openssl环境。
如果你的环境里没有python 3和openssl环境,建议使用此种方式安装。
下载之后,需要解压并将其配置到环境变量:
tar -zxvf mitmproxy-2.0.2-linux.tar.gz sudo mv mitmproxy mitmdump mitmweb /usr/bin
这样就可以将3个可执行文件移动到了/usr/bin目录。而一般情况下,/usr/bin目录都已经配置在了环境变量下,所以接下来可以直接调用这3个工具了。
5. mac下的安装
mac下的安装非常简单,直接使用homebrew即可,命令如下:
brew install mitmproxy
执行命令后,即可完成mitmproxy的安装。
6. docker安装
mitmproxy也支持docker,其dockerhub的地址为https://hub.docker.com/r/mitmproxy/mitmproxy/。
在docker下,mitmproxy的安装命令为:
docker run --rm -it -p 8080:8080 mitmproxy/mitmproxy mitmdump
这样就在8080端口上启动了mitmproxy和mitmdump。
如果想要获取ca证书,可以选择挂载磁盘选项,命令如下:
docker run --rm -it -v ~/.mitmproxy:/home/mitmproxy/.mitmproxy -p 8080:8080 mitmproxy/mitmproxy mitmdump
这样就可以在~/.mitmproxy目录下找到ca证书。
另外,还可以在8081端口上启动mitmweb,命令如下:
docker run --rm -it -p 8080:8080 -p 127.0.0.1:8081:8081 mitmproxy/mitmproxy mitmweb
更多启动方式可以参考docker hub的安装说明。
7. 证书配置
对于mitmproxy来说,如果想要截获https请求,就需要设置证书。mitmproxy在安装后会提供一套ca证书,只要客户端信任了mitmproxy提供的证书,就可以通过mitmproxy获取https请求的具体内容,否则mitmproxy是无法解析https请求的。
首先,运行以下命令产生ca证书,并启动mitmdump:
mitmdump
接下来,我们就可以在用户目录下的.mitmproxy目录里面找到ca证书,如图1-60所示。
图1-60 证书文件
证书一共5个,表1-1简要说明了这5个证书。
表1-1 5个证书及其说明
下面我们介绍一下windows、mac、ios和android平台下的证书配置过程。
windows
双击mitmproxy-ca.p12,就会出现导入证书的引导页,如图1-61所示。
图1-61 证书导入向导
直接点击“下一步”按钮即可,会出现密码设置提示,如图1-62所示。
图1-62 密码设置提示
这里不需要设置密码,直接点击“下一步”按钮即可。
接下来需要选择证书的存储区域,如图1-63所示。这里点击第二个选项“将所有的证书都放入下列存储”,然后点击“浏览”按钮,选择证书存储位置为“受信任的根证书颁发机构”,接着点击“确定”按钮,然后点击“下一步”按钮。
图1-63 选择证书存储区域
最后,如果有安全警告弹出,如图1-64所示,直接点击“是”按钮即可。
图1-64 安全警告
这样就在windows下配置完ca证书了。
mac
mac下双击mitmproxy-ca-cert.pem即可弹出钥匙串管理页面,然后找到mitmproxy证书,打开其设置选项,选择“始终信任”即可,如图1-65所示。
图1-65 证书配置
ios
将mitmproxy-ca-cert.pem文件发送到iphone上,推荐使用邮件方式发送,然后在iphone上可以直接点击附件并识别安装,如图1-66所示。
图1-66 证书安装页面
点击“安装”按钮之后,会跳到安装描述文件的页面,点击“安装”按钮,此时会有警告提示,如图1-67所示。
图1-67 安装警告页面
继续点击右上角的“安装”按钮,安装成功之后会有已安装的提示,如图1-68所示。
图1-68 安装成功页面
如果你的ios版本是10.3以下的话,此处信任ca证书的流程就已经完成了。
如果你的ios版本是10.3及以上版本,还需要在“设置”→“通用”→“关于本机”→“证书信任设置”将mitmproxy的完全信任开关打开,如图1-69所示。此时,在ios上配置信任ca证书的流程就结束了。
图1-69 证书信任设置
android
在android手机上,同样需要将证书mitmproxy-ca-cert.pem文件发送到手机上,例如直接复制文件。
接下来,点击证书,便会出现一个提示窗口,如图1-70所示。
图1-70 证书安装页面
这时输入证书的名称,然后点击“确定”按钮即可完成安装。
到此这篇关于python3爬虫mitmproxy的安装步骤的文章就介绍到这了,更多相关python3爬虫mitmproxy的安装内容请搜索以前的文章或继续浏览下面的相关文章希望大家以后多多支持!
上一篇: JavaEye论坛频道功能调整说明
下一篇: sql 修改表的所有者