防封ip解决方案之ip代理池

本项目其实就是个简单的代理服务器，经过我小小的修改。加了个代理池进来。渗透、爬虫的时候很容易就会把自己ip给ban了所以就需要ip代理池了。

使用

1、启动ip代理池先把这个项目跑起来 https://github.com/jhao104/proxy_pool

2、启动代理服务器

默认监听8080
java -jar proxyServer.jar

自定义监听端口
java -jar proxyServer.jar 9090

3、设置代理
设置好代理后你就发现每次请求的ip都不一样。

配置

简单说一下proxy_pool需要做的一些配置：
1、如果有更好的代理网站，或者是你买了代理ip。可以在根目录的/fetcher/proxyFetcher.py里面自己写个方法去爬，该方法需要以生成器(yield)形式返回host:ip，然后在根目录的setting.py文件里面，把自己写的方法名添加进去。
2、redis默认装好是没密码的，需要修改setting.py,改为DB_CONN=’redis://@127.0.0.1:6379/0’一般全部默认即可。

3、修改超时，把setting.py中的VERIFY_TIMEOUT改小点(2)。默认10秒，不然这种ip基本用不成。

4、已发布版的代理服务器，用的是proxy_pool默认端口。而且代理池需要和代理服务器跑在一起。