全国建筑市场监管公共服务平台（四库一）平台数据爬取
http://jzsc.mohurd.gov.cn/data/company击企业查询, 发现返回的数据是经过加密的
1. 寻找返回的数据
既然数据是通过这个 url 返回的, 全局搜索url
http://jzsc.mohurd.gov.cn/api/webApi/dataservice/query/comp/list?pg=0&pgsz=15
尝试全局模糊搜索 /query/comp/list
点击进入 js 函数
返回的结果是请求 url /dataservice/query/comp/list得到的, 打上断点 点击搜索 一步一步调式js代码
调试过程就不一步一步分析了, 最终定位到, 感觉像我们想要的数据, 进入Console打印一下t 和 e
t
t 中data 是 最初我们请求http://jzsc.mohurd.gov.cn/api/webApi/dataservice/query/comp/list?pg=0&pgsz=15 所返回的数据
e 这其中的数据不正是我们想要的数据
2.分析加密方式
既然我们已经知道了数据的加密方式, 那我们就重点分析一下这个地方
其中t.data我们在第一步已经分出来了 使我们第一步请求 http://jzsc.mohurd.gov.cn/api/webApi/dataservice/query/comp/list?pg=0&pgsz=15得到的结果
那我们重点分析 p函数 的处理过程, 点击进入 p函数, 结果如下
对数据经过层层加密处理后,调用toString方法, 既然加密函数已经找到,我们就可以编写代码了
3.代码实现
我们将函数 p 的代码复制出来, data是加密后返回的数据,我们先复制出来用一下
运行一下项目
报错的原因 , 其中 u 和 d 没有进行初始化 我们寻找一下 u 和 d , 就在函数 p的上方
我们添加到代码把 u 和 d 添加到代码中
运行项目 进行测试
其中返回的数据 , 正是我们想要的结果
请勿用于非法用途