人间正道是沧桑
小米阔折叠原型机亮相:采用横向阔折叠设计,支持风冷主动散热,新芯片玄戒O3和玄戒O100协同计算_我的网站

一 |
阿里云优惠券 先领券再下单 前面有写过一篇瀑布流的采集方法,今天在添加一个POST方法来采集Ajax刷新页面的教程。

二 | 评论 发表。 之前的文章请看:火车头采集动态加载Ajax数据(无分页瀑布流网站) 如果遇到POST方法来架子Ajax数据,这和我之前写的是两个类型,瀑布流是直接刷新出数据的页面。 采集网站分析 采集任何一个新站前我们都要对他进行一番分析才好下手。 列表页分析 这个网站的列表页,前面并不是通过Ajax加载的。CTRL+U可以直接看到列表内容,通过浏览器也看不到相关请求地址。



三 | 防止后期采集出错。

四 | 结果就发现无法看到列表内容。浏览器可以看到一个通过post请求的地址。



五 | 最后找到大概从2200页左右开始Ajax加载。 那我们采集的时候,前面的列表页就可以使用普通方式去采集(速度更快)。

六 | 2200页开始到尾页就通过post请求Ajax页面数据。 抓包获取Post数据 这个Ajax地址我在浏览器看不到任何跟页码有关的数据。最后只能使用抓包工具看一下详细的请求内容了。


七 | 查看分析Post数据 Ctrl+F 我们搜索那个Ajax地址




八 |











九 |


十 | 不放心可以复制链接实际访问一下看看是否正确。


十一 | 教程在测试时因为开的线程较多,频率过高导致对方网站开启了防CC设置。拉黑了我一个服务器IP,此教程写完用了两台服务器。 我们实际采集可以只开1个线程,并设置合适的间隔时间,比如1000ms到1500ms左右。 本文来自2号站长网,转载请注明出处:https://www.zz2zz.com/331414.html
申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!。
Current article:http://50178.ruwentaqintiaozhupapaigai.shop/w00wh/0kq.html
Published on:03:27:39




