爬取速度

爬取速度

未设置代理,爬取速度为什么这么慢,每分钟18条数据

http://img1.sycdn.imooc.com//climg/60613e3a091d55a614310132.jpg

    

正在回答 回答被采纳积分+1

登陆购买课程后可参与讨论,去登陆

1回答
好帮手慕美 2021-03-29 11:30:26

同学,你好!爬取速度慢有多方面的原因,在爬大量网页的时,一边爬一边写进数据库的话会导致内存占用过多,速度变慢;也和网速或网页中的内容多少有关系。

祝学习愉快!

问题已解决,确定采纳
还有疑问,暂不采纳

恭喜解决一个难题,获得1积分~

来为老师/同学的回答评分吧

0 星
4.入门主流框架Scrapy与爬虫项目实战
  • 参与学习           人
  • 提交作业       107    份
  • 解答问题       1672    个

Python最广为人知的应用就是爬虫了,有趣且酷的爬虫技能并没有那么遥远,本阶段带你学会利用主流Scrapy框架完成爬取招聘网站和二手车网站的项目实战。

了解课程
请稍等 ...
意见反馈 帮助中心 APP下载
官方微信

在线咨询

领取优惠

免费试听

领取大纲

扫描二维码,添加
你的专属老师