新足迹

 找回密码
 注册

精华好帖回顾

· 小儿女记事系列16--大花朵初学英语的故事(68楼号称最难推理题给有兴趣的玩玩) (2009-12-8) 清凉 · 我最喜欢的牛仔裤 (2005-6-27) 小米
· 2005最后的晚餐 (2006-1-2) 小米 · 多图详解!---自制福州鱼丸(包馅)!把握两浮是关键! (2014-4-5) 高歌
Advertisement
Advertisement
查看: 3851|回复: 23

[IT] 学习python抓取亚马逊和ebay的数据 [复制链接]

发表于 2019-8-8 11:51 |显示全部楼层
此文章由 billspace 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 billspace 所有!转贴必须注明作者、出处和本声明,并保持内容完整
最近在学习python,想通过这个工具抓取一些重要的销售数据。有一起学习的没有。
Advertisement
Advertisement

发表于 2019-8-8 11:54 |显示全部楼层
此文章由 xmj 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 xmj 所有!转贴必须注明作者、出处和本声明,并保持内容完整
你想抓具体什么数据

发表于 2019-8-8 12:07 |显示全部楼层
此文章由 billspace 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 billspace 所有!转贴必须注明作者、出处和本声明,并保持内容完整
Python只能抓网页上的数据,比如销售数据。

发表于 2019-8-8 12:08 |显示全部楼层
此文章由 billspace 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 billspace 所有!转贴必须注明作者、出处和本声明,并保持内容完整
还有商品评价。
头像被屏蔽

禁止发言

发表于 2019-8-8 12:51 |显示全部楼层
此文章由 PussyPenetrator 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 PussyPenetrator 所有!转贴必须注明作者、出处和本声明,并保持内容完整
可加微信交流
bitmystery

发表于 2019-8-8 14:52 |显示全部楼层
此文章由 DDD888 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 DDD888 所有!转贴必须注明作者、出处和本声明,并保持内容完整
billspace 发表于 2019-8-8 12:08
还有商品评价。

我不相信你可以随意抓这两个大公司的网页,当心被人封掉啦,建议下啦
Advertisement
Advertisement

发表于 2019-8-8 14:57 |显示全部楼层
此文章由 xxmplus 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 xxmplus 所有!转贴必须注明作者、出处和本声明,并保持内容完整
DDD888 发表于 2019-8-8 14:52
我不相信你可以随意抓这两个大公司的网页,当心被人封掉啦,建议下啦

买ip来爬就好了

发表于 2019-8-8 14:59 |显示全部楼层
此文章由 DDD888 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 DDD888 所有!转贴必须注明作者、出处和本声明,并保持内容完整
xxmplus 发表于 2019-8-8 14:57
买ip来爬就好了

但这样一来以后有人想要爬的话,都会遇到啥让你点图片看是否是机器的事啦,给大家造成麻烦啦

发表于 2019-8-9 00:23 |显示全部楼层
此文章由 Icanflyever 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 Icanflyever 所有!转贴必须注明作者、出处和本声明,并保持内容完整
可以见个群一起学习,之前也在自学,最近被考试耽搁了
头像被屏蔽

禁止发言

发表于 2019-8-9 08:44 来自手机 |显示全部楼层
此文章由 valpa 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 valpa 所有!转贴必须注明作者、出处和本声明,并保持内容完整
对这个也有兴趣,加个好友吧
jw-xiaodwan

发表于 2019-8-9 13:55 |显示全部楼层
此文章由 opt2018au 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 opt2018au 所有!转贴必须注明作者、出处和本声明,并保持内容完整
好像大网站都有爬取协议,遵循协议别越界应该没问题

评分

参与人数 1积分 +3 收起 理由
billspace + 3 感谢分享

查看全部评分

Advertisement
Advertisement

发表于 2019-8-9 20:00 来自手机 |显示全部楼层
此文章由 dok 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 dok 所有!转贴必须注明作者、出处和本声明,并保持内容完整
想要啥数据?

发表于 2019-8-11 16:09 |显示全部楼层
此文章由 哈尔的移动城堡 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 哈尔的移动城堡 所有!转贴必须注明作者、出处和本声明,并保持内容完整
以后爬虫可能会有法律限制 如果你持有某些网站数据而没有问consent可能会被起诉 爬虫需谨慎呀

发表于 2019-8-26 18:59 |显示全部楼层
此文章由 linzh 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 linzh 所有!转贴必须注明作者、出处和本声明,并保持内容完整
装个selenium+webdriver,只要能看见的东西都能爬,大网站加密做的严的就走这个简单

发表于 2019-8-27 10:08 |显示全部楼层
此文章由 linzh 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 linzh 所有!转贴必须注明作者、出处和本声明,并保持内容完整
questing 发表于 2019-8-26 22:08
除非你的程序跑得非常慢,否则这些大的网站都会检测到机器人并开始要求验证的 ...

动态加载限访问频率无解呀,
最有效的反爬就是增加爬虫时间成本,
要是对方真的特别防你,数据一大就封IP那谁能爬,

发表于 2019-8-27 14:32 |显示全部楼层
此文章由 DDD888 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 DDD888 所有!转贴必须注明作者、出处和本声明,并保持内容完整
questing 发表于 2019-8-26 22:08
除非你的程序跑得非常慢,否则这些大的网站都会检测到机器人并开始要求验证的 ...

我开发的网站,检测到机器人就自动封啦
Advertisement
Advertisement

发表于 2019-8-27 23:54 |显示全部楼层
此文章由 cherylpan 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 cherylpan 所有!转贴必须注明作者、出处和本声明,并保持内容完整
我也在学,加个微信建个群cherylpan

发表于 2019-8-28 11:39 |显示全部楼层
此文章由 husky703 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 husky703 所有!转贴必须注明作者、出处和本声明,并保持内容完整
想請問你們怎樣自學的? 網站嗎?

发表于 2019-8-28 11:55 |显示全部楼层
此文章由 billspace 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 billspace 所有!转贴必须注明作者、出处和本声明,并保持内容完整
把python学了一下。有编程基础的,python的基础语法学起来非常简单。python最重要的是周边的library。

发表于 2019-8-28 11:57 |显示全部楼层
此文章由 fengliu1234 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 fengliu1234 所有!转贴必须注明作者、出处和本声明,并保持内容完整
关注

发表于 2019-8-28 22:41 来自手机 |显示全部楼层
此文章由 有机六兽 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 有机六兽 所有!转贴必须注明作者、出处和本声明,并保持内容完整
billspace 发表于 2019-8-28 11:55
把python学了一下。有编程基础的,python的基础语法学起来非常简单。python最重要的是周边的library。 ...

同意 要了解各种lib比较花费时间
Advertisement
Advertisement

发表于 2019-10-12 20:57 |显示全部楼层
此文章由 wesley4356 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 wesley4356 所有!转贴必须注明作者、出处和本声明,并保持内容完整
我也在学python

发表于 2019-10-14 12:54 |显示全部楼层
此文章由 bfcatfriends 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 bfcatfriends 所有!转贴必须注明作者、出处和本声明,并保持内容完整
请问有本站不支持任何群吗?私信我吧,想加入你们群。也在研究爬虫

发表于 2019-10-14 16:44 |显示全部楼层
此文章由 地球是圆的 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 地球是圆的 所有!转贴必须注明作者、出处和本声明,并保持内容完整
爬的好能找到正经工作吗?

发表回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则

Advertisement
Advertisement
返回顶部