有没有方法大批量复制亚马逊上的产品名称呢
本帖最后由 luck 于 2015-7-31 11:59 编辑如题,谢谢,昐高手回复。
有没有软件可以这样做呢? API或者采集 ads419 发表于 2015-7-31 12:14
API或者采集
API怎么用?
采集用那个软件,怎么设置?
谢谢! 有,大半年前的数据,amazon.com里面有不到两万六千万的产品数据。
可以获取到产品名称和产品对应的网址,直接加上tag=your-xxx就可以推广了 李小冲 发表于 2015-7-31 14:52
有,大半年前的数据,amazon.com里面有不到两万六千万的产品数据。
可以获取到产品名称和产品对应的网址, ...
我现在想知道如何采集啊,请仔细说说啊。
谢谢! luck 发表于 2015-7-31 13:58
API怎么用?
采集用那个软件,怎么设置?
API怎么用要看文档啊
采集的话工具很多,比如火车头,使用方法和设置当然也是看文档啊 你要的只是产品名称和产品URL吧。
很简单:
1.打开amazon.com的robots.txt文件,找到sitemap:
http://www.amazon.com/robots.txt
# Sitemap files
Sitemap: http://www.amazon.com/sitemap-manual-index.xml
Sitemap: http://www.amazon.com/sitemap_vendor_videos_us.xml
Sitemap: http://www.amazon.com/sitemaps.4acb100d6c5a79c.SitemapIndex_0.xml.gz
Sitemap: http://www.amazon.com/sitemaps.f3053414d236e84.SitemapIndex_0.xml.gz
Sitemap: http://www.amazon.com/sitemaps.1946f6b8171de60.SitemapIndex_0.xml.gz
Sitemap: http://www.amazon.com/sitemaps.bbb7d657c7e29fa.SitemapIndex_0.xml.gz
Sitemap: http://www.amazon.com/sitemaps.11aafed315ee654.SitemapIndex_0.xml.gz
Sitemap: http://www.amazon.com/sitemaps.c21f969b5f03d33.SitemapIndex_0.xml.gz
Sitemap: http://www.amazon.com/sitemaps.1470994145d5519.SitemapIndex_0.xml.gz2.找到相对应的产品的sitemap的索引压缩文件。
3.下载索引压缩文件后解压。
4.将解压后的索引文件只的sitemap的url取出来,放到迅雷里面将上百个对应的产品sitemap的压缩文件下载下来。
5.下载后解压这些sitemap压缩文件。
6.写程序读取解压后的xml文件,取出里面的<loc>http://www.amazon.com/你要的产品名称等 </loc>值存到数据库里就可以了。
7.没有什么了吧,剩下就由你自己发挥弄吧。
感觉利用sitemap的方法能快一些,我没有用过api,听说api有调用限制的。
各位喜欢的赶快顶我一下吧。
回复楼上,他一定不懂。 火车头采集 同上,火车头采集比较易上手 火车头采集两亿六千多万的数据得需要多久呢,而且从哪里开始作为采集的入口呢 李小冲 发表于 2015-7-31 17:09
你要的只是产品名称和产品URL吧。
很简单:
1.打开amazon.com的robots.txt文件,找到sitemap:
早点看到你的回复就好了,我之前都是用DOMXPath分析网页URL规律,提取分页页数,提取大分类,。。。。分类N的url,然后循环请求几十万次最后得到商品列表。。。结果我昨天发现用sitemap太方便了,直接就采集了,url很全,不用自己去收集url,问题来了,是买n个vps服务器(n个ip同时采集),还是买高匿代理ip,这个我不太懂,我就用的家里ip采集,不敢快了 zhuzhaodan 发表于 2015-8-2 20:48
早点看到你的回复就好了,我之前都是用DOMXPath分析网页URL规律,提取分页页数,提取大分类,。。。。分 ...
你是需要采集不仅仅是产品名称,还有产品图片等其它属性么
产品图片不建议采,太占用空间了,可以直接调用amazon的产品地址,你可以进入aff后台,找到产品推广的地方,看看产品对应的图片就明白啦,我就使用的是amazon的图片地址。
页:
[1]