AdvertCN - 广告中国

 找回密码
 立即注册

QQ登录

只需一步,快速开始

 谷歌+Bing+TT+MSN官方代理 
⚡️按条S5代理⚡️静态⚡️独享⚡️5G⚡️最干净<Wifi住宅+5G移动>IP代理指纹浏览器,就用AdsPower
Mediabuy⚡️玩家开户首选【鲁班跨境通-自助充值转账】FB/GG/TT❤️官方免费开户Affiliate 全媒体流量资源⚡️
Taboola/Outbrain /Bing⚡️一级代理开户投流-7*24h❤️人工在线【官方】❤️搜索套利广告开户独立站⚡️开户投放
DuoPlus专注打造跨境电商云手机E.PN 虚拟卡BINOM TRACKER 60% OFF!比Adplexity还好用的Spy工具
MediaGo+Taboola+Ob开户百度国际MediaGo⚡️让产品狂奔全球百度国际,高点击转化,快速放量百度国际MediaGo,独家原生流量
ADPLEXITY + ADVERTCN7200W全球动态不重复住宅IP代理虚拟信用卡+独立站收款全球虚拟卡, 支持U充值
Facebook 批量上广告尤里改 - FB 稳定投放免费黑五教程(持续更新、欢迎交流)FB 三不限源头 - 自助下户充值转款
各种主页、账单户、BM户(优势)⚡️个人户,bm户不限额,账单户一手BM分享户不限额9Proxy ⚡️ $0.04/IP, 无限带宽
IPCola原生住宅IP⚡️$2.1/条双ISPFB二三解0.1元一个虚拟卡|PTM星际卡FB专用虚拟卡
Google、Bing官方总代  联盟流量开户FB账号资源/稳定靠谱/运行5年啦FB开户代投/三不限/白名单广告位出租
查看: 19150|回复: 26

如何提取google搜索结果里,目标网页的URL?

[复制链接]

6

主题

123

广告币

248

积分

初级会员

Rank: 2

积分
248
发表于 2013-6-4 13:06:40 | 显示全部楼层 |阅读模式
回复

使用道具 举报

0

主题

0

广告币

38

积分

初级会员

Rank: 2

积分
38

社区QQ达人

发表于 2013-6-4 13:10:11 | 显示全部楼层
具体需求 没明白,是搜索结果搜集(最多1000条) 还是什么
回复 支持 反对

使用道具 举报

6

主题

123

广告币

248

积分

初级会员

Rank: 2

积分
248
 楼主| 发表于 2013-6-4 13:21:32 | 显示全部楼层
lhelhm 发表于 2013-6-4 13:10 5 i" k9 ^3 q" x8 ]
具体需求 没明白,是搜索结果搜集(最多1000条) 还是什么
: E) R3 w( c$ b! _7 Y( s; W
抱歉,可能没说清楚。
# ]) i- G8 b- k9 J( f* n: J7 i# v6 f* [2 `
要搜集结果页那些网站的URL
  T6 w% X/ k2 E
! V5 }7 o+ s% t9 K( s: x) [比如搜索“中国”' t. r& \, O2 z% @# M
: r, b- k! F. j: v/ L0 w, V( h" H/ M

. J' a: T2 M3 S# _& q9 `9 k要搜集的内容就是:/ k0 i% l% I( d( i" j8 m
http://zh.wikipedia.org/zh/中国) s( B# t3 @* w- Q0 m; T- `' L* V; e2 {
http://baike.baidu.com/view/61891.htm
9 }$ T1 X6 P9 t, ~, U4 q1 ^; H) nhttp://www.baike.com/wiki/中国
" z4 W7 `3 t8 Z& mhttp://china.huanqiu.com/
" P$ Y' f* x% _# Ghttp://world.people.com.cn/GB/57506/190965/
) a3 i4 `$ s  M  T……% u+ Z% a, ]; n* h6 T9 p+ |* o9 r# m
……* o5 b( N/ ~" ]3 x; K
……
" `: f3 X; T7 m/ j9 v! [, a
" e( S& ^0 W) o8 Y8 b, K

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复 支持 反对

使用道具 举报

0

主题

0

广告币

38

积分

初级会员

Rank: 2

积分
38

社区QQ达人

发表于 2013-6-4 13:26:54 | 显示全部楼层
Scrape Sonic
  F% s; F4 E1 `4 cGetFromGoogle# v7 }, W" V7 P- R5 R: p
这些小软件都可以,下不到你也可以搜索谷歌搜刮工具,火狐有个插件好久不用也忘了

点评

这些小软件现在都下载不到了呢。  详情 回复 发表于 2016-3-4 02:43
回复 支持 反对

使用道具 举报

34

主题

4685

广告币

4513

积分

超级版主

Rank: 8Rank: 8

积分
4513
发表于 2013-6-4 13:30:10 | 显示全部楼层
我以前曾经编过一个程序,从Google的搜索结果里提取网址。
, Z5 T7 E& T) I* g" w; Q9 ?% f; M; a因为GG搜索结果有着一定的规律,这些URL在包含在GG的连接里,分析提取出来并不难。如果要大量提取,难点在于自动搜索时,还没有搜索几次Google就让输入验证码,这时就无法进行下一次搜索了。
回复 支持 反对

使用道具 举报

6

主题

123

广告币

248

积分

初级会员

Rank: 2

积分
248
 楼主| 发表于 2013-6-4 13:32:54 | 显示全部楼层
lhelhm 发表于 2013-6-4 13:26
% ?3 }1 @. y) t6 d( q0 s2 _% zScrape Sonic $ c! L! @& y4 P* K, T8 k
GetFromGoogle. }( W6 j* u. E4 ~6 w
这些小软件都可以,下不到你也可以搜索谷歌搜刮工具,火狐有个插件好久不用也忘 ...
; ?$ j) C8 j: N# x
多谢!                    
& J' w4 ]' Z6 W: g
) m! \+ E; J  s
回复 支持 反对

使用道具 举报

6

主题

123

广告币

248

积分

初级会员

Rank: 2

积分
248
 楼主| 发表于 2013-6-4 13:33:27 | 显示全部楼层
yoo 发表于 2013-6-4 13:30 " Y( q7 h) g* S% q; g" ?
我以前曾经编过一个程序,从Google的搜索结果里提取网址。
6 O( ]! }6 x/ |5 q因为GG搜索结果有着一定的规律,这些URL在包含在 ...

) ~# T0 |7 d8 q; D- D. s; b, b% W9 ?; n
1 ^( {) b$ S/ |( W
数据有10万条,估计翻几页就要输入验证码了
回复 支持 反对

使用道具 举报

23

主题

1229

广告币

2177

积分

高级会员

Rank: 4

积分
2177

社区QQ达人

发表于 2013-6-4 13:37:54 | 显示全部楼层
不知道可不可以,去试试google的搜索API
回复 支持 反对

使用道具 举报

110

主题

520

广告币

1180

积分

中级会员

Rank: 3Rank: 3

积分
1180

社区QQ达人

发表于 2013-6-4 13:39:40 | 显示全部楼层
现在不好使 搜索几页后 就会让你输验证码
回复 支持 反对

使用道具 举报

33

主题

3312

广告币

6553

积分

超级版主

酱油党

Rank: 8Rank: 8

积分
6553

社区QQ达人

发表于 2013-6-4 13:52:33 | 显示全部楼层
google不行,换其他搜索引擎吧。' E( D& m+ `$ w5 u& m
以前也有过类似的采集,开始采集的bing,后来采集的有道搜索,基本上不会挂。
) [, y: ?- d. h+ U) H/ B% N现在具体情况不清楚了。
回复 支持 反对

使用道具 举报

6

主题

123

广告币

248

积分

初级会员

Rank: 2

积分
248
 楼主| 发表于 2013-6-4 14:00:04 | 显示全部楼层
billy 发表于 2013-6-4 13:52 2 T) v2 X. Z  H/ ~7 V
google不行,换其他搜索引擎吧。: a, b6 H9 A5 w; Q) U
以前也有过类似的采集,开始采集的bing,后来采集的有道搜索,基本上不会 ...

! `! G0 D/ C( T, h& B3 c- x其它搜索引擎都没有结果) G# T6 I4 F. e1 u$ x9 U
- i( p7 c9 D  j( v+ w3 Z) q
某网站10万个会员的邮箱 ! x% f/ E' o4 l) H
看来希望渺茫……
回复 支持 反对

使用道具 举报

20

主题

27

广告币

241

积分

初级会员

Rank: 2

积分
241

社区QQ达人

发表于 2013-6-4 14:19:04 | 显示全部楼层
whois360 发表于 2013-6-4 14:00
1 o# n& l$ J% q1 G* f2 P其它搜索引擎都没有结果
2 R4 T- C) a/ X/ C9 h7 x4 Z3 E& E2 |8 [
) {  \, k1 G. X+ z  {5 z某网站10万个会员的邮箱

9 D4 I" d5 J: K3 _( a9 }2 |楼主搜这邮箱做什么
http://developer.huawei.com/ict/cn
回复 支持 反对

使用道具 举报

6

主题

123

广告币

248

积分

初级会员

Rank: 2

积分
248
 楼主| 发表于 2013-6-4 14:23:03 | 显示全部楼层
sdwzzx 发表于 2013-6-4 14:19 8 Q1 l# I" V" }4 {* g# k# c
楼主搜这邮箱做什么

9 }3 V6 C9 j) @# C  F8 U' d, g5 T有10万个邮箱 做什么都好
回复 支持 反对

使用道具 举报

44

主题

770

广告币

1422

积分

高级会员

Rank: 4

积分
1422
发表于 2013-6-4 16:05:22 | 显示全部楼层
whois360 发表于 2013-6-4 14:23
$ q! f3 M6 i8 V0 f9 W: b* d有10万个邮箱 做什么都好

3 z& v: ^1 B, k5 g3 s群发搜来的邮箱不会给认为垃圾邮件,封IP吗?
回复 支持 反对

使用道具 举报

19

主题

133

广告币

405

积分

中级会员

Rank: 3Rank: 3

积分
405
发表于 2013-6-4 16:22:02 | 显示全部楼层
qiqinjun 发表于 2013-6-4 13:37
. ?2 V* v7 J. e1 ?: O" i不知道可不可以,去试试google的搜索API

3 T: \/ V+ J9 h8 t( l; s5 OAPI返回的数量非常有限
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关于我们|联系我们|DMCA|广告服务|小黑屋|手机版|Archiver|Github|网站地图|AdvertCN

GMT+8, 2024-11-5 20:33 , Processed in 0.051726 second(s), 14 queries , Gzip On, MemCache On.

Copyright © 2001-2023, AdvertCN

Proudly Operating in Hong Kong.

快速回复 返回顶部 返回列表