AdvertCN - 广告中国

 找回密码
 立即注册

QQ登录

只需一步,快速开始

Binom
 谷歌+Bing+TT+MSN官方代理 
⚡️按条S5代理⚡️静态⚡️独享⚡️5G需要代理IP?⚡️Proxysites.ai⚡️指纹浏览器,就用AdsPower
Mediabuy⚡️玩家开户首选【鲁班跨境通-自助充值转账】FB/GG/TT❤️官方免费开户Affiliate 全媒体流量资源⚡️
Taboola/Outbrain /Bing⚡️一级代理开户投流-7*24h❤️人工在线【官方】❤️搜索套利买量投流开户独立站⚡️开户投放
DuoPlus专注打造跨境电商云手机E.PN 虚拟卡BINOM TRACKER 60% OFF!比Adplexity还好用的Spy工具
MediaGo+Taboola+Ob开户百度国际MediaGo⚡️让产品狂奔全球百度国际,高点击转化,快速放量百度国际MediaGo,独家原生流量
ADPLEXITY + ADVERTCN7200W全球动态不重复住宅IP代理全球虚拟卡, 支持U充值Facebook 批量上广告
尤里改 - FB 稳定投放免费黑五教程(持续更新、欢迎交流)FB 三不限源头 - 自助下户充值转款各种主页、账单户、BM户(优势)
⚡️个人户,bm户不限额,账单户一手BM分享户不限额9Proxy ⚡️ $0.04/IP, 无限带宽 IPCola原生住宅IP⚡️$2.1/条双ISP
FB二三解0.1元一个虚拟卡|PTM星际卡FB专用虚拟卡Google、Bing官方总代  联盟流量开户
FB账号资源/稳定靠谱/运行5年啦FB开户代投/三不限/白名单fb耐用号0.01一个fb账号官方合作商
FB资源,账单户,分享户,国内一手FB企业户BM户账单户源头广告位出租 
查看: 13074|回复: 15

[讨论] 在知道域名的情况下,有没有可能采集这个网站所有的网页

[复制链接]

103

主题

483

广告币

1732

积分

高级会员

Rank: 4

积分
1732

社区QQ达人

发表于 2014-8-17 00:54:28 | 显示全部楼层 |阅读模式
本帖最后由 白龙君 于 2014-8-17 16:22 编辑
4 K! r1 U1 p, Q  H  ~; _; |* P. d5 M- g+ z
额。。。找到一个放LP的域名,想SPY一下域名下可能存放的其他LP
% Z# M3 U0 n8 \0 g
* N5 ^$ E7 l; N& Tsite高级搜索命令啥也搜索不到。。。火车采集好像也不行啊。。。
8 P9 u5 A+ e; {2 Z  E5 `
1 _" i7 U$ @' @" o# b8 J已知url格式是这样的 http://domain.com/lp/test/?s=27566552, J* u, l8 s: y1 X
相关帖子
回复

使用道具 举报

4

主题

1559

广告币

2121

积分

高级会员

Rank: 4

积分
2121

社区QQ达人

发表于 2014-8-17 01:37:32 | 显示全部楼层
如果相互有链接,或sitemap之类,肯定没问题。过滤其它信息,只要页面上有链接存在,就访问并保存,类似写个爬虫……如果没内链,我想不出来有什么办法能发现其它网页

评分

参与人数 1广告币 +2 收起 理由
白龙君 + 2 很给力!

查看全部评分

回复 支持 1 反对 0

使用道具 举报

83

主题

1782

广告币

4126

积分

金牌会员

Rank: 6Rank: 6

积分
4126

社区QQ达人

发表于 2014-8-17 12:01:33 | 显示全部楼层
如果他们之间有互链的就可以。如果没有就没有办法了。

点评

谢谢  发表于 2014-8-17 16:28
回复 支持 反对

使用道具 举报

53

主题

617

广告币

1507

积分

高级会员

Rank: 4

积分
1507

社区QQ达人

发表于 2014-8-17 15:00:26 | 显示全部楼层
要是我,我肯定把LP 隐藏的很深 。。不会轻易让你猜到的,用爬虫也无力,只能碰碰运气了。
回复 支持 反对

使用道具 举报

103

主题

483

广告币

1732

积分

高级会员

Rank: 4

积分
1732

社区QQ达人

 楼主| 发表于 2014-8-17 16:23:42 | 显示全部楼层
akzovk 发表于 2014-8-17 01:377 k0 C3 ]$ w' F1 G6 K' u3 r5 L. b
如果相互有链接,或sitemap之类,肯定没问题。过滤其它信息,只要页面上有链接存在,就访问并保存,类似写 ...

! q3 y# ]5 h* @0 S7 F. R* f已知url格式是这样的 http://domain.com/lp/test/?s=27566552  p2 t; {% D$ g6 K& z
; E% u2 x; T* b: Y6 p
我昨天尝试用火车头从s=1采集,不过貌似不行啊。。。
回复 支持 反对

使用道具 举报

103

主题

483

广告币

1732

积分

高级会员

Rank: 4

积分
1732

社区QQ达人

 楼主| 发表于 2014-8-17 16:27:54 | 显示全部楼层
malong101 发表于 2014-8-17 04:22
, _8 s* @5 S9 h不知道其他文件名 就没法弄了 除非黑了他

' @3 J' d. `6 w- D* F已知url格式是这样的 http://domain.com/lp/test/?s=27566552
回复 支持 反对

使用道具 举报

103

主题

483

广告币

1732

积分

高级会员

Rank: 4

积分
1732

社区QQ达人

 楼主| 发表于 2014-8-17 16:29:27 | 显示全部楼层
tmdsoft 发表于 2014-8-17 15:009 Y* ]) m- c9 [) m! x/ P
要是我,我肯定把LP 隐藏的很深 。。不会轻易让你猜到的,用爬虫也无力,只能碰碰运气了。 ...

& ?5 L- ^0 Q' W8 v0 n: F& S已知url格式是这样的 http://domain.com/lp/test/?s=27566552
! `/ J1 Y3 [' K) l/ @  b7 |
# m+ g; o- Y5 }" d2 c5 r' n其实我是先找到他的一个LP,像看看他域名写下有没有其他LP
回复 支持 反对

使用道具 举报

54

主题

9

广告币

6010

积分

禁止访问

积分
6010
发表于 2014-8-17 18:47:43 | 显示全部楼层
白龙君 发表于 2014-8-17 16:29
" c1 ]8 [$ F6 @3 u8 ?0 k2 v- J/ b+ D* M已知url格式是这样的 http://domain.com/lp/test/?s=27566552
& Y1 j7 z! r) K3 k* a" M' t+ d% u/ t* s: ]9 M) E
其实我是先找到他的一个LP,像看看他域名 ...
( U  S) t7 ^+ l" Y& l" q
暴力猜解s参数

点评

嗯。。。谢谢  发表于 2014-8-18 15:25
回复 支持 反对

使用道具 举报

4

主题

1559

广告币

2121

积分

高级会员

Rank: 4

积分
2121

社区QQ达人

发表于 2014-8-17 21:49:32 | 显示全部楼层
白龙君 发表于 2014-8-17 16:230 M& `$ M% \: F/ {6 S# i0 k" q6 L
已知url格式是这样的 http://domain.com/lp/test/?s=27566552
* {& U' I+ s# W5 P$ i2 w6 q0 Y7 X9 q8 l
我昨天尝试用火车头从s=1采集,不过貌似不 ...

8 \# T0 t3 y$ J7 l+ N8 K如果你确定test这个是不变的话,那很好办好啊,就循环采集就好了啊
回复 支持 反对

使用道具 举报

119

主题

2008

广告币

2579

积分

版主

名利权情牢是非成败空大家可以叫我空或空空希望能跟大家成为朋友

Rank: 7Rank: 7Rank: 7

积分
2579

社区QQ达人

发表于 2014-8-17 21:50:49 | 显示全部楼层
我的第一个想法是到搜索引擎去看下是否被收录
6 v3 c. V4 M# Q* L6 |+ V, r
  1. inurl:http://domain.com/lp/test/?s=
复制代码

6 s5 t5 w6 k8 J3 d/ b# y如果没有就只能暴力猜解,暴力猜解最好自己写工具,执行效率要高,多线程。反正火车头什么的效率太低,不知道要猜解到什么时候。

评分

参与人数 1广告币 +2 收起 理由
白龙君 + 2 NB!

查看全部评分

承蒙骄阳当年提携 感谢河马现今不弃 能在广告中国做版主 我很感恩 | 我没有什么才能 更不是什么大佬 但我喜欢学习和分享 期盼在这里一起成长[我的日记]
回复 支持 反对

使用道具 举报

103

主题

483

广告币

1732

积分

高级会员

Rank: 4

积分
1732

社区QQ达人

 楼主| 发表于 2014-8-18 15:25:58 | 显示全部楼层
akzovk 发表于 2014-8-17 21:49$ v. t: d5 ?$ i7 l" y8 y3 m
如果你确定test这个是不变的话,那很好办好啊,就循环采集就好了啊

$ J  W( Q: r; r& l/ x  C 貌似是不变的。。。我又找到了一个
回复 支持 反对

使用道具 举报

103

主题

483

广告币

1732

积分

高级会员

Rank: 4

积分
1732

社区QQ达人

 楼主| 发表于 2014-8-18 15:26:35 | 显示全部楼层
fatiery 发表于 2014-8-17 21:50
7 n% t$ x+ q" O6 D9 j. Y我的第一个想法是到搜索引擎去看下是否被收录
. ^0 {7 S3 l6 c" P& w: m0 q* A) Q5 w! N+ V
如果没有就只能暴力猜解,暴力猜解最好自己写工具,执行效率 ...

6 Y4 }3 d( z$ C# L 高手啊。。。。暂时还没有写采集工具的能力
回复 支持 反对

使用道具 举报

1

主题

113

广告币

219

积分

初级会员

Rank: 2

积分
219

社区QQ达人

发表于 2014-8-18 18:16:05 来自手机 | 显示全部楼层
最简单迅雷下载,【1】~【xxxxxx】来自: iPhone客户端
回复 支持 反对

使用道具 举报

6

主题

1089

广告币

1118

积分

中级会员

Rank: 3Rank: 3

积分
1118

社区QQ达人

QQ
发表于 2014-8-24 15:47:34 | 显示全部楼层
如果有內链就没有任何问题,如果没有的话,自能去猜参数暴力的了
收亚马逊美国AFF老账号,收过款的那种
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关于我们|联系我们|DMCA|广告服务|小黑屋|手机版|Archiver|Github|网站地图|AdvertCN

GMT+8, 2025-1-11 23:47 , Processed in 0.053612 second(s), 14 queries , Gzip On, MemCache On.

Copyright © 2001-2023, AdvertCN

Proudly Operating in Hong Kong.

快速回复 返回顶部 返回列表