AdvertCN - 广告中国

 找回密码
 立即注册

QQ登录

只需一步,快速开始

Binom
 谷歌+Bing+TT+MSN官方代理 
⚡️按条S5代理⚡️静态⚡️独享⚡️5G⚡️最干净<Wifi住宅+5G移动>IP代理指纹浏览器,就用AdsPower
Mediabuy⚡️玩家开户首选【鲁班跨境通-自助充值转账】FB/GG/TT❤️官方免费开户Affiliate 全媒体流量资源⚡️
Taboola/Outbrain /Bing⚡️一级代理开户投流-7*24h❤️人工在线【官方】❤️搜索套利广告开户独立站⚡️开户投放
DuoPlus专注打造跨境电商云手机E.PN 虚拟卡BINOM TRACKER 60% OFF!比Adplexity还好用的Spy工具
MediaGo+Taboola+Ob开户百度国际MediaGo⚡️让产品狂奔全球百度国际,高点击转化,快速放量百度国际MediaGo,独家原生流量
ADPLEXITY + ADVERTCN7200W全球动态不重复住宅IP代理虚拟信用卡+独立站收款全球虚拟卡, 支持U充值
Facebook 批量上广告尤里改 - FB 稳定投放免费黑五教程(持续更新、欢迎交流)FB 三不限源头 - 自助下户充值转款
各种主页、账单户、BM户(优势)⚡️个人户,bm户不限额,账单户一手BM分享户不限额9Proxy ⚡️ $0.04/IP, 无限带宽
FB二三解0.1元一个虚拟卡|PTM星际卡FB专用虚拟卡Google、Bing官方总代  联盟流量开户
FB账号资源/稳定靠谱/运行5年啦FB开户代投/三不限/白名单fb耐用号0.01一个fb账号官方合作商
搜索套利开户❤️Bigo/Kwai/MediagoFB资源,账单户,分享户,国内一手FB企业户BM户账单户源头广告位出租
查看: 10948|回复: 12

[讨论] iptables 禁止了百度蜘蛛,为什么还能爬我的站?

[复制链接]

10

主题

1020

广告币

1999

积分

高级会员

Rank: 4

积分
1999
发表于 2015-4-19 22:57:49 | 显示全部楼层 |阅读模式
用iptables 禁止了百度蜘蛛(爬得最频繁的一个段) 123.125.71.*7 ~8 o2 n% {! |# f1 i
# `( z/ D! h5 V; }8 p% @
iptables -I INPUT -s 123.125.71.0/24 -j DROP
* @  @+ \: m! Q- ^6 e; {, E( ^/ e8 ]+ e0 f
这应该没错吧,换成本地的ip段有效的,直接就访问不了,但是貌似禁止不了百度的蜘蛛啊,还是一堆的蜘蛛被统计到~~ 用的是statcounter。
, U$ p; r5 l6 m1 |
8 `& K7 ?0 w. s应该怎么禁止百度蜘蛛来爬呢?
! S. m  T9 J2 [4 j3 g4 P
相关帖子
回复

使用道具 举报

5

主题

36

广告币

222

积分

初级会员

Rank: 2

积分
222
发表于 2015-4-19 23:50:11 | 显示全部楼层
4 [% N$ r0 e( e" }/ g
用robot.txt直接禁

点评

我知道可以用robots.txt,还能用一段php代码禁止,但是我想的是用iptables为什么禁止不了,因为我还要禁止其他一些特殊的ip段,所以才有这个疑问,怕其他的也没有效果  详情 回复 发表于 2015-4-20 00:22
回复 支持 反对

使用道具 举报

10

主题

1020

广告币

1999

积分

高级会员

Rank: 4

积分
1999
 楼主| 发表于 2015-4-20 00:22:13 | 显示全部楼层
davidc 发表于 2015-4-19 23:50
4 Q) E: M( G3 E; t6 g: h; [用robot.txt直接禁
3 f8 [4 [( q) _0 q- Q& P
我知道可以用robots.txt,还能用一段php代码禁止,但是我想的是用iptables为什么禁止不了,因为我还要禁止其他一些特殊的ip段,所以才有这个疑问,怕其他的也没有效果

点评

蜘蛛不可能只有一个ip段的,要不做cloaking的不都乐疯了.  详情 回复 发表于 2015-4-20 00:49
回复 支持 反对

使用道具 举报

5

主题

36

广告币

222

积分

初级会员

Rank: 2

积分
222
发表于 2015-4-20 00:49:09 | 显示全部楼层
123jj 发表于 2015-4-20 00:228 Z1 l% y4 n. e# G( g  ]
我知道可以用robots.txt,还能用一段php代码禁止,但是我想的是用iptables为什么禁止不了,因为我还要禁 ...
" ~& R" C% f/ R! D5 o$ f1 o5 D
蜘蛛不可能只有一个ip段的,要不做cloaking的不都乐疯了.

点评

谢谢,我不是要屏蔽所有蜘蛛,是想知道为什么那句 iptables 规则为什么对 那个ip段不起作用  详情 回复 发表于 2015-4-20 00:57
回复 支持 反对

使用道具 举报

10

主题

1020

广告币

1999

积分

高级会员

Rank: 4

积分
1999
 楼主| 发表于 2015-4-20 00:57:33 | 显示全部楼层
本帖最后由 123jj 于 2015-4-20 00:58 编辑
1 E" k7 [  K$ l9 ~+ u
davidc 发表于 2015-4-20 00:49
: w  P% M! U/ ~0 k& f蜘蛛不可能只有一个ip段的,要不做cloaking的不都乐疯了.
1 h5 r$ k. Q5 ?$ N: w
谢谢,我不是要屏蔽所有蜘蛛,是想知道为什么那句 iptables 规则为什么对 那个ip段不起作用,而刚好那个ip段是百度蜘蛛,用iptables 屏蔽了还能统计得到。

点评

那你确定蜘蛛来自于这个段?  详情 回复 发表于 2015-4-20 01:49
回复 支持 反对

使用道具 举报

1621

主题

2万

广告币

2万

积分

管理员

宇宙无敌河马天神

Rank: 9Rank: 9Rank: 9

积分
29734

社区QQ达人

发表于 2015-4-20 01:49:10 | 显示全部楼层
123jj 发表于 2015-4-20 00:57
' G& X5 e# T% ~- U" q7 s( ~0 m+ _谢谢,我不是要屏蔽所有蜘蛛,是想知道为什么那句 iptables 规则为什么对 那个ip段不起作用,而刚好那个ip ...

6 Y2 `6 P( k, K$ u) s3 e那你确定蜘蛛来自于这个段?

点评

是啊,这个段是百度蜘蛛的其中一个段,我用iptables屏蔽了这个段,还能统计得到 [attachimg]11460[/attachimg] 类似的该段ip一堆一堆的 iptables是不是屏蔽不了蜘蛛,bot类的ip?这是比较疑惑的地方  详情 回复 发表于 2015-4-20 15:36
学会提问的艺术, 从小处入手, 忌大而空
AdvertCN电报群

我最喜欢用的工具
7200W全球动态不重复住宅IP代理
回复 支持 反对

使用道具 举报

2

主题

1511

广告币

1536

积分

高级会员

Rank: 4

积分
1536
发表于 2015-4-20 10:12:25 | 显示全部楼层
iptables保存了没?
6 x, l) D6 C+ p再执行一下这个命令 iptables-save 看看

点评

应该没问题,执行 iptables --list 可以看到  详情 回复 发表于 2015-4-20 15:38
回复 支持 反对

使用道具 举报

10

主题

1020

广告币

1999

积分

高级会员

Rank: 4

积分
1999
 楼主| 发表于 2015-4-20 15:36:39 | 显示全部楼层
河小马 发表于 2015-4-20 01:49
, w* s9 S/ \) k. {; x0 S3 z那你确定蜘蛛来自于这个段?
. `( p$ G- u1 B; h  F! U* n
是啊,这个段是百度蜘蛛的其中一个段,我用iptables屏蔽了这个段,还能统计得到
$ U& y/ V- U5 x2 k- S- \; t) X$ x. y% x

" Q5 f, v; z5 w+ J
% c, P9 f; n% {. y6 \类似的该段ip一堆一堆的% `3 l+ J5 b& b! V$ p: @
4 ^+ n) ?+ G4 I
iptables是不是屏蔽不了蜘蛛,bot类的ip?这是比较疑惑的地方, O0 J; I& p0 S* I

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x

点评

iptables 还是很准的 我现在都是直接用csf了 iptables 的命令都忘的差不多了 你不彷安装个csf 来处理ban ip的问题  详情 回复 发表于 2015-4-20 20:13
回复 支持 反对

使用道具 举报

10

主题

1020

广告币

1999

积分

高级会员

Rank: 4

积分
1999
 楼主| 发表于 2015-4-20 15:38:07 | 显示全部楼层
sanp 发表于 2015-4-20 10:120 F9 ]$ A& Y( v6 K2 s5 v$ g
iptables保存了没?
, C# a/ g4 j" w& ^* w- P" y再执行一下这个命令 iptables-save 看看

& }: [% A9 J3 B4 Z$ @$ m4 g2 y1 X应该没问题,执行 iptables --list 可以看到
回复 支持 反对

使用道具 举报

1621

主题

2万

广告币

2万

积分

管理员

宇宙无敌河马天神

Rank: 9Rank: 9Rank: 9

积分
29734

社区QQ达人

发表于 2015-4-20 20:13:10 | 显示全部楼层
123jj 发表于 2015-4-20 15:36  Y; w: P; v0 P" ~* j( H
是啊,这个段是百度蜘蛛的其中一个段,我用iptables屏蔽了这个段,还能统计得到

6 n3 F7 u( R# d0 t/ S+ diptables 还是很准的) c' a0 A5 {0 C5 f: R
) W+ I  g4 j+ _3 z/ K3 t( x
我现在都是直接用csf了
. V/ Z- r9 c0 ?7 u
9 c) e4 j' X% {: Xiptables 的命令都忘的差不多了' E6 p4 U- e* Q

5 z2 `/ T7 ]2 Q你不彷安装个csf 来处理ban ip的问题

点评

谢谢,我去试试  详情 回复 发表于 2015-4-20 23:09
学会提问的艺术, 从小处入手, 忌大而空
AdvertCN电报群

我最喜欢用的工具
7200W全球动态不重复住宅IP代理
回复 支持 反对

使用道具 举报

10

主题

1020

广告币

1999

积分

高级会员

Rank: 4

积分
1999
 楼主| 发表于 2015-4-20 23:09:37 | 显示全部楼层
河小马 发表于 2015-4-20 20:13, Q+ O7 K8 x- X7 h. I& S
iptables 还是很准的; K) R; ~0 T4 o8 t* Z8 C$ d: ^- k

* @$ [$ D/ D4 q' B" [& `我现在都是直接用csf了
. Z1 u: _! C4 Z4 X4 S4 a3 s) [; B
谢谢,我去试试
回复 支持 反对

使用道具 举报

maro666 该用户已被删除
发表于 2015-4-21 13:44:26 | 显示全部楼层
百度蜘蛛很多ip段的吧
回复 支持 反对

使用道具 举报

13

主题

1576

广告币

4044

积分

金牌会员

Rank: 6Rank: 6

积分
4044

社区QQ达人

发表于 2015-4-23 15:01:29 | 显示全部楼层
1.IP段非123.125.71.0/24
9 X8 Z' H4 H4 p2.drop上有accept,iptables规则顺序执行遇到匹配的不再向下匹配
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关于我们|联系我们|DMCA|广告服务|小黑屋|手机版|Archiver|Github|网站地图|AdvertCN

GMT+8, 2024-12-22 10:42 , Processed in 0.072703 second(s), 31 queries , Gzip On, MemCache On.

Copyright © 2001-2023, AdvertCN

Proudly Operating in Hong Kong.

快速回复 返回顶部 返回列表