网站没有流量，爬虫的到是不少

cangheng · 发表于 2020-9-28 19:43:03

这么多爬虫

朝阳风雨 · 发表于 2020-9-28 20:05:36

你这个是防爬的吧？关注内容，不用关注太多这些东西吧

河小马 · 发表于 2020-9-28 21:04:15

建网站以后，很大一部分资源都给爬虫搞走了

我一般都是在cloudflare 的firewall 那里直接屏蔽爬虫，比你写nginx 规则要简单和省事的多

河小马 · 发表于 2020-9-28 21:04:58

朝阳风雨发表于 2020-9-28 20:05# f/ S7 q; a+ \3 W M
你这个是防爬的吧？关注内容，不用关注太多这些东西吧

还是需要的。。。。服务器的资源，绝大部分都给无量爬虫占据了。。。。

没事的时候，设置一个access log。。。就能看到了

爬虫太狠了

朝阳风雨 · 发表于 2020-9-28 21:06:38

河小马发表于 2020-9-28 21:04
还是需要的。。。。服务器的资源，绝大部分都给无量爬虫占据了。。。。
7 ?/ m$ e/ T/ G2 n3 a- z N: H, t ~% \* `' r) D- i5 x m. i
没事的时候，设置一个access log ...

偷懒用虚拟主机的我还是算了对我访问没有啥影响

河小马 · 发表于 2020-9-28 21:09:27

朝阳风雨发表于 2020-9-28 21:06
' V. a5 w) Q6 I, n0 \' l: Z偷懒用虚拟主机的我还是算了对我访问没有啥影响

虚拟主机，一般都直接屏蔽了

朝阳风雨 · 发表于 2020-9-28 21:13:42

河小马发表于 2020-9-28 21:09
0 j* c' f2 A8 ?" h; R4 V虚拟主机，一般都直接屏蔽了

那就省事快捷了

cangheng · 发表于 2020-9-29 08:55:25

河小马发表于 2020-9-28 21:04' G1 S! s& e) u |
建网站以后，很大一部分资源都给爬虫搞走了4 E* U/ d6 c/ V

, X9 A, ]. S0 x& D7 c; [7 m我一般都是在cloudflare 的firewall 那里直接屏蔽爬虫，比你写 ...

谢谢河马

d6mmsm71 · 发表于 2020-9-29 08:56:57

河小马发表于 2020-9-28 21:04
% j! v& T( E8 C3 T还是需要的。。。。服务器的资源，绝大部分都给无量爬虫占据了。。。。/ o) v: d2 S# g/ _

' S( g. d; [) j3 P9 ^5 F没事的时候，设置一个access log ...

这样就没有收录了，更不好

sead · 发表于 2020-9-29 09:05:14

强迫症表示，～* "(php|wget)" 不香么

sead · 发表于 2020-9-29 09:11:36

河小马发表于 2020-9-28 21:04( f. o: ?7 L( v: U i
建网站以后，很大一部分资源都给爬虫搞走了/ `5 b/ V5 v9 C* b
+ x' D8 ]) l) N3 S$ M d8 i0 ?8 Q# F
我一般都是在cloudflare 的firewall 那里直接屏蔽爬虫，比你写 ...

要是爬内容的用谷歌的蜘蛛身份怎样破？防火墙怎样设置好点

d6mmsm71 · 发表于 2020-9-29 09:32:01

我才不搞这些花里胡哨的屏蔽爬虫，一不小心搞降权了就亏大了，配置不够就升级，有投入才有收入

luck · 发表于 2020-9-29 11:03:42

用的是VPS，不懂代码，网站内容也被能去不少，干着急，没办法。

加拿大华人 · 发表于 2020-9-29 11:52:23

河小马发表于 2020-9-28 21:04
% V4 {: x! Z# {) m$ S* }2 t7 Q建网站以后，很大一部分资源都给爬虫搞走了1 C9 N7 ?& f2 U' w" h; H
) g j3 a, b3 a) ?) g, N4 P
我一般都是在cloudflare 的firewall 那里直接屏蔽爬虫，比你写 ...

请问cloudflare 的firewall ，这种功能是免费的还是PRO收费版本？

如果是免费的，可以知道下具体怎么操作么？

河小马 · 发表于 2020-9-29 16:09:42

加拿大华人发表于 2020-9-29 11:52
8 D( I1 G) Q! P- O; X# S) N8 a( W2 j请问cloudflare 的firewall ，这种功能是免费的还是PRO收费版本？1 _; T4 Y4 i5 u

8 I3 }+ P# |: W* Z: n如果是免费的，可以知道下具体怎么操 ...

免费的

CF的文档写的很清楚，自己看下文档就好了

		自动登录	找回密码
密码			立即注册

谷歌+Bing+TT+MSN官方代理	⚡️按条S5代理⚡️静态⚡️独享⚡️5G	需要代理IP?⚡️Proxysites.ai⚡️	指纹浏览器，就用AdsPower
Mediabuy⚡️玩家开户首选	【鲁班跨境通-自助充值转账】	FB/GG/TT❤️官方免费开户	Affiliate 全媒体流量资源⚡️
Taboola/Outbrain /Bing⚡️一级代理	*开户投流-724h❤️人工在线**	【官方】❤️搜索套利买量投流开户	独立站⚡️开户投放
DuoPlus专注打造跨境电商云手机	E.PN 虚拟卡	BINOM TRACKER 60% OFF!	比Adplexity还好用的Spy工具
MediaGo+Taboola+Ob开户	百度国际MediaGo⚡️让产品狂奔全球	百度国际，高点击转化，快速放量	百度国际MediaGo，独家原生流量
ADPLEXITY + ADVERTCN	7200W全球动态不重复住宅IP代理	全球虚拟卡, 支持U充值	Facebook 批量上广告
尤里改 - FB 稳定投放	免费黑五教程（持续更新、欢迎交流）	FB 三不限源头 - 自助下户充值转款	各种主页、账单户、BM户（优势）
⚡️个人户，bm户不限额，账单户	9Proxy ⚡️ $0.04/IP, 无限带宽	IPCola原生住宅IP⚡️$2.1/条双ISP	虚拟卡\|PTM星际卡
FB专用虚拟卡	Google、Bing官方总代联盟流量开户	fb耐用号0.01一个	fb账号官方合作商
FB资源，账单户，分享户，国内一手	广告位出租

[吐槽] 网站没有流量，爬虫的到是不少

本帖子中包含更多资源

点评

点评

点评

点评

点评

点评

点评

点评

社区QQ达人