做大型多语言采集站哪种方案好些？

buyabag · 发表于 2020-10-3 22:44:09

没接触过千万级内容的站，不过我估计，首先程序肯定得是自写的了，起码魔改，要不然很多地方都不合你的需求。其次对你整个流程的架构都是个考验，从硬件到软件，从采集到节点。

另外啊，其实国外内容站很不好做，你要知道google是面向全球，资讯站早已极大丰富，基本上什么内容都很完整且优秀，完全饱和了。光靠采集翻译什么的，九成九是没排名的，跟国内内容荒漠的网络环境完全不是一回事。所以论坛内大佬都跑CPS那些赚分成。

gatsby · 发表于 2020-10-3 23:22:21

buyabag 发表于 2020-10-3 22:44
3 z8 b# T3 @$ G4 h9 H8 y没接触过千万级内容的站，不过我估计，首先程序肯定得是自写的了，起码魔改，要不然很多地方都不合你的需求 ...

确实是这样，对各方面都是个考验，就当时个学习的历程。人们收入下降消费欲望降低，cps同样也不好做。跟不上时代，处于逐渐被淘汰的边缘，做什么都不容易，难。

比特人 · 发表于 2020-10-4 15:25:49

wordpress不要说千万级了，连50w就很困难了，特别是用lnmp

gatsby · 发表于 2020-10-4 21:24:24

比特人发表于 2020-10-4 15:251 G2 Y/ u5 a# A/ [
wordpress不要说千万级了，连50w就很困难了，特别是用lnmp

正是准备使用lnmp搭建wordpress，这可如何是好

laoyebin · 发表于 2020-10-4 22:31:08

gatsby 发表于 2020-10-4 21:24" e7 ~0 Z% X, [2 a$ ~; F2 ?
正是准备使用lnmp搭建wordpress，这可如何是好

别想那么远，干了再说，说不定你几万数据时候就已经放弃这个站了

gatsby · 发表于 2020-10-4 22:56:07

laoyebin 发表于 2020-10-4 22:31; X$ ^ U% C- H$ j" n& k5 |
别想那么远，干了再说，说不定你几万数据时候就已经放弃这个站了

不错，干了再说

我是c罗 · 发表于 2020-10-5 20:35:11

量大调用API根本不现实，不管是google还是其他引擎都是要钱的。
你可以下载个有道词典，然后用selenium 写个自动化在桌面自动翻译完成入库。可以各种语言和软件之间倒腾几次。

gatsby · 发表于 2020-10-5 21:21:58

我是c罗发表于 2020-10-5 20:35
6 i/ Q# d- [2 }" y; l量大调用API根本不现实，不管是google还是其他引擎都是要钱的。9 x5 J) t4 w& q0 ~
你可以下载个有道词典，然后用selenium 写 ...

好的，谢谢，翻译的话反复考虑了很多方法都没法简单实现，只能来回多倒腾几次了。

大洲 · 发表于 2020-10-15 15:08:22

不翻译，硬干。硬盘网络成本低于翻译API。

正好有个任务，目前index了2300万文章，采集了1000万成果。

gatsby · 发表于 2020-10-16 09:52:25

大洲发表于 2020-10-15 15:08- F A2 w8 h E5 H
不翻译，硬干。硬盘网络成本低于翻译API。

不愧为钱大大，用什么内容管理系统去承载这么大的数据量呢，另外简繁转换容易些，多语言就得用api了，现成的googletrans库也不靠谱。

dengwen168 · 发表于 2020-10-16 10:12:50

大洲发表于 2020-10-15 15:08+ B3 ?: L r( H0 X9 [$ Q
不翻译，硬干。硬盘网络成本低于翻译API。

牛人，，
还自己写了界面，，

dengwen168 · 发表于 2020-10-16 10:15:29

我是c罗发表于 2020-10-5 20:35 J% r: n# A" D2 c/ p1 c$ R
量大调用API根本不现实，不管是google还是其他引擎都是要钱的。7 h% i3 K. R2 N( O
你可以下载个有道词典，然后用selenium 写 ...

请问selenium操作有道词典是如何弄的？

有道词典也支持一篇文章这样的全文翻译么？谢谢。

大洲 · 发表于 2020-10-16 16:38:14

gatsby 发表于 2020-10-16 09:52. S: i( T+ x0 {5 h% F# m
不愧为钱大大，用什么内容管理系统去承载这么大的数据量呢，另外简繁转换容易些，多语言就得用api了，现 ...

CMS也是自写。MR9.AS 。单机独服单域名亿数据能扛得住。

hhqq · 发表于 2020-10-18 12:08:02

大洲发表于 2020-10-15 15:085 h: r, v7 m& y6 X( c# ]
不翻译，硬干。硬盘网络成本低于翻译API。

请问采集的源站是中文的还是英文的呀？

gingko · 发表于 2020-10-19 16:38:01

先干，边走边换服务器

		自动登录	找回密码
密码			立即注册

谷歌+Bing+TT+MSN官方代理	⚡️按条S5代理⚡️静态⚡️独享⚡️5G	⚡️最干净<Wifi住宅+5G移动>IP代理	指纹浏览器，就用AdsPower
Mediabuy⚡️玩家开户首选	【鲁班跨境通-自助充值转账】	FB/GG/TT❤️官方免费开户	Affiliate 全媒体流量资源⚡️
Taboola/Outbrain /Bing⚡️一级代理	*开户投流-724h❤️人工在线**	【官方】❤️搜索套利广告开户	独立站⚡️开户投放
DuoPlus专注打造跨境电商云手机	E.PN 虚拟卡	BINOM TRACKER 60% OFF!	比Adplexity还好用的Spy工具
MediaGo+Taboola+Ob开户	百度国际MediaGo⚡️让产品狂奔全球	百度国际，高点击转化，快速放量	百度国际MediaGo，独家原生流量
ADPLEXITY + ADVERTCN	7200W全球动态不重复住宅IP代理	虚拟信用卡+独立站收款	全球虚拟卡, 支持U充值
Facebook 批量上广告	尤里改 - FB 稳定投放	免费黑五教程（持续更新、欢迎交流）	FB 三不限源头 - 自助下户充值转款
各种主页、账单户、BM户（优势）	⚡️个人户，bm户不限额，账单户	一手BM分享户不限额	9Proxy ⚡️ $0.04/IP, 无限带宽
IPCola原生住宅IP⚡️$2.1/条双ISP	FB二三解0.1元一个	虚拟卡\|PTM星际卡	FB专用虚拟卡
Google、Bing官方总代联盟流量开户	FB账号资源/稳定靠谱/运行5年啦	FB开户代投/三不限/白名单	广告位出租

[讨论] 做大型多语言采集站哪种方案好些？

点评

点评

点评

点评

本帖子中包含更多资源

点评

点评

社区QQ达人