本帖最后由 sohusec 于 2024-6-15 20:16 编辑
$ e% y; @6 \- \* }) A- X. h8 L# V1 _3 c$ S4 c+ `
IT之家 6 月 14 日消息，据央视昨日报道，今年 1 月，有网络平台出现一条“西安发生爆炸”的消息，其时间地点等关键信息和配图齐备，极具迷惑性。经警方调查，消息发布账号归属于一家江西的 MCN 机构。 IT之家注：MCN 指“多频道网络”，是与内容创作者合作或直接生产内容的任何实体或组织，并在发布内容的网络平台上执行业务和营销功能。
; s* ?1 y% ^8 G4 R* t! L: O$ i* U' \3 ]4 J2 q4 I6 d- B9 E4 B' K
/ ]5 B7 Q: o# ~- i- @ O% W7 P( V+ F6 u
6 \/ ?0 _+ O0 p" n( a& q1 S该公司实际控制人为王某某。据南昌市公安局高新分局网络安全保卫大队大队长李毅介绍，上述“爆炸”消息经核实并未发生，就此初步判定该 MCN 机构发布的数条信息涉嫌网络造谣。 警方立刻对该公司负责人进行约谈，同时勘察该公司办公场所，对使用的电脑和软件工具进行现场取证。 经核实，上述谣言从文本到图片全部由 AI 生成。王某某通过国内一个网站 —— 其专门提供“近期可能生成热点的新闻报道”或“正在 / 即将发生的一类事情”，并分级分类将关键词提供给写作者。王某某通过该网站生成关键词，形成了文章的标题。 王某某随后再通过具有语音交互功能的 AI 软件，说出关键词后软件自动从网络上抓取相关信息，生成数百到上千字的文本，并配上“貌似与事件相关”的虚假图片，从而形成看起来信息量很大、实际上子虚乌有的内容。 $ m% \1 @5 R3 \
9 k3 t! r. k6 @ p3 W
3 y1 G& Y2 z- `- O7 c
+ i( C; f+ e) m3 E G3 g
随后，王某某再将 AI 生成的内容使用另一款软件自动上传到该 MCN 机构控制的多网络平台不同账号上，并对外发布，全程基本不需要人工参与。因此，在操作过程中产生了此类谣言信息。这家 MCN 机构短时间内生成了大量文章，最高峰一天能生成 4000-7000 篇。 警方在调查过程中发现，该 MCN 机构在网络上发布的内容以民生类信息为主，通过加入夸张故事情节或猎奇性成分，或编造不实信息来获取网民关注度、点赞量，进而实现流量变现。通过这一方式，王某某在短时间内获得了高额报酬。经警方初步估算，该机构每天的收入在 1 万元以上。 经查，江西男子王某江经营有 5 家 MCN 机构，共运营自媒体账号 842 个，其长期组织公司人员选取热点文章，使用人工智能工具批量生成不实文章进行吸粉引流。目前，江西南昌公安机关已对王某江处以行政拘留 5 日，责令涉案 MCN 机构停业整改。 6 s8 P+ L: Q& R( m; U
| 
发表于 2024-6-15 20:15:36
发表于 2024-6-16 13:40:50
发表于 2024-6-16 16:43:20
发表于 2024-6-16 21:38:41
发表于 2024-6-17 13:53:11
发表于 2024-6-18 17:02:09
8 r7 }( Z* F: W0 h$ {( P K3 l# A