南昌一MCN机构使用AI工具制作假新闻，每日获利万元违法所得

AI奇点网6月14日报道丨近日，网上惊闻！?「西安突发爆炸」「重庆巫溪一民房发生爆炸」…这些新闻都是真的吗？

据央视新闻报道，近期??网警发现网上涌现不少耸人听闻的消息，经查发现竟然都是利用AI工具炮制的谣言。官方已经就这些信息在公开平台进行了辟谣。

今年1月，某平台突然出现一条关于“1月10日西安爆炸”的消息，文字下方还配有蘑菇云造型的爆炸图片。消息一经发布，很快在网上发酵。

经调查，消息的发布账号归属于南昌一家MCN机构，这家公司的实控人为王某某。

经约谈得知，该公司通过AI工具打造谣言新闻。只需说出博人眼球的关键词，就可以快速生成文本与图像。一段看起来信息量很大的消息，实则子虚乌有。这些虚假文章被上传到多个网络平台，最高峰一天能生成4000-7000篇。

经王某某交代，该公司运营800多个账号，最高峰一天可以产出4000~7000篇谣言，最高的一条平台分润收入700元，预估每日收入可达1万元以上。

王某某的行为已经构成传播谣言虚构事实扰乱公共秩序。目前，南昌警方依法对王某某处以行政拘留5日，责令涉案MCN机构停业整改。

随着生成式AI大量进入社会，提醒各位网友要擦亮眼睛，多抱持怀疑，谨防上当受骗。