“火车撞上修路工致9死”？用ChatGPT写假新闻捞钱的人已经被抓了

“火车撞上修路工致9死”？用ChatGPT写假新闻捞钱的人已经被抓了

当你还不知道CHATGPT为何物时，已经有人用它来捞钱了。

“近日，甘肃省发生的一起火车与修路工人相撞事故震惊了全国。据报道，这起事故发生在今晨，导致9名修路工人不幸丧生。”

看完上述短讯如若信以为真，那你便落入了不法分子的“圈套”。实际上，这则看似有板有眼的短讯是一条彻头彻尾的假新闻，在犯罪嫌疑人通过ChatGPT改编辑后，这条假新闻被套在了平凉、兰州、陇南、定西、庆阳等多地上，危害性急剧扩散。

技术狂奔产生的恶果比想象中来的更快，或许连ChatGPT也没想到，自己的“一宗罪”，竟是由人类编造假新闻牟利所造成的。

ChatGPT成假新闻制造机

有人用它赚流量牟利被抓了

据微信公众号“甘肃公安”消息，近日，平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件。

事件中，犯罪嫌疑人洪某弟通过微信好友获知网络赚取流量变现方法，并购买大量“百家号”。同时使用“易撰”网页版，在全网搜索近几年社会热点新闻，为规避百家号查重功能，洪某弟通过近期火爆的ChatGPT人工智能软件将搜集到的新闻要素修改编辑后，使用“海豹科技”软件上传至其购买的百家号上非法获利。

上述“甘肃一火车撞上修路工人致9人死亡”的文章便是犯罪嫌疑人用来牟利的假新闻之一，该文章经过ChatGPT改编传播后点击量已达1.5万余次。

据警方通报，洪某弟利用现代科技手段编造虚假信息，并散布在互联网上，被大量传播浏览，其行为已涉嫌寻衅滋事罪。目前，崆峒公安分局对犯罪嫌疑人洪某弟采取刑事强制措施，案件正在进一步侦办之中。

事实上，这已经不是ChatGPT第一次陷入假新闻风波了。

今年2月，一条关于杭州3月1日取消限行的“新闻稿”引发广泛传播，但经调查发现，该消息为假新闻，

真相是，2023年2月16日下午，杭州某小区业主群在讨论ChatGPT。一位业主就开玩笑说尝试用它写篇杭州取消限行的新闻稿看看。随后该业主在群里直播了ChatGPT写作过程，还把文章发群里。有不明所以的业主误将其当真并截图转发，最后导致错误信息被传播，最后涉事业主也在群里公开道歉。

类似的新闻还有很多，从“火车撞上修路工人”到“杭州限行风波”再到“某某新物种被发现”，只要输入相应的指令，拥有强大语言天赋和生成能力的ChatGPT在短短几秒钟之内就可以生成一则有板有眼的消息。

但鉴于这是一款“服务于指令”的工具，只会致力于服从施令者的要求，不会对生产消息的真实性进行审核，因此ChatGPT极易成为假新闻生产者的“帮凶”。

为什么ChatGPT写出的假新闻更具有传播性？

早有新闻可信度评估机构提出，“ChatGPT可能成为互联网有史以来最强大的传播虚假信息的工具。”一些实验表明，ChatGPT等个性化的实时聊天机器人(行情300024,诊股)在制造阴谋论方面甚至相比人类阴谋论者更具优势，它能够修正糟糕的语法或错误的翻译，并变换表达方式，使阴谋论显得更具说服力和可信度。

眺远营销咨询创始人高承远对蓝鲸记者表示，用ChatGPT写“假新闻”，不管是否有牟利行为，都不改变违法的事实。

由ChatGPT写出的假新闻要比一般的假新闻更具有传播性，因为AI强大的学习能力，除了“新闻事件”本身是假的之外，其他新闻的要素，包括语言，可能都已经达到真正的记者水平。这是其更具有传播力的主要原因。此外，用AI写新闻，速度远远超过人类，大量撰写假新闻，不断试错，总有一些会产生超强影响力，这也是ChatGPT写的新闻比一般的假新闻更具有传播性的原因。

该事件也给想利用新科技赚快钱，割韭菜的人一次提醒。无论是用什么高科技手段，都改不了制造虚假新闻，非法牟利的事实。

做号党的帮凶？

人工智能解放生产力

假新闻门槛进一步降低

不止是ChatGPT，近年来人工智能的飞速发展让AI造假泛滥成灾，从文字、图片、到视频，AI的不断进化大大提高了创作的生产效率，同时也成为了假新闻野蛮生长的温床。

一位百家号的创作者对蓝鲸记者表示，百家号有个文字生成视频的功能， 此前一篇新闻稿在作者毫不知情的情况下被平台自动生成了视频，但视频内容和文字内容完全不符合，视频所用素材均是3年前的内容，自动发布后引发了一系列纠纷。

在人工智能的辅助下即便是无意间也会生产出假新闻，就更不用提那些依靠假新闻牟利的职业做号党了。

早在3年前，一组“店铺关门，华商太难”的系列造谣文章曾轰动一时，这组推文足足有十四五篇，之所以能刷屏，是因为这些文章都是一个模子里刻出来的。全文从标题《疫情之下的XXX：店铺关门歇业，XXX华商太难了！！》到内文，除了国家名和文内主人公名字不一样，其他内容完全一样。这些文章来自不同的微信公众号，把他们搜出来齐刷刷放在一起，颇为“壮观”。网友戏称其为“一篇通稿供全球”，是“通稿式造谣”。

这些文章均出自做号党的手笔，目的无外乎赚流量牟利，而在人工智能时代，假新闻的生产门槛被进一步降低，做号党甚至不用自己东拼西凑的抄袭，只需在软件里发出指令就可以源源不断生产各种虚假消息。有的甚至不需要输入指令，就能自动生成视频。

技术狂飙背后的

人工智能迎来监管难题

假新闻的危害不言而喻，在社交媒体上，此类信息几乎是以裸奔的方式传播，并且真假难辨，势必会给读者在判断上造成困难，扰乱网络传播秩序，一定程度上掀起社会的恐慌。

从早期的AI换脸、AI换音频到如今的AI造假新闻、假视频，人工智能技术衍生出来的各类恶意应用，一度将网络与现实世界推向失序的边缘。

为此，相关部门已发布多条管理规定，规范行业发展。今年1月，我国《互联网信息服务深度合成管理规定》明确，深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的，应当依法转载互联网新闻信息稿源单位发布的新闻信息。

今年4月，国家网信办也起草了《生成式人工智能服务管理办法（征求意见稿）》。当下人工智能的发展速度正在不断加快，或许只有在法律法规逐渐完善的背景下，行业才能迎来更加良性的发展。