前几天，一则“政府工作人员因买方便面被通报”的消息甚嚣尘上。公安网安部门查明，该内容均属虚构，系曹某林为博眼球利用AI凭空捏造。目前，曹某林已被属地公安机关依法采取刑事强制措施。
“厉行节约、反对浪费”本是社会共识，也是正风肃纪的抓手，流量投机分子偏偏炮制谣言碰瓷，人为制造“低级黑”。从现实影响看，这一荒诞谣言还真迷惑了一些人，对相关工作造成了一定干扰。如今造谣者被刑拘，再度警示各方：造谣生事不仅缺德，更是违法，必然付出代价。
更值得一提的是，上述谣言又是“AI生成”。近两年来，AI谣言频出，且明显侵入时事政治等硬新闻领域，并展现出几个典型特性。
其一，成本极低，造谣趋于工业化。以往，为了抓人眼球，造谣者还要费些心思编造拼接，刺激情绪。如今，敲敲键盘就可批量生产不实内容。一键生成、坐收流量，在AI助力下，一个人就可以是一支“水军”。有报道显示，某家MCN机构用AI生成文章和图片，最高峰一天能生成4000至7000篇。
其二，能力极强，“出品”有模有样。从恶搞名人，到捏造热点，再到“改写”历史，各个领域AI都能信手拈来。往往只需要一个指令，其就能将文字、声音、图像和视频等深度融合。基于强大的生成能力，很多“AI谣言”已然能“以假乱真”。
其三，“效果”极佳，造谣“一本万利”。由于冲击力强、迷惑性高，不少虚假信息竟能产出百万、千万量级的浏览量。网络造谣的门槛与成本之低，效率与收益之高，破坏与影响之大，让人细思极恐。
谣言之害，不必多言。而当技术加持作恶，“网络传播的坍塌”就不再是危言耸听。
这些年，监管部门也一直在升级对AI谣言的治理。比如，相关规定明确提出，要对AI生成内容作出鲜明标识。不过，从现实来看，不少平台对AI生成的信息要么没有提示，要么字体极小，有的审核机制滞后甚至“先发后审”，给谣言传播留下了较大空间。再看技术层面，多个平台上线AI检测工具，尝试用“魔法打败魔法”。但对于海量生产的UGC内容而言，AI测假的能力看上去还没能跟上需求。总体来看，制度完善“提速”，治理手段“提智”，方向肯定没错，关键是如何做好落实。
AI技术日日加速迭代，这也意味着治理AI造谣必须加紧脚步，治理手段和路径都须更具前瞻性。加大资源与技术投入，尽快形成治理合力，才能防止AI工具沦为谣言的“黑箱”。
前几天，一则“政府工作人员因买方便面被通报”的消息甚嚣尘上。公安网安部门查明，该内容均属虚构，系曹某林为博眼球利用AI凭空捏造。目前，曹某林已被属地公安机关依法采取刑事强制措施。
“厉行节约、反对浪费”本是社会共识，也是正风肃纪的抓手，流量投机分子偏偏炮制谣言碰瓷，人为制造“低级黑”。从现实影响看，这一荒诞谣言还真迷惑了一些人，对相关工作造成了一定干扰。如今造谣者被刑拘，再度警示各方：造谣生事不仅缺德，更是违法，必然付出代价。
更值得一提的是，上述谣言又是“AI生成”。近两年来，AI谣言频出，且明显侵入时事政治等硬新闻领域，并展现出几个典型特性。
其一，成本极低，造谣趋于工业化。以往，为了抓人眼球，造谣者还要费些心思编造拼接，刺激情绪。如今，敲敲键盘就可批量生产不实内容。一键生成、坐收流量，在AI助力下，一个人就可以是一支“水军”。有报道显示，某家MCN机构用AI生成文章和图片，最高峰一天能生成4000至7000篇。
其二，能力极强，“出品”有模有样。从恶搞名人，到捏造热点，再到“改写”历史，各个领域AI都能信手拈来。往往只需要一个指令，其就能将文字、声音、图像和视频等深度融合。基于强大的生成能力，很多“AI谣言”已然能“以假乱真”。
其三，“效果”极佳，造谣“一本万利”。由于冲击力强、迷惑性高，不少虚假信息竟能产出百万、千万量级的浏览量。网络造谣的门槛与成本之低，效率与收益之高，破坏与影响之大，让人细思极恐。
谣言之害，不必多言。而当技术加持作恶，“网络传播的坍塌”就不再是危言耸听。
这些年，监管部门也一直在升级对AI谣言的治理。比如，相关规定明确提出，要对AI生成内容作出鲜明标识。不过，从现实来看，不少平台对AI生成的信息要么没有提示，要么字体极小，有的审核机制滞后甚至“先发后审”，给谣言传播留下了较大空间。再看技术层面，多个平台上线AI检测工具，尝试用“魔法打败魔法”。但对于海量生产的UGC内容而言，AI测假的能力看上去还没能跟上需求。总体来看，制度完善“提速”，治理手段“提智”，方向肯定没错，关键是如何做好落实。
AI技术日日加速迭代，这也意味着治理AI造谣必须加紧脚步，治理手段和路径都须更具前瞻性。加大资源与技术投入，尽快形成治理合力，才能防止AI工具沦为谣言的“黑箱”。
本文链接：http://www.vanbs.com/v-146-2527.html警惕AI成为谣言工厂
相关文章：
古风唯美句子46条11-26
实用的伤感个性句子95条08-16
最新医院药剂科工作总结简短十七篇(优秀)01-10
最新骨干教师个人工作总结100字 骨干教师个人年度工作计划(4篇)08-09
给老婆写不喝酒保证书12-16
写给父母的感谢信07-16
应聘书面自我介绍09-12
六年级毕业典礼发言稿08-10
孩子生病请假条11-22
学煎牛排六年级作文11-09
菜园子小学作文08-23
蟋蟀的自述四年级作文07-23
四川轻化工大学学费贵吗 大概招生多少人03-25
班主任师徒结对总结01-21
护士面试一分钟自我介绍02-06
饮用水安全应急预案11-16
个人业务学习计划09-06