前几天，一则“政府工作人员因买方便面被通报”的消息甚嚣尘上。公安网安部门查明，该内容均属虚构，系曹某林为博眼球利用AI凭空捏造。目前，曹某林已被属地公安机关依法采取刑事强制措施。
“厉行节约、反对浪费”本是社会共识，也是正风肃纪的抓手，流量投机分子偏偏炮制谣言碰瓷，人为制造“低级黑”。从现实影响看，这一荒诞谣言还真迷惑了一些人，对相关工作造成了一定干扰。如今造谣者被刑拘，再度警示各方：造谣生事不仅缺德，更是违法，必然付出代价。
更值得一提的是，上述谣言又是“AI生成”。近两年来，AI谣言频出，且明显侵入时事政治等硬新闻领域，并展现出几个典型特性。
其一，成本极低，造谣趋于工业化。以往，为了抓人眼球，造谣者还要费些心思编造拼接，刺激情绪。如今，敲敲键盘就可批量生产不实内容。一键生成、坐收流量，在AI助力下，一个人就可以是一支“水军”。有报道显示，某家MCN机构用AI生成文章和图片，最高峰一天能生成4000至7000篇。
其二，能力极强，“出品”有模有样。从恶搞名人，到捏造热点，再到“改写”历史，各个领域AI都能信手拈来。往往只需要一个指令，其就能将文字、声音、图像和视频等深度融合。基于强大的生成能力，很多“AI谣言”已然能“以假乱真”。
其三，“效果”极佳，造谣“一本万利”。由于冲击力强、迷惑性高，不少虚假信息竟能产出百万、千万量级的浏览量。网络造谣的门槛与成本之低，效率与收益之高，破坏与影响之大，让人细思极恐。
谣言之害，不必多言。而当技术加持作恶，“网络传播的坍塌”就不再是危言耸听。
这些年，监管部门也一直在升级对AI谣言的治理。比如，相关规定明确提出，要对AI生成内容作出鲜明标识。不过，从现实来看，不少平台对AI生成的信息要么没有提示，要么字体极小，有的审核机制滞后甚至“先发后审”，给谣言传播留下了较大空间。再看技术层面，多个平台上线AI检测工具，尝试用“魔法打败魔法”。但对于海量生产的UGC内容而言，AI测假的能力看上去还没能跟上需求。总体来看，制度完善“提速”，治理手段“提智”，方向肯定没错，关键是如何做好落实。
AI技术日日加速迭代，这也意味着治理AI造谣必须加紧脚步，治理手段和路径都须更具前瞻性。加大资源与技术投入，尽快形成治理合力，才能防止AI工具沦为谣言的“黑箱”。
前几天，一则“政府工作人员因买方便面被通报”的消息甚嚣尘上。公安网安部门查明，该内容均属虚构，系曹某林为博眼球利用AI凭空捏造。目前，曹某林已被属地公安机关依法采取刑事强制措施。
“厉行节约、反对浪费”本是社会共识，也是正风肃纪的抓手，流量投机分子偏偏炮制谣言碰瓷，人为制造“低级黑”。从现实影响看，这一荒诞谣言还真迷惑了一些人，对相关工作造成了一定干扰。如今造谣者被刑拘，再度警示各方：造谣生事不仅缺德，更是违法，必然付出代价。
更值得一提的是，上述谣言又是“AI生成”。近两年来，AI谣言频出，且明显侵入时事政治等硬新闻领域，并展现出几个典型特性。
其一，成本极低，造谣趋于工业化。以往，为了抓人眼球，造谣者还要费些心思编造拼接，刺激情绪。如今，敲敲键盘就可批量生产不实内容。一键生成、坐收流量，在AI助力下，一个人就可以是一支“水军”。有报道显示，某家MCN机构用AI生成文章和图片，最高峰一天能生成4000至7000篇。
其二，能力极强，“出品”有模有样。从恶搞名人，到捏造热点，再到“改写”历史，各个领域AI都能信手拈来。往往只需要一个指令，其就能将文字、声音、图像和视频等深度融合。基于强大的生成能力，很多“AI谣言”已然能“以假乱真”。
其三，“效果”极佳，造谣“一本万利”。由于冲击力强、迷惑性高，不少虚假信息竟能产出百万、千万量级的浏览量。网络造谣的门槛与成本之低，效率与收益之高，破坏与影响之大，让人细思极恐。
谣言之害，不必多言。而当技术加持作恶，“网络传播的坍塌”就不再是危言耸听。
这些年，监管部门也一直在升级对AI谣言的治理。比如，相关规定明确提出，要对AI生成内容作出鲜明标识。不过，从现实来看，不少平台对AI生成的信息要么没有提示，要么字体极小，有的审核机制滞后甚至“先发后审”，给谣言传播留下了较大空间。再看技术层面，多个平台上线AI检测工具，尝试用“魔法打败魔法”。但对于海量生产的UGC内容而言，AI测假的能力看上去还没能跟上需求。总体来看，制度完善“提速”，治理手段“提智”，方向肯定没错，关键是如何做好落实。
AI技术日日加速迭代，这也意味着治理AI造谣必须加紧脚步，治理手段和路径都须更具前瞻性。加大资源与技术投入，尽快形成治理合力，才能防止AI工具沦为谣言的“黑箱”。
本文链接：http://www.vanbs.com/v-146-2527.html警惕AI成为谣言工厂
相关文章：
很走心的人生哲理句子12-14
工作上表扬的话语09-06
美好的早安问候语语录08-16
高二下英语教学工作总结02-26
大学生钳工实习报告11-13
土建监理员年终工作总结报告(五篇)09-09
项目合同02-26
项目合作框架协议书参考09-20
补办医疗卡介绍信08-09
工程投标介绍信07-16
《小王子》英文读后感01-12
高中班主任养成教育总结发言稿10-10
初中军训心得常用(15篇)08-20
软件实训心得体会08-16
蜗牛的奥秘作文04-07
高一感恩母亲议论文03-13
过年的叙事作文02-06
高考作文素材：汉字12-23
河南省的高考成绩怎么查询？09-13
南京大学有什么优势专业？08-27
小学六年级语文下册期末试卷07-19
大气污染调查报告09-18
保护眼睛的宣传标语08-01
超市大学生暑假社会实践总结07-26