原本只是“小打小闹”的AI造谣行为,如今正逐渐演变成具有“大规模杀伤性”的武器。在山西发生的这两起案子,给每一个参与玩AI的人都敲响了警钟:如果利用AI去编造毫无根据的瞎话,那是真的有可能会面临被关进监狱甚至还得在里面“包吃包住”的后果。
AI成造谣神器 几小时炮制假塌方
去年 12 月,晋城的骈某起了个不正当的念头,他期望在网络上获得关注,可又不情愿用心去构思情节、拍摄素材,所以,他开启了 AI 工具,输入了数个关键词,这些关键词为山西、隧道、塌方、遇难,马上地,AI 为他炮制出来一段极具情境感的文案,并且依据文案描述创作出了极为逼真的虚假事故视频。
从开始产生想法到最终成品制作完成并推出,骈某仅仅花费了极其短暂微不足道的时间,12月10日进行内容生成,12月12日之际他便将视频发布到了抖音以及快手之上,视频当中信誓旦旦地声称“析城山隧道出现塌方状况,5人遭遇不幸丧失性命”,所展示的画面看上去有模有样煞有其事,一般普通的网友根本就无法察觉出其中的漏洞破绽。
播放量破万 虚构灾情换来十日拘留
这条虚假视频迅速传播开来,仅是抖音平台就累计播放达1.5万次。好多人信以为真,评论区满是议论之声,造成了一定程度的社会恐慌。然而假的总归是假的,阳城县网信办巡查发觉后,即刻向交通局进行核实。
可以想象得出结果,当地根本就未曾发生过这款事故。网信办迅速地固定了相关证据,而后移交公安部门处理。最终警方很快便锁定了隐匿在网络背后的长治籍贯男子骈某。在面对确凿证据的情况下,骈某对于借助AI造谣一事供认不讳。他原本企图凭借博眼球的方式来赚取流量,然而最终等来的却是被处以行政拘留十日的处罚结果哦。
地震刚发生 谣言视频当晚就上线
说来也巧,忻州这儿也冒出来个号称“效率奇高”的造谣之人吴某某。12 月 13 日 17 时 20 分,忻州市忻府区那儿发生了 3.4 级地震,震感比较轻,并未造成任何人员伤亡以及财产损失。可是呢,就在当天晚上 19 时左右,距离地震发生不到两小时,网络上就有了大的动静。
一个从事自媒体运营的账号,发布了一条被宣称是“突发!山西忻州遭遇6级地震,多地震感强烈”的紧急性质的消息,并且还配上了令人看了内心触动、视觉上感到惊心的“灾情”视频。那个视频当中,房屋出现倒塌现象、地面产生开裂状况,看起来显得十分惨烈。忻州市网信办在工作开展进程中发现了这个情况之后,马上就察觉到此事存在不对劲之处,因为其震级和实际发生的情况严重不相符合。
明知是假仍传播 只为流量不计后果
网信办快速进行核查,证实这条信息以及视频统统是伪造而成的。那个看上去十分吓人的视频,乃是借助AI技术生成的虚假画面,在现实当中根本未曾发生过。他们于第一时间把证据固定下来,并将线索转交给公安机关,一场针对网络谣言的追捕即刻展开了。
经警方查明,发布者吴某某心里十分清楚,他晓得这条信息是假的,视频是由AI合成的。然而,为了获取关注,捞取流量带来的好处,他选择装作没看见,甚至刻意这样做,在网络上大量传播这种会引发社会恐慌的地震谣言。他此举,严重扰乱了社会公共秩序。
治安管理处罚法修订 造谣成本再提高
为自身“聪明”最终付出代价之吴某某 ,其行为违反了《中华人民共和国治安管理处罚法》 ,公安机关依法针对他作出了行政拘留三天的处罚,事后 ,吴某某表示极其后悔 ,认识到了自身违法行为给社会所带来的不良影响。
要在这儿特别向大家提醒留意,新修订的那部《治安管理处罚法》自今年1月1日起已然正式开始施行。它之中有明确的规定表明,散布谣言,把险情、疫情、灾情、警情进行谎报进而故意去扰乱公共秩序的情况,不严重的话会被拘留且罚款,严重的话就要面临更为严厉的惩处。利用AI去造谣,属于典型的那种“情节较重”情形。
深度合成不是法外之地 技术岂能用于作恶
国家针对利用AI这般深度合成技术去传播虚假信息的情况,早就划定了红线。《互联网信息服务深度合成管理规定》讲得清清楚楚,任何组织以及个人都不能够利用此项技术去制作、复制、发布法律所禁止的信息,更不可以用它来危害社会公共利益。
对于那些为供应AI服务的平台以及技术支撑者而言,要是违背了规定,同样会遭受法律的严苛制裁。要是构成治安违法的便进行治安处罚,要是构成犯罪的话,还得依法追究刑事责任。技术自身并无罪过,然而利用它去作恶的人,必定要付出相应的代价。山西的这两起案例,就是最为贴合实际的普法课。
凭借AI去造谣,成本看似那般低,然而代价却高得令人胆寒。你可认为,除了在事后进行严厉惩处之外,平台以及技术方究竟该以怎样的方式在事前防止AI被用以大规模制造谣言呢。



