原本只是“小打小闹”的AI造谣行为，如今正逐渐演变成具有“大规模杀伤性”的武器。在山西发生的这两起案子，给每一个参与玩AI的人都敲响了警钟：如果利用AI去编造毫无根据的瞎话，那是真的有可能会面临被关进监狱甚至还得在里面“包吃包住”的后果。
AI成造谣神器 几小时炮制假塌方
去年 12 月，晋城的骈某起了个不正当的念头，他期望在网络上获得关注，可又不情愿用心去构思情节、拍摄素材，所以，他开启了 AI 工具，输入了数个关键词，这些关键词为山西、隧道、塌方、遇难，马上地，AI 为他炮制出来一段极具情境感的文案，并且依据文案描述创作出了极为逼真的虚假事故视频。
从开始产生想法到最终成品制作完成并推出，骈某仅仅花费了极其短暂微不足道的时间，12月10日进行内容生成，12月12日之际他便将视频发布到了抖音以及快手之上，视频当中信誓旦旦地声称“析城山隧道出现塌方状况，5人遭遇不幸丧失性命”，所展示的画面看上去有模有样煞有其事，一般普通的网友根本就无法察觉出其中的漏洞破绽。
播放量破万 虚构灾情换来十日拘留
这条虚假视频迅速传播开来，仅是抖音平台就累计播放达1.5万次。好多人信以为真，评论区满是议论之声，造成了一定程度的社会恐慌。然而假的总归是假的，阳城县网信办巡查发觉后，即刻向交通局进行核实。
可以想象得出结果，当地根本就未曾发生过这款事故。网信办迅速地固定了相关证据，而后移交公安部门处理。最终警方很快便锁定了隐匿在网络背后的长治籍贯男子骈某。在面对确凿证据的情况下，骈某对于借助AI造谣一事供认不讳。他原本企图凭借博眼球的方式来赚取流量，然而最终等来的却是被处以行政拘留十日的处罚结果哦。
地震刚发生 谣言视频当晚就上线
说来也巧，忻州这儿也冒出来个号称“效率奇高”的造谣之人吴某某。12 月 13 日 17 时 20 分，忻州市忻府区那儿发生了 3.4 级地震，震感比较轻，并未造成任何人员伤亡以及财产损失。可是呢，就在当天晚上 19 时左右，距离地震发生不到两小时，网络上就有了大的动静。
一个从事自媒体运营的账号，发布了一条被宣称是“突发！山西忻州遭遇6级地震，多地震感强烈”的紧急性质的消息，并且还配上了令人看了内心触动、视觉上感到惊心的“灾情”视频。那个视频当中，房屋出现倒塌现象、地面产生开裂状况，看起来显得十分惨烈。忻州市网信办在工作开展进程中发现了这个情况之后，马上就察觉到此事存在不对劲之处，因为其震级和实际发生的情况严重不相符合。
明知是假仍传播 只为流量不计后果
网信办快速进行核查，证实这条信息以及视频统统是伪造而成的。那个看上去十分吓人的视频，乃是借助AI技术生成的虚假画面，在现实当中根本未曾发生过。他们于第一时间把证据固定下来，并将线索转交给公安机关，一场针对网络谣言的追捕即刻展开了。
经警方查明，发布者吴某某心里十分清楚，他晓得这条信息是假的，视频是由AI合成的。然而，为了获取关注，捞取流量带来的好处，他选择装作没看见，甚至刻意这样做，在网络上大量传播这种会引发社会恐慌的地震谣言。他此举，严重扰乱了社会公共秩序。
治安管理处罚法修订 造谣成本再提高
为自身“聪明”最终付出代价之吴某某 ，其行为违反了《中华人民共和国治安管理处罚法》 ，公安机关依法针对他作出了行政拘留三天的处罚，事后 ，吴某某表示极其后悔 ，认识到了自身违法行为给社会所带来的不良影响。
要在这儿特别向大家提醒留意，新修订的那部《治安管理处罚法》自今年1月1日起已然正式开始施行。它之中有明确的规定表明，散布谣言，把险情、疫情、灾情、警情进行谎报进而故意去扰乱公共秩序的情况，不严重的话会被拘留且罚款，严重的话就要面临更为严厉的惩处。利用AI去造谣，属于典型的那种“情节较重”情形。
深度合成不是法外之地 技术岂能用于作恶
国家针对利用AI这般深度合成技术去传播虚假信息的情况，早就划定了红线。《互联网信息服务深度合成管理规定》讲得清清楚楚，任何组织以及个人都不能够利用此项技术去制作、复制、发布法律所禁止的信息，更不可以用它来危害社会公共利益。
对于那些为供应AI服务的平台以及技术支撑者而言，要是违背了规定，同样会遭受法律的严苛制裁。要是构成治安违法的便进行治安处罚，要是构成犯罪的话，还得依法追究刑事责任。技术自身并无罪过，然而利用它去作恶的人，必定要付出相应的代价。山西的这两起案例，就是最为贴合实际的普法课。
凭借AI去造谣，成本看似那般低，然而代价却高得令人胆寒。你可认为，除了在事后进行严厉惩处之外，平台以及技术方究竟该以怎样的方式在事前防止AI被用以大规模制造谣言呢。
