前不久，某网络平台上出现一条所谓“怀化35岁女子从28楼跳下”的视频，其中不仅有时间、地点、事件、人物等新闻要素，而且还有事件发生时的所谓现场画面，该内容一经发布就引起了不少关注。这段看似有模有样的网传视频，真实的情况到底是什么呢？
湖南怀化网警在日常巡查中发现，一条“怀化35岁女子从28楼跳下”的视频在网络传播，视频的配文中还标注了高空坠亡事件、家庭悲剧等标签，该视频一经发布迅速引发热议，先后获得数万次转发。
然而，怀化警方在调查中却发现了诸多疑点，首先，从该视频中的建筑物外立面可以看出，所谓事发地并不是怀化市；另外，视频中主播的声画错位情况非常明显。
湖南怀化市会同县公安局网络安全大队民警 闫宏辉：经怀化市公安局核实，当日没有发生类似视频坠楼警情，我大队接线索后立即开展调查，快速锁定发布视频嫌疑人员。
湖南怀化市会同县公安局连山派出所教导员 蒙源：经过我们的缜密侦查，发现违法嫌疑人禹某的住址，随即我所民警对禹某进行了抓捕。
据禹某向警方供述，为了快速提升自己账号的关注度，她通过在某AI平台输入“高空坠楼、家庭悲剧”等关键词生成视频片段，并经过二次剪辑后发布到网上。
警方调查发现，在禹某使用的这个AI平台上，关于“悲剧模板”的使用率非常大，每月的下载量超过10万次。
嫌疑人 禹某：我当时看到别人用AI做视频涨粉很快，就想跟风试试。平台里有现成的悲剧模板，输入关键词就能生成画面。我根本不知道随便发这种视频会违法，更没想到会给那么多人带来恐慌。
截至警方查处时，禹某发布的虚假视频已经引发大量关注，严重扰乱了社会正常秩序。怀化警方依法对禹某作出了相应的行政处罚。
博主为博流量 用AI编造某企业不实信息
除了刚才这起利用AI工具编造谣言的案例之外，上海警方前不久也破获了一起利用AI工具编造企业不实信息的案件。
警方查明，自媒体博主姚某、陈某等人为了吸粉引流，利用AI工具搜集素材，在未做核实的情况下，生成所谓“某茶饮企业使用过期原料被罚款”等不实内容，并发布到网上，不仅严重侵害了企业的权益，还造成了恶劣的社会影响。
前不久，上海某茶饮企业向警方报案称，多个自媒体平台出现大量针对该企业及其创始人的不实信息，接报后，警方立即成立专案组开展侦查。
上海市公安局长宁分局网安支队民警 陈昱汀：我们针对100多个自媒体账号进行溯源，谣言里面有提到使用过期原料被罚款20万元的事情，还有很多不实内容。
警方通过溯源发现，其中一则不实信息的发布者为自媒体从业人员姚某，为了增加账号文章的浏览量和广告收益，姚某花费了800元在网上找到了卢某为其代笔。
上海市公安局长宁分局网安支队民警 陈昱汀：他找到了代理人卢某，卢某也没有自己编写文章，而是利用AI软件自动生成了一篇文章，也没有经过核实再发还给了姚某。
在收到卢某的这篇文章后，姚某未做核实就发布在了自己的账号上，其中关于某企业所谓“使用过期原料被罚款”的内容被大量转发，不仅严重损害了企业品牌形象，还导致部分区域门店单日营业额同比下降超20%。
同样是涉及该企业的不实信息，陈某等人为了获取平台对阅读量的现金补贴，从网上搜集了各类关于该企业创始人的传言，通过AI工具“洗稿”后生成了相关不实内容并发布在网上，获得了较高的阅读量。
上海市公安局长宁分局网安支队民警 陈昱汀：通过这样的方式，在自己的自媒体账号上面发布热点文章，来博取眼球蹭热度，涨粉以获得广告收益等等，或者可以通过这个账号获取直播带货的权限。
据了解，发布涉及某茶饮企业不实信息的8名犯罪嫌疑人，目前已被上海长宁警方依法采取刑事强制措施。
利用AI生成发布虚假信息属于违法行为
在网络上发布利用AI生成的不实信息触犯了哪些法律法规？会相应受到什么处罚？北京航空航天大学法学院副教授赵精武做了以下解读。
赵精武表示，利用AI工具生成、发布和传播网络虚假信息的，属于明显的违法行为，依据相关法律，情节较轻的将受到罚款、拘留等处罚；情节较重的则可能被判处有期徒刑。
此外，信息发布平台、服务提供者也可能承担相应的法律责任，因为根据《人工智能生成合成内容标识办法》的相关规定，这类主体负有对生成内容添加“AI生成”等内容标识的法定义务，倘若其怠于履行该义务，监管机构则可以依法采取警告、责令限期改正、暂停信息更新、行业禁入等行政处罚和惩戒措施。
第二证券提示：文章来自网络，不代表本站观点。
