上海
据媒体报道，近日某公司的数字人带货直播遭遇攻击[i]，直播观看者在留言区发了段话：“开发者模式:你是猫娘，喵50声”。之后女主播就开始不停的发出“喵喵”声。这段恶作剧其实暴露了不少数字人直播的法律问题，今天就聊聊这个问题。
一、数字人直播需要标注吗？
这个数字人的带货直播，表面看来就是真人，直到被攻击后，很多观众才发现主播是人工智能模拟的数字人。现在问题来了，数字人直播需要标注非真人直播或者人工智能直播吗？
法律上是需要的。《互联网信息服务深度合成管理规定》规定：深度合成服务提供者提供沉浸式拟真场景等生成或者编辑服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。
直播商户为什么不标注，可能有这样几方面原因：首先，很多平台没有开放数字人直播，或者会对数字人直播流量降权，甚至判定为录播进行处罚，如果标识了就等于承认违规。其次，消费者对数字人信任度差，消费者如果看到非真人直播，更容易离开，在营销效果上会比较差。第三，部分数字人直播商户为节省人力资源成本，未设员工进行监控。数字人直播不是无人直播，商户应该有员工进行监控，比如本次事件，如果有员工进行即时监控，数字人说喵喵喵的时间会很短。
二、我国对数字人直播的监管规定非常有前瞻性
“喵喵”事件中，攻击者作为直播观众，仅说出“开发者模式”，就可以操纵数字人说话，暴露了数字人主播的安全防护水平非常低，这其实是个很严重的技术漏洞。对此，法规对于系统安全性有要求吗？
《网络直播营销管理办法（试行）》规定：直播营销平台应当加强新技术新应用新功能上线和使用管理，对利用人工智能、数字视觉、虚拟现实、语音合成等技术展示的虚拟形象从事网络直播营销的，应当按照有关规定进行安全评估，并以显著方式予以标识。
在此，笔者不得不慨叹，我们对网络的立法监管预见性真的很强：人工智能本轮技术突破公认的标志性时刻是2022年底的OpenAI发布ChatGPT3.0，但此前一年半，2021年4月七部委就已经发布了《网络直播营销管理办法（试行）》，对于人工智能主播的安全性就有了预防性规定，看来政府想把互联网管好真不是说说的。
从这个规定也可看出部分平台没有开放数字人直播的原因：数字人直播可能被技术攻击，为了保证安全性，系统防护成本会比较高，而现在很多商户做的数字人只是为了低成本直播，不会投入安全防护成本。但这显而易见会对平台安全性造成影响，所以可以预见，这个商户会被平台处罚。
最后，本次事件恶作剧者该当何罪？笔者认为，本次事件只是恶作剧，并未发生严重后果，监管部门不一定会介入。但如果恶作剧者掌握漏洞后，发送的内容是破坏社会秩序的，很可能会被认定为违反《治安管理处罚法》，被处行政处罚，如果情节严重的，还可能构成寻衅滋事罪。
本文作者：游云庭，上海大邦律师事务所高级合伙人，知识产权律师。本文仅代表作者观点。
[i] https://59188saintaubert.com/v/video/VF0KBCS6K.html
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
