你是否刷到过这样的短视频？肤白貌美、金发碧眼的俄罗斯女孩坐在屏幕前，操着一口不太流利却能听清的中文，讲述自己的中国故事……
乌克兰网红控诉：
很多人在盗用我的脸
她叫娜塔莎，她叫“艾莉丝”，她叫“俄罗斯小妹”，但其实，她们都是同一个人。
近日，一名叫Olga Loiek的乌克兰网红发布了一则控诉视频，她表示有很多账号在盗用她的脸发布视频。
Olga Loiek在视频中控诉称，她某天收到了一条信息，信息询问她“你是不是会说普通话”。这条信息引起了她的注意。经过她进一步查询，她发现社交平台上遍地都是自己的脸，她对此感到十分震惊。这些出现她的脸的视频，都是盗用她的面容和声音，通过AI技术生成而来。
图源：网络
这些视频大多数都为一个套路，开通一个具有外国特色的账号，以Olga Loiek形象出现在屏幕里的“俄罗斯女孩”，都用AI生成差不多的话语。大多塑造为一个生活在中国多年，很喜欢中国文化的美女形象。目标用户多为一些中年男性。在一些视频中，“俄罗斯女孩”们以贴近中国人为主，声称自己想嫁给中国男人。在吸引人关注的同时，在视频中推荐俄罗斯当地的美食，这些“俄罗斯女孩”的销售橱窗里，大多陈列着十余种俄罗斯食品。
而这些视频的最终目的，都是为了引流，使消费者购买橱窗内的食品。
图源：网络
利用AI技术将他人换脸换声并发布视频在平台上传播，是否属于侵权行为？对此，《法治日报》律师专家库成员、北京市康达律师事务所高级合伙人苟博程律师表示，未经他人同意用AI技术为他人换脸换声并传播，涉嫌侵犯他人的权利，也涉嫌违法。根据《中华人民共和国民法典》第一千零一十八条、第一千零一十九条、第一千零二十条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。这里的除外，包括为个人学习、艺术欣赏、课堂教学、科学研究、新闻报道、维护公共利益或者肖像权人合法权益，在法定、合理的范围内制作、使用、公开他人肖像等。
娜塔莎消失，相关类型账号仍存在
平台提示：此类视频为AI，请谨慎甄别
法治网记者通过查询发现，这名乌克兰网红在视频中提到的相关账号已经查询不到。但打开某短视频平台，依然能搜索到少量粉丝关注的同样为AI技术合成的“俄罗斯女孩”们。她们发布的视频内容，仍是讲述自己在中国的经历。
图源：网络
然而，在这些视频下方，仍有不少网友留言，对此信以为真。
图源：网络
值得注意的是，最近几天的评论下，已经有网友提醒，评论区的人是AI合成数字人，不是真人，请大家注意。
图源：网络
记者还注意到，在这条合成视频的下方，有平台的一行提醒：“内容疑似AI生成，请谨慎甄别”。
图源：网络
对此，苟博程律师分析指出，对于通过“AI换脸”进行视频合成、实施诈骗的行为，应依照刑法第二百六十六条“诈骗罪”的规定追究刑事责任。对于为“AI换脸”实施诈骗提供技术支持和帮助的，要根据《中华人民共和国反电信网络诈骗法》的规定进行行政处罚。构成犯罪的，还要根据刑法第二百八十七条之二的“帮助信息网络犯罪活动罪”等追究刑事责任。
此外，苟博程律师进一步提出，如果以牟利为目的，使用“AI换脸”技术制作淫秽视频，不仅侵犯了被“换脸”者的民事权利，造成了恶劣的社会影响，还可能涉嫌刑法第三百六十三条的“制作、复制、出版、贩卖、传播淫秽物品牟利罪”。
专家：有必要通过法律制度控制AI应用风险
近年来，随着AI新技术落地而成，人们在感慨科技进步的同时，由新技术所产生的违法犯罪问题也时常出现。
正如近两年在多地发生的“假靳东”电信诈骗事件，虽然这些诈骗手段并不高明，但诈骗者瞄准的目标群里是中老年人，对于他们来说就是难辨真假，因此很容易上当受骗。
今年两会上，靳东本人在接受北京日报记者采访时，再次谈及“假靳东”事件。靳东表示，思考背后原因，平台难辞其咎，“难道平台没有意识到有很多人用靳东这个名字对外交流和发布信息吗？我想应该不会。”他说，经过慎重考虑，提出了关于数字平台立法的提案，希望从法律层面，加大对网络平台的监管。
此次曝出的AI“俄罗斯女孩”合成视频，同样让不少人信以为真，中国政法大学教授、联合国高级别人工智能咨询机构专家张凌寒对此表示，AI“俄罗斯女孩”能够让一些人信以为真，说明生成式AI已经强大到足以误导部分人的程度，而涉事的视频合成AI甚至还不能代表目前类似AI的最高水平。对于广大网友而言，肉眼鉴别生成内容会逐渐成为不可能。“AI俄罗斯女孩带货”大多停留在法律红线以内，可如果别有用心之人通过生成式AI实施违法犯罪活动，后果就要严重得多。在探索出可靠、易用的反AI伪造技术工具前，有必要通过法律制度控制类似的AI应用风险。
此前据媒体报道，奇安信集团对外发布的《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈案件呈现出惊人的增长态势，增长率高达3000%。《报告》认为，“AI是一种通用技术，通用就意味着既可以用来做好事，也可以被用来干坏事。”
对此，张凌寒表示，除了在技术上及时跟进一些反AI伪造、识别AI合成的工具外。平台可以在应用中与用户单独约定，用户发布包含生成内容的视频时应当进行声明，以便平台后台进行显性或隐性标识。平台可以制定公开的社区条例，约定用户多次对涉及虚拟人、声纹模拟等高度风险内容不予声明，或者有利用生成内容传播误导性信息或实施违法犯罪活动的，平台有权对其账号进行标记、公示账号异常行为或者暂停向其提供部分功能。同时，平台可以返利的形式邀请大量用户参与判断一组视频是否属于生成内容，是否有不当利用生成内容的可能等，协助平台识别伪造的数字人。
如今短视频平台上模板化数字人泛滥，苟博程律师提出，商家使用未经授权的合成视频存在侵权、诈骗等风险，既损害了权利人的利益，也损害消费者的权利，不利于市场健康发展。商家可以使用合法合规制作的虚拟形象来宣传产品，但是应当如实告知消费者，在视频中全程注明。
张凌寒指出，短视频平台是内容的推送者，本身对平台内容负有管理义务，诚然，不断扩大的信息内容规模，在不断抬高平台治理的门槛和成本，但对于高度逼真的深度合成内容，平台还是应当采取更严格的管理措施。
“在建立数字人区分辨别机制的基础上，平台可以尝试根据内容划分专区，结合数字人辨别的数据合理分配审核资源，让熟练、专业的审核员和可靠的识别系统集中应对伪造风险更高的分区。”张凌寒说。
编辑： 陈奉凤纠错：171964650@qq.com
