新闻

报料热线:81850000

您当前的位置 : 中国宁波网  >  新闻中心  >  宁波  >  突发·现场
清明将至 “AI复活”引热议!有哪些伦理和法律风险?
2024-04-02 20:25:00 稿源: 东南财金  

【专题】2024网络中国节·清明

  清明将至,“AI复活”话题引发热议。

  借助AI(人工智能)技术,人们为逝去的亲人搭建“数字分身”,使之眨眼张嘴、开口说话。前有音乐人包小柏钻研AI“复活”女儿,后有商汤科技将逝世的董事长汤晓鸥“复刻”为数字人,在年会上和同事们跨越时空“重逢”……

  然而,当“AI复活”逐渐形成产业链,随之而来的争议也不可避免。

  有人对此有伦理顾虑,觉得AI永远无法替代真人;有人担忧法律风险,表示这会造成隐私泄露,甚至涉嫌诈骗。

  那么,现在网上的“AI复活”服务“怎么卖”?相关从业者和法律专家又有何看法?

视频制作:杨辉 胡琦

  只需几十元,让逝者“动起来”

  所谓的“AI复活”技术,是指将逝者生前留下的照片、声音、视频等数据,导入AI算法模型,从而模拟生成数字人形象。

  此前,AI数字人已在电商直播、语音导览、新闻播报等领域有成熟应用。而在今年清明前夕,越来越多人借此缅怀亲人,寄托哀思。

  记者发现,在一些电商平台,“AI复活”已成为明码标价的生意,价格从数十元到数千元不等,更有店铺显示“已售2000+”。顾客只需提供一张逝者的照片,商家就能让它“动起来”,甚至“开口说话”。

某电商平台上的“AI复活”商家。

  一位商家向记者提供价目表——

  提供一张正面照片,先选择“说话”,还是“不说话如果不说话动起来是50元,一共13秒;如果是说话,得准备文字内容,1秒10元,150元起步。前提是没法模拟声音,需提供配音或我们用普通话配音。制作周期视照片情况而定,这些只用作怀念亲人,其他用途勿扰。

  然而,这些“AI复活”项目质量参差不齐,更没有明确的行业标准。

  尽管这些商家的评论区里有不少留言表示,“看到奶奶太激动了”“眼泪一直在眼眶里打转”……但记者亲测发现,售价几十元的“AI复活”人像,仅能完成睁眼闭眼等特定动作,且面部皱纹等特征不明显,效果并不逼真。

某商家的“AI复活”价目表。

  而定价数百元的商家则声称能提供更多服务,如“声音克隆”,即根据逝者生前音频模拟说话;“场景复原”,可定制逝者年代的衣服形象。

  更有定价高达“四位数”的商家,给出最高5980元的“AI复活”定制套餐,满足“文字语音实时互动、视频实时对话等个性化需求”。

  “AI复活”有何技术门槛?

  “明码标价”的“AI复活”,技术门槛有多高?

  宁波本地IT从业者、国研软件行业应用研发部高级工程师孙一帆称——

  目前,市面上的“AI复活”服务可分为几类:一是最简单的照片动态化制作;二是涉及“AI换脸”和“AI换声”;三是“AI数字人”技术。

  前两种门槛不高,有不少开源软件可供免费使用,第三种则较为复杂。

“AI换脸”软件或为部分“AI复活”商家提供服务的基础。

  如果是照片动态化,只需将照片导入软件即可批量完成;如果涉及“AI换脸”,则需真人模特替换成被‘复活’者的形象和声音,需要数小时的训练周期。

  孙一帆介绍,“而要想实现和真人交互,就得打造‘AI数字人’,涉及3D动画合成、动作捕捉、智能对话、情感计算、机器学习等多种技术。

  换言之,网上定价数十至数百元的“AI复活”服务,赚的只是普罗大众不懂如何使用免费软件的“信息差”。

  而更具“含金量”的技术——即制作逼真、模仿逝者生前音容笑貌,甚至和生者无缝对话的“数字人”,则是一些IT企业和殡葬公司关注的焦点。

王立平的“数字人”分身,能与记者对话。严瑾 摄

  最近,福寿园国际集团旗下的宁波永逸殡葬礼仪服务有限公司(以下简称永逸殡葬),推出了一项“AI数字人”殡葬服务。

  该公司总经理王立平为她本人打造了一个“数字人”分身,既能回答养老相关知识,又能和客户对话聊天。她希望这项技术能给更多逝者家属带来精神慰藉。

  在经得家属同意后,这套“数字人可以应用在逝者的遗体告别会上,让逝者的“数字分身对生者说“别担心,我将开启一段新的旅程,继续关注我爱的人,还能应用在养老陪伴、哀伤抚慰等场景。

  王立平表示,该技术需采集逝者生前的10分钟左右视频,价格几百到数万元不等。

  数字永生,还是伦理谜题?

  “AI复活”,令人喜忧参半。

  有人认为,“AI复活”能弥补生者心中的遗憾,让逝者的音容笑貌和思想记忆得到保存。

  宁波市民骆军是一位烈士家属,他的爷爷骆阿小在1947年的孟良崮战役中为民族解放事业奋斗而不幸牺牲。

  他认为,运用AI技术让老照片“动起来”,是对革命先烈非常好的一种敬仰、怀念、感恩方式。

  早在2022年,就有位山东的志愿者帮我们修复了爷爷的老照片。如今,通过AI技术,我看到爷爷眨眨眼向我们后人问好,仿佛在说,“感谢祖国没有忘记我们!

  骆军表示,他很感谢科技的进步,让革命先辈的精神长存。

  更有科幻爱好者联想到,《流浪地球2》里刘德华扮演的角色,将家人的意识储存在量子计算机“550A”中。“AI复活”的出现,让他们看到“数字永生”的可能性。

  但也有人出于伦理考量,对“AI复活”持反对意见。

  北京师范大学—香港浸会大学联合国际学院文化与创意学院院长Eugene Ch'ng(庄以仁)教授认为——

  用AI制作的亲友“数字分身”,只是机器生成的符号,无法替代有血有肉的真人,更无法替代人们和亲友建立的情感链接。

  AI“复活的“父母,绝不是真正生你养你的“父母。一些人将情感错误地寄托于机械制造的符号,成为技术滥用的受害者,甚至被商家骗取钱财。这是不可取的。

  唯有将AI视为一种生产力工具,才是对AI正确的“打开方式”。

宁波市民对“AI复活”技术的看法。杨辉 胡琦 摄

  记者了解到,在宁波,愿意让AI“复活”逝去亲属的人恐怕还是少数。

  记者曾就这一话题进行群访,多数受访者表示,“不接受,AI无法替代真人”。

  另据王立平介绍,目前,“AI+殡葬”业务在宁波推广也面临一些挑战,原因是不少逝者家属担心信息泄露,或是在悲痛之际无暇顾及此事。

  法律风险需牢记

  诚如云家族(浙江)科技有限公司总经理于浩所说,“AI技术就像一味药,用好了可以治病救人,用不好也可能变成‘毒药’”。

  不少业内人士认为,技术本身“无罪”,但“AI复活”技术如果使用不当仍面临法律风险。

  浙江素豪律师事务所孙央律师指出——

  《民法典》第994条规定,死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任。

  逝者的人格权益同样受法律保护,如未经逝者家属同意,擅自将逝者生物识别信息用于“AI复活,可能侵犯逝者的肖像权,如生成的内容涉及侮辱性或有损逝者名誉的行为,还可能侵犯名誉权等。

  这一方面已有不少案例。

  近期,一些博主擅自用AI技术“复活”李玟等已故公众人物。

  李玟的母亲委托律师发表声明,要求侵权责任方7日之内下架、删除含有“AI复活李玟”侵权内容的相关图片、视频及文章,称“相关内容给本就深陷痛苦的李玟母亲及家人带来了巨大的心理冲击和二次伤害。”

  至于提供“AI复活”机构,孙央律师表示——

  它们在提供服务前,应审查技术使用者和逝者是否有亲属关系、是否具有正当利益、是否遵守有关法律法规的规定、是否符合社会伦理道德等。同时,还应对虚拟内容进行依法标识,避免被误认为是逝者本人的言辞,造成不必要的纠纷和争议。

  于浩认为,“AI复活”作为一项新事物,它的发展有赖于技术方、商家、政府部门等多方的机制健全。

  首先是数字人的权属问题,一定要经得亲属的授权才能做;其次,要对数据进行加密保护,如借助区块链技术,或由政府部门搭建一个安全的“云;还要倡导“科技向善,AI数字人的构建要从哀伤疗愈和文化传承角度出发,不能成为无底线敛财的工具。文字:严瑾

编辑: 郭静纠错:171964650@qq.com

扫一扫,中国宁波网装进手机

中国宁波网手机版

微信公众号

中国宁波网(宁波甬派传媒股份有限公司)版权所有(C)

Copyright(C) 2001-2024 cnnb.com.cn All Rights Reserved

互联网新闻信息服务许可证:3312017004 信息网络传播视听节目许可证:1104076

违法和不良信息举报电话:0574-81850000 举报邮箱:nb81850@qq.com

清明将至 “AI复活”引热议!有哪些伦理和法律风险?

稿源: 东南财金 2024-04-02 20:25:00

  清明将至,“AI复活”话题引发热议。

  借助AI(人工智能)技术,人们为逝去的亲人搭建“数字分身”,使之眨眼张嘴、开口说话。前有音乐人包小柏钻研AI“复活”女儿,后有商汤科技将逝世的董事长汤晓鸥“复刻”为数字人,在年会上和同事们跨越时空“重逢”……

  然而,当“AI复活”逐渐形成产业链,随之而来的争议也不可避免。

  有人对此有伦理顾虑,觉得AI永远无法替代真人;有人担忧法律风险,表示这会造成隐私泄露,甚至涉嫌诈骗。

  那么,现在网上的“AI复活”服务“怎么卖”?相关从业者和法律专家又有何看法?

视频制作:杨辉 胡琦

  只需几十元,让逝者“动起来”

  所谓的“AI复活”技术,是指将逝者生前留下的照片、声音、视频等数据,导入AI算法模型,从而模拟生成数字人形象。

  此前,AI数字人已在电商直播、语音导览、新闻播报等领域有成熟应用。而在今年清明前夕,越来越多人借此缅怀亲人,寄托哀思。

  记者发现,在一些电商平台,“AI复活”已成为明码标价的生意,价格从数十元到数千元不等,更有店铺显示“已售2000+”。顾客只需提供一张逝者的照片,商家就能让它“动起来”,甚至“开口说话”。

某电商平台上的“AI复活”商家。

  一位商家向记者提供价目表——

  提供一张正面照片,先选择“说话”,还是“不说话如果不说话动起来是50元,一共13秒;如果是说话,得准备文字内容,1秒10元,150元起步。前提是没法模拟声音,需提供配音或我们用普通话配音。制作周期视照片情况而定,这些只用作怀念亲人,其他用途勿扰。

  然而,这些“AI复活”项目质量参差不齐,更没有明确的行业标准。

  尽管这些商家的评论区里有不少留言表示,“看到奶奶太激动了”“眼泪一直在眼眶里打转”……但记者亲测发现,售价几十元的“AI复活”人像,仅能完成睁眼闭眼等特定动作,且面部皱纹等特征不明显,效果并不逼真。

某商家的“AI复活”价目表。

  而定价数百元的商家则声称能提供更多服务,如“声音克隆”,即根据逝者生前音频模拟说话;“场景复原”,可定制逝者年代的衣服形象。

  更有定价高达“四位数”的商家,给出最高5980元的“AI复活”定制套餐,满足“文字语音实时互动、视频实时对话等个性化需求”。

  “AI复活”有何技术门槛?

  “明码标价”的“AI复活”,技术门槛有多高?

  宁波本地IT从业者、国研软件行业应用研发部高级工程师孙一帆称——

  目前,市面上的“AI复活”服务可分为几类:一是最简单的照片动态化制作;二是涉及“AI换脸”和“AI换声”;三是“AI数字人”技术。

  前两种门槛不高,有不少开源软件可供免费使用,第三种则较为复杂。

“AI换脸”软件或为部分“AI复活”商家提供服务的基础。

  如果是照片动态化,只需将照片导入软件即可批量完成;如果涉及“AI换脸”,则需真人模特替换成被‘复活’者的形象和声音,需要数小时的训练周期。

  孙一帆介绍,“而要想实现和真人交互,就得打造‘AI数字人’,涉及3D动画合成、动作捕捉、智能对话、情感计算、机器学习等多种技术。

  换言之,网上定价数十至数百元的“AI复活”服务,赚的只是普罗大众不懂如何使用免费软件的“信息差”。

  而更具“含金量”的技术——即制作逼真、模仿逝者生前音容笑貌,甚至和生者无缝对话的“数字人”,则是一些IT企业和殡葬公司关注的焦点。

王立平的“数字人”分身,能与记者对话。严瑾 摄

  最近,福寿园国际集团旗下的宁波永逸殡葬礼仪服务有限公司(以下简称永逸殡葬),推出了一项“AI数字人”殡葬服务。

  该公司总经理王立平为她本人打造了一个“数字人”分身,既能回答养老相关知识,又能和客户对话聊天。她希望这项技术能给更多逝者家属带来精神慰藉。

  在经得家属同意后,这套“数字人可以应用在逝者的遗体告别会上,让逝者的“数字分身对生者说“别担心,我将开启一段新的旅程,继续关注我爱的人,还能应用在养老陪伴、哀伤抚慰等场景。

  王立平表示,该技术需采集逝者生前的10分钟左右视频,价格几百到数万元不等。

  数字永生,还是伦理谜题?

  “AI复活”,令人喜忧参半。

  有人认为,“AI复活”能弥补生者心中的遗憾,让逝者的音容笑貌和思想记忆得到保存。

  宁波市民骆军是一位烈士家属,他的爷爷骆阿小在1947年的孟良崮战役中为民族解放事业奋斗而不幸牺牲。

  他认为,运用AI技术让老照片“动起来”,是对革命先烈非常好的一种敬仰、怀念、感恩方式。

  早在2022年,就有位山东的志愿者帮我们修复了爷爷的老照片。如今,通过AI技术,我看到爷爷眨眨眼向我们后人问好,仿佛在说,“感谢祖国没有忘记我们!

  骆军表示,他很感谢科技的进步,让革命先辈的精神长存。

  更有科幻爱好者联想到,《流浪地球2》里刘德华扮演的角色,将家人的意识储存在量子计算机“550A”中。“AI复活”的出现,让他们看到“数字永生”的可能性。

  但也有人出于伦理考量,对“AI复活”持反对意见。

  北京师范大学—香港浸会大学联合国际学院文化与创意学院院长Eugene Ch'ng(庄以仁)教授认为——

  用AI制作的亲友“数字分身”,只是机器生成的符号,无法替代有血有肉的真人,更无法替代人们和亲友建立的情感链接。

  AI“复活的“父母,绝不是真正生你养你的“父母。一些人将情感错误地寄托于机械制造的符号,成为技术滥用的受害者,甚至被商家骗取钱财。这是不可取的。

  唯有将AI视为一种生产力工具,才是对AI正确的“打开方式”。

宁波市民对“AI复活”技术的看法。杨辉 胡琦 摄

  记者了解到,在宁波,愿意让AI“复活”逝去亲属的人恐怕还是少数。

  记者曾就这一话题进行群访,多数受访者表示,“不接受,AI无法替代真人”。

  另据王立平介绍,目前,“AI+殡葬”业务在宁波推广也面临一些挑战,原因是不少逝者家属担心信息泄露,或是在悲痛之际无暇顾及此事。

  法律风险需牢记

  诚如云家族(浙江)科技有限公司总经理于浩所说,“AI技术就像一味药,用好了可以治病救人,用不好也可能变成‘毒药’”。

  不少业内人士认为,技术本身“无罪”,但“AI复活”技术如果使用不当仍面临法律风险。

  浙江素豪律师事务所孙央律师指出——

  《民法典》第994条规定,死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任。

  逝者的人格权益同样受法律保护,如未经逝者家属同意,擅自将逝者生物识别信息用于“AI复活,可能侵犯逝者的肖像权,如生成的内容涉及侮辱性或有损逝者名誉的行为,还可能侵犯名誉权等。

  这一方面已有不少案例。

  近期,一些博主擅自用AI技术“复活”李玟等已故公众人物。

  李玟的母亲委托律师发表声明,要求侵权责任方7日之内下架、删除含有“AI复活李玟”侵权内容的相关图片、视频及文章,称“相关内容给本就深陷痛苦的李玟母亲及家人带来了巨大的心理冲击和二次伤害。”

  至于提供“AI复活”机构,孙央律师表示——

  它们在提供服务前,应审查技术使用者和逝者是否有亲属关系、是否具有正当利益、是否遵守有关法律法规的规定、是否符合社会伦理道德等。同时,还应对虚拟内容进行依法标识,避免被误认为是逝者本人的言辞,造成不必要的纠纷和争议。

  于浩认为,“AI复活”作为一项新事物,它的发展有赖于技术方、商家、政府部门等多方的机制健全。

  首先是数字人的权属问题,一定要经得亲属的授权才能做;其次,要对数据进行加密保护,如借助区块链技术,或由政府部门搭建一个安全的“云;还要倡导“科技向善,AI数字人的构建要从哀伤疗愈和文化传承角度出发,不能成为无底线敛财的工具。文字:严瑾

编辑: 郭静

纠错:171964650@qq.com