鲸鱼直播

中国科学院自动化研究所人工智能伦理与治理中心主任 曾毅：我们可以想象到有些人是希望采用这样的数字逝者来达到慰藉自己心灵的目的。但是它还有很多的隐患，比如说拥有数字逝者的时候，会不会使得人长期沉迷于与数字逝者之间的交互，从而对心理产生非常负面的影响。这个是数字逝者的这项人工智能的应用技术，可能给社会带来的长期潜在的隐患，也是我们是否应当开发这样的人工智能技术必须去思考的伦理道德的问题。

3月28日，已故知名歌手李玟的母亲公开发布了一则律师声明。该声明称，近期部分网络用户未经李玟女士近亲属同意，利用李玟肖像制作、发布“AI复活李玟”系列短视频，此类视频的广泛传播已经对李玟母亲及其家人的工作和生活造成了严重干扰，同时也给本就深陷痛苦的李玟母亲及家人带来了巨大的心理冲击和二次伤害。要求涉嫌侵权责任人，于声明发布之日起7日内下架、删除含有上述侵权内容的相关图片、视频及文章，立即停止实施相应侵权行为。

近日，复活已故明星李玟的视频在网络上引起了广泛关注，记者发现，除了李玟外，还有包括张国荣、乔任梁等去世公众人物也被网友进行了AI数字“复活”，一些网友利用这些已逝明星生前的影像资料让他们重新对粉丝说话。

家住南京的王先生在去年委托张泽伟利用AI技术扮演去世的舅舅与自己的外婆视频聊天，暂时瞒住了舅舅意外去世的消息。但王先生也意识到，这样善意的谎言也许不可能一直编织下去，看到张泽伟的工作室有数字生命的服务，他也在考虑为去世的亲人订制一个。

在南京高新技术开发区的某产业园，记者找到了这家名为“超级头脑”的AI工作室，负责人张泽伟告诉我们，成立之初他们从事的是AI培训和教育的相关业务，而真正开始接收“AI复活”逝者的订单，是缘于朋友的一个请求。

北京航空航天大学法学院副教授 赵精武：在没有取得近亲属同意的情况下，就对逝者的信息进行商业化利用或者其他目的，显然构成了对死者以及近亲属合法权益的侵犯。因为在我们看来，死者的复活并非真正意义上的复活，更多的是对于死者的一种消费。

据记者了解，自去年1月10日起施行的《互联网信息服务深度合成管理规定》要求，“深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。”我国民法典第994条规定，死者的肖像等受到侵害的，其配偶、子女、父母有权依法请求行为人承担民事责任。

那么，目前AI“复活”技术发展到什么程度？一个人的“数字复活权”归谁拥有？未经授权AI“复活”明星是否触犯法律？使用逝者数据生成数字人，伦理和法律的边界在哪里？我们现有的法律是如何规定的？ 首先来认识一位金女士，不久前，她借用AI技术、数字“复活”了一名已故的小女孩，她的女儿，小睿睿。

采访中“超级头脑”工作室团队告诉我们， 近年来利用人工智能技术从事电诈等不法活动的案例屡见不鲜，如何避免数字人或者换脸换声服务成为某些人非法逐利或从事其他违法行为的工具是他们一直在着力解决的难题。

专家表示，目前的人工智能在面对如此复杂的人文关怀时，还存在诸多的技术限制以及难以解决的伦理道德问题，对于我国目前已出台或者正在研究制定出台的法律法规和管理办法，尊重人格尊严，防止侵害他人受保护权益是最基本的伦理和法律底线。

小睿睿妈妈 金女士：我一个人，比如说在家里的时候，平时就拿个照片看，不能产生互动，不能聊天。然后数字人可以根据她的性格，还有她的声音来模仿，我就可以跟她进行互动，能够感觉到她的存在感。我觉得这是延续了孩子对我的爱，还有我对孩子的爱，这是两个爱的相互延续。

中国人民大学未来法治研究院执行院长 张吉豫：特别在民法典制作的编纂的过程之中，就已经非常明确地考虑到了，当时就已经产生的像深度合成这样的一些技术可能带来的风险。任何人都不能够用信息技术来去伪造这样的方式去侵害他人的肖像权，而且也特别关注到对于声音也可以去进行合成，所以在民法典里面也规定了那声音相关的权利也是参照着肖像权一起来去进行保护的。

屏幕里懂事乖巧的小女孩名叫小睿睿，时隔近三年，再次以这样特殊的方式与女儿对话，金女士难掩激动。这个和自己女儿有着同样外表和声音的数字形象是金女士委托南京的一家AI工作室定制而成。抱着试试看的心态提供了女儿的视频和文字介绍等资料后，金女士没有想到仅仅一个月时间，她就可以和女儿隔着屏幕进行对话。

在已经建构好的模型里，只要摄像头能够捕捉到扮演者的脸部图像，只需动动鼠标，换脸仅仅是一瞬间的事情。用AI技术换脸变声去为不知亲人离世的老人们编织一场善意的谎言，而对于不得不接受这个消息的人而言，让逝者的数字分身成为自己偶尔的陪伴和慰藉，成了另一部分人的选择。

“超级头脑”工作室创始人 张泽伟：从协议跟合同上去做约束，就是去做数字生命这一块，是不可以用于任何违法违规的途径的，一旦知道我们立刻会报警或者是向相关机构进行举报。然后再一块就是说会从他的一个授权，对授权和关系证明上去做证明跟约束，比如说你要给自己做，你必须自己授权给我们。你要给别人做，你需要得到别人的授权。如果是别人已经去世了，你必须要得到逝者的直系亲属的授权来做。

“超级头脑”工作室创始人 张泽伟：我的一个朋友，他父亲因为意外离世了，然后他们全家人一直瞒着他的奶奶。因为时间有点长了，老人家就是一直在问，所以说大家也看是瞒不下去了。所以说我朋友才找到我，问我可不可以有这项技术去复刻一下他父亲的声音跟形象，跟老人进行一个实时的通话，给老人报一个平安。

“超级头脑”工作室创始人 张泽伟：比如说后人去祭奠他、去看他，其实你并没有特别直接的印象。一个人他代表可能一段历史，可能是这个家族的一些重大事迹。当他的后人再去祭奠他，不管他的碑、墓地以后还在不在，至少他的数字生命是永远都在的。

鲸鱼直播AI数字“复活”，您听说过吗？当然，这里的复活是加引号的，简单来说，就是指用逝者生前的照片、视频、文字记录等历史数据，使用人工智能技术、数字化模拟再现已故人物的声音、影像、行为等。

北京航空航天大学法学院副教授 赵精武：为了解决这类问题，科技部也在2023年9月发布了科技伦理审查办法，那么通过建立一个科技伦理审查制度来预防科技伦理层面的风险，那AI逝者“复活”也在被规制的对象里边。近期也有专家学者推出了人工智能法学者建议稿，其中基本的原则就是建立人工智能领域的科技伦理审查，强调人工智能技术必须以人为本，尊重人身自由和人格尊严。

北京航空航天大学法学院副教授 赵精武：这种合法性取决于是否取得了死者近亲属的同意。如果近亲属已经同意，那么这样的行为可能能够豁免他的法律责任。我们国家的民法典第994条也做出了非常明确的规定，对于死者的肖像隐私这些相关的信息，由父母、子女、配偶请求相应的权利救济，如果没有这些相应的主体，则由其他近亲属来行使合法权益。

出于好友的请求，张泽伟的团队接下了这个任务，利用AI换脸换声技术，张泽伟扮演了朋友去世的父亲与老人进行了视频通话，视频里张泽伟并没有太多的言语，仅仅只是点点头微笑，而对于听力不太好的老人而言，这已经足以让她相信视频里的人是她许久未见的儿子。自这以后，越来越多的人找到他，希望以各种形式帮助他们“复活”亲人。从去年三月份到现在，张泽伟已经接到了一千多个订单。

2021年，年仅9岁的小睿睿因患胶质母细胞瘤不幸去世，在她离世后，她的家人对女儿的思念与日俱增，在看到网络上有人为自己去世的亲人用人工智能手段进行数字重生后，金女士也动了心。

中国科学院自动化研究所人工智能伦理与治理中心主任 曾毅：未来我们人工智能的产品和服务在推向市场的时候，经过人工智能伦理安全的检测，我们给人工智能的产品和服务去打分，让它符合人工智能和我们的社会对于人工智能的期待。在产品和服务发布之前，避免当中的可能的潜在的伦理安全的隐患。