天天看点

要不要“数字逝者”

作者:长安威海

《流浪地球2》里面,刘德华饰演的科学家图恒宇用AI技术复活了自己的女儿,这一让亲人实现“永生”的片段曾经感动了无数观众。然而,当这项技术真正走进普通大众的生活,其带来的争议却比海啸更汹涌。

要不要“数字逝者”

  有记者调查发现,AI“复活”逝者已成完整产业链。在此情况下,人们不得不去思考:这是在传递思念还是消费逝者?有哪些潜在风险?是否涉嫌违法?应用的边界又在哪里?

要不要“数字逝者”

  AI“复活”是依赖于AI技术,再现逝者的形象、声音和言谈举止,也被称为“数字陪伴”或“AI数字永生”,其实质就是模拟生成一个数字人。

  近日,有博主擅自用AI技术“复活”已故明星,遭到了逝者亲属的反对,由此引发人们对AI“复活”的高度关注。

  人们关注的点主要在于——

  其一,AI“复活”近亲属是否涉及伦理争议

  目前在一些电商平台,有部分商家已经推出了AI“复活”亲人服务,价格从几十元到上百元不等。有供给就有需求,有从业者称,一个月能接到七十多单,这个市场的需求难以想象。音乐人包小柏就用AI“复活”了爱女。

  从情感角度来看,这种AI“复活”可以弥补生者的遗憾,寄托哀思。如包小柏利用AI技术“复活”女儿,前提是他本人愿意并授权商家。这完全属于私域行为,应当尊重。有人则觉得这是对逝者的侵犯,也可以理解。

  其二,AI“复活”已故明星是否欺骗粉丝情感

  有商家的客服人员称,只需提供逝者的一张正面半身照、一段1分钟左右的音频,以及亲属想让逝者复述的文字内容,就能让逝者开口说话,并且面部也有表情动作。已故公众人物的相关素材容易搜集,这也是有人“随便复活”明星的原因之一。

  从网络上发布的AI“复活”明星视频来看,无论是乔任梁说“其实我并没有真正离开”,还是高以翔说“我的心永远和你们在一起”,这类对粉丝的“告白”听起来好像很感人,但其实文案都是人为编辑而成,更像是“有心人”藉此骗取粉丝眼泪,利用粉丝情感收割流量。

要不要“数字逝者”

  其三,AI“复活”逝者是否应该征得近亲属同意

  一些用AI技术“复活”已故明星的博主,自称是应粉丝要求做的,并声称“不用作商业用途”。问题是,粉丝有权授权商家“复活”已故明星吗?显然没有!擅自“复活”别人并且公开传播相关视频,即使不用作商业用途,也是在消费逝者,是在逝者亲属的创口上撒盐。

  《民法典》规定,未经肖像权人同意,不得制作、使用、公开肖像权人的肖像。死者的姓名、肖像、名誉、隐私等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任。死者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。很显然,擅自“复活”已故明星已经违法。

要不要“数字逝者”

图源|IC photo

要不要“数字逝者”

  在多位已故明星家属的抵制下,此前发布的AI“复活”明星视频已被下架,但由AI“复活”逝者引发的问题远未停止。

  歌曲《AI》中有这样一句歌词:“因爱创造AI,还是因AI获爱?”可谓精准表达了“复活”逝者带来的问题。

  比如过度依赖“数字逝者”加剧社交孤岛化。过去,人们缅怀逝者常用“活在心中”,现在,利用AI技术可以“活在眼前”。从一定程度上来说,这可以抚慰生者。但正如专家所说,基于AI技术构建的数字人其实只是一个信息处理的工具,它与真人或者真人拥有的智慧是没有任何关系的,被“复活”的逝者并不是真实人类的复刻。人们希望数字人说的话、做出的回应,都是被“设定”的,并不代表逝者的真实意愿。说得直白狠心一点,这有点自欺欺人。

  更何况,希望通过与“数字逝者”交流来达到慰藉心灵的目的,本身就存在很多隐患。它很容易让人产生一些幻想,甚至走进一个心理误区。比如,当拥有了“数字逝者”,会不会长期沉迷于与“数字逝者”之间的交互?近些年人们普遍担忧虚拟社交带来的负面影响,与“数字逝者”交互可是比虚拟社交更“虚”的事情,会进一步加剧孤岛效应。

  比如信息泄露被滥用。从调查情况来看,利用AI技术“复活”逝者已经成为一门生意,有些商家不仅提供“修复老照片+让照片动起来”“让照片开口说话”服务,甚至还趁机招学徒、招代理、兜售视频制作技术,明码标价。正当生意没什么,就怕有不法分子“钻空子”,利用逝者亲属提供的照片、声音等素材,进行AI换脸、AI换声,实施诈骗犯罪、制作违法视频等。

要不要“数字逝者”
要不要“数字逝者”

  随着AI技术的快速发展,近些年其利与弊问题受到人们极大关注。爱因斯坦曾言:“技术本身没有道德性,使用技术人的道德能力决定了技术改变世界的方向和可能性。”

  早在2019年,大陆就发布了《新一代人工智能治理原则》,2021年进行细化,发布了《新一代人工智能伦理规范》。2023年正式实施《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》,为深度合成服务划定了“底线”和“红线”。

  AI技术应不应该被用于“复活”逝者,仍有待商榷。不容置疑的是,它必须充分保障及尊重个体情感和人格尊严。

  就目前的具体事件来说,商家擅自“复活”已故明星显然不可取,至于逝者亲属委托生成的“数字逝者”,知识产权归谁、数据安全如何保障等,则需要明晰规则。

  从监管的角度说,应建立相应的数字形象监督机制,包括算法透明、数据安全、登记备案等。

  有必要对生成“数字逝者”进行伦理审查;对政治领袖、英雄人物等的数字化,更要审慎;对发布在媒体平台的合成式音视频,则应当进行区别标识,以免受众混淆。

  对于逝者亲属来说,是否要拥有一个“数字逝者”,还是应该仔细思量,生者所为是否符合逝者生前所愿应当考虑。如果决定要委托商家利用AI技术“复活”逝者,那么记得一定要签署详细合同,提前做好风险防范。

  人和人的遭遇不同、需求不同,所以一个“数字逝者”能带来多大的心灵慰藉,没有统一答案,正如包小柏愿意“复活”女儿,乔任梁的父亲表示不能接受。但无论如何,AI“复活”逝者都是一件严肃的事情,应当谨慎对待。毕竟,逝者安息,生者如斯。