已经去世的亲人,通过AI技术使其“复活”,能够有一定的肢体动作,诉说一段话语……这种AI生成的去世亲人视频,堂而皇之地出现在某些视频播放平台,用于引流。
近期,李玟、张国荣、高以翔、乔任梁等已经离世的明星被AI“复活”后出现在一些视频平台,而随着乔任梁父亲表示对此视频“不能接受,感到不舒适,希望对方尽快下架”后,更是将AI复活行为推上了舆论的风口浪尖。
红星新闻记者调查发现,目前“AI复活亲人”已经初步形成产业链,有代理或者专门人员负责发布视频引流吸引目标客户,有专门人员进行视频制作,甚至已经有了专门话术用于与目标客户进行沟通成单,还有专门的价目表,价格从一百到数万元不等。
记者在采访中了解到,有代理一星期完成了20多单,还有人专门成立公司承接“AI复活亲人”项目,成立不到一个月已经接数百单,并称需求量巨大,目前是风口,未来两年没有问题。
▲被AI“复活”的乔任梁
多位律师表示,用AI技术“复活亲人”,可以弥补人们的情感缺憾,满足心理需求,但是另一方面,也可能让在世者更难割舍亲人的离去,更难从痛苦中脱离出来。“这样的技术一旦商业化,背后存在诸多安全隐患,比如侵权、隐私泄露、诈骗等。”
乔任梁被AI“复活”
其父亲回应:不能接受
据红星新闻此前报道,近日,一些网络博主使用AI技术“复活”去世明星的做法备受争议。除了李玟,同时被数字还原的还有张国荣、高以翔、乔任梁等离我们远去的公众人物。而在视频评论区,有人打着温情的名义,趁机做起AI推广、收费服务。
3月15日,高以翔生前经纪人向红星新闻转达高以翔家人的意见,称高以翔的家人不希望高以翔肖像被他人任意使用,况且涉事博主不仅未经同意盗用,甚至还进行商业行为推广,高以翔家人严厉地谴责并坚决抵制该行为。高以翔家人会派人员与涉事博主联系,请他们即刻下架所有相关视频影音及照片,若博主不立即停止侵权行为,家人会采取法律行动。高以翔家人同时也呼吁粉丝朋友们保持理智,切勿轻易相信涉事博主的讯息。
3月16日,针对儿子肖像被侵权使用一事,乔任梁父亲回应称,他已经看到网上传播开来的“儿子被复活”影像,“不能接受,感到不舒适,希望对方尽快下架。”
▲乔任梁父亲回应儿子被AI“复活”
此外,据媒体报道,3月16日,此前发布AI“复活”明星视频的博主发文称:“因为‘复活’已故明星,涉嫌侵犯他们的肖像权,接下来,无法随意替大家‘复活’明星了。”同时,这名博主表示,会继续服务好那些希望通过AI技术“复活”亲人的粉丝们。
红星新闻记者注意到,目前,该博主账号下已无此前发布的AI“复活”明星视频。
“AI复活亲人”成一门生意
已初步形成产业链
记者调查发现,备受关注的离世明星被“复活”事件背后,已经形成了一门以“AI复活亲人”营利的生意,并且初步形成了产业链,而诸多离世明星被制作成AI“复活”视频发布到相关平台,则是为了引流推广,吸引目标客户。
打开某视频平台,以“AI复活亲人”为关键词进行搜索,可见至少数十个含有“AI复活亲人”相关词汇的账号,并有一些账号还备注“收徒”或者“招代理”。这些视频账号有的粉丝数可达数万,少的仅有个位数。
有知情人士告诉红星新闻记者,这些视频账户基本都是代理或者AI视频制用于发布视频引流的,目前主要以公司、团队的形式为主,也有个人在做。
以“代理”模式为例,如果有人想成为代理,需要一次性缴纳980元,然后上线会提供话术,同时提供需要发布的视频,代理将视频发布到平台后,如果有人想做AI“复活”视频,就可以按照话术去沟通,成单后只需要把客户提供的照片、音视频提供给上线,由上线完成视频制作。
在收费方面,也有明确的价目表。以198元的基础款为例,客户提供逝者照片即可,AI生成视频后,声音由AI进行配音,时长为1分钟以内。而价目表中价格最高的为598元,客户需提供照片和逝者的声音以及一段方言念出的逝者要说的话,最终生成的AI视频,逝者的声音覆盖在方言念出的话上,其宣传整体还原度为90%左右,时长也为1分钟以内。如果是代理接单,可以与公司四六分成,代理可以拿到四成。
▲AI“复活”亲人价目表
相关公司人员表示,有的代理刚刚做了不久,一周就接了20多单。“需求量很大,短视频爆了之后订单就来了”。
而“收徒模式”则更为昂贵,学员需要缴纳近两万元的学费,然后公司或团队负责教会学员如何用AI制作视频,在购买相关硬件和软件后,可以独立接单。
此外,还有一些有专业基础的人,将此类视频制作作为副业,收费一百到数万元不等。
“复活”李玟等明星的公司来自宁波
刚开展“项目”不到一个月
红星新闻记者在采访中了解到,“复活”李玟、高以翔等明星的是浙江宁波的一家公司。
天眼查显示,这家公司成立于2020年,注册资本为100万人民币,经营范围为:技术服务、技术开发、技术咨询、技术交流、技术转让、技术推广;其他文化艺术经纪代理;电影摄制服务等。
有知情人士告诉记者,这家公司开展此类“AI复活亲人”的项目也才刚刚不到一个月的时间,目前已经发展了数十个代理,接了数百个单子。“他们当时制作了多个已离世明星的‘复活’视频,用于在平台发布,目的是为了引流,吸引更多的潜在客户。明星家属发声后,公司已经将相关视频下架,同时将注意力瞄准在海外去世名人的(视频)制作上,这样可以规避侵权风险。”
▲被AI“复活”的李玟
红星新闻记者在视频平台上搜索发现,目前还有少量粉丝数较少的视频账户发布了国内去世明星的视频,但诸如国外的篮球明星科比、歌星迈克尔·杰克逊已经有很多发布,此外发布更多的则是普通人去世后用AI生成的视频。
业内人士表示,“当有客户需要制作相关视频时,会问客户能否授权将制作好的视频发布到相关视频平台,如果客户同意,这些视频将会被发布,用于引流,吸引更多客户。”
“AI‘复活’亲人的需求确实很大,许多从业者认为这是一片蓝海,是一个刚刚兴起的产业,先入行的将有可观的收益。未来至少两年内没有问题,之后随着入行的人越来越多,竞争压力可能会变大。”前述知情人士表示。
这名知情人士还表示,目前国内从事此类“业务”的公司应该不超过3家,“此外还有团队形式,比如张泽伟团队。还有一些个人在做。”
记者梳理发现,张泽伟是此类“业务”中比较知名的人物,曾经接受过多家媒体采访。据报道,张泽伟最初从事“AI教育行业”,机缘巧合接触“AI复活亲人”,目前已完成了600多单的委托,还提出“数字永生”的概念。
律师观点:
可满足亲人情感需求
但面临侵权、隐私泄漏等诸多隐患
北京市华一律师事务所律师杨晓接受红星新闻记者采访时表示,“数字复活”是利用人工智能技术,将逝者的文字描述、图片、视频和声音资料输入AI算法模型,从而模拟生成出一个具备逝者性格、记忆、图像、视频和声音的数字形象。如果是依近亲属请求,通过AI技术加持,满足亲属寄托哀思需求,无可厚非;但如果“未经亲属准许”,这种采取AI技术“还魂”的做法,面临着侵犯逝者的肖像、名誉、隐私等人格权益的法律风险。
杨晓提醒,未经亲属同意,通过AI“复活”已故名人用于营利、引流等商业活动时,这种侵权尤为突出。“目前,涉及到的名人亲属的反馈也凸显了亲属对逝者尊严的维护以及对个人隐私权益的关注。AI‘复活’逝者的法律前提,应当是不得对其近亲属造成精神痛苦。”
北京市信凯律师事务所律师张亚丽认为,AI技术用于“复活”离世的亲人,一直以来都是备受争议和瞩目的话题。一方面,用AI技术“复活”亲人,可以弥补人们的情感缺憾,满足其心里需求,但是另一方面,也存在让在世的亲人更难割舍亲人的离世,更难从痛苦中脱离出来。“擅自使用AI‘复活’技术,可能涉嫌侵犯他人的肖像权,同时这样的技术一旦被商业化,背后存在诸多安全隐患,比如侵权、隐私泄露、诈骗等。”
北京天平(郑州)律师事务所律师王向品则表示,“AI复活”承载直接表现为人体影像,人身权益的保护是商业经营AI技术应当首先考虑的法律问题。“以营利为目的,通过AI商业运营方式,制作‘复活’他人影像的,应当经过肖像权利人同意;权利人死亡的,应当经过其近亲属同意。未经同意擅自使用的,构成侵权。借用AI影像制作视频资料,或进行音、视频通话,并以此骗取权利人近亲属财物的,构成诈骗。”
王向品认为,公序良俗也是法律规定外必须要遵守的。我国各民族各地区共认尊重死者的风俗,因此在AI“复活”手段下,影像不能出现对死者容貌、声音、行为方式等形象丑化、歪曲事实或人格侮辱的情况。而即便没有恶意丑化等做法,基于逝者安息的传统情怀,将死者展现成影音作品也会触及其亲属的强烈感情。“因此,针对‘AI复活’,应根据权利保护及公序良俗的立法理念,就该事项制定法规,禁止技术单位及网络平台等未经授权制作、发布相关。”
杨晓律师表示,数字复活是生成式AI技术落地应用的一个细分领域,如何在新技术被广泛应用的同时,充分保障及尊重个体情感和人格尊严,是我们正共同面临的技术进步带来的新伦理与道德困境。值得一提的是,为深度合成服务划定了“底线”和“红线”、强调不得利用深度合成服务从事法律、行政法规禁止的活动的《互联网信息服务深度合成管理规定》已于2023年1月正式实施;对生成式人工智能提供者提出标注要求的《生成式人工智能服务管理暂行办法》也于2023年8月开始施行。
“我们呼吁,对数字复活技术进行行业监管、明确行为底线的相关法律体系和实施细则以‘打补丁’的方式早日细化和完善,让科技进步既能起到慰藉人心的作用,又不至于超越道德和法律的边界。”杨晓说。
红星新闻记者 祁彪
何先锋 魏孔明
结论是什么