AI让逝者复活?这门生意需要更多监管和规范!

2024-03-10 热点资讯 关注公众号
    在生成式AI技术的推动下,一种新兴的服务应运而生,只需52.1元,即可借助AI技术模拟再现已故亲人的容貌,并与之进行虚拟对话。近日,《法治日报》记者深入调查揭示,利用AI“复活”逝者已经成为一门活跃的商业活动,在多个电商平台上,众多商家纷纷提供此类服务,价格区间从几元至数千元不等,与此同时,高级别的AI换声、换脸诈骗手段也日益猖獗,对用户情感和财产构成威胁。
AI“复活”逝者已成生意?相关技术推广需更多监管和规范    云南女子柳芳(化名)因痛失父亲未能见上最后一面,心中留下深深的遗憾。她在社交媒体平台上偶然发现有商家能通过AI技术“复活”亲人,仿佛抓住了一根救赎稻草,迅速下单定制了这项服务。她支付了200多元并提供了父亲生前的照片和录音,希望听到父亲最后的叮咛。最终,她收到了一段由AI合成的父亲微笑说话的短视频,尽管明知并非真实,但她仍视若珍宝,反复观看。
    AI“复活”逝者,实质是运用人工智能算法模型,将逝者的文字描述、图片、视频及声音资料输入系统,构建出一个拥有逝者性格、记忆、形象和声音的数字模拟体。从业者陈亮(化名)介绍道,目前市场上的产品形态主要有两种:一种是基于视频媒介,以逝者的照片和声音为基础,制作生日祝福或安慰性质的视频;另一种则是开发可互动聊天机器人,不仅具备逝者的音容笑貌,还能模拟其性格和记忆,与用户进行个性化对话交流,商品定价范围为52.1元至521元。
    然而,AI“复活”技术引发广泛争议,一方面有人认为该技术填补了情感空缺,使人们得以再次见到逝去的亲人;另一方面,则有人质疑此举并无实际意义,反而可能加重丧亲之痛,甚至让人疑惑,这样的“复制品”是否还是我们所熟悉的那个亲人?
    尽管市场上有多家团队和企业如江苏南京某AI技术团队,半年内成功帮助600多户家庭实现“在线团圆”,但实操中,AI“复活”技术仍面临多重挑战。比如,技术限制成为一大难题,尤其是声音克隆技术受限于清晰的声音文件和普通话识别,对方言和口音的支持不足。同时,用户对于仅凭输入文字与逝者数字形象交谈的方式接受度不高。
    中国传媒大学文化产业管理学院法律系主任郑宁强调,为了保障逝者的人格权益,制作方必须取得逝者继承人的同意才能进行相关操作。此外,制作完成的形象若与实际相差甚远,有可能侵犯逝者的名誉权、肖像权等权益。北京嘉维律师事务所律师赵占领也指出,虽然逝者不再享有隐私权,但其近亲属仍有权保护死者的隐私权益和肖像权益,若出现违法侵权情况,有权提起诉讼。
    目前,AI“复活”业务虽处于低调探索阶段,但行业规范亟待加强。陈亮表示,正规机构会要求用户提供与逝者关系证明及去世证明,防止不良企图者利用AI产品实施欺诈。此外,制作团队会在接入大型模型系统时剔除敏感词汇,防止数字人被操控用于非法获取他人隐私信息。
    针对当前法规空白,受访专家建议,消费者选择AI“复活”服务时需关注服务商的合法性,签署合同时明确数字人财产权归属个人,以及合同中包含违约责任等。根据《生成式人工智能服务管理暂行办法》,数据标注规则、标注准确性评估以及标注人员培训等方面的规定,也需要得到严格遵守和执行。不过,目前市面上大多数消费者对此类规定并不了解,暴露出监管层面的缺失。
    面对数字“复活”技术带来的法律挑战,专家们一致认为,应当逐步通过不断修订和完善法律法规,针对这一新领域制定相应的规制体系,同时倡导行业协会设立伦理标准,强化行业自律。科技发展须遵循维护社会法治、尊重个人权益和坚守伦理底线的原则,确保数字“复活”技术在有效监管和规范下健康发展,既鼓励技术创新,又守护人类价值尊严。在未来,针对现有法律难以规制的问题,可以通过渐进式立法方式补充和完善,给这一新兴领域的成长预留合理空间。

上一篇:消息称三星计划生产 40 万支 Galaxy Ring 智能戒指,预计7月亮相
下一篇:全网挨骂,农夫山泉有点疼
更多更酷的内容分享
猜你感兴趣
AI让逝者重生,商业兴起。专家呼吁:尊重他人权益。

AI让逝者重生,商业兴起。专家呼吁:尊重他人权益。

电商平台出现AI"复活"业务,价格各异。AI换声、换脸诈骗手段升级。专家建议加强监管,保护合法权益,防止欺诈行为。AI技术用于重现亲人声音引发关注,但也有人利用此技术进行诈骗。美国老年人因诈骗损失严重,其中包括AI生成的骗局。

热点资讯 03.10
行业监管升级:规范券商开户行为,新增17项展业要求

行业监管升级:规范券商开户行为,新增17项展业要求

监管部门要求证券公司压实适当性管理、强化风险揭示、规范营销推介行为,并落实《证券期货投资者适当性管理办法》,加强合规风控管理。同时,多地证监局靠前指导券商,收集行业发展的针对性建议。目前来看,全面保障投资者需求。监管要求加强对证券公司及其从业人员的合规风控管理,防止违规行为发生。

热点资讯 10.11
AI活过去世者,引发伦理、法律规定。

AI活过去世者,引发伦理、法律规定。

事件起因为逝者在电商平台使用AI技术实现“复活亲人”愿望,其中蕴含的情绪包括对逝者权益的关注以及家庭精神痛苦;关注的焦点在于是否购买该产品的决策,以及产品可能带来的影响;最后,指出事件背后的道德与法律问题,包括逝者人格权益的保护、隐私泄露的风险等。

热点资讯 03.21
小冰CEO李笛:AI‘复活’逝者,未来有望为临终关怀提供新路径,但需谨慎对待技术滥用问题

小冰CEO李笛:AI‘复活’逝者,未来有望为临终关怀提供新路径,但需谨慎对待技术滥用问题

包小柏为女儿创造虚拟现实世界,亲人与其相拥并分享生活;AI复活数字人现象频发,引发社会争议。小冰公司CEO李笛深度探讨人工智能发展及伦理问题,呼吁尊重逝者亲属意愿。

热点资讯 04.04
爱玛电动车:业绩下滑,新日继续亏损,电鸡巨头三季度艰难

爱玛电动车:业绩下滑,新日继续亏损,电鸡巨头三季度艰难

电动汽车巨头的日子不那么好过:业界关注的焦点是需求整体放缓,同时面临国标新规实施带来的挑战。其中,爱玛科技2024年前三季亏损严重,主要原因是销售费用增加。此外,张剑被留置、立案调查的消息也引发了市场关注。

热点资讯 11.23
甘肃银行资产规模遭遇‘退步’情况,需要关注并进行应对措施

甘肃银行资产规模遭遇‘退步’情况,需要关注并进行应对措施

甘肃银行资产规模增长放缓,近7年来股价缩水90%;资产规模增长速度落后全国平均水平;市场份额倒数第三;罚金25万元;合规管理和金融违规受到关注。未来,甘肃银行还需面对内外挑战。

热点资讯 11.23
黄仁勋:英伟达股价将持续上涨,他预测的关键因素包括营收增长和技术创新

黄仁勋:英伟达股价将持续上涨,他预测的关键因素包括营收增长和技术创新

Nvidia 公司宣布,在 2025 财年第三季度其营收达到创历史最高纪录的 351 亿美元。该成就得益于两个关键趋势:一是价值万亿美元的传统 IT 架构的现代化改造,二是人工智能工厂的兴起,前者以支持机器学习和人工智能为目标,后者则旨在制造具有自主 AI 特性的基础设施。Nvidia Hopper 和 Blackwell 架构芯片、Omniverse 平台等产品对这两个趋势起到了重要作用。此外,随着新技术的发展,Nvidia 还受益于新的业务增长机会,包括在全球范围内加速建设和运营区域性的 AI 基础设施。

热点资讯 11.23
中国顶级数据服务商幻方量化,或因涉及‘券商业务’被查!高管团队人已神秘失踪

中国顶级数据服务商幻方量化,或因涉及‘券商业务’被查!高管团队人已神秘失踪

上海一家知名量化对冲基金公司幻方量化市场总监李橙因涉嫌涉及“券商会佣”被抓。据公司消息,李橙目前正在进行协助调查。公司确认李橙正参与此事,但具体情况尚未得知。该事件未对公司的正常运营产生负面影响,且产品表现尚可。此外,该公司年内已自购2.5亿元,并购买了一只名为“九章幻方沪深300量化多策略1号”的产品,该产品的收益超过10%。对此,业界人士认为,该公司所在的行业佣金水平相对较低,此次事件可能与这个因素有关。

热点资讯 11.23
中小商家渴望“流量平权”

中小商家渴望“流量平权”

今年双11,各大电商平台将商家减负作为比拼重点,并采取措施降低流量成本,同时电商需要将流量控制权部分交还给商家以实现所有商家的成本下降。面对越来越多的商家,特别是中小商家对双11高度内卷say no,他们选择退出大促。流量价格问题仍未得到真正缓解,中小商家要想在这场竞争中获胜,就需要提高获取自然流量的能力。电商平台需要寻找平衡,既要保护商家权益又要保证消费者的购物体验。

热点资讯 11.23
中颖电子受益于AMOLED显示驱动芯片量产后,有望释放强劲业绩驱动力

中颖电子受益于AMOLED显示驱动芯片量产后,有望释放强劲业绩驱动力

中颖电子强调专注芯片设计,尤其是偏专用MCU领域的份额。在全球市场,AMOLED显示驱动芯片正处于品牌市场进攻期。四季度为销售旺季,预计公司将实现营收增长。但需等待导入品牌后方可带来较好业绩驱动力。

热点资讯 11.23
中国联通准备与华为和中兴开展5G设备竞争性谈判采购,争夺市场份额

中国联通准备与华为和中兴开展5G设备竞争性谈判采购,争夺市场份额

中国联通将启动2024年5G网络设备集中采购,建议关注合作谈判供应商的竞争性谈判结果。

热点资讯 11.23
非洲智能手机市场季度增长3%,出货量达1840万部

非洲智能手机市场季度增长3%,出货量达1840万部

非洲智能手机市场第三季增长2%,份额创历史最高;平均售价下降6%,但仍有巨大潜力。功能机占比过高限制发展。

热点资讯 11.23
阿里电商双重策略布局,稳内稳外反内卷增长

阿里电商双重策略布局,稳内稳外反内卷增长

天猫双11当天,集团业务优先级进行梳理,明确了“好货、好价、好服务”的战略,其中,对淘宝天猫开启了大刀阔斧的改革措施,包括停止不必要的试错,全面反行业内卷等。这些改革举措使得阿里巴巴电商业务得到了进一步发展,实现了电商业务乃至整个行业的价值回归。

热点资讯 11.23
保持清醒,警惕AI的「一本正经胡说八道」

保持清醒,警惕AI的「一本正经胡说八道」

美国大学生与谷歌AI聊天机器人对话中遭遇惊人荒诞回复,引发多方质疑。谷歌公司裁定为“荒谬”,否认可能引发悲剧。人工智能频繁出错,并可能造成认知幻觉。未来应加强行业规范和监管,保障人工智能学习环境良好。

热点资讯 11.23