据“网信中国”4月30日消息,中央网信办部署开展为期4个月的“清朗·整治AI应用乱象”专项行动,将重点整治不当使用AI“复活逝者”,滥用逝者信息等突出问题。南都N视频此前推出报道《当AI“复活”亲人成为一门生意:有人坦言“再像也不爱我”》。有技术提供商表示,其一年完成693单AI“复活”亲人的订单,每单定价数千元甚至上万元。

南都此前报道。

中央网信办有关负责人表示,本次专项行动分两个阶段开展,第一阶段为“清朗·AI应用服务典型违规问题”专项治理行动,重点整治AI数据投毒、生成合成内容标识落实不到位等问题。第二阶段为“清朗·整治AI信息内容乱象”专项行动,聚焦利用AI技术生成“数字泔水”、假冒仿冒他人、侵害未成年人权益等问题。

其中提及,专项行动将重点整治不当使用AI“复活逝者”,滥用逝者信息等突出问题。

南都此前报道,在生成式AI发展浪潮下,通过收集逝者生前的图片、音视频等资料,数字“复活”他们的音容笑貌已不罕见。

南都记者调查发现,在一些电商平台上,有不少做AI“复活”生意的商家,商品标价从几元、几十元到上百元乃至数千元。有技术提供商向南都记者表示,其一年完成693单AI“复活”亲人的订单,每单定价数千元甚至上万元。

“纵使模仿得再像,也不爱我。”一位利用“AI”复活父亲的女孩向南都记者坦言。业内人士也分析指出,基于目前的技术条件,其与老照片修复的性质相似,只是加入了更多互动和个性元素,“复活”的亲人也并不包含其生前的记忆,只是一个能互动的“木偶”,还不大可能走向真正意义上的数字永生。

知名歌手李玟去世后被网友用AI“复活”。她坐在镜头前,对粉丝诉说着暖心话语。随后,李玟母亲委托律所发布声明称,部分网络用户未经李玟近亲属同意,利用李玟肖像制作、发布“AI复活李玟”系列短视频,以温情之名非法牟利,借机售卖AI服务、恶意转评引流推广个人业务。

不仅仅是李玟,被AI“复活”的已故明星还有高以翔和乔任梁。而他们的家人无一例外,均表示对此不能接受。

广东广信君达律师事务所管委会主任、法学博士闪涛告诉南都记者,“AI‘复活’如果被滥用的话,不仅会给当事人及其亲友带来侵害,也可能危害社会公共秩序,违背公共道德与公序良俗,甚至被不法分子利用从事违法犯罪活动。”

采写:南都N视频记者 林诗妍