最近,“AI孙燕姿”成了B站网红,B站上流传的各种“孙燕姿”翻唱其他歌手的视频,点击量往往超过了十万,甚至有些突破百万。

在一个又一个视频里,印着孙燕姿头像的光盘缓缓旋转,由其声音翻唱的各种经典或流行歌曲包括周杰伦的《发如雪》《爱在西元前》、刘欢的《好汉歌》等等。

弹幕评论给AI孙燕姿的歌曲视频增加了更多乐趣。有人说:“这是中了十香软筋散的好汉唱的吧?”还有人说:“听到孙燕姿唱这首歌,这辈子值了。”


(资料图片仅供参考)

利用AI模拟人声、生成歌曲,是AI技术的一大进步,但同时也带来各种各样的问题。例如,用AI翻唱歌曲,可能涉及版权问题。

而AI技术的发展,也让文化娱乐行业的工作者感到了巨大危机——也许有一天,他们的工作将被AI取代。

AI歌手走红网络

对于当下的许多年轻人来说,孙燕姿这个名字,已经有些陌生了。

2021年,一名14岁的网友在NGA论坛发帖:“给大家推荐一个冷门华语歌手孙燕姿”,话题立刻登上了微博热搜,无数80后、90后网友感叹,在00后的世界里,孙燕姿竟然也成了“时代的眼泪”。

二十多年前,周杰伦、孙燕姿等歌坛“天王天后”,曾经引领了一代人的青春。如今,那个华语歌坛最璀璨的时代已经过去,流行歌手的唱片、歌迷的彩铃、卡拉OK里略显模糊的MV,对很多人来说,成为了久远的记忆。

但这一次,AI让孙燕姿翻红,再次成了名人。

根据许多歌迷鉴定,AI孙燕姿与其本人歌声相似度非常高,无论是音色、唱腔,还是极具个人特征的咬字和尾音,都能够以假乱真。由AI孙燕姿翻唱的《发如雪》等歌曲几乎难辨真假,而与歌手本人风格迥异的《好汉歌》则因极具反差感,激起了网友玩梗的强烈欲望。

AI孙燕姿引发歌迷和网友疯狂的同时,也带动了资本市场的热度。5月11日,与AIGC相关的华策影视和其他多支影视传媒股涨停收盘,有券商分析师认为,拥有经纪业务的影视公司掌握大量艺人版权素材,结合AIGC,互动版本的AI艺人将应运而生。

同时,这位分析师也认为,比起上次的元宇宙风口,这次AIGC的风口更加“靠谱”,因为阶段性的进展正在发生。

AI孙燕姿的原理,是通过开源的生成式语音训练模型收集素材,进行训练。首先,需要把孙燕姿的歌曲去掉伴奏,或截取孙燕姿的访谈、对话视频,获取没有伴奏、混响的原始声音,然后把素材作为目标音色输入到模型中进行训练,得到一个孙燕姿音色的模型,转换任意的歌声,最后进行后期处理。

或许,AI歌手在未来有广阔的前景,除了娱乐性的AI歌手视频,词曲作者也可以借助不同歌手的AI模型生成样带,进行试听之后,为歌曲匹配到风格最合适的演唱者。此外,唱片公司还可以发布旗下歌手的音色模型供用户有偿使用。

对于已故歌星、演员的粉丝来说,AI技术也是一个福音:人们可以通过AI技术生成逝者的声音模型,重现那些令人念念不忘的声音。

目前,B站上已经有人发布了已故相声大师马三立的单口相声,通过一个叫“SoVits AI”的开源项目,生成了一段马三立的虚拟表演节目。在这段节目中,马三立的头像与电脑绘制的长衫结合在一起。

在节目开头,马三立的声音说道:“我们这儿其实来说挺新鲜的,都是高科技啊这是,叫什么人工智能,AI搞出来的,都是假的,没有真人……您在这听个味道吧。”

很多网友期待,可以用AI“复活”更多逝世名人的声音,如张国荣、黄家驹等,在建立声音模型后,可以为他们撰写与个人风格匹配的新作品,或者演唱他们所属乐队的新歌,让他们在逝世多年以后,以另一种方式再次为他们的粉丝献唱。

AI合成声音被滥用,后果可能很严重

尽管AI歌手前景广阔,“复活”已经去世的知名歌星、演员也令观众充满期待,但它仍然可能涉及侵权问题。另外,AI模拟声音也可能带来一系列伦理和法律的风险。

技术更新的速度,已经超过了知识产权法律更新的速度,经过人工智能提取的歌手音色模型,尚未被纳入现行知识产权法律保护范围内,但利用AI歌手翻唱其他歌手的作品,至少已经涉及原唱歌手、词曲作者的版权。

按照相关法律规定,除非著作权人声明不得使用,对已经合法录制为录音制品的音乐作品进行翻唱、二次创作等可以不经著作权人许可,但应当按照规定支付报酬。

被用作素材的孙燕姿声音同样可能涉及“侵权”。律师、学者普遍认为,虽然音色和唱腔不受到著作权法的保护,但按照《商标法》规定,声音和文字、图形等一样,可以作为商标申请注册。

另外,根据《民法典》规定,对自然人声音的保护参照适用肖像权保护规定,以防止声音被混淆、滥用、冒用、不正当使用,损害声音主体的合法权利。

是否起诉“AI孙燕姿”的制作者,需要孙燕姿自行决定,截止到目前,孙燕姿尚未在其个人微博上做出回应。

AI歌手可能侵犯相关各方的权利,除此之外,用AI生成人声,可能还会为社会带来其他更严重的法律和伦理问题。

随着通信技术的进步,电信诈骗成为了各个国家都要面临的问题。过去的电信诈骗多半是通过文字信息伪装成熟人,或通过电话伪装成各个机构的工作人员进行诈骗,但在AI声音模型技术辅助下,骗子可以很轻易地模仿熟人声音进行诈骗。

在国外,已经发生了AI语音诈骗的案例。据报道,4月初,加拿大有犯罪分子利用AI技术行骗,他们合成了受害者亲人的声音模型,实施电话诈骗,在3天内骗了8名老年人。受害者表示,骗子使用的声音和亲人一模一样,难以分辨。

得到语音素材并不难,诈骗者既可以通过黑客手段、非法购买信息等渠道获得素材,也可以通过不断拨打骚扰电话,以“广撒网”的方法获得语音素材,经过AI训练和后期处理后,制作成足以乱真的语音信息。

除此之外,AI语音的侵权使用可能还会造成伦理问题。例如,如果有人收集网红、主播的声音进行AI训练,用于提供软色情服务,既违反法律,也会对当事人的名誉、心理造成伤害。

4月11日,国家互联网信息办公室发布了《生成式人工智能服务管理办法(征求意见稿)》,有法律学者认为,这是对人工智能进行管理的良好开端,但在未来,仍然需要制定更详细的规定,对使用人工智能的各个主体进行更加明确的责任认定,对提供模型的服务商、内容生产者和发布者进行责任区分。

文娱产业创作者开始反击

对人工智能的未来感到担忧的,不只是法律界学者,还有各类文化工作者——AI在文化领域的应用,可能会让他们的工作岌岌可危。

前段时间,聊天机器人模型ChatGPT走红,它的本质是一种大型预训练语言模型,可以和人类通过人机对话的形式沟通。

在各个社交平台上,网友们纷纷晒出自己与ChatGPT的对话,它可以检索信息、生成文案,一些网友也表达了对ChatGPT的担忧:它可以让写作效率更高,在未来,这可能导致相当一部分靠“码字”吃饭的记者、编剧、作家甚至社会科学研究人员失业。

除了文字工作者,插画师、视频制作者、教师也担心自己的“饭碗”被AI抢走。人类剪辑一条视频、绘制一张画可能需要几个小时的时间,但AI只需几分钟就可以完成。

目前,ChatGPT可能并不会和人类“抢饭碗”,因为AI的力量还不够强大。

一位研究历史、艺术的工作者告诉价值星球,在试用了ChatGPT之后,他“松了一口气”,因为ChatGPT在专业领域获得的训练材料还比较少。当他试图让ChatGPT写一段关于昆曲的文字,他发现ChatGPT缺乏基本常识。

另一位用AI生成画像的网友则发现,在他提供给AI的几张素材中,只有一张自拍合照被生成了勉强能看出长相的绘画,“但是人脸闪烁着奇怪的星形光芒,眼镜框也扭曲了,看起来十分恐怖。”而其他照片生成的图片则更加诡异,风景变成了扭曲的色块,人像则全部变成了二次元风格的“纸片人”。

不过,随着训练素材的增加,以及人工智能技术的发展,未来AI确实可能对各行各业造成威胁:只要添加的训练素材足够多,AI的“学习能力”更强,它就可以生成更加精美、更加准确的作品。

而且,很多文字、艺术工作者创作的作品版权并不属于自己,而是属于公司。在公司面前,个人的力量过于渺小,一旦公司把作品用作训练素材,作者很难采取有效的措施通过法律维护权益。

面对这种可能出现的威胁,美国好莱坞的编剧们已经坐不住了。5月2日,美国编剧协会(WGA)与电影制作、流媒体公司谈判破裂后宣布罢工,除了呼吁提高薪资待遇,他们还要求限制人工智能的使用,例如不允许公司将编剧的原创作品提供给AI进行训练,不承认AI作品的原创定义。此前,在谈判中,WGA要求制片公司“确保编剧不被强迫改写AI创作的剧本”。

WGA的罢工队伍经过迪士尼、华纳、Netflix等大型制片公司和流媒体公司的门口,他们手中的牌子印有“WRITERS GUILD ON STRIKE(编剧协会正在罢工)”的统一标语,以及编剧们手写的口号。

有人打出“AI没有灵魂”的标语,有人打出“用AI代替高管”,希望把矛盾转移到更高薪的其他行业;还有人幽默地吐槽ChatGPT写作能力较差:“我让ChatGPT写一个标语,但它的表现很烂。”

目前,没人可以预测这次罢工会持续多久。

在这一次罢工之前,美国编剧已经十几年没有发生过大罢工了。上一次罢工发生在2007年到2008年之间,持续了100多天,导致美国电影业损失高达20亿美元,2008年电影电视金球奖颁奖典礼被迫取消,只公布了获奖名单。

WGA宣布,在达成协议之前,任何WGA成员都放弃收入,并不会再撰写新的剧本。这意味着,如果无法就编剧报酬和人工智能两个问题达成协议,好莱坞影视行业目前600部作品或将受到影响,2万名员工有可能停工、失业,损失高达810亿美元。

最近一段时间,谷歌、百度、腾讯、华为等国内外大厂已经开始竞相布局AI,2023年或许成为真正意义上的“人工智能元年”,而各行各业对AI技术的担忧也越发严重,担心AI成为一个“潘多拉魔盒”,打开它将造成人类无法预测的后果。

许多专家认为,AI并不会真正取代人类的工作,它只是人类工作的辅助者,帮助承担较为初级的工作,例如属于简单重复劳动的校对、生成文字、剪辑视频、绘画等,但真正的创意是无法被AI取代的。以编剧行业为例,AI可以写出通顺的文字,但很难通过对社会的深入观察产生创作灵感,写出一个有新意或发人深省的故事。

然而,任何领域都遵循“二八定律”,能够站在成功的巅峰、获得较高收入的,永远是少数人,大多数人都在从事重复的劳动。

编剧的常态是为已经设计好的大纲撰写分场剧本,插画师的常态是按照甲方的需求画出他们想要的图片,教师的常态是讲解基础知识……如果AI足够强大,并取代大部分基础工作,仍然会造成相当严重的失业。

《未来简史》作者尤瓦尔·赫拉利在书中提出了“无用阶级”这个新概念,他认为,随着生物工程、人工智能等技术的革新,未来99%的人都将沦为“无用的人”,他们做的工作无法超过计算机和人工智能。

在一次采访中,赫拉利对大型公司收集用户数据、发展人工智能的未来表达了担忧:“(如果)只有少数精英拥有了数据、权利,而大多数人却没有,那些拥有了数据的人,可能比你自己更了解你,他可以预测你的行为和决策,操控你的选择和想法,为你做决定。”

因此,赫拉利呼吁,要让大多数人能从新技术中获益,而不只是少数精英。

技术的更新,往往会超过很多人的学习能力。在智能手机的浪潮中,我们已经看到很多老年人不会使用智能手机,沦为“技术难民”,而比起智能手机,AI波及的人群可能更加广泛,影响也更加深远。

解决新技术带来的法律问题,乃至社会和伦理问题,已经迫在眉睫。如果等到AI已侵入每个人的日常生活再做出反应,可能为时过晚。面对这种可能颠覆人类生活的技术,态度无论如何谨慎也不算过分。

参考资料

[1]《“AI孙燕姿”终于对人工智能下手了,律师说问题很大》,澎湃新闻

[2]《“AI孙燕姿”成顶流,一场法律与伦理大考》,新京报

[3]《直击罢工中的好莱坞:万余编剧拒绝给AI打工,为加薪而战》,澎湃新闻

推荐内容