喜欢音乐的朋友最近可能发现了，在一些播放平台，“AI歌手”的专辑频频上新，不少新歌打榜、老歌翻唱，都赢得了很多粉丝的追捧，特别是因为训练后的AI能模仿某些“明星歌手”的独特音色与唱腔，让人简直分不出是真人还是AI。在一些平台上，AI歌手演唱了多首大家耳熟能详的歌曲，让网友争相试听。事实上，除了AI歌手，一段时间以来，各领域的人工智能都在影响着我们的生活，从ChatGPT的横空出世，到利用AI技术开发的智能性游戏和计算系统，再到AI绘画、“AI歌手”的网络走红，人工智能技术在成为互联网新宠的同时，也让我们看到了其中存在的一些问题。当AI技术越来越多地走近我们的生活，我们又该如何看待这些问题、保护自身的权益呢？

播放量破百万 "AI歌手"上新频率高

不久前，有这样一个话题在社交媒体走红——叫“AI技术出来后第一个失业的将是歌手”。为什么这么说呢，因为一夜爆红的虚拟歌手其实是在AI技术的“音色转换”的加持下实现的，首先对某明星歌手的声音数据进行了训练，前期收集了真人歌手的采访、直播等素材，并且质量越高、数量越多越好，随后再进行“去除呼吸声”等细节处理，进入一系列复杂的“训练”，最后得到一个仿真模型，再通过模型进行推理，最终实现声音替换，其音色与歌手本人的原声甚至高度相似。记者在某视频平台看到，4月中旬，“AI歌手”的相关账号热度不断提高，截至目前，至少已翻唱60余首歌曲，其中包括粤语、日语、英语、俄语等歌迷们耳熟能详的歌曲。其中有不少播放量均已突破百万，从流行到民谣，这位AI歌手可轻松驾驭各类曲风，且每天都有数十首“新作”面世。

虚拟歌手火遍全网 技术上是如何实现的？

近日，一位虚拟歌手火遍全网，引发了不少人的关注和讨论。所谓虚拟歌手，就是通过模型训练和后期处理，让AI用明星歌手的声音翻唱其他歌手的歌曲。从技术的角度看，这是如何实现的呢？

清华大学人工智能国际治理研究院副院长 人工智能治理研究中心主任 梁正：基本上还是用开源的生成式语音训练模型，运用一些语音素材进行训练，而且数据量也不大，因为它跟语言模型比所谓的数据量需要没有那么大。

简单来说，制作虚拟歌手歌曲，首先需要获取没有伴奏和混响的原始声音。这些素材可以通过去伴奏或者提取对话的方式，从他的视频中获得。然后将这些素材作为目标音色输入到模型中进行训练，得到一个可以生成音色的模型。接下来就可以用这个模型来转换任意音色的歌声，比如林俊杰、周杰伦、赵雷等歌手的歌曲。最后再进行一些后期处理和调校，就可以得到听起来像歌手本人演唱的歌曲了。

目前来看，这位虚拟歌手的作品覆盖流行到民谣等多种风格。由于“AI歌手”与真人演唱的音色并无二致，一些忠实粉丝感慨，已经很难分清到底是歌手本人还是AI，一些粉丝表示“连换气声都能清晰听到，咬字尾音都非常像本人。”

AI歌手火速"出圈" 背后有哪些新问题？

AI歌手在火速“出圈”的同时，其实也衍生出了一系列的新问题。例如，有业界人士认为，训练AI歌手中使用的大量歌曲，类似于训练ChatGPT时使用的大量素材。在未经相关授权的情况下，使用这些歌曲是否侵犯著作权？同时，还有人提出，AI歌手诸多音频中都使用了原歌手的照片，甚至部分还加入了简单的AI眨眼、摆手等动作，这是不是对歌手肖像权的一种侵犯呢？不过，也有歌迷表示，AI歌手翻唱的老歌新曲，大家就是拿来“自己听听”，又没有进行商业性质交换，这是否算不上侵权？还有一些网友从这起事件里看到了新的问题，如果明星的声音可以用来“被训练”，那我们普通人的声音是否也会被利用？我们又该如何防范这种情况的发生呢？

专家解读："AI歌手"触及诸多法律问题

《中华人民共和国著作权法》明确，使用他人已经合法录制为录音制品的音乐作品，再去制作录音制品，可以不经著作权人许可，但应当按照规定支付报酬；著作权人声明不许使用的不得使用。那么，AI歌手本身就是被他人的录音制品“训练”出来的，这算不算侵犯著作权法呢？来听中国科学技术大学网络空间安全学院教授左晓栋的解读↓

中国科学技术大学公共事务学院 网络空间安全学院教授 左晓栋：AI歌手的实质是深度合成技术的应用，只不过这种情况下合成的是声音，而且是知名歌手的声音，所以引起了很多关注。它是利用人工智能技术以假乱真，合成高度逼真，难以甄别的声音。其涉及的法律问题有两个方面，一个是深度合成类技术带来的，主要是侵害被仿冒声音当事人的权益。声音和肖像一样，也有人身属性，仿冒伪造利用他人声音的行为，都可能给声音主体的人身权益，财产权益造成损害。另一方面的问题主要集中在著作权保护领域，这和是不是AI没有关系，都要受到著作权保护，但这个时候被侵权是原词曲著作人演唱者录音制作者的合法权益，总的讲这方面的基础性法律规定是明确的，单边的最新的情况还需要有一些适用性的解释。AI歌手的案例中，由于里面涉及多个法律问题。这都是人工智能技术发展到一定阶段带来的新问题。具体到深度合成领域，去年11月，国家网信办、工信部、公安部已经联合印发了互联网信息服务深度合成管理规定，对规范深度合成技术应用作出了制度性的安排。另外全国信息安全标准化技术委员会目前正在组织制定国家标准，互联网信息服务深度合成安全规范。

专家解读：“AI歌手”是否涉嫌侵权？

实际上，除了《中华人民共和国著作权法》，《民法典》和《商标法》中也有相关条款。法律界人士告诉记者，实际上“如果仅仅是歌手的音色或者唱腔，它本身是不受著作权法的保护的。但是在《商标法》的规定当中，声音是可以作为商标来受到保护的，但如果声音并没有注册商标的话，就难以作为商标受到《商标法》的保护。不过，有律师在采访中也表示：在民法典里，对声音的保护是参照肖像权保护进行的，而对肖像权保护有明确的规定——那就是不允许进行伪造。所以，法律界相关人士就表示，“AI歌手”在未经相关授权的情况下有可能涉嫌侵权。同时，AI歌手也可能会造成故意误导、混淆或者是形成假冒别人名义等行为，这些都可能会涉嫌不正当竞争。

专家解读：平台参与者 责任主体要清晰化

“AI歌手”走红网络，其实很多创作者、主播、用户、商家、广告主等等，都是平台生态的参与者。前不久，某视频平台更新规范——在应用生成式人工智能技术时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，同时禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一经发现，平台将严格处罚。对此，专家表示，针对“AI歌手”问题，责任主体要分清。

清华大学人工智能国际治理研究院副院长 人工智能治理研究中心主任 梁正：我们要把分类的责任更清晰化。除了提供工具的作为大模型的基础服务的提供商，你作为使用大模型生成相关内容的生产者，把它发布在相关的平台上的发布者，有可能是商业性的，有可能是纯粹娱乐或者非商业性的，但这都是发布。包括去使用它，这里的责任其实是要进行一个区分的。

《生成式人工智能服务管理办法》引关注

其实针对目前生成式人工智能的发展与管理，业界也在讨论，我国也即将有规范可依。今年4月，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》，《征求意见稿》提出，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，要承担该产品生成内容生产者的责任；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合《生成式人工智能服务管理办法（征求意见稿）》的要求时，应当采取措施，停止生成，防止危害持续。这份征求意见稿已经于5月10日结束公开征求意见，我们也期待随着AI技术越来越深入我们的生活，相关配套管理也不断完善，各平台参与者的主体责任也更加明晰。

来源：央视新闻客户端