发布时间：2024-11-18 10:41:28 来源: sp20241118
人工智能，也就是“AI”，这个词一直非常火热，随着科技浪潮席卷而来，不断有一些AI技术走进大众视野，比如“AI换脸”“AI换声”等：视频中的角色可以变成你想替换的任何人；比如一些生成式AI，你只需要输入一些提示词，它就能帮你写作、画图......不过，AI技术为人们生产生活带来便利的同时，也会产生一些法律方面的风险。
人工智能亦会产生法律风险
记者在街头采访了解到，一些市民平日里会关注人工智能相关的话题，有的还会利用一些AI软件来帮助自己提高工作和学习效率。而同时，对于此类应用，人们也有一些担忧。
AI时代下，耳听未必为真、眼见未必为实，你接收到的文字、图片、音视频信息可能是AI技术的产物。
画面中可以看到，视频中和演示人员进行视讯的男生面部表情非常自然，看不出有什么蹊跷之处。不过实际上，这并非他的真实样貌。
人工智能安全技术从业人员 张天奕：大家看到的画面其实都是通过AI实时换脸，经过修改篡改后呈现出来的一个效果。
演示人员介绍，要想制作一个换脸人物的模型，目前通过一张照片就能够实现。但如果想要达到非常逼真、自然的效果，则需要换脸人物各个角度的图像，在万量级左右。
AI技术在各领域应用
可能产生侵权纠纷
这种AI合成技术在影视制作、广告营销、社交娱乐等领域广泛应用，人们日常中也能接触到一些操作简易的“AI换脸”等应用软件，不过这给大家带来了新鲜体验的同时，也可能会产生人格权方面的侵权纠纷。
中国政法大学传播法研究中心副主任 朱巍：主要是对人格权领域产生了巨大的安全隐患。比如说一个人他的形象，他的声音在互联网上通过各种渠道发布出来了。未经他的允许，别人把他的声音，把他的图像，把他的肖像做出了深度合成。有的时候是为了诈骗使用，有的时候就是为了纯粹的娱乐，有的时候是为了恶搞，有的时候是为了发布一些虚假信息。
专家认为，未经授权使用他人形象进行AI合成，可能会侵犯他人的肖像权、名誉权、隐私权等。此外，AI合成技术降低了虚假视频的制作门槛，这也可能给不法行为人可乘之机——比如用来炮制、传播虚假信息以及诈骗等。
人工智能安全技术从业人员 朱萌：我觉得最大的风险其实还是隐私的泄露，比如说一些不法分子用你的照片合成视频去做一些诈骗的行为。其实你身边的人，或者接到照片视频的人，其实很难去判断到底是真的还是假的。
中国政法大学传播法研究中心副主任 朱巍：现在确实已经出现了利用生成式人工智能，搞的这种深度合成的精准诈骗。两人都已经视频通话了，发现对面那个人长相、声音、说话的语气跟另外一个人非常像，结果是骗子用AI合成的，这就导致当事人被骗了。
陕西西安警方就侦破了一起类似的案件，2023年11月2日，财务人员张女士收到了老板发来的信息，让她转账186万元到一个指定账户。并且收到信息没多久，她还接到了老板打来的视频通话。
转账之后，张女士按照往日的习惯将电子凭证发到了他们公司的一个内部群里。然而出乎意料的是，群里包括和她视频的老板在内的不少人都对这笔转账感到很奇怪。
意识到被骗的张女士连忙报警求助，西安市公安局大明宫派出所的民警迅速行动起来，核查涉案账户的同时，对接反诈中心、联系相关银行进行紧急止付，最终保住了被骗资金156万元。
西安市公安局未央分局大明宫派出所民警 丁鼎：然后我对她的工作电脑也进行一个简单的检查，初步判断这是可能她前几天点击一些钓鱼网站，电脑中了病毒，随后被电诈团伙窃取一些信息，最后用一些AI技术跟她微信视频，最后骗取公司的财物。
什么是生成式AI
是否受法律保护
警方提醒，面对资金往来或是可能泄露个人信息的情况，还需要多方核实。自从2022年底，聊天机器人程序ChatGPT横空出世，生成式AI引发众人关注。利用这一类生成式AI，你可能通过输入提示词就得到你想要的文字、图片等内容。不过，这种新颖的创作方式也带来了知识产权方面的争议：人们利用这种越来越“聪明”的AI生成的内容，还是“原创”作品吗？受到法律保护吗？
人工智能安全技术从业人员 朱萌：那就是具备文本、图片、音频、视频等内容生成能力的大模型或者相关的技术。所有这些技术的总和，我们都可以叫它生成式人工智能。它的生成能力还是非常巨大的，可以极大地提升生产力。
专家介绍，生成式AI利用复杂的算法、模型和规则，从大规模数据集中学习，并生成文本、图片、声音、视频等多种类型的内容。在文本内容生成、艺术创作与设计、音频处理、游戏开发、药物研发等领域有着广泛的应用前景。
人工智能安全技术从业人员 朱萌：像珠宝设计、服装设计等等这种艺术设计的领域，或者包括一些市场文案的制作，这些都是在感性领域，生成式人工智能可以做得非常好。因为这些领域没有标准答案，它的答案是多重的，不是唯一的。另外一个就是像代码生成这样的理性领域，它的结果它的功能就很容易被判别，所以也非常适用于生成式人工智能。
可以说，生成式AI让人们的创作更加便捷，不过随之而来的，也是法律界饱受争议的话题，那就是，利用AI生成的内容，构成作品吗？受到著作权法的保护吗？
2023年11月，北京互联网法院审结了一起“AI文生图”著作权案件，李先生使用AI绘画软件生成了一张AI图片，之后他发现，这张图片被一位刘女士去掉署名水印、擅自发布在网络文章里。李先生认为，刘女士的行为侵犯了他享有的署名权和信息网络传播权，于是将对方诉至法院，要求其赔偿经济损失5000元，并赔礼道歉。
北京互联网法院综合审判一庭副庭长 朱阁：原告因为使用的这种绘画大模型，跟以往的绘画工具就有很大的不同。咱们以往的绘画工具，你还是要去画线条、色彩、造型，还是一个动手去画的过程。但是这个工具它就比较智能，通过输入提示词、设置一下参数、时长线条和色彩，它就自动完成，它比以往用的任何的绘画工具都要更智能。
法院审理认为，涉案图片符合作品的定义，属于作品，并且它是以线条、色彩构成的有审美意义的平面造型艺术作品，属于美术作品。在原告所使用AI绘画软件设计者不主张对输出内容权利的情况下，涉案图片是基于原告的智力投入直接产生，且体现出了原告的个性化表达，因此原告是涉案图片的作者，享有涉案图片的著作权。
北京互联网法院综合审判一庭副庭长 朱阁：被告的行为，一个是去掉了图片的署名水印，还有一个在互联网上传播，是落入到了中国著作权法上规定的署名权和信息网络传播权的控制的范围的，所以我们认为侵权是成立的。
法院判决被告向原告道歉
并赔偿经济损失
北京互联网法院判决被告刘女士在社交媒体平台道歉，并赔偿李先生经济损失500元，驳回原告其他诉讼请求。
北京互联网法院综合审判一庭副庭长 朱阁：随着这种技术的发展，我们的传播渠道就是不断地拓展。我们原来可能就是拿笔去画，后来我们有了照相机，我们有了手机，后来我们有了绘图的软件，现在我们有了更智能的软件。在这个过程中人的智力投入就是越来越少的，但是这并不妨碍我们继续使用著作权法，来保护这样的创作，保护这样的传播。
《中华人民共和国著作权法》第三条规定，本法所称的作品，是指文学、艺术和科学领域内具有独创性并能以一定形式表现的智力成果。专家认为，判断利用AI软件生成的内容是否构成作品、受到著作权法的保护，其中，“智力成果”及“独创性”这两个需要考量的要素是最关键也是最难认定的。
中国政法大学传播法研究中心副主任 朱巍：只要是属于智力成果，都可以归纳到著作权的范围，另外一点，这个智力成果有可能是人产生的，有可能是机器产生的。
中国人民大学法学院教授、知识产权法教研室主任 万勇：但是在这个机器生成的过程当中，它又有人的参与。什么样的情况下具有独创性，以及在什么样的情况下它是智力成果，这个法律并没有明确地给出规定。这个也是目前AI生成的内容是否具有著作权、是否能够成为作品，成为一个世界性、具有争议性问题的原因所在。
此外，生成式AI在开发阶段也面临着侵权的争议。当地时间2023年12月20日，11名美国作家在纽约曼哈顿联邦法院起诉美国人工智能公司“开放人工智能研究中心”OpenAI和微软，指控其滥用他们的作品来训练ChatGPT——这是由OpenAI开发的基于大语言模型的聊天机器人程序。这些作家向法庭表示，OpenAI在未经许可的情况下，从互联网上批量复制了他们的作品，并将这些作品纳入ChatGPT的训练数据里，侵犯了他们的作品版权。
他们还表示，由于微软公司“深度参与”了训练和开发人工智能模型，也应承担侵权责任。作家们向法院提出了金额不详的赔偿要求，并要求法院下令这些公司停止侵犯版权。
中国人民大学法学院教授、知识产权法教研室主任 万勇：AI在设计的过程当中，或者换句话说机器学习的过程当中，它需要使用大量的享有版权的内容，它才可以不断地去完善。或者换句话说，那么AI使用享有版权的内容构不构成侵权，那么这个也是目前法律上面一个具有争议性的问题。
北京互联网法院也受理了一起类似的案件：4名绘画创作者将某社交平台公司诉至法院，原因是，该公司推出了一款AI绘画图片生成模型，其生成的图片，画风及一些元素与一些画师的作品相似。画师们认为，公司方面涉嫌用他们的作品提供给AI模型进行学习并生成高度相似的作品，侵犯了创作者的合法权益。
如何化解AI所带来的法律挑战
如今，人工智能越来越多地融入我们的生产生活中，那么，要如何化解人工智能所带来的法律挑战？又该如何运用法治的力量保障人工智能产业健康发展？
对外经济贸易大学数字经济与法律创新研究中心主任 许可：事实上我们看到新的技术的出现，诚然改变了侵权的方式和表现，但是对于人的侵害的事实以及人的权利本身并没有改变。使用者出于一些不同的意图去使用它所带来的问题，其实在传统的法律中都有很多的表述，无论是对于我们讲的知识产权，对于我们的人的肖像权、个人信息权利，还有这种名誉权，我们的民法典、个人信息保护法都有所保护。
专家认为，对于人工智能带来的一些新的侵权形式，一方面，现行法律仍然可以作为处理和解决纠纷的依据；另一方面，相关部门也在陆续出台法律法规，从而更好地预防各种侵权风险，有效地保障民事主体的合法权益，促进人工智能产业的健康发展。比如，2022年12月，国家网信办等三部门发布《互联网信息服务深度合成管理规定》，旨在加强互联网信息服务深度合成管理。2023年7月，国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》，在鼓励创新与发展的同时，进一步完善人工智能管理体系。
对外经济贸易大学数字经济与法律创新研究中心主任 许可：那么最重要的一个表现就是开创了分层次的治理。分层次的治理指的是我们要根据相关主体在整个行业中的位置和功能设定不同的义务和责任。对于生成人工智能来说，它是一个非常复杂的生态。在生态之中既有技术的提供者，又有服务的提供者，又有普遍的用户，又有非常多的产业的各方参与者。如何确定好各方的义务、责任、权利，恰恰是这部法律非常重要的一个立法上的创新。
专家认为，人工智能的发展为社会进步带来了前所未有的推动力，同时也伴随着一系列亟待解决的法律风险。正因如此，在推动人工智能产业高速发展的过程中，确保其安全性、可控性显得尤为重要。如何去平衡好发展与安全的关系，引导科技向善而行，这将是一个具有挑战性的议题。
对外经济贸易大学数字经济与法律创新研究中心主任 许可：但是这么一种发展和安全的平衡，不只依赖于我们的监管者、我们的立法者。它依赖于各个产业的共同参与，依赖于我们每个人的共同参与。塑造出一个既开放有活力，同时又有秩序的人工智能生态，我想这是未来需要进一步做的工作。
法治热评：AI技术快速发展 需有关部门完善法规
近年来，人工智能产业快速发展，随着AI技术在越来越多领域的应用，也衍生出一系列的法律风险。如何协调这种技术的发展与法律边界之间的关系，是一个充满挑战的议题。面对日新月异的数字化技术，一方面，需要秉持科技向善的原则，尽量避免侵权风险、不利用技术从事违法犯罪行为，另一方面，也需要有关部门完善法律法规，加强引导和监管，新技术安全、合规、可控，才能迎来更广阔的发展空间。
(总台央视记者 张李彬 金轶丹 何洁) 【编辑:李润泽】