11-21 13:27
黄文艺
以上是我对本次论坛的简要总结。本次论坛到此圆满结束，感谢各位专家的参与和支持。谢谢大家！
11-21 13:27
黄文艺
四是这是一场高层次的国际学术对话和交流。网络法治、数字法治是全球共同性的议题，也是构建人类命运共同体的重大任务，也是各国产业界、学术界和实务界凝聚共识、紧密协作的领域。我们今天要特别感谢来自全球的8位著名外国专家所做的精彩演讲，他们的精彩演讲不仅介绍了美国、欧盟、英国、德国等区域和国家在网络法治、数字法治建设方面的新进展，而且提出了很多富有建设性，很值得我们中国网络法治建设有启发和借鉴意义的前瞻性的观点。
11-21 13:27
黄文艺
三是理论研究、人才培养和宣传教育三位一体。对于我们学术界和教育界来说，在网络法治建设方面的使命任务不仅是要深入推进理论研究，还要推进网络法治人才的培养和网络法治的宣传教育，比如网络法治的宣传教育就非常重要，通过加强网络的法治宣传教育，推动全社会理解和认知网络法治的新理念、新制度，要拥抱网络法治、数字法治，塑造数字时代的数字公民。
11-21 13:27
黄文艺
二是产学研融合。网络的产业界是网络法治的主要消费者和受益者，同时也是网络法治建设的重要力量，在网络法治建设上，有重要的话语权和影响力。这次会议邀请了京东集团、携程集团、美国信息产业机构的总裁、副总裁，做了重点的演讲，他们提出了很重要的观点和建议。
11-21 13:27
黄文艺
一是理论与实践相结合。各国专家学者积极深入地研讨了网络法治建设中的很多前沿的、热点的问题，比如人工智能时代风险的法律治理，特别是人工智能立法的模式和路径，人工智能监管的问题、数据滥用与个人信息保护这样一些重要的理论问题，还有数据的跨国界流动等重要问题。同时也介绍和交流了中外在数字法治、网络法治建设方面的新进展、新成就，网络法治、数字法治领域不仅是全球竞争，包括中国国内也是竞争很激烈的一个领域。
11-21 13:26
黄文艺
在各位专家的积极参与和紧密合作下，人工智能时代的网络法治论坛即将圆满结束。本次论坛一共有9位领导和中外嘉宾做了精彩的致辞和演讲，发表了一系列有创新性、引领性的新思想、新见解、新观点，我个人认为本次论坛有以下四个鲜明特色：
11-21 13:26
11-21 13:26
主持人
下面进入闭幕式环节。有请中国人民大学中华法治文明高等研究院院长、《中国法学》总编辑黄文艺。
11-21 13:23
威廉·鲁西
不好意思，我确实不太清楚我讲了多久，以及我还有多久时间，但我还是在这里停止，谢谢大家！
11-21 13:23
威廉·鲁西
当我们考虑到任何和法律相关的一些概念来说，至少它有八点是一定要具备的。我的学生经常和我说，法律的各项要求也是非常具有竞争性的，但其实法律的任一方面来参与都涉及八个要求，这是AI的一个最核心的特征。在这个观点之外，我觉得AI的监管和法治的八项要求是不具有适应性的，因为关于法律的制定可能是基于一些法条和法约合规的，就AI监管下的自主性是没有办法去和这些监管目标所匹配的，我觉得这是我的核心观点。
11-21 13:22
威廉·鲁西
这里就是我想说的一点，（我应该还有时间去发言，我不确定我还有多久的发言时间），我觉得我们可以这样称它，就是人工智能的监管，我觉得它基本上可以说具有不匹配性，和法治要求而言。起码从两点来说，从长期来说，作为一种监管方式，它不够透明，不够具有阐释性，同时它容易受到操纵，它不是直接让监管者可以正常参与进来的一项进程，所以它没有办法去和任何常规性、概念性的问题进行匹配。
11-21 13:22
威廉·鲁西
（图示）这是我列出的最后一点，就像我前面强调的，基于数据的代理以及算法计算，这些都会涉及到我们关于人工智能治理方面的内容，所以我们可能可以做出各种各样的假设，它可能会使我们合法以及不合法的监管变为可能，这里就会涉及到不合规的问题，这也就是为什么我们会提到第二个问题，就是到底我们怎么样去进行人工智能监管，这是一个非常重要的问题。这里我列了三点，人工智能监管的目的甚至都还没有被作出选择，它可能会受限于AI的发展，似乎它看起来就是一种不重视伦理规则的发展，它可能会影响到人们的生活各个方面，在不经意间就影响到比如说建立不同的制裁，以及影响我们正常的生活保障供应。
11-21 13:22
威廉·鲁西
围绕我前面提到的三点，我认为这一点可能会造成一些巨大的改变，就技术管理而言，如果我们参考这位学者的发言。
11-21 13:22
威廉·鲁西
我认为以上几点生成什么观念呢？那就是我这点展示的这一点，很久以前，可能一些技术管理会涉及的内容，这些内容当然不是新的，它是之前就存在的，但确实它可以在我们当下的事实再次被验证或应用。我这段引用应该是正确的，那就是它会造成建立一些所谓的壁垒以及一些人为的干预。
11-21 13:21
威廉·鲁西
在此之上，算法的技术远远超出了我们的一些认知，它不仅仅是基于数据，可能它会远远超出我们的认知。我们认为它是基于目标的，它会和社会产生一些联系，同时它会实时地为大家进行更新。
11-21 13:21
威廉·鲁西
第二点，在我们的互联网体系下，我们可能是有一些追踪数据的机构，它们可以进行处理，下面写着我这句话是引自哪里，它会让我们看到一些无形适应，也就是所谓的一些网络物理基础设施，包括一些线上线下的设备应用。网络物理基础设施基本上需要的一些必要设备、家庭、公共和私人交通工具，以及我们做的各种适应。
11-21 13:21
威廉·鲁西
接下来，首先谈第一个问题，就是由AI进行监管是什么意思呢？其实它是以下三点的结合，就是到处随时随地数据追踪的一些机构、单位以及算法管理，最后一点技术管理，和前面三点是密不可分的。当我给出一些基础的信息，就是基于英文的语境下，我会把随时随地、数据追踪以及算法管理放到这里。大家看到这一句话可能会产生一些共鸣，如果大家知道这些资料，你们也可以给我提供更多更细节的一些内容，我们发现到处都是用一些很明显的互联网设备而进行处理的，以及互相关联的。当然，到处就意味着无处不在，同时我们看到所有这些设备都可以本身进行自己的一些自我管理，所以这一点就是我为什么提到了人工智能产生的监管，它是无处不在的。
11-21 13:21
威廉·鲁西
我觉得可能首先我需要和大家分享三点：第一点，当我谈到这个话题的时候，我是怎么理解人工智能监管的；第二点，我是如何来看待法治的；第三点，我的一个核心观点。当然，我的回答是“是的”，人工智能监管确实会成为法治的自由区。就是如果我们要坚持人工智能监管，那它肯定最终就会走向法治自由。
11-21 13:20
威廉·鲁西
大家知道，这里用的是由AI来管控的监管，我相信在座的各位专家和行业学者，可能大家都是学习人工智能方面领域的专家，我觉得你们可以立马就阻止我这个问题进一步去进行探讨，因为随着欧盟已经颁发了《人工智能法》，也可能提供给我们一些可能探讨的方面，所以我们说的并不是对人工智能进行监管，而是人工智能引发的监管。
11-21 13:20
威廉·鲁西
因为我作为一名学习哲学的人，考虑到了这场论坛的主题，就是关于以人为本的智能向善，我觉得我确实还是能谈一些话题的，来和大家分享一些我个人的想法和观点，所以我就想出了这样的话题，也是一个问题，是否人工智能监管是一个法治的自由区。这个问题就是基于我的经验，我既是学习律师，同时又是学习哲学的人，这是我能给出的问题，希望可以引起大家的关注。
11-21 13:20
威廉·鲁西
非常荣幸参加这场论坛，这也是我第一次来中国，我对乌镇以及整个会场、整个论坛和参会人员，都感到印象深刻，同时我也感觉到非常开心，来参加这个会议。
11-21 13:19
11-21 13:19
主持人
有请英国杜伦大学法学院教授威廉·鲁西发言。
11-21 13:18
比约纳尔·鲍维克
其实欧盟人工智能法案可以被视为欧洲委员会框架公约一种实施的方法，很多时候它只是欧洲的视角，也不太适合全球采纳。谢谢大家！
11-21 13:18
比约纳尔·鲍维克
这个框架公约更重要的价值是它建立了某一种方法论，在考虑AI造成的影响方面，在法律环境下，它可能会产生哪些影响，而搭建了这样一种方法。但它并没有为缔约方或各方权力建立新的法律实质性义务，所以它是比较宽泛的，并没有特别细节的内容。这样的欧盟法案，只是给我们提供了一些通用的原则和方法，可能它更多的是促进全球在AI监管方面对话提供了一些前提，或者是奠定了一些基础。
11-21 13:18
比约纳尔·鲍维克
在我看来，这样一个框架，比如在明确责任方面，帮助比较小。因为很多原则和规定是由法院来规定的，位于斯特拉斯堡的欧洲人权法院和最高法院，他们已经有确立的标准和原则，所以框架公约并没有带来很多新的内容，所以在这个部分也没有什么特别积极的贡献。
11-21 13:17
比约纳尔·鲍维克
再说一些框架公约的基本内容，第一条第二款谈到了关于人工智能的评估，在欧洲人们也比较熟悉，对有一些风险的评估，也提出了一些关于人工智能需要去平衡的内容，这是比较宽泛的规定。除此之外，在这个框架公约下，可以看到有很多相当笼统和宽泛的原则，有一些救济和程序的保障，但是都还规定得比较宽泛。在第五章里面，我们能够看到一些风险和影响的管理框架。
11-21 13:17
比约纳尔·鲍维克
在欧洲有两项法律法规，一个是框架公约，我们把它称为人工智能法案。这是第一个人工智能全球条约，我也非常同意之前发言人的观点，在欧洲做这件事情，可能只是一个尝试，它会造成不同国家的两极分化，特别是西方国家，我们能够看到有很多的竞争，在AI方面的立法，也会有很多反对的观点。要解决AI的风险，确实需要全球的解决方案。关于气候变化方面，西方国家觉得没有中国的参与是不可接受的。在欧洲，当人们说要监管AI的时候，他们也只能说是尽自己的最大能力去做一些尝试。
11-21 13:17
比约纳尔·鲍维克
立法的过程是非常缓慢而且耗时的，我们生活在一个非常复杂的社会当中，事实很复杂，法律也很复杂，人工智能的飞速发展，使得立法者不可能跟上这种发展的步伐，至少从细节的角度来讲是跟不上的。
11-21 13:16
比约纳尔·鲍维克
在第22条里面就列举了一些例外的情况和条件，欧盟的《通用数据保护条例》也并不是平衡所涉及到的相关利益的合适的工具，在《数据保护指令》的第15条里面，它和GDPR的22条在很大程度上是一样的，这个条款可以追溯到1995年。但在2024年的规范数据使用方面，很可能就不是一个很有力的工具。
11-21 13:16
比约纳尔·鲍维克
GDPR在2019年颁布，这里面也使用了一些立法，对很多细节的问题做了规定，是关于处理个人数据方面的人工智能的作用，GDPR所做的只是禁止自动化的个人决策，并列出了一些例外情况。
11-21 13:16
比约纳尔·鲍维克
尊敬的各位来宾，各位同事，非常感谢邀请我来参加这个论坛。欧洲的概念是要建立一个框架性公约，在这样的框架性公约下，人工智能既带来了机遇，也带来了非常严重的威胁和风险。其实这是很难去平衡的，我们怎么平衡法治和人工智能技术的发展，在美国、欧洲人们都面临着这样两难的境地，监管太少会带来风险，太多又会阻碍创新，有的时候很难平衡。
11-21 13:15
11-21 13:15
主持人
有请来自挪威卑尔根大学的比约纳尔·鲍维克教授发言。
11-21 13:13
欧恺安
非常感谢大家的倾听！我可能稍微时间长了一点，谢谢大家！
11-21 13:13
欧恺安
我看到很多的公司，比如说京东集团，以及很多研究人工智能的公司，还有很多中国研究法律法规的优秀学者们，也都在关注这个问题，所以我们最好去观察一下这个趋势，像欧洲也有很多这方面的人在做研究，可能我们在AI这个部分能够有一些指导原则出来，和人工智能相关的一些办公室或者一些相关的管理机构，可以先针对一些高风险的部分出一些指导的原则，中国的企业也好，行业也好，也可以和立法部门有很多的沟通，大家共同去贡献一下自己的想法和智慧。在欧洲，可能很快就会有这样的一些立法之后的显现，我相信这里还有很多的问题也需要通过一些指导原则、通过一些更加现实的手段，或者说一些框架，加以解决。
11-21 13:13
欧恺安
（图示）最后，再回到这一页，也是我的结束页。我们可能没办法在短时间内把所有的细节都讲清楚，但我们可以看到，欧盟的《人工智能法》是受到比如说疫情以及各个社会现实的影响，国会就提出我们需要提出这样一个法案。伴随着人工智能的发展，我们很多根本性的生活方式可能都会受到影响和挑战，可能在中国面临这样的问题会比我们要少一些，说这句话的时候，我在看人大的教授，因为我们这边不像你们这边有各个细分的行业领域，我们这里就可能只有单独的一个学院去涉及到这方面的研究。我觉得这可能不仅是涉及到公众层面，更多是涉及到学术层面，它需要是完全中立的，因为总有人会进行争议，我们是否应该这样做，是否应该遵循我的建议，我们是否应该听从我说的重新进行立法和监管呢。大家都是非常的恐慌，所以我们可能就会觉得有必要立法，我们就是想说，其实这种情绪上的影响是非常重要的，我也想说，它并不是说现在这个争议就结束了，现在还在继续着。这个法案在6月份生效，但明年才正式开始执行，接下来的三年肯定所有的法律条款都要适用，所以这也是一个过程。
11-21 13:12
欧恺安
（图示）我们可能在这里不会特别详细地讨论这里的细节，但我想给大家一个核心的观点，速度是非常重要的，这是我们最先考虑的事项，同时它也反映了，除了我前面提到的那些反对的声音，包括如何识别某些高风险的部门和行业。当然，还有关于如何去实施以及去成立相应的一些法律条款，但是这里的义务对各行各业来说都是一样的，它对各行各业都是差不多的。我们之前已经谈论过，我们在GDPR（通用数据保护条例）所面临的问题就是当我们实施GDPR、遵守GDPR的时候，我们可能会考虑实施它的另一面会带来什么后果。我们可能更多地会受限于大模型，我们觉得它可能会激发保护主义，或者说在欧美以及中国和更多的国家造成一些争议。但在欧盟来说，我们还是面临就像我前面所谈到的这些问题，各种各样的问题，就是在欧盟层面它会涉及到各种各样可能性情况的探讨，需要去积极参与讨论，回到我们法律来说，可能对欧盟来说，它将会面临各种碎片化的趋势。
11-21 13:12
欧恺安
接下来，我们来看一下欧盟AI法的主要特征。它是在2024年6月份生效，如果你关注到这一进程，它耗时很久才得以通过，因为达成这个决定非常不容易。其中一个说法就是可能它需要谈到一些关于数字市场化的问题，一些公司经营法、竞争法的问题，即使很多内容它都是需要澄清的，但是达成这个共识还是非常困难的，所以这里是有一个政治动机在推动着这项法案的达成，无论是对于全球，还是说参与这项法案规定的制定者来说。
11-21 13:12
欧恺安
在全球层面，大家都会有这样的一些声音，比如说如何去解决我们面临的这些问题，我这里列举的不是全部问题，但是我们确实可以更好地去利用全球达成的共识来看待未来的AI治理。
11-21 13:11
欧恺安
从我而言，我觉得今天大家已经听到过很多次的一句话，对欧洲来说，可能它在人工智能方面做的还远远不够，听起来可能有些超现实主义，但其实我们还是在尽力监管。我在入职我现在的单位之前，我是在欧盟工作，我是那边的主要专家，我会参与到很多关于立法的活动中。这可能就涉及到一些单独的规则，它需要是基于事实的，同时它也需要考虑到涉及的一些实体和利益方。因为我们知道，已经有一些规定是可重复的、可复制的，它不只是关于立法方面的，不只是立法方面的重复性和可复制性。
11-21 13:11
欧恺安
关于欧盟的AI法以及一些其他的倡议，同时也想重复提醒大家，对于欧盟来说，我们的AI法案确实是非常具有冲击性的，也是很大胆的一次尝试，它不只是出于政治目的，更多是背后站着有很多律师的一些判断，以及如何去有效地将这项法案运用在欧盟中生效。我们希望可以生成一个可预测的全球框架，所以我们希望尽可能地去缩减风险。
11-21 13:11
欧恺安
我们接下来进入到PPT环节。我会尽可能地去发表一些我的核心观点。
11-21 13:10
欧恺安
各位同仁、女士们、先生们，我非常荣幸参加关于人工智能讨论的论坛。我需要谈论一些关于人工智能的看法，我可能不是人工智能方面的专家，我是一名律师，所以关于人工智能可能大家比我知道的更多。可能我对大家来说，我的优势是在法律专业。
11-21 13:10
11-21 13:10
主持人
有请中欧数字协会首席专家欧恺安发言。
11-21 13:09
张新宝
以上是我一些不够成熟的看法。谢谢大家！
11-21 13:08
张新宝
人工智能立法应当妥善应对国际竞争与国际合作的张力，在推动人工智能治理和国际合作上面，要倡导建立全球范围内的人工智能治理机制，支持在充分尊重各个国家政策和实践的基础上，形成具有广泛共识的全球人工智能治理框架和标准规范，推动人工智能能力建设方面的国际合作。同时加强面向发展中国家的合作与援助，弥合智能鸿沟与治理差距。要促进国家间基于技术和价值观的相互理解，同时在人工智能治理领域的主权国家博弈的过程中，面对不友好国家对我国内政，针对我国实体和个人的单边制裁和其他歧视性的、禁止性、限制性的措施，我们也应当根据实际情况采取相应的反制和对等措施。
11-21 13:08
张新宝
人工智能产业生态的良性发展，需要主体多元、利益分化，市场开放的竞争秩序。在宏观层面，应当制定并完善竞争政策，推动智能要素的基础设施建设的形成，数字资源调度利用的制度，有效降低市场进入门槛。人工智能立法应当充分考虑人工智能产业分层业态，形成鼓励公平交易，自由选择的基本竞争原则，对利用人工智能等实施垄断、不正当竞争等行为做出专门的规定，并授权细化相关的规则，在鼓励实施包容审慎监管的同时，善用“软法”规则，加强对企业合规整改的引导。要提高反垄断和反不正当竞争的执法水平，综合应用事前、事中和事后规则工具，提升市场监管措施的区分度和颗粒度，探索新的动态监管机制，比如监管沙盒，通过适当监管、一定豁免，引导企业自律管理，降低中小企业创新合规的成本风险，鼓励研发应用与监管机制上面的双向创新。
11-21 13:08
张新宝
人工智能立法应当坚持以人为本的基本立场，在以人为本的理念下，人工智能立法至少还应具备三个方面的规则设计：一是构建应对算法歧视等长远隐蔽的伦理风险规制；二是应在切实保障相关主体合法权益的同时，确保人工智能的可问责、可救济；三是应当活应用数字鸿沟下数字教育和数字信息获取的问题。一方面明确国家机关在提升国民数字素养，分享人工智能风险和应对方法等方面具有提供服务和做出一定行动的职能，另一方面通过设置合理的信息披露义务，要求具有人工智能技术能力的主体在开发应用等阶段对受影响者提供必要的信息和说明。人工智能立法应当协调好多元主体之间复杂的利益关系，在保证个人权利免受不当侵蚀的前提下，支持人工智能算法和基础模型等的创新开发，针对当前数据获取方面的难题，应当建立例外规则或者是责任豁免的规则。建立适应基础模型数据训练或模型发展的个人信息处理制度，将个人信息保护的重点从收集端的事前限制适当地转移到强化人工智能责任主体的合规处理信息，利用数据的环节，建立与人工智能相适应的知识产权规则或配套制度，探索构建促进人工智能产业发展的利益分配和利益分享机制。
11-21 13:08
张新宝
三、主要利益关系的设计问题
11-21 13:07
张新宝
具体而言，人工智能法应当是我国人工智能领域的基本法律，旨在定基调、明方向，仅对立法目的、调整对象、基本原则、重要制度以及一些主要的基本规则做出规定，具体的细节制度应当在时机成熟、时间检验的基础上，通过行政法规、部门规章等规范性文件以及国家标准来加以确定。人工智能立法应适应以搭建框架性持续为准的立法技术，凝练实质性的法律问题，着力于实现有效的规范指引，增强立法的体系性和协调性。
11-21 13:07
张新宝
刚才有的学者提出了“小切口”“小碎片”的立法路径，也提出了要做减法，都是很好的路径。我们的想法是人工智能的立法应当以实现体系化的立法为基本方向，以优化立法层次为当前的主要目标，统筹和协调涉及人工智能的已有规范，为人工智能领域的立法体系化提供有力的方向性的基本规则，同时厘清人工智能治理的基本逻辑。
11-21 13:07
张新宝
二、立法的路径
11-21 13:07
张新宝
在包容审慎规则风险上，应当以多元主体协同治理为基础，构建以政府监管为主导，行业企业自律，社会协同参与的多元治理体系。科学设置风险的分级分类管理规则，动态科学研判风险，明确对于重点风险的监管要求，强化对风险的动态敏感监管，遵循人工智能全生命周期治理的逻辑，引导全流程中相关主体的风险管理应对机制的建立。加强相关主体对投入市场后的人工智能应用的监测管理义务，建立有层次的问责制度。设立专门机关，增强监督效能，并综合使用“软法”和“硬法”手段，使责任承担与目的控制能力、涉及领域等相匹配。
11-21 13:06
张新宝
就动态科学的研判风险上，应当对危害国家安全、公共安全的风险，以及违反公序良俗的伦理风险等进行研讨和借鉴，制定专门制度进行防控，提升防范风险与化解风险的能力。应当设置预防人工智能风险的通常基准，明确关于人工智能的稳健性和网络安全水平的一般规则基本要求，增强系统与应用的安全性和科学性。可以设置不同领域与场景下的一般规则和基础风险防范要求，并对系统性风险等潜在的风险预留一定的授权立法口径。
11-21 13:06
张新宝
在防范主要风险的立法目的下，人工智能立法应该构建重点突出的风险防范制度，既要有的放矢，明确对当前重点需要防范的风险，同时也要动态地研判防范新的潜在风险。风险规制应从单一的具体风险管控，转向促进多元主体协同治理，风险有效分类分级制度，全周期治理和有效的可问责机制。
11-21 13:06
张新宝
人工智能法应当以“发展与安全并重”为指导思想，以促进研发应用和防范风险为二元的立法目的。促进研发应用的立法目的下，人工智能立法应当构建具有体系性的发展促进制度，具体体现为赋能与减负两个方向，应考虑人工智能产业的分层业态，能够涵盖数据算力模型和硬件应用场景等关键要素和环节，并在吸收国内外科技引领法治有益规则的基础上，探索实用开放性的新制度。
11-21 13:05
张新宝
一、确立一个二元的立法目的
11-21 13:05
张新宝
尊敬的各位领导，学界和产业界的朋友们，上午好！刚才听了很多老师的精彩演讲和领导们的发言，我觉得有很多值得学习和借鉴的地方，特别是来自领域外的教授们所谈到的真知灼见。就人工智能的立法，现在已经展示了很多不同的观点，我也想提一些自己的粗浅看法。谈三个方面的意见：
11-21 13:04
11-21 13:04
主持人
有请来自中国人民大学法学院的张新宝教授发言。
11-21 13:03
周汉华
我们在预训练阶段和投入应用阶段所面临的法律障碍，它是横跨不同的部门法，绝大多数都需要并且也只能通过对现行法律的修改、废止、解释来解决。我的结论，在中国推动人工智能产业的发展，需要汇聚各方面的智慧，而不只是发挥立法机关的作用。谢谢大家！
11-21 13:03
周汉华
投入应用阶段，我们现在倾向性的司法判例是认为人工智能生成物是受到权利保护、版权保护或者说专利权的保护。但是我们看到不光是美国，其实欧盟的动向，也是说人工智能生成物是非权利化的一个制度安排。
11-21 13:03
周汉华
当然，中国比欧盟可能GDPR要领先一点的地方，在于《中华人民共和国个人信息保护法》规定，已公开的个人信息在合理范围内可以使用。所以说如果你要去处理图像信息，在中国，图像信息属于敏感个人信息，如果你要去处理互联网上公开的图像信息，需要取得单独同意，无法进行训练，如果去训练是违法的，可能会面临罚款。
11-21 13:02
周汉华
如果再来看中国的人工智能发展面临的法律障碍，我们说人工智能的发展、大模型的发展就是两个阶段。一个是预训练的阶段，一个是投入运用的阶段。我们现在面临的主要问题是现行法律不适应大模型的发展，包括《中华人民共和国著作权法》缺乏对大规模训练数据原则可用的明确授权，也缺乏政府数据开放和有关互操作的概念，这是匪夷所思的。如果我们说在西方的语境下来讨论人工智能的发展，讨论平台经济，这是它回避不了的一个问题，包括欧盟在推动数字社会发展当中，把互操作作为一个最重要的障碍之一，去作为数字社会发展必须解决的问题。
11-21 13:02
周汉华
如果我们再来看中国改革开放激荡的40年所取得的重大成就，尤其是中国互联网产业高速发展的历程，表明简政放权、调动释放市场主体与全社会的活力与创造力，是中国实现高速发展的一个必由之路，也是一条基本经验。
11-21 13:01
周汉华
美国在大模型研发领域领先，如果我们来分析它的话，你会看到这是美国的经济、科技与制度等因素综合作用的结果，并不是美国通过立法才实现了美国在大模型领域里的领先。我们再来看欧盟的《人工智能法》，制定之后争议非常大，但是欧盟《人工智能法》并没有产生布鲁塞尔效应，这和欧盟做GDPR或者说1995年的个人数据保护的指令是完全不一样的场景。我们现在的研究发现还没有欧盟的国家跟进要制定类似于欧盟层面的人工智能法，所以欧盟的立法不光有争议，它有它的特殊性。
11-21 13:01
周汉华
那么，如果我们来看平台经济与大模型的发展，如果我们仔细来追溯它的历史，可以看到上世纪70年代末、80年代初，在英国、美国，撒切尔夫人和里根总统率先发起的这场大规模的放松规制运动改革，是直接相关的。放松规制本质上是简政放权，所以国际上的经验是做减法的结果。钱德教授那篇文章对我们非常有启发，说法律改变了硅谷，但我们看法律改变硅谷，它也只是《通讯品位法》里230条，就那么一条，还不是我们意义上的，说来制定统一的人工智能法这个意义上的大规模的立法。
11-21 13:01
周汉华
对于这个问题的讨论，在中国的学术界包括立法机关，如果我们看中国全国人大常委会对人工智能立法的表述，在立法规划里，它说的是“制定人工智能法律或者法律问题的决定”，我想这是有很深的政策考量和背景因素的。包括我们今天前面几位主题发言人，如果大家仔细去辨析，其实也是有观点的差别。所以我们来探讨人工智能立法的路径选择，可以说对中国的法治建设具有一般性意义，因为我们今天对人工智能的立法路径讨论，在其他众多领域里都面临这个问题。
11-21 13:00
周汉华
今天我们讨论人工智能的立法问题，就要放在这个大的背景下，我们就需要明确主线，是从立新的人工智能法切入，还是说更多的是要从修改、废止、解释现行的法律来切入？所以我把它归为了究竟是做加法为主，还是做减法为主。当然，加减永远都是会同时适用的，但是主线必须明确。
11-21 13:00
周汉华
在法治体系建设当中涉及到立法、执法、司法、法律监督以及整个法治体系建设相关的各方面的工作，我想在中国的法治体系建设进入到新的阶段之后，我们如果观察最近几年中国的立法，不管是全国人大常委会的立法，还是国务院的立法，你会发现立新法的数量已经远远少于对法律进行修改的数量，所以这时候如果我们把立法当作做加法，那么现在立法部门经常用的是五个动作，叫立、改、废、释、纂，立法只是其中之一，修改法律、废止法律、解释法律以及进行法典的编纂，这四个阶段越来越重要。我想，这是法治体系建设必然面临的一个转型或者说一个重点的变化，从立法转向了更加重视法律的实施。
11-21 13:00
周汉华
中国法律体系的建设有两个标志性的阶段：一个是2011年，中国特色社会主义法律体系已经形成，这是中国社会主义民主法制建设上的一个里程碑。另外一个标志性的阶段，就是2014年10月，十八届四中全会决定，把全面推进依法治国的总目标确立为建设中国特色社会主义法治体系、建设社会主义法治国家，这样中国就实现了从法律体系建设向法治体系建设的历史性跨越。
11-21 13:00
周汉华
各位嘉宾，大家上午好！感谢人民大学的邀请，来参加此次盛会，并就人工智能的立法谈一点自己的想法。
11-21 12:59
11-21 12:59
主持人
有请中国社会科学院法学研究所副所长周汉华发言。
11-21 12:58
主持人
下面进入嘉宾发言环节，议题三： 全球人工智能监管规则。
11-21 12:43
王欣
我们非常期待能在主管部门的指导和帮助下，围绕行业共性问题和企业个性堵点探索兼顾发展和安全的可行方法和最佳实践案例，营造更好的全球贸易环境，把握全球发展机遇。谢谢大家！
11-21 12:43
王欣
关于加强个人信息，携程虽然在数据安全和隐私保护领域进行了较为深入和细致的探索和实践，但也面临着人工智能时代的数据大爆炸的新问题和新挑战。例如由AI换脸、变声等技术引发的消费者深度伪造欺诈，AI驱动的黑客攻击，大模型标注数据防篡改与伦理安全，AI生成虚假信息等，这些新型问题在跨境服务复杂的环境以及互联网新型空间如元宇宙等方面都存在着较大的风险和放大的可能。同时我们还面临着人工智能、大数据全球治理不同国家价值取向，优先事项和方法分歧，以及标准认证互通互认等各个壁垒。
11-21 12:42
王欣
三、关于加强个人信息和数据制度的意见建议
11-21 12:42
王欣
八是在数据共享方面，与必要的合作方签署保密协议和数据处理协议，做好合作方人员、资质等背景的调查和信息安全风险评估审计。当前携程集团平台个人信息和数据出境业务涉及机票、酒店、度假等各方面，作为数据安全及隐私保护的场景和子集，携程对个人信息和数据出境采用与国内相一致甚至更高的安全防护标准，并遵从国家的法律法规、技术标准和监管要求。
11-21 12:42
王欣
七是在权益保护方面，充分保障用户的知情权和选择权，隐私政策明确告知用户权利、行使途径，任何更新都会通过弹窗的方式经过用户同意后才可以获取。涉及个人信息和数据保护的投诉第一时间响应，并在规定时间解决。
11-21 12:41
王欣
六是在应急响应方面，建立了安全事件分类分级应急响应体系，明确了信息安全、IT、法务、政府事务等各方面的职责，制定应急响应预案并定期进行演练。
11-21 12:41
王欣
五是在认证培训方面，公司先后通过了ISO27001、ISO27701、PCI-DSS等安全认证，定期开展全员线上信息安全培训和考试。同时对产品、研发、数据分析等数据处理的重要岗位的人员进行专业的数据安全培训。
11-21 12:41
王欣
四是在审计监察方面，个人信息和数据处理员进行背景审查并签署保密协议，对网络安全设备、应用系统等开展安全审计，实时保存备份审计记录，开展内外部相结合的审计检查，并做好监督整改。
11-21 12:41
王欣
三是在技术管控方面，综合运用访问控制、动态赋权、行为模式基线分析、安全水印、存储与传输加密、超期销毁或匿名化等业内领先的安全技术，实现对个人信息的最小采集、最小访问和最小使用。
11-21 12:40
王欣
二是在建章立制方面，基本基于法律标准和监管要求，建立涵盖数据安全、个人信息保护、移动APP合规等在内的管理制度。同时构建业务部门和合规部门责任共担的工作机制，任何新增的APP发版都必须通过内部安全检测方可上线。
11-21 12:40
王欣
我们有八方面的举措：一是在组织管理方面，成立了首席执行官任组长，各部门主要负责人组成的领导小组，指导落实各项具体工作。同时根据任务需要组建工作专班，如成立个人信息保护专项工作协调小组。
11-21 12:40
王欣
二、加强平台内部个人信息与数据制度建设
11-21 12:40
王欣
一些办法、条例精准化、个人信息和数据保护的要求。如《网络数据安全管理条例》明确处理个人信息应当遵循的具体规则，明确网络数据处理者识别、申报重要数据的义务，有利于维护市场公平竞争秩序，保护个人、企业在网络空间的合法权益，进一步推动我国数字经济高质量可持续发展。
11-21 12:39
王欣
当前数字经济正加速与实体经济的融合，各类数据迅猛增长，海量聚集，数据作为生产要素的基础性和战略性地位日益突出，也对数据治理能力提出了更高的要求。我国制定出台网络领域立法150余部，特别是《中华人民共和国网络安全法》《中华人民共和国数据安全法》等法律法规，为互联网平台处理个人信息，做好数据保护，提供了根本遵循。
11-21 12:39
王欣
一、个人信息与数据制度不断健全具有重要意义
11-21 12:38
王欣
携程于1999年成立于上海，得益于中国互联网的蓬勃发展和网络法治的加速推进，携程集团在在线旅行行业乘势而上，并不断规范发展。特别是近年来随着人工智能的革命创新以及网络法治的高质量发展，携程等一众互联网企业得以全神贯注地突破新技术、谋划新场景、提供新服务、实现新发展。在个人信息与数据制度方面，我们有自己的一些思考。
11-21 12:38
王欣
尊敬的各位领导、专家、行业同仁，非常荣幸能参加本次网络法治论坛，并代表携程集团向大家汇报关于数据安全和隐私保护方面的业务实践。今天我和大家分享的题目是《抓良善法治机遇，享数字发展成果》。
11-21 12:38
11-21 12:37
主持人
有请携程集团副总裁王欣发言。
11-21 12:37
亚历山大·斯维特里奇尼
今年早期的时候，我们看到欧盟委员会在通过自己的执法权，然后开始调查一些比如说像Meta这样的公司如何在数据收集和数据整合中进行了侵权，所以我们可能需要再等一些时间，看他们会得出怎样的结论，等待欧盟去给我们一些回答。这个案例告诉我们什么呢？那就是说，信息保护和隐私保护在违反竞争法的过程中被认为越来越重要，不仅是在DMA，而且是在国家层面，各国需要发挥自己的力量去作出自己的决策。以上是我的发言，谢谢大家！
11-21 12:37
亚历山大·斯维特里奇尼
在欧洲还有另外一种做法，就是我们直接去倾向于监管，那就是我们利用数字技术这样的方式，比如说在欧盟，我们会建立相应的一些权利和法案，去作为一个“守门人”。这是从中抽出的第五条法案，作为“守门人”来说，你是不能做以下事情的，你不能做这些违反法律法规所禁令的事情，所以大家可以看到，在欧盟层面一些大规模的公司，大家都是按照这样的方式去进行一些规避性的操作。
11-21 12:36
亚历山大·斯维特里奇尼
这种做法也上升到欧洲法庭如何判断我们是否违法，如何去理解违法行为，以及对于竞争主体，我们应该如何去考虑这些涉案公司他们是如何进行违法的，以及如何去进行鉴定的。比如说，法律会认为一些侵犯了隐私的权利或做法，这些如果得到承认，这些做法就是侵权了。
11-21 12:36
亚历山大·斯维特里奇尼
德国的公司已经将这几种不同的情况进行了整合，比如说我们如何管理Meta，根据德国的竞争法，德国的机构就规定在GDPR中，如果你违反了收集个人隐私数据的做法，那么你就违反了德国的法律，这和德国违反竞争法的做法是一样的。
11-21 12:36
亚历山大·斯维特里奇尼
第二个问题，是否数据收集可以被认为一种滥用市场权利以及剥削消费者权利的一种行为？这也是我今天主要想谈的话题。我们提到了数据收集，把它认为是市场违反法律的一种做法，那么这里就有几种可能性，第一种就是关于市场权利和数据收集的区分，因为如果这里真的没有关联性的话，那么就可能只有那些有权利的公司才可以有这样的权利去收集数据，没有权利的公司，这些公司就无法参与到收集数据的过程中。
11-21 12:36
亚历山大·斯维特里奇尼
其实市场上有不同的关于数据保护的各种情况，比如说数据相关的价格歧视，他们可能会受到个人化或者算法的标价来进行影响。比如说，在中国以及欧盟有一些机构，大家都持有不同的看法。
11-21 12:35
亚历山大·斯维特里奇尼
还有一个新的问题，也是今天想要去探讨的，我们能不能将违反隐私规则视为违反了竞争法。
11-21 12:35
亚历山大·斯维特里奇尼
第二个，是不是把它作为消费者福利的隐私，比如说保护他的隐私可以作为对消费者的一种福利，我们是不是需要考虑它，在竞争法方面是不是需要适用。
11-21 12:35
亚历山大·斯维特里奇尼
在竞争法的评估当中，我们需要去涉及到数据保护、隐私保护这样的话题，比如我们能否去考虑一个公司彼此之间竞争能够提出关于数据保护和隐私保护，就是在消费者这些相关保护方面可能会影响到它的竞争优势。
11-21 12:35
亚历山大·斯维特里奇尼
从欧盟的一些竞争法等法律法规里，我们可以看到，任何可能涉及到个人敏感数据的问题，本身都不是竞争法的问题，他们可以根据关于数据保护的相关规定得以解决，所以它并不是我们所需要考虑的在竞争法适用的一种目标。
11-21 12:34
亚历山大·斯维特里奇尼
我想提出几个和竞争法以及数据保护相关的一些问题：第一个问题，在竞争法的执法当中，我们如何来考虑数据保护和隐私保护，这是可选择的，因为竞争法也是基于客观对象的。第二个问题，竞争法是否足以应对与数据相关的经济权利或者新的监管解决方案。竞争法是不是足够，我们是不是还需要其他另外一种的规范。第三个问题，竞争法能否帮助实现数据保护的目标，能不能更好地去保护人们的隐私。
11-21 12:34
亚历山大·斯维特里奇尼
可能大家都比较熟悉，数据在很多方面，在市场竞争上都是非常重要的，我们把数据作为一种产品，在公司之间进行交易。也可以把数据作为一种货币，由消费者付费。事实上，它并不是说完全免费的，因为你需要去付一定的费用来使用这些数据。数据也是公司拥有的某种资源，使得公司拥有某些竞争优势。当然，比如说数据量很大，质量很高，可以更好地帮助公司找到他们的客户，提供相应的产品和服务。同时，数据还可以给予一些公司市场力量，有的时候可以用，有的时候又会滥用，所以这也需要法律法规去进行一定的规范和监管。
11-21 12:34
亚历山大·斯维特里奇尼
大家早上好！刚才很多发言人之前都谈到了关于数据的保护，我想要谈的话题是关于竞争性的数据保护，也就是在公司竞争方面涉及到的保护。
11-21 12:33
11-21 12:33
主持人
有请澳门大学法学院副教授亚历山大·斯维特里奇尼发言。
11-21 12:32
马里厄斯·克里奇托斯弗克
还有一些情况可能也会导致一些问题，比如面部识别，有一些是禁止AI使用的法案，像一些监管机构，他们会具体说互联网收集这些涉及敏感的信息用于面部识别是不允许的，禁止人工智能用于创建或者扩展面部识别的数据库，或者通过互联网或电视系统无目的地抓取面部图像。谢谢大家！
11-21 12:31
马里厄斯·克里奇托斯弗克
当然有一些也取决于生物信息的数据，有些会涉及到私人的、个人的数据，还有一些比较敏感的数据，只有一部分。比如说这些数据很敏感，或者在某些特定的情况下会影响到个人的隐私等等。AI系统只能去处理或者识别和矫正这些生物系统，还有一些其他的问题，有些数据比如说进行政治方面的参考或者评估，那它们可能会被视为敏感数据。还有一些生物特征的数据，并不是敏感的数据，这些也应该进一步去考量它到底是不是应该被涵盖在一个被规范的范围之内。
11-21 12:31
马里厄斯·克里奇托斯弗克
这里有一些例子，现在是不是人工智能被过度干预了、过度规范，这其实是需要满足一些条件的。欧盟委员会正在做一些咨询，需不需要有一些指导原则出台，他们经常会问你熟不熟悉或者说你有没有实际用过AI系统，能够满足所有的条件。在社会治理方面，人们经常会说债务登记这些问题，这会影响到我们的贷款，或者是其他信用方面相关的事情，所以这个也是在社会治理方面的功能。AI并没有在这方面给大家造成了困惑，而且它们也并不满足人们认为是一种伤害性的情况，所以这些并不是AI本身的问题。我觉得人们认为AI可能产生的负面影响，在情感识别系统方面，AI需要很多的数据去识别人的情感，它是比较复杂的过程。
11-21 12:31
马里厄斯·克里奇托斯弗克
这些方面为什么我们需要去做一些事情？因为我们看到有一些概念，需要清晰化一些，比如说我们现在是在金字塔的下面，最顶端是不可接受的风险，AI系统的分配，或者在使用方面，我们都会评估一下它的风险级别。在一些具体的情况下，可能这样的条件需要我们特别关注它的风险。但是在经济和个人方面，我们在AI方面有更多的受益，AI可能也会对我们的一些基本权利造成伤害的风险。比如说社会方面，我们为了更深入地考虑到AI会对我们的身心、社会体系所造成的风险。
11-21 12:30
马里厄斯·克里奇托斯弗克
有一些例子也可以向我们展示出它是否适宜，或者说有一些谜团，也有一些原则。AI有时候被过度干预了，人们经常有这样的言论：应对AI挑战的正确反应，还是怎样？人们会有一些探讨，在立法方面，我们希望有一些修订，它就像拼图一样，很多东西是互相关联的。我觉得在执行这些法律法规的时候，也需要细心评估。
11-21 12:30
马里厄斯·克里奇托斯弗克
非常感谢能够邀请我来到这里，今天我们来探讨一下关于人工智能时代的法律。我们都知道我们需要在这个方面有所作为，大家也谈到了一些具体的例子。在AI领域，我知道中国有很多非常先进的关于AI的实践和法律法规，我觉得中国在这方面做得很进步的，在很多领域都很领先。
11-21 12:30
11-21 12:29
主持人
有请波兰华沙经济学院研究员马里厄斯·克里奇托斯弗克发言。
11-21 12:28
林维
人工智能作为当前最受瞩目的新兴科技，我们必须要高度重视其引发的法律挑战，通过完善立法，为人工智能发展保驾护航。中国的法学实务界和研究界也高度重视人工智能的立法与司法的发展，尤其在新兴领域，这些问题所引发的法律难题。西南政法大学也专门成立了科技法研究院，我们也积极展开和科技专家、科技企业的对话，也希望大家能够给予我们更多的关注、关心和支持。谢谢大家！
11-21 12:28
林维
第四，应当加强人工智能国际治理交流与合作。在全球化背景下，人工智能的问题已经成为国际社会共同面临的难题，加强国际交流合作，不仅是应对技术发展带来的挑战所需，更是实现全球共同繁荣，构建人类命运共同体的重要途径。
11-21 12:28
林维
第三，应当坚持发展与安全并重。刚刚乔治城大学的钱德教授比较了欧美人工智能立法和人工智能产业的关系，我想，中国现在也面临这样的一种选择。人工智能法应当明确促进人工智能健康发展的立法目的，强调在发展的同时要保障安全。当然，人工智能法仍然要以发展为最核心的目标，没有发展谈不上安全问题。最后，人工智能法应当确立人工智能的治理框架，明确人工智能的研发者、使用者、提供者这些主体的义务与责任，明确监管机构的监督职责与监管规则，加强用户权利的保护，切实回应人工智能产业发展当中的难题。
11-21 12:28
林维
第二，应当坚持科技向善的理念，高举科技人文大旗。发展人工智能应当坚持以人为本的理念，以增进人类共同福祉为目标，以保障社会安全，尊重人类权益为前提，确保人工智能始终朝着有利于人类文明进步的方向发展。
11-21 12:27
林维
因此，随着人工智能应用的爆发以及各国人工智能竞争的加剧，中国从场景式立法已经无法满足人工智能产业的发展以及产品治理的需求，因此应该从以下几个方面来完善我们的立法：第一，应当积极思考推动国内人工智能统一立法的实现，避免“头痛医头，脚痛医脚”。当然，各种人工智能应用引发的法律挑战并不完全一样，人工智能法仍然需要为智能要素、智能应用等具体场景的立法来预留接口。
11-21 12:27
林维
第五，人工智能军事应用的法律治理难题。在当前的国际冲突当中，无人机在无人干预下跟踪并且攻击正在撤退的军事人员，以及有的国家利用人工智能系统帮助识别特定的武装人员等等，这些案例都引发了人们对于人工智能能否拥有决定生死权力的热议。随着无人系统自主性和智能化程度的提高，未来的作战可能将会更多依赖于人工智能，这也可能导致人类在决策程序过程当中被逐渐边缘化，进而引发对战争伦理和责任归属的质疑。人工智能武器的广泛应用还可能加剧国际军备竞赛，降低战争门槛，这些潜在的全球战略不稳定因素也需要国际社会共同应对。
11-21 12:26
林维
第四，人工智能生产物的知识产权保护难题。现在对于这个问题，尽管法院有了一定的判决，但是这个问题的讨论仍然是非常的激烈。从生成端来看，人工智能生成物通常由算法自动生成，认定其是否具备人类的独创性存在着困难。从使用端来看，终端用户和模型提供者生成的内容是否构成侵权，也产生了极大的争议。因此，能否以及如何利用知识产权保护制度来保护人工智能的生成物，仍然是我们需要进一步加以解决的问题。
11-21 12:26
林维
第三，生物识别的数据安全保护难题。和传统的密码不同，人脸识别、指纹识别等所需要的指纹、面部特征、虹膜扫描和语音，是我们身份验证和访问控制的强大工具，因此生物数据带来的数据安全这种挑战是我们前所未有的。对个人而言，个人的隐私风险增加，敏感信息的泄露必然会侵害主体的隐私权利，甚至带来更为严重的数据安全风险。对国家而言，大量生物识别数据的储存、分析、计算也特别容易产生极大的安全隐患，因此生物识别技术的大规模应用必须慎之又慎。
11-21 12:26
林维
第二，自动驾驶的侵权责任的认定难题。在今年6月份，中国首批智能网联汽车准入和上路通行试点企业公布，自动驾驶汽车的大规模上路取得了进展。但是在自动驾驶模式下，车辆可以在没有人类驾驶员介入的情况下自主行驶，一旦发生交通事故，责任可能涉及车辆制造商、软件开发者、车主等多个主体，这也给责任的追究和分配提出了难题。
11-21 12:25
林维
第一，深度伪造的刑事治理的难度。深度伪造是指利用先进的AI技术生成或者篡改音视频的内容，使其它难以与真实内容区分，极易为不法人员实施网络违法犯罪活动提供可乘之机，进而导致刑事治理风险的扩张。同时，由于算法的复杂性和不透明性，使得判断伪造内容的来源和生成的过程变得极为困难，进而影响到对违法行为的精准定罪以及量刑。
11-21 12:25
林维
过去我们的法律制度通常以人类是唯一的理性主体作为基本的假设，但是现在人工智能能够在没有人类干预的情况下，独立地做出一定的决策和执行任务，这样极具智能属性的科技是人类历史上前所未有的。因此，当下由此引发的一些典型的法律挑战，包括如下几个，当然，人工智能所给我们提出的法律挑战绝不止于这些领域，我们所列举的仅仅是我们当下所面临的一些比较典型的场景。
11-21 12:25
林维
中国国务院印发的《新一代人工智能发展规划》指出，人工智能的迅速发展将深刻改变人类社会生活、改变世界。人工智能是影响面广的颠覆性技术，可能带来改变就业结构、冲击法律和社会伦理、侵犯个人隐私、挑战国际关系准则等等，所以这些将对政府管理、经济安全和社会稳定乃至全球的治理产生深远的影响。
11-21 12:24
林维
尊敬的各位专家，各位嘉宾，大家上午好！今天我和大家分享的题目是“法律如何应对人工智能的挑战”。
11-21 12:24
11-21 12:23
主持人
有请西南政法大学校长、教授林维发言。
11-21 12:23
主持人
下面进入嘉宾发言环节，议题二： 人工智能时代的法治挑战与数据保护。有请主持人中国人民大学法学院教授、未来法治研究院副院长丁晓东。
11-21 12:10
胡焕刚
未来，伴随着网络技术的不断突破，网络业态不断创新，网络法治必将日新月异，前景无限。京东也将秉持“技术为本，让生活更美好”的企业使命，在不断优化成本、效率、体验的同时，全力履行社会责任，为用户、行业和社会创造更大的价值。最后，预祝本次论坛获得圆满成功。谢谢大家！
11-21 12:10
胡焕刚
三、网络法治环境将助力行业快速健康发展。法治具有固根本、稳预期、利长远的重要作用，伴随网络法治体系不断健全完善，中国的网络发展环境将更加优越，网络空间秩序更加规范，网络公平正义更加彰显，充分保障各方权益，给予广阔的试错空间，鼓励支持创造创新，全力助力网络行业健康发展，为数字经济再上新台阶奠定坚实的基础。
11-21 12:10
胡焕刚
二、国际网络法治的新秩序将不断成熟。随着我国经济开放和走出去，国际间公司、商务规则深化交流，务实合作，将共同推动构建网络空间命运共同体迈向新阶段。中国将积极引领全球网络领域法治建设，维护我国网络空间主权、安全发展利益，为全球网络法治建设提供中国方案，贡献中国智慧，让互联网更好地造福世界各国人民。
11-21 12:10
胡焕刚
回顾过去的30年，应该不管是当时大家的想象还是今天我们的回顾，我们都觉得网络法治的30年超出了我们的想象。那我们完全有信心相信未来一定会更加美好，畅想未来，我们相信：一、中国特色网络法治体系将更加完善。建设中国特色网络法治体系是我国网络法治建设的总目标，可以预见，我国将加快推进数字经济、人工智能、网络平台、大数据、云计算等领域的立法，形成更加完备的网络法律规范体系，为互联网行业持续繁荣提供制度保障。网络法治实施体系将更加完善，适应互联网发展治理新特点的网络监督执法措施将更有针对性、实效性，助力行业良性竞争和健康发展。
11-21 12:10
胡焕刚
京东也结合自身的行业实践，积极参与网络领域的立法和法律研究，今年京东法务团队撰写的《数据合规实务与前沿研究》已经问世。我们携手人民大学未来法治研究院打造的未来法治国际论坛也在行业里逐渐形成了影响力。
11-21 12:10
胡焕刚
得益于政策支持、技术革新和产业繁荣，京东的发展步伐也持续加快，这十年间京东、京东健康、京东物流相继上市。2022年京东集团收入突破万亿人民币，从一体化开放逐渐走向数字化社会供应链，打造数实融合新模式。这个时期网络法律体系基本形成，出台包括网络安全法、数据安全法、个人信息保护法等网络法律领域的立法150余部，网络法律体系基本形成，网络法治研究日益繁荣。
11-21 12:10
胡焕刚
2012年到2024年，互联网法治进入高质量发展，核心技术创新突破，中国成为全球首个基于5G独立组织的国家，千亿级参数规模以上的大模型超过10个。2012年到2022年间，人工智能专利累计申请数量占全球达70%。互联网产业蓬勃发展，截至2022年底，大数据产业规模达1.57万亿，市值超10亿美元的平台企业达到167家。截至2023年底，规模以上互联网企业完成互联网业务的收入1.75万亿，网上零售规模达到15.42万亿，连续11年成为全球第一大网络零售市场。
11-21 12:10
胡焕刚
这一时期，网络法治建设和研究如火如荼，2000年，国务院先后公布了《中华人民共和国电信条例》《互联网信息服务管理办法》，对电信网络安全、用户信息安全管理等做出规定，全国人大常委会通过《关于维护互联网安全的决定》，将互联网安全划分为互联网运行安全和互联网网络信息安全。网络法治研究蓬勃开展，为网络行业发展和制度建设做出了重要贡献。
11-21 12:10
胡焕刚
2000年到2011年，我国互联网法治进入了突飞猛进的阶段，在这个时期网络基础设施和技术创新高速发展，中国成为最大的IPV6示范网，3G用户达1.28亿，云计算市场规模达315亿元，中国成为国际标准化组织传感器、网络标准工作组的主导国之一。互联网产业快速壮大，社交网站用户达2.44亿，即时通信用户4.15亿，电商平台发展壮大，网络购物用户1.94亿，网上支付、网上银行用户均在1.6亿以上。京东也在这个时候正式跨入电商行业，直击电商行业的痛点，投入巨资启动自建物流，并且实现了超越零售行业巨头布局的历史跨越，销售额从1000万增长到300亿。
11-21 12:10
胡焕刚
同一时期，互联网法治建设与行业发展共同推进，先后出台了《计算机软件保护条例》《计算机信息系统安全保护条例》《计算机信息网络国际联网安全保护管理办法》并修订了刑法，为互联网行业发展提供制度保障。同时网络法治研究也开始萌芽。
11-21 12:10
胡焕刚
如大家所知，1994年中国国家计算与网络建设设施联入国际互联网的64K专线开通，实现了与国际互联网的全功能连接，中国开启了互联网时代。在1994年到1999年，是以硬件建设保障和推动互联网行业快速发展的时期，如“九五”期间“八纵八横”通信干线光缆正式建成，上网计算机台数达到350万台，上网用户数达到800万，网络规模和技术水平赶超部分发达国家。同时网络商业应用与门户网站拉开了互联网的创业帷幕，中国互联网向社会公众开始提供接入服务。
11-21 12:10
胡焕刚
在今天的这个盛会，我谨以一个企业的视角来回顾中国互联网法治发展的辉煌历程，共同展望互联网法治的美好未来。
11-21 12:10
胡焕刚
尊敬的各位领导、各位来宾，非常荣幸与人民大学法学院协办本次论坛，在此我谨代表京东集团对大家的莅临表示热烈的欢迎和衷心的感谢！
11-21 12:10
11-21 12:10
主持人
有请京东集团副总裁胡焕刚先生进行发言。
11-21 12:09
缪万德
其实技术的商人觉得立法者或者监管者可能会给我们带来一些约束，所以说他们有的时候可能会从负面方向去解读。但其实，我们觉得如果从安全性方面来讲，我们还是能够找出一些双赢的办法的。谢谢大家！
11-21 12:09
缪万德
在当前世界上，我们看到这些技术的发展，也是和法律法规的进步相呼应。作为行业来说，我们也需要有一些行业标准等，监管者也可以去填补一些空白。我们希望能够在法规基础设施上弥补一些空白，这也是很必要的。可能很多人觉得这个好像是一种自我证明的想法，其实是这样的，我们每一个人都需要去服务于社会，行业也想要去服务行业的利益，我们也需要持续地创造安全的、有效的产品给我们的客户。当然，我们不希望去损害客户的安全和健康，我们也不希望去侵犯整个法治的体系。我们需要的是和所有的法律界人士、立法界的人士，共同去开发一些模式，怎么能够不强制地去监管，而是有更多灵活的选择，以及在设计方面，可能更加灵活一些。
11-21 12:08
缪万德
我们在行业也有很多的讨论，有的时候想要找到一些法律去约束AI，就是在它发展的阶段也要去约束它。基本上来说，我们可以决定规范工程师怎么去开发AI，按它的优先顺序进行规范，来减少一些伤害。但是在人类历史上，我们往往会关注这些结果，所以作为行业来讲，怎么能够和监管者、法律制定机构更好地配合、合作，也就是说，我们用现在能够使用的这些工具也好，技术也好，我们的法律基础设施也不会影响到它健康的发展，特别是我们想要促进创新的话，就需要有一个合适的限度。
11-21 12:08
缪万德
我想问一下大家，大家是否了解人类历史上我们有一些颠覆性的技术出现的时候，决定在全球范围内要制定一些法律去约束它，就是专门针对这个技术制定法律。大家有没有想到？比如说电力、铁路还是电视机？铁路，我们没有铁路法。我们有一些法律去规范轨道交通的一些法律。也就是说，我们并不想在开发一些技术的时候，在核心领域去约束这个技术的发展。
11-21 12:08
缪万德
我不是律师，是一个商人，所以我想在今天早上简单和大家探讨的，我们在商业、在行业以及法律界应该怎么样更好地去合作，来促进AI的发展。很多时候，像法律界的人士和商界的人士，好像不是配合得特别好，因为行业总觉得这些法律界的人士很难去打交道，但事实并不是如此。因为我们看现在世界，以及中国也是很深入地和世界融合，我们需要找到一个方式，怎么样能够将法律法规更好地作为一种促进创新的工具。我想和大家谈一下我的一些经验，很多时候互联网的发展，一些先进的技术的出现，往往就是在还没有法律法规监管的领域去发展起来的。当然，在世界各地也引起了人们的警觉，我觉得这也是很正常的，但是也有可能存在一定的风险，有的时候人们可能对AI也过度反应了。
11-21 12:08
缪万德
大家早上好！非常感谢主办方对我的邀请，今天早上和大家做这样的分享。
11-21 12:07
11-21 12:07
主持人
有请美国信息产业机构(USITO)总裁缪万德发言。
11-21 11:54
达米安·坦比尼
我觉得现在是时候加强国际合作，因为很多资金可能会流入到这些法外之地，联合国高层集团也呼吁建立一个国际机构，比如有一些信息环境的国际会议和机制，也是很重要的。谢谢！
11-21 11:54
达米安·坦比尼
最后我想呼吁，我们要避免最基础的风险，当我们在谈到这些风险的时候，大家肯定都能够了解有很多研究和文献讲到一些问题，以及优化的问题，也有很多AI可能会导致的风险，这些也会给我们世界带来一些潜在的威胁。
11-21 11:54
达米安·坦比尼
欧盟、中国、英国都想要在立法方面进行一些规范和标准的制定，而且我们也需要通过这样的法治和标准吸引更多在这方面的投入，在AI方面的监管和立法，需要更加紧迫并且基于现实，因为人类还没有特别学会在AI上面进行合作。所以如果不加以合理的规范，就会有很糟糕的结果。因此我们需要更多地在AI监管方面有更多的合作，在制定新的标准和法律法规方面也需要合作。英国也有很多提议，能够让我们去借鉴。很多原则性的问题，比如在新的标准和规则方面缺乏清晰的指导，有一些只是说这个事情是多么重要，但并没有提出具体的法规需求建议。
11-21 11:53
达米安·坦比尼
当然更多的是关于在生产力方面的提升所产生的竞争，这也就给我们抛来一个问题，当整个世界变得更大程度的智能化，当我们缺乏对AI的管控的时候，它会影响我们的发展。对投资者来说，我们也知道法律的确定性是非常重要的。当然AI监管是反映了一个国家的价值观，中国是聚焦经济发展的，AI发展当然也很可能会影响整个社会进程的发展。
11-21 11:53
达米安·坦比尼
我想鼓励参会各方去想的是，我们到底在全球AI倡议上缺少了什么内容呢？是缺少了文明的想法吗？还是关于人类隐私，还有自由，以及国家主权的角色，或者仅仅是如何去管理技术，以及更多地去追溯投资。
11-21 11:53
达米安·坦比尼
在美国，新的立法机构也在尝试进行新的定义，就是如何定义人类的自由化。这些想法可能会影响到其他国家或者说影响到公共服务领域。在欧洲，其实有更大的顾虑，就是关于那些信息的质量，以及作为各方专家大家所给予的想法输入。这里我们就会看到马斯克为代表所提出的创新的领先性的想法。对于企业来说，可能要在AI的发展中，与其他企业进行有效的竞争。这可能也会产生一些分歧，会进一步阻碍国际合作。
11-21 11:52
达米安·坦比尼
《全球AI倡议》是去年发布的，这一倡议也是遵循这一方法，希望我们可以达成一些全球的政策。中国也参与了这个发布过程。我们希望AI不会操纵舆论，以及也不会影响我们的社会法律和社会秩序，更不会危害国家主权。
11-21 11:52
达米安·坦比尼
AI安全法，也就是欧盟的AI法案，推出了一个非常严格的法治标准和法治进程，那就是要适当程度地全面禁止。美国在尝试推出一项新的法案，就是希望对一些影响信息透明度的事情进行禁止。中国的方式也是完全不一样的，它也反映了中国的经济和社会现实，甚至包括中国所面临的一些优先事项的处理问题。大家在2021年生成式算法中都关注到一些算法的修正和改变，以及潜在的风险管理，这个框架也就提出了一些共享的模型，去和其他国家分享，包括如何提升政府治理，以及形成一些标准性的文件。
11-21 11:51
达米安·坦比尼
第二点，这也和我们今天的论坛非常相关，那就是似乎有一些碎片化的想法，在人们面临AI带来的风险问题时，需要呼吁全球合作。尤其是在今年春天，在联合国的统一大会上，这里会面临不同的经济及地缘政治的阻碍，因为来自各国的领导人，都会对此持有自己的看法。我们肯定会面临一些想法的冲突，我们可能还欠缺国际合作，而它也会影响我们如何去解决我们在发展AI进程中所面临的问题，似乎我们还可以从另一个角度来看待AI的发展，比如在AI方面的投资可以做到多少。
11-21 11:51
达米安·坦比尼
欧盟法案今年正式生效，这是全球最具争议的一个话题，但确实这也是基于人类如何去预测AI可以为我们产生的一些危害。同时还有如何应用AI工具实现我们的目的。英国已经宣布明年也会推出相应的法案，美国也在准备，他们可能会到最高法院去通过这样的法案。这些迹象都表明，短期内我们会面临的情况。
11-21 11:51
达米安·坦比尼
在我们和AI斗智斗勇的过程中，这里可能有一个危险是我们必须承认的，那就是作为人类，我们其实还是失败的一方。这里有两个原因，为什么说我们已经失去了对AI的纠结呢？那就考虑到全球尤其是在第一代AI生成式法律诞生的初期，因为对人类来说，大家似乎没有办法同时专注于两件事情，一件事情是长期普遍存在的危险，还有一些是短期可能涉及到生产和发展的问题。所以我们希望更大化地扩大利益效益，来减少危害。我们不时在争论关于AI产生的那些边缘性的风险。但是短期而言，AI会造成巨大的风险。
11-21 11:50
达米安·坦比尼
我在多个场合从全球视角回答关于AI的想法。我更多会关注工具和流程本身，关于AI的产品，还有AI监管。
11-21 11:50
达米安·坦比尼
非常感谢大家！女士们、先生们，非常感谢人民大学以及主办方的邀请。
11-21 11:49
11-21 11:49
主持人
有请英国伦敦政治经济学院媒体与传播学系资深政策研究员达米安·坦比尼发言。
11-21 11:23
阿努帕姆·钱德
大家都知道，加州在2024年9月否决了AI法案的通过，因为我们知道加州这里有15家全球领先的AI公司。同时在2024年9月，他也签署了18项法案，都是关于一些AI方面的内容，这里会涉及到有AI相关的法律监管。感谢大家！
11-21 11:22
阿努帕姆·钱德
（图示）这是一些生成式AI的公司，目前它也面临一些官司，它们甚至会造成数十亿美金的损失。现在我们还不清楚事实到底是什么样的，但是这里的诉讼损害已经高达15万美金，对每一篇作品来说。那么，我们可能就会问这样的问题，也是作为我的一个结束语，当我们走向未来，AI法律应该以什么样的方式出现？它和我们网上的一些发表的演讲或者说自驾车、无人驾驶以及智能的医疗服务有什么区别吗？但其实在不同领域都是不一样的，对于自动驾驶汽车，我真的不建议这辆车到底它的价值有多少，我只需要确保它是安全的，所以我觉得对于不同行业来说，这个标准都是不一样的。
11-21 11:22
阿努帕姆·钱德
大家都用运用生成式AI，大家运用的场景是非常多的，会在不同场景下都运用生成式AI，所以这对各国来说都是一个巨大的挑战。事实上，有一家欧洲公司，也发表了自己关于生成式AI的一些观点和看法，尤其是关于生成式AI，我们认为生成式AI是非常重要的。同时，在美国，你会看到有很多关于著作权的一些诉讼，它都是涉及到关于生成式AI。
11-21 11:22
阿努帕姆·钱德
欧盟数据保护监管方给出的一些信息，就是生成式AI系统需要是透明的，可以解释的、持续的，可以追溯的以及可获得的，这都是关于我们如何去应用这些生成式AI。
11-21 11:21
阿努帕姆·钱德
在2023年3月，这家公司的CEO表示，全球多个国家都需要以政策制定者的身份去参加会议。在第二天，人们就开始担心了，因为我们担心OpenAI可能会开始运作了，它在意大利可能会影响信息的传递。OpenAI在意大利的传播也受到了阻碍和发展，尤其是对于不同年龄层段的用户来说，但其实这样做也没有办法完全解决这个问题，没有办法解决现在大家面临的问题。
11-21 11:20
阿努帕姆·钱德
在未来很多年，这些都会影响到我们对人工智能的边界管理，这不只是产自于硅谷，更多的是会对各国的其他地方产生一些问题，所以这时候我想让大家回忆到2022年，当时有AI法规的诞生。
11-21 11:20
阿努帕姆·钱德
我们和互联网生活在一起差不多30年，在1995年的时候，这个是TIME时代杂志的一个封面，它描绘了一个网络空间的图景。在这样的一个时代，美国很多新的互联网发展力量可以崛起，同时在互联网时代的成功，关于版权侵犯法的一些实质性的改革和法律框架，比如说一些通信的规范，还有关于一些版权方面的规范，都是非常重要的影响。
11-21 11:19
阿努帕姆·钱德
ChatGPT3.5的发布激起了人们广泛的热情，同时也激发了很多的预警。我们能够看出来，AI技术大大地助力了互联网的发展，现在我们非常多探讨关于人工智能时代的一些立法，怎么能够去更好地规范它的发展。
11-21 11:15
阿努帕姆·钱德
非常感谢主办方能够邀请我来参加今天这个论坛。首先，我想和大家探讨一下，我们在人类历史上的一些关键时刻。现在是中国接入国际互联网30周年，也是ChatGPT发布的第二周年，这个技术也是一个变革性、革命性的技术，它能够让我们快速地获取信息，辅助我们进行决策。
11-21 11:09
11-21 11:08
主持人
有请美国乔治城大学法学院教授阿努帕姆·钱德发言。
11-21 10:04
主持人
有请上海市高级人民法院院长贾宇发言。
11-21 09:55
主持人
有请中国法学会副会长、中国法学会网络与信息法学研究会会长、最高人民法院咨询委员会副主任委员姜伟发言。
11-21 09:55
主持人
下面进入嘉宾发言环节，议题一：中国网络法治三十年与世界网络法治前瞻。有请主持人中国人民大学法学院副教授、未来法治研究院执行院长张吉豫。
11-21 09:32
主持人
下面有请中国法学会党组书记，全国人大常委会委员、宪法和法律委员会副主任委员王洪祥致辞。
11-21 09:30
11-21 09:29
主持人
下面有请中国人民大学校长林尚立致辞。
11-21 09:19
主持人
下面有请浙江省人民政府副省长胡伟致辞。
11-21 09:13
主持人
下面有请国家互联网信息办公室副主任杨建文致辞。
11-21 09:13
主持人
本次论坛旨在探讨和展望快速发展的科技背景下，网络法治的现状与未来。
11-21 09:13
主持人
很高兴与各位来宾相聚在美丽的乌镇，共同参加2024年世界互联网大会“人工智能时代的网络法治”论坛。
11-21 09:13
主持人
尊敬的各位领导，各位来宾，女士们、先生们、朋友们：大家上午好！
11-21 08:54
