1
11-04 12:00

吴沈括

再次感谢各位领导、各位嘉宾的莅临,也感谢大家的认真聆听和积极参与。至此,本次论坛各项议程圆满完成。谢谢大家!
1
11-04 12:00

吴沈括

感谢嘉宾的精彩分享。我们就人工智能发展带来的机遇与风险、发展与安全的平衡以及治理生态建设等做了诚挚深刻的探讨,为进一步推进人工智能法治建设提供了有益启示。
1
11-04 12:00

阿尔梅达·扎卡里亚斯·马查瓦

AI的有效性不仅取决于它能做什么,也取决于如何实施、由谁实施以及出于何种意图。
1
11-04 11:59

赵汤

一个日益强大的AI系统可被证明安全、可靠、可信的未来,并通过科学评估确保其效益得以实现,同时风险保持可控。
1
11-04 11:59

张亚男

我对AI的期待,用一句话概括是:既要把人放大,更要让人放心。
1
11-04 11:58

李加赞

我相信,人工智能的未来,模型能力会越来越强,机器会变得越来越聪明,但真正决定它能走多远的,是安全可信的底座牢不牢、协同共享的生态强不强、人类对它的控制力够不够。
1
11-04 11:58

吴沈括

谢谢各位嘉宾。最后我想请五位各自用一句话就人工智能法治作总结展望。
1
11-04 11:57

阿尔梅达·扎卡里亚斯·马查瓦

AI发展可能产生技术不平等。因此,设计全球或协作式AI发展战略对于应对这些不平等至关重要。
1
11-04 11:57

古纳万·胡塔加隆

治理不只是监管。好的治理早在立法之前就开始了。负责任的AI治理是自下而上建立的。
1
11-04 11:56

赵汤

我们首先应在共同点基础上推进,认识到尽管各国国内监管方式和安全利益不同,各国仍可在AI安全和网络安全方面开展合作。其次,我们必须制定共同技术标准,为AI和网络治理国际合作提供共同基础。再者,我们应深化对新兴AI能力和风险研究的合作,共享知识、评估方法和最佳实践。最后,我们还应确保全球AI公司在发布前沿模型之前公开其安全评估,以提高认识并保障公众信心。此外,为促进有效利用AI造福社会,国际企业需要各国监管环境在认识到安全风险的同时,确保AI模型采用获得公平和平等待遇。
1
11-04 11:55

张亚男

我认为,发展与安全不是相互抵消的两端,保护合法权益、公平竞争,本身就是人工智能可持续发展的基础。我们希望重点从版权保护和公平竞争两个方面,把共建共享落到实处。
1
11-04 11:55

李加赞

我的回答是非常需要。但共建共享不是无门槛放开,而应当是分层分类的共享、权责清晰的共建,以生态协同方式,把安全嵌入AI创新全流程,实现发展与安全平衡。
1
11-04 11:55

吴沈括

谢谢各位嘉宾的精彩分享。着眼AI发展与安全的平衡,需要如何在各个维度强化共建共享的生态图景?
1
11-04 11:54

阿尔梅达·扎卡里亚斯·马查瓦

如今无可争辩的是,AI发展既能带来益处,也伴随一些风险。事实上,它日益成为技术、经济和社会转型的重要组成部分,因为其应用横跨农业、医疗、教育、公共管理等部门,为提升生产力、开发新服务、扩大信息和市场获取创造机会。正如联合国近期关于 AI 发展的报告所强调,若治理不善,AI 可能促使信息完整性逐步侵蚀,从而削弱公众信任、社会凝聚力。
1
11-04 11:54

古纳万·胡塔加隆

人工智能治理面临关键挑战,AI风险需主动缓解。
1
11-04 11:53

赵汤

AI的机遇与风险内在相连。开源AI带来重大机遇,也带来独特的安全挑战。AI风险不仅是技术性的,也是社会性的。鉴于以上几点,国际社会必须现在就采取行动,落实商定的保障措施,并管理AI部署的速度。
1
11-04 11:53

张亚男

我想结合我们业务中遇到的情况,讲两类风险,一类是内容生产和传播领域的;一类是软硬件之间的竞争问题。第一类风险是AI被用来放大内容生产和传播领域的侵权能力。第二类风险是利用AI技术进行不正当竞争。
1
11-04 11:53

李加赞

我的观点是机遇与风险相伴共生,AI能力越强,二者之间的转化速度就越快。所以我们既不能因风险而踩刹车,也不能只谈机遇、不谈风险。归根到底,我们追求的不是一个零风险的AI,而是一个风险可识别、可评估、可控制的AI,并且它还能持续创新、持续演进。
1
11-04 11:52

吴沈括

欢迎五位嘉宾!接下来,我们围绕一些问题展开交流。在AI快速发展进程中,如何看待AI伴生的各种机遇和可能的风险?
1
11-04 11:52

图片

图片2.jpg
1
11-04 11:50

吴沈括

首先,请允许我介绍参加本次圆桌讨论的五位嘉宾。 他们是: 1.华为中国首席网络安全与隐私保护官李加赞 2.腾讯集团国内数据合规负责人张亚男 3.英中贸易协会中国区总裁及中国首席代表赵汤 4.印度尼西亚共和国通信与数字部数字人才发展中心负责人古纳万·胡塔加隆 5.澳门大学法学院教授阿尔梅达·扎卡里亚斯·马查瓦
1
11-04 11:50

吴沈括

各位领导、各位嘉宾好!下面进入圆桌讨论环节。今天的讨论主题是“AI法治的共建共享与生态图景”。
1
11-04 11:50

主持人

下面我们进入圆桌讨论,共同探讨人工智能法治建设的共建共享与生态发展。在此我把话筒交给本环节主持人、北京师范大学法学院教授吴沈括。
1
11-04 11:29

吴沈括

面向未来,人工智能的安全、可持续与负责任发展,离不开法治的引领、规范和保障。唯有充分发挥法治的制度价值,推动技术创新与安全治理协同发展,才能更好地挖掘人工智能的潜力,为人类社会创造更大的正向价值。 谢谢大家!
1
11-04 11:29

吴沈括

最后,在国际法治合作层面,强化法律法规与国际规则的协同互动,加强国家间协作与对话,利用现有多边机制推动全球共治共享,促进各项人工智能国际治理方案的有机衔接。加强立法交流与执法协作,推动国际规则和标准的交流互鉴,倡导面向发展中国家的国际合作与援助,不断弥合智能鸿沟和治理能力差距。
1
11-04 11:28

吴沈括

其次,在法治实施层面,推行敏捷治理与动态监管,根据技术发展情况及时调整策略,建立风险等级测试评估机制,对不同应用场景进行分类分级管理,通过监管沙箱等方式实现灵活智能监管。同时,强化政府、企业、科研机构和社会公众等多元主体的协同参与,探索建立制度化、常态化的风险沟通机制,促进治理规则有效落实。发挥司法在权利救济和责任认定中的保障作用。
1
11-04 11:28

吴沈括

毋庸置疑,人工智能的安全可靠与创新发展,离不开法治的引领、规范和保障。面向未来,人工智能治理需要以多元主体合作为基础,注重灵活性、层次化和持续性,通过系统合理的法治安排,推动技术创新与安全治理的平衡协同。在此意义上,以下几个方面值得特别关注: 首先,在法律规范层面,推动从主要依赖“软法”治理向以“硬法”为引导与支撑、“软法”与“硬法”相结合的综合治理方式过渡。运用“小快灵”和“大部头”相结合的立法策略,在保证立法质量的前提下,持续构筑全面的法律法规体系,为安全可靠、创新发展的人工智能提供良好的法治环境。同时,综合运用法律法规、行业标准和自律机制等多样化治理工具,促进治理的有效性与适应性。
1
11-04 11:27

吴沈括

与此同时,我国始终践行负责任大国担当,积极推动人工智能治理全球合作。自2023年《全球人工智能治理倡议》提出以来,中国推动联合国大会协商一致通过人工智能能力建设国际合作决议,陆续推出《人工智能能力建设普惠计划》《“人工智能+”国际合作倡议》《人工智能全球治理行动计划》,并倡议设立世界人工智能合作组织,持续为全球人工智能治理贡献中国智慧、中国方案,助力构建包容、公平、可持续的全球人工智能治理体系。
1
11-04 11:27

吴沈括

在创新与监管的可持续生态培育方面,我国高度重视探索法律规则与伦理规范并行的双重治理方式。从《新一代人工智能伦理规范》到《科技伦理审查办法(试行)》,再到《人工智能应用伦理安全指引1.0》,一系列规范举措不断推动人工智能伦理要求从原则指引向制度化、场景化落实,促进技术与伦理之间的融合发展,为人工智能创新发展与监管保障的良性互动提供了重要支撑。
1
11-04 11:26

吴沈括

在法律法规与制度机制建设层面,中国持续推进人工智能重点领域和新兴应用场景的专项立法,不断丰富和完善相关制度规则。以《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》以及《人工智能拟人化互动服务管理暂行办法》等为代表,一系列专项规范着力回应人工智能技术快速迭代带来的新型风险与治理需求,并通过安全评估、算法备案、内容标识等配套机制,为人工智能技术和应用的安全可靠发展提供更加具体、明确的规范指引。与此同时,2026年国务院立法工作计划明确提出加快推进人工智能健康发展综合性立法,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》,进一步推动人工智能法律规范与司法保障协同发展。
1
11-04 11:26

吴沈括

在顶层设计层面,中国人工智能发展与治理的政策战略布局持续完善。从《新一代人工智能发展规划》到《关于深入实施“人工智能+”行动的意见》,一系列政策战略不仅为人工智能技术创新与产业发展提供了路线指引,也明确了政策举措、法律法规和伦理规范协同推进的制度建设方向,为人工智能法治体系的构建奠定了重要基础。
1
11-04 11:25

吴沈括

在此背景下,中国人工智能治理始终坚持以人为本、智能向善的价值导向,在统筹发展与安全的同时,积极探索具有中国特色的法治建设路径。
1
11-04 11:25

吴沈括

与此同时,国际人工智能治理共识逐步凝聚,多边合作机制加快形成。2024年联合国通过《全球数字契约》,强调保障人权、公平包容和风险导向等治理原则和方法。2025年联合国大会决定设立人工智能独立国际科学小组和全球对话机制,2026年举行首次全球对话,推动国际治理由原则倡议向常态化机制建设发展。
1
11-04 11:25

吴沈括

三是以提高透明度为抓手,追求打造可信任生态。人工智能治理的一个重要指向是确保人工智能系统面向用户可信、面向公众可信和面向国家可信。通过提高透明度和可解释性,强化公众监督、减少技术滥用,为人工智能的安全可靠应用提供信任基础。
1
11-04 11:24

吴沈括

二是遵循风险导向的治理方法。以风险为导向的系统治理已成为人工智能国际治理较为普遍的方法论。通过分类分级管理,重点加强高风险人工智能的监管,同时坚持比例原则,避免过度监管阻碍技术研发与应用。
1
11-04 11:24

吴沈括

总体而言,当前全球人工智能治理主要呈现出三个方面的发展趋势: 一是注重协调发展与安全的关切。人工智能治理既要划定技术及其应用的安全底线,也要为技术创新和产业发展创造有利条件。各国立法通过明确监管要求和责任边界,增强社会信任,促进人工智能产业的可持续发展。
1
11-04 11:23

吴沈括

放眼全球,各个国家和国际组织持续推进人工智能治理的政策战略、法律法规和机制建设。尽管各方在治理路径上存在一定差异,但也呈现出诸多共性理念和举措。
1
11-04 11:23

吴沈括

一方面,人工智能技术创新与应用发展为人类进步和公众福祉带来了更多的发展机遇。另一方面,新的技术样态、新的产业模式也催生了来源更为多样、程度更为深刻的风险与挑战。面对这一柄价值双刃剑,如何推动技术快速迭代演进与各项公共政策目标之间的平衡与协同,已经成为国际社会必须共同面对的重要课题。
1
11-04 11:22

吴沈括

尊敬的各位来宾:非常荣幸参加本届世界互联网大会,与各位共同探讨人工智能法治这一重要议题。人工智能正成为引领新一轮科技革命和产业变革的重要驱动力量。伴随着大模型、多模态生成、智能体、具身智能等前沿技术的快速迭代,人工智能应用场景不断拓展,产业生态加速演进,正在深度影响全球经济社会、文化伦理乃至地缘政治等各个方面。
1
11-04 11:20

主持人

感谢约翰·希金斯主席的精彩发言。下面有请,北京师范大学法学院教授 吴沈括演讲。
1
11-04 11:20

约翰·希金斯

各位朋友,从建立确定性,到完善规则,再到制定全球标准,最后到拥抱人工智能技术,这是一条需要我们共同探索的道路。人工智能的未来不仅是技术的未来,更是法治与商业繁荣的未来。
1
11-04 11:19

约翰·希金斯

最后,法律与司法正受到人工智能的影响。轻率使用人工智能会损害司法系统的公信力。诉诸司法更加便捷,但司法系统可能不堪重负。用人工智能预测诉讼结果,可推动仲裁的成功运用。
1
11-04 11:19

约翰·希金斯

其次,规则必须有强制力。法律必须得到执行。另外,全球贸易有益于全球和谐。有了共同规则,国际愿景更易实现。有了公认的国际标准,共同规则更易形成。
1
11-04 11:18

约翰·希金斯

首先,我想说,企业因确定性而兴旺。确定性来自规则的清晰明确。良好治理与控制唯有在确定性下才能实现。这是建立民众信任的关键。
1
11-04 11:18

约翰·希金斯

尊敬的各位来宾,女士们、先生们,上午好!非常荣幸能在乌镇峰会与大家相聚。今天,我将与大家探讨“法律与人工智能”这个至关重要的时代命题。
1
11-04 11:17

主持人

感谢朱坚先生的精彩发言。下面有请,国际人工智能治理联盟主席约翰·希金斯演讲。
1
11-04 11:15

朱坚

智能时代电子商务治理的目标不是限制AI,而是让AI可被信任——这需要平台尽责,也需要规则供给与各方共建。 谢谢大家。
1
11-04 11:15

朱坚

面对这些挑战,汇报几个还不太成熟的思考。 一、治理单位:从平台一方到交易链每一段。治理的单位不再是平台单方,而是授权链与服务链的每一段;身份可辨、授权可验,是每一段行为归属与规则适用的前提。 二、治理规则:从人类交易规则到人机交易规则。面向人,重在知情同意与消费者保障;面向机器,重在智能体身份与授权可验证、忠实义务与利益冲突披露、AIGC标识溯源、自动化决策可说明可申诉。 三、机制选择:制度创新,包容审慎。平台对AI履职尽到识别、记录、救济之责的,应探索尽职免责的安全港机制;智能体绕过接口、架空平台规则与侵犯经营自主权时,平台为保障交易秩序所必需的识别、拦截、处置措施应获规则认可;误判与纠纷先经申诉与人工复核、司法个案化解。 四、发展取向:市场优先,国际合作。智能体的技术路线与连接方式由市场选择,法律定底线与责任,而不规定技术细节;电子商务是智能体生态最早大规模商业化的场景之一,愿在主管部门指导下,以实践案例探索与国际接轨的交易与责任规则。
1
11-04 11:14

朱坚

在服务重构的过程中,也会面临几重挑战: 一是为谁办事?智能体替用户比价选配——是自然推荐,还是可以收费推荐、可以有自我偏好;是帮用户办事,还是帮广告主、商家办事;利益冲突如何披露? 二是谁担责任?AI发品、AI创意出错——虚假宣传、侵权、货不对板,责任在商家、工具还是平台;商家知情且能控制、与无从控制,是否两样? 三是谁给救济?判罚、审核、判责、匹配皆由AI自动作出,平台治理整体走向自动化决策。当决策者是算法,说明、申诉、人工复核还落在哪里? 四是对面是谁?用户、客服、主播是人还是AI(代理),如何识别?智能体GUI直接操作平台时,平台经营自主权、协议规则被架空,平台如何保障交易秩序?
1
11-04 11:14

朱坚

因此,平台服务模式正在重构,从人工执行到AI代理。用户购物、商家经营、平台治理,三类事情都在交给AI代办:用户的智能体代为购物,从发现、选配、比价到下单、支付、售后;商家的AI工具代为经营,从经营决策到内容生产;平台自己的AI代为履职,管秩序、守安全、断纠纷、管匹配。个人认为,代理效果归于被代理人——授权到哪里,责任就跟到哪里。
1
11-04 11:13

朱坚

这些生产力正在发挥实实在在的价值。从2023年5月到2026年5月,我们的AI工具服务超过100万商家,生成超过2.5亿张图片和视频,为中小商家节省超100亿制作成本。数字背后的变化是:服务的执行者,正在变成AI。对着人建起来的合规实践,要对着AI重新检验。
1
11-04 11:13

朱坚

举一个例子。一张AI合成的模特形象、一件普通碎花连衣裙的图片,在电商AI音视频模型支持下,生成带转场的服饰宣传片:图生视频生成片段,首尾帧完成转场,数字人建立人设,多模态剧本剪辑成片。过去一周的工作,现在几分钟完成。而每一帧画面、每一句配音都是AI生成。这是生产力的巨大跃迁。
1
11-04 11:12

朱坚

再看实践。淘宝已经在用AI服务商业场景,从判别式到生成式,与商业化场景紧密结合形成AIGX技术体系。三个例子:AI图文,场景衍生加卖点文案解析;AI视频,脚本裂变——识别关键帧、提炼话术卖点,裂变为痛点击退型、种草测评型等版本投向不同人群;AI视频,图生视频——一张静态图变成带转场的宣传片。这些生成的图片和视频,从生成第一天起就进入内容治理:我们按规则分级落实标识,假图劣图治理、原创图片视频保护,已经在用“以AI治理AI”的路上。
1
11-04 11:11

朱坚

在这样的市场关系下,智能体电商面临几种挑战: 一是谁的行为?平台要先识别对面是人还是智能体、授权是否真实、范围到哪里;识别错了,行为归属与规则适用就双错。 二是谁的合同?智能体代为缔约,意思表示与效果归属如何认定,意图之内与越权代理,需要有认定规则。 三是谁负责?谁决定给用户看什么,谁对它负责。具体的信息呈现、排序顺序与内容描述,是否是自然内容还是付费或人工干预,也需有规则规范。 四是谁定规则?操作系统以预装取得智能体入口优势;平台也须与系统智能体及其他应用智能体构建新协议,确定新的交易与责任规则。
1
11-04 11:10

朱坚

(图示)左半是传统电商:用户面对平台,平台连接商家、支付、物流——一个中心,线性、可预期。右半新增了三类主体:终端设备厂商、智能体、模型提供方。用户向智能体授权,智能体通过协议与接口调用平台,终端与模型方分别提供入口、载体与能力;市场从一个中心,变为一条链。对此,责任需沿授权链逐段分配,各方要权责对等。
1
11-04 11:10

朱坚

再往后看,入口还在延伸。千问智能眼镜已经可以“识价”——看一眼货架,价格、评价就浮现在眼前。购物的入口,从手里的屏幕,移到了眼前的货架。体验层上,发现、选配、比价都可以在智能终端与智能体里完成;但交易层上,下单、支付、售后,交易完成仍然留在平台。在这样的背景下,市场关系正在重构。
1
11-04 11:09

朱坚

今年春节期间,有近1.4亿用户通过千问App的智能体功能首次体验AI购物。一句话订酒店、一句话买机票、一句话点外卖、一句话完成支付。用户不再只是“搜索—点击—下单”,而是把意图交给智能体,由它调用工具、整合信息、完成任务。这个变化的法律意义在于:智能体代替用户去理解、去拆解、去执行。在合规与治理这条线上,它先牵动一串归属之问:谁的行为、谁的合同、谁来负责。
1
11-04 11:09

朱坚

智能化不是遥远的ASI未来叙事,而是当下正在发生的阶段跃迁——我们正处在从“学习人”转向第二阶段“自主行动”的节点。智能体开始自主行动,改变的不只是效率。服务开始交给AI,治理也开始交给AI。我们过去多年沉淀的合规实践,很多是对着“人操作”构建的;执行者变了,实践要重新检验,规则要重新设计。
1
11-04 11:08

朱坚

各位领导、各位专家,大家好。我来自阿里巴巴集团法务部。基于阿里的电商实践,和大家分享智能时代电子商务的合规实践与治理探索。电子商务是互联网规则演变最早、也最全的场景之一——从电子合同、平台责任、算法推荐,一直到今天智能体接入,每一代新问题都先抵达这里,每一代规则也都先在这里回应。而贯穿其中的,是合规实践一层层的探索和沉淀。今天沿两条线汇报:一条是实践,一条是治理。
1
11-04 11:07

主持人

感谢I·纽曼·阿迪亚纳秘书长的精彩发言。下面有请,阿里巴巴集团法务副总裁朱坚先生演讲。
1
11-04 11:02

I·尼欧曼·阿迪阿尔纳

人工智能人才发展离不开广泛合作。我们希望通过技能发展、负责任治理与国际合作,建设具备人工智能就绪能力的劳动力队伍,为印度尼西亚的可持续发展、包容性增长和人文价值提供支撑。
1
11-04 11:01

I·尼欧曼·阿迪阿尔纳

此外,人工智能人才工厂是我们数字人才培训与赋能的重要项目。其目标是通过引导式研发培养高技能人工智能人才,使参与者具备应用人工智能专业知识,并具备在各重点领域推动创新的能力。
1
11-04 11:01

I·尼欧曼·阿迪阿尔纳

为培养适应先进印度尼西亚需要的优秀数字人才,我们在2026年形成了较为完整的项目体系。第一是基础技能,第二是数字人才发展,第三是政府与领导力培训。
1
11-04 11:00

I·尼欧曼·阿迪阿尔纳

从印度尼西亚自身来看,我们仍面临明显的人工智能人才缺口。目前,我们在规划中需要识别优先群体和重点区域,使学习内容与任务和职业相匹配,并衡量成果,而不仅仅是参与度。
1
11-04 10:59

I·尼欧曼·阿迪阿尔纳

尊敬的各位来宾,大家好!今天,我将围绕全球人工智能格局、印度尼西亚的人工智能人才缺口与政府举措、数字与人工智能能力建设、国家人工智能路线图、重点人才项目以及合作伙伴关系等方面,介绍印度尼西亚当前的进展与下一步方向。
1
11-04 10:57

主持人

感谢吴韬先生的精彩发言。下面有请,印度尼西亚共和国通信与数字部人力资源开发局通信与数字事务秘书长I·纽曼·阿迪亚纳先生演讲。
1
11-04 10:56

中华人民共和国最高人民法院民事审判第三庭副庭长吴韬

图片1.jpg
1
11-04 10:56

吴韬

谢谢大家!
1
11-04 10:55

吴韬

各位领导,各位嘉宾,朋友们!法治,是人工智能行稳致远的根本保障,也是国际社会共同面临的时代课题。人工智能向善发展,法治是护航之锚,也是信任之基。中国法院愿与世界各国同仁一道,以司法之力守护创新、护航向善,让人工智能这匹“千里马”既跑得快、又跑得稳,共同开创人类更加美好的数字未来!
1
11-04 10:55

吴韬

四是加强人工智能司法领域国际交流合作。人民法院秉持共商共建共享原则,积极加强与各国司法机关、国际组织在人工智能法治领域的对话互鉴,分享中国经验、贡献中国智慧,携手构建网络空间命运共同体。成功举办“中欧知识产权司法保护研讨会”,围绕据挖掘与训练、人工智能生成物等议题展开深入研讨,凝聚各方共识。参与世界知识产权组织国际会议,与全球同仁交流人工智能面临的新问题。持续深度参与全球知识产权治理,提升我国司法国际影响力与话语权。
1
11-04 10:54

吴韬

三是加强数字赋能,不断提升审判能力。人民法院努力深化智慧法院建设,在依法保障当事人权益的前提下,推动人工智能辅助办案的规范化、透明化,让科技更好服务公平正义,也为应对技术型、专业型案件提供更强支撑。目前,针对技术伪造问题,人民法院推出AI版权智审系统,去年,已推广至全国法院。全国法院办公办案系统(“一张网”)的成功开通,也为通过关联案件查询、标记防范和治理通过伪造证据虚假诉讼提供了有力的技术支持。目前,人民法院也在积极开发人工智能辅助审判系统,未来将为以更高水平更高效率统一裁判标准提供保障和支持。
1
11-04 10:54

吴韬

二是坚持个案探索,不断回应技术发展新需求。人工智能技术尚处于快速发展之中,新情况新问题不断涌现,现实和潜在的法治挑战都十分严峻。有的问题虽然争论已久,但是仍未取得共识,认识尚需进一步深化。因此,针对涉人工智能法律纠纷,应坚持个案处理,通过司法实践的不断探索,逐步明确裁判规则。最高人民法院通过及时发布相关典型案例,加强案件指导和审判监督,不断明确司法政策导向。多地法院就涉及人工智能生成成果的保护、人工智能模型数据训练、技术中立原则在人工智能领域的应用场景等问题积极开展个案探索,不断积累经验,努力把握规律,为提炼裁判规则创造有利条件。
1
11-04 10:53

吴韬

一是增加规则供给,稳定行为预期。人民法院坚持发展和安全并重、促进创新和依法治理相结合,积极研究制定司法解释和司法政策文件,努力为新技术的应用提供较为清晰的司法边界。今年9月7日,最高人民法院发布了《关于依法审理涉人工智能纠纷案件的意见》,这是首部由国家最高审判机关出台的涉人工智能司法裁判规则文件。全文五个部分、二十四条,系统回答了社会广泛关注的涉人工智能突出问题。意见鲜明提出坚持以人为本、支持创新发展、筑牢安全底线三项基本原则;就依法规制“AI换脸拟声”、“AI复活逝者”等侵害人格权益行为,依法认定涉自动驾驶汽车、具备辅助驾驶功能汽车交通事故责任,依法合理划分人工智能生成内容侵害著作权的责任等多个前沿热点问题明确裁判规则。意见既为“技术向前跑、规则同步跟”提供了中国司法的标尺,也为全球人工智能治理贡献了中国智慧。
1
11-04 10:53

吴韬

人工智能技术的发展对人民法院的审判理念、审判能力和审判机制建设等同样提出了现实而深刻的挑战:一是新型权利与新型侵权认定难题日益突出,二是事实认定与证据审查面临“真伪难辨”严峻考验,三是裁判规则供给与国际协同治理压力持续加大。人民法院充分发挥司法审判职能作用,扎实推进各项工作,努力回应人工智能技术与产业发展提出的法治挑战。
1
11-04 10:52

吴韬

“十五五”规划纲要进一步明确提出,要完善人工智能领域法律法规、政策制度、应用规范、伦理准则,探索建立人工智能生成物权利归属和开发者、经营者、使用者权责认定规则。近期国务院发布的《知识产权保护和运用“十五五”规划》提出,完善算法、人工智能生成物以及平台经济发展相关的知识产权保护规则,实施知识产权与人工智能双向赋能工程。这些重要论述和重大部署,为人民法院做好涉人工智能审判工作提供了根本遵循。
1
11-04 10:52

吴韬

党的十八大以来,以习近平同志为核心的党中央高度重视人工智能健康发展,作出一系列重要部署。2025年4月,习近平总书记在主持二十届中央政治局第二十次集体学习时强调,要把握人工智能发展趋势和规律,加紧制定完善相关法律法规、政策制度、应用规范、伦理准则,构建技术监测、风险预警、应急响应体系,确保人工智能安全、可靠、可控。
1
11-04 10:51

吴韬

当前,以人工智能为代表的数字技术正以前所未有的速度重塑人类的生产、生活。人工智能技术的发展,既打开了通向未来的机遇之门,也将一系列前所未有的治理难题摆在全人类面前。正如习近平总书记所指出,人工智能技术发展越是一日千里,向上向善、造福人类的方向越要正确锚定,监管治理的尺度越要精准把握,防范失控的措施越要及时完善。本次分论坛以“法治护航智能向善——全球图景与中国实践”为主题,本身就是凝聚国际共识、推动共建开放共享、普惠共赢的全球人工智能法治生态的生动实践。
1
11-04 10:50

吴韬

尊敬的各位领导、各位嘉宾、朋友们:大家上午好!很高兴在美好的金秋时节,与各位新老朋友相聚乌镇,共同探讨数智技术创新与发展治理这一重要话题。首先,受李剑庭长委托,谨代表最高人民法院民三庭,向论坛的召开表示热烈祝贺,向远道而来的中外嘉宾致以诚挚的问候和良好的祝愿,向长期以来关心支持知识产权司法保护事业的社会各界表示衷心感谢!
1
11-04 10:47

主持人

感谢雷娜塔·维森蒂尼·米埃利女士的精彩发言。下面有请,中华人民共和国最高人民法院民事审判第三庭副庭长吴韬演讲。
1
11-04 10:46

雷娜塔·维森蒂尼·米埃利

非常感谢。
1
11-04 10:46

雷娜塔·维森蒂尼·米埃利

归根结底,问题并不仅仅在于人工智能将多么迅速地发展,更在于谁将主导其发展进程、谁将从其能力中受益,以及我们如何确保人工智能能够服务于人类发展、社会公正和民主。
1
11-04 10:45

雷娜塔·维森蒂尼·米埃利

我们认为,政府间的国际合作与多方利益相关者的参与,是有效治理中相互补充而非相互竞争的两个维度。
1
11-04 10:45

雷娜塔·维森蒂尼·米埃利

然而,这些目标无法仅靠国家层面的努力来实现。国际合作对于确保人工智能的益处能够更广泛地分配,以及使发展中国家能够有意义地参与塑造其未来至关重要。
1
11-04 10:45

雷娜塔·维森蒂尼·米埃利

展望2027年,巴西将面临以下挑战:加快实施国家人工智能战略、增强国内技术能力,以及建立有效的监管框架。
1
11-04 10:44

雷娜塔·维森蒂尼·米埃利

国民可能会依赖少数几种人工智能系统,不仅是为了获取信息,也是为了理解复杂问题、做出决策以及构建对现实的认知。这些系统还可能重现偏见和歧视性模式,包括通过排除某些声音和观点或使其代表性不足而实现这一点。
1
11-04 10:44

雷娜塔·维森蒂尼·米埃利

这一转变引发了关于信息多样性、透明度、新闻业可持续性,以及不同文化、语言和观点可见性的深刻思考。同时,它也催生了新的依赖形式。
1
11-04 10:43

雷娜塔·维森蒂尼·米埃利

如今,生成式AI模型正日益被整合到搜索引擎和数字平台中。这些系统不再呈现不同的来源,而是越来越多地生成合成式答案,代表用户进行信息的筛选、解读与整合。
1
11-04 10:43

雷娜塔·维森蒂尼·米埃利

几十年来,搜索引擎一直充当通往互联网的门户,对来自不同来源的链接进行组织和排序。尽管这些系统从未保持中立,但用户仍可在不同网站之间浏览、比较信息,并识别不同的观点。
1
11-04 10:42

雷娜塔·维森蒂尼·米埃利

在讨论互联网治理时,还有另一个维度值得特别关注:生成式人工智能正在重塑信息获取的架构。
1
11-04 10:42

雷娜塔·维森蒂尼·米埃利

然而,仅靠开放并不能确保技术主权。各国还需要能够使用计算基础设施、获得具备资质的专业人员、获取可靠数据,以及具备开发和维护自身技术解决方案的能力。
1
11-04 10:41

雷娜塔·维森蒂尼·米埃利

更加开放的技术生态系统能够拓展本地创新、科学合作以及将AI模型适配于不同语言和文化现实的机会。
1
11-04 10:41

雷娜塔·维森蒂尼·米埃利

这也有助于重塑人们对竞争、创新以及开发和部署先进人工智能系统所需成本的预期。对于发展中国家而言,这一经验尤其具有参考价值。
1
11-04 10:40

雷娜塔·维森蒂尼·米埃利

在此背景下,我还想强调DeepSeek的崛起所具有的国际意义。DeepSeek先进模型的发布,尤其是2025年1月推出的 DeepSeek-R1,标志着全球人工智能讨论中的一个重要转折点。DeepSeek证明,通过采用不同的技术策略,可以开发出具有竞争力的AI能力,同时应更加重视效率以及开放模型权重的可获得性。
1
11-04 10:40

雷娜塔·维森蒂尼·米埃利

当然,衡量成功的真正标准,将取决于我们能否将承诺转化为可持续的基础设施、有效的知识转移,以及为巴西研究人员、高校和企业创造机遇。
1
11-04 10:39

雷娜塔·维森蒂尼·米埃利

到2026年底,巴西在将这一战略转化为具体举措方面已取得进展。另一个重要进展是巴西与中国之间日益增强的技术合作。
1
11-04 10:38

雷娜塔·维森蒂尼·米埃利

从巴西的视角来看,应对这一挑战需要采取三项相互关联的策略:提升国家技术能力;建立有效保护基本权利的制度机制;以及加强国际合作,以构建更具包容性的人工智能生态系统。
1
11-04 10:38

雷娜塔·维森蒂尼·米埃利

这一转型的速度是前所未有的。以往需要数十年才能广泛普及的技术,如今只需数月时间就能惠及数百万人。而这种加速也带来了一个重要的矛盾:尽管人工智能为科学进步、经济发展以及公共服务改善带来了非凡机遇,但其应用进程却远快于我们共同理解其后果、建立保障机制以及确保民主治理的能力。
1
11-04 10:37

雷娜塔·维森蒂尼·米埃利

大家早上好!能够参与这场关于人工智能治理的重要讨论,实在令人欣喜。此刻,人工智能正深刻改变着我们的经济、社会以及全球技术权力的分布格局。它正日益融入生产流程、科学研究、公共服务、信息系统以及我们的日常生活中。
1
11-04 10:32

主持人

感谢精彩发言!下面有请,巴西联邦共和国科技创新部部长特别顾问、巴西互联网指导委员会主席雷娜塔·维森蒂尼·米埃利演讲。
1
11-04 10:31

中华人民共和国最高人民检察院经济犯罪检察厅厅长刘太宗

e8b4e0628678659b543722ff15fd2b40.jpg
1
11-04 10:29

刘太宗

预祝本次论坛取得圆满成功!谢谢大家。
1
11-04 10:29

刘太宗

各位嘉宾、各位朋友!互联网是人类的共同家园,人工智能是人类共同的科技财富。技术越是迭代迅速,越是要坚守法治底线;创新越是向前发展,越是要坚持向善初心。让我们携起手来,深化交流、务实合作,以法治护航智能向善,让人工智能更好造福世界各国人民!
1
11-04 10:28

刘太宗

三是参与全球智能治理,推动形成守护人工智能安全合力。网络空间治理是司法机关与各有关主管部门共同的职责。近年来,中国检察机关结合办案,认真剖析人工智能犯罪特点规律,针对算法漏洞、数据滥用等问题制发检察建议、发布典型案例等,在惩治震慑违法犯罪的同时,不断明确法律规则与边界,促进人工智能健康发展。既注意防范技术滥用带来的安全风险,也防止过度规制抑制创新活力,依法保障创新发展。面对人工智能对安全与发展提出的挑战,我们希望加强与专家学者、企业、行政机关等的沟通交流,也愿积极分享参与智能治理的实践做法。携手应对人工智能伦理、安全、法律挑战,共同建设安全、可靠、可控、普惠的人工智能生态。
1
11-04 10:28

刘太宗

二是推动规则协同完善,构建人工智能多元治理体系。人工智能技术快速迭代、业态升级,治理规则需要持续跟进完善。检察机关将持续总结涉人工智能案件司法经验,与各国司法机关加强交流人工智能领域司法实践的交流合作,共享典型案例与经验做法。加强对司法实践中新情况、新问题的前瞻性研究,积极提出立法建议,配合立法、行政机关做好《人工智能法》等人工智能领域法律制度建设。同时,结合司法办案,加强与政府、企业、科研机构、社会组织多方协同,压实平台责任,把法律规则内嵌到技术底层,形成一体治理、共同治理格局。
1
11-04 10:27

刘太宗

一是坚持开放共赢理念,携手加强人工智能领域司法保护。互联网让世界变成“地球村”,人工智能带来的风险同样跨越国界,尤其是容易诱发新型跨境网络犯罪。中国检察机关将依托双边、多边司法交流平台,秉承平等、互信、互利原则,坚持双赢多赢共赢理念,共同打击涉人工智能各类新型跨境网络犯罪,依法处理 AI 侵权、知识产权争议等新型纠纷,为构建网络空间命运共同体发挥司法机关应有作用。
1
11-04 10:27

刘太宗

人工智能治理是全球性课题。世界互联网大会,正是全球各方对话交流、凝聚治理共识的重要平台。借此机会,我结合检察工作,就深化人工智能依法治理与交流合作,提出三点建议。
1
11-04 10:26

刘太宗

我们坚持治罪与治理相结合,结合办案深挖模型训练、数据采集、内容审核中的制度漏洞,综合发挥刑事、民事、行政、公益诉讼检察作用,探索大数据赋能法律监督,通过向科技企业、主管部门制发检察建议等方式,推动将算法风险防控机制嵌入模型研发、训练、部署、运营全链条,压实平台和监管责任,强化数字治理,促进人工智能风险源头防控。
1
11-04 10:26

刘太宗

我们建立标准化取证和审查规范、技术专家辅助办案等机制,破解人工智能案件溯源取证、主观认定、法律适用难题,同步探索人工智能辅助办案,提高检察办案质效。
1
11-04 10:24

刘太宗

我们依法惩处以人工智能为犯罪对象的新型犯罪,重点打击盗取企业算力、侵犯模型训练商业秘密等犯罪活动,服务保障数字经济发展。如不法分子违反公司规定,擅自使用公司授权调用算力的账号用于个人论文实验,消耗公司算力近6千GPU,造成公司巨额经济损失,检察机关以非法控制计算机信息系统罪追究刑事责任。
1
11-04 10:23

刘太宗

我们依法惩处利用人工智能实施的犯罪,重点打击深度伪造实施诈骗、传播网络谣言、侵害公民个人信息等犯罪活动,守住安全底线。如不法分子使用AI语音机器人大规模自动外呼,以为客户办理高额信用卡收取押金名义,诈骗2万余名被害人数千万元,检察机关以诈骗罪追究刑事责任。又如不法分子为吸引流量,利用AI生成并传播虚假的险情、灾情信息,累计阅读观看量超过167万次,造成公众恐慌,检察机关以编造、故意传播虚假信息罪追究刑事责任。
1
11-04 10:23

刘太宗

作为国家法律监督机关,中国检察机关认真贯彻落实习近平法治思想、习近平总书记关于网络强国的重要思想,坚持依法治网、依法办网,先后出台检察机关网络法治意见、全面履职促进网络治理方案,立足刑事、民事、行政、公益诉讼“四大检察”职能,积极参与人工智能治理,以检察履职筑牢数字安全屏障,护航人工智能健康可持续发展。
1
11-04 10:22

刘太宗

近年来,我国坚持统筹发展和安全、创新与规范并行,出台了生成式人工智能服务管理、人工智能拟人化互动服务管理等一系列规定,发布《全球人工智能治理倡议》,为推动人工智能在法治轨道上行稳致远提供了基础法律保障。
1
11-04 10:22

刘太宗

习近平主席在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上提出,“要高度重视人工智能引发的各类内生和衍生风险,推动构建法律法规、技术监测、风险预警、应急响应体系,筑牢安全底线,防范滥用恶用,确保人工智能始终处在人类控制之下”,为人工智能治理指明了方向。
1
11-04 10:20

刘太宗

但技术创新背后不可避免潜藏风险。人工智能衍生的“算法黑箱”“数据投毒”“AI 幻觉”等新问题接连出现,迥异于传统风险,潜藏系统性安全新威胁。不法分子更是以人工智能为工具,利用深度伪造、生成式大模型等技术实施各类违法犯罪,危害网络安全、社会安定。时代背景下,人工智能究竟是服务人类的可信可靠可控的工具,还是潜藏风险的变量,需要我们发挥法治的保障作用,引导技术向善、规范技术应用。
1
11-04 10:20

刘太宗

人类社会正在经历新一轮科技革命。以大模型、生成式人工智能为代表的新技术,全方位赋能经济社会发展、重塑生产生活方式。从智能制造、智慧医疗到公共服务、司法办案,人工智能不断释放创新动能,为人类社会发展注入强大活力。
1
11-04 10:19

刘太宗

当今世界,人工智能飞速发展、日新月异,世界互联网大会乌镇峰会举办论坛,探寻以法治引领人工智能向善发展的实现路径,恰逢其时、意义深远。
1
11-04 10:18

刘太宗

尊敬的杨建文主任、于吉红校长、贾宇院长,各位嘉宾大家好!非常荣幸参加以“法治护航智能向善:全球图景与中国实践”为主题的网络法治论坛。
1
11-04 10:07

主持人

感谢乔维苏·索拉蓬先生的精彩发言。下面有请,中华人民共和国最高人民检察院经济犯罪检察厅厅长刘太宗演讲。
1
11-04 10:04

老挝人民民主共和国科技与通讯部副部长乔维苏·索拉蓬

bffac342cb29ddc2a8a1397edbbc0e43.jpg
1
11-04 10:03

乔维苏·索拉蓬

预祝本次峰会圆满成功。 非常感谢。
1
11-04 10:02

乔维苏·索拉蓬

最后,人工智能应当把人们团结在一起,而不是将他们分隔开来。我们将与大家携手共建安全、包容、惠及所有人的人工智能,共建网络空间命运共同体。
1
11-04 10:01

乔维苏·索拉蓬

第四,绿色能源促进共享红利。老挝随时准备承办绿色人工智能计算中心并共享算力,使东道国获得技能和能力,而不仅仅是投资。我们热情邀请中国数字技术企业到老挝人民民主共和国投资由清洁能源驱动的超大规模人工智能数据中心,以及连接这些数据中心所需的陆地光纤链路。
1
11-04 10:01

乔维苏·索拉蓬

第三,治理交流。让我们分享立法经验、安全标准和测试方法,使我们的监管框架能够协调运作,并让我们共同努力预防和打击人工智能被用于欺诈和诈骗。
1
11-04 10:00

乔维苏·索拉蓬

第二,能力建设。让我们扩大对发展中国家官员、工程师和培训师的培训,以缩小智能鸿沟。
1
11-04 10:00

乔维苏·索拉蓬

第一,面向所有语言的开源。让我们共享人工智能模型和开放数据集,使老挝语等语言不被落下。
1
11-04 10:00

乔维苏·索拉蓬

在东盟内部,我们可以支持一个惠及整个地区的共享人工智能计算中心。本着这一精神,请允许我提出四项建议。
1
11-04 09:59

乔维苏·索拉蓬

女士们、先生们,本次峰会的主题是:开源开放和共享红利,恰恰反映了我们对人工智能国际合作的看法。老挝自豪地成为世界人工智能合作组织(WAICO)的创始成员,我们感谢中国这一重要倡议。我们也高度重视与中国合作伙伴的合作,包括通过老中人工智能发展合作中心和联合教育项目,如“2+2”模式,即学生在老挝学习两年、在中国学习两年。
1
11-04 09:59

乔维苏·索拉蓬

第三,人工智能切实服务于政府和人民。本部已将LaoAI整合到政府电子文件管理系统e-Office和官方通信应用G-Chat中。我们还将人工智能应用于智能电网、洪水预警、森林火灾监测以及通过手机提供的农业咨询服务。
1
11-04 09:58

乔维苏·索拉蓬

第二,本部正在向中国国家国际发展合作署(CIDCA)提交项目提案,寻求支持在老挝人民民主共和国建设人工智能计算中心。该中心将由我们的清洁能源供电,包括水电、太阳能和风能,投资条款将与老挝共享利益。
1
11-04 09:58

乔维苏·索拉蓬

第一,我们与广西壮族自治区中国-东盟信息港股份有限公司(CAIH)合作,正在开发老挝大语言模型LaoAI,使我们语言和文化在人工智能时代得到充分体现。
1
11-04 09:57

乔维苏·索拉蓬

在实践中,我们运用网络犯罪和数据保护法来打击网络欺诈和诈骗、网络攻击以及人工智能的滥用。我们正在卫生、教育、公共行政和农业领域启动试点项目。技术与通讯部正在与中国对口部门密切合作,有三个领域的合作值得特别提及。
1
11-04 09:56

乔维苏·索拉蓬

在人工智能专项规则仍在形成之际,我们目前的执法依赖于现有法律和机构间的密切协调。由总理担任主席的国家数字化转型委员会指导数字化转型的实施,包括人工智能发展。技术与通讯部作为其协调中心,与其他部委和地方当局密切合作。
1
11-04 09:56

乔维苏·索拉蓬

第五、技术中立原则,以便我们能够与所有伙伴公开合作。我们的目标是与国际标准接轨,使我们的规则能够在投资者和合作伙伴之间建立信任。
1
11-04 09:56

乔维苏·索拉蓬

第四、人工智能数据中心的投资条件,包括利益共享、技术转让和环境保障。
1
11-04 09:55

乔维苏·索拉蓬

第三、数据分类,明确界定不得出境的国家数据、安全相关数据和个人数据。
1
11-04 09:54

乔维苏·索拉蓬

第二、针对滥用行为的措施,包括网络攻击、深度伪造和网络欺诈,通过人工监督确保人工智能始终处于人类控制之下。
1
11-04 09:53

乔维苏·索拉蓬

第一、人工智能伦理准则,涵盖开发者责任、可审计的透明度和以人为本的设计。
1
11-04 09:53

乔维苏·索拉蓬

在立法方面,老挝人民民主共和国尚未制定独立的人工智能法。我们正在循序渐进地推进。我们的首要任务是审查这些法律文书,确保它们能够应对人工智能带来的问题,然后确定哪些方面需要新的法律文书。我们的工作正在五个领域推进。
1
11-04 09:52

乔维苏·索拉蓬

国家人工智能战略建立在七大支柱之上,涵盖法律和政策到投资和国际合作,并设定了具体目标。我们的目标是到2030年培训5万人掌握基本人工智能技能,到2035年培训15万人。我们还计划到2030年建成至少一个人工智能数据中心,到2035年建成三个。
1
11-04 09:50

乔维苏·索拉蓬

然而,我们的决心坚定不移。老挝人民民主共和国已将人工智能写入修订后的宪法,政府已批准《2026-2035年国家人工智能战略》。该战略的愿景是使人工智能成为数字化转型和可持续发展的驱动力,以负责任、合乎伦理和以人为本的原则为指导,同时保护老挝文化和语言。
1
11-04 09:49

乔维苏·索拉蓬

对于老挝人民民主共和国这样一个发展中内陆国家而言,开放和共享红利绝非空洞的口号,而是最切实可行的发展路径。我们面临人工智能专业人才短缺、算力基础设施有限、城乡之间的数字鸿沟,以及老挝语数据不足等问题。
1
11-04 09:48

乔维苏·索拉蓬

人工智能正以非凡的速度发展,现已融入我们经济社会的几乎每一个领域。它为发展提供了巨大机遇。与此同时,它也带来了伦理和安全风险,并可能加剧国家之间的数字鸿沟和智能鸿沟,使一些国家走在前列,而另一些国家则被落在后面。没有任何一个国家能够独自应对这些挑战。它们需要广泛协商、共同贡献和共享红利。
1
11-04 09:47

乔维苏·索拉蓬

尊敬的各位阁下、各位嘉宾、女士们、先生们:我非常荣幸代表老挝人民民主共和国技术与通讯部发言。我谨对世界互联网大会的热情接待表示衷心感谢,感谢大会将我们相聚在乌镇,围绕“开源开放、协同发展、共享红利:携手构建网络空间命运共同体”这一主题展开讨论。
1
11-04 09:46

主持人

首先,有请老挝人民民主共和国科技与通讯部副部长乔维苏·索拉蓬发表主旨演讲。
1
11-04 09:46

主持人

下面,我们进入主旨演讲环节。在本环节,来自多个国家的政府机构、司法机关、企业、高校以及国际组织的嘉宾,将分享人工智能治理的思考与经验,探讨以法治保障人工智能安全、健康、有序发展的有效路径。
1
11-04 09:25

主持人

下面有请,上海市高级人民法院院长、中华人民共和国二级大法官贾宇致辞。
1
11-04 09:24

主持人

下面有请,北京师范大学校长、中国科学院院士于吉红致辞。
1
11-04 09:23

主持人

首先,有请国家互联网信息办公室副主任杨建文致辞,大家欢迎。
1
11-04 09:17

主持人

首先,有请国家互联网信息办公室副主任杨建文致辞,大家欢迎。
1
11-04 09:17

主持人

本次论坛由国家互联网信息办公室、北京师范大学、上海市高级人民法院主办,论坛的主题是“法治护航智能向善——全球图景与中国实践”旨在凝聚各方智慧、深化交流互鉴,共同探索人工智能治理的法治路径,携手推动人工智能向善发展。
1
11-04 09:16

主持人

水乡秋色正浓,乌镇智潮奔涌。欢迎各位莅临2026年世界互联网大会乌镇峰会网络法治论坛,共同探讨人工智能时代法治建设的新课题。
1
11-04 09:15

主持人

尊敬的各位领导、各位嘉宾,大家上午好!
1
11-04 09:09

图片

da4a7cf05b5321247e832f916efaf001.jpg