◇ 中国电子信息产业研究院课题组
精华速览：
本文从全球国际组织、欧盟、美国、韩国的人工智能治理总体态势出发，全面总结分析近年来中国人工智能治理总体进展与成效、人工智能重大应用场景治理挑战和形势，并从政府监管、行业自律和企业合规方面展望：未来中国人工智能领域要形成政府监管、企业自治、行业自律、公众参与的多元协同治理体系。
全球人工智能治理总体态势
近年来，人工智能技术的快速发展在给全球经济和社会带来深刻变革的同时，也引发了各国政府和国际组织对人工智能治理的高度关注。从国际组织到主要经济体，相关治理规则和政策框架正在加速形成。
（一）国际组织
1. 推进全球人工智能治理成为共识
2024 年3 月， 联合国大会通过了《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》决议， 这是联合国首次通过的有关人工智能治理的专项决议。该决议呼吁全球共同努力， 确保人工智能系统在非军事领域的设计、开发和使用过程中尊重人权、保护隐私、促进可持续发展， 同时推动国际合作与创新， 弥合数字鸿沟。
2024 年7 月， 联合国大会通过了《加强人工智能能力建设国际合作》决议，强调通过国际合作帮助各国，尤其是发展中国家加强人工智能能力建设， 促进人工智能的包容性、普惠性和可持续发展。
2024 年9 月，联合国人工智能高级别咨询机构发布了题为《为人类治理人工智能》的报告。该报告围绕建立国际科学小组、开展人工智能治理政策对话、创建全球人工智能能力发展网络、建立全球人工智能基金、促进全球人工智能数据框架、在联合国秘书处内设立小型人工智能办公室等方面，提出了具体的建议和行动方案。
2024 年10 月，经济合作与发展组织发布了题为《未来人工智能潜在风险、益处及政策要务评估》的报告，探讨了人工智能技术可能带来的风险和益处，强调制定相应政策的重要性，提出确保人工智能的发展能够促进经济增长和社会福祉， 同时避免潜在的负面影响。
2025 年2 月， 法国巴黎举办人工智能行动峰会。这是全球人工智能领域的重要会议，核心主题为行动，强调人工智能在应对气候变化、环境危机和数字化转型中的重要作用。峰会设定三大主要目标：提供独立、安全、可靠的人工智能服务，确保技术的普惠性和可及性；开发环境友好型人工智能，推动可持续发展；确保全球治理的有效性和包容性，建立开放、透明、合乎道德的人工智能生态系统。会后58 个国家共同签署了《关于发展包容、可持续的人工智能造福人类与地球的声明》。
2. 推进垂直领域的人工智能治理
国际组织在多个垂直领域推进人工智能治理。在金融领域， 国际清算银行、国际证监会组织等发布了《中央银行使用人工智能》《生成式人工智能与中央银行网络安全》等报告， 聚焦人工智能在金融行业的应用现状、机遇与挑战， 以及潜在风险的探讨。在医疗卫生领域， 世界卫生组织发布《多模态大模型人工智能伦理和管理问题指导文件》， 列出了供政府、技术公司和卫生保健机构参考的40 多项建议，以确保多模态大模型的适当使用。在工业领域，联合国工业发展组织成立了全球工业和制造业人工智能联盟以及非洲工业4.0 与智能制造联盟，2024 年6 月与60 多个成员国就数字化转型和人工智能战略框架的关键要素进行深入讨论。在教育科学和文化领域，联合国教科文组织发布了《生成式人工智能在教育和研究中的应用指南》，并于2024 年9 月颁布全球首份《学生人工智能能力框架》。在通信领域，国际电信联盟发布的《人工智能治理日从原则到落实》专题报告指出， 应加强合作， 共同探索建立全面、有效的人工智能治理体系。
3. 推进人工智能技术标准制定
2024 年4 月， 世界数字技术院发布了《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》， 这是国际组织首次发布人工智能大模型安全领域的国际标准。《生成式人工智能应用安全测试标准》定义了人工智能应用程序架构的测试和验证范围， 为测试和验证生成式人工智能应用程序的安全性提供了框架。《大语言模型安全测试方法》为大模型本身的安全性评估提供了一套结构性方案， 提出大语言模型的安全风险分类、攻击的分类分级方法以及测试方法，首次给出了四种不同攻击强度的攻击手法分类标准。此外，国际电信联盟高度重视人工智能的标准化建设，目前已有超过200 项与人工智能相关的标准发布或正处于制定过程中。
（二）欧盟
1. 基本情况
欧盟在人工智能治理领域起步较早，形成了较为系统的治理框架。2018 年至2020 年， 欧盟委员会发布了《欧洲人工智能战略》《算法问责及透明度监管框架》《可信人工智能伦理指南》等一系列战略文件， 为全球首部《人工智能法案》的出台奠定了政策基础。2025 年4 月，欧盟委员会发布了《人工智能大陆行动计划》，围绕强化人工智能计算基础设施、增强高质量数据获取能力、推动人工智能在战略领域的应用、加快人工智能人才培养、简化监管合规流程五大核心领域展开。
欧盟委员会于2021 年启动人工智能立法，《人工智能法案》于2024 年5 月正式通过， 成为全球首部全面监管人工智能的法律。该法案主要包括三项制度： 一是风险分类制度， 基于损害发生的可能性和严重程度将人工智能系统分为不可接受风险、高风险、有限风险和极小风险四个等级； 二是通用人工智能模型规则， 为通用人工智能模型的开发和使用设定了透明性、版权合规性、系统性风险评估与缓解以及可解释性等规则； 三是创新支持制度， 通过设立监管沙盒机制， 为人工智能系统的开发、训练、测试和验证提供受控且灵活的环境。为配合实施，2025 年2 月欧盟委员会发布了《人工智能系统定义指南》及《禁止人工智能实践指南》。
除《人工智能法案》外，欧盟还进行了一系列数字立法，构建起数字治理版图。在数据监管领域，制定了《通用数据保护条例》《数据法案》《数据治理法案》等。在超大型互联网平台监管领域，制定了《数字服务法》和《数字市场法》。在网络安全领域，制定了《网络安全法》《网络韧性法》《网络和信息系统安全指令》等。
2. 治理特点
欧盟的治理特点主要体现在三个方面。一是强调构建统一综合的治理框架。欧盟《人工智能法案》是全球首个针对人工智能的综合性横向法律框架， 适用于整个欧盟， 全面规定了政府、企业和其他组织负责任地开发和使用人工智能的规则。二是治理机构较为多元化和系统化。形成了以人工智能办公室和欧洲人工智能委员会为核心， 各成员国指定的国家主管机构和单一联络点与其有效衔接的治理机构体系。三是治理手段较为刚性和严格。对所有在欧盟境内开发或部署影响个人的人工智能系统明确了详细的义务， 对于被禁止的人工智能系统实施严格的禁令，违反者处以4000 万欧元或前一财年全球年营业额7% 的高额罚款。
3. 发展趋势
欧盟将继续通过国际合作提升其在全球人工智能治理中的话语权和影响力。2023 年1 月， 欧盟和美国签署了《人工智能促进公共利益行政协议》。2024 年9 月，欧盟通过签署《人工智能公约》，吸引了包括美国、英国等10 个国家的参与。2025 年2 月在法国巴黎举办的人工智能行动峰会中，30 多个国家的领导人以及国际组织负责人共同发布声明，同样凸显了国际合作的重要性。
此外，长期主张强监管的欧盟开始出现放松监管的趋势。2025 年2 月，欧盟委员会宣布撤回《人工智能责任指令》提案和《电子隐私条例》；2025 年5 月， 欧盟委员会决定推迟欧盟《人工智能法案》部分规则的生效时间。由于欧盟在技术上落后于中美两国，未来欧盟或将考虑在监管与技术发展之间寻求平衡， 适度弱化强监管模式。
（三）美国
1. 基本情况
特朗普政府在第二任期内的人工智能治理重点主要是促进创新。2025 年1 月23 日， 特朗普发布《消除美国人工智能创新的障碍》行政令，宣布撤销拜登政府颁布的第14110 号行政令，要求相关机构暂停、修订或撤销与新政策目标不一致的所有基于该行政令制定的政策。同一天，特朗普还签署了《总统科学技术顾问委员会》行政令， 旨在建立总统科技顾问委员会，确保美国在人工智能等变革性技术领域的领导地位。除总统行政令外，美国有关政府部门也发布了大量涉及人工智能的政策文件。2022 年10 月，白宫科技政策办公室发布《人工智能权利法案蓝图》，确定了人工智能系统设计者、使用者和部署者在安全有效的系统、算法歧视保护、数据隐私保护、通知和解释、退出选择权保障等方面的义务。美国商务部下属的国家标准和技术研究院发布的第一版《人工智能风险管理框架》，成为业界公认的人工智能风险管理指导体系。
在州政府层面，目前已有超过三十个州正在推动人工智能立法。加利福尼亚州制定了包括《人工智能透明度法案》《生成式人工智能问责法案》等多项法案。犹他州2024 年3 月签署《犹他州人工智能政策法案》，强调透明和非歧视地使用人工智能。科罗拉多州2024 年5 月签署《科罗拉多州人工智能法》， 规定了高风险人工智能系统开发者和部署者需要履行的义务。
2. 治理特点
美国人工智能治理特点主要体现在三个方面。一是重视人工智能创新发展。例如，美国总统特朗普发布《消除美国人工智能创新的障碍》行政令， 撤销了前任总统拜登签署的强调安全地开发和使用人工智能的行政令。通过《芯片和科学法案》， 计划5 年内拨款110 亿美元用于国家半导体技术中心等的研发和劳动力发展计划。二是强调行业自律和企业自我规制。美国商务部下属的国家标准和技术研究院发布的《人工智能风险管理框架》为企业和公共部门提供风险评估工具，并非强制企业执行。《科罗拉多州人工智能法》要求高风险管理， 但如果满足实施风险管理政策、完成风险评估等条件， 则可以视为履行了避免算法歧视的合理注意义务。三是采取分散立法的立法模式。美国在联邦层面并无统一立法， 各州根据自身的发展需求和特点分领域进行了立法探索。
3. 发展趋势
美国将把创新优先的治理原则放在更突出的位置。特朗普政府以维持并增强美国在人工智能领域的全球主导地位为战略目标，旨在通过消除现有人工智能创新的障碍，巩固美国在全球人工智能领域的领导地位。2025 年2 月，美国副总统万斯在法国巴黎举办的人工智能行动峰会上表示，特朗普政府正积极采取美国优先的方针，确保美国在全球技术竞争中保持领先地位。预计美国短期内不会制定人工智能综合性立法。2025 年5 月11 日，美国众议院能源和商业委员会通过了一项提案，禁止美国各州在十年内监管人工智能和自动决策系统。可以预见的是，美国在人工智能监管上将继续采取审慎监管的治理思路。
（四）韩国
1. 基本情况
2021 年7 月，韩国金融服务委员会发布《金融服务中人工智能使用指南》， 提出要从内部控制制度、数据管理、第三方管理及消费者权益保护四个角度， 增强公众对基于人工智能的金融服务的信任。2023 年2 月，韩国专利厅发布了2023—2027 年《基于人工智能的专利行政改革实施计划》，推进人工智能专利检索及审查支持工具的开发。2024 年12 月，韩国正式出台《人工智能发展与信任构建基本法》。这部法律是韩国在人工智能领域重要的立法成果，标志着韩国成为全球范围内第二个制定综合性人工智能法律的经济体。该法律基于先采用技术后监管的原则，共5 章，包括总则、人工智能健康发展框架与信任基础的建立、发展人工智能技术和培育产业、人工智能伦理与可信度，以及附则。
2. 治理特点
韩国人工智能治理特点主要体现在三个方面。一是重视人工智能政策与组织体系的建立。《人工智能发展与信任构建基本法》规定每3 年制定、修改和实施一次人工智能基本计划。该法新设立了三个专门治理机构：国家人工智能委员会负责审议和决定人工智能发展和信任基础建设的主要政策；人工智能政策中心负责整合资源，支持人工智能政策的开发和国际标准的制定；人工智能安全研究所专注于保护国民规避人工智能相关风险。二是重视促进人工智能发展。该法通过政策扶持与资源投入促进人工智能技术发展，具体包括实施人工智能技术标准化项目，制定与人工智能学习数据相关的措施，提供人才保障。通过推动人工智能技术在各行各业深度融合， 重点支持中小企业发展，构建产业集群、示范基地和数据中心等产业生态系统。三是针对不同种类的人工智能构建安全及信赖基础。对于高影响力人工智能， 运营者须履行更为严格的合规义务，包括事先告知义务等，确保安全性与可靠性，评估对人的基本权利的影响。对于生成式人工智能，要求运营者在生成物中明确标示其为由生成式人工智能生成， 即为生成物加入水印。对于跨境人工智能，规定在国内没有住所或营业地的人工智能企业，如果其用户数量或销售额达到规定标准，必须指定一名代理人。
3. 发展趋势
韩国继续通过完善现有法律和加快新立法进程的方式，积极推动人工智能治理。《人工智能发展与信任构建基本法》于2026 年1 月正式实施。人工智能立法将继续以促进为主基调。预计未来韩国将在人工智能技术的研发和人才培育方面投入更多的资源。
中国人工智能治理总体进展与成效
近年来，中国人工智能治理体系不断完善，在法律、行政法规、部门规章、地方性法规等多个层面形成了较为系统的规范框架，治理格局和治理要素也逐步清晰。
（一）治理规范
1. 法律
我国现有法律体系为人工智能治理提供了顶层设计和原则指引。《中华人民共和国网络安全法》（以下简称《网络安全法》）《中华人民共和国数据安全法》（以下简称《数据安全法》）《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》）三部法律，分别从网络、数据和个人信息三个角度对人工智能进行规范与治理，构建了人工智能治理的基础法律框架。2016 年11 月出台的《网络安全法》主要规定了网络运营者的义务和网络安全等级保护制度。2021 年6 月出台的《数据安全法》为人工智能的数据收集、处理和流通提供了保障。2021 年8 月出台的《个人信息保护法》进一步强化了人工智能对用户个人信息的处理和收集的规定。此外，其他领域的法律也直接或间接地体现了对人工智能的治理态度。例如，2024 年12 月修订的《中华人民共和国科学技术普及法》加大了对人工智能等前沿技术的宣传普及力度。
2. 行政法规
与人工智能直接相关的行政法规为人工智能治理提供了重要的制度基础。例如，2024 年9 月公布的《网络数据安全管理条例》促进了网络数据的依法合理有效利用。2024 年12 月修订的《互联网信息服务管理办法》规范了互联网信息服务提供者备案、评估等业务资质。2025 年5 月公布的《政务数据共享条例》提出鼓励和支持大数据、云计算、人工智能、区块链等新技术在政务数据共享中的应用。
3. 部门规章
部门规章是我国当前针对人工智能治理的主要框架。2022 年11 月，国家互联网信息办公室等三部门联合发布《互联网信息服务深度合成管理规定》，明确了技术支持者、服务提供者、服务使用者和分发平台的主体责任。2023 年7 月， 国家互联网信息办公室等七部门联合公布《生成式人工智能服务管理暂行办法》， 这是全球首个针对生成式人工智能安全风险的专门立法。
4. 其他规范性文件与标准
除法律、行政法规、部门规章之外， 规范性文件、国家标准等也为人工智能治理提供了依据。2025 年3 月，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》，以内容标识为抓手，要求依据生成合成服务的性质和内容进行显性和隐性标识。2025 年3 月，全国网络安全标准化技术委员会秘书处发布《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》，为开展人工智能生成合成内容的文件元数据隐式标识活动提供依据。2025 年4 月， 全国网络安全标准化技术委员会提出并归口《网络安全技术 生成式人工智能数据标注安全规范》，这是我国首项聚焦生成式人工智能数据标注环节的专项安全技术规范。
（二）治理要素
中国人工智能治理涵盖了业务资质、模型算法、生成内容、数据和个人信息、知识产权、用户行为、网络安全、特殊群体权益保障、科技伦理等多个要素。
在业务资质方面，现行法律法规要求大模型必须履行算法备案、安全评估等监管手续。《生成式人工智能服务管理暂行办法》规定，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并履行算法备案和变更、注销备案手续。
在模型算法方面，监管要求大模型企业确保大模型的输入数据和输出内容合法合规，通过建立算法反歧视机制、定期进行算法机制机理审核等举措，保障训练数据来源合法并承担算法技术管理责任。《互联网信息服务算法推荐管理规定》要求算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。
在生成内容方面，监管要求企业应对大模型生成的内容和用户输入的内容进行审核，确保对话内容合法合规，并符合伦理道德标准。同时要强化风险对话出现后的应急处置机制。《互联网信息服务深度合成管理规定》要求深度合成服务提供者加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核。
在数据和个人信息方面，监管要求大模型应依法依规对个人信息进行收集、处理和使用，通过建立数据安全保护机制、确保个人信息跨境合规等举措，保证用户个人信息、隐私信息等敏感数据的安全。《生成式人工智能服务管理暂行办法》规定，提供者对使用者的输入信息和使用记录应当依法履行保护义务， 不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录。
在知识产权方面，监管要求大模型在提供服务的过程中应尊重知识产权、遵守商业道德、保守商业秘密，不得利用算法平台优势进行垄断或不正当竞争。《生成式人工智能服务管理暂行办法》作出相关规定。
在用户行为方面，监管要求明确大模型提供者和用户各自的权利义务，通过公开并定期完善用户协议、制定并完善用户投诉、处理和反馈机制等举措， 引导用户合法合规使用大模型。《生成式人工智能服务管理暂行办法》规定，提供者应当与使用者签订服务协议，明确双方权利义务；应当建立健全投诉、举报机制，设置便捷的投诉、举报入口， 公布处理流程和反馈时限。
在网络安全方面，监管要求大模型提供者应防范大模型自身存在的漏洞或被恶意利用、攻击而出现的漏洞，通过定期测试和检验模型、建立应急处置机制等举措，确保大模型持续正常、安全地提供服务。《网络安全法》规定，网络产品、服务应当符合相关国家标准的强制性要求，发现其网络产品、服务存在安全缺陷、漏洞等风险时，应当立即采取补救措施。
在特殊群体权益保障方面，监管要求对未成年人等特殊群体给予特别关注。《互联网信息服务算法推荐管理规定》明确，算法推荐服务提供者向未成年人提供服务的，应当依法履行未成年人网络保护义务，通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，方便未成年人获取有益身心健康的信息。
在科技伦理方面，监管要求大模型提供者通过建立科技伦理审查机制、践行科技伦理规范等举措，确保大模型的使用安全。《科技伦理审查办法（试行）》规定，从事人工智能等科技活动的单位， 研究内容涉及科技伦理敏感领域的，应设立科技伦理审查委员会。
中国人工智能重大应用场景治理形势展望
随着人工智能技术的快速发展和应用范围的不断扩大，中国人工智能重大应用场景治理面临着多重挑战，需要在技术、规则、伦理、机制和国际合作等多个维度进行系统性应对。
（一）治理挑战
1. 技术层面
人工智能技术层面的挑战主要包括三个方面。第一，算法黑箱与透明度不足。人工智能技术的黑箱特性导致其决策过程难以解释，使监管和治理变得复杂。例如，自动驾驶汽车在紧急情况下的决策逻辑，或医疗人工智能系统对疾病诊断的依据，往往难以向公众或监管机构透明化展现。这种不透明性可能会增加技术误用的风险，也会导致难以科学有效地对其进行治理。第二，数据安全与隐私保护。人工智能系统需要大量数据支持，但数据来源的合法性和安全性成为治理难点。例如，人脸识别技术可能被滥用，导致公民隐私权受到威胁。此外，深度伪造技术的普及可能引发社会信任危机，甚至被用于新型网络欺诈。第三，技术发展速度快与治理滞后的矛盾。人工智能技术尤其是深度学习、大模型的发展日新月异，新的应用场景和潜在风险层出不穷，而法律法规、行业标准、伦理准则的制定和更新需要较长的研究、论证和制定周期，难以跟上技术迭代的步伐。
2. 规则层面
规则层面的挑战主要包括三个方面。第一，缺乏专门性、高位阶法律。我国虽然已有《网络安全法》《数据安全法》《个人信息保护法》等基础性法律，以及《生成式人工智能服务管理暂行办法》等专门规定，但仍缺乏一部全面、系统、高位阶的人工智能法律来统领全局，明确基本原则、各方权责、监管框架和法律责任。第二，现有规则的适配性和针对性仍有待提升。现有法律法规多针对特定领域如数据、安全等，在应用于复杂多变的人工智能应用场景时可能存在适用性模糊、针对性不足的问题，需要更精细化的规则来应对具体应用场景的风险挑战，如深度伪造、算法歧视等。第三，标准体系有待完善。目前，我国在人工智能的技术标准、安全标准、伦理标准、测试评估标准等领域尚未形成统一、完善、与国际接轨的体系，亟待加快完善。
3. 伦理与社会层面
伦理与社会层面的挑战主要包括四个方面。第一，算法偏见与歧视。人工智能系统可能因训练数据偏差、算法设计缺陷等，放大甚至固化社会偏见，可能损害社会公平正义。第二，责任归属难题。人工智能系统在出现故障或造成损害时，责任往往难以明确划分。例如， 自动驾驶汽车发生事故时，责任应由车主、制造商还是软件开发者承担，这种模糊性增加了法律纠纷的复杂性。第三， 就业与失业问题。人工智能技术的普及可能导致部分传统岗位被取代，失业人员的再培训和社会保障机制亟待完善， 避免引发更多社会风险。第四，公众接受度与伦理争议。人工智能在医疗、交通等领域的应用可能引发伦理争议，例如人工智能是否应被赋予道德判断能力，自动驾驶汽车在紧急情况下应优先保护乘客还是行人，这些问题涉及对人类价值观的重新审视。
4. 治理手段和机制层面
治理手段和机制层面的挑战主要包括三个方面。第一，跨部门协同治理难度大。人工智能治理涉及网信、科技、工业和信息化、公安、市场监管、教育等多个部门，如何建立高效、顺畅的跨部门协同监管机制，避免九龙治水或监管真空，是重要挑战。第二，监管技术能力有待提高。监管机构缺乏足够的专业技术人才和工具，如算法审计工具、风险评估模型等，来有效监测、评估和监管复杂的人工智能系统。第三，多元主体共治格局尚未成熟。如何有效引导和规范企业自律，尤其是大型人工智能平台公司的自律，发挥行业协会作用， 鼓励公众参与监督，形成政府监管、企业自治、行业自律、公众参与的多元协同治理体系，仍需进一步探索。
5. 国际治理与地缘政治层面
国际治理与地缘政治层面的挑战主要包括四个方面。第一，全球治理体系不完善。人工智能治理涉及多国合作， 但当前国际社会尚未形成统一治理框架。例如，联合国框架下的人工智能治理仍存在效率不高和各国互信不充分的问题。第二，标准与规则主导权之争。全球范围内，主要国家都在积极争夺人工智能治理规则和标准制定的国际话语权。我国需要在借鉴国际经验的同时，立足国情，积极参与并引领国际规则制定。第三，数据合规与跨境流动的规则一致性问题。数据跨境传输涉及多国法律框架， 如欧盟的《通用数据保护条例》和中国的《数据安全法》。在数据共享与隐私保护之间找到平衡点，是人工智能治理面临的重要课题。第四，知识产权保护问题。人工智能训练数据中可能包含受版权保护的内容，而未经授权使用这些数据训练模型可能引发跨国法律风险。人工智能生成的作品是否具有版权、人工智能大模型的知识产权归属等问题亟待解决。
（二）治理展望
1. 政府监管
政府作为治理的主导者，需构建法律、标准、技术、机制四位一体的监管体系，实现从被动响应到主动引领的升级。在法律体系的系统化完善方面，在现有法律的基础上，加快研究出台“人工智能法”， 明确人工智能研发、应用、退役全生命周期的权责划分和治理要求。将必要的伦理要求转化为法律条款，建立人工智能损害赔偿基金。适配通用人工智能时代需求， 立法规范超级智能系统的研发边界， 实现人类终极控制权。在监管技术与能力的智能化升级方面， 建立国家级人工智能治理大脑， 整合跨部门数据， 利用可解释技术实时识别高风险算法， 实现以智治智。推行分级分类监管， 按人工智能应用场景的风险等级实施差异化监管，高风险领域需强制进行算法影响评估并向监管部门备案，低风险领域以事后抽查为主。建立健全央地与跨部门协同的治理机制，建议设立国家人工智能治理委员会，制定全国统一的治理目标与底线规则。科学指导人工智能发展领先地区先行先试开展治理试点，形成试点、评估、推广的迭代路径。建立人工智能风险预警共享平台，打通不同部门的监管数据壁垒，提升监管的精准性和实时性。
2. 行业自律
行业组织需成为政府监管的缓冲带与企业合规的引导者，加快构建标准、评议、惩戒闭环体系。在提升行业组织的专业性与权威性方面，整合现有地方和细分领域协会资源，推动成立中国人工智能行业联合会，赋予其行业规则制定权、合规评估权、争议调解权；按照人工智能应用场景如医疗、金融、教育等领域设立专业委员会，制定细分领域的伦理准则。在加快自律规则的刚性化转型方面，从自愿遵守转向强制绑定， 推动行业内企业签署《人工智能治理自律公约》，将公约条款纳入企业准入前置条件。建立人工智能行业信用档案， 记录企业合规情况，对严重违规企业实施行业联合惩戒，如限制技术合作、公开曝光。完善伦理审查与技术共享机制， 由行业组织牵头，联合科研机构、公众代表组建审查团队，对高风险人工智能产品进行上市前伦理审查；建立人工智能安全技术共享平台，鼓励企业公开非涉密的风险防控技术，降低中小企业合规成本。
3. 企业合规
企业作为人工智能研发与应用的核心主体，需要将治理要求嵌入研发、应用、迭代全流程，形成合规即竞争力的内生动力。在加快企业治理架构的人工智能适配性改造方面，强制高风险人工智能企业设立人工智能伦理委员会，成员需包含技术、法律、伦理专家及外部公众代表，赋予其一票否决权。推行人工智能治理官制度， 要求企业高管层中指定专人负责合规管理， 将治理目标纳入企业绩效考核。在推动研发流程的合规前置方面， 在人工智能系统设计阶段即开展伦理影响预评估， 识别算法可能对弱势群体产生的潜在影响， 避免后期整改成本过高。建立算法可追溯体系， 要求企业记录人工智能大模型的训练数据来源、参数调整过程、决策逻辑等， 确保出现问题时可溯源追责。在推动社会责任与技术普惠的融合方面，要求大型科技企业将一定比例的人工智能研发资源投入普惠领域，如为偏远地区开发低成本医疗诊断人工智能系统、为残障人士设计人工智能辅助技术。建立企业人工智能治理报告制度，强制企业每年发布治理报告， 公开算法公平性、数据隐私保护、社会影响等信息，接受公众监督。
本文摘编自中国电子信息产业发展研究院《人工智能重大应用场景治理研究报告（2025 年度）》
Visits: 3