中国信息通信研究院人工智能研究所
精华速览：
人工智能技术正在深度驱动经济社会发展，在释放价值红利的同时也带来风险挑战。只有将“安全内核”嵌入“发展飞轮”，产业才能实现高质量和可持续发展。本文提出“两横三纵”人工智能安全治理框架，列举了金融、医疗、交通、能源、通信等5 个典型领域探索人工智能安全治理的实践，并展望了人工智能安全治理体系建设的未来。
当前，全球人工智能安全治理逐步迈向体系化、实操化阶段，各主要经济体持续推进治理框架落地。如何在产业层面构建务实有效的安全治理举措，形成协同共治、安全可信的人工智能生态， 成为一项核心议题。
应对人工智能安全治理挑战，要树立动态的人工智能安全观。相较于传统的网络安全、数据安全，人工智能安全的风险载体更加复杂多样，安全防御体系尚处于探索阶段，安全检测评估难度加大，传统管理机制难以适配，产业界亟须一个全局性、系统化的行动框架作为指引。
本文立足我国产业实践，提出“两横三纵”的人工智能安全治理框架，列举了金融、医疗、交通、能源、通信等5 个典型领域探索人工智能安全治理的实践，并展望了人工智能安全治理体系建设的未来。
构建“两横三纵”人工智能安全治理通用实践框架
“两横三纵”的人工智能安全治理框架（见图1）是一套系统性、可落地、动态化的安全治理体系。企业内部治理， 以“管理”与“技术”为横轴，实现制度牵引与能力支撑的深度融合；以“开发侧”“部署侧”“应用侧”为纵轴，实现从模型研发、系统部署到场景应用的全链条防护。产业多元共治，促进生态协同，将原本分散的治理行为汇聚形成统一的系统屏障。
图1 人工智能安全治理“两横三纵”实践框架
（一）风险管理：构建全周期的人工智能风险管理体系
面对各类人工智能风险挑战，人工智能治理体系建设应结合技术发展态势， 聚焦真实场景中的应用风险，形成覆盖人工智能系统全生命周期的动态安全合规要求和风险管理方案。
1. 对于通用管理要求而言，企业需要构建权责清晰的治理架构
一是制定规范化的操作指引。企业人工智能治理需要体系化的制度文件作为依据，同时需要企业管理层支持审核与发布，并在组织内部进行宣贯。此外， 企业各业务部门参与人工智能系统全生命周期的环节不同，面临的合规风险、技术风险、伦理风险各有侧重，细化指引可提升管理要求的可执行性。
二是形成专业化的人工智能治理组织架构。人工智能治理议题涉及算法、数据、伦理等多领域专业知识，企业宜协调内部专家成立专业团队开展治理。例如，微软、IBM、腾讯、阿里等企业均建立了自己的人工智能安全治理组织机构。
三是建立持续的追踪与审计机制。企业人工智能治理体系的建设应符合企业内部战略方针及外部监管要求，建立相应机制并持续完善。
四是推动人工智能风险管理流程与人工智能系统全生命周期相结合。通过业务各节点与管理流程的结合，实现人工智能风险“前置防控、全程追踪、闭环管理”。例如，中国信息通信研究院牵头立项《人工智能 安全治理 系统风险管理能力要求》行业标准；Google 发布SAIF（Secure AI Framework）AI 安全框架。
2. 对于人工智能系统开发而言，需要在风险管理体系建设阶段进行统筹规划
一是明确人工智能研发应用的风险准则。安全底线方面，企业应主动针对人工智能预期目的确定安全目标。例如，阿里将风险治理贯穿产品的全生命周期，明确个人信息、内容安全、模型安全、知识产权的合规要点。前沿风险方面，应明确人工智能风险准则。例如，OpenAI 更新《准备框架（第2 版）》，聚焦网络安全， 化学、生物、放射和核风险，说客能力及自主能力四大高风险领域，建立四级风险分级体系与安全基线要求。
二是将人工智能影响评估和风险评估嵌入项目管理关键环节。例如，在人工智能产品研发的立项或需求环节，围绕人工智能对个人、组织、社会、国家的风险进行影响评估。在人工智能系统发生重大变化时，及时启动人工智能风险评估，确认风险等级，并适时启动应急响应。
3. 对于人工智能系统部署而言，需要规范模型部署流程
一是合理选择实施路径。在金融、医疗、教育等领域，优先采取本地化部署方式。政务领域部署人工智能大模型， 应依据中央网信办、国家发展改革委2025 年印发的《政务领域人工智能大模型部署应用指引》，实施集中统一的安全管理和体系化技术防护措施。
二是完善部署管理要求。在模型上线前，对配置环境、外挂数据、安全护栏等进行充分测试验证，对问题隐患进行处置。在模型上线过程中，通过漏洞扫描及时识别环境风险。在模型上线后， 建立常态化更新机制，持续优化模型安全能力。
4. 对于人工智能系统应用而言，需要构建风险动态跟踪能力
一是将人工智能风险管控工具嵌入业务流程。将人工智能风险管控工具嵌入业务流程，能实现风险的全流程、自动化、精准化防控，避免管控内容与业务脱节。例如，波士顿咨询集团推出了定制化风险管理工具，实现项目风险可视化追踪。
二是构建面向具体应用场景的合规体系。围绕个人信息保护、生成式人工智能服务应用合规等，面向具体业务场景构建应用防护网。例如，在生成式人工智能服务上线前完成安全评估与备案工作，并对模型生成内容添加显式与隐式标识。
（二）模型研发：筑牢人工智能开发安全源头根基
研发是人工智能安全的源头，评估是验证安全水平的重要抓手，需要从选型设计、数据治理与安全对齐三个关键环节系统性发力。
1. 选型设计层面，严把安全准入关
一是在规划设计阶段确立安全基线，将安全要求贯穿模型从研发设计到部署应用的全过程，明确统一的安全架构与准入标准，为后续选型提供依据。
二是重视场景化选型与测试，结合实际业务场景开展选型工作，在对应场景下通过针对性测试来验证模型在场景下的安全能力适配性，确保选型精准匹配业务安全需求。
三是强化业务场景适配性，从功能模块、响应逻辑、合规接口等维度进行定制化调整，精准匹配不同业务场景流程、安全要求的差异化特点。
2. 数据治理层面，保障源头语料安全
一是严格把控数据源筛选过滤。建立数据源安全评估机制，对数据来源进行合规性、安全性审查，坚决杜绝从违法违规或存在伦理风险的“有毒”数据源获取数据，从源头保障数据输入安全。
二是做好训练数据清洗处理。例如，清华大学研究团队联合新加坡南洋理工大学、蚂蚁集团提出基于词表的轻量化技术，构建自动化污染词元识别方案，识别并剔除暴力、歧视、敏感信息等有害内容。哈尔滨工业大学研究团队提出基于Transformer 的盲点网络去噪技术，在多个真实场景的去噪数据集上性能领先。
三是规范数据标注全流程管理。建立全链条数据标注管理体系，从源头提升语料质量，严格遵守数据标注相关法规政策、技术标准，结合企业业务场景细化内部标注流程、质量标准及安全要求， 加强标注人员安全培训与过程监控，在标注结果的准确性、一致性上实现提升。
3. 安全对齐层面，培育模型安全能力
实施阶段方面，原生训练阶段主动塑造安全认知。模型开发者在训练过程中应优先选用合规高质量语料，系统性培育模型对安全边界的理解，引导其从本质上把握安全与风险的区别，而非仅学习表面规则。二次训练阶段强化场景适配，通过构建小而精的安全问答对数据集对模型进行二次微调，实现针对性安全对齐。例如，微软和美国加州大学河滨分校研究团队通过该方式，以较低成本实现模型高质量安全输出。
典型手段方面，一是依托“监督微调”让模型系统学习先验安全知识，掌握风险概念、事实规范等核心内容。二是借助“直接偏好优化”开展对比学习， 让模型深度把握安全回复与不安全回复的本质区别，提升泛化能力。三是依托“组相对策略优化”引入奖励模型，对模型生成的多组回复进行打分评估和优选学习，持续优化安全策略，提升对齐效率与稳定性。
4. 测试评估层面，全面验证安全效果
开展红队测试，以模拟真实攻击场景、挖掘深层安全漏洞为核心目标，全面检验模型在复杂对抗环境中的防御能力。实施幻觉测试，重点检测两类问题： 一是关于模型输出与客观事实一致性的“事实性幻觉”，二是关于模型输出与用户输入匹配度的“忠实性幻觉”。
探索自主性测试，针对模型欺骗行为“表面合规、实质违规”的问题，产业界与学术界提出针对性解决方案。一是依托场景孪生的“测试沙盒”，构建场景混淆测试环境。二是借助“测谎仪” 技术手段，提高检测隐藏风险的能力。三是采用思维链透视与参数解析，强化可扩展监督能力。
（三）系统部署：构建人工智能部署安全防护屏障
部署安全是人工智能系统安全运行的前提，需从底层基础到上层应用逻辑， 构建全维度防护体系，确保运行环境可靠、风险可控。
1. 云网安全层面，强化智算云端部署防护
一是夯实云底座安全基础。严格落实区域间访问控制策略，限制非必要通信，持续监控识别和修复错误配置。二是加固云操作系统安全屏障。及时应用更新安全补丁，禁用冗余服务、关闭无用端口，落实最小权限原则。三是严把容器镜像安全关口。仅使用可信注册表镜像，定期扫描、持续监控，减少攻击暴露面。四是增强网络安全防护，实施数据传输与存储加密，建立多因素身份认证体系，制定精细化网络访问控制策略，阻断非法接入。
2. 框架安全层面，通过对部署框架开展安全测试，保障底层安全
聚焦模型部署所依赖的容器、开源框架等底层架构，通过漏洞扫描、合规性验证与定制化加固，消除底层架构缺陷引发的安全风险。例如，漏洞扫描方面，腾讯朱雀实验室研发AI Infra Guard 基础设施安全评估工具。
3. 代码安全层面，防范恶意攻击
通过对模型原生代码、依赖库代码及部署脚本的全流程审计， 精准识别并清除代码层面的漏洞隐患， 从源头阻断恶意攻击路径。在代码解析方面，科大讯飞对模型训练平台、推理服务接口、Web 管理后台等进行代码审计与渗透测试， 识别SQL 注入、越权访问、API 未授权调用等漏洞。在代码漏洞测试方面， 中国信息通信研究院AI Safety Benchmark 形成覆盖9 类编程语言、14 种基础功能场景、13 种攻击方法的15000 余条测试数据集。
4. 安全护栏层面，实时拦截动态风险
针对运行中可能出现的规则未覆盖场景，构建关键词、语义、智能体三级防护体系。基础护栏聚焦关键敏感词过滤， 通过动态更新的敏感词库拦截明显有害请求。2025 年6 月， 微软把Prompt Shields 纳入Azure AI Content Safety，对直接与间接提示注入进行统一检测与拦截。进阶护栏强化语义识别， 依托意图分析等技术，识别隐性恶意指令。2025 年8 月，新加坡南洋理工大学研究团队提出Intent-FT 策略， 通过微调系统性提升模型识别判断能力，让模型先推断是否存在潜在有害意图，再输出内容。专项护栏管控智能体权限，实时降低敏感场景代理风险。2025 年7 月，OpenAI 发布ChatGPT Agent 引入Watch Mode，在用户使用视觉浏览器登录邮箱或网银时，一旦用户离开会话或长时间无操作，执行会被自动暂停，并在涉及重要改变的关键动作发出前强制用户确认。
（四）应用运行：强化人工智能应用安全动态评估
运行安全聚焦于权限、溯源与监测， 确保模型在真实场景下的合规可控。
1. 访问控制，划定可知可用边界
构建精细化权限管理体系，精准划定模型访问、操作及数据使用的可知可用边界，从源头防范非授权访问风险。在应用访问控制方面，AITOOLNET 打造的Knostic AI 通过其Copilot 就绪评估和基于须知原则的访问控制平台定制用户访问权限，保证基于大模型的应用程序能够安全部署和管理。在数据访问控制方面，中国信息通信研究院研发基于知识库权限管理的通用问答系统，能对用户知识进行细粒度的存储管理，并严格按照用户权限回答对应问题，实现用户隔离。
2. 构造标识水印，支持源头溯源
以水印技术实现源头溯源，按责任主体分为模型端与平台端两类应用。平台端通过显式水印提示内容属性，语言大模型、多模态大模型服务在交互界面、图片、视频相应位置标注“AI 生成”字样，降低虚假内容误导风险。模型端通过嵌入隐式水印， 以专用工具解析出模型版本与使用主体，追踪滥用行为。2024 年10 月，DeepMind 推出SynthID 技术，通过在图片、视频、音频、文本等AI 生成内容中嵌入不可见的数字水印进行识别。
3. 身份认证，筑牢主体可信根基
通过构建多维度、全流程的身份核验体系，确保模型操作主体身份的真实性、唯一性和合法性，从根本上规避身份冒用、权限滥用等安全隐患。在用户身份认证方面，2025 年，OpenAI 正式宣布推出“API 组织验证”功能，明确要求开发者完成身份认证后，方可访问其最先进的AI 模型及新功能。在智能体身份认证方面，Scalekit 公司通过MCP 服务器传入的身份验证和向第三方工具发出的代理操作来保护智能体工作流程的两端。
4. 合成检测，验证信息内容真伪
深度伪造检测技术能够破解内容真实性伪装，从多维度验证内容可信度。例如， 英特尔推出Fake Catcher 工具， 通过检测面部血管的颜色变化来区分真实图像和虚假图像。2024 年12 月， 蚂蚁数科提出针对金融领域AI 换脸风险的深度伪造检测方案。2025 年9 月，谷歌宣布在即将推出的Pixel 10 系列智能手机中，将集成C2PA 内容凭证技术，用以验证图像是否为AI 生成。
5. 监测预警，实时捕获安全事件
通过搭建常态化、智能化的监测预警平台，实时捕获模型运行异常、安全事件及潜在风险，实现早发现、早预警、早处置。在开源监测预警工具方面， Evidently AI 通过“ 数据质量— 模型性能—漂移检测—合规性”的全链路监控体系，帮助数据科学家、人工智能工程师和AI 团队系统性地评估、测试和监控AI 系统的可靠性与性能。在商用监测预警产品方面，腾讯基于AI 组件清单形成面向AI 的漏洞情报专项监测能力，构建可靠、安全的基础运行环境。
6. 业务应用安全评估，坚持动态迭代、持续监控原则
针对人工智能情感依赖等新的风险， 依托实时交互数据监测用户使用时长、情感投入度等关键指标，精准识别过度依赖、情绪风险等新型安全隐患，联动干预机制动态调整模型交互策略。针对智能体新应用，开展用户、被调用应用程序等相关方的合法权益保护评估，聚焦数据采集和处理合规、系统权限使用安全、算法决策透明度等维度，动态完善权益保障机制与评估标准，结合业务场景迭代持续优化评估指标与防护策略， 确保在技术升级与场景拓展中始终筑牢各参与主体的合法权益保障和安全防线。
（五）产业生态：共建基准测试体系与协同治理机制
人工智能的根基础属性决定其治理需要全产业链主体共同参与，需要通过产业自律承诺开展测试验证，形成值得信赖的安全基准、信息共享的协同治理机制。
1. 以基准测试构建标准化评估框架，量化模型安全性能
中国信息通信研究院依托中国人工智能产业发展联盟（AIIA），联合30 余家单位发起大模型安全基准测试（AI Safety Benchmark）。2025 年，大模型基准测试框架（2.0）进行体系化框架更新，涉及内容、防护、应用、场景、前沿五大维度。MLCommons 发布AILuminate 基准评估生成式人工智能系统的安全性。
2. 凝聚产业共识、形成自律承诺， 构建值得信赖的产业生态
2025 年7 月，基于中国人工智能产业发展联盟发布的《人工智能安全承诺》， 18 家企业主动披露安全措施，涵盖风险管理、模型安全、数据安全、基础设施安全、透明度及前沿安全研究等六方面内容。此外，Anthropic、OpenAI 和Google 等头部开发商，在发布其最先进模型时都主动实施了更强的安全保障措施。
3. 推动安全测试验证，形成良性治理循环
当前， 国内外产业围绕人工智能已经形成诸多评测体系， 但对测试维度、测试方法尚未形成共识。新加坡AI Verify Foundation 组织多国企业参加“全球人工智能试点”，在统一框架下对其人工智能系统进行测试和审核，并公开发布报告，总结共性问题和最佳实践。未来，产业层面可依托产业自律承诺、“沙盒验证”、三方合作等方式推进实践测试工作，一方面保障企业披露内容的真实性与落地效能，进而推动产业形成自律生态；另一方面能够提升模型透明度， 增强各方对于大模型研发应用的信心， 共促人工智能健康发展。
4. 构建行业风险协同治理网络，推动信息共享
产业组织积极建立漏洞信息处置能力共享机制，合作促进产业生态健康发展。例如，美国加州人工智能前沿模型联合政策工作组发布《加州前沿人工智能政策报告》，强调产业开展不良事件报告，用统一流程来处理模型安全漏洞。前沿模型论坛（FMF）成员企业联合制定了前沿模型漏洞的处理与披露流程，并分享红队案例，形成半公开的“经验共享”。中国信息通信研究院建设人工智能专业漏洞库，构建漏洞发现与贡献机制， 对相关主体的漏洞报送与价值评估工作进行规范。
典型领域人工智能安全治理的实践探索
（一）金融行业：打造人工智能风险管控方案
一是探索金融行业大模型应用分类分级方案。基于人机交互程度和金融场景风险，金融行业探索“二维”分级分类合规应用体系，提出包含一至四级（L1 至L4）的自主能力分级方案，根据多种金融场景进行风险等级划分，构建金融大模型通用能力和特定金融场景专业能力评估框架。
二是针对智能客服应用场景，引入安全护栏工具，提升模型回答安全性。例如，中国邮政储蓄银行在系统研发阶段，通过自研敏感词过滤组件与微调后的轻量模型相结合，构建双向安全过滤机制，大幅降低不当输出风险。蚂蚁集团针对支小宝业务需求实施了“安全围栏”策略，开发了包括底线和意图识别、情绪分析、主题分类等在内的内容理解技术，进一步提升了生成内容的安全可控性。
三是针对智能风控应用场景，探索算法修正，降低算法偏见风险。例如， 中国工商银行在风险管理领域，面向客户经理、审查审批人员、风险官、风险经理等群体，提炼信用风险评价思维链数据，通过对基础大模型的风控能力进行强化训练，构建企业信用风险智能评估专属大模型。
四是针对外部技术实施本地化部署。针对外购的人工智能算法或产品与业务系统，金融机构积极探索安全管理措施， 提升技术的可控性。多数银行采用本地化部署方式应用大模型技术，以确保数据安全与隐私保护。
（二）医疗行业：多维度提升模型输出准确性
一是构建医疗领域高质量数据集， 提升模型输出内容准确性。医疗领域数据模态多、专业性强、标注难，需要以确定伦理规则体系与符合临床诊疗逻辑的推理机制为基础，建立全域医学高质量数据集。从完整性、准确性、一致性、时效性和合规性等维度建立质量保障体系，涵盖数据需求、数据规划、数据采集、数据预处理、数据标注、模型验证等全流程迭代环节。
二是引入外部工具，创新解决模型幻觉问题。医疗机构积极探索通过检索增强生成（RAG）减轻大模型幻觉。例如， 医疗人工智能助手基于医疗垂类内容的特殊性打造安全前置护栏解决方案，结合千万级自建知识库，保障内容可控生成，从领域、话题、意图等多个视角量化内容防控，从而确保大模型生成结果能够满足医疗垂类内容的安全性和准确性要求。
三是加强伦理审查， 积极制定行业标准。产业组织应积极制定伦理评估指标， 对医疗大模型进行全面、系统的测试、验证和优化， 提高医疗大模型的通用性和可复制性， 确保其在临床应用中具备高度的准确性、可靠性和安全性。
（三）交通行业：结合应用场景探索安全方案
一是针对智能座舱场景，探索端到端的安全测试。当前，智能座舱向融合多模态交互、实时数据处理与沉浸式体验的“第三生活空间”迈进，然而端侧大模型部署落地还面临若干技术挑战。针对有关问题，业界已经开始探索构建针对汽车领域端到端的测试体系，探索大模型在智能座舱中的交互测试。
二是针对自动驾驶场景，打造更加安全便捷的出行服务。企业积极开展端到端的仿真测试，主要通过自研仿真平台、联合专业技术公司搭建测试体系等方式实现，覆盖感知、规划、控制等全流程验证。
（四）能源行业：加强基础设施的安全防护
一是强化数据安全防护。针对敏感科研数据与工业数据安全需求，能源行业通过“数据分级+ 隐私计算”策略强化防护。一方面，对相关数据实施严格管控；另一方面，在企业内部科研协作平台采用联邦学习、多方安全计算、数据空间等技术，实现“数据可用不可见”， 守住数据安全底线。
二是加强工业系统网络安全防御。推动“人工智能安全内生设计”理念落地。能源行业在部分新建项目中，强制要求人工智能模块具备运行时异常检测、模型完整性校验及安全回滚能力，并与工控安全防护体系联动。同时，配合监管部门推动建立能源人工智能系统渗透测试标准，定期开展红蓝对抗演练，提升实战防御能力。
三是提升模型在工业领域应用的可解释性。推动模型算法、应用系统等安全能力建设，构建全流程可靠性保障体系。在关键场景推行“可解释AI+ 专家规则双校验”机制。
（五）通信行业：完善“以技治技” 的安全治理体系
一是积极实践“AI+ 数据安全”智能管理。例如， 中国联通应用人工智能技术打造智能化数据分类分级能力， 提升分级准确率， 构建多维度的数据导出和API 接口监测能力。依托元景大模型及知识中心， 进行风险研判和实时拦截， 实现数据差异化管控， 及时自动预警数据安全风险， 提升数据安全保障水平。
二是构建大小模型自主协同技术方案。例如，中国移动通信集团福建有限公司创新构建以通义千问、DeepSeek 和九天等大模型为核心的大小模型自主协同技术体系，构建了人工智能安全运营系统，提高了安全运营的执行效率，降低了安全运营的技术门槛。
三是结合检索增强生成与深度思考技术的安全知识赋能。例如， 中国移动通信集团福建有限公司结合检索增强生成与深度思考技术的安全知识赋能系统， 能够实时接入多种最新的威胁情报源； 同时支持用户使用知识库管理界面上传各种网络安全知识文件， 通过智能问答形式为用户提供安全知识服务。
四是构建覆盖“事前—事中—事后” 的人工智能一体化安全技术体系。例如， 中国联通构建AI 应用全生命周期全流程安全管控体系。制度规范层面，制定企业级制度规范，明确职责、技术要求、运营要求； 评估检查方面， 按照“ 部署—训练—应用—下线”全周期维度， 精准排查识别数据泄露、权限滥用、算法安全等风险隐患；执行检查层面，分类处置共性与个性问题，明确整改要求； 动态优化方面， 结合企业应用场景细化风险类型，迭代升级评估方法与管控举措。
人工智能安全治理体系建设展望
当前，人工智能技术正在加速推动各行各业发展，战略机遇和风险挑战并存，面向产业的人工智能安全治理体系建设步入“快车道”。
（一）短期和中期，人工智能安全治理将朝着多维度、深层次的方向全面进阶，形成覆盖全链条的治理新格局
1. 供给层面，内容来源与真实性成为安全焦点
随着生成式人工智能在文本、图像、音频、视频等领域的规模化应用，人工智能生成虚假新闻、恶意内容批量生产等风险将愈发突出，服务供给方可从技术层面提升水印的不可见、抗篡改、高鲁棒性等特征，通过在人工智能生成内容的底层数据中嵌入唯一标识来实现内容创作者、生成模型、传播路径的全链条追溯。
2. 应用层面，技术透明度与可解释性成为治理重点
随着人工智能技术在医疗、金融、司法、自动驾驶等关键领域的深度应用， 其决策结果将直接关系到人的生命健康、财产安全与合法权益，可解释人工智能技术需要从实验室走向规模化应用。同时，服务供给方与应用方需要探索生成更直观的可视化报告，向用户呈现影响决策的关键特征与权重。
3. 管理层面，持续探索面向产业的人工智能管理体系
未来，需要持续探索以“计划、执行、检查和处理”（PDCA）模式为核心的管理模式。在计划阶段，结合企业自身业务需求与行业安全标准，制定明确的人工智能安全管理目标与实施方案。在执行阶段，依托智能化工具实现管理措施的落地。在检查阶段，建立常态化的安全审计与评估机制。在处理阶段， 形成问题整改与体系优化的闭环。推动管理体系迭代完善的螺旋式上升，最终构建起适配产业发展的安全管理长效机制。
4. 产业层面，搭建聚焦行业的安全评估测试体系
在现有通用标准基础上， 可探索由各行业主管部门、龙头企业、科研机构制定细分领域的安全评估标准。依托人工智能安全实验室、行业协会、第三方检测机构， 构建具备行业特色的测试环境与工具链。通过搭建聚焦行业的安全评估测试体系， 实现人工智能安全治理与行业需求的精准匹配， 为人工智能产业的规范化、安全化发展保驾护航。
（二）展望远期未来，人工智能或将超越工具范畴，迈向具有自主适应与策略演化能力的行动主体新阶段
人工智能技术促进生产力跃升，其引发的深层次人工智能安全风险也需要高度关注。在未来的人机共生阶段，人机关系界定、伦理边界划分、社会规则体系重构等方面也将面临考验。推进人工智能安全治理，必须将其置于构建人类命运共同体的高度来谋划落实。
一是筑牢技术根基， 从理论方法、算法模型、系统架构等方面推动“Safety by Design”技术研究。
二是推动制度创新，建立政府部门、企业主体、产业组织、社会公众多元共治的敏捷包容治理体系。
三是加强全球协作，参与国际交流、增进国际共识、推进国际合作，共同推动人工智能向安全、负责任、可持续的方向发展。
本文摘编自中国信息通信研究院《人工智能安全治理研究报告—推进人工智能安全治理产业实践框架（2025 年）》
执笔人：中国信息通信研究院人工智能研究所呼娜英、郭苏敏、徐鹏、石霖
Visits: 3