【编者按】
3月27日，以“人工智能+安全：数智驱动转型 安全赋能未来”为主题的2025BCS政企数字化转型及数据安全专题研讨会在湖北武汉举行。会上，中国互联网协会专家咨询委员会常务副主任、工业和信息化部原总工程师赵志国围绕“人工智能+”时代数智转型与安全保障做了主题演讲。赵志国提出，要坚持“四个面向”的战略定位，重点处理好内生安全和应用安全、国际安全和国内安全、有为政府与有效市场“三对关系”。针对当前挑战，赵志国建议：夯实AI安全技术底座，完善数据安全管理制度，加快安全产业创新发展，积极参与国际治理。
以下为演讲全文。
统筹推进“人工智能+”时代的数智转型与安全治理
赵志国
当今世界正处于由智能技术驱动的历史性变革浪潮中，人工智能作为引领新一轮科技革命和产业变革的战略性力量，正在深刻重构全球创新版图与发展范式。
聚焦“四个面向”，明确人工智能发展的战略定位
人工智能是新兴科技重大革新的成果，是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的“头雁”效应。推动人工智能发展要锚定“四个面向”的战略定位，抢抓历史性机遇，构筑我国竞争优势。
面向世界科技前沿，打造人工智能新高地。从科技发展规律看，没有面向世界科技前沿的前瞻性基础研究、引领性原创成果的重大突破，就很难产生开创性、颠覆性成果。当前，人工智能被视为科技创新的下一个“超级风口”，受到世界各国的高度重视。谁占据了人工智能的研发优势，谁就能引导经济和其他领域的战略优势。例如，ChatGPT全面加速了大模型的技术创新和产业应用步伐，进一步巩固了美国在相关领域全球竞争的领先地位；DeepSeek的开源策略吸引大量开发者参与优化，不仅促进了模型扩散和广泛应用，更通过社区贡献强化中国在AI伦理等领域的规则制定权。总体来看，我国人工智能发展成绩斐然，智能芯片、通用大模型、工业机器人等创新成果不断涌现，特别是在推理、数学等专项能力上，国内模型的追赶速度更为迅猛。但同时也要清醒认识到，我国基础模型技术仍处于跟随状态，对于原创技术、颠覆性路线的布局比较薄弱。我们必须锚定全球人工智能技术突破关键期，多维发力抢占制高点，抓住未来3-5年，让大模型算法、智能芯片研发、人机协同生态构建等核心领域实现从“跟跑”到“领跑”的跨越，推动我国实现从“应用创新高地”到“基础创新策源地”的跃升，为新一轮科技革命贡献“东方智慧”。
面向经济主战场，激活产业升级新引擎。我国经济已由高速增长阶段转向高质量发展阶段，正处于转变发展方式、优化经济结构、转换增长动力的攻关期，迫切需要新一代人工智能等重大创新添薪续力。人工智能具备典型通用技术特征，是培育和发展新质生产力的重要引擎。从数字产业化来看，人工智能发展有助于培育数字产业新发展势头。工业和信息化部有关数据显示，我国人工智能核心产业链上企业超4700家，覆盖从基础层、框架层、模型层到应用层的完整产业体系；专精特新“小巨人”企业中，属于人工智能产业领域的数量占比约为8%。从产业数字化来看，大模型产业为数实融合提供新动能。尤其在新型工业化领域，人工智能、5G与工业互联网融合，全方位、深层次赋能“智改数转网联”，已培育421家国家智能制造示范工厂，“5G+工业互联网”项目数超过1.7万个。从数据价值化来看，人工智能与数据紧密相连、相互支撑，大模型通过挖掘与分析海量数据中更深层次的模式和关联，激活“沉睡数据”的经济价值。但同时也要看到，人工智能赋能经济创新还存在一些堵点难点，比如与各行业融合仍处于早期阶段，应用生态较为单一，供需对接存在卡点等，需要进一步加强创新链和产业链对接，以科技创新引领产业创新，促进新旧动能平稳接续转换，加快发展新质生产力。
面向国家重大需求，筑牢安全发展新屏障。科技兴则民族兴，科技强则国家强。人工智能作为第四次工业革命的核心驱动力，其影响不仅限于经济效率的提升，更通过技术路径的分化、安全边界的重构、国际规则的争夺，重塑全球秩序。2022年底，随着OpenAI引爆AIGC浪潮，美国针对中国高科技的遏制更加聚集在AI领域，尤其是AI芯片的供给上。2025年1月，美国国防部、国会等部门等相继禁止在政府官方设备上使用DeepSeek，美国政府还调查DeepSeek是否通过第三国绕过美国的出口限制，采购对华禁售的英伟达GPU。此外，人工智能技术快速突破，也对网络空间安全带来前所未有的挑战，大模型加持下网络攻击手段不断升级，数据泄露与投毒、大模型“幻觉”等新型脆弱性凸显，AI嵌入更多关键核心领域威胁基础设施底层安全，迫切需要我们加快芯片、算法等“卡脖子”突破，努力实现关键核心技术自主可控，构建适配我国经济社会发展的大模型安全基座，确保人工智能健康有序发展。
面向人民生命健康，构建美好生活新图景。科技的本质是以人为本，提升人的生活品质，让人的生活更美好。人工智能的发展要坚持人民至上、生命至上，不断提升人民生活品质，满足人民日益增长的美好生活需要。坚持通过发展人工智能提高人民的幸福感，加强人工智能同医疗诊断、智能养老设备等民生需要结合，从保障和改善民生、为人民创造美好生活的需要出发，推动人工智能在人们日常工作、学习、生活中的深度运用，创造更加智能的工作方式和生活方式。坚持通过发展人工智能提高人民的获得感，利用智能化手段促进产业技术变革和产业模式转变，缓解不同地方经济发展不平衡不充分的问题；通过人工智能技术协助消除获取学习机会和资源的障碍，弥合数字鸿沟。坚持通过发展人工智能提高人民的安全感，将人工智能广泛应用于社会治理和公共服务，提升对公共安全事件和自然灾害的应急响应能力；利用人工智能赋能反诈、骚扰电话治理等能力提升，保障人民群众生命财产安全。
坚持辩证思维，统筹人工智能安全有序发展的三对关系
人工智能的发展和应用是把“双刃剑”，技术跃迁释放价值红利的同时也带来多方面风险挑战，并且，随着技术持续突破、产品应用爆发式增长，安全风险向多主体多环节蔓延，治理复杂性不断提升，需要统筹处理好三对关系，推动人工智能安全有序发展。
一、统筹内生安全和应用安全，推动技术硬实力与制度软约束协同治理
回顾人类科技发展史，我们可以清晰地认识到，一种技术从原始创新到产业化应用必然伴生着安全风险问题。人工智能作为一种典型的通用目的技术，既有其自身技术脆弱性导致的内生安全问题，也有其使用场景复杂性带来的应用安全问题，两者相互联系、彼此作用。
内生安全是风险的源头，治理依赖自身技术突破。现阶段人工智能技术创新仍然是以数据、算法、算力三要素的共同驱动，数据的依赖性、算法的复杂性、算力的集中性等内在属性，导致了数据投毒、算法黑箱、模型幻觉等特有安全风险。比如，很多大模型在数字比大小时存在幻觉，认为3.9小于3.11。智能网联汽车使用的人工智能算法易遭受对抗样本攻击，可能导致自动驾驶误判或失控。这些内生安全问题需要突破算法可解释性、系统自主可控等关键技术，才能实现相关风险消解。
应用场景是风险的场域，治理需要外部制度设计。人工智能应用安全往往是人工智能技术在应用于经济社会各领域的过程中，因不当使用甚至恶意利用而导致内在风险问题放大、泛化。例如，今年两会热议的深度合成技术，虽然技术设计本身是中立的，但是被恶意应用于生成的高仿真音视频、仿冒网站及智能诈骗程序，危害广大人民群众切身利益。根据奇安信的报告，仅2023年基于AI的深度伪造欺诈激增了30倍，基于AI的钓鱼邮件增长了10倍。人工智能应用安全风险无法单纯通过技术手段化解，更有赖于治理制度设计，进一步划定应用边界、明确权责关系、构建制衡机制。2025年3月，网信、工信、公安和广电等部门联合出台的《人工智能生成合成内容标识办法》，通过赋予相关服务提供者内容标识义务，实现信息内容的全流程追踪，既保障了技术应用活力，又防范虚假信息传播风险。
兼顾内生安全突破与应用安全规范，实现动态均衡。技术硬实力是内生安全治理的“手术刀”，可以通过技术突破直接修复系统缺陷，从根源上压缩风险发生概率，但无法解决价值观冲突、社会公平分配等非技术性风险。制度软约束是应用安全治理的“防护网”，可以通过规则设计约束技术应用边界，阻断风险传导链条，但依赖事后追责难以应对技术快速迭代。只有政府、企业与社会形成合力，推动技术硬实力与制度软约束协同治理，才能实现技术进步与风险防控的“动态均衡态”。
二、统筹国际安全和国内安全，推动开放合作与科技自立自强协同共进
安全是开放的而不是封闭的，人工智能安全发展既是国内治理课题，更是国际战略博弈焦点。统筹国际和国内，立足开放环境，推动高水平科技自立自强，支撑构建人工智能领域稳固、强大的国际话语权，方可打造国际国内相互促进的安全发展新格局。
加强开放合作，在融入全球中筑牢安全根基。开放合作是提升人工智能技术创新力和国际话语权的必由之路。融入全球创新网络，全方位、多层次吸引全球人才、技术、资金等创新资源，对突破技术封锁有着不可替代的作用。面对国际AI治理“碎片化”态势，我国积极支持联合国框架下的国际人工智能治理，提高发展中国家参与度，在全球人工智能安全有序发展中发出中国声音。
坚持自主创新，强化安全发展内在底座。自主创新是安全发展的根本保障，聚焦核心算法、芯片架构等关键领域攻坚突破，是防范技术断供、数据主权风险的必然选择。例如，在核心算法方面，面对国外大模型的迅速迭代，国内科技企业和研究机构抓紧自主研发，通义千问等国产大模型的快速发展增强了我国在自然语言处理、计算机视觉等领域的自主创新能力，提高我国人工智能发展的自主可控性。
以国内安全促国际合作，以开放合作促国内发展。人工智能安全发展需统筹开放合作与自主创新。一方面，以开放合作推动自主创新，在深度参与国际技术竞合与治理规则制定中，构建技术发展与治理的“中国方案”，实现从跟随者向引领者的跃升。另一方面，以自主创新支撑开放合作深化，聚焦我国数字基础设施、垂直领域技术应用等方向，构筑“非对称优势”，以技术产业实力赢得国际话语权。
三、统筹有为政府与有效市场，推动创新动能和安全能力同步提升
当今世界，国际科技竞争正日益演化为创新体系竞争，哪种创新体系能够从根本上解决创新资源和力量分散、重复、低效的问题，就更能适应现代科技攻关需要。政府和市场是推动人工智能安全发展的“两只手”，坚持有为政府和有效市场双轮驱动，统筹创新资源集中攻坚，才能抢占科技竞争制高点。
发挥有为政府作用，强化战略制度引领。人工智能发展涉及全局性、基础性、前沿性技术变革，风险的复杂性、外溢性突出，需要政府承担起统筹规划、规则制定、风险防控的重要责任。我国政府一直高度重视人工智能发展的引导和规划。2017年，国务院印发《新一代人工智能发展规划》提出加强前瞻预防与约束引导，最大限度降低风险，确保人工智能安全、可靠、可控发展。2023年7月，国家网信办联合多部门印发《生成式人工智能服务管理暂行办法》，对大模型风险治理提出要求。工信部在数据安全、人工智能产业综合标准化体系建设等方面也出台了多项政策规范，引导人工智能安全规范发展。
激发有效市场活力，推动技术创新和产业升级。市场是人工智能应用的主阵地，企业是技术突破的核心主体。市场需求为企业大胆探索AI应用场景提供动力，推动人工智能赋能各行各业转型升级，助力科技创新和产业创新融合发展。例如，工业互联网与AI大模型深度融合，引发从规划设计到研发生产的产业全链条变革。我国AI企业已经成为技术创新的主力军，以DeepSeek为代表的国内AI企业，凭借技术突破和商业模式创新，提升了我国在全球AI竞争中的地位。
人工智能安全发展是当前国家重大科技任务之一，部分关键核心技术仍受制于人，处在不进则退的关键阶段。要用好新型举国体制这一法宝，面向人工智能安全发展的重大需求，深化政府和市场协同发力，凝聚产学研用各方资源力量，共同攻克“卡脖子”的技术难题，走出一条符合国情、引领趋势的人工智能发展道路。
凝聚多方合力，把握人工智能安全发展的重点方向
夯实人工智能安全底座，筑牢安全可信发展根基。构建稳固的技术底座、模型底座和基础设施底座，是确保人工智能安全发展的基础。一是筑牢技术底座。聚焦深度学习框架、智能芯片等关键领域，集中突破可信算法、鲁棒性增强等核心技术，加快自主创新步伐。构建防范对抗攻击的防御体系，提高网络安全防御的主动性和精准性。二是筑牢模型底座。构建通用与专用相结合的模型体系，针对不同安全场景需求，开发高适应性、高准确性的模型。建立覆盖训练、部署、应用的全流程安全评估与优化机制，加强模型的安全审计和验证工作，确保人工模型的稳定性和可靠性。三是筑牢基础设施底座。加快构建安全可靠、绿色高效的智能算力基础设施，建设安全可控的算力调度平台，强化芯片、服务器等底层硬件的自主保障能力，持续升级智能化安全监测预警系统、应急响应系统等。
完善数据安全体系，强化全链条数据安全保障。数据是人工智能的“血液”，随着DeepSeek等大模型平权浪潮的兴起，人工智能从“百模大战”走向“应用战场”，确保数据安全是人工智能安全发展的重中之重。一是完善数据安全管理制度。以数据安全法律政策为基础，结合人工智能在重点行业领域应用情况，制定人工智能数据安全保护政策规范和标准指引，细化数据安全保护要求。二是创新数据流通安全机制。推动隐私计算、区块链技术在数据要素市场的深度应用，构建“数据可用不可见”的新型交易范式，在保障权属清晰的前提下推动数据要素安全流通。三是构建数据全生命周期防护体系。建立覆盖采集、存储、使用的动态监测体系，提升数据跨境流动风险预警能力，构筑防泄露、防篡改、防滥用的安全屏障。
加速发展安全产业，保障产业链供应链安全稳定。人工智能安全发展既依赖于稳定高效的产业链供应链支撑，又对提升产业链供应链韧性具有重要作用，必须加快构建自主可控、稳固可靠的安全产业体系。一是加强关键核心安全技术的攻关。鼓励企业和科研机构聚焦智能算法漏洞检测、深度伪造防御、隐私计算等“卡脖子”领域，加大研发投入力度，培育具有自主知识产权和核心竞争力的安全产品与解决方案。二是加强产业链上下游协同合作。建设培育安全产业园区，汇聚不同企业在技术研发、成果转化、应用落地等方面的集群优势，打造“安全技术研发-产品孵化-场景应用”全链条生态，提升产业整体竞争力。三是强化产业安全保障，建立完善的安全产业标准体系，加强对安全产品的质量检测与认证，确保产品符合相关安全规范和标准。四是加快安全人才培养，设立“AI+安全”专项人才计划，通过政策倾斜与资金支持，吸引全球顶尖人才参与关键领域技术攻坚。
积极参与国际治理，贡献人工智能安全发展中国方案。人工智能治理攸关全人类命运，是世界各国面临的共同课题，应积极参与和引领国际合作治理。一是推动建立人工智能能力建设平台。落实联合国未来峰会成果，深化人工智能产供链国际合作，开展基础设施建设、研发和应用合作，协助发展中国家人才培养和教育培训，促进人工智能技术公平获取和安全使用。二是协助发展中国家加快人工智能治理能力建设。推动安全技术开源开放共享，积极分享在人工智能测试、评估、认证与监管方面的政策与技术实践。通过国际标准化组织（ISO）、国际电工委员会（IEC）和国际电信联盟（ITU）等平台，围绕关键术语等开展标准研究，共同探索国际互认的测试评估方法。三是推进公平普惠发展。推动人工智能数据语料库平等多样，消除种族主义、歧视和其他形式的算法偏见，促进、保护和保全语言和文明多样性。
（作者系中国互联网协会专家咨询委员会常务副主任、工业和信息化部原总工程师）