近年来，人工智能技术快速发展推动了新一轮技术革命和社会变革，但也给网络安全带来了新的威胁和挑战。本文试分析人工智能快速发展背景下网络安全的发展趋势、面临的挑战，并探讨如何在法治轨道上筑牢人工智能安全防线。
当今社会，智能化浪潮席卷全球，ChatGPT、DeepSeek等生成式人工智能技术快速发展，这为构建国家安全体系、推进国家治理能力现代化、建设更高水平平安中国提出诸多挑战。如何以习近平法治思想为指引，构建网络空间的法治化发展路径，成为保障中国式现代化进程的重要课题。
人工智能技术快速发展背景下的网络安全态势
中国互联网络信息中心2025年7月21日发布的第五十六次《中国互联网络发展状况统计报告》显示，截至2025年6月底，我国网民规模已达11.23亿人，互联网普及率79.7%，人工智能技术的快速发展让网络安全面临多重挑战，呈现三大新态势：
一是新旧网络安全威胁交织。在人工智能技术加持下，传统网络攻击呈现智能化、自动化、低成本化发展趋势：攻击者可利用生成式人工智能制作高度逼真的“钓鱼”邮件、虚假视频或音频，模拟合法身份诱导用户泄露信息；人工智能驱动的攻击工具可自动扫描网络漏洞，大幅扩大攻击窗口；攻击的智能化、自动化大幅降低资源消耗，实现低成本高收益入侵。
二是信息传播安全风险叠加。如今，普通网民不必通过电视台、报刊等专业媒体获取信息，仅凭一部智能手机，便能独立完成信息的创作、发布与传播，这使得网络安全风险呈现叠加效应。同时，“深度伪造”技术可对图像、音频、视频等内容进行高精度篡改与伪造，比如2023年2月，杭州市民利用ChatGPT伪造的“杭州市明日取消尾号限行”政府通告，扰乱社会公共秩序。同时，人工智能聊天工具迎合用户提问倾向，加剧人们的信息偏见与认知“茧房”。
三是数据泄露引发的安全问题时有发生。2025年8月印发的《国务院关于深入实施“人工智能+”行动的意见》提出，推动人工智能与经济社会各行业各领域广泛深度融合，重塑人类生产生活范式，促进生产力革命性跃迁和生产关系深层次变革，加快形成人机协同、跨界融合、共创分享的智能经济和智能社会新形态。但人工智能技术与应用快速发展的同时，数据安全风险也呈现出新的趋势：一方面，数据安全风险呈现泛化态势。有的黑客利用技术漏洞、网络“钓鱼”、“深度伪造”技术等冲击互联网安全。另一方面，数据风险类型增加。有的黑客通过污染训练数据误导人工智能系统，进而引发算法偏见、歧视等问题，例如，金融领域人工智能系统数据偏差可能加剧信贷不公等。
构建网络安全法治体系面临的新挑战
党的二十届四中全会审议通过的《中共中央关于制定国民经济和社会发展第十五个五年规划的建议》明确提出，加强人工智能治理，完善相关法律法规、政策制度、应用规范、伦理准则。网络安全已成为最复杂、最现实、最严峻的非传统安全问题之一。
现有立法亟待进一步完善。我国现有网络安全法律体系虽逐步健全，但相关法律法规的落实存在一定过渡期，在应对快速发展的人工智能风险、打击相关违法犯罪、界定侵权责任等方面仍显滞后。自2017年发布《新一代人工智能发展规划》以来，我国陆续出台一系列重要的政策文件法律法规，但目前尚未出台专门规制人工智能的法律，且数据安全法、个人信息保护法等与网络安全相关的法律还没有制定实施条例，其难以有效转化为实际防控成效。
司法裁判基准有待进一步明确。近年来，涉人工智能的新型案件数量大量增加，涵盖知识产权侵权、网络侵权责任、网络服务合同等多个案由。例如，2025年9月，北京互联网法院发布的八起涉人工智能典型案例，明确了“AI文生图”的法律属性及权利归属的认定、自然人声音权益可及于AI生成声音、未经授权对包含他人肖像的视频进行“AI换脸”处理构成对他人个人信息权益的侵害等裁判规则。由此可见，司法实践对于涉人工智能案件裁判基准的需求愈发迫切。
缺乏技术验证机制。虽然部分人工智能安全的前沿技术取得一定进展，但从实验室走向应用场景的“最后一公里”尚未完全打通，难以形成“发现问题→解决问题→持续改进”的良性循环。一方面，人工智能驱动的违法犯罪工具欺骗性更强，如犯罪分子利用生成式人工智能伪造身份、号码等信息，大大增加了案件侦破的难度；另一方面，当前，AI聊天机器人被用于“黑灰产”引流，深度伪造技术被应用于网络诈骗，而检测深度伪造等需依赖专业技术支持，这使得监管机关难以及时进行监督与问责。
治理合力难以有效形成。人工智能技术的网络安全往往需要跨部门、跨领域治理，但各部门职能交叉、数据共享不畅、治理思路不统一等问题严重制约治理效能提升，也使得在实践中对技术企业形成的约束有限。党的二十大报告提出，健全共建共治共享的社会治理制度，提升社会治理效能，这一要求在人工智能技术快速发展的情况下显得尤为重要。从共建角度看，目前，有关网络治理仍主要依赖于政府主体的强制式管制，社会协同与公众参与方面有待进一步加强。从共治角度看，职能部门、行业组织、企事业单位及公民通过有效协作解决网络犯罪治理问题有待进一步探索。从共享角度看，公众共享网络犯罪治理善治成果的机制有待进一步普及。
在法治轨道上共筑人工智能安全防线
随着网络空间的复杂性和不确定性不断增强，网络攻击、数据泄露、新型关键信息基础设施威胁等事件时有发生。因此，破解人工智能安全治理困局，需以系统性思维统筹布局，构建具有中国特色的人工智能安全治理体系。
一是强化政策法规“立改废释”。中国信息通信研究院2025年10月发布的数据显示，截至2025年9月，我国人工智能企业数量超5300家，全球占比达到15%，已形成覆盖基础底座、模型框架、行业应用的完整产业体系。人工智能产业快速发展也伴生了诸多新型风险，亟须法治予以有效引导和规范。自2026年1月1日起施行新修订的《中华人民共和国网络安全法》，已在法律层面明确提出促进人工智能健康发展，这有效弥补了人工智能领域基础性法治设计的短板，积极回应社会对人工智能规范发展的普遍关切，将为良好网络生态构建奠定制度基础。
二是健全安全标准推广应用。当前，人工智能生成或合成内容，引发的虚假信息传播、歧视偏见、隐私泄露、侵权等问题，不仅威胁公民生命财产安全，也威胁国家安全、意识形态安全和伦理安全。国家市场监督管理总局介绍，截至2025年9月，我国已发布人工智能国家标准30项，另有84项标准正在加紧制定中，实现了对基础软硬件、关键技术、行业应用与安全治理等核心板块的全链条覆盖。这为产业提供了具体明确的技术规范，应进一步强化人工智能在算法设计、模型训练和优化、提供模型服务等环节的伦理规制，通过训练数据筛选、输出校验等方式，防止产生歧视。
三是聚焦监管技术创新研究。新修订的网络安全法明确规定，加强人工智能风险监测评估和安全监管。建议以网络安全法、数据安全法、个人信息保护法等法律法规为核心，积极运用大数据等先进技术手段，动态调整监管策略，提升人工智能技术监管的精准性与时效性。例如，通过国家级漏洞共享平台等机制，实现从漏洞发现、分析、通报到修复、验证的全链条闭环管理，将技术能力系统性转化为治理效能。
四是创新网络安全协同治理机制。网络安全为人民，网络安全靠人民，维护网络安全是全社会共同责任。人工智能治理必须坚持发展和安全并重。建议依托专项治理行动，深入落实人工智能生态化打击治理思路，通过机制固化、措施严密、打击精准，实现“打、清、管、宣”多措并举。同时，大力推动跨部门联合检查与协同执法，减少多头监管与重复检查，提升政府治理效能。加强部门间安全风险信息与治理资源的实时共享，真正构建起多方参与、权责清晰、运转高效的网络安全综合治理格局。
探索人工智能安全治理之路，任重而道远。新征程上，应切实践行“以人为本、智能向善”的理念，与广大人民群众一道，依法防范、制止和惩治网络攻击、网络入侵、网络窃密等违法犯罪行为，坚决维护我国网络空间主权、安全、发展利益。
（作者单位：邯郸职业技术学院）
