人工智能韧性研究现状及展望
摘要:人工智能(AI)技术正深度融入关键基础设施,其韧性对保障系统安全稳定运行至关重要。本文将AI韧性定义为稳健性、防御力、复原力和进化力4个核心维度,系统梳理AI韧性研究的现状,围绕上述4个核心维度综述国内外关键技术进展,并特别关注大语言模型等新技术带来的新挑战与新方案。在此基础上,研究提出了当前AI韧性发展面临的能力建设缺乏顶层规划、评测体系缺少真实场景、大模型韧性重视不足等突出问题。研究建议:加强战略引领,构建系统化韧性框架;建设高保真、多维度、可复现的韧性评测体系;重点挖掘大模型潜力,推动其在“训练-部署-运行-更新”全生命周期的多层级韧性能力提升,以构建更可靠、可信且持续的智能系统。
