研究论文 · 2026.10.07
ProbGuard：利用概率预测主动监控大语言模型智能体安全
ProbGuard: Proactive Runtime Monitoring for LLM Agent Safety via Probabilistic Prediction
资料概述
ProbGuard 从智能体轨迹学习符号马尔可夫模型，预测未来安全违规并触发干预，通过自动驾驶与家居智能体实验分析提前预警以及风险降低和任务完成的权衡。
原文作者提供的信息
以下为 arXiv 上作者提供的信息。
Proc. ASE'26, pages 1470-1482. ACM, 2026
Accepted by the 41st IEEE/ACM International Conference on Automated Software Engineering (ASE 2026)
版本: arXiv v4 — manuscript revision