연구논문 · 2026.10.07
ProbGuard: 확률 예측을 이용한 LLM 에이전트의 선제적 런타임 안전 모니터링
ProbGuard: Proactive Runtime Monitoring for LLM Agent Safety via Probabilistic Prediction
자료 개요
실행 흔적에서 학습한 Markov 모델로 향후 안전 유지 확률을 추정하고 임계값에 따라 개입합니다. 자율주행과 가정용 에이전트에서 사전 위험 경고와 개입에 따른 임무 완수의 상충관계를 평가합니다.
원문 저자 기재 정보
arXiv의 저자 기재 정보입니다.
Proc. ASE'26, pages 1470-1482. ACM, 2026
Accepted by the 41st IEEE/ACM International Conference on Automated Software Engineering (ASE 2026)
판본: arXiv v4 — manuscript revision