기술 해설 · 2020.01.30
AI 예측의 confidence와 uncertainty를 구분하는 이유
Unsicherheitsbestimmung, Teil 1 – Uncertainties, auf die man sich verlassen kann
자료 개요
Maximilian Henne는 자율주행의 객체 인지를 예로 들어 AI의 높은 confidence가 올바른 예측을 보장하지 않는 이유를 설명합니다. 모델의 calibration, 적대적 입력, 학습 데이터에 없는 상황을 다루며, 안전 시스템이 예측의 신뢰성을 판단할 때 uncertainty 정보를 활용하는 연구 방향을 소개합니다.