딥러닝 기반의 인공지능 모델에서 설명 가능성(explainability… | [7급 국가직 인공지능] 26년 1회차 기출문제 상세 페이지

설명 가능성 부족의 이유가 아닌 것은 학습 데이터의 부족이다.
설명 가능성 문제는 데이터 양이 아니라 내부 판단 과정을 사람이 해석하기 어려운 블랙박스 특성에서 비롯되며, 데이터 부족은 주로 과적합·일반화 성능 저하의 원인이다.
비선형적인 데이터 처리: 비선형 변환이 겹겹이 쌓여 입력과 출력의 관계를 추적하기 어렵다.
추상적 특징의 학습: 은닉층이 학습한 특징은 사람이 이해하는 개념과 직접 대응하지 않는다.
모델의 복잡성: 수많은 층과 파라미터가 상호작용해 개별 판단 근거를 분리하기 어렵다.