Explainability (설명 가능성)

AI의 "블랙박스" 문제를 해결하려는 연구 분야입니다.

기법

• SHAP: 각 특성의 기여도 계산
• LIME: 개별 예측을 설명 가능한 모델로 근사
• Attention 시각화: 모델이 어디에 주목했는지
• Feature Importance: 중요한 특성 순위

왜 필요한가?

• 의료/법률: "왜 이 결정?"에 답해야 함
• 신뢰 구축: 사용자가 AI를 신뢰하려면 이유가 필요
• 규제 준수: EU AI Act 등