윤리/안전중급
Explainability
설명 가능성 · Explainability / XAI
AI 모델이 왜 특정 결정을 내렸는지 인간이 이해할 수 있도록 설명하는 능력
상세 설명
Explainability (설명 가능성)
AI의 "블랙박스" 문제를 해결하려는 연구 분야입니다.
기법
- SHAP: 각 특성의 기여도 계산
- LIME: 개별 예측을 설명 가능한 모델로 근사
- Attention 시각화: 모델이 어디에 주목했는지
- Feature Importance: 중요한 특성 순위
왜 필요한가?
- 의료/법률: "왜 이 결정?"에 답해야 함
- 신뢰 구축: 사용자가 AI를 신뢰하려면 이유가 필요
- 규제 준수: EU AI Act 등
태그
#신뢰#투명성#규제