lime1 XAI(eXplainable Artificial Intelligence) 정의- 사용자가 인공지능 시스템의 동작과 최종 결과를 이해하고 올바르게 해석하여 결과물이 생성되는 과정을 설명 가능하도록 해주는 기술특징 1. 인공지능 블랙박스 문제 대응 2. 사용자 정보 활용 근거 제공 3. 적용 영역 확대 기반키워드- 개인정보보호법(자동화된 의사결정), LIME, SHARP, LRP, Zero shot learning 메커니즘 기술요소모델 비종속적(Model -agonistic; 블랙박스에 대한 귀납적 추론 기반) LIME - 설명 가능한 데이터 주변에서 희소 선형 결합을 통해 국부적으로 설명가능하게 만듦 BRL - 고차원 다변수 특징공간을 간단한 해석 가능한 조건문으로 나누어 복잡한 모델을 이해할 수 있도록 하는 방법 - 모델을 일련의 “if-the 조건문”으로 표현 SHAP - .. 2024. 9. 21. 이전 1 다음
