앙상블러닝이나 딥러닝은 예측의 정밀도 측면에서 전통적인 통계적 예측 방법론을 앞서고 있다고 해도 과언은 아니다. 이러한 예측 정밀도에도 불구하고 AI를 알지 못하는 end-user에게 이들 모형의 예측이 ‘왜?’‘어떻게?’를 설명하지 못하면, 정밀도만 높을 뿐 모형의 예측 결과가 산업현장의 의사결정에 거의 도움을 주지 못하게 된다. XAI는 AI 모형과 end-user 간의 이러한 괴리를 메꿀 뿐만 아니라 AI 모형을 투명하고(transparency) 신뢰할만하게(trustworth) 만드는 도구이자 모형이다. 특히, XAI는 AI에 대한 전문지식이 없는 산업현장과 연구 분야에 있는 end-user도 AI 모형의 예측 결과를 쉽게 이해하고 진단할 수 있도록 한다.
이 책에서는 AI 모형을 적합시키고 예측했을 때, “이 예측모형에서 어떤 특성 변수가 얼마나 중요하지? 특정 표본의 예측 결과에 대한 각 특성 변수의 기여도는? text 데이터 또는 image 데이터인 경우, 어떤 단어(또는 단어모임) 또는 이미지의 어떤 부분이 예측 결과에 중요한 기여를 하지? 각 특성 변수값이 변화할 때 예측값은 어떤 방향으로 얼마만큼 변화하지? 특성 변수 간의 교호작용이 예측에 미치는 영향은? 특정 클래스에 소속되기 위해서 결정적인 역할을 하는 특성 변수값은? 텍스트는? 이미지는? 원래 클래스에서 다른 클래스 또는 목표 클래스로 변경하기 위해서는 어떤 특성 변수를 얼마만큼 변경해야 하지? 이미지의 어떤 부분을 어떻게 변화시키면 되지?”등의 여러 질문에 대한 답변을 통해, XAI의 역할과 기능을 체계적으로 정리하고 다양한 예제를 실습하도록 하여 XAI를 실제 문제에 응용할 수 있도록 하였다.
XAI의 또 다른 중요한 기능은 end-user의 언어로 AI 모형을 설명하는 데 있다. 이러한 설명은 AI에 대한 지식이 없더라도 모형의 구조를 이해하게 할 뿐만 아니라, 모형의 bias와 fairness를 점검하여 AI 모형의 특이현상 여부를 end-user의 관점에서 판별할 수 있도록 한다. 아무리 정밀도가 높더라도 bias가 있거나 fairness가 결여된 AI 모형은 실제 문제에 적용할 수 없으므로 적용 가능한 AI 모형인지에 대한 AI 모형의 신뢰도 점검은 필수적이다.
XAI를 효과적으로 처리할 수 있도록 ELI5, shap, lime, alibi, InterpretML 등의 라이브러리의 사용법을 자세하게 설명하였으며 실습에 필요한 코드와 데이터는 자유아카데미 홈페이지 자료실(www.freeaca.com)에서 download할 수 있도록 하였다. 각 라이브러리의 사용법을 자세하게 수록하였지만, 라이브러리별로 자료의 사전정리 과정이 매우 다르고 경우에 따라서는 매우 복잡하여 쉽게 익숙해지지 않을 것이다. XAI에 익숙해지는 가장 좋은 방법 중 하나는 이 책에서 제공한 각 XAI의 방법론에 대한 직관적인 설명을 먼저 이해하고 제공된 코드를 seed code로 하여 필요할 때마다 수정하여 사용하는 방법이다. 오자와 탈자가 없도록 반복하여 확인하였지만 발견되면 저자에게 알려주길 바란다.
