AI와 알고리즘적 구제

AI가 내린 결정, 뒤집을 수 있는가
보험이 거절되고, 대출이 막히고, 채용에서 탈락한다. 이유는 단 한 줄, “종합 심사 결과 부적합”이다. 점점 더 많은 삶의 결정이 AI에 의해 내려지지만, 그 결과를 바꿀 방법은 좀처럼 주어지지 않는다. 이 막막함에서 출발해 AI가 왜 그런 판단을 내렸는가를 묻는 데서 멈추지 않고 어떻게 하면 그 결과를 바꿀 수 있는가를 묻는다. 이 책이 제시하는 핵심 개념은 ‘알고리즘적 구제’다. 이는 설명을 넘어 행동 가능한 대안을 제시하는 접근으로, 당사자가 스스로 다음 선택을 할 수 있게 돕는 기술이다. 반사실적 설명과 DiCE 알고리즘을 통해 “무엇을 바꾸면 결과가 달라지는가”를 구체적으로 제시하며, 보험·의료·소상공인 데이터에 적용된 실제 사례를 통해 그 가능성을 입증한다. 동시에 알고리즘적 구제가 만능 해법이 아님을 분명히 한다. 불완전한 인과 이해, 구조적 불평등의 문제를 함께 짚으며 기술과 사회의 경계를 성찰한다. AI의 판정 앞에서 우리는 여전히 선택할 수 있는가. 그리고 그 선택을 가능하게 하는 것은 무엇인가.