두 얼굴의 신기술: AI 딜레마

“AI 시대에 우리는 무엇을, 어떻게 판단해야 하는가?”

AI를 활용하고 있지만, AI를 모르는 당신에게,
AI의 작동 원리를 제대로 알고 책임감 있게 비즈니스에 적용하는 방법을 알려주는 책!

생성형 AI의 등장은 기술의 대중화를 앞당겼다. 챗GPT, 클로드, 제미나이 등은 이제 전문가의 전유물이 아닌, 누구나 활용하는 일상 기술이 됐다. 그러나 기술의 확산 속도만큼 불안도 커지고 있다. 특히 직장인들은 실직 위협과 AI의 오류 가능성, 산업 구조의 재편에 대한 현실적인 걱정을 안고 있다.
『두 얼굴의 신기술: AI 딜레마』는 이러한 시대적 불안을 정면에서 다룬다. 이 책은 단순한 기술 설명서나 과장된 미래 예측서가 아니다. AI의 구조적 한계, 윤리적 위험, 사회적 영향력을 과학적이고 철학적으로 분석하며, 무엇보다 중요한 질문—AI를 어디에, 어떻게 써야 하는가—에 명확한 기준을 제시한다.
저자들이 제안하는 ‘AI 위험 관리 프레임워크’는 정밀도, 환경, 설명 가능성이라는 세 가지 기준을 중심으로, AI를 적용해도 되는 분야와 적용해서는 안 되는 분야를 구분할 수 있도록 돕는다. 광고, 번역처럼 오류 허용 범위가 넓은 분야와 달리, 신용평가, 의료 진단, 범죄 수사 등은 작은 오류도 심각한 결과를 초래할 수 있다. 이 책은 그런 위험 요소를 실제 사례와 함께 설명하고, 적절한 대응 전략과 윤리적 판단 기준을 함께 제시한다.
기술에 대한 맹신이나 공포가 아닌, 비판적 시각과 실질적 기준을 원하는 독자에게 꼭 필요한 책이다.

“AI 시대, 우리가 던져야 할 진짜 질문은 기술이 아니라 인간이다.”

AI를 안 쓰는 사람은 있어도, 한 번만 쓴 사람은 없을 것이다. 그만큼 AI는 우리 일상에 없어서는 안 될 중요한 존재가 됐으며, 누구나 AI를 개발하고 활용할 수 있게 됐다. 우리는 AI를 통해 큰 수익을 내길 바라며, AI를 이용해 더 나은 세상을 살길 바란다.

하지만 모든 것에 이면이 있듯, AI에도 이면은 있다. 즉, AI의 한계다.
많은 사람은 AI가 마치 사람처럼 정보를 모으고, 나름의 판단을 한다고 생각하지만, 실제로는 아니다. AI는 그저 수많은 데이터를 사용해, 특정한 패턴을 찾아 답을 내놓도록 학습을 받은 것뿐이다. 이런 일련의 일들 후에도 AI는 자신이 무슨 일을 하는지조차 모르며, 정보의 실제 의미를 이해하지 못할 수 있다. AI는 그저 사람이 지시한 일을 ‘흉내’ 낸다.

이 책을 읽는 독자들은 아마, 이 책을 덮고 난 뒤 다음과 같은 생각을 하게 될 것이다.

•경외감: “AI가 이런 일도 해낼 수 있다니 놀랍다.”
•경계심: “AI가 자신이 무엇을 하고 있는지, 왜 하는지도 모른다니 놀랍다.”

그런 점에서 이 책은 지금 우리 사회가 직면한 AI에 대한 현실적 고민을 가장 실용적이면서도 철학적인 시각으로 풀어낸다. 그렇다고 해서 기술을 맹목적으로 찬양하거나, 과장된 공포로 몰아가지 않는다. 대신, 기술의 진짜 가능성과 숨겨진 한계를 동시에 바라보며, AI가 인간을 대체하는 존재인가, 아니면 인간의 판단과 책임을 보완하는 도구인가라는 근본적인 질문을 던진다.
또한 실제 사례를 풍부하게 소개하며, 독자들이 쉽게 이해할 수 있도록 명쾌한 개념 정리를 제시하고, 곳곳에 도표와 시각 자료를 배치해 복잡한 이슈를 쉽고 명쾌하게 풀어낸다. 그 때문에 인공지능에 대해서 잘 모르는 사람도 쉽게 읽을 수 있다.
지금 우리가 해야 할 일은 기술을 무조건 받아들이거나 거부하는 것이 아니다.
우리가 마주한 이 ‘두 얼굴의 신기술’을 정확히 이해하고, 올바르게 다루기 위한 기준을 세우는 것이다. 그 출발점이 바로, 이 책이다.

“AI가 인간처럼 말한다고 해서, 인간처럼 생각하는 것은 아니다.”

하버드대 교수 클레이튼 크리스텐슨의 연구에 따르면, ‘기술이 산업에 미치는 영향은 기존의 상태만큼 좋지는 않더라도 비용 측면에서는 상당한 절감 효과를 가져온다’고 한다. 즉, AI가 불완전하더라도 비용 절감에는 큰 도움이 된다는 뜻이다.
실제로 AI 시스템의 정밀도와 신뢰성이 떨어지더라도, 비용 절감이라는 장점만으로 기존 시스템을 대체할 수 있을까? 단지 비용을 절감하고, 빠르게 출력값을 낸다는 이유로 편향된 결정을 하는 AI를 도입하는 것이 사회에 큰 문제가 되지는 않을까?

이 책에서는 이러한 사람들의 의문에 명쾌한 답을 제시한다. 바로 ‘AI 프레임워크’를 통해서다. ‘AI 프레임워크’는 AI의 입력 제어, 정밀도, 결정 근거의 필요성을 기준으로 AI에 적용할 수 있는 분야와 적용할 수 없는 분야를 나눈다. 그리고 이를 쉽게 설명하는 예시들을 나열해, 사람들이 ‘AI 프레임워크’에 대해 완벽하게 이해할 수 있도록 돕는다.

예를 들어, 전쟁에서 AI가 발포를 결정하는 상황을 떠올려 보자. 이때 우리는 AI에게 이 중요한 것을 맡겨야 할까? 돈과 관련된 사항에서는 어떨까? 금융기관에서 대출 승인을 해주는 업무를 AI에 맡길 수 있을까?
제조업에서 조립 라인을 시각적으로 검사하는 경우는? 자율주행 차량은?
범죄자를 잡기 위한 도구로는? 다양한 마케팅 광고의 도구로서는?

당신이 이 모든 물음에 답을 제대로 할 수 있다면 이 책을 읽을 필요가 없다.
하지만 제대로 답을 하지 못한다면 이 책을 읽어야 한다. AI는 점점 더 우리 삶에 깊숙이 침투할 것이고, 우리는 원하든 원하지 않든, 그들과 공생해야 하기 때문이다.


“기술이 인간을 재정의하는 시대, 우리는 AI를 어떻게 받아들여야 할까?”

새로운 기술의 발견은 항상 예기치 못한 결과를 가져온다. 핵무기를 발명한 오펜하이머가 자신의 발명품이 전쟁에 쓰이자 후회했듯이, 만병통치약으로 쓰인 ‘라듐’이 알고 보니 사람에게 해로운 방사선 물질이었듯이, 좋은 일에는 나쁜 일이 따라올 때가 많다.

AI 또한 그렇다. 맨 처음 AI는 세상을 바꿀 혁신과도 같았으며, 챗GPT가 공개됐을 땐 ‘기계가 인간처럼 행동할 날이 얼마 남지 않았다’며, 과학의 발달을 극찬했다. 그러나 이후 카오스GPT가 등장했고, 그 기계가 처음 취한 행동은 가장 강력한 무기를 찾는 것이었다. 그리고 그 과정에서 실제로 구소련의 핵무기 정보를 발견하고, 폭탄 관련 정보를 수집하기도 했다.

이에 사람들은 두려움을 느끼기 시작했고, 점점 AI에 제한을 두자는 목소리가 나왔다. 그리고 이 사건의 연장선이 돼, AI의 신뢰도 문제, 프라이버시 침해 문제 등으로 현재 사회적인 이슈가 되고 있는 상태다. 이런 상황에서 우리는 어떻게 AI를 현명하고 책임감 있게 사용해야 할까?

명확한 정답을 안다면 그건 ‘신’일 것이다. 하지만 그렇다고 해서 아무 행동도 하지 않으면 사회는 올바른 길로 가지 못한다. 이 책은 이런 점을 역설하며, AI 같은 신기술을 제대로 교육하고, 위험을 관리하며, 기업과 정부 기관의 거버넌스를 통해 제대로 된 가이드라인을 만들자고 한다.

또한, 레이시(RACI) 프레임워크를 통해. 각 조직들의 구체적 책임 소재를 분명히 하며, 인공지능 ID(AII)를 만들어 AI 계정의 모든 행동을 공개적으로 확인할 수 있게 하도록 촉구한다. 인터넷에 접속하는 우리들이 ID를 만들듯이, AI 계정 또한 ID를 보유해 투명성을 부여해야 한다는 것이다.

물론, 이런 일들로 AI의 어두운 면이 사라지지는 않겠지만, 이 정도만 구축하더라도 우리는 더 안전하고 나은 세상을 살 수 있다. 그리고 이것들은, AI 관련 업계뿐만 아니라, 우리 모두가 외치고 원하는 것들이다. 더 밝은 미래를 위해 이 책을 읽어보라. 어떤 어려움도, 그것을 이길 힘은 당신 안에 있으니까.

◈ 책 속으로 ◈

"이제는 프로그래밍을 전혀 모르는 사람도 코드를 작성하지 않고도 자신만의 AI 프로그램을 만들 수 있는 ‘노 코드(no code)’ 방식이 생겼다. 프로그래머들 역시 이미 만들어진 다양한 AI 도구들을 활용하면 복잡한 수학 지식 없이도 여러 프로그램에 AI 기능을 추가할 수 있게 됐다. 더욱이 아마존, 구글, 마이크로소프트, 오픈AI 같은 큰 기업들은 누구나 신용카드로 결제하고 몇 번만 클릭하면 자사의 클라우드에서 AI를 쉽게 사용할 수 있도록 서비스를 제공하고 있다."
- p.26 ‘서론’에서

“컴퓨터, 즉 AI의 관점을 더 깊이 이해하기 위해서는 또 다른 중요한 차이점을 알아야 한다. 그건 바로 AI는 우리처럼 세상을 직접 경험하지 않는다는 것이다. 대신, 인간의 언어와는 완전히 다른 기호들로 구성된 문서를 통해서만 정보를 받아들인다. 따라서 이러한 낯선 세계에서 올바른 답을 찾기 위해서는 오직 주어진 문서 속에서 반복되는 패턴을 발견하고 학습할 수밖에 없다.”
- p.53 ‘1장. 인공지능은 인간 지능이 아니다’에서

"UCLA의 연구 사례는 AI가 데이터 편향성으로 인해 얼마나 심각한 의료 불평등을 초래할 수 있는지를 잘 보여주는데, 한 예로 라임병의 경우, 학습 데이터가 백인 환자의 피부 사진에만 편중돼 있어 다른 피부색을 가진 환자들의 증상을 제대로 진단하지 못하는 문제가 발생했다. 이로 인해 흑인 환자들은 백인 환자들에 비해 진단이 늦어지고, 결과적으로 관절염과 같은 심각한 합병증이 발생한 후에야 진단을 받게 되는 심각한 의료 격차가 발생한 것이다. 이는 AI가 데이터의 연관성만을 학습해 편향된 결과를 도출하는 경계 사례의 전형적인 예시이다."
- p.120 ‘4장. 경계 사례, 압축, 그리고 연관 지능의 한계’에서

"GPT-3는 두 자릿수 계산도 꽤 잘한다. 덧셈은 100%, 뺄셈도 거의 비슷한 정확도를 보이는데, 이때 학습해야 할 두 자릿수 조합은 4만 개도 안 된다. 이건 AI가 수학을 제대로 이해했다는 뜻이 아니다. AI는 그저 덧셈과 뺄셈표를 외운 것뿐이다. 이는 자릿수가 늘어날수록 확연히 드러나는데, 세 자릿수에서는 정확도가 90%로 떨어지고, 네 자릿수에서는 30% 정도로 크게 떨어지기 때문이다. 게다가 다섯 자릿수의 경우 가능한 모든 조합을 한 번씩이라도 보려면 수백억 개의 예시가 필요한데, 이때는 정확도가 10% 정도밖에 안 된다."
- p.135 ‘4장. 경계 사례, 압축, 그리고 연관 지능의 한계’에서

"AI의 편향성은 우리가 쉽게 해결할 수 없다는 점을 반드시 인식해야 한다. 그렇기에 AI 편향 대책을 마련할 때는 우리가 발견하지 못하고, 해결할 수도 없는 숨겨진 편향이 존재할 수 있다는 점을 항상 고려해야 한다. 이러한 상황에서 우리가 던져야 할 핵심 질문은 두 가지다. “AI가 편향돼 잘못된 판단을 내릴 때 어떤 결과가 발생하는가?”, 그리고 “이러한 위험을 감안하더라도 AI 사용이 가치가 있는가?”
-p.285 ‘10장. AI의 사례 연구: 얼굴 인식, 인력 채용, 그리고 광고 분야의 편향성’에서

"우리는 이 책을 읽는 당신에게 이 주제에 걸맞은 마지막 말을 전하고 싶다. 장기적으로 AGI로 나아가는 길은 신중하게 탐색 돼야 하며, 주체성, 안전성, 유용성의 균형을 잡아야 한다는 것을 말이다. 단기적으로 AI는 막대한 혜택을 제공할 수 있지만, 동시에 AI에 대한 더 폭넓은 이해가 필요하며, 이때 AI의 막대한 잠재력이 안전하게 발현될 수 있도록 책임 있는 사용을 위한 프레임워크를 구축해야 한다."
- p. 308 ‘11장. AI라는 딜레마’에서