핸드오버

<핸드오버> 우리는 이미 300년간 AI와 살아왔다!

국가와 기업은 우리 삶을 어떻게 지배해 왔는가?
AI는 앞으로 우리 사회를 어떻게 재구성할 것인가?

국가와 기업의 작동 개념을 AI 알고리즘에 비유한 흥미로운 책

★ 영국 대표 정치학자의 신간 ★
★ 송길영 마인드 마이너 추천 ★

우리는 인류와 AI의 공존을 말한다. 곧 우리처럼 생각하는 기계와 마주하게 될 것이라고 말이다. 그렇게 초인공지능이 출현하는 시점을 우리는 ‘특이점’이라고 부르며 그때가 언제 올지 기대 반, 우려 반으로 기다리고 있다. 하지만 우리에게 이 같은 경험은 처음이 아니다. 우리는 이미 그 특이점을 한번 겪었다.
우리는 300년 전부터 인공적인 메커니즘과 함께 살아왔다. 바로 ‘국가’와 ‘기업’이라고 하는 ‘실행하는 기계’다. 인간적인 한계로 인해 인류는 스스로 작동하는 ‘인공 대리인’을 만들었고, 이 인간의 능력을 뛰어넘는 인공 대리인은 오랫동안 그 생명을 이어오며 현대 세계를 구축했다. 미국과 영국부터 동인도회사, 페이스북, 알리바바에 이르기까지 국가와 기업은 우리를 더 부유하게, 더 안전하게, 더 건강하게, 더 능력 있게 만들었다. 하지만 세계 전쟁과 환경 파괴 등의 문제를 촉발하기도 했다.
이제 우리에게 ‘생각하는 기계’인 AI까지 던져졌다. 국가와 기업이 지배하는 세계에 로봇이 진입하고 있는 것이다. 이들은 모두 ‘기계적인 속성’을 가졌다는 공통점이 있다. 그렇다면 이 인위적인 존재들끼리 결합하면 우리는 어떻게 될까? 이들이 우리를 위해 일하게 될까, 아니면 우리가 이들을 위해 일하게 될까? 우리는 과연 이들을 통제할 수 있을까?
국가와 기업의 작동을 AI 알고리즘에 비유한 흥미롭고도 놀라운 이 책은 우리가 현재 안고 있는 질문에 대한 답을 인류 역사를 통해 조망하며, 결국 인간 같은 기계가 지배하는 세계에 살게 될 우리에게 지금 필요한 미래 담론을 제시한다. 이를 통해 우리는 지금 우리가 가져야 할 자세가 무엇인지, 앞으로 어떤 미래를 그려가야 할지 진지하게 모색해 볼 수 있을 것이다.


초월적 대리인 국가와 국가의 모방자 기업은
어떻게 탄생했는가

바야흐로 AI의 시대다. 연일 AI와 관련된 상품 광고가 넘쳐나고 챗GPT는 이제 혼자서 책을 쓸 경지에까지 올랐다. 우리는 곧 다가올 AI 혁명과 그로 인해 변화될 세상을 ‘특이점’이라고 부르며 그때가 언제 올지 기대 반, 우려 반으로 기다리고 있다.
하지만 영국을 대표하는 정치학자, 케임브리지대학교 정치학 교수 데이비드 런시먼은 다소 다른, 특이한 주장을 펼친다. 우리는 이미 300년 동안 AI와 살아왔다는 것이다. 바로 ‘국가’와 ‘기업’이라고 하는 ‘인공 대리인’으로, 런시먼에 의하면 국가와 기업도 로봇이기 때문이다. 인간적인 한계로 인해 인류는 기계적이지만 스스로 작동하는 인공 대리인을 만들었는데, 이 인공 대리인이 작동하는 원리는 현재의 로봇 또는 AI와 다를 바가 없다는 것이다.


복제성, 긴 생명력,
인간이 감당할 수 없는 책임을 질 수 있는 능력

런시먼은 국가와 기업의 특징으로 크게 세 가지를 꼽는다. 복제성, 긴 생명력, 인간이 감당할 수 없는 부담과 책임을 질 수 있는 능력이다. 이는 AI의 특성이기도 하다.
현대의 국가와 기업은 저마다 다른 모습이긴 해도 큰 틀에서는 비슷한 시스템으로 움직인다. 그런 면에서 이들은 복제가 가능하며 확장 가능성 또한 매우 크다. 다국적 기업의 경우는 국가보다 훨씬 더 넓은 영역에서 활약하며 영향을 미치기도 한다. AI 역시 마찬가지다. 오히려 이들의 복제성과 확장성은 국가와 기업을 뛰어넘는다.
또한 현대의 국가와 기업은 인간보다 더 오래 산다. 이것이 우리가 국가와 기업이라는 인공 대리인을 만든 이유이기도 하다. 자연인인 인간은 언젠가는 병들고 죽게 마련이다. 하지만 국가와 기업은 아니다. 특히 국가는 특별한 이유가 없는 한 소멸하기가 대단히 어렵다. 그렇기에 인간의 의사결정이 세대를 넘어 지속될 수 있는 것이다. 기업 역시 인간이 자신의 일을 더 오래, 더 조직적이고 일관된 방식으로 할 목적으로 설립되었다. AI 또한 수명이 유한한 인간보다 오래 존속할 수 있다.


우리는 AI와 공존할 수 있을까?
그렇다면 우리 삶은 더 좋아질까, 아니면 나빠질까?

무엇보다 현대 국가와 기업의 가장 큰 특징은 ‘인간이 감당할 수 없는 부담과 책임을 질 수 있다’는 점이다. 대표적인 것이 부채와 전쟁이다. 국가와 기업은 모두 큰 금액의 부채를 장기적으로 감당할 수 있다. 싸게 빌려 오래오래 갚을 수 있는 것이다. 바로 그 때문에 국가와 기업은 대출받기에도 용이하다. 무엇보다 국가는 부채를 바탕으로 전쟁을 수행할 수 있다. 이러한 살상 능력은 개인이 짊어질 수 있는 것이 아니다.
전쟁과 장기적 부채를 부담할 수 있는 국가의 능력은 곧 혁신으로 이어졌다. 우리는 흔히 기술 혁신은 기업의 몫이라고 생각한다. 하지만 수많은 혁신 기술이 전쟁을 통해 가능해졌다. 국가는 전쟁에서 이기기 위한 기술 및 제품을 연구하고 발명하는 데 아낌없이 투자할 수 있기 때문이다. 이 세상에 국가보다 막대한 자원을 쏟아부을 수 있는 존재는 없다. 생각해 보라. 기업이 무너질 위기에 놓여 있을 때 기업을 구제해 주는 것도 결국 국가다. 국가는 그 특성상 기업보다 더 오래, 더 많이 돈을 빌리고 투입할 수 있다.
로봇과 AI 역시 마찬가지다. 이들은 인간의 신체적 능력을 뛰어넘어 인간의 활동 영역을 넓혀주며, 인간이 할 수 없는 일을 담당할 수 있다. 아주 간단하게 휴대폰을 생각해 보자. 휴대폰은 우리의 기억력을 보조해 준다. 다시 말해 우리가 뇌 기능의 일부를 외주 주고 있는 것이다. 이로 인해 우리는 일상생활에서든 업무에서든 더 큰 능력을 발휘할 수 있다. 물론 이러한 기계가 자신이 한 일에 대한 책임을 지는 것까지는 아직 먼 이야기지만 말이다.


인간 같은 기계가 지배하는 세계에 살게 될 우리에게
지금 꼭 필요한 미래 담론

우리는 초인적 능력을 가진 인공 대리인에게 우리의 권한을 이양함으로써 더 강해졌다. 빈곤을 정복하고, 질병을 퇴치하며, 평화를 유지하고, 몇 세대 전까지는 불가능했을 법한 부를 축적하게 되었다. 하지만 순기능만 있었던 것은 아니다. 이러한 편안함과 안락함을 위해 국가와 기업은 다른 국가 혹은 기업과 경쟁하고, 다른 지역의 자원과 주민들을 착취했으며, 자연을 파괴했다. 이로 인해 인간의 상태와 생활양식도 변해왔다.
이것이 바로 우리가 이미 경험한 것으로, 런시먼의 표현에 의하면 ‘첫 번째 특이점’이다. 지금 이러한 세계에 로봇과 AI가 진입하고 있다. 그렇다면 이 인위적인 존재들끼리 결합하면 우리는 어떻게 될까? 이들이 우리를 위해 일하게 될까, 아니면 우리가 이들을 위해 일하게 될까? 우리는 과연 이들을 통제할 수 있을까?
만약 국가 권력이 우리가 통제할 수 없는 방식으로 컴퓨터 권력과 결합하면 어떻게 될까? 이미 그런 일이 벌어지고 있을지도 모른다. 우리는 카드 하나만으로 우리의 동선이 드러날 수 있는 세상에 살고 있다. 조지 오엘의 《1984》에 나오는 사회가 지금 이 순간에도 펼쳐질 수 있다.
그런 세상이 온다면 과연 누가 우리를 구하러 올까? 국가와 기업, AI의 유사성을 탐구해야 하는 이유가 바로 여기에 있다. 런시먼은 우리가 만들어낸 인공 대리인, 즉 현대의 국가와 기업에 우리가 어떤 식으로 권력을 이양했는지를 살펴보고, AI 시대가 우리 사회를 어떻게 재구성할 것인지를 다각도로 예측한다. 그럼으로써 우리가 궁극적으로 나아가야 할 방향을 제시한다. 이를 통해 우리는 지금 우리가 가져야 할 자세가 무엇인지, 앞으로 어떤 미래를 그려가야 할지 진지하게 모색해 볼 수 있을 것이다.


ㅁ 추천의 말

역사학자 유발 하라리는 우리 종이 보잘것없는 근육을 가졌음에도 이 행성에서 우월적 지위를 얻게 된 이유를 ‘공통의 상상(collective imagination)’ 때문이라고 정의합니다. 이 책 《핸드오버》의 저자는 이렇게 허구를 함께 믿으며 문명을 건설해 온 인류가 만들어낸 협력 시스템의 구조와 역사에 대해 다음과 같이 서늘하게 설명합니다.
“우리는 우리를 위해 스스로 작동하는 국가와 기업을 만들었고, 국가와 기업은 우리가 현재 살고 있는 세계를 구축했다. 그리고 이제, 이 세계에 로봇이 진입하고 있다. 계속 인류를 위한 미래를 만들고 싶다면 국가와 기업, 인공지능과 인간 간의 상호관계에 대해서 심각하게 고민해야 한다.”
국가와 기업을 넘어 인공지능으로 진화하는 새로운 협력 및 통제 시스템이 앞으로 어떻게 작동할 것인가에 대한 이해와 전망을 구하고픈 분들에게 일독을 권합니다. 이 책을 통해 ‘호기심 많고, 창의적이며, 쉽게 산만해지고, 궁극적으로 취약한 종’인 우리가 무엇을 만들었는지, 그리고 무엇을 만들고 있는지 생각해 보았으면 합니다.
_송길영, 마인드 마이너, 《시대예보: 핵개인의 시대》 저자