이것은 인간입니까

추천의 말
마음에 관한 그야말로 대단한 책이다. 이 책의 대부분을 저자가 고등학생일 때 썼다는 사실이 믿기지 않는다. 나조차도 몇 가지 새롭게 배웠다.
조지프 르두 뉴욕대학교 신경과학·심리학 교수, 《우리 인간의 아주 깊은 역사》 저자

스턴버그는 지적 능력을 갖춘 컴퓨터가 도래할 가능성을 둘러싸고 일어난 논쟁들을 매우 흥미롭고 정확하게 소개한다. 이 책은 단지 재밌기만 한 것이 아니다. 독자의 입장에서 어떤 주장을 받아들일지 결정하는 데 참고할 만한 훌륭한 판단도 함께 보여준다.
휴버트 드레이퍼스 캘리포니아대학교 철학과 교수, 《모든 것은 빛난다》 저자

스턴버그가 의식에 관한 이론과 연구 결과를 이렇듯 비범한 방식으로 통합한 것은 놀라운 일이 아니다. 이 책은 그가 앞으로 학계에 기여할 수많은 업적 중 하나에 불과하다.
로버트 실베스터 오리건대학교 명예교수


출판사 서평
기계가 인간처럼 생각할 수 있다면
인공지능은 결국 인간을 대체하게 될까?

조지프 르두, 휴버트 드레이퍼스 추천
<네이처> <사이언티픽 아메리칸>이 주목한 과학자, 엘리에저 스턴버그의
인지과학 입문서!

과학과 기술의 발전은 이제는 ‘빠르다’는 말로는 설명하기 모자랄 정도다. 2016년 알파고가 바둑으로 이세돌 九단을 이겨 사람들에게 커다란 충격을 준 후에도 과학과 기술은 비약적으로 발전해왔다. 그로부터 6년이 지난 지금, 똑똑해진 기계는 생활에 더 깊이 스며들어 우리 삶의 일부가 되었다. 가령 복지 분야에서는 혼자 사는 노인에게 인공지능(AI)이 전화를 걸어 안부를 묻는다. ‘무릎이 아프다’고 하면 찜질팩을 권하고, 전화를 받지 않으면 관할 부서나 병원에 대신 연락을 주기도 한다. 애플워치가 사용자의 건강 이상을 알아채, 큰 사고를 면했다는 이야기도 드물지 않게 들려온다. 국내 유수의 대기업들이 AI 개발에 전투적으로 자본을 투자하고, ‘디지털 친구’를 표방한 초거대 AI기반의 서비스 출시 소식도 줄을 잇는다. 최근 자주 언급되는 초거대 AI란 데이터를 스스로 학습해, 인간처럼 생각하고 판단하는 차세대 AI다. 알파고처럼 한 분야에 특화된 AI와 달리, 초거대 AI는 특정 영역에 얽매이지 않으며 이전 세대 AI에 비해 수천 배 이상의 능력을 보여준다고 한다. 그야말로 ‘인간의 뇌’와 닮은 AI라고 할 수 있겠다.
이러한 기술의 발전은 우리의 삶을 편리하게 만드는 동시에 위기감과 두려움을 준다. “인공지능은 결국 인간을 대체하게 될까?”, “기계가 인간과 같은 능력을 가진다면 우리 또한 기계라고 볼 수 있을까?”, 우리가 기계와 다르다면 “인간을 인간답게 하는 것은 무엇인가”

데카르트부터 커즈와일, 민스키, 튜링, 드레이퍼스까지
‘우리는 기계인가’라는 질문을 둘러싼 치열한 논쟁!
스턴버그는 이 책에서 저명하고 박식한 인물들이 의식에 대해 펼쳐낸 다양한 관점을 소개한다. 가장 오랫동안 의식을 설명하는 데 이용된 견해는 물질계와 정신계라는 두 개의 세계가 각각 존재한다는 이원론으로 데카르트는 일찍이 인간은 육체가 없어도 사고가 가능하므로 마음이란 비물질적인 것이라는 결론을 내렸다. 그러나 과학이 발달하며 인간이 ‘생물학적 기계’에 불과하다고 주장하는 사람들이 생겼다. 노벨 생리 의학상을 수상한 프랜시스 크릭은 우리가 자유의지를 가진 것 같지만 실제로는 그렇지 않다고 주장한다. 우리의 계획은 우리가 의식하지 못한 사이 뇌가 행한 계산의 결과라는 것이다.(83쪽) 크릭과 에덜먼은 세상에 영혼 따위는 없으며, 마음을 만들어내는 건 뇌뿐이라고 생각했다.
이후로도 학자들의 갑론을박은 계속되었다. 철학자이자 인지과학자인 데니얼 데닛은 튜링 테스트를 통과할 수 있는 기계들은 모두 자신에게 의식이 있다는, 자신이 만들어낸 환상의 피해자라고 말한다. 그리고 우리도 그러한 환상에 시달리고 있다고 주장한다. 우리 또한 여러 처리 단계를 가진 복잡한 기계에 불과하다는 것이다. 반면 철학자 휴버트 드레이퍼스는 인간이 기계와 같다고 생각하지 않는데, 인간은 기계처럼 알고리즘을 따라서만 작동하지 않기 때문이다. 드레이퍼스는 기계가 풀 수 있는 것은 오직 잘 정의된 문제뿐이며, 인간의 추론과 같은 능력은 절대로 얻을 수 없을 거라고 말한다. 그는 대표적인 사례로 어느 AI 연구자의 프로그램을 거론한다. 이 프로그램은 종업원이 식당에 음식이 다 떨어졌다고 말하는 것과, 그 말을 듣고 가족이 대신 종업원을 잡아먹는 것을 똑같이 이상하다고 판단했다.
그러나 400년간 이어진 치열한 논쟁에도 불구하고 인간의 의식에 관해서라면 아주 작은 부분에서도 누구 하나 의견의 합치를 보지 못했다. 논쟁의 끝은 아직 먼 것처럼 보인다. 그렇지만 이 모든 논쟁이 무의미한 것은 아니다. 저자는 과학자와 철학자 들의 의식에 관한 치열한 탐구 덕분에 우리가 자신을 더 잘 이해할 수 있게 되었으며, 이것이 바로 미래에 새로운 관념이 탄생할 토대가 될 거라고 말한다.

과학자와 철학자 들이 의식을 설명하기 위해 내놓는 이론들은 아직 정답 근처에도 가지 못했지만 그들의 치열한 논쟁을 통해 우리는 스스로를 더 잘 이해할 수 있게 되었다. 이론들이 서로 충돌하고 진화를 거듭하는 과정에서 우리는 새로운 관념이 탄생할 토대를 마련함으로써 불가사의 해결에 한 걸음씩 다가서고 있다. 새로운 세대의 이론과 이론가들이 등장할 일도 머지않았다.(234쪽)

현대 과학의 ‘마지막 거대한 불가사의’
인간의 의식에 관한 흥미로운 대화
의식에 관한 연구는 어느덧 철학, 심리학, 인지과학, 신경과학, 컴퓨터공학, 공학의 공통 주제가 되었다. 어떤 사람은 의식이 전적으로 기계적인 과정에 의해 생성된다고 말한다. 인간의 마음이 그저 신호와 반응으로 이루어진 시스템이며 소화나 광합성 같은 과정과 다를 바 없다고 말이다. 또 다른 측은 의식이 물리적인 세계와는 구별되는 무언가여서 우리가 뇌를 얼마나 잘 알게 되든 우리가 무슨 생각을 하는지는 결코 알 수 없다고 믿는다. 마음은 절대 단순한 기계적 기능이 아니라는 것이다. 한편 어떤 이들은 인간의 의식이 과학 연구로는 닿을 수 없는 영역이라고 여긴다.(19~20쪽)
한편 레이 커즈와일 같은 기술 전문가들은 과학 기술 발달의 가속화가 의식을 갖춘 기계의 출현을 가능케 하리라는 믿음을 고수했다. 현재의 접근법이 실패한다 해도 새로운 기법과 혁신으로 지금으로서는 상상도 못할 일들을 이루어낼 거라고 말이다. 데닛의 의견을 따르는 과학자들은 우리가 하는 모든 행동이 유기적인 기계 조직의 지배를 받으므로 인간 또한 생물학적 기계이며, 결국 우리와 비슷하거나 더 뛰어난 능력을 지닌 기계를 만들어 내리라는 주장을 견지했다. 기술 발전 속도가 해를 거듭할수록 점점 더 빨라져 기계가 인간의 의식이 가진 힘을 뛰어넘는 능력을 발휘하게 되리라는, 일명 ‘수확 가속 이론’에 따른 전망이다.
이 모든 논쟁을 펼쳐놓고 저자는 묻는다. 의식은 도대체 무엇일까? 뇌 구조를 낱낱이 파악하면 마음속을 꿰뚫어 볼 수 있을까? 기술이 발전하면 의식을 갖춘 기계를 만들어낼 수 있을까? 마음을 물리적 작용으로 모두 설명할 수 있다면, 우리는 기계인가?

나도 이 논쟁의 답을 찾는 일에 몰두했지만 이 문제는 그 자체로도 매력이 넘친다. 이어지는 열다섯 개의 장에서는 대체 이 논란의 무엇이 그렇게 특별한지 전하고자 했다. 나의 견해는 마지막 장에서만 다루었다. 이 책의 목표는 이 논쟁이 추상적이고 철학적인 문답뿐만 아니라 우리가 자신에 대한 개념을 정립하는 데도 매우 중요하다는 사실을 알리는 것이다.(12쪽)

이 책은 독자들에게 ‘갈 길을 알려주는’ 대신 독자들을 인간의 의식이라는 거대한 불가사의로 ‘손짓해 부른’다. 스턴버그는 독자들이 마음과 뇌의 관계를 스스로 고민하고, 자신만의 사고의 틀을 정립할 수 있게 돕기 위해 비유와 이야기, 다양한 사고실험을 이용한다. 가령 중국어 방에 튜링 테스트를 실시하는 ‘중국어 방’ 논증이나 의식과 감각질이 결여된 좀비들의 세계를 상상하는 ‘좀비’ 사고실험은 독자들이 인간의 마음이 지닌 미지의 특성을 어떻게 이해하고 있는지 되돌아보게 한다.

철학자 데이비드 차머스는 “좀비란 신체적으로 나와 동일하지만 의식적인 경험은 하지 못하는 어떤 것으로, 그 내면은 암흑과 같다”고 묘사했다. (…) 가령 당신의 좀비 쌍둥이가 장미 한 송이를 꺾어 들고 “이야, 내가 꺾은 장미 좀 봐! 아주 짙은 붉은색에 향기도 훌륭해”라고 말했다고 하자. 이를 보면 마치 이 좀비가 장미를 꺾는다는 의사 결정을 내리고 장미의 향과 색을 감상하는 것만 같다. 하지만 실은 이 중 어느 것도 하고 있지 않다. 감각질은 알다시피 내면의 사적인 경험이다 보니 다른 사람들에게는 이 쌍둥이도 의식이 있는 것처럼 여겨질 것이다. 어떤 개체가 좀비인지 아닌지 구분할 ‘좀비스러운 특징’은 찾을 수 없다. 당신과 좀비 쌍둥이가 같은 활동에 참여할 때마다 둘은 서로 비슷하게 행동하겠지만 오직 인간인 당신만이 감각질을 경험한다. 좀비는 아무것도 모르고 아무런 경험도 하지 않는다. 좀비로서 느낄 수 있는 것은 아무것도 없다.(168쪽)

철학, 신경과학을 넘나들며 파헤치는 뇌와 마음의 작용 원리
인간을 인간답게 하는 것은 무엇인가
철학자 안드레아스 토이버는 이 책의 해제에서 “당신이 이 문제에 대한 자신만의 견해를 가지고 있지 않더라도 스턴버그의 책을 끝까지 읽을 즈음에는 답을 찾을 가능성이 높다”라고 말한다. 이 책이 “인간의 의식을 둘러싼 문제를 해결할 가장 좋은 방법이자 가장 신뢰할 만한 방법”, 즉 질문을 던지고 스스로 답을 찾는 과정에 독자들을 초대하기 때문이다. 이 책은 풀 수 있을지 없을지조차 알 수 없는 아주 어려운 문제에 답을 찾아 나설 계기를 제공하고, 독자들이 마음과 뇌를 둘러싼 이 흥미로운 대화에 참여하기를 독려함으로써, ‘마지막 거대한 불가사의’라 불리는 인간의 의식에 접근하고자 하는 모두에게 훌륭한 출발점이 된다. 책의 말미에서 스턴버그는 지금은 상상할 수 없는 미래에 대한 기대를 품고 묻는다. “만약 우리 세대에서 이 의식에 관한 불가사의를 풀게 된다면 가슴 뛰는 사건들이 이제 곧 펼쳐지지 않을까?”

단 한번의 발견이 세상을 뒤바꾼 사례는 역사적으로도 여러 번 있었다. 페니실린의 우연한 발견이 치료제에 혁명을 가져왔고, 인터넷의 발명은 우리의 생활 방식을 전면적으로 탈바꿈시켰다. DNA의 발견은 생물학 연구의 방향을 완전히 바꿔놓았다. 그러나 이처럼 역사적으로 매우 중요한 한 걸음조차 훗날 인간의 마음이 어떤 원리로 작용하는지를 둘러싼 논쟁에 종지부를 찍을 이론이 등장하고 나면 한없이 초라해 보일 것이다. 만약 우리 세대에서 이 의식에 관한 불가사의를 풀게 된다면 가슴 뛰는 사건들이 이제 곧 펼쳐지지 않을까.(235쪽)


책 속에서
나는 어느 누구도 알지 못하는 세계를 안다. 그곳에 들어가려면 열쇠가 필요하며, 나만이 그 열쇠를 가지고 있다. 그 세계란 바로 내 내면의 생각으로, 그곳으로 들어가는 열쇠는 생각 그 자체다. 발상과 의견, 기억, 경험으로 가득한 이 세계를 거닐 수 있는 것은 오직 나뿐이다.(9쪽)

나도 이 논쟁의 답을 찾는 일에 몰두했지만 이 문제는 그 자체로도 매력이 넘친다. 이어지는 열다섯 개의 장에서는 대체 이 논란의 무엇이 그렇게 특별한지 전하고자 했다. 나의 견해는 마지막 장에서만 다루었다. 이 책의 목표는 이 논쟁이 추상적이고 철학적인 문답뿐만 아니라 우리가 자신에 대한 개념을 정립하는 데도 매우 중요하다는 사실을 알리는 것이다.(12쪽)

인간의 의식은 아마도 우리에게 남겨진 가장 큰 불가사의일 것이다. 뇌에 대해 많은 것을 알게 되었음에도 아직까지 어느 누구도 뇌가 어떻게 의식을 만들어내는지는 밝혀내지 못했다. 뇌가 없으면 의식도 없다는 데는 대부분 동의할 테지만, 뇌는 정확히 어떤 방법으로 우리를 의식이 있는 상태로 만드는 걸까? 사람들은 어떻게 저마다 정체성을 가질 수 있을까? 자기(self)란 대체 무엇일까? 자유의지는 어디에서 비롯되는 걸까? 우리 안에는 대체 무엇이 있기에 저녁 메뉴를 결정하고 고통과 사랑을 느끼며 세상을 단일한 관점으로 바라볼 수 있는 걸까?(18~19쪽)

크릭은 육신이 죽은 뒤에도 사라지지 않는 비물질적인 영혼에 대한 미신 또한 과학적인 지식이 부족한 데서 비롯되었다고 주장한다. 아울러 비록 지금은 정확한 기제를 알지 못하지만 의식이 순전히 물리적인 구조물에서 생겨나는 일이 불가능하지는 않다고 역설한다.(70쪽)

크릭의 관점에서 보면 우리는 자신에게 자유의지가 있다고 생각하지만 실제로는 그렇지 않다. 우리가 떠올린 계획은 우리가 의식하지 못하는 사이 뇌가 행한 계산의 결과이며, 의사 결정 또한 동일한 방식으로 이루어진다. 그렇게 내린 의사 결정의 이유가 무엇인지 밝히기는 어마어마하게 어려울 수 있는데, 뇌가 수행하는 계산의 마지막 단계에서는 작은 사건 하나만으로도 완전히 다른 결과가 나올 수 있기 때문이다. (…) 크릭의 말에 따르면 의사 결정은 사실 바로 그 무의식적인 계산을 거쳤기에 가능한 것이다. 얼핏 자유롭게 보이는 행동도 실상은 우리가 알지 못하는 이 모든 사전 계산들을 통해 기계적으로 도출된 결과값이다.(83~84쪽)

커즈와일은 의식이 있는 기계가 등장하는 일도 머지않았다고 말한다. 그의 말에 따르면 인간은 컴퓨팅 기술을 활용해 얼마든지 재현할 수 있는 패턴 모음일 뿐이다. 만약 앞서 소개한 세 가지 프로그래밍 접근 방법 중 하나에 사회적 상호작용을 접목해 의식이 있는 기계를 만들어낼 수 있다면 이는 곧 우리도 기계라는 사실을 시사할 터이다.(104쪽)

커즈와일과 민스키는 지능을 가진 기계가 인간을 대신 해 지구를 지배하는 세상을 향해 나아가고 있다고 주장한다. 더불어 우리 역시 기계이기에 더 뛰어난 기술로 자신을 개량하는 것이 가능하며, 또 그렇게 해야만 한다고 말한다. 이것이 이들이 말하는 우리가 맞게 될 진화의 다음 단계다. 인간과 기계의 구분이 모호해지는, 피할 수 없는 미래는 이미 다가오고 있다. 지금의 우리보다 더 높은 지능을 갖춘 기계가 다음 세대 지구의 주인이 될 것이다.(126~127쪽)

설은 우리가 기계에 의식이 깃드는 시대를 향해 빠르게 나아가고 있지 않으며, 컴퓨터가 명령을 해독하고 실행하는 기능이 아무리 강력해지더라도 우리 뇌가 우리에게 의식을 불어넣는 것과 똑같이 컴퓨터 프로세서가 기계에 의식을 불어넣는 날은 오지 않을 거라고 단정한다. 그의 주장에 따르면 의식은 단순히 컴퓨터 회로가 행하는 계산과 기호 조작으로 정의할 수 있는 대상이 아니다. 그러므로 인간 마음의 존엄성은 앞으로도 지켜질 것이다.(136~137쪽)

데이비드 차머스는 감각질이 의식의 핵심이라고 여긴다. “감각질을 가지고 있다”는 말이 곧 “의식이 있다”는 말이라고까지 이야기한다. 우리는 감각질을 경험하기 때문에 자신에게 의식이 있다는 사실을 안다. 어쩌면 로봇이 자신에게 의식이 있으며 철제 발가락에 부착된 압력 센서 사이로 모래가 스미는 느낌을 경험했다고 주장하는 일이 있을 수도 있지만 거기에 감각질이 빠져 있다면 로봇에게는 의식이 있다고 할 수 없다.(155쪽)

데닛은 이처럼 튜링 테스트를 통과할 수 있는 기계들이 하나같이 자신이 만들어낸 환상의 피
해자라고 말한다. 자신에게 의식이 있다는 환상 말이다. 그리고 데닛은 우리도 똑같은 환상에 시달리고 있다고 주장한다. 우리 또한 상위의 처리 단계가 하위 단계를 검토하도록 여러 처리 단계를 가진 복잡한 기계에 불과하다는 것이다. 우리가 ‘생각’이라고 말하는 것은 단순히 뇌에서 일어나는 복잡한 정보처리 과정(컴퓨터와 동일한)일 뿐이다. 해가 뜨고 지는 현상과 마찬가지로 의식이란 하나의 환상이다.(186~187쪽)

어쩌면 많은 사람이 이 같은 개념을 받아들이기 꺼리는 이유 중 하나는 두려움 때문일지도 모른다. 인류가 만들어낸 기계(로봇)의 사용량이 증가하면서, 전 세계적으로 기계들이 다양한 영역에서 인간의 자리를 대체했다. 우리는 어쩌면 우리가 이들에게는 없는 무언가를 가지고 있다고 믿고 싶은지도 모른다. 그 무언가 가 의식이다. 그 어떤 기술로도 인간의 뇌가 품고 있는 특별하고 경이로운 능력을 똑같이 만들어낼 수는 없으리라 믿으면 마음이 편해진다. 우리는 우리가 특별한 존재가 아닐지 모른다는 가능성을 받아들이기가 두려운 것이다.(194~195쪽)

드레이퍼스는 데닛과 달리 인간이 기계라고 생각하지 않았는데, 인간은 기계처럼 알고리즘을 따라서만 작동하지 않기 때문이다. (…) 드레이퍼스는 정형화된 규칙에 얽매이는 한 기계가 풀 수 있는 것은 오직 잘 정의된 문제뿐이며 인간의 추론과 같은 능력은 절대로 얻을 수 없을 거라고, 또 이것이 바로 인공지능 연구자들이 결코 의식을 가진 기계를 만들어낼 수 없는 이유이자 지금도 이 목표를 향한 노력이 크게 성과를 보이지 못하는 이유라고 말한다.
그는 우리의 의식적인 사고를 똑같이 구현하는 데 어려움을 겪는 대표적인 사례로 어느 AI 연구자의 프로그램을 거론했다. 이 프로그램은 상황을 분석할 때 ‘이상한 정도’를 전혀 구별하지 못했다. 일례로 이 프로그램에게 어떤 가족이 식당에 있는 하나의 상황을 살펴보게 했다. 프로그램은 종업원이 식당에 음식이 다 떨어졌다고 말하는 것과 그 말을 듣고 가족이 대신 이 종업원을 잡아먹는 것을 똑같이 이상하다고 판단했다.(206~207쪽)

당신이 이 문제에 대한 자신만의 견해를 가지고 있지 않더라도 스턴버그의 책을 끝까지 읽을 즈음에는 답을 찾을 가능성이 높다. 물론 정답은 아닐 수 있다. 하지만 그렇더라도 어느 정도 시간이 흐르기 전에는 그것이 정답인지 알기 쉽지 않다. 다만 변하지 않는 사실은 그렇게 떠올린 답이 당신만의 답이라는 것이다.(250쪽)