2029 기계가 멈추는 날

“AI가 기후 변화, 빈곤, 전쟁, 암을 해결할 것이다!” _에릭 슈미트
“AI 연구는 악마를 소환하는 일이다!” _일론 머스크
유토피아와 디스토피아의 갈림길에 선 AI의 현실을 날카롭게 파헤친다!
〈2001: 스페이스 오디세이〉, 〈블레이드 러너〉, 〈HER〉… 수많은 영화가 인간과 인공지능의 공존하는 세계를 그려냈다. 그리고 다양한 이야기와 결말을 통해 유토피아와 디스토피아의 모습을 보여줬다. 영화 속 현실이 실현될 가능성은 점점 더 커지고 있다. 적어도 뉴스와 광고에서 나오는 AI를 봤을 땐 말이다. 2018년 1월 15일, 미국 《뉴스위크》는 커다란 헤드라인을 걸고 이렇게 말했다. ‘인간을 능가하는 로봇의 읽기 능력! 수백만 개의 일자리가 위험에 처했다!’ 실제로는 무슨 일이 일어났을까? 마이크로소프트와 알리바바에서 만든 인공지능 프로그램 스쿼드(SQuAD)가 독해 테스트에서 극히 제한적이고 특정한 영역의 문제를 해결하는 데 인간 수준의 성과를 달성했다. 이전에는 인간의 능력에 한참 못 미치는 수준에 머물렀던 과제에서 수치로 보면 82.136%에서 82.65%라는 아주 미비한 진보를 이룬 것이었다. 하지만 그들은 보도자료를 통해 “사람처럼 서류를 읽고 문제에 답할 수 있는 AI를 만들었다.”고 발표했다.
AI가 인류세에 이정표를 그을 것이라는 데 이견은 없다. 다만 어떤 영향을 미칠 것이냐에 대한 논쟁적 이슈가 끊이지 않고 있다. 구글의 전 CEO 에릭 슈미트는 “AI가 기후 변화, 빈곤, 전쟁, 암과 같은 문제들을 해결할 것”이라고 선언했다. 엑스프라이즈(XPRIZE)의 설립자 피터 디아만디스도 강인공지능(Strong AI)이 “우리를 풍요의 피라미드 꼭대기로 쏘아 올려줄 것이 분명하다.”고 말했다. 반면 스티븐 호킹은 AI가 “우리 문명 최악의 사건”이 될 수 있다고 경고했고 일론 머스크는 AI 연구가 “악마를 소환하는 일이며 핵무기보다 해로운” 위험이 된다고 주장했다. 중요한 것은 이들이 말하는 AI가 정확히 어떤 AI인가라는 점이다. 또 그들이 말하는 일들이 벌어질 정도로 AI가 무언가를 실제 할 수 있는가를 물어야 한다.
MIT 출신의 저명한 인지과학자 게리 마커스와 뉴욕대학교 쿠란트 수학연구소의 컴퓨터공학자 어니스트 데이비스는 지금의 AI 현실에 대해 “AI를 둘러싼 과대 선전에도 불구하고 인간의 지능과 능력을 완전히 능가하거나 일부 초월한 수준에 도달했다고 말할 수 있는 AI의 실현은 아직 이뤄지지 않았다.”고 지적한다. 그리고 인간이 원하는 미래를 설계하는 데 필요한 AI를 가까운 미래에 실현하기 위해서는 지금 당장 접근법을 바꿔야 한다고 주장한다.


1억 대 판매된 아마존의 알렉사, 구글의 자율주행차, IBM의 왓슨…
인간이 예측한 AI의 성장 속도는 왜 빗나갔는가?
알고리즘으로 움직이는 기계는 여기서 멈춰 설 것인가, 진화할 것인가?
최근 AI 분야의 눈에 띄는 진보는 하드웨어의 비약적인 발전과 함께 기가바이트나 테라바이트 단위의 대규모 데이터 세트를 기반으로 이뤄졌다. 특히 빅데이터의 등장으로 데이터를 분석하는 알고리즘, 즉 ‘딥러닝’이라는 강력한 통계 엔진이 그 중심에 있다. 거대한 데이터베이스에 의존해 머신러닝 방식으로 초인간적 수준으로 문제를 해결해내는 기계들이 우후죽순 등장하기 시작했다. 전 세계 1억 대 이상 판매된 아마존의 알렉사와 구글의 자회사 웨이모(Waymo)의 자율주행차, IBM의 왓슨이 대표적인 예다. 하루아침에 대변혁을 이룰 것만 같았던 화려한 등장이 무색하게도 모두 1년도 채 지나지 않아 실망스러운 성적표를 받았다. 예기치 않은 방식으로 너무 손쉽게 개인정보를 유출하는 사건을 일으킨다거나 흐린 날씨나 표지판 혼동 등 변수에 대응하지 못해 교통사고가 벌어지기 일쑤고 가슴 통증이라는 증상에 평범한 의과대 1학년생도 내놓을 수 있는 진단(심근경색, 협심증, 대동맥박리)을 내놓지 못하는 문제로 말이다.
《2029 기계가 멈추는 날》의 저자인 게리 마커스와 어니스트 데이비스는 데이터가 더 풍부해지고 컴퓨터 클러스터의 속도가 더 빨라지고 천문학적 규모의 투자가 더 많아진다고 해도 해결할 수 없는 근본적인 문제가 남아 있다고 말한다. 바로 딥러닝 기반의 기계가 지능 활용에 가장 기본이 되는 상식과 추론 영역의 한계를 갖고 있다는 사실이다.

“진정한 지능에는 추론, 언어, 유추가 필요하지만 현재의 기술로는 이들 중 어떤 것도 제대로 처리하지 못한다. 예를 들어 우리에게는 아직 법률 계약을 확실히 이해할 수 있는 AI 시스템이 없다. 단순 패턴 분류만으로는 충분하지 않은 문제이기 때문이다. 딥러닝에게는 넷플릭스에서 오래된 영화들의 줄거리를 적절히 요약해주기를 기대하는 것조차 지나친 요구다.”
-본문 중에서

인공지능(Artificial Intelligence)이라는 말을 만든 존 매카시 교수는 1959년 처음으로 AI와 상식 문제에 대한 주의를 촉구했다. 추상적 지식을 통합시킬 직접적인 방법이 없는 딥러닝은 대개 이 문제를 외면해왔다. 단기적인 성과를 보여줄 수 있는 빅데이터에 대한 집착이 AI의 진보를 위해 해결해야 하는 훨씬 더 어렵고 장기적인 문제, 즉 기계에게 세상의 다양성과 복잡성을 가르치는 법에 대한 관심을 앗아갔다. 이것이 바로 AI가 인간이 예측한 성장 속도보다 뒤처져 아직 제 궤도에 오르지 못한 이유다.
두 저자는 지금보다 더 성장한 단계에 도달한 후 돌이켜 보면 AI의 전환점은 2012년에 일어난 딥러닝의 재탄생이 아니라 상식과 추론 영역에서의 ‘딥 언더스탠딩’(deep understanding), 즉 심층적 이해에 대한 문제의 해결점이 보이는 순간임을 깨닫게 될 거라고 주장한다. 기술의 변혁은 10년이 걸릴지, 100년이 걸릴지 아무도 모르지만 추론과 상식적 가치관, 건전한 엔지니어링 응용에 토대를 둔 ‘인간이 신뢰할 수 있는 AI’로 탈바꿈할 때에야 비로소 시작될 수 있다는 것이다.


스티븐 핑커, 에릭 브린욜프슨, 노엄 촘스키… 세계적 석학들의 강력 추천!
AI 분야 최전선에 선 두 전문가가 전하는 AI 현주소와 인간과의 공존을 위한 장밋빛 제언!
AI 분야 최전선에서 회의론적이지만 동시에 건설적인 담론과 과제를 제시해온 두 저자의 첫 기념비적인 책 《2029 기계가 멈추는 날》에 비즈니스와 학계, 저명 매체의 뜨거운 찬사가 쏟아졌다. 스티븐 핑커, 노엄 촘스키, 에릭 브린욜프슨 등 세계적인 석학들이 인공지능에 관한 최고의 지침서로 단연 이 책을 꼽았다. 지난 10여 년 동안 AI를 에워쌌던 과대 선전에 대한 반가운 해독제이자 앞으로 세상에 엄청난 영향력을 미치게 될 변혁을 이해하는 데 귀중한 가이드라고 강조했다. 세계적인 석학들의 찬사에서도 엿볼 수 있듯 이 책은 단순히 AI의 현 실태를 분석하고 평가하는 데 머물지 않고 인간과의 공존을 위한 건설적인 전략과 장밋빛 제언을 전한다.

“인간 전문가의 유연성과 강력한 직관에 비견되는 소프트웨어가 기계의 순수한 연산력과 결합된다면 과학적 발견의 속도 자체는 대단히 빨라질 것이다. 이 시점이 되면 단 한 대의 고급 컴퓨터가 고도의 훈련을 받은 인간 집단이 해내는 일을 복제하거나 우리 인간은 할 수 없는 일들을 할 수도 있다.
이처럼 발전된 형태의 AI라면 방대한 양의 신경 데이터와 복잡한 인과 추론을 이용해 ‘두뇌가 어떻게 작동하는지’(지금까지 알려진 것이 거의 없는 영역), ‘정신 질환 치료제를 어떻게 만들어야 하는지’(지난 30년간 거의 진전이 없는 분야) 등에 대해 알아낼 수 있을 것이다. 뛰어난 과학적 기량을 갖춘 AI가 농업과 청정에너지 분야에서 더 효율적인 기술을 고안하는 데 도움을 주는 일도 영 터무니없는 생각이 아니다.
물론 이런 일들을 할 수 있는 범용지능을 가진 AI를 만드는 일이 쉽지는 않다. 아니 정확히 말하면 대단히 어렵다. 그래서 이런 일들이 가까운 미래에 실현되기란 불가능하다. 하지만 시기의 문제일 뿐 결국은 실현될 것이다.”
-본문 중에서

이 책을 통해 두 저자가 말하고자 하는 메시지는 분명하다. 지금 우리는 AI와 공존하는 세상으로 가는 길 위에 있으며, 다음에 올 순간이 무엇이든 우리는 그것을 안전하고, 믿을 수 있고, 가능한 한 인류에게 유용한 방향으로 나아가도록 최선을 다해야 한다는 것뿐이다. 비즈니스, 경제, 학계 등 폭넓고 다양한 영역에서 새로운 판을 창조하게 될 AI에 대한 관심은 더욱더 뜨거워지고 있다. 상상하지 못한 수준의 세상이 어떤 식으로 펼쳐질지, 또 그 미래가 유토피아일지, 디스토피아일지 궁금한 독자라면 이 책을 절대 놓쳐서는 안 될 것이다.