알고리즘이 지배한다는 착각

빅테크에 관해 난무하는 억측과 오해
허구 시나리오를 넘어 세계적인 수학자가 던지는
빅데이터 시대의 가장 시급한 화두

★★★★★ 최고의 수학 논문 저자 ‘캐서린 리처즈상’ 수상
★★★★★ 칼럼니스트 박상현 강력 추천!
★★★★★ 『수학으로 생각하는 힘』 키트 예이츠 강력 추천!
“구독, 좋아요, 알림설정을 눌러본
모든 사람들이 읽어야 할 한 권의 책”

‘페이스북은 우리를 통제하고 있다’ ‘SNS는 우리를 특정 견해에 가두어 사회를 두 동강 내고 있다’ ‘트럼프의 당선은 가짜뉴스로 조작된 것이다’ ‘인간의 지능을 완벽히 모방한 인공지능이 등장하여 인간을 대체할 것이다’… 인간이 하나의 상품이 되어버린 빅데이터 알고리즘의 시대. 알고리즘으로 인해 도래할 인류의 캄캄한 미래에 대한 예언이 메아리처럼 울려 퍼지고 있다. 이 예언들은 과연 사실일까? 현재 여기저기에서 떠도는 알고리즘 디스토피아의 시나리오들은 얼마나 현실적일까?

여기, 알고리즘의 지배에 관한 우려의 타당성에 물음표를 던진 수학자가 있다. 세계적인 응용수학자 데이비드 섬프터는 자신이 가장 잘하는 것, 바로 수학을 사용하여 데이터를 살펴보고 통계를 계산하며 시나리오를 하나씩 검증해나간다. 데이터가 우리에게 불리하게 쓰이고 있는 현실을 외면하지 않는 동시에 알고리즘의 능력을 마냥 낙관하지도 않으면서, 섬프터는 알고리즘에 둘러싸여 살아가는 우리들이 반드시 지녀야 할 균형 잡힌 시각을 제공해준다. 우리를 분석하고, 우리에게 영향을 미치고, 언젠가 우리처럼 되리라는 믿음을 한몸에 받고 있는 알고리즘. 저자는 내밀히 작동하는 알고리즘의 수학적 원리를 낱낱이 해체하여, 무엇보다 우리가 알고리즘의 영향력을 합리적으로 평가하지 못할 때, 과학 허구 시나리오들에 휘둘릴 때 가장 큰 위험이 들이닥친다는 것을 깨닫게 해준다.

페이스북, 구글에서 가짜뉴스까지
통념을 뒤흔드는 수학자의 날카로운 통찰력

“이 책을 읽기 전에 내가 가졌던
많은 생각이 바뀌었다.” _박상현(디지털 칼럼니스트)

데이비드 섬프터는 페이스북과 구글부터 가짜뉴스와 인공지능까지 알고리즘의 세계 이곳저곳을 넘나들며 우리가 지닌 통념을 거침없이 뒤흔든다. 그중 하나는 페이스북이 우리를 완벽히 파악하며 그 정보를 이용해 우리를 조작하려 든다는 통설에 대한 과학적 반박이다. 일례로, 2012년 언론들은 페이스북이 우리의 감정을 조작할 수 있다는 연구 결과를 대서특필했다. 하지만 그 기사들이 기초한 연구 결과는 사용자가 부정적인 뉴스를 아무리 실컷 읽어도 부정적인 단어를 한 달에 한 개 더 사용하게 되는 경향이 있다는 것에 불과했다. 통계학적으로 유의미하긴 하지만 실제 삶에 미치는 효과가 아주 미미한 수준이라는 점을 도외시한 언론이 알고리즘의 위험을 과대평가했던 것이다.

이처럼 페이스북을 비롯한 SNS가 우리 삶에 미치는 영향을 두고 많은 사람들이 호들갑을 떨지만, 섬프터가 살펴본 바에 따르면 그 모든 우려는 대부분 언론의 무분별한 보도로 과장된 것이다. 물론 우리는 SNS를 통해 자신과 정치적 성향이 같은 사람들과 친구 관계를 맺음으로써 비슷한 견해의 게시물을 받아 보는 경향(필터버블)이 있긴 하지만, 실제 연구 결과는 사람들이 자신과 다른 견해에도 상당한 정도로 노출되고 있음을 보여준다. 오직 정치적 목적으로만 SNS를 사용하는 사람은 별로 없고 대부분 다양한 취미와 관심사를 공유하는데, 바로 이러한 성향이 타인들의 견해를 우리의 버블 안으로 침투할 수 있게 도와주는 것이다. 또한 가짜뉴스의 확산이 선거의 판도를 바꾼다거나 소셜미디어 봇들의 증가가 사람들의 정치적 토론에 부정적 영향을 미친다는 구체적 증거도 없다.

“현재 알고리즘의 배후에 놓인 진실은
‘인공지능’이라는 용어가 암시하는 것보다
더 평범할뿐더러 훨씬 더 단순하다.”

조만간 인간의 인지 능력을 복제한 범용 인공지능이 나타나 인간을 대체하리라는 일설 또한 실제 연구 현황을 고려하면 아무런 근거 없는 사변적 궤변이라는 점도 낱낱이 밝혀진다. 테슬라의 최고경영자 일론 머스크, 구글의 미래학자 레이 커즈와일, 딥마인드의 창립자 데미스 허사비스 등 빅테크의 개척자들이 경영하는 회사의 알고리즘을 철저히 해부해온 섬프터는 인간과 유사한 지능이 도래하고 있다는 단서를 전혀 발견하지 못했다고 말한다. 두뇌의 신경세포 구조를 모방한 알고리즘 ‘인공 신경망’은 바둑과 같은 몇몇 게임에서 인상적인 기술적 성취를 보여주었지만, 게임의 원리를 밑바닥부터 학습하는 능력은 여전히 인간이 훨씬 더 뛰어나다. 인간의 언어를 모방하는 언어 알고리즘은 몇 문장을 그럴싸하게 말하여 깜짝 놀랄 결과를 보여주었지만, 최고의 언어 알고리즘조차도 문장 속의 ‘it(그것)’이 무엇을 가리키는지도 제대로 파악하지 못한다.

현재 최고 수준의 인공지능을 ‘박테리아’에 빗대는 내용 또한 참신하고 통찰력이 돋보이는 대목이다. 인공지능이 인간 수준의 과제를 해내려면 아직 멀었다는 사실을 깨달은 섬프터는 인공지능이 혹시 다른 생물과는 경쟁할 수 있을까 하는 흥미로운 질문을 던진다. 개, 벌, 예쁜꼬마선충, 미생물 등 갖가지 생물과 인공지능의 인지 능력을 비교한 결과, 최고 성능이라 할지라도 인공지능은 대장균 같은 박테리아의 수준에 불과하다는 다소 충격적인 결론이 도출된다. 박테리아가 자원 획득과 번식 같은 목적을 위해 주변 상황에 알맞은 행동을 취하는 것처럼, 인공지능 또한 다양한 입력 신호들에 반응하여 상황에 적응해나갈 수 있는 능력이 있다. 하지만 인공지능의 능력은 딱 거기까지다. 인공지능은 개처럼 인간의 맥락을 이해해 반응하거나, 벌처럼 축구를 하거나(정말이다!), 예쁜꼬마선충처럼 사회적 상호작용을 하지 못한다. 인공지능의 발전 현황을 냉철하게 분석한 끝에 섬프터가 내린 결론은 이렇다. “현재 알고리즘의 배후에 놓인 진실은 ‘인공지능’이라는 용어가 암시하는 것보다 더 평범할뿐더러 훨씬 더 단순하다.”

“이제 나는 알고리즘이 과거에 내가 생각한 것처럼
무시무시하지 않다는 사실을 안다.”

세계적인 응용수학자의 폭로로부터 우리가 도달하는 곳은, 하루가 멀다고 울려 퍼지는 빅테크 찬양과 종종 나타나 우리를 공포로 질식시키는 비관적 음모론 사이의 중간 지대이다. 섬프터에 따르면, 바로 그 중간의 지평, 즉 복잡한 논의를 짜부라뜨리지 않고 세밀하게 합리적으로 살펴보는 것에서부터 빅테크에 관한 논의가 시작되어야 한다. 이제 우리 앞에는 몇 가지 선택지가 놓여 있다. 과대광고로 점철된 빅테크 유토피아를 마음껏 예찬하느냐, 언론이 지나치게 부풀린 알고리즘 디스토피아를 마냥 비관하느냐, 아니면 알고리즘의 낙관적 지배와 비관적 지배 그 사이를 냉정하고 차분히 바라보며 미래의 시나리오들을 더욱 잘 이해할 수 있는 시각을 갈고닦느냐. 그 선택은 오롯이 우리에게 달렸다.