포스트 챗GPT

의료, 과학, 법률, 교육
흔들리는 현장의 질문들
“인공지능 시대가 시작되었다”

3장에서 서울대 해부학교실 조교수 조동현은 의료 현장에 끼친 챗GPT의 충격을 전한다. 실제로 학계에서는 챗GPT 출시 세 달 만에, 우려와 낙관을 오가는 의학 논문 50여 편이 발표되었다. 저자는 이 대규모언어모델 인공지능이 진료 보조, 즉 병원에서 일어난 일을 정리하고, 환자와 의사 사이의 문진 과정을 작성하는 의무 기록을 해내는 역할은 탁월할 수 있다고 전망한다. 의학 연구자로서 기존 문헌을 검토하는 ‘교육 과정’에서도 활용 지점은 많다. 하지만 이러한 대화형 인공지능이 발전에 있어 “그 방향이 단순히 기술을 개발하거나 이와 관련된 이익을 누리는 사람들에 의해 결정되는 것은 곤란하다”고 지적한다. 이를테면 전자의무기록이 도입될 때에도 단순 업무가 줄어들기 때문에 ‘의사와 환자의 관계 개선’을 전망했으나 현실은 꼭 그렇지 않았다. 새로운 기술이 도입될 때마다 대중 참여와 숙의가 활성화 되지 못했던 점을 지적한다.

8장에서 전주홍 교수가 지적하는 과학연구 현장의 전망도 흥미롭다. 챗GPT라는 연구 파트너는 우연과 행운, 호기심과 주관이 넘치는 ‘실제 과학의 현장’을 이해하지 못한다는 것이다. 인공지능은 실패한 가설 없이 승리한 결과만 남는 연구 논문만을 데이터로 학습한다. 하지만 역동적이고 즉흥적인 과학연구의 ‘소통 과정’에서 챗GPT가 어떻게 쓰일 수 있을지가 화두인데, 저자에 의하면 논문은 철저히 특정 의도와 방향성을 가지고 결과를 재구성한 산물이기 때문에 챗GPT에게 깊은 소양을 기대하기에는 어렵다고 지적한다.

또한 4장에서 금준경 〈미디어오늘〉 기자는 ‘로봇기자가 인간기자를 대체할 수 있을까?’라는 질문을 던진다. 이미 미디어 환경은 조회 수를 자극하는 수익성 기사와 양질의 르포 기사 사이의 양극화가 진행되고 있는데, 우리는 이 환경에 챗GPT가 투입되는 것을 상상해야 한다. 논리적이고 완결성 있는 글쓰기를 해내는 ‘형식’만 보면 인공지능은 인간 기자를 대체할 수 있어 보인다. 하지만 언론이야말로 ‘허위정보’의 홍수에 가장 취약한 분야다. 도널드 트럼프 체포 장면과 같은, 이미지 생성 인공지능으로 만들어진 가짜뉴스가 이미 논란을 일으켰다. 저질 뉴스의 온상이 될 가능성이 더욱 더 커진 것이다. 또한 무엇보다 현재성이 중요한 뉴스의 경우 기존의 데이터에 입각해 최신 정보를 반영하지 못하면 정보의 정확성이 떨어질 수밖에 없다고 일갈한다.

출판 분야의 변화 또한 눈여겨볼만 하다. 5장에서 출판평론가 장은수는 인공지능 시대, 출판의 미래에 관해 구체적 실무의 변화와 거시적인 생산 구조의 변화를 세심하게 짚어낸다. 또한 딥엘 등 번역 인공지능의 발달이 번역서의 생산 구조를 파괴할 가능성을 제시하며 실제로 번역가 없는 출판을 계획 중인 업계 관계자의 목소리도 전한다. 또한 번역지능과 출판의 만남은 출판산업의 대표적 특징인 지역적, 언어적 장벽을 무너뜨림으로써 전 세계 인구를 독자로 상정한 콘텐츠 제작을 꾀하는 작가가 탄생할 수도 있다는 흥미로운 전망을 제시한다.

인공지능이 위법의 주체가 될 것인지도 흥미로운 화두다. 14장 〈인공지능의 법적 일탈을 규제할 수 있을까?〉에서 박도현 광주과학기술원 AI 대학원 조교수는 인공 지능이 위법을 저지를 수 있는 영역들에 대해 지적한다. 글쓰기와 소설 창작도 챗GPT가 큰 영향을 끼칠 대표적인 분야다. 15장 〈인공지능은 창의적인 소설을 쓸 수 있을까?〉에서 중앙대학교 인문콘텐츠연구소 연구교수 강우규는 새로운 글쓰기 주체로 떠오른 챗GPT에 대해 소설 창작과 주체라는 원론을 되짚으며 새로운 ‘글쓰기’의 형태를 조망한다.

리사손 컬럼비아대 바너드칼리지 교수는 챗GPT를 통한 ‘표절’이 당장의 문제로 떠오른, 교육 현장의 우려를 생생하게 전한다. 또한 교육자로서 ‘스스로 오류를 발견하고, 이를 고쳐나가기 위해 도움을 청하고 바꾸어 나가는 것’을 교육의 목표로 삼기에 챗GPT가 이 능력을 갖추게 될 경우를 더 우려한다. 메타인지 연구자로서, 스스로 메타인지용 튜링 테스트를 시행한 경험과 동료 연구자들의 메타인지 튜링 테스트를 소개하며, 인공지능이 메타인지를 하게 될 경우를 상상하게 한다. 그리고 깊이 있는 주관식 문제를 통해, 단순히 ‘정답 맞히기’ 교육이 아닌 오류를 발견하고, 실패한 뒤 다시 고치고 ‘사유하게 하는’ 진정한 교육이 가능하다고 강조한다. 나아가 단 하나의 정답 맞히기에 급급한 인간의 교육이 오히려 기계를 닮아가는 중이었다는 심도 있는 통찰도 함께 덧붙인다. 같은 맥락에서 최재용 디지털융합교육원 원장 또한 앞으로 디지털 네이티브의 교육 현장에서 교사의 역할은 토론을 돕는 퍼실리테이터라고 강조한다. 철학자 김재인 또한 작금의 교육현장에서의 챗GPT 과제 표절 논란은 표면적인 현상일 뿐이며 문제의 핵심이 따로 있다고 강조한다. 결국 문제는 대학에서 배워야 하는 능력이라는 게 무엇이냐,이다. 교수들이 이 능력을 키워주는 문제에 대해 별 고민도 대안도 없이 단순히 ‘표절이 문제다’라는 문제 설정은 교육 제도에 대한 성찰이 부족하다는 방증이 된다는 것이다.

하지만 문제는 기술이 아니라
기술에 반응하는 인간이다

추천 서문을 쓴 김건희 서울대 컴퓨터공학부 교수와, 1장을 집필한 오터레터 발행인 박상현은 빌게이츠의 글 ‘인공지능 시대가 시작되었다’는 기고문을 소개하며 지금 시대를 진단한다. 박상현은 이어 인공지능의 짧은 역사를 훑으며 실리콘밸리에서 오픈에이아이가 처한 맥락, 그리고 벤처자본의 흐름이 인공지능을 겨냥하고 있는 현실적인 모습을 생생하게 전한다. 기술 개발이 흥하고 쇠하는 성과의 이면에는 개발자와 투자자들의 치열한 움직임이 있었다.

또한 15명의 저자들이 챗GPT를 비롯한 생성형 인공지능에 대해 공통적으로 우려하는 지점 중 하나는 ‘환각Hallucination’이다. 챗GPT는 우리가 익히 잘 알고 있듯이 사실과 다른 이야기를 ‘자신 있게’ 하는 대규모 언어 모델, 생성형 인공지능 챗GPT의 대표적 특징이다. 이러한 화법은 어떤 형태로든 인간과 사회에 영향을 끼칠 수밖에 없다. 2장에서 구본권 사람과디지털연구소 소장은 챗GPT가 거짓 비용을 만드는 비용을 0에 가깝게 만들었다고 지적한다. 지금보다 더더욱 허위정보와 합성데이터로 넘쳐나게 된다.

6장에서 한소원 서울대 심리학과 교수는 ‘무인도의 사기꾼 문어’ 우화를 소개하며, 확률에 기반한 ‘언어 생성’을 하는 챗GPT의 발화 시스템과 마주한 인간의 커뮤니케이션을 주시한다. 기계는 마음이 없어도 텍스트를 생성해내지만, 문제는 우리가 그 뒤에 마음이 있다고 상상하는 것을 멈추지 못한다는 것이다. 또한 엔지니어뿐만이 아니라 사회과학자, 윤리학자, 철학자 등 다양한 분야의 사람들이 인공지능 개발에 참여야 한다고 일갈한 구글의 CEO 순다르 피차이의 말을 전하며 글을 맺는다. 비슷한 맥락에서 출판평론가 장은수도 5장에서 인공지능이 스스로 세계를 체험하지 못하고, 의미와 가치를 알지 못하다는 점을 지적한다. 자기 고유의 체험을 언어로 의미화하는 맥락과 다른 것이다. 대화를 좋아하는 인간의 마음의 습관이 챗GPT의 대중화를 초래했지만 결국 인공지능을 창조적으로 사용할 수 있는 것은 ‘인간’이라고 강조한다.

5장에서 미디어 사회학자 박권일은 이 지점을 인지빈곤으로 설명한다. 이미 다양한 미디어 환경에서 쏟아지는 지식-정보 소화불량에 빠진 맥락과 더 견고해지는 탈진실 사회라는 구조에 챗GPT-인공지능 시대가 도래햇음을 직관적으로 그려낸다. 전주홍 또한 오류에 취약한 인간의 사고 체계를 지적하며 챗GPT가 제공하는 지식에 비판적 태도를 견지하는 것이 중요한 이유를 역설한다.

이러한 맥락에서 이원재와 박권일은 인공지능 시대 앞에서 갈림길에 놓인 민주주의에 주목한다. 경제평론가이자 경기도 정책보좌관 이원재는 인공지능이 시민에게 양날의 칼이 될 것이라고 전망한다. 잘 활용하면 시민의 직접 정치 참여의 도구가 되지만, 거꾸로 고도의 감시를 받게 되는 구조가 될 수 있다는 것이다. 결국 시민사회와 정치가 대응하기 나름이라고 판단을 유보한다. 미디어 사회학자 박권일도 민주주의 문제를 지적한다. 이미 각종 온라인 공간의 알고리즘을 통해 사회 양극화와 민주주의가 혼란을 경험하고 있음에도 별다른 개선을 꾀하지 않는 인류가, 인공지능 개발을 조금 유예한다고 해서 얼마나 달라질 것인지 회의하며 인류는 정말 공적 사안에 대해 참여할 의사가 있는 것인지 날카롭게 묻는다.