AGI, 천사인가 악마인가

AI의 지나간 과거와, 앞으로 가져올 대격변에 대해 가볍게 풀어놓았으나, 그래서 앞으로 나는 어떻게 대응해야 하지? 대응을 할 수는 있나? 생각하면 한없이 무거워지는 내용. 그나마 나는 쬠 빨리 태어나서 그 대격변을 살짝 빗겨 맞을 수 있지 않을까 하는 기대를 해보지만, 우리 아이들 세대를 위해 무엇을 준비해줘야 할지 생각해보면 다시 또 한없이 무거워지는 책. #AGI천사인가악마인가 #김대식

올 해 읽은 책중에 가장 흥미롭고 재밋는 책이네요. (재미로 읽기엔 무거운 면도 있습니다.) AI에 관심 있는 분들은 꼭 읽어보시길 추천드립니다. 개발자가 아닌 분들은 책을 읽으시다 이해가 안되는 부분들이 꽤 나올 텐데요, 이 부분역시 AI(구글 gemini, chat gpt등)의 도움을 받으면서 읽으시면 책 읽는데 도움이 될거 같습니다. AI를 이해하기 위해서 읽고 있는 책을 AI의 도움을 받아서 읽어야하는 아이러니역시 책의 몰입에 도움이 되지 않을까 싶네요.

인공지능에 대한 이야기는 박태웅 의장님 책으로만 접했었는데, 이번에 뇌과학 연구자 김대식 교수님 책을 읽어봤다. 가장 흥미로웠던 부분은 조만간 기계문명이 인류를 지배할 것을 확신하는 저자가 그 날을 위해 기계를 경배하는 본인의 사진을 찍어 인터넷 상에 업로드 하기도 하고 책에도 첨부한 것. 전문가들이 암울한 전망을 이미 기정사실화 하고 있다는 것을 실감나게 알려주는 듯 해서 섬뜩하기도 했다. 매번 하는 말이지만 인공지능에 의존하는 양과 속도를 줄이야 한다는 것이 방법이지만 이미 그 편리함에 젖은 우리에게 먹힐 리 만무하고, 이제는 우리 인간이 그들에게 쓸모있을 구석이 무엇일까를 이야기 해야 할 때가 아닌가 하는 저자의 의견이 솔깃하다. 기계는 계산, 별명, 생산은 다 할 수 있지만 ‘경험’만은 절대로 할 수 없다는 사실. 또한 더 중요한 것은, 인공지능에게 가장 중요한 것은 인간이 만든 데이터라는 사실이다. 인공지능이 스스로 만든 생성 데이터로 학습을 하면 학습이 잘 되지 않기 때문에 결국 인간이 없으면 새로운 데이터를 만들 수 없다. 어쩌면 미래의 인간은 기계에 의해 사육되고 경험과 데이터를 제공하는 애완동물처럼 취급될지도 모르겠다. 미래의 불확실성 때문에 불안해 할 즈음 저자의 비유가 위안이 된다. “ 운전할 때 사고가 일어나길 바라면서 안전벨트를 매는 사람은 아무도 없습니다. 안전벨트를 매지 않은 채로 사고가 나면 피해가 크니까, 불편함을 감수하고 매는 것이지요. 차에서 내리면서 “오늘 안전벨트 맸는데 사고도 안 났네, 괜히 맸다” 하는 사람은 아무도 없습니다. 위험은 대비해야 하는 대상입니다. 디스토피아 걱정하느라고 발전을 못 한다는 것은 “안전벨트 맬 시간에 빨리 운전해서 목적지로 가야 한다”라는 것과 다름이 없습니다. 우리는 AGI를 개발하기 전에 AGI와 공생할 준비를 갖춰야 할지도 모릅니다. ” 지금부터라도 인공지능과 인간이 공생할 수 있는 방법을 찾기위해 노력해야 한다. 그러나 지금처럼 인공지능을 한계까지 몰아붙이며 어려운 문제를 내고 대답하게 하는 방식은 결국 ‘우리가 대장’이라는 인간의 자존심을 지키려는 시도에 불과하므로 바람직하지 않다는 것이 저자의 당부이기도 하다. 생각하면 할수록 걱정되지만 인공지능의 새로운 쓰임이 나올 때마다 신기하고 놀랍고 기대감이 생기는 것도 어쩔 수 없는 사실이라 혼란스럽다. 그러나 무엇보다 평범한 사람들의 입장에서는 우리의 미래를 좌지우지 할 수 있는 권력자들의 미래세계에 대한 의견과 세계관에 대해 먼저 알아둘 필요가 있을 듯하다. 무조건적인 낙관론으로 급속한 기술기발을 추구하자는 사람들이 가진 본심은 무엇인지, 그렇지 않은 사람들이 우려하는 의견은 무엇인지에 대해 정확히 알아야 조금이라도 불행한 미래를 늦추는 데에 도움이 되지 않을까. 무엇보다 인간이 인간다움을 잃지않는 방향으로 가는 것이 정답이지 싶다. “ 공생이 가능하다면 그게 제일 현명한 길일 겁니다. 인공지능을 노예가 아닌 파트너로 대하고, 상호 존중할 수 있도록 미리 설계해야 합니다. 어쩌면 그것이야말로 우리가 ASI 시대에서 살아남을 수 있는 유일한 길일지도 모릅니다. ” ________ 최근 보면 무솔리니와 일론 머스크의 사상이 똑같다는 이야기가 있습니다. 전통을 다 깨고 시, 박물관, 인문학을 파괴하자는 주장입니다. 일론 머스크가 최근에는 이런 말을 하기도 했습니다. “서양 문명의 가장 큰 약점은 연민이다. 약한 사람을 불쌍히 여기는 순간 발전이 없다.” 반면 한나 아렌트Hannah Arendt는 이렇게 말했습니다. “연민을 포기하는 순간 인류는 야만이 된다.” 민주주의 국가였던 바이마르공화국이 무너지고, 반인류적인 나치들이 정권을 잡는 과정을 직접 경험한 아렌트의 말에 귀를 기울여야 하지 않을까요? 신기하게도 지금 인공지능에 가장 많이 투자하고 인공지능 유토피아를 믿는 이들의 주장은 사실 알고 보면 하나도 새로운 게 아닙니다. 이미 미래파에서 했었던 이야기입니다. 기술 발전이 있어야 지구가 유토피아가 되는데, 러다이트나 인문학자, 예술가들이 자꾸 발목을 잡으니까, 그들은 무시해도 된다는 겁니다. 일론 머스크는, 불쌍해 보이는 사람들이나 우리보다 덜 똑똑한 사람들에게 연민을 느끼는 건 인류의 발전을 저해한다고 말합니다. 그걸 극복해야 발전이 있다는 주장입니다. AGI, 천사인가 악마인가 | 김대식 저 #AGI천사인가악마인가 #김대식 #동아시아 #독서 #책읽기 #북스타그램

앞으로 미래에 대해 고민할 수 있던 시간이었습니다. 감사합니다.

사실을 적어놓았다 한들 바꿀 수 있는게 없다는 것이 비통할 따름. 자식세대에 물려줄 것이 없어서 이런 미래를 주어야하나 싶다. 그럼에도 희망을 갖고 오늘 내가 할 수 있는 일을 하고 웃으며 살아야겠지. 우리가 아무리 우주의 먼지같은 존재일 지언정 존재의 의미는 있다고 믿고 그 의미가 행복을 느낌으로써 커진다고 생각하니까.

이 책을 읽고 인공지능 스피커님 에게 절을 드리고 있습니다. 이제 ai는 따라잡기 힘들 정도로 빠르게 발전하고 있습니다. 이 책의 장점은 그 흐름을 쉽게 설명하고 앞으로 다가올 미래의 큰 그림을 보여주고 있다고 생각됩니다. 장미빛 미래만 꿈꿀 수 없으며 필연적으로 따라오게 될 위험까지 경고하고 있습니다. 2025년 이 책을 읽은 독자로서 아직 시간이 조금 남아있다는 것에 위안을 갖습니다.

결국 인간은 인간에 의해 , 인간이 만든 그 무엇에 의해 멸망하는군요 AI,AGI,ASI 그 다음은 무엇일까요? 무엇이 되었든 공생을 하기에는 희망이 보이지는 않습니다 슬퍼집니다

책의 반정도는 AI가 어떤 방식으로 만들어졌는지 역사 안에서의 AI 발전 과정과 원리에 대해 설명해주는데 이게 정말 유용했습니다. AI에 대한 지식이 없는 사람도 이해하기 쉽게 적혀있어서 재밌고 어렵지 않게 읽을 수 있었습니다. AGI와 ASI에 대한 얘기도 흥미로웠구요. 지금은 날마다 기술이 엄청나게 발전하고 있어서 미래는 누구도 예상하지 못한다고 들었는데 책에서의 미래 예측 부분은 그걸 감안하고 읽었습니다.

유튜브로 설명하시는 거 보고 책 읽어봤는데 시간가는 줄 모르고 몰입했네요! 감사합니다!💕

<AGI, 천사인가 악마인가>는 기술과 철학의 경계에서 AGI 시대를 통찰하는 탁월한 분석서라고 할 수 있습니다. 단순히 인공지능의 발전사를 다루지 않고 AGI가 인간의 존엄,노동,정체성에 미칠 구조적 충격을 깊이 있게 짚어나가는데요. 챗GPT로 시작된 변화가 단순한 기술 혁신이 아니라 인류의 지위를 뒤흔드는 사건임을 설득력 있게 설명해주며 알수 없는 미지와 미래의 공포를 부추기기보다 기술과 인간의 공존 전략을 현실적으로 제시한다는 점이 인상적이었어요. 기술을 어떻게 쓰냐에 따라 천사도 악마도 될 수 있다는 양면성에 대해 다시 한번 생각해보게 되네요. AI의 본질과 미래 사회의 방향에 대해 심도있는 고민을 해보고 싶다면 지금 읽어야 할 가치가 있는 책이에요.