AGI, 열 개의 경고

“AI가 인류를 멸종시킬 확률이 10%라고 말하는 연구자가 있고, 그런 주장은 완전히 과장됐다고 반박하는 세계적인 AI 과학자도 있다. 우리는 누구의 말을 믿어야 할까?”
AGI, 인공 일반 지능이 현실에 가까워질수록 세상에는 더 많은 경고가 쏟아지고 있다.
AI가 인간보다 똑똑해지는 순간 통제할 수 없게 된다는 주장, 수많은 일자리가 사라질 것이라는 전망, AI가 전쟁과 해킹의 도구가 될 것이라는 경고가 등장한다. 가짜뉴스가 인간의 판단을 흔들고, 기술을 가진 소수 기업과 국가가 막대한 권력을 차지하며, AI에 의존할수록 인간 스스로 생각하는 능력까지 약해질 수 있다는 우려도 나온다.
그러나 정반대의 목소리도 존재한다.
“AI 종말론은 지나치게 과장됐다.”
“일자리는 없어지는 것이 아니라 바뀌는 것이다.”
“AI는 불평등을 키우는 것이 아니라 오히려 줄일 수도 있다.”
문제는 정보가 부족한 것이 아니다.
서로 정반대의 주장이 너무 많다는 것이다.
『AGI, 열 개의 경고』는 바로 이 혼란에서 출발한다.
이 책은 독자를 더 두렵게 만들기 위한 책이 아니다. AI 위험을 부정하기 위한 책도 아니다. 연구자와 AI 기업 내부자, 국제기구와 회의론자들이 내놓은 서로 다른 주장을 한자리에 놓고 **“누가 말했는가, 근거는 무엇인가, 반대편 주장은 무엇인가, 그리고 지금도 이 경고는 유효한가”**를 하나씩 확인한다. 원고 역시 “어떤 위협은 이미 벌어지고 있고, 어떤 위협은 아직 논쟁 중이며, 어떤 위협은 시간이 지나며 근거를 잃었다”고 구분하는 데 목적을 둔다. 39)AGI_열개의경고_완성
이 책이 검증하는 열 개의 경고
1. 인류가 멸종한다
2. AI를 통제할 수 없게 된다
3. 일자리가 사라진다
4. AI가 무기가 된다
5. AI가 해킹의 도구가 된다
6. 소수에게 권력이 집중된다
7. 가짜뉴스가 통제 불능이 된다
8. 인간이 생각하지 않게 된다
9. 불평등이 심해진다
10. 사실은 아무 일도 일어나지 않는다
특히 일자리 문제에서는 IMF와 세계경제포럼이 제시한 데이터를 통해 “일자리가 사라진다”와 “일자리가 재편된다”는 서로 다른 해석을 함께 보여준다. 세계경제포럼의 전망처럼 새 직업과 사라지는 직업이 동시에 존재한다면, 핵심 문제는 단순한 일자리 숫자가 아니라 변화 속도를 개인과 사회가 따라갈 수 있는가에 있기 때문이다. 39)AGI_열개의경고_완성
AI와 인간의 사고 능력에 관한 장에서는 이른바 ‘인지 부채’ 문제도 살펴본다. 중요한 것은 “AI를 쓰면 인간의 뇌가 나빠진다”는 단순한 결론이 아니다. 스스로 사고한 후 AI를 활용하는 것과 처음부터 모든 생각을 AI에 맡기는 것은 전혀 다른 문제라는 점을 짚는다. 39)AGI_열개의경고_완성
이 책을 특별하게 만드는 것은 **‘경고의 유통기한’**이라는 관점이다.
경고에는 시간이 있다.
10년 안에 일어난다고 했는가?
5년 안에 일어난다고 했는가?
이미 실제 사건으로 나타나고 있는가?
아니면 예측했던 시점이 계속 뒤로 밀리고 있는가?
경고를 접할 때마다 처음 듣는 이야기처럼 놀라는 대신, 그 예측이 지금까지 얼마나 맞았는지 추적해보자는 것이다.
또한 책은 모든 주장을 FACT·INTERPRETATION·OPINION으로 구분한다.
FACT는 확인할 수 있는 사실이다.
INTERPRETATION은 그 사실이 무엇을 의미하는지에 대한 해석이다.
OPINION은 그 해석을 바탕으로 우리가 무엇을 해야 하는가에 관한 주장이다.
같은 통계와 같은 사건을 보고도 완전히 다른 결론에 도달하는 이유는 이 세 가지가 뒤섞이기 때문이다.
『AGI, 열 개의 경고』가 독자에게 주려는 것은 미래를 정확히 맞히는 예언이 아니다.
다가올 미래를 스스로 판단하는 방법이다.
AGI가 언제 등장할지 정확히 아는 사람은 없다. AI가 인류에게 축복이 될지 위험이 될지 역시 지금 확정할 수 없다.
하지만 한 가지는 가능하다.
누가 말했는지 확인하고,
어떤 데이터가 있는지 살펴보고,
사실과 해석을 구분하고,
반대편 주장을 함께 읽고,
경고가 시간이 지나도 여전히 유효한지 확인하는 것.
AI 시대에 필요한 것은 더 큰 공포도, 더 강한 낙관도 아니다.
판단하는 힘이다.
『AGI, 열 개의 경고』는 AI 시대를 살아가는 우리가 어떤 경고를 믿고, 무엇을 준비하며, 어떤 질문을 계속 던져야 하는지를 생각하게 만드는 책이다.