- 2026.04.03 전자책 출간
- 2026.04.08 종이책 출간
- EPUB
- 약 21.1만 자
- 20.2MB
- 앱
- 웹
- PC뷰어
- PAPER
작품 정보
"누군가 초지능을 만든다면, 모두가 죽는다."
20년 넘게 초지능 AI의 위험을 연구해온 두 사람이 있다. ⟨타임⟩에서 선정한 ‘인공지능 분야에서 가장 영향력 있는 인물’ 중 한 명인 엘리에저 유드코스키와 전 구글 소속 AI 개발자인 네이트 소아레스. 두 사람은 AI 안전 연구라는 분야가 존재하기 전부터 이 문제를 연구했다. 두 저자는 진행 중이던 연구 대부분을 축소하고 이 한 권의 책에 모든 것을 걸었다. 더는 시간을 지체할 수 없기 때문이다.
이 책은 초지능 AI가 탄생하면 어떤 과정을 통해 인간을 멸종시킬지 과학적으로 설명하고, 멸종 시나리오를 직접 보여주며, 왜 현재의 안전장치로는 초지능을 막을 수 없는지 증명한다. 책의 모든 내용을 한 문장으로 요약하면 이렇다. "누군가 초지능을 만든다면, 모두가 죽는다." 이 문장이 과장처럼 느껴지는가. 저자들은 한 가지 질문을 던진다. 얼음을 뜨거운 물에 넣으면 어떻게 될까. 10분 뒤 각 분자가 어디로 이동할지는 아무도 모르지만, 얼음이 녹는다는 것은 안다. 이처럼 미래의 모든 경로를 예측할 수는 없어도, 거대한 흐름의 결과는 예측할 수 있다.
저자들이 확신하는 예측은 바로 인간의 종말이다. 인간이 맹수를 멸종시키고 지구를 지배하게 된 건 힘이 아니라 지능 덕분이었다. 마찬가지로 인간보다 압도적인 초지능이 탄생하면, 인간을 멸종시킬 것이다. 초지능이 인간을 증오해서가 아니다. AI가 목표를 추구하는 과정에서 인류는 고려 대상조차 되지 않을 뿐이다. 우리가 건물을 지을 때 개미집을 신경 쓰지 않는 것처럼. 더 늦기 전에 선택해야 한다. 저자들은 책 말미에 이렇게 말한다. “아직 초지능은 존재하지 않는다. 우리는 초지능을 만들지 않기로 선택할 수 있다.”
작가 소개
2023년 타임에서 선정한 ‘AI 분야에서 가장 영향력 있는 인물’ 중 한 명으로, 인공지능 정렬 연구 분야를 창립한 AI 분야의 선구자 중 한 사람이다. 인공지능 정렬은 인간보다 더 뛰어난 지능을 지닌 인공지능이 어떻게 사고하고 행동하며 목표를 추구하는지를 규명하는 학문이다. 그는 비영리 연구기관인 머신 인텔리전스 리서치 인스티튜트(MIRI)의 공동 설립자로서 인공지능 정렬 문제에 대한 과학적 연구를 촉발시켰고, 인간을 능가하는 인공지능의 위험성과 가능성을 둘러싼 공공 담론 형성에 중요한 역할을 해왔다. ⟨뉴욕타임스⟩의 “현대 인공지능 운동의 여명을 이끈 12인의 인물” 특집에 포함되었고, ⟨워싱턴포스트⟩의 “AI를 둘러싼 사상의 두 진영” 논의에서 주요 사상가 7인 중 한 명으로 조명되었다. 2023년 TED 콘퍼런스 메인 무대에서 연설했으며, 그의 견해는 ⟨뉴요커⟩, ⟨뉴스위크⟩, ⟨포브스⟩, ⟨와이어드⟩, ⟨블룸버그⟩, ⟨애틀랜틱⟩, ⟨이코노미스트⟩ 등 다양한 매체에서 다루었다.
지은이: 네이트 소아레스(Nate Soares)
머신 인텔리전스 리서치 인스티튜트(MIRI)의 대표이다. 마이크로소프트와 구글에서 AI 엔지니어로 일하며 10년 이상 인공지능 정렬 연구에 몰두해 왔다. 그는 가치 학습, 의사결정 이론, 그리고 인간 수준을 넘어서는 인공지능의 ‘권력 추구 유인’에 관한 기초 연구를 포함해 인공지능 정렬과 관련된 기술적 저작물을 다수 집필했다.
옮긴이: 고영훈
성균관대학교에서 경영학을, 대학원에서 신문방송학을 공부했다. 캐나다 현지 기업에서 근무 후 한국으로 돌아와 바른번역 회원으로 번역 활동을 하고 있다. 옮긴 책으로는 ⟪크립토애셋, 암호자산 시대가 온다⟫, ⟪1page 혁명, 실리콘밸리가 일하는 방식⟫, ⟪왜 제조업 르네상스인가⟫, ⟪작은 습관 연습⟫, ⟪포에버 데이 원⟫, ⟪FBI 사람 예측 심리학⟫, ⟪돈의 연금술⟫, ⟪나폴레온 힐 부자 수업⟫, ⟪예민함의 힘⟫, ⟪해내는 사람에게는 한 가지가 있다⟫, ⟪결국엔 정직함이 이긴다⟫, ⟪부의 전략수업⟫, ⟪스포트라이트⟫, ⟪스케일링 피플⟫ 등이 있다.
리뷰
4.5
이 작품을 평가해 주세요!
- 타인에게 불쾌감을 주는 욕설
- 비속어나 타인을 비방하는 내용
- 특정 종교, 민족, 계층을 비방하는 내용
- 해당 작품의 줄거리나 리디 서비스 이용과 관련이 없는 내용
- 의미를 알 수 없는 내용
- 광고 및 반복적인 글을 게시하여 서비스 품질을 떨어트리는 내용
- 저작권상 문제의 소지가 있는 내용
- 다른 리뷰에 대한 반박이나 논쟁을 유발하는 내용
인공지능 기술이 발전하면서 인간 사회에 어떤 변화가 생길지를 다룬 책이다. 특히 AI가 인간의 능력을 넘어서는 순간이 오면 인류에게 큰 위협이 될 수도 있다는 내용이 인상 깊었다. 단순한 과학기술 이야기가 아니라 인간의 일자리, 윤리 문제, 그리고 미래 사회까지 연결해서 설명해 흥미롭게 읽을 수 있었다. 읽으면서 AI가 편리함만 주는 존재가 아니라 잘못 사용되면 위험할 수도 있다는 생각이 들었다. 또한 앞으로 인간이 AI와 어떻게 공존해야 할지 고민하게 만드는 책이었다. 전체적으로 미래 사회에 대한 경각심을 주는 현실적인 내용이 많아 기억에 남았다.
mon***2026.05.10흥미로운 초중반과는 달리 후반부의 상당량이 조약의 항목에 대한 설명만 줄줄이 나오므로 그걸 감안해서 보세요.
man***2026.05.08우연히 광고 보고 구입했어요. 흥미로운 주제라 기대됩니다.^^
kho***2026.05.02AI에 대한 장미빛 전망이 판을 치고 있는 사회에서 누군가는 돌아보고 무엇을 고민하게 만드는 책입니다
zmn***2026.04.26
- 무료 작품 (프로모션 등으로 무료로 전환된 작품 포함)
- '구매자'로 표시되지 않습니다.
- 시리즈 내 무료 작품
- '구매자'로 표시되지 않습니다. 하지만 같은 시리즈의 유료 작품을 결제한 뒤 리뷰를 수정하거나 재등록하면 '구매자'로 표시됩니다.
- 영구 삭제
- 작품을 영구 삭제해도 '구매자' 표시는 남아있습니다.
- 결제 취소
- '구매자' 표시가 자동으로 사라집니다.
성인 인증 안내
성인 재인증 안내
성인 인증 안내
성인 재인증 안내
청소년보호법에 따라 성인 인증은 1년간
유효하며, 기간이 만료되어 재인증이 필요합니다.
성인 인증 후에 이용해 주세요.
해당 작품은 성인 인증 후 보실 수 있습니다.
성인 인증 후에 이용해 주세요.
청소년보호법에 따라 성인 인증은 1년간
유효하며, 기간이 만료되어 재인증이 필요합니다.
성인 인증 후에 이용해 주세요.
해당 작품은 성인 인증 후 선물하실 수 있습니다.
성인 인증 후에 이용해 주세요.
본문 끝 최상단으로 돌아가기
