공공보고서 작성법

발간사

지난 2년간 인공지능(artificial intelligence, AI) 기술은 우리의 예상을 훨씬 뛰어넘는 속도로 진화해 왔다. 2022년 말 ChatGPT의 등장 이후 생성형 AI가 글로벌 IT 생태계에 충격을 주었다면, 최근에는 스스로 목표를 설정하고 도구를 사용하여 복잡한 과업을 자율적으로 수행하는 에이전틱 AI(Agentic AI), 그리고 물리 세계에서 인지·판단·행동을 수행하는 피지컬 AI(Physical AI)가 새로운 화두로 떠오르고 있다. AI는 더 이상 텍스트나 이미지를 생성하는 도구에 머무르지 않고, 자율적으로 의사결정을 내리고 물리적 행위까지 수행하는 단계로 나아가고 있는 것이다.
에이전틱 AI는 대규모 언어모델(LLM)을 두뇌로 삼아 외부 도구(Tool)를 호출하고, 메모리를 활용하며, 다단계 추론과 계획 수립을 통해 사람의 개입 없이도 복잡한 업무를 수행한다. 이미 코드 작성, 시장 조사, 고객 응대, 업무 자동화 등 다양한 영역에서 에이전틱 AI는 사람의 보조도구를 넘어 독립적인 실행 주체로 기능하기 시작했다.
한편 피지컬 AI는 휴머노이드 로봇, 자율주행, 산업용 로봇, 스마트 팩토리 등 물리 세계에서 작동하는 AI를 의미하며, 시뮬레이션과 현실의 경계를 허무는 월드 모델(World Model)의 발전과 함께 산업의 지형을 빠르게 재편하고 있다. 글로벌 빅테크 기업들이 피지컬 AI를 차세대 성장 동력으로 제시하고 있는 것은 이러한 변화의 단면이다.

--
기술의 진화는 새로운 법적 과제를 잇따라 제기한다. 에이전틱 AI가 자율적으로 외부 시스템과 거래하거나 의사를 표시할 때 그 법적 효과를 누구에게 귀속시킬 것인지, 다단계로 연결된 도구 호출 과정에서 발생한 손해의 책임을 어떻게 분배할 것인지의 문제가 대두된다.
피지컬 AI의 경우 물리적 사고와 인적·물적 손해가 현실화될 가능성이 크고, 산업안전·제조물책임·운행자책임 등 기존 법제와의 정합성을 새롭게 검토할 필요가 있다. 또한 AI가 학습 단계에서 사용한 데이터의 저작권과 개인정보 문제, 환각(Hallucination)으로 인한 허위정보 문제, 알고리즘의 차별과 편향 문제, 시장 지배적 사업자에 의한 경쟁 제한 우려 등 기존에 제기되었던 쟁점도 더욱 복잡한 양상으로 전개되고 있다.
이러한 흐름 속에서 한국은 2024년 12월 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 “AI 기본법”)을 제정하여 EU에 이어 세계에서 두 번째로 포괄적인 AI 규제 입법을 마련한 국가가 되었다. AI 기본법은 고영향 AI에 대한 사전적 규제, 생성형 AI의 표시 의무, AI 안전과 신뢰성 확보를 위한 체계, AI 산업 진흥을 위한 정책 수단 등을 함께 담고 있다는 점에서 주목된다. 다만 동법은 EU AI Act와 비교할 때 위험 기반 접근의 강도, 영향평가 및 적합성 평가의 구체성, 집행 체계 등에서 차이가 있다. 이에 AI 기본법의 입법 취지와 체계, 주요 조항의 의미를 정확히 분석하고, 시행 과정에서 발생할 수 있는 쟁점을 미리 검토하는 작업이 무엇보다 중요한 시점이다.
규제와 혁신의 균형이라는 과제는 여전히 유효하다. 사전적·획일적 규제는 기술 혁신을 저해하고 글로벌 경쟁에서 한국 기업의 발목을 잡을 우려가 있다. 반면 규제 공백은 시민의 권익과 사회의 안전을 위협할 수 있다. 사전 규제와 사후 규제, 정부 규제와 자율 규제, 일반법적 접근과 분야별 접근 등 다양한 규제 방식 중에서 기술의 진화에 유연하게 대응하면서도 사회적 위험을 최소화할 수 있는 방안을 모색해야 한다. 특히 규제샌드박스와 같은 실험적·적응적 규제 도구의 활용은 한국과 같이 빠르게 변화하는 환경에 적합한 접근이라 할 수 있다.
본서는 이러한 문제의식 위에서 이전 저서 「생성형 AI와 법」의 후속편이자 전면 개정·확장판으로 기획되었다. 본서는 지난 2년간의 기술적·법적 변화를 반영하여 한국의 AI 기본법, 에이전틱 AI, 피지컬 AI라는 세 축을 새롭게 보강하였으며, 총 5장 29편의 논문으로 구성되어 있다.
제1장 “AI 기술의 진화와 정책·규제의 방향”에서는 AI에 대한 포괄적 이해를 제공하기 위해 AI의 기술적 이해, 에이전틱 AI의 기술적 이해와 산업동향, 피지컬 AI의 기술적 이해와 산업동향, AI가 가져올 변화와 정책과제, AI의 규제원칙에 관한 연구를 다룬다.
제2장 “AI 기본법의 분석과 평가”는 본서에서 새롭게 신설된 장으로, 한국 AI 기본법을 정면으로 분석한다. AI 기본법의 개관과 입법적 특징, AI 기본법상 고영향 AI 규제, AI 기본법상 투명성 규제, AI 기본법상 안전 규정의 체계, 한국형 AI 규제샌드박스 도입에 관한 연구를 통해 신법의 의미와 한계를 종합적으로 조망한다.
제3장 “AI 규범의 이슈”는 본서의 핵심을 이루는 장으로, AI를 둘러싼 주요 법규범 이슈를 본격적으로 다룬다. 글로벌 AI 규제 동향과 한국의 AI 규제 정립 방안, EU의 AI 규제법과 AI 규제의 방향, AI 활용과 지식재산 쟁점, 생성형 AI의 저작권법 쟁점과 최근 재판례 분석, AI의 개인정보 이슈와 과제, 에이전틱 AI의 법적 이슈와 과제, 피지컬 AI의 법적 이슈와 과제, AI의 경쟁법상 이슈와 과제, AI에서 허위정보의 이슈와 과제, AI에서 알고리즘 규제 이슈와 과제가 포함된다.
제4장 “AI와 법 분야별 쟁점”에서는 헌법, 민법, 형법, 행정법, 금융법 등 주류 법학 분야에서 제기되는 AI 관련 쟁점을 다룬다. 인공지능 시대의 계약자유 원칙과 법적용상의 문제점, 인공지능을 활용한 행정의 이론적 문제와 대응, AI를 활용한 해킹 범죄의 위험성과 대책, AI 이용범죄의 쟁점과 규제방안(딥페이크 범죄 중심), AI와 금융법의 과제, AI의 기술발달에 따른 헌법적 관점에서의 기본권 보장에 관한 연구가 포함된다.
끝으로 제5장 “기타 AI 관련 법적·정책적 쟁점”에서는 AI의 오남용 문제와 사이버보안, AI와 법률자문의 이슈 및 동향, AI에 따른 글로벌 통상규범의 변화와 전망 등을 다룬다.
바쁘신 일정에도 불구하고 본서 집필에 참여해 주신 교수, 변호사 등 여러 필자분들께 깊이 감사드린다. 이번 작업에도 여러 전공의 법학자뿐 아니라 공학, 미디어학, 경제학 전공의 학자분과 이 분야 최고의 실무 전문가 변호사분들이 참여하여 이론과 실무가 긴밀히 연계된 통섭적 접근이 가능하였다. 또한 박영사 김한유 과장님은 본서가 출간될 수 있도록 처음부터 끝까지 지원해 주셨으며, 편집을 위해 아낌없는 노력을 기울여 주신 편집부 여러분께도 이 자리를 빌려 깊이 감사드린다.
개인적으로 데이터와 법, 플랫폼의 법과 정책, 마이데이터와 법, 생성형 AI와 법에 이어 인공지능법이라는 분야를 여러 훌륭한 동학과 함께 계속 개척해 나갈 수 있는 것은 큰 행운이라 생각한다.
본서가 AI와 데이터 경제를 선도하는 한국의 학계, 법조계, 기업, 정부는 물론 국민에게 AI 기본법과 진화하는 AI 기술의 법적 도전을 이해하는 데 유용한 나침반이 되기를 바란다.

감사합니다.

2026. 5.
고려대학교 연구실에서 편저자 이성엽