본문 바로가기

리디 접속이 원활하지 않습니다.
강제 새로 고침(Ctrl + F5)이나 브라우저 캐시 삭제를 진행해주세요.
계속해서 문제가 발생한다면 리디 접속 테스트를 통해 원인을 파악하고 대응 방법을 안내드리겠습니다.
테스트 페이지로 이동하기

안녕, 트랜스포머 상세페이지

안녕, 트랜스포머

BERT에서 시작하는 자연어 처리 레시피

  • 관심 0
소장
종이책 정가
24,000원
전자책 정가
20%↓
19,200원
판매가
19,200원
출간 정보
  • 2022.09.28 전자책 출간
  • 2022.07.29 종이책 출간
듣기 기능
TTS(듣기) 지원
파일 정보
  • PDF
  • 257 쪽
  • 8.2MB
지원 환경
  • PC뷰어
  • PAPER
ISBN
9791161756851
ECN
-
안녕, 트랜스포머

작품 정보

1장에서는 언어 모델에 관한 내용을 다뤘다. 언어 모델이 무엇인지 확률적으로 정의한 후, N-gram 기법을 이용해서 언어 모델을 설명하고 그 과정을 코드를 통해 구현했다. 또한 N-gram 이후에 오랫동안 사용됐던 인공지능 모델인 RNN 계열의 인공지능 모델도 설명했다. RNN 계열의 언어 모델도 간단하게 학습해볼 수 있도록 샘플 코드를 구현했다.
2장에서는 어텐션에 대해서 자세하게 다뤘다. 어텐션은 트랜스포머의 핵심을 이루는 연산이다. 어텐션 연산을 RNN 계열에 추가했을 때 어떠한 장점이 있는지 설명했\하고 관련된 샘플 코드도 공부해볼 수 있도록 구현했다.
3장부터 본격적으로 트랜스포머의 구조를 다뤘다. 2장에서 다룬 어텐션을 기반으로 트랜스포머를 어떻게 구현했는지 구조적으로 설명했다.
4장에서는 BERT 모델에 대해서 설명했다. BERT를 사전 학습하는 방법에 대해서 소개했고, 사전학습된 모델을 파인튜닝하는 방법에 대해서도 소개하며 또한 BERT 이후에 발표된 개선된 모델도 몇 가지 소개했다.
5장에서는 GPT 계열의 모델을 설명했다. GPT2에서부터는 메타러닝의 개념이 추가된다. 자연어 처리에서 메타러닝이 왜 필요하고 어떤 방법으로 학습되는지 소개했다. 다만 GPT2/GPT3의 정확한 학습 방법은 공개되지 않았기 때문에 학습 과정은 코드로 구현하지 못했다.
마지막으로 부록에서는 딥러닝 모델의 양자화에 대해서 살펴본다. 딥러닝 모델의 성능이 비약적으로 발전했지만 그와 동시에 모델의 연산량과 파라미터 수도 굉장히 많아졌다. 큰 모델을 간단하게 경량화할 수 있는 방법으로 양자화가 있다. 부록에서는 양자화의 기본 원리에 대해서 다루고 4장에서 살펴본 BERT를 파인 튜닝해서 학습한 분류 모델을 경량화하는 내용을 다룬다.

작가 소개

안랩의 보안 관제 엔지니어로 IT 업계에 발을 들였다. 그러던 중 2015년에 데이터 분석을 공부하기 위해 영국의 워릭대학교(The University of Warwick)로 석사 유학을 떠났다. 석사 취득 후에는 안랩에서 보안 관제를 위한 머신러닝/AI 서비스를 연구하고 개발했다. 현재는 포스코ICT의 AI기술그룹에서 컴퓨터 비전 프로젝트를 연구하고 있다.

리뷰

0.0

구매자 별점
0명 평가

이 작품을 평가해 주세요!

건전한 리뷰 정착 및 양질의 리뷰를 위해 아래 해당하는 리뷰는 비공개 조치될 수 있음을 안내드립니다.
  1. 타인에게 불쾌감을 주는 욕설
  2. 비속어나 타인을 비방하는 내용
  3. 특정 종교, 민족, 계층을 비방하는 내용
  4. 해당 작품의 줄거리나 리디 서비스 이용과 관련이 없는 내용
  5. 의미를 알 수 없는 내용
  6. 광고 및 반복적인 글을 게시하여 서비스 품질을 떨어트리는 내용
  7. 저작권상 문제의 소지가 있는 내용
  8. 다른 리뷰에 대한 반박이나 논쟁을 유발하는 내용
* 결말을 예상할 수 있는 리뷰는 자제하여 주시기 바랍니다.
이 외에도 건전한 리뷰 문화 형성을 위한 운영 목적과 취지에 맞지 않는 내용은 담당자에 의해 리뷰가 비공개 처리가 될 수 있습니다.
아직 등록된 리뷰가 없습니다.
첫 번째 리뷰를 남겨주세요!
'구매자' 표시는 유료 작품 결제 후 다운로드하거나 리디셀렉트 작품을 다운로드 한 경우에만 표시됩니다.
무료 작품 (프로모션 등으로 무료로 전환된 작품 포함)
'구매자'로 표시되지 않습니다.
시리즈 내 무료 작품
'구매자'로 표시되지 않습니다. 하지만 같은 시리즈의 유료 작품을 결제한 뒤 리뷰를 수정하거나 재등록하면 '구매자'로 표시됩니다.
영구 삭제
작품을 영구 삭제해도 '구매자' 표시는 남아있습니다.
결제 취소
'구매자' 표시가 자동으로 사라집니다.

컴퓨터/앱 활용 베스트더보기

  • 진짜 쓰는 실무 엑셀 (전진권)
  • 세컨드 브레인은 옵시디언 (시안)
  • 개정판 | [Must Have] 코드팩토리의 플러터 프로그래밍 (최지호)
  • 띠웅의 타이포그래피 with 프로크리에이트 (띠웅)
  • 캡컷 마스터 나랑하자 PC편 (정덕경)
  • 생성형 AI 업무 혁신 2 (박찬규, 윤가희)
  • AI 전환 시대엔 혼자보다 함께, 클로드 AI 글쓰기 (최흥식)
  • 디자인, 이렇게 하면 되나요? (오자와 하야토, 구수영)
  • 프런트엔드 개발을 위한 테스트 입문 (요시이 다케후미, 원밀리언라인즈코딩)
  • 제가 쓰는 챗GPT는 당신이 쓰는 챗GPT와 전혀 다릅니다 (허민)
  • 진짜 쓰는 일러스트레이터 (서영열)
  • 게임 시스템 디자인 입문 (댁스 개저웨이, 강세중)
  • 스토리텔링 우동이즘의 잘 팔리는 웹툰, 웹소설 이야기 만들기 (우동이즘(이동우))
  • 개정판 | Do it! 오토캐드 2025 (박한울)
  • 멀티플레이어 게임 프로그래밍 (산제이 마드하브, 조슈아 글레이저)
  • 개정판 | 초보자를 위한 파이썬 200제 (장삼용)
  • 파이썬 업무 자동화 일잘러 되기 + 챗GPT (메이허)
  • 노코드 풀스택 개발 with 버블 (이명성)
  • 일상을 여행처럼, 스마트폰 사진찍는 법 (장연애)
  • 된다! 7일 실무 워드 : 현업에서 진짜 쓰는 필수 기능 81 (이충욱)

본문 끝 최상단으로 돌아가기

spinner
앱으로 연결해서 다운로드하시겠습니까?
닫기 버튼
대여한 작품은 다운로드 시점부터 대여가 시작됩니다.
앱으로 연결해서 보시겠습니까?
닫기 버튼
앱이 설치되어 있지 않으면 앱 다운로드로 자동 연결됩니다.
모바일 버전