자연어 처리를 위한 허깅페이스 트랜스포머 하드 트레이닝 상세페이지
출간 정보
- 2025.01.13 전자책, 종이책 동시 출간
듣기 기능
TTS(듣기) 미지원
파일 정보
- 318 쪽
- 13.0MB
지원 환경
- 앱
- 웹
- PC뷰어
- PAPER
ISBN
9791165923174
ECN
-
자연어 처리를 위한 허깅페이스 트랜스포머 하드 트레이닝
작품 정보
자연어 처리의 기본부터
허깅페이스 모델 경량화, 정렬 조정, 강화 학습까지
챗GPT와 같은 대화형 인공지능 챗봇과 다수의 오픈소스 생성형 언어 모델은 대규모 언어 모델(LLM)에 해당합니다. 허깅페이스는 각종 생성형 인공지능을 위한 모델과 데이터셋을 개발자들이 자유롭게 공유하고 쉽게 활용할 수 있도록 API 및 도구를 제공하는데, 『자연어 처리를 위한 허깅페이스 트랜스포머 하드 트레이닝』에서는 다양한 생성형 인공지능 기술 중 자연어 처리를 위한 언어 모델에 집중합니다.
Transformers 라이브러리를 기준으로 토크나이저 및 모델 준비, 한국어 자연어 이해 평가(KLUE) 데이터셋 전처리, 학습 파라미터 선정 및 학습 진행과 성능 평가를 실습해봅니다. 이후 사전학습 단계부터 직접 진행해야 하는 경우를 대비하여 Tokenizers 라이브러리에 대해 살펴보고 정확도, f1 스코어, 정밀도, 재현율을 기준으로 모델을 평가하는 Evaluate 라이브러리에 대해서 알아봅니다. PEFT, 양자화, QLoRA 미세조정과 같이 모델의 메모리 사용량은 줄이고 추론 속도는 높이는 경량화 기법에 대해 코드와 결과물로 꼼꼼하게 확인해본 후 RLHF, SFT, PPO, Best-of-N 샘플링 등 정렬 조정에 해당하는 다양한 방법론과 이를 강화학습을 위한 트랜스포머(TRL)를 통해 활용하는 방식까지 차근차근 학습합니다.
허깅페이스 모델 경량화, 정렬 조정, 강화 학습까지
챗GPT와 같은 대화형 인공지능 챗봇과 다수의 오픈소스 생성형 언어 모델은 대규모 언어 모델(LLM)에 해당합니다. 허깅페이스는 각종 생성형 인공지능을 위한 모델과 데이터셋을 개발자들이 자유롭게 공유하고 쉽게 활용할 수 있도록 API 및 도구를 제공하는데, 『자연어 처리를 위한 허깅페이스 트랜스포머 하드 트레이닝』에서는 다양한 생성형 인공지능 기술 중 자연어 처리를 위한 언어 모델에 집중합니다.
Transformers 라이브러리를 기준으로 토크나이저 및 모델 준비, 한국어 자연어 이해 평가(KLUE) 데이터셋 전처리, 학습 파라미터 선정 및 학습 진행과 성능 평가를 실습해봅니다. 이후 사전학습 단계부터 직접 진행해야 하는 경우를 대비하여 Tokenizers 라이브러리에 대해 살펴보고 정확도, f1 스코어, 정밀도, 재현율을 기준으로 모델을 평가하는 Evaluate 라이브러리에 대해서 알아봅니다. PEFT, 양자화, QLoRA 미세조정과 같이 모델의 메모리 사용량은 줄이고 추론 속도는 높이는 경량화 기법에 대해 코드와 결과물로 꼼꼼하게 확인해본 후 RLHF, SFT, PPO, Best-of-N 샘플링 등 정렬 조정에 해당하는 다양한 방법론과 이를 강화학습을 위한 트랜스포머(TRL)를 통해 활용하는 방식까지 차근차근 학습합니다.
작가 소개
박성환
통계학을 전공하였으며 DB 관리 및 솔루션 개발 3년 9개월, 스타트업 자연어 처리(Natural Language Processing, NLP) 개발 2년 8개월 경력을 쌓은 후 현재는 국내 식품 관련 기업 풀무원의 Data&AI 팀에서 대규모 언어 모델(Large Language Model, LLM)을 활용한 HR 어시스턴트, AICC 콜봇 개발을 하고 있습니다.
최근에는 자연어 처리 관련 모델과 LLM에 관해 주로 공부 중이며 항상 아는 지식을 공유하고 모르는 지식은 배우려는 자세로 임하고 있습니다.
現) 풀무원 Data&AI 팀 NLP 개발
前) AI 관련 스타트업 NLP 개발
前) 퓨쳐누리 DB 관리 및 솔루션 개발
- 이메일 hipster4020@gmail.com
- 깃허브 github.com/hipster4020
- 블로그 hipster4020.tistory.com
- 링크드인 linkedin.com/in/sunghwanpark4020
남승우
소프트웨어마이스터고등학교 소프트웨어개발과를 졸업했습니다. 2020년도에 디스코드 챗봇 개발 팀 ‘팀 크레센도’에서 활동하며 여러 챗봇 개발에 기여했고, 졸업 직후 취업해 5년 차 NLP 엔지니어로 재직 중이며 한국방송통신대학교 통계ㆍ데이터과학과 이수를 병행하고 있습니다.
현재는 sLM 사전학습, 프롬프트 엔지니어링 등의 자연어 처리 기술과 더불어 음성 인식 및 음성 합성에도 많은 관심을 가지고 공부하고 있습니다.
現) AI 관련 스타트업 NLP 개발
前) 디스코드 챗봇 개발팀 ‘팀 크레센도’ 활동
- 이메일 nsw0311@gmail.com
- 깃허브 github.com/Nam-SW
통계학을 전공하였으며 DB 관리 및 솔루션 개발 3년 9개월, 스타트업 자연어 처리(Natural Language Processing, NLP) 개발 2년 8개월 경력을 쌓은 후 현재는 국내 식품 관련 기업 풀무원의 Data&AI 팀에서 대규모 언어 모델(Large Language Model, LLM)을 활용한 HR 어시스턴트, AICC 콜봇 개발을 하고 있습니다.
최근에는 자연어 처리 관련 모델과 LLM에 관해 주로 공부 중이며 항상 아는 지식을 공유하고 모르는 지식은 배우려는 자세로 임하고 있습니다.
現) 풀무원 Data&AI 팀 NLP 개발
前) AI 관련 스타트업 NLP 개발
前) 퓨쳐누리 DB 관리 및 솔루션 개발
- 이메일 hipster4020@gmail.com
- 깃허브 github.com/hipster4020
- 블로그 hipster4020.tistory.com
- 링크드인 linkedin.com/in/sunghwanpark4020
남승우
소프트웨어마이스터고등학교 소프트웨어개발과를 졸업했습니다. 2020년도에 디스코드 챗봇 개발 팀 ‘팀 크레센도’에서 활동하며 여러 챗봇 개발에 기여했고, 졸업 직후 취업해 5년 차 NLP 엔지니어로 재직 중이며 한국방송통신대학교 통계ㆍ데이터과학과 이수를 병행하고 있습니다.
현재는 sLM 사전학습, 프롬프트 엔지니어링 등의 자연어 처리 기술과 더불어 음성 인식 및 음성 합성에도 많은 관심을 가지고 공부하고 있습니다.
現) AI 관련 스타트업 NLP 개발
前) 디스코드 챗봇 개발팀 ‘팀 크레센도’ 활동
- 이메일 nsw0311@gmail.com
- 깃허브 github.com/Nam-SW
리뷰
0.0
구매자 별점
0명 평가
이 작품을 평가해 주세요!
건전한 리뷰 정착 및 양질의 리뷰를 위해 아래 해당하는 리뷰는 비공개 조치될 수 있음을 안내드립니다.
- 타인에게 불쾌감을 주는 욕설
- 비속어나 타인을 비방하는 내용
- 특정 종교, 민족, 계층을 비방하는 내용
- 해당 작품의 줄거리나 리디 서비스 이용과 관련이 없는 내용
- 의미를 알 수 없는 내용
- 광고 및 반복적인 글을 게시하여 서비스 품질을 떨어트리는 내용
- 저작권상 문제의 소지가 있는 내용
- 다른 리뷰에 대한 반박이나 논쟁을 유발하는 내용
* 결말을 예상할 수 있는 리뷰는 자제하여 주시기 바랍니다.
이 외에도 건전한 리뷰 문화 형성을 위한 운영 목적과 취지에 맞지 않는 내용은 담당자에 의해 리뷰가 비공개 처리가 될 수 있습니다.아직 등록된 리뷰가 없습니다.
첫 번째 리뷰를 남겨주세요!
첫 번째 리뷰를 남겨주세요!
'구매자' 표시는 유료 작품 결제 후 다운로드하거나 리디셀렉트 작품을 다운로드 한 경우에만 표시됩니다.
- 무료 작품 (프로모션 등으로 무료로 전환된 작품 포함)
- '구매자'로 표시되지 않습니다.
- 시리즈 내 무료 작품
- '구매자'로 표시되지 않습니다. 하지만 같은 시리즈의 유료 작품을 결제한 뒤 리뷰를 수정하거나 재등록하면 '구매자'로 표시됩니다.
- 영구 삭제
- 작품을 영구 삭제해도 '구매자' 표시는 남아있습니다.
- 결제 취소
- '구매자' 표시가 자동으로 사라집니다.
개발/프로그래밍 베스트더보기
- 핸즈온 LLM (제이 알아마르, 마르턴 흐루턴도르스트)
- 요즘 우아한 AI 개발 (우아한형제들)
- 조코딩의 AI 비트코인 자동 매매 시스템 만들기 (조동근)
- 개정2판 | 파인만의 컴퓨터 강의 (리처드 파인만, 서환수)
- 멀티패러다임 프로그래밍 (유인동)
- npm Deep Dive (전유정, 김용찬)
- 모던 소프트웨어 엔지니어링 (데이비드 팔리, 박재호)
- 기획자로 산다는 것 (카카)
- 이것이 스프링 부트다 with 자바 (김희선)
- 주니어 백엔드 개발자가 반드시 알아야 할 실무 지식 (최범균)
- 플랫폼 엔지니어링 (이언 놀런드, 카미유 푸르니에)
- 개정판 | Do it! 점프 투 파이썬 (박응용)
- 시스템 설계 면접 완벽 가이드 (지용 탄, 나정호)
- 개정판 | [Must Have] 코드팩토리의 플러터 프로그래밍 (최지호)
- 파이토치와 유니티 ML-Agents로 배우는 강화학습 [응용편] (민규식, 이현호)
- 개정4판 | 스위프트 프로그래밍 (야곰)
- 개정판 | 개발자 기술 면접 노트 (이남희)
- 개정판 | 혼자 공부하는 머신러닝+딥러닝 (박해선)
- 테스트 너머의 QA 엔지니어링 (김명관)
- 혼자 공부하는 네트워크 (강민철)
성인 인증 안내
성인 재인증 안내
성인 인증 안내
성인 재인증 안내
청소년보호법에 따라 성인 인증은 1년간
유효하며, 기간이 만료되어 재인증이 필요합니다.
성인 인증 후에 이용해 주세요.
해당 작품은 성인 인증 후 보실 수 있습니다.
성인 인증 후에 이용해 주세요.
청소년보호법에 따라 성인 인증은 1년간
유효하며, 기간이 만료되어 재인증이 필요합니다.
성인 인증 후에 이용해 주세요.
해당 작품은 성인 인증 후 선물하실 수 있습니다.
성인 인증 후에 이용해 주세요.
본문 끝 최상단으로 돌아가기
