논문 및 개념 정리

Hold-out vs Cross-validation 차이

2023. 7. 16. 13:03
목차
  1. 1. Hold-out
  2. 2. Cross-validation
  3. * Hold-out vs Cross-validation

1. Hold-out

Hold-out 방법은 데이터를 train, test set으로 나누고 train set에서 학습된 모델을 test set에서 성능을 평가하는 방식이다(held-out method라고도 함)

 

2. Cross-validation

Cross-validation은 k-fold cross validation이라고도 하며, hold-out 방법을 k번 시행하되 매번 새로운 train/test set으로 진행하는 방식이다. 아래 그림에서 처럼 모든 데이터셋이 test set으로 사용될 때 까지 돌린다.

출처: 하단

 

* Hold-out vs Cross-validation

Hold-out은 데이터셋이 매우 크고 시간이 없거나 PoC 컨셉으로 모델을 테스트해볼 때 유용하다. Cross-validation은 시간과 학습비용이 크기 때문에 잘 사용되지는 않는다.

 

 

[출처]

  • https://medium.com/@eijaz/holdout-vs-cross-validation-in-machine-learning-7637112d3f8f

 

 

 

 

 

728x90
저작자표시 비영리 변경금지 (새창열림)

'논문 및 개념 정리' 카테고리의 다른 글

Vector Outer Product  (0) 2024.06.26
[2023] The Wisdom of Hindsight Makes Language Models Better Instruction Followers  (1) 2023.12.01
Propensity Score  (0) 2023.06.28
[2021] (FLAN)FINETUNED LANGUAGE MODELS ARE ZERO-SHOT LEARNERS (Instruction-Tuning 논문)  (2) 2023.03.13
[2015] Deep Residual Learning for Image Recognition (ResNet 논문)  (0) 2023.01.14
  1. 1. Hold-out
  2. 2. Cross-validation
  3. * Hold-out vs Cross-validation
'논문 및 개념 정리' 카테고리의 다른 글
  • Vector Outer Product
  • [2023] The Wisdom of Hindsight Makes Language Models Better Instruction Followers
  • Propensity Score
  • [2021] (FLAN)FINETUNED LANGUAGE MODELS ARE ZERO-SHOT LEARNERS (Instruction-Tuning 논문)
Fine애플
Fine애플
이것저것
Fine애플
끄적끄적
Fine애플
전체
오늘
어제
  • 분류 전체보기 (167)
    • 논문 및 개념 정리 (27)
    • Pattern Recognition (8)
    • 개발 (57)
    • python 메모 (45)
    • pytorch, tensorflow (5)
    • 알고리즘 (9)
    • Toy Projects (4)
    • 통계이론 (2)
    • Reinforcement Learning (10)

블로그 메뉴

  • 홈

공지사항

인기 글

태그

  • 딥러닝
  • pandas
  • PyTorch
  • 언어모델
  • 개발환경
  • transformer
  • GPU
  • reinforcement learning
  • Bert
  • container
  • Docker
  • ubuntu
  • python
  • nlp
  • 자연어
  • 알고리즘
  • tensorflow
  • BigBird
  • miniconda
  • Probability

최근 댓글

최근 글

hELLO · Designed By 정상우.
Fine애플
Hold-out vs Cross-validation 차이
상단으로

티스토리툴바

개인정보

  • 티스토리 홈
  • 포럼
  • 로그인

단축키

내 블로그

내 블로그 - 관리자 홈 전환
Q
Q
새 글 쓰기
W
W

블로그 게시글

글 수정 (권한 있는 경우)
E
E
댓글 영역으로 이동
C
C

모든 영역

이 페이지의 URL 복사
S
S
맨 위로 이동
T
T
티스토리 홈 이동
H
H
단축키 안내
Shift + /
⇧ + /

* 단축키는 한글/영문 대소문자로 이용 가능하며, 티스토리 기본 도메인에서만 동작합니다.