문제
신경망 노드 중 무작위로 노드를 선정하여 다수의 모형을 구성하고 학습한 뒤 각 모형의 결과를 결합해 분류 및 예측하는 기법을 무엇이라고 하는가?
① Mini-Batch ② bagging ③ Drop-out ④ AdaBoost
정답
3번
해설
정답: 3. 학습 과정에서 신경망 노드를 무작위로 비활성화(drop)해 매번 다른 부분 신경망을 학습하고 그 결과를 결합(앙상블 효과)함으로써 과적합을 줄이는 기법은 드롭아웃(Drop-out)이다. 지문의 '노드를 무작위로 선정해 다수 모형을 구성·결합'은 드롭아웃의 정의와 정확히 일치한다.
오답 풀이
- 1번: Mini-Batch는 데이터를 작은 묶음으로 나눠 가중치를 갱신하는 학습 단위 방식이지 노드 무작위 선택이 아니다.
- 2번: bagging은 데이터를 복원추출해 여러 모형을 만드는 일반 앙상블 기법으로, "노드 무작위 선정"이라는 신경망 한정 표현과는 결이 다르다.
- 3번: Drop-out은 학습 중 노드를 무작위로 비활성화해 부분 모형을 구성·결합하는 기법으로 지문과 일치한다(정답).
- 4번: AdaBoost는 약한 학습기를 순차적으로 학습하며 오분류 표본에 가중치를 주는 부스팅 기법으로, 노드를 끄는 것과 무관하다.
보충 개념 드롭아웃은 학습 시 일부 뉴런을 확률 p로 끄고, 예측 시에는 전체 뉴런을 사용(스케일 보정)해 과적합을 억제한다. AdaBoost는 오분류 샘플 가중치를 키워 다음 약학습기가 집중하게 한다.