문제
정보 이론에서 엔트로피의 성질에 대한 설명으로 가장 적절한 것은?
① 엔트로피는 확률분포가 균등할 때 최소값을 갖는다 ② 엔트로피는 불확실성이 클수록 큰 값을 갖는다 ③ 이진 분류에서 엔트로피의 최댓값은 2이다 ④ 엔트로피는 음수 값을 가질 수 있다
정답
2번
해설
정답: ② 엔트로피는 불확실성의 척도로, 불확실성이 클수록 큰 값을 갖습니다. ① 균등분포일 때 엔트로피는 최댓값을 갖습니다. ③ 이진 분류에서 엔트로피의 최댓값은 1입니다(각 클래스 확률이 0.5일 때). ④ 엔트로피는 항상 0 이상의 값을 갖습니다.