신경망 (활성화·과적합)

3과목데이터 마이닝

핵심

활성화함수는 비선형 변환. 시그모이드 0~1, ReLU는 음수→0. 과적합은 학습만 잘됩니다.

공식

활성화함수: 가중합→비선형 출력 시그모이드: 0~1 ReLU: 음수→0, 양수 그대로 가중치(학습 중 갱신) / 은닉층(깊을수록 복잡) 과대적합(학습↑ 검증↓) vs 과소적합(둘 다↓) 함정: 활성화 출력 범위 혼동, 과대적합↔과소적합

트리거 키워드

신경망활성화함수시그모이드ReLU가중치은닉층과대적합과소적합

예시

'학습 데이터엔 잘 맞지만 새 데이터 성능이 낮으면?' → 과대적합(Overfitting)

참고 설명

인공신경망에서 활성화함수는 입력의 가중합을 비선형으로 변환해 복잡한 패턴 학습을 가능하게 합니다. 시그모이드는 출력을 0~1로 압축하고, ReLU는 음수를 0으로 만들어 기울기 소실 문제를 완화합니다. 과적합(overfitting)은 모형이 학습 데이터에만 잘 맞고 새 데이터에는 성능이 떨어지는 현상입니다. ADsP에서는 활성화함수의 출력 범위와 과적합의 의미를 자주 묻습니다.

3개 관련 문항