심층신경망은 언제쓰이나?

• 비선형 함수 형태를 근사계산할 날이 옴

Ex. 감기에 걸렸을 때 날짜 경과에 따른 증상 발현 정도

• 선형회귀나 로지스틱 회귀 모델의 결과값하곤 너무 다름
• 텍스트, 음성과 같은 데이터는 비선형 데이텅고 높은 차원의 공간에 분포하고 있으므로 앞서 확인한 것처럼 데이터 분포를 확인하는 것조차 어려움.

→ 이를 해결하는 것이 심층신경망(딥러닝) 임

심층신경망이란?

: 선형계층 - 비선형 계층 - 선형계층…. 이런 식으로 선형계층을 쌓아올릴 때 중간에 비선형 계층을 하나 끼워주는 형식으로 만든 신경망

Q. 왜 그렇게 하나요?

A. 비선형계층을 사용하지 않고 선형계층만을 사용할 경우

이런 식으로 그냥 하나의 선형계층을 통과하는 것처럼 나오기 때문임. 그렇기 때문에 시그모이드, 탄에이치, 렐루같은 비선형계층(활성화함수)을 하나 끼워주어 이런 현상을 방지함

1. 심층신경망 크기

• 신경망의 깊이와 너비는 사용자가 조절이 가능하다.
• 보통은 계층이 진행될 수록 너비가 줄어드는 형태로 설계함