선형회귀란?

• 위와 같은 관계를 선형 관계라고 한다.
• 빨간 점선 근처에 대충 측정값들이 몰려있다
• 키가 늘면 체중도 는다 → 선 위에 있음 → 선형관계
• 그러면 키나 체중 둘 중 하나를 알면 나머지 하나를 예측할 수 있다.
• 이런 식으로 선형계층을 통해 선형 문제를 풀 수 있다.

실수 벡터 입력이 주어졌을 때 선형적 관계를 지닌 출력 실수 벡터 값을 예측하는 문제를 **선형회귀(linear regression)**이라고 함!

선형회귀 모델의 학습

Q. 어떤 방식으로 학습되는가?

• $D$ : N개의 n차원 입력 벡터들과 N개의 m차원 타깃 출력벡터들로 구성된 데이터셋

1. 데이터셋은 N x n 크기의 행렬과 N x m크기의 행렬로 구성
2. n차원의 입력 벡터를 가져와 선형회귀의 모델에 통과시키면 m차원의 출력벡터 y햇을 얻을 수 있음
3. 이 Y햇과 실제 타깃벡터를 비교하면 손실값을 구할 수 있음
4. 손실값을 가중치 파라미터로 미분
5. 손실값이 작아지는 쪽으로 가중치 파라미터 업데이트
6. 손실값이 아주 작아지면 근사계산하고자 하는 $f$와 유사한 함수를 구할 수 있다!