1. 소프트맥스 함수

• 임의의 벡터를 입력을 받아 이산확률 분포의 형태로 출력
• 맥스함수의 부드러운 버전
• argmax() 메소드로 제일 큰 값의 인덱스 반환

• 이런 벡터가 있을 때 argmax()를 적용해 제일 큰값의 인덱스를 보면

• 제일 큰값을 지닌 애가 1이되고 나머지 0이 됨
• 소프트맥스는 이렇게 딱 0, 1로 나눠지진 않고 10이 제일 큰 확률을 가지게끔 출력될 것임

2. 소프트맥스의 수식

• 소프트맥스 함수는 벡터 내의 다른 차원과 상호작용하여 해당 차원의 값이 결정
• 각 차원에 대한 소프트맥스 결과를 모아서 벡터로 만든 것
• 입력 벡터 x가 주어졌을 때 각 입력샘플이 어떤 클래스에 속할지에 대한 조건부 확률 분포
• 이 확률값이 원-핫 벡터처럼 최대한 정답은 1에 가깝게, 나머지는 0에 가깝게 출력되도록 경사하강법 적용하기