왜 활성함수는 비선형함수인가?

함수
1. 선형함수 : 입력값과 출력값의 지수가 모두 1인 함수
2. 비선형함수 : 선형함수가 아닌 함수
퍼셉트론
1. 일련의 과정
  1. 입력 : x
  2. 첫번째 작용 : 가중치 w1을 x에 곱하고, 상수 b1을 더한다.
  3. 두번째 작용 : 첫번째 작용값을 활성화함수의 입력값으로 지정
  4. 출력 : 활성화함수의 출력
2. 예
  1. 입력 : x
  2. 작용 : w1 * x + b1
  3. 출력 : 활성화함수(w1*x + b1)
활성화함수 - 퍼셉트론이 2개 이상인 경우
1. 출력값 = w1*(w2*x+b2)+b2 = w1*w3*x + w1*b2 + b2
2. 일차함수 = 선형함수
3. 퍼셉트론이 1개인 경우와 차이점이 없다.
  1. 가중치 w1 * w3
  2. 상수 w1*b2 + b2
결론
1. 활성화함수가 일차함수(선형함수)인 경우에는 퍼셉트론이 여러개라도 한개인 경우와 차이가 없으므로 여러개의 퍼셉트론을 사용하기 위해서는 비선형함수를 활성함수로 해야 한다.