기계는 거짓말하지 않는다

입력 신호의 합을 출력 신호로 변환하는 함수를 활성화 함수(Activation Function)라 한다. 임곗값을 경계로 출력 신호가 바뀐다. 신경망에서는 선형 함수일 경우 신경망의 층을 깊게 하는 의미가 없어진다. 미분하였을 때 항상 동일한 gradient가 나오게 된다. 따라서 비선형 함수를 사용한다. Step Function 입력이 0 초과일 경우 1, 그 외 0 import numpy as np import matplotlib.pyplot as plt def step_function(x : np): return (x > 0).astype(np.int64) x = np.arange(-5.0, 5.0, 0.1) y = step_function(x) plt.plot(x, y) plt.plot([0, 0..