기계는 거짓말하지 않는다

Pytorch에서 model을 선언 후 validation 혹은 test를 진행할 때 model.eval()과 with torch.no_grad(): 혹은 함수에 @torch.no_grad를 선언한다. 이 의미는 다음과 같다. no_grad Pytorch의 autograd engine을 사용하지 않는다. 신경망 학습을 지원하는 PyTorch의 자동 미분 엔진이다. 이것은 gradient 계산을 하지 않는다는 의미이다. 역전파(backpropagation)를 진행하지 않고 이렇게 함으로써 계산에 대한 메모리 소비를 줄인다. test 시에는 이 과정을 활용하지 않기 때문에 명시한다. model.eval() 선언한 모델을 평가 모드로 전환한다. training 시에 model.train()을 선언하는 것과 다..