파이토치 3-6.미니 배치와 데이터 로드(Mini Batch and Data Load)

x_train = torch.FloatTensor([[73, 80, 75], [93, 88, 93], [89, 91, 90], [96, 98, 100], [73, 66, 70]]) y_train = torch.FloatTensor([[152], [185], [180], [196], [142]]) 앞서 배운 데이터를 떠올려보자 이런 데이터는 현업에 비해 굉장히 적은 양이고 데이터가 수십만개 이상이라면 경사 하강법을 하는 것을 매우 느리고 많은 계산이 필요해 계산이 불가능할 수도 있다. 그렇기 때문에 전체 데이터를 더 작은 단위로 나눠서 해당 단위로 학습하는 개념이 나오게 되었는데 이것을 미니 배치(Mini batch) 라고 부른다. 위 그림은 전체 데이터를 미니 배치 단위로 나누는 것을 보여준다. 미니 배치 학습을 하게되면 미니 배치만큼 가져가서 미니배치에 대한 비용을 계산하고 경사 하강법을 수행한다. 또 그다음 미니배치를 가져가서 계산하고 경사 하강법을 수행하고 마지막 미니배치까지 ...

원문링크 : 파이토치 3-6.미니 배치와 데이터 로드(Mini Batch and Data Load)