Efficient BackProp (part.1)

Efficient BackPropBackpropagation은 간단한 컨셉과 좋은 효율성 덕분에 neural network에서 널리 쓰이는 learning 알고리즘입니다. 그것이 대개 좋은 성능을 발휘하지만, 어떤 경우에는 전혀 그렇지 못합니다. 이는 마치 과학보다는 예술과 가까워 보입니다. backprob을 이용하여networ를 디자인하고 훈련하는 것은 많은 자의적 선택지를 요구합니다. 이를테면 node의 개수와 타입, layers, learning rage, training set 그리고 test set과 같은 것들이 그것입니다. 하지만 이 선택지들은 데이터에 의존적이며 대체로 문제들을 품고 있기 때문에 그것들에 대한 완벽한 선택지는 존재하지 않습니다. 따라서 본 논문에서는 실험과 이론들을 통..........

원문링크 : Efficient BackProp (part.1)