[수치해석] Python을 이용한 Machine epsilon(한계 오차) 계산

컴퓨터는 숫자를 저장할 때 2진법으로 저장한다. 따라서, 입력 받은 숫자를 2진법으로 저장하고, 저장된 숫자를 다시 10진법으로 변환하여 출력하는 과정을 거친다. 당연하게도 숫자 하나를 저장하기 위한 컴퓨터의 메모리 크기는 제한적이다. 그렇기 때문에 컴퓨터의 숫자 표시 정확도에 한계가 존재한다. 예를 들어, 완전한 1을 저장하고 싶다 해도 1.00000000000000..00000 이 아닌 1.0000000000000011102... 이런 식으로 저장된다는 의미다. 무수한 0 뒤에 표시되는 숫자는 표시 한계점 이상의 2진법과 10진법 변환 과정에서 유도되는 숫자이다. 이 한계는 숫자를 담는 메모리의 크기에 따라 결정된다. 당연하게도 표시 한계 이하로부터는 컴퓨터는 더 이상 동일함을 판단할 수가 없고, 이..

원문링크 : [수치해석] Python을 이용한 Machine epsilon(한계 오차) 계산