디지털신호처리 - Chapter 4: DSP Software; Number Precision

4장: DSP 소프트웨어 숫자 정밀도 숫자 표현과 관련된 오류는 ADC 동안의 양자화 오류와 매우 유사합니다. 값의 연속 범위를 저장 하려고 합니다 . 그러나 유한한 수의 양자화된 레벨만 나타 낼 수 있습니다 . 예를 들어 수학 계산 후에 새 숫자가 생성될 때마다 사용 중인 형식으로 저장할 수 있는 가장 가까운 값으로 반올림해야 합니다. 예를 들어, 숫자를 저장하기 위해 32비트를 할당한다고 상상해 보십시오. 정확히 2 32 = 4,294,967,296개의 다른 비트 패턴이 가능하므로 정확히 4,294,967,296개의 다른 숫자를 나타낼 수 있습니다. 일부 프로그래밍 언어는 32비트, 고정 소수점, 2의 보수로 저장된 long integer 라는 변수를 허용합니 다 . 이것은 4,294,967,296개의 가능한 비트 패턴이 -2,147,483,648에서 2,147,483,647 사이의 정수를 나타냄을 의미합니다. 이에 비해 단정밀도 부동 소수 점은 이러한 4,294,967,296비...

원문링크 : 디지털신호처리 - Chapter 4: DSP Software; Number Precision