펌웨어 Int와 Float 계산의 차이. (CPU vs FPU)

회사 프로젝프를 이어 받아 개발을 하기 시작했다. 고성능 MCU을 칩을 사용했기 때문에 회사에서도 처음으로 Float 계산을 하는 프로젝트라고 한다.

하지만 프로토타입으로는 미기능 구현이 많아 괜찮았으나, 기능이 많이 추가되어 Float 계산이 추가되니 성능 테스트에서 빠꾸를 먹었다. 부하를 강제로 주니 MCU가 강제로 리셋을 치기 시작했다.

결국 float 계산을 전부 삭제하고 unsigned char, 즉 1byte로 변경하는 작업을 시작했다. 그래서 이번 포스팅은 Float 연산이 얼마나 펌웨어 개발에 큰 계산인지 포스팅한다.

데이터 표현 정수 (int): 고정된 크기의 메모리 공간을 사용하여 정수 값을 직접 표현한다. 예를 들어, 32비트 int는 -2,147,483,648에서 2,147,483,647까지의 값을 표현할 수 있다.

부동소수점 (float): 실수를 표현하기 위해 사용되며, 지수와 가수를 이용해 넓은 범위의 값을 근사적으로 표현한다. 이 방식은 더 넓은 범위의 ...