[C++] PS/알고리즘 풀땐 float 보단 double을 쓰자

메모리 초과가 뜰 정도가 아니라면 float보단 double을 쓰는 것이 좋다. float 4byte 6-7 개의 유효 자릿수 double 8byte 15-16 개의 유효 자릿수 float는 유효숫자가 6~7까지밖에 안되므로 억 단위가 넘어가는 값들을 float로 계산하다 보면 오차가 발생할 수 있다. int main(void) { int a = 1234567890; int b = 11; float v1 = (float)a / b; double v2 = (double)a / b; printf("float에 저장한 값 : %f\n", v1); printf("double에 저장한 값 : %f\n", v2); return 0; } a/b의 값은 원래 112233444.5454545... 으로 나와야하지만 float로 계산하면 다른 값이 나오는 것을 확인할 수 있다....

원문링크 : [C++] PS/알고리즘 풀땐 float 보단 double을 쓰자