나는 C#으로 작성된 프로그램을 가지고 있으며 일부는 네이티브 C/C++로 작성하고있다. 일부 값을 계산할 때는 double을 사용하고 너무 작은 정밀도 때문에 결과가 잘못된 경우가 있습니다. 몇 가지 조사 후 나는 누군가가 24 비트로 부동 소수점 정밀도를 설정하고 있다는 것을 알아 냈습니다. 내 코드는 정밀도를 적어도 53 비트 (_fpreset 또는
i386 linux에서 소프트웨어 부동 소수점을 사용할 수 있습니까? 각 호출마다 커널에 트랩하는 비용이 들지 않습니까? 당신이 수, 당신은 손으로 전체 툴 체인을 부트 스트랩 원하는 하지 않는 한 $ gcc -m32 -msoft-float -lm -o test test.c
/tmp/cc8RXn8F.o: In function `main':
test.c:
여기에서 내가 한 일을 확신하는 데 끔찍한 시간을 보내고 있습니다. 나는 불쾌감을 특정 섹션은 다음과 같습니다 다시 BC 또는 GMP 라이브러리 (어느 것도 사용할 수 항상)에 가을 중 하나에 부동 소수점 정밀도를 유지하기 위해 return ((float)($now+$sec).'.'.$mic);
, 내가 강제하고있다. 이 경우 문자열 연결과 함께 숫자를
단일 정밀도 부동 소수점 숫자를 그것을 만드는 네 바이트의 ASCII 표현으로 변환하려고합니다 (부호/지수/가수). 내 현재 코드는 : Integer.toString(Float.floatToRawIntBits(f),16);
Float.floatToRawIntBits는 동일한 바이트를 사용하여 정수하게하고 Integer.toString은 육각 형태의 AS
수학적인 이유로 정의되지 않은 값에 IEEE754 부동 소수점 NaN (숫자가 아님)을 사용하는 것이 좋습니다. 우리의 경우 다른 장치에서 값을받지 못했기 때문에 아직 설정되지 않았습니다. 컨텍스트는 IEC1131 REAL32 값을 사용하는 임베디드 시스템입니다. 편집 : 프로그래밍 언어는 C이므로 C99의 NAN과 isnanf (x)를 사용합니다. 이들을
저는 MATLAB 초보자입니다. 여기에 문제가 있습니다 : >> a = floor(7/2.5)
a =
2.00
>> b = rem(7,2.5)
b =
2.00
>> c = floor(b/2)
c =
0
c는 1이어야합니다. 왜 0입니까? >> b = 2
b =
2.00
>> c
십진 초 전에 곱셈과 나눗셈을 사용하지 않고 더하기와 빼기 대신에 숫자 코드를 쓰는 것이 좋습니다. 좋은 예는 forward differences을 사용하여 다항식을 직접 계산하는 대신 다항식 곡선을 계산하는 것입니다. 여전히 그렇습니까? 아니면 현대의 컴퓨터 아키텍처가 *, /가 더 이상 +, -보다 몇 배 더 느리지 않습니다. 필자는 소프트웨어에서 FP
작은 문제가있어 해결책을 찾을 수 없습니다! 내 코드 (이것은 단지 샘플 코드,하지만 내 원래의 코드는 다음과 같은 일을 할)입니다 :는 float x = [@"2.45" floatValue];
for(int i=0; i<100; i++)
x += 0.22;
NSLog(@"%f", x);
출력은 52.450001하지 52.450000입