여전히 정확한 결과를 얻을 수 없습니다. 최대치 란 무엇입니까? 가능한 한 정확하도록하려면 소수점 이하 자릿수를 표시해야합니까? 일부 코드 (복사 - 붙여 넣기 및 테스트 될 준비) : // Test with 5 decimals
$a = 0.00001;
echo bcadd($a,$a,5) . '<br/>';
echo bcadd($a,$a,6) . '<
b이 _int64 인 경우를 가정 해 봅시다. sqrt((long double)a)*sqrt((long double)b)을 고정밀 80 비트 부동 소수점으로 계산해야합니다. 예. (__int64)(sqrt((long double)a)*sqrt((long double)a) + 0.5) != a 많은 경우에 있어야합니다. 어떤 Win32 C/C++ 컴파일러가
작은 문제가있어 해결책을 찾을 수 없습니다! 내 코드 (이것은 단지 샘플 코드,하지만 내 원래의 코드는 다음과 같은 일을 할)입니다 :는 float x = [@"2.45" floatValue];
for(int i=0; i<100; i++)
x += 0.22;
NSLog(@"%f", x);
출력은 52.450001하지 52.450000입
float 및 double을 사용하여 iPhone 응용 프로그램에서 사용하기 위해 NSUserDefaults을 사용하는 것이 었습니다. 정밀도가 어떻게 작용하는지, 그리고 그것이 어떻게 작동하는지 이해하는 방법에있어 약간의 불일치가있었습니다. . 내가 생각으로 이 정확히 작동합니다 {
NSString *key = @"OneLastKey";
그래서 내가 이렇게 보이는 기능이 있습니다 어떤 시점에서 float function(){
float x = SomeValue;
return x/SomeOtherValue;
}
,이 기능 오버 플로우와 정말 큰 음의 값을 반환합니다. 이 위치가 정확히 어디에서 발생했는지 추적하기 위해이 함수가 다음과 같이 보이도록 명령문을 추가했습니다