floating-point-precision

0열

1답변

-cl-fast-relaxed-math와 관련하여 OpenCL 사양의 해석에 약간의 문제가 있습니다. 그 컴파일러 플래그의 정의는 다음과 같습니다 가 최적화 옵션 -Cl-유한 수학 전용 및 -Cl 안전하지 않은-수학 최적화를 설정합니다. 이를 통해 IEEE 754 표준 및 부동 소수점 부동 소수점의 경우 7.4, 배정 밀도 부동 소수점의 경우 9.3.9 및

5열

3답변

Java float가 double보다 정확합니까?

코드 : class Main { public static void main (String[] args) { System.out.print("float: "); System.out.println(1.35f-0.00026f); System.out.print("double: "); System.out.print

8열

1답변

부동 소수점 오류를 방지하는 방법은 무엇입니까?

제곱근을 근사하는 함수를 작성하려고했습니다. (수학 모듈이 있다는 것을 알고 있습니다 ... 직접하고 싶습니다.) 부동 소수점 산술에 의해 엉망이되었습니다. 어떻게 피할 수 있니? >>> sqrt(4) 2.0000000000000013 >>> sqrt(9) 3.00999999999998 난 그냥 round()을 사용할 수 있습니다 실현,하지만이 정

2열

2답변

C++ 정밀도 - setprecision

의 행동에 내가 그것을 setprecision 기능을 이해하는 바와 같이 최소한의 정밀도를 지정하지만 다음 코드를 실행할 때 소수점 이하에만 3 개의 숫자 얻을 : int main() { double a = 123.4567890; double b = 123.4000000; std::cout << std::setprecision(

3열

2답변

밀리 초를 초로 변환하는이 두 가지 방법의 차이점은 무엇입니까?

첫 번째 방법 : long mySeconds = milliseconds/ 1000; 두 번째 방법 : int index = (int) ((someDoubleSeconds + mySeconds)/ someDouble); 어떤 차이 것 두 가지 방법 :이 계산은 마지막으로 다음과 같이 배열의 인덱스를 결정하는 데 사용됩니다 double mySeconds

3열

1답변

오브젝트를 float로 변환하면 너무 많은 정밀도를 잃지 않습니다 - 팬더

DataFrame을 사용하여 플롯을 시도하고 있지만 작동하지 않습니다 (자세한 내용은 this과 비슷한 스레드 참조). 나는 문제의 일부가 내 DataFrame이 objects 만들어진 것 같다있을 것 같아요 : 나는 모든 값이 float를 입력 변환한다면 >>> df.dtypes Field object Moment object Temperat

0열

1답변

십진수를 단일 부동 소수점으로 저장할 때 예상되는 오류는 무엇입니까?

십진수가 들어있는 파일을 읽고 데이터 구조에 각 숫자를 단일 4 바이트 float으로 저장하는 C++ 작업을 살펴 보았습니다. (double을 사용하기 위해) 프로세스를 변경하기 전에 파일에있는 숫자와 구조에 저장된 숫자 사이의 평균 오류를 % 알고 싶습니다. 파일 19.5 판독하고, 데이터 구조 19.49999999 경우 분배 문제는, 파일의 수의 가

1열

1답변

부동 소수점 숫자 -2.584877722073e-33에 log10()을 사용하는 중 오류가 발생했습니다.

부동 소수점 숫자로 작업하는 동안 이상한 오류가 발생했습니다. 다음 숫자의 log10 ("math.h")을 계산하려고합니다. -0.000000000000000000000000000000002584877722073 == -2.584877722073e-33 계속 충돌합니다. 유효한 플로트입니까? 내가 플로트 자체의 원시 데이터를 다루는 것을 다루고 있음을 인정

4열

4답변

std :: greater <double> 및 std :: less <double>은 안전한가요?

<,>,=,!= 연산자를 사용하여 C++에서 double 값을 비교할 때 우리는 항상 결과의 정확성에 대해 확신 할 수 없습니다. 우리가 다른 기술을 사용하여 doubles을 비교하는 이유는 예를 들어, 두 개의 a와 b를 비교할 수 있습니다. 그 차이가 실제로 0에 가까운 지 테스트 할 수 있습니다. 내 질문은 C++ 표준 라이브러리가 std::less<

0열

2답변

C++ : Boost cpp_dec_float 독립적입니까?

cpp_dec_float.hpp에있는 정확한 부동 소수점 연산이 필요하기 때문에 Boost를 다운로드했습니다. 나는 다른 옵션을 많이 보았고 좋은 대안을 찾을 수 없었다. 나는 bcp을 설치하는 방법을 알아 냈고, 이제는 결국 모두 설치했습니다. bcp을 실행하여 cpp_dec_float.hpp 파일을 내 프로젝트에 복사하고 보겠습니다. 이제 9.5MB B