double-precision

    0

    2답변

    난이 승산을 확인 0.94 * 8700 출력 8177.999999999999 이지만 01,235을 했어야 이런 일이 왜 16, 8178 ... 지금은 내 질문은 내가 자바를 사용하고 있습니다,하지만 난이 오류가 특정 프로그래밍 언어 관련되어 생각하지 않아요? 및 다른 숫자 (예제와 마찬가지로)가 같은 오류를 발생시키는 이유는 무엇입니까?

    4

    1답변

    ParaView에서 처리/시각화하기 위해 C++ 프로그램에서 일부 데이터를 인쇄하고 있지만 부동 소수점에 문제가 있습니다. Paraview는 Float32 및 Float64 데이터 유형을 모두 지원합니다. Float64는 일반적인 제한 인 +/- 1.7e +/- 308을 사용하는 double과 같습니다. 그러나 내 코드는 6.5e-318과 같은 숫자를 인쇄

    4

    2답변

    숫자가 있습니다 (34라고 가정). 다음 10의 배수를 찾고 싶습니다. 나는이 작업을 수행 할 수 있습니다 : 10 에 의해 수를 나누면 연구의 조금 후 배가 (10)에 의해 정수로 반올림,이 것을 발견 목표 C에 해당하는 코드는 다음과 같습니다 int number = 34; int roundedNumber = ceil((double)number/10)*

    17

    4답변

    32 비트 시스템에서 실행 중이며 매우 빠르게 실행되는 다음 코드 스 니펫을 사용하여 긴 값을 찢을 수 있는지 확인할 수 있습니다. 나는 복식과 비슷한 때 static void TestTearingLong() { System.Threading.Thread A = new System.Threading.Thread(ThreadA);

    1

    4답변

    다음은 허용 오차 내에서 2 개의 double 값의 동등성을 결정하기위한 코드의 테스트 블록입니다. double lhs_1 = 0.02; double lhs_2 = 0.04; double rhs = 0.03; double tolerance = 0.01; bool is_match_1 = (abs(lhs_1 - rhs) <= tolerance); b

    1

    1답변

    long double을 사용할 때 double을 사용할 때보 다 정밀도가 떨어집니다. 3.14159265358979323846264L은 long double const을 소스 코드로 작성하는 것이 좋습니다. 아니면 L 이외의 것을 추가해야합니까? 수정 나는이 문제를 해결했다. 알고리즘을보다 정확하게 변경합니다.

    1

    1답변

    저는 수학에 약하고 이미지 크기 조정 알고리즘에 문제가 있습니다. 이미지의 비율을 특정 비율로 조정하려고합니다. double neededRatio = 1.6d; while (!AboutEqual(imageRatio, neededRatio)) { var cropPixels = 10; //crop code ... imag

    10

    3답변

    필자는 프로그램을 작성하고 Intel Core i5-2500의 Visual Studio 2010에서 x64 및 x86 플랫폼 용으로 컴파일했습니다. x64 버전은 약 19 초, x86은 약 17 초가 걸립니다. 그러한 행동의 이유는 무엇입니까? #include "timer.h" #include <vector> #include <iostream> #i

    2

    2답변

    안녕하세요, 선형 대수학 및 행렬에 armadillo 라이브러리를 사용하여 C++에 MATLAB에서 스크립트를 다시 작성하고 있습니다. 얻기를위한 더 많거나 적은 같은 난 방법 cout을 호출 출력 : cout.precision(4); cout.setf(ios::fixed); 하지만 난 다른 결과가 받고 있어요 : 매트랩 결과 : 0.0000 0.00

    0

    1답변

    "g_ascii_dtostr"(그리고 double을 사용하는 GKeyFile 함수) 같은 일부 glib 함수가 작동하는 방식에 조금 흥미가 있습니다. 이 줄을 고려해 비슷한 일이 일어날 Double: 0.200000, as String: 0.20000000000000001 를 출력 gchar buf[30]; g_message("Double: %f, a