floating-accuracy

    2

    2답변

    Oracle의 BINARY_DOUBLE과 Java의 Double은 IEEE 754 표준을 사용합니다. 그러나 정확도에는 차이가 있습니다. 예컨대 값 : 456.67d 오라클 : declare a BINARY_DOUBLE := 456.67d; begin SYS.DBMS_OUTPUT.PUT_Line(TO_CHAR(a,'9.9999999999

    0

    1답변

    부동 소수점 산술, 발생하는 오류 및 누적 발생에 대한 올바른 이해를 얻으려고하고 있으며 결과가 정확히 어떻게 발생 하는지도 알아 내려고합니다. 여기서 특히 3 예 I는 현재 일하고된다 1)0.1 + 0.1 +0.1 +0.1 +0.1 +0.1 +0.1 +0.1 +0.1 +0.1 -1.0 = -1.1102230246251565E-16 또 다른 0.1 10 번

    0

    1답변

    C#에서 (0.406 * 10000.0) 반환 4060.0000000000005 대신 4060.0이 내가 더 확인하는 기능을 쓴 이유는 . 십진수는 double 값으로, 아래는 내가 사용하고있는 코드입니다. d is 0.406의 가치와 n is 4의 가치와 기능이 true 대신 false 내가 다른 솔루션을 사용하여 열어주는 말들 반환 할 때 위의 문장에서

    0

    1답변

    가우스 제거기를 C로 만들려고합니다. 때때로, 행렬이 수치 적으로 단수인지 여부를 확인해야합니다. 특정 숫자 (double)가 매우 매우 작은 경우입니다. 내 문제는이 일을 내가하려고하면 있다는 것입니다 : if(0 == matrix->items[from]){ fprintf(stderr,"Matrix is still singular after a

    1

    2답변

    열 A + 열 B + 열 C를 선택 쿼리에 3 개의 열을 함께 추가합니다. 대부분의 열에 대해서는 올바른 것으로 계산됩니다. 그러나 응답이 0이되어야하는 특정 열은 1.36424205265939E-12 또는 그와 비슷한 것으로 나타납니다. 예 : 나의 수학은 0 + 1414 + -1414입니다. 대답은 0이어야하지만 대신 1.36424205265939E-1

    0

    1답변

    가 10^3로 구성된 2 차원 그래프를 그릴 필요가 (실질적으로 5*10^6까지 도달 할 수) 포인트 샘플 포인트 : 이 x, and f(x) 따라서, 플롯에 매우 비 편안 범위에 알 수 있듯이 x y = f(x) ----------------------------------------- 0.0000000000000e+000 9.94531463

    0

    1답변

    Swift에서 'number prettifier'를 쓰는 부동 소수점 정밀도 문제가 있습니다. > "5.0K" 9999 - -> "9.9k" 50300 -> "50.3k" 5000 : func prettifyNumber(number:Int) -> String { let thousands = Double(number)/1000.0; var

    0

    2답변

    내가 가레스리스 '좋은 지침에 따라 파이썬에서 ray-/세그먼트 교차점을 찾을 수있는 기능을 구현하기 위해 노력하고 있습니다 : https://stackoverflow.com/a/14318254/7235455 및 https://stackoverflow.com/a/565282/7235455 을 교차로가있는 경우 from math import radians,

    -1

    1답변

    부호있는 정수는 부호 비트가 0에서 1로 반전되어 정수가 음수가되도록하는 정수 오버플로를 가질 수 있습니다. 부동 소수점 숫자와 동일한 문제가 발생할 수 있습니까? 실험적으로 숫자가 너무 크면 Inf이됩니다. 그러나 가수 또는 지수를 오버플로 할 수 없으므로 비슷한 문제가 발생합니까?

    1

    1답변

    두 개의 숨겨진 레이어가있는 신경망을 구축했습니다. 숨겨진 처음 두 개의 경우 ReLU 활성화를 사용했고 마지막 레이어는 시그 모이 드 (sigmoid) 기능을 사용했습니다. 모델을 시작하면 손실 함수가 감소하지만 (정확함) 정확도는 0으로 유지됩니다. Epoch: 9/150 Train Loss: 6.1869 Train Acc: 0.0005 Epoch: