floating-point

1열

1답변

I가 (매우 효율적인 아니지만) 다음, 비교적 간단는 fabs 기능의 구현 : double fabs(double x) { if (x == 0.0) return 0.0; // deals with both 0.0 and -0.0. if (x > 0.0) return x; // deals with ]0.0 .. +inf], but "(NaN >

0열

1답변

Swift 3 double rounding func

Swift에서 'number prettifier'를 쓰는 부동 소수점 정밀도 문제가 있습니다. > "5.0K" 9999 - -> "9.9k" 50300 -> "50.3k" 5000 : func prettifyNumber(number:Int) -> String { let thousands = Double(number)/1000.0; var

0열

2답변

Double # equals와 같은 double 상수와 scala를 비교하면 저장됩니까?

이중 값을 누락 된 값을 표시하는 미리 정의 된 상수와 비교하는 코드에서 작업하고 있습니다. 그들은 특정 요구 사항을 충족하지 않는 경우이 값이 (여기 input)를 변수에 할당하는 방식으로 사용됩니다 나중에 응용 프로그램의 val BAD = -9999.9 val verified = if(isQualityOk(input)) input else BAD

4열

3답변

나머지 부분이 없으면 double division은 정수 나누기입니까?

JVM에서 두 개의 double 값 사이의 나누기는 항상 정수 나누기와 똑같은 결과를 산출합니까? 다음과 같은 전제 조건으로 : 실제로 제로 모두 x 및 y에 의해 나머지 없음 부문 않고 부문은 정수 값을 누릅니다. 예. 다음 코드 double x = ...; int resultInt = ...; double y = x * resultInt; doub

1열

1답변

16 진수를 IEEE 부동 소수점 파이썬으로 변환하는 방법

이 16 진수 문자열 '8436d4ccd436d3333'을 IEEE 부동 소수점으로 변환하고 싶습니다. 나는 struct.unpack이 작업을 수행하려고했습니다하지만 내 변환 시도가 정확한지 확인하기 위해이 웹 사이트를 사용하고 4 struct.unpack('>f', binascii.unhexlify('8436d999a436e0000')) 길이의 문자열

2열

3답변

총 오차가 최소가되도록 두배의 평균을 계산하는 방법은 무엇입니까?

우리는 double 배열이 길어 졌다고 가정합니다 (예 : N == 1000000). array<double, N> arr; 평균을 계산하는 두 가지 방법이 있습니다. 먼저 double result = 0; for (double x : arr) { result += x; } result /= arr.size(); 값 합계가 매우 큰 경

0열

2답변

어셈블리에서 이진수로 부동 소수점 레지스터 값 표시

그래서 프로세서가 숫자를 반올림하는 방식을 변경하는 어셈블리 함수를 만들어야합니다. 나는 그걸 가지고있다. 이제 그걸 증명할 필요가있어. 따라서 화면에 값을 쓰려면 1 값이 필요하고 반올림 방법을 변경 한 다음 동일한 값을 쓰고 가장 중요한 mantis 비트가 변경되었는지 확인하십시오. 나는 철과 같은 IEEE 754 형식의 3.14 값을 쓸 수있는 방법

0열

1답변

랜덤 수레 오류를 재발명 할 수 없습니다. 오류

PHP 초보자가 있습니다. 아래 코드를 사용하여 5 개의 임의 수를 생성하고 함께 추가하려고합니다. 그러나 "Can not Redeclare"오류로 계속 실행하십시오. 도움이나 제안이 있으십니까? 감사! function RandRoll($mod1, $mod2){ $modCalc = 1.00 + $mod1 + $mod2; echo "("

-1열

1답변

잘못된 값을 반환하는 이중 방정식

다음과 같은 코드를 예로 들겠습니다. 어떤 이유로 든 잘못된 값을 반환하는 이유를 알 수 없습니다. 왜 이런 일이 발생하고 왜 이것이 double과 함께 발생하는지 알 수 없습니다. 그러나 결과를 테스트하기 위해 자바 바이올린을 만들었지 만 동일한 결과를 얻었습니다. ->http://www.tutorialspoint.com/compile_java_onlin

0열

2답변

Ray-/세그먼트 교차 시험은 파이썬에서 부동 소수점 정밀도의 BCZ 실패

내가 가레스리스 '좋은 지침에 따라 파이썬에서 ray-/세그먼트 교차점을 찾을 수있는 기능을 구현하기 위해 노력하고 있습니다 : https://stackoverflow.com/a/14318254/7235455 및 https://stackoverflow.com/a/565282/7235455 을 교차로가있는 경우 from math import radians,