double-precision

1열

1답변

오라클 11g는 -> Oracle 데이터 클라이언트 -> 프로 * C 프로그램 배정도 표현

11 세대 R2 오라클 DB 인스턴스의 NUMBER (12,3) 필드 번호를 기억 271.448 그것으로 커서로부터 페치 은 Pro * C (버전 11.1.0.6)의 32 비트 변수입니다. .c 파일을 컴파일하는 데 Visual Studio 2010을 사용하는 사전 처리 된 C 프로그램이 사용되었습니다. 는 인쇄하기는 271.448가 fprintf를하고 "

0열

3답변

c double의 지수를 변경하십시오.

double a = 0.3;이 있다고합시다. pow()과 같은 수학 함수를 사용하거나 수동으로 곱하지 않고 변수의 지수를 어떻게 변경할 수 있습니까? 포인터를 사용하여 변수의 메모리 주소에 액세스해야하고 지수를 찾아 수동으로 변경해야한다고 생각합니다. 그러나 나는 이것을 어떻게 성취 할 것인가? 이것은 8 비트 시스템에, 나는 10^12에 의해 수를 곱 할

1열

2답변

바이너리 파일의 크기를 추정하십시오.

나는 이것에 대해 매우 혼란스러워합니다. 크기가 16000 * 4 * 2 인 3D 배열을 덤프합니다. 모든 요소는 DOUBLE PRECISION이며 16000 * 4 * 2 * 8 바이트/dp = 1,024,000 바이트 크기의 파일을 가져야한다고 생각했습니다. 하지만 2,048,000 바이트가 계속 유지됩니다. 와 나는 간단한 테스트 프로그램 테스트 :

0열

2답변

부동 소수점 변수의 현재 정밀도/엡실론을 결정하십시오.

최소 값으로 동일한 값의 두 배를 분리하려고합니다. 컨텍스트는 이벤트 시뮬레이션입니다. 이벤트가 동시에 발생하는 것을 원하지 않으므로 새 이벤트가 발생하도록 설정된 시간을 최소한으로 늘립니다. (이) 성가 시게 자주 (자기 구현 RNG 발생, 그래서 나는 실제로 내가 시간을 찾을 때까지 발생한 사건이 없을 때 조사 할 필요가있다.) 현재 , 내 코드는 같은

0열

1답변

PostgreSQL : Character Varying에서 Double Precision으로 열 데이터 형식 수정

열 데이터 유형 변경과 관련된 몇 가지 문제가 발생했습니다. 특히 문자가 배정 밀도까지 다양합니다. 이 수정의 목표는이 열에서 SUM과 평균을 수행 할 수 있도록하는 것입니다. 이 작업을 수행하는 또 다른 방법은 배정 밀도의 새 열을 만들고이 열을 다양한 열을 사용하여 업데이트하는 것입니다. 그러나 지금까지는 행운이 없습니다. 도움이 감사, 감사합니다.

1열

3답변

java.lang.Double의 정밀도 손실

두 개의 값이 있다고 가정하면 double입니다. 그들 중 하나는 매우 크고 그 중 하나는 매우 작습니다. double x = 99....9; // I don't know the possible max and min values, double y = 0,00..1; // so just assume these values are near max and mi

2열

1답변

std :: erf의 정밀도는 무엇입니까?

C++ 11은 erf 및 erfc과 같은 표준에서 매우 유용한 수학 함수를 도입했습니다. 특정 값보다 크거나 작은 입력에 대해서는 "언더 플로우 보장"에 대한 언급이 있지만 정밀도 측면에서 이것이 무엇을 의미하는지 명확하게 이해하기 위해서는 부동 소수점 표현에 대해 충분히 알지 못합니다. 이 질문에 대한 답변은 다음과 같습니다. 표준 라이브러리에 의해 구현

0열

1답변

이중 데이터 형식 반올림으로 변경된 원래 번호 (Facebook 사용자 ID) 찾기 C#

사용자의 Facebook 이름과 사용자 ID가 인증 시스템으로 저장되는 응용 프로그램을 개발했습니다. ID를 C# 스크립트에 이중 값으로 저장했습니다. 그러나 새로운 Facebook 사용자 ID는 반올림하지 않고 이중 데이터 유형의 제한 인 15 자리 이상입니다 (개발 중에는 모릅니다)! 따라서 숫자가 반올림되고 값이 크게 변경되었습니다. 흥미롭게도 반올림

3열

1답변

빼기시 MATLAB 정밀도

내가 작업중인 프로젝트에 대해 고정밀도가 필요합니다. substracting 때 내가 가진 문제는 여기에 예시되어있다 : >> 1-0.9999999999999999 ans = 1.1102e-16 >> 1-0.99999999999999999 ans = 0 나는 그것이 이중 정밀도 관련이 알고있다. 어쨌든 더 높은 정밀도를 얻을 수 있습니까? "

0열

1답변

Fortran Floating DO 루프 내에서 합산을 수행하는 동안 오류가 발생 했습니까?

배열 (n)에 4 개의 배정도 실수 (n1, n2, n3, & n4)가 있습니다. 내에서이 4 개의 숫자의 합계를 계산할 때 DO 루프가 발생하고 직접 합계를 계산하면 이상한 숫자가 발생합니다. 숫자의 순서가 변경된다는 점에 유의하십시오. 예를 들어 Do 루프 중에는 n1 + n2 + n3 + n4가되지만 직접 합계에서는 n1 + n3 + n2 + n4가됩