double-precision

2열

1답변

SimpleCursorAdapter를 사용하여 double을 포맷 할 수 있습니까?

나는 다음 SimpleCursorAdapter 사용 String campos[] = { "nome_prod", "codbar_prod", "marca_prod", "formato_prod", "preco"}; int textviews[] = { R.id.textProdName, R.id.textProdCodBar, R.id.textProdMar

android listview simplecursoradapter double-precision 2012-07-30

---

1열

1답변

이중 정밀도가있는 CUFFT

CUDAs FFT 라이브러리에 몇 가지 문제가 있습니다. 입력을 cuDoubleComplex로 선언했지만 컴파일러는이 유형이 cufftComplex 유형의 매개 변수와 호환되지 않는다는 오류를 반환합니다. 인터넷을 통한 검색 후, 나는 cufft.h라는 파일을 발견했다.이 파일에는 라인 typedef cuComplex cufftComplex;이있다. 내 문

cuda fft double-precision cufft 2013-01-02

---

7열

3답변

자바 - 하나의 더블 덧셈/뺄셈에서 최대 정밀도 손실

java (덧셈/뺄셈)에서 두 개의 double 값을 처리 할 때 최대 정밀도 손실을 설정하는 것이 가능합니까? 아마도 최악의 시나리오는 두 개의 숫자가 정확히 표현 될 수없는 경우이며, 그 다음에는 연산이 수행되어 정확하게 표현 될 수없는 값을 얻게됩니다.

java double floating-point-precision double-precision 2012-11-20

---

3열

1답변

정밀 사용해 Double.parseDouble()와 한 String.valueOf()에 대한

다음 문 NaN 제외한 모든 double (자바 원시 배정 밀도 IEEE-754)에 대한 보유합니까 : Double.parseDouble(String.valueOf(d)) == d 말했다 그렇지 않으면, 직렬화를 분석 않습니다 (String.valueOf() 사용) double 값은 항상 정확한 원래 double을 산출합니까?

java parsing double-precision 2012-06-28

---

2열

1답변

지수가 너무 큰 값으로 마코프 체인 확률 계산

마크로프 체인의 속도로 공식 exp (X)를 사용합니다. 따라서 하나의 링크를 다른 링크보다 더 선택하는 비율은 exp (X1)/exp (X2)입니다. 내 문제는 때때로 X가 매우 커서 exp (X)가 double의 범위를 초과한다는 것입니다. 또는 exp [X [i]]가 double의 범위를 오버플로 할 정도로 큰 일부 X [i]가있는 X [i]의 배열이

java estimation double-precision markov-chains exp 2012-08-17

---

2열

1답변

MATLAB vpa()는 지수가있는 표현식의 변수 수를 계산하지 않습니까? 지수의 합리적인 표현을위한 가변 소수점 수를 계산 VPA()를 사용하려고

: syms x; ans1 = x^(12345/67890) ans2 = vpa(x^(12345/67890),3) ans2_5 = vpa((12345/67890),3) ans3 = vpa(x*(12345/67890),3) 상기 문제를 나타낸다. ans1은 표현식의 기본 출력을 표시합니다. ans2는 vpa()가 표현식의 변수 포인트 번호를 계산하지

matlab symbolic-math double-precision rational-numbers 2013-01-15

---

1열

2답변

CURAND_STATUS_DOUBLE_PRECISION_REQUIRED는

을 정의되어 있지 않습니다. 솔루션을 찾을 수 없으므로 (실제 문제를 찾지도 못했기 때문에) NVIDIA CURAND 가이드 PDF에서 다운로드하여 읽기 시작했습니다. 그 PDF로는 말합니다 : Enumerator: ... **CURAND_STATUS_DOUBLE_PRECISION_REQUIRED** GPU does not have double prec

cuda double-precision 2012-07-02

---

2열

2답변

C++ : sin (M_PI/6) = 0.5?

주 알고리즘의 공통 값 인 sin(M_PI/N) (N = 1, 2, 3, 4, 5, 6)을 사용하는 과학 프로그램을 작성 중입니다. 가능한 한 빨리 프로그램을 만들고 싶습니다. 이러한 값을 반복해서 계산하는 대신 벡터에 저장해 봅시다. 그것은 다음과 같습니다 sin_pi_over_n_.clear(); sin_pi_over_n_.push_back(0.0);

c++ precision double-precision 2012-07-04

---

1열

0답변

어느 쪽이 더 정확합니까?

숫자 범위를 같은 길이의 일부 세그먼트로 나누어야합니다. 그러나 나는 더 정확한 방법을 결정할 수 없다. 예를 들어 : double r1 = 100.0, r2 = 1000.0, r = r2 - r1; int n = 30; double[] position = new double[n]; for (int i = 0; i < n; i++) { po

c# algorithm precision double-precision numerical-computing 2012-09-05

---

0열

1답변

좌표의 두 자리 소수점

문자열을 double 값으로 변환하여 주석의 좌표로 사용하려고합니다. 지도에 소수점 이하 5 자리를 표시하려면 double 값이 필요합니다. 문자열이 hello이고 필요한 double이 whatsup이라고 가정 해 봅시다. 문자열의 형식은 정확히 내가 원하는 방식이고 이중으로 만들고 싶습니다. 그래서 문자열의 doublevalue 속성을 사용합니다. 이 여

ios double coordinate double-precision 2012-09-10

---