double-precision

2열

1답변

SWIG에 의해 컴파일 된 파이썬 모듈이 잘못된 결과를 반환합니다.

저는 특정 C 라이브러리를위한 파이썬 모듈을 만들기 위해 SWIG를 놀고 있습니다. double 및 float 변수에 문제가 있습니다. 여기에 예제 : /***** simple.c *****/ #include <stdio.h> double doublefun(double b){ printf("c(%g)",b); return b+12.

python module swig double-precision 2013-04-07

---

0열

2답변

matlab 및 C++ 매트릭스 제품 : 동일한 입력, 다른 출력

x86 컴퓨터의 우분투 12.04 및 g ++ 4.6.3에서 Matlab 2010을 사용하고 있습니다. 내가 생산과 입력 어떻게 입니다 : #include <Src/Tools/Math/Matrix_nxn.h> #include <iostream> using namespace std; int main() { Mat

c++ matlab double-precision 2013-02-28

---

0열

1답변

% a의 값을 printf로 변환하는 방법은 무엇입니까?

사람이 읽을 수있는 프리젠 테이션에서 0x1.921fb82c2bd7fp+1의 값은 무엇입니까? 이 값은 printf이고 %a입니다.

c floating-point printf double-precision 2013-03-02

---

1열

2답변

파이썬을 사용하여 배정도 바이너리 파일을 작성하십시오.

파이썬을 사용하여 이중 정밀도 파일 바이너리 파일을 작성하려면 어떻게해야합니까? 나는 현재 다음을 수행하고 있지만, 그것은 나에게 단 정밀도 파일을주고있다 : #!/usr/bin/env python import struct data =[2.3715231753176,9.342983274982732] output_file = "test.dat" o

python double-precision 2013-04-24

---

-2열

2답변

Visual Express 2010 double variable precision

저는 C++로 코딩을 시작했지만 MATLAB 및 MySql에 대한 이전 경험이 상당히 있습니다. 따라서 몇 가지 복합 숫자를 계산하려고하므로 정확도가 중요합니다. 필자는 이중 숫자를 사용하여이 작업을 시도했지만 몇 가지 이유 때문에 7 자리 숫자의 정확도 (부동 소수점과 동일) 만 얻었습니다. 나는 계산을 시도하기 위해 long double을 사용해 보았지

c++ visual-studio-2010 double precision double-precision 2013-01-16

---

0열

3답변

설명 Matlab에서 1 - 3 * (4/3 - 1) = 2.2204e - 16

Matlab에 배정도 숫자를 이해하려고합니다. 1 - 3 * (4/3 - 1)이 0이 아닌 이유는 무엇입니까?

matlab floating-point floating-accuracy ieee-754 double-precision 2013-03-12

---

3열

3답변

컴파일시 float와 double precision 간 전환

컴파일 타임에 float와 double precision간에 전환하려면 어디를 봐야합니까? 사용자가 double precision 대신에 float로 모든 것을 원한다면 어떻게 유연성을 유지할 수 있을까요? 즉, 조건부로 float 또는 double precision이 될 수있는 변수를 어떻게 정의해야합니까?

c++ floating-point-precision double-precision 2013-01-24

---

2열

1답변

배정도의 크기 순서

두 개의 이론적으로 동일한 배정도 숫자 사이의 뺄셈을 위해서는 어떤 순서로 크기를 변경해야합니까? 두 개의 배정 밀도 배열이 있습니다. 그들은 이론적으로 동일 할 것으로 예상됩니다. 두 가지 방법은 완전히 다른 두 가지 방법으로 계산되므로 두 방법 사이에 약간의 차이가 있습니다. 요소별로 요소를 검사했는데 최대 차이는 6.5557799910909154E-0

fortran double-precision 2013-03-19

---

0열

1답변

C는 float 유형의 할당 된 배열에 double을 어떻게 저장합니까?

내 프로그램을 부동 소수점 정밀도에서 배정 밀도로 변경하고 있습니다. 그럼에도 이진 파일에서 부동 소수점 숫자 을 읽어이 루틴을 시작합니다. (amxs 및 amxr 이중 크기이며, L이 INT matlabfile=fopen("matlabfile","a+"); fprintf(matlabfile,"%d;%15.7e;%15.7e\n",l,amxs,amxr); f

c floating-point precision double-precision 2013-03-25

---

0열

2답변

C에서 double 형식의 SQL 형식을 변환하는 방법 #

데이터베이스 액세스 권한이 있으며이 필드 중 하나가 배정 밀도를 사용합니다. 일반적으로 텍스트 상자에 1.71 또는 1,71을 설정하면 데이터베이스의 필드에 1.71이 포함되어야합니다. 하지만 내가 쿼리를 실행하면 acces'field의 값은 171입니다! public const string QUERY = @"UPDATE TBLART

c# sql types double-precision 2013-03-26

---