floating-point-precision

1열

1답변

XML 효과 파일 후 (* .aepx) -> XML 파일 편집 진수 형식을 이해

내가 좌표가 CDAT 진수 데이터 코딩 효과 CS6 후와 CC에 대한 aepx 파일의 숫자 형식을 이해하려고 노력 중이 야 . 좌표는 두 숫자입니다. -100;-100 -> <cdat bdata="bfaaaaaaaaaaaaabbfb7b425ed097b420000000000000000000000000000000000000000000000000000000000

1열

1답변

옥타브 1/3 및 0.1 값

1/3 또는 0.1이 주어지면 Octave가 정확히 다음과 같은 결과를주는 이유는 무엇입니까? octave:1> (4/3-1)*3-1 ans = -2.2204e-16 octave:2> (10.1-10)*10-1 ans = -3.5527e-15 octave:3> (10.125-10)*8-1 ans = 0

0열

2답변

Python3 입력() 내가 여기 간단한 뭔가를 놓친 거지 만약 내가 사과 목록

수레,하지만 난 이해가 안 함 : 사용자가 부동 소수점 수를 입력합니다. 그런 다음 목록에 추가됩니다. 예 : 분명히 0, ., 1, 0, 0, ., 1, 5, 0, ., 2, 0, 0, ., 2, 5, 0, ., 3, 0, 0, ., 3, 5 , 내가 원하지 무엇을 : 나는 그것과 같이 표시되는 목록을 인쇄 할 때 사용자는 값 0.10, 0.15, 0

-5열

1답변

수동으로 소프트 플로트 추가하기

2 개의 부동 소수점 숫자를 사용하고 int, 포인터 및 malloc()을 사용하여 출력으로 합계를 생성하는 프로그램을 C로 작성해야합니다. 다른 데이터 유형은 없습니다. (단 정밀도) 저는 힘이 없습니다.

0열

2답변

python 비교 연산자가 작동하지 않는 경우, float (1)> float (1)이 True로 평가되면 무엇이 누락 되었습니까?

그것은 정확히 가까운 1> 1 만입니다 : 내가 두 타임 스탬프를 비교하고 if time > timestamp이 True로 평가 무언가를하고 싶다. PDB에서 볼 수 있듯이 두 변수는, 그들에 같은 float이 (Pdb) print time 1396836917.98 (Pdb) print last_timestamp 1396836917.98 (Pdb)

-2열

1답변

C는 반올림 (오류?) 떠 ++

가 왜 곱셈을 사용하면 b는 104.99999하지만 105.0 이유 float a= 1.0500000f; float b= a*100.0f; ? 내가 int f= (int)b; F는 104

0열

2답변

MySQL은 부동 소수점 형 또는 10 진수 값

나는 보험 환경을위한 소프트웨어를 개발하므로 소수 값은 매우 중요합니다. MSSQL에서 MYSQL로 변환 중입니다. 내 질문과 관련된 쿼리 : SELECT CAST( CAST( (initialpremium - totalpremium)/2 * CAST(premiummultiplier AS INT) AS FLOAT) FRO

-1열

1답변

단 정밀도 부동 소수점 숫자의 용도/용도는 무엇입니까?

단 정밀도 부동 소수점에 대한 프로젝트를 수행하고 있습니다. 나는이 개념들이 사용 된 분야 나 분야가 궁금했다. 미리 감사드립니다.

0열

3답변

값 소자 장착 동일한

아닌 I가 수행 T = inv([1.0 0.956 0.621; 1.0 -0.272 -0.647; 1.0 -1.106 1.703]); 얻었다 : T = 0.2989 0.5870 0.1140 0.5959 -0.2744 -0.3216 0.2115 -0.5229 0.3114 제가 수득 T(1,1)==0.2989 한다면 ans = 0 은

-2열

2답변

부동 소수점 뒤에 숫자를 제거하는 방법은 무엇입니까?

부동 소수점이없는 실수 만 반환하는 함수가 있습니까? 예를 들어, func(1.xxx)->1 func(52.xx)->52 func(0.xx)->0 어떤 기능 때문에 거기 않는가요?