floating-point-precision

-1열

1답변

C++ Builder 및 Double Precision

0.5,0.6 ... 179.9,180.0으로 시작하는 이중 숫자를 추가하려고합니다. 이렇게하려면 다음 코드를 사용합니다. 어떻게 수가 두 정밀도를 최소화 할 수 있습니다 : 나는이 프로그램을 실행하면 void __fastcall TForm1::FormCreate(TObject *Sender) { for (double i = 1; i <= 180

c++ floating-point double precision floating-point-precision 2014-07-06

---

0열

2답변

유사점을 테스트해도 예상되는 부울 수가 검색되지 않습니까?

십진수의 두 세트 (this link에있는 pt1 및 pt2의 x 및 y 좌표) 사이의 유사성을 테스트합니다. 부울 값 (15,682)의 예상 개수를 얻지 못합니다. decimal to binary conversion 문제 일 수 있습니까? 임계 값을 변경해도 많은 도움이되는 것은 아닙니다. 어떤 도움이라도 대단히 감사하겠습니다! X는 (소수점의 고정 소수

vb.net floating-point similarity floating-point-precision grasshopper 2014-07-07

---

0열

1답변

일정 일정 시간

다음 예는 부동 소수 점수의 사용에 관하여 함정 하이라이트 부동 소수점 값이다 failed to schedule at 1.3 I가 년후 : available_again = 0 for i in range(0,15): time = 0.1*i if time < available_again: print("failed to sch

python floating-point scheduling floating-accuracy floating-point-precision 2014-08-28

---

0열

1답변

프로그래밍 방식으로 문자열 형식의 부동 소수점의 소수 자릿수를 지정하십시오.

문자열 형식의 부동 소수점의 소수 자릿수를 프로그래밍 방식으로 지정하려면 어떻게합니까? 특히, 나는 다음과 같은 동작 구현하고 싶습니다 : 이전 % -formatting 스타일로 >>> print displayNumber(number=math.pi, precision=3) 3.142

python formatting floating-point-precision 2014-09-01

---

2열

3답변

Perl : 어떤 부동 소수점 연산이 무손실입니까?

부동 소수점 숫자의 특성과 일부 부동 소수점 연산에서 정밀도가 반드시 손실되어야하는 이유를 설명하는 멋진 문서가 있습니다. 예 : http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html 기본 숫자의 정밀도 측면에서 어떤 부동 소수점 연산이 무손실인지 이해하는 데 관심이 있습니다. 예를 들어, $x =

perl floating-point-precision 2014-07-14

---

2열

2답변

소수점 이하 자릿수는 어떻게 계산합니까?

float32에 소수점 이하 두 자리가 있는지 확인하고 싶습니다. 내 자바 스크립트 방법은 다음과 같습니다. step := 0.01 value := 9.99 if int(value/step) % 1 == 0 { printf("has two decimal places!") } 위의 예제도 작동합니다. 그러나 단계가 올바르지 않으면 floa

casting go floating-point-precision 2014-07-20

---

4열

1답변

SQL Server에서 부동 소수점 필드에서 .00과 .99 사이의 모든 소수 자릿수가 정확하게 표시되는 이유는 무엇입니까?

[x.00, x.99]의 십진수의 경우 x이 임의의 정수인 경우 (여기에서 컨텍스트의 일부로 추측 할 수 있음) 일반적으로 부동 소수점 데이터 유형은 상당히 부정확하고 때로는 위험한 것으로 간주됩니다. 대신 10 진수 데이터 유형이있는 언어에서는 소수가 선호되는 경우가 많습니다. SQL은 그러한 언어 중 하나입니다. 1.1 2.2 2.2 되어서는 안

sql sql-server sql-server-2012 floating-point-precision 2014-09-08

---

0열

1답변

재귀 사이클에서 왜이 값이 변경됩니까?

교수님은 씨앗과 함수를 가져 와서 재귀 적으로 값을 출력하고 입력하는 프로그램이 있습니다. 기본적인 생각은 f (x)가 있고 x_0부터 시작하므로 f (x_0) = x_1이됩니다. 그러면 x_2 = f (x_1)와 같이 x_2 = f (x_ {n-1})가됩니다. 어쨌든, 당신은 때때로 이런 사이클을 얻을 수 있습니다. 예를 들어, 프로그램에서 F (X) =

recursion floating-point binary floating-point-precision approximation 2014-09-14

---

1열

2답변

QR Decomp : 0으로 '0'값을 반올림하는 것이 더 낫습니까?

여기에서 주제를 찾을 수 없습니다. 나는 틀린 기간을 찾고 있을지도 모르다. 제 질문은 다음과 같습니다 : "선형 방정식 Xb = y를 풀기 위해 Householder reflections를 사용하여 mxn 행렬 X의 QR 분해를 수행한다고 가정합니다. 각 반복에서 R = Qi * Qi-1 * ... Q1 * X, 위 삼각형 행렬을 향하여 진행. 유한 정밀

matrix numerical-methods zero floating-point-precision 2014-09-15

---

2열

2답변

Java 프로그램을 사용하여 숫자 n까지 정수의 역수를 더한다

나는 그것을 시도했지만 대답을 실행할 때마다 1.0을 얻는다. 나는 잘못을 알아 내지 못해서 나를 도와주세요. 여기 코드는 다음과 같습니다가 충분하지 않습니다 부동 소수점 값을 갖는 상호을 생산하기 위해 import java.util.Scanner; public class Number23 { public static void main(String[]

java for-loop floating-point-precision 2014-09-21

---