floating-point

1열

2답변

Swift에서 16 진수를 부호있는 부동 소수점으로 변환하는 방법은 무엇입니까? 양수와 잘 작동하지만 부정적인

let hexString = "0x42f9b6c9" let toInt = Int32(truncatingBitPattern: strtoul(self, nil, 16)) let toFloat = Float(bitPattern: UInt32(self)) 결과에서 작동하지 않습니다 : 값이 음수이기 때문에 124.857 let hexString = "0xc

swift floating-point hex int32 2017-03-15

---

2열

1답변

물리학 및 표준 :: numeric_limits <double> :: 엡실론() ... 언제 그리고 왜 우리가 그것을 필요합니까?

나는 사용자가 중력 가속도를 변경할 수있는 아주 간단한 물리 시뮬레이션 프로그램에 대한 코드를 작성하고 있었고 최소 중력 값을 (0과 음의 중력을 방지하기 위해) 약간의 값으로 제한하려고했습니다. 는이 같은 뭔가 결국 : g_accel은 프로그램의 시작 부분에서 1.0로 설정되어 if(g_accel > 0.1) { g_accel -= 0.1; }

c++ floating-point 2017-03-15

---

2열

3답변

C float : 2 차원 기하학 (선)에 대해 주위를 둘러 보는 방법

현재 C에서 2D 기하학을 주로 수행하고 있습니다. 대부분 2D 선을 교차합니다. 그 줄에는 온갖 종류의 경사가 있습니다 : 0.001에서 1000까지 (예, 나는 모른다). 저는 지금까지 수레를 사용하고 있었고 그 값이 매우 작 았는지 (그리고 부동 소수점은 반올림없이 1e-3으로 0,0011을 저장하겠습니까?) 또는 매우 높은지에 대해 걱정할 필요가 없

c floating-point integer precision computational-geometry 2017-03-16

---

3열

1답변

Java에서 longs 나누기 분수 가져 오기

두 개의 long 값의 지수 부분 (모듈로 1)을 가져 오려고합니다. long dividend = 50L; long divisor = 3L; float n1 = (dividend % divisor)/(float) divisor; float n2 = (dividend/(float) divisor) % 1; System.out.println(n1);

java floating-point modulo 2017-03-19

---

-1열

3답변

파이썬 - 가장 가까운 정수로 반올림

나는 이것을 알아 내려고 노력해 왔지만 운이 없었습니다. 각 계수를 가장 가까운 정수로 반올림해야합니다. 이렇게하려면 작은 숫자 dq = 0.0001을 사용합니다. a [0] = 0.5이면 round (a [0]) = 0.0; 이것은 분명히 좋지 않습니다. 그러나이 문제를 해결하려면 dq : round (a [0] + dq) = round (0.5001)

python floating-point integer 2017-03-19

---

0열

1답변

문제

가 10^3로 구성된 2 차원 그래프를 그릴 필요가 (실질적으로 5*10^6까지 도달 할 수) 포인트 샘플 포인트 : 이 x, and f(x) 따라서, 플롯에 매우 비 편안 범위에 알 수 있듯이 x y = f(x) ----------------------------------------- 0.0000000000000e+000 9.94531463

c++ graph floating-point precision floating-accuracy 2017-03-21

---

4열

1답변

Delphi에서 Single by Variant를 나눌 수있는 이유는 무엇입니까?

나는 Delphi에서 Variant로 부동 소수점 값을 나눌 수 있다는 것에 놀랐다. 무엇을 할 수 있는지의 간단한 예 : 델파이는 div/mod 작업을 수행하기 전에 왼쪽 부분과 오른쪽 부분을 반올림처럼 var v: Variant; begin v := 2.3; Tag := 5.1 div v; // 2 Tag := 5.

delphi floating-point variant 2017-03-22

---

1열

1답변

파이썬에서 이진수의 부동 표현 (16 진수가 아닌 비트)

문자열의 32 비트 부동 소수점 표현을 얻는 방법 IEEE 754? - 예 '00111111100000000000000000000000'> 1.00 이 질문의 반대입니다 : Binary representation of float in Python (bits not hex) 나는 다른 곳에서 답을 찾을 수 없습니다. 코딩에 익숙하지 않으므로 부드럽게 작성하십

python binary floating-point 2017-03-22

---

0열

1답변

훈련 데이터의 소수점 이하 자릿수 줄이기

나는 Tensorflow가 뒷받침하는 Keras를 사용하여 모델을 훈련시키고 훈련 데이터의 소수점 이하 자릿수에 대한 질문이 있습니다. 출력에 영향을 미치는 교육 데이터의 소수점 이하 자릿수를 줄입니까? 내 원래 데이터는 15 자릿수이며 8 자릿수로 잘 표현되기 때문에 8 자까지 자르고 싶습니다. 이것에 대한 당신의 경험은 무엇입니까? +----------

floating-point tensorflow neural-network deep-learning keras 2017-03-22

---

1열

1답변

PHP에서 플로트 크기 받기

PHP5에서 부동 소수점 숫자가 차지하는 메모리 양을 확인하고 싶습니다. 나는 memory_get_usage()을 매우 신뢰하지 못한다고 읽었습니다. 나는 이것을 사용해 부동 소수점의 크기를 결정했으며, 새로운 부동 소수점 숫자를 만들 때마다 메모리 사용이 168 바이트 씩 증가합니다. 나는 이것이 너무 크다고 생각하여 나의 질문은 - 얼마나 믿을만한가?

php memory floating-point 2017-03-22

---