floating-point

0열

2답변

노드 j가 내부적으로 숫자를 저장하는 방법을 볼 수 있습니까?

나는 노드에서 부동 소수점을 이해하는 것을 향상시키고있다. 내 이해는 입니다. 자바 스크립트에있는 숫자는 64 비트 부동 소수점으로 저장됩니다 (이 코드는 다소 정신 나간이며 아주 멋집니다). 나는 이것들을 조금씩 가지고 놀고 싶습니다. 내부적으로 임의의 번호가 저장되는 방법을 인쇄하는 쉬운 방법이 있습니까? 뭔가 (5) .toFloatRepresentat

javascript node.js floating-point 2017-04-08

---

0열

1답변

python float를 (float32)의 정밀도로 사용할 수 있습니까?

python float를 (float32)의 정밀도로 사용할 수 있습니까? 원시적 인 python.float (32)로부터 직렬화되어 원시적 java.float로 직렬화 복원되기 때문에. 모든 라이브러리는 고려되지 않습니다. 예) numpy.float32

serialization tensorflow floating-point precision msgpack 2017-04-11

---

4열

2답변

실수로 멀티플렉싱 할 때 언더 플로가 발생하지 않도록하려면 어떻게해야합니까? <code>underflow</code> 옵션이 아니라고

내가 알고있는 증식하는 적절한 방법 또는 내가 gfortran -ffpe-trap=invalid,zero,overflow,underflow ... 처럼 내 포트란 코드를 컴파일 할 때 언더 플로우 에러를하지 않고 함께 광장 플로트 (또는 더블) 번호가 있는지 알고 싶습니다 항상 좋은 생각이지만이 옵션으로 곱셈을 할 수 있는지 궁금합니다. 사실, 다음 예

floating-point fortran underflow 2017-04-11

---

0열

1답변

OpenGL ES/Angle : 단일 채널 플로트 텍스처로 렌더링

대형 매트릭스/이미지에서 간단한 작업을 수행하기 위해 셰이더를 사용하려고합니다. 프레임 버퍼 객체의 단일 채널 부동 텍스처로 렌더링하여 정규 OpenGL로 실행되는 코드를 작성했습니다. 이는 잘 작동합니다. 이제는 다른 플랫폼 (UWP + Angle, Android, ...)에서 실행해야하므로 코드를 OpenGL ES 2.0으로 이식하려고합니다. 일반 RG

floating-point shader opengl-es-2.0 render-to-texture 2017-04-14

---

1열

1답변

십진수를 IEEE-754 형식으로 변환합니다.

30.125를 10 비트 부동 소수점 숫자로 변환하려고합니다. 1 부호 비트, 15 바이어스 및 5 Mantisa 비트를 갖는 5 지수 비트. 올바른 IEEE-754 형식의 아래 솔루션을 생각해 냈습니다. S E Mantissa 0 10011 1110 (30) 그들이 (30)를 어떻게셨어요 수 있었다 값이 위에 떠있는 번호와 정답에 의해 표현되는 어

floating-point 2017-04-15

---

-2열

2답변

내 Java 코드에서 이중 산술 연산을 찾으십시오.

많은 Java 프로젝트가 있으며 전체 코드에서 이중 산술 연산 (+, -, *, /)을 찾고 싶습니다. 예를 들어 아래 코드에서 a + b 행을 찾고 싶습니다. 코드가 모든 결과를 반환하면 수동으로 일부 API로 변경합니다. 어느 누구도 그러한 용도를 모두 반환하는 프로그램을 작성하는 방법에 대해 알고 있습니까? 아래의 결과를 찾는 코드는 반드시 java로

java floating-point double 2017-04-19

---

1열

1답변

파일에서 여러 개의 플로트 배열을 직렬화하는 가장 좋은 방법

최소 크기의 여러 언어 (파이썬/자바/c/cpp)를 교차하는 여러 개의 부동 소수점 배열을 직렬화하려고합니다. 플로트 배열 헤더와 각 플로트에 4 바이트가 필요할 것으로 예상했습니다. 그러나 msgpack은 5 바이트가 필요합니다. https://github.com/msgpack/msgpack/issues/198#issue-87308597 플로트 배열을 직

arrays serialization floating-point protocol-buffers msgpack 2017-04-20

---

2열

2답변

Oracle과 Java (IEEE 754)의 double 값 차이

Oracle의 BINARY_DOUBLE과 Java의 Double은 IEEE 754 표준을 사용합니다. 그러나 정확도에는 차이가 있습니다. 예컨대 값 : 456.67d 오라클 : declare a BINARY_DOUBLE := 456.67d; begin SYS.DBMS_OUTPUT.PUT_Line(TO_CHAR(a,'9.9999999999

java oracle floating-point floating-accuracy ieee-754 2017-04-21

---

-1열

4답변

정수 매개 변수의 나누기 부동 소수점 값 반환

두 개의 정수 매개 변수가 있습니다.이 매개 변수를 나누고 그 결과를 부동 변수에 저장합니다. img.width=2620 refsize.width=1499 KX를 변수로 수학 정상 ~1.747831887925284 반환해야하는 문제의 예를 촬영 float kx=(float)(img.Width/refsize.Width); . 왜 이런 일이 하지만 정수

c# .net floating-point type-conversion 2017-04-21

---

-1열

3답변

float.h 매크로를 사용하여 부동 소수점 정밀도 향상 방법

이 answer에서 알 수 있듯이 매크로를 통해 float.h을 사용하여 정밀도를 확장하는 방법이 있습니다. 내 목표는 double 값의 부동 소수점 정밀도를 향상 시켜서 0.000000 대신에보다 정확한 수 (예 : 0.000000000566666)를 저장할 수있게하는 것입니다. 친절하게, 누군가가 버퍼에 저장된 정밀도를 확장 할 수 있도록이 매크로를 사

c macros floating-point precision 2017-04-22

---